Bot AI namówił 46% osób, żywy oszust 18%. Filtry bezpieczeństwa nie wychwyciły ani jednej z tych rozmów

Oszustwa „na uczucia" opierały się dotąd na jednym ograniczeniu: ktoś musiał tygodniami pisać do ofiary. To kosztuje czas, a czas ogranicza skalę. Zespół z czterech uczelni sprawdził, co się stanie, gdy tę część odda się AI. Bot wypadł ponad dwa razy skuteczniej od człowieka, a zabezpieczenia modelu nie zauważyły niczego.

Zanim przejdziemy do liczb - dwie rzeczy o samym źródle, bo bez nich łatwo je źle zrozumieć. Pierwsza: to praca naukowa „Love, Lies, and Language Models", leżąca na arXiv (otwartym archiwum prac naukowych) od 18 grudnia 2025. Nie jest to więc „nowe badanie z tego tygodnia" - nowa jest dopiero relacja z niej, która przeszła przez media 16 sierpnia. Druga: autorzy świadomie nie używają popularnego określenia „pig butchering", tylko „romance-baiting", bo pierwsze odczłowiecza ofiary. Trzymam się ich nazwy.

Uczestnicy eksperymentu pisali przez tydzień z dwiema osobami, których nie znali. Jedną był prawdziwy oszust. Drugą - bot AI z instrukcją, żeby udawać człowieka i nigdy się nie przyznać. Na koniec obaj prosili o to samo: żeby zainstalować aplikację. To ten moment, w którym w prawdziwym oszustwie ofiara wpłaca pierwsze pieniądze na podstawioną „platformę inwestycyjną".

Tu jest sedno całej pracy i to nie 46%. Modele AI mają wbudowane zabezpieczenia, które mają odmawiać udziału w oszustwie. W tym badaniu wychwyciły 0,0% rozmów prowadzonych w celu wyłudzenia. Zero. Powód jest prosty i dlatego niepokojący: pojedyncza wiadomość w takiej rozmowie nie wygląda na nic złego. „Jak minął dzień?", „też lubię górskie wędrówki", „mam znajomego, który się na tym zna". Oszustwem jest dopiero cała sekwencja rozłożona na tygodnie, a filtr patrzy na jedną wiadomość.

Autorzy policzyli też, ile z tej roboty da się w ogóle zautomatyzować - na podstawie wywiadów z 145 osobami z wnętrza tej branży i 5 ofiarami. Wyszło 87% pracy jako powtarzalne, uporządkowane rozmowy, czyli dokładnie to, w czym model językowy jest dobry. To jest ta liczba, która mówi o skali: jeśli dziewięć dziesiątych roboty przestaje wymagać człowieka, to jeden człowiek obsłuży wielokrotnie więcej kontaktów niż dotąd.

• Część eksperymentalna objęła 22 osoby. Przy takiej próbie różnica 46% do 18% nie jest precyzyjnym pomiarem - jest sygnałem, że kierunek jest wyraźny. Gdyby ktoś Ci podał samo „46%" jako pewnik, podaje za dużo.
• To nie znaczy, że każda rozmowa z nieznajomym w sieci jest botem. Znaczy, że koszt prowadzenia takiej rozmowy spadł, więc będzie ich więcej - i że dawne sygnały ostrzegawcze („łamana polszczyzna", „odpisuje po dwóch dniach") przestają działać.
• Praca opisuje oszustwa na osoby prywatne, nie ataki na firmy. Ale mechanizm jest ten sam i to on jest tu przenośny: długa, cierpliwa rozmowa budująca zaufanie, w której nic pojedynczego nie wygląda podejrzanie.

1. 1

   Przestań uczyć zespół rozpoznawania po języku

   Klasyczne szkolenie mówi „uważaj na błędy językowe i dziwne sformułowania". To już nie działa - model pisze poprawnie w każdym języku i nie męczy się po godzinie. Zamiast tego jedna zasada: liczy się, o CO ktoś prosi, nie jak jest napisane. Prośba o instalację czegokolwiek, o dane dostępu albo o przelew jest sygnałem niezależnie od tego, jak miła była rozmowa przed nią.

2. 2

   Ustal drugi kanał na potwierdzanie pieniędzy i dostępów

   Najprostsze zabezpieczenie w małej firmie i najczęściej pomijane: żadna zmiana numeru konta, żaden przelew poza rutyną i żadne nadanie dostępu nie dzieje się na podstawie samej rozmowy tekstowej. Zawsze potwierdzenie innym kanałem - telefon na znany wcześniej numer, nie na ten podany w wiadomości. To odcina cały ten mechanizm, bo oszustwo żyje wewnątrz jednej rozmowy.

3. 3

   Powiedz zespołowi wprost, że filtry nie chronią

   Najgroźniejsze w tym badaniu jest fałszywe poczucie bezpieczeństwa. Jeśli ktoś u Ciebie zakłada, że „OpenAI albo Anthropic by to zablokowali", to ma jedną warstwę ochrony mniej, niż myśli. Wynik 0,0% wystarczy podać raz na zebraniu i zostaje w głowach.