Operacja „Zły numer”: oszustwo zadaniowe wspomagane przez AI

To studium przypadku opublikowano pierwotnie w raporcie OpenAI z czerwca 2025 r.⁠(otwiera nowe okno)

Zablokowaliśmy konta ChatGPT, które generowały krótkie wiadomości rekrutacyjne w językach angielskim, hiszpańskim, suahili, kinyarwanda, niemieckim i kreolskim haitańskim. Wiadomości oferowały odbiorcom wysokie wynagrodzenie za banalne zadania, takie jak polubienie postów w mediach społecznościowych, i zachęcały ich do rekrutowania kolejnych osób. Operacja wydawała się silnie scentralizowana i prawdopodobnie pochodziła z Kambodży.

Dzięki narzędziom tłumaczeniowym opartym na AI mogliśmy szybko zbadać i zakłócić wykorzystywanie usług OpenAI w tej kampanii.

Większość aktywności tej sieci dotyczyła zadań tłumaczeniowych. Sieć wykorzystywała ChatGPT do tłumaczenia zdań z rozmów między językiem chińskim a kilkoma innymi językami, przede wszystkim angielskim, hiszpańskim, kinyarwanda, suahili, niemieckim i kreolskim haitańskim. Zadania te polegały zwykle na naprzemiennym tłumaczeniu otrzymanej wiadomości na język chiński i odpowiedzi z chińskiego na język oryginału.

Część tych wiadomości przypominała oferty pracy wysyłane do osób, z którymi wcześniej nie nawiązano kontaktu, i proponowała wysoką stawkę godzinową za minimalny wysiłek. Jedną z takich wiadomości rozesłano SMS-em do pozornie losowego zbioru brytyjskich numerów komórkowych. Jeden z nich należał do pracownika OpenAI prowadzącego dochodzenie. Nazwaliśmy tę operację „Zły numer” na cześć pierwszego SMS-a.

Sprawcy zagrożenia korzystali najwyraźniej z wielu platform komunikacyjnych. Pierwszy SMS kierował odbiorców na WhatsApp, skąd osoby, które odpowiedziały, odsyłano do „mentora” na Telegramie. W części aktywności pojawiały się też odniesienia do komunikatora BonChat. Nie wydaje się, aby pierwsze wiadomości wprowadzające przesyłane tymi kanałami były generowane za pomocą naszych modeli. Były to standardowe wiadomości, które prawdopodobnie pasowały do każdej rozmowy.

Wiele zadań tłumaczeniowych dotyczyło wiadomości rzekomo pochodzących od przedstawicieli firm przedstawianych jako „pracodawcy”. Te same nazwy firm wielokrotnie pojawiały się w licznych rozmowach w ChatGPT objętych tym dochodzeniem. Były wśród nich Hyesung Advertising⁠(otwiera nowe okno) oraz Lightning Shared Scooter Co (LSSC)⁠(otwiera nowe okno). Według publicznie dostępnych doniesień Hyesung i LSSC miały prowadzić oszustwa zadaniowe. Choć nie zweryfikowaliśmy niezależnie charakteru tych podmiotów, nasze dochodzenie wykazało, że wiadomości rzekomo od nich pochodzące generowali chińskojęzyczni użytkownicy ChatGPT, prawdopodobnie działający z Kambodży.

Firmy, za których przedstawicieli podawała się ta sieć, działały rzekomo w wielu branżach — od handlu akcjami, przez wynajem hulajnóg, po sprzedaż polubień w mediach społecznościowych. Wyraźnym sygnałem ostrzegawczym była oferta zapłaty ponad 5 USD za jedno polubienie na TikToku. Dla porównania: podczas ręcznego przeglądu internetowych platform handlowych ustaliliśmy, że niektórzy sprzedawcy polubień pobierają mniej niż 10 USD za 1000 polubień.

Łącząc sygnały spoza naszych platform z obserwacjami wewnętrznymi, zidentyfikowaliśmy powtarzający się schemat działania. Aby ułatwić zrozumienie tej taktyki i jej klasyfikację, opisujemy ten schemat jako: zaczepkę (pierwszy kontakt), zachętę (wzbudzenie entuzjazmu) i pułapkę (wyłudzenie pieniędzy):

1. Zaczepka (pierwszy kontakt): sieć tworzy treści przeznaczone do nawiązywania kontaktu z przypadkowymi osobami. Zwykle oferuje wyjątkowo wysokie wynagrodzenie za minimalny wysiłek albo obiecuje wysokie zyski z inwestycji giełdowych. Oferty te obejmują wysokie wynagrodzenie za proste zadania, takie jak polubienie postów w mediach społecznościowych, lub atrakcyjne możliwości inwestycyjne.

2. Zachęta (wzbudzenie entuzjazmu): sieć tłumaczy rozmowy, prawdopodobnie między operatorem a jego „pracownikami”. Wymiany te zawierają szczegóły organizacyjne dotyczące zadań, ale często przeplatają je motywujące wiadomości o zarobkach i możliwych premiach.

3. Pułapka (wyłudzenie pieniędzy): sieć generuje lub wysyła treści nakłaniające „pracownika” bądź „inwestora” do wpłacenia pieniędzy w celu odblokowania większych nagród. Przybiera to różne formy, w tym początkowej „kaucji”, zakupu kryptowalut i „opłat manipulacyjnych”.

Publicznie dostępne doniesienia⁠(otwiera nowe okno) wskazują, że część tych firm pobierała od nowych rekrutów wysokie opłaty za dołączenie, a następnie przeznaczała część tych środków na wypłaty dla dotychczasowych „pracowników” — na tyle wysokie, by podtrzymać ich zaangażowanie. Taka struktura jest typowa dla oszustw zadaniowych⁠(otwiera nowe okno).

Ze względu na ograniczony wgląd trudno oszacować rzeczywisty zasięg tej sieci. Jednak doniesienia spoza naszych platform⁠(otwiera nowe okno) oraz rozmowy, w których „pracownicy” żądali zwrotu pieniędzy, wskazują, że przynajmniej niektóre osoby zapłaciły tym rzekomym pracodawcom. Zaobserwowaliśmy też autentycznych użytkowników broniących tych firm w mediach społecznościowych, co sugeruje pewien poziom rzeczywistego zaangażowania.