Operacje oszustów: sieci wyłudzeń internetowych

To studium przypadku opublikowano pierwotnie w raporcie OpenAI z października 2025 r.⁠(otwiera nowe okno).

Sieci pochodzące prawdopodobnie z Kambodży, Mjanmy i Nigerii wykorzystywały ChatGPT w działaniach, które wyglądały na próby oszustw internetowych.

Koncentrujemy się na wykrywaniu, zapobieganiu i przeciwdziałaniu próbom wykorzystywania naszych modeli do szkodliwych celów. Jedną z takich form nadużyć są oszustwa. Wykrywamy i blokujemy sprawców, którzy próbują używać naszych modeli do wprowadzania ludzi w błąd i wyłudzania od nich pieniędzy. W ciągu ostatnich trzech miesięcy zakłóciliśmy działalność sieci oszustów pochodzących prawdopodobnie z Kambodży, Mjanmy i Nigerii. O roli AI w zwalczaniu oszustw świadczy również to, że podczas badania tych schematów nadużyć zauważyliśmy wiele osób korzystających z naszych modeli, aby rozpoznawać próby oszustwa. W raporcie omawiamy oba te zastosowania.

Nadużywanie naszych modeli do wspierania oszustw obejmuje zarówno działania pojedynczych sprawców, jak i prowadzone na dużą skalę, długotrwałe operacje, prawdopodobnie powiązane z grupami przestępczości zorganizowanej. Niezależnie od pochodzenia i konkretnych metod sprawców zakłócone przez nas działania związane z oszustwami zwykle przebiegają według wspólnego schematu: zaczepka (niespodziewany kontakt), wzbudzenie emocji (entuzjazmu lub paniki), a następnie wyłudzenie (pieniędzy lub cennych informacji).

Oszuści zaczynają od rozpowszechniania treści — wygenerowanych przez AI lub nie — w komunikatorach i internecie, między innymi za pomocą reklam w mediach społecznościowych. Następnie próbują wzbudzić w osobach, które odpowiedzą, entuzjazm wobec lukratywnej okazji albo obawę przed nieuchronną stratą finansową. Wykorzystują te emocje, aby skłonić ofiarę do przekazania pieniędzy lub poufnych informacji.

Zaobserwowaliśmy też wiele przypadków, w których nasze modele prawdopodobnie pomogły uchronić ludzi przed oszustwem. Każdego miesiąca miliony razy obserwujemy, jak ludzie korzystają z ChatGPT, aby rozpoznawać i omijać oszustwa internetowe. W przypadku każdej operacji opisanej w tym raporcie model pomagał użytkownikom prawidłowo rozpoznać oszustwo i doradzał im odpowiednie środki ostrożności. Według naszych obecnych szacunków ChatGPT jest wykorzystywany do rozpoznawania oszustw nawet trzy razy częściej niż do ich prowadzenia.

Przykład badacza OpenAI, który wkleił do ChatGPT zrzut ekranu otrzymanej oszukańczej wiadomości SMS i za pomocą modelu prawidłowo rozpoznał próbę oszustwa. W tym przypadku sprawcy podszywali się pod rekruterów TikToka.

Od czasu publikacji poprzedniego raportu zwiększyliśmy nasze możliwości wykrywania i zwalczania oszustw. Zakłóciliśmy działalność kolejnych sieci oszustów, które prawdopodobnie pochodziły z Kambodży, Mjanmy i Nigerii. W połączeniu z wcześniejszymi działaniami te interwencje pozwalają nam wskazać nowe trendy występujące w wielu operacjach oszustów z różnych krajów.

Większość zakłóconych przez nas działań polegała na włączeniu AI do istniejących scenariuszy oszustw, a nie na tworzeniu nowych metod opartych na AI. Wszystkie wykryte i zablokowane przez nas w tym roku operacje oszustów wykorzystywały AI przede wszystkim do zwiększania skali i wydajności działań. Zwykle korzystano z naszych modeli do tłumaczenia, pisania wiadomości i tworzenia treści do mediów społecznościowych.

Niedawno zablokowaliśmy na przykład operacje oszustów pochodzących prawdopodobnie z Kambodży i Nigerii, którzy podszywali się pod „firmy inwestycyjne”, aby oszukiwać ofiary w wielu krajach. Oszuści tworzyli strony internetowe i reklamy promujące fikcyjne firmy, a za pośrednictwem prawdopodobnie fałszywych kont w mediach społecznościowych, prowadzonych rzekomo przez ekspertów inwestycyjnych, zapraszali ludzi do prywatnych grup w komunikatorach. Obiecując wysokie zyski bez żadnego ryzyka, sprawcy próbowali nakłonić potencjalne ofiary do wpłacania pieniędzy na fikcyjne platformy inwestycyjne. We wszystkich tych oszustwach sprawcy używali naszych modeli głównie do tworzenia i tłumaczenia korespondencji, przygotowywania treści na strony internetowe i do mediów społecznościowych oraz prowadzenia podstawowych analiz.

W innym przypadku zablokowaliśmy centrum oszustw zlokalizowane z dużym prawdopodobieństwem w Mjanmie, które używało naszych modeli zarówno do tworzenia treści na potrzeby oszustw, jak i wykonywania codziennych zadań administracyjnych. Obejmowało to układanie harmonogramów, redagowanie ogłoszeń wewnętrznych, przydzielanie biurek i miejsc w pokojach oraz zarządzanie rachunkami finansowymi. Niektórzy operatorzy pytali o kary grożące osobom przyłapanym na dokonywaniu oszustw internetowych.

Nie wszyscy powstrzymani przez nas oszuści korzystali z naszych modeli w ten sam sposób ani z takim samym stopniem zaawansowania. Większość interakcji oszustów z ChatGPT dotyczyła stosunkowo prostych zadań, takich jak tłumaczenie, ale niektóre operacje były bardziej ambitne i złożone.

Przykładowo jedna z zakłóconych przez nas operacji, pochodząca prawdopodobnie z Kambodży, wykorzystywała nasze modele do tworzenia szczegółowych życiorysów fikcyjnych ekspertów inwestycyjnych i pracowników fałszywych firm inwestycyjnych. Następnie oszuści prosili ChatGPT o pisanie wiadomości do mediów społecznościowych w stylu tych postaci. Sprawcy często wprowadzali do naszego modelu wiadomości, które najwyraźniej otrzymali od swoich celów, i prosili go o kontynuowanie rozmowy w roli fikcyjnej postaci.

Druga operacja oszustów, również pochodząca prawdopodobnie z Kambodży, zaczęła od używania naszych modeli do generowania SMS-ów inicjujących kontakt, które masowo wysyłano na numery telefonów w USA. Jedną z tych wiadomości otrzymał badacz OpenAI, podobnie jak w przypadku opisanym przez nas w czerwcu. SMS-y zawierały zaproszenia do grup na WhatsAppie, które później zablokowano. Ich nazwy przypominały nazwę legalnie działającej firmy inwestycyjnej.

Z serii wiadomości przesłanych badaczowi OpenAI przez WhatsApp wynika, że po dołączeniu do takiej grupy potencjalna ofiara szybko zobaczyłaby „rozmowę” między sześcioma różnymi kontami, dotyczącą wyłącznie inwestowania. Jedno konto podszywało się pod „eksperta inwestycyjnego”, a pozostałe pod inwestorów o różnym poziomie pewności siebie i doświadczenia. Całą rozmowę stworzyli oszuści, tłumacząc ją w jednym bloku z języka chińskiego — prawdopodobnie po to, aby sprawić wrażenie prężnej grupy aktywnych i odnoszących sukcesy inwestorów. Ostatecznie „ekspert inwestycyjny” proponował potencjalnej ofierze, aby również spróbowała inwestowania.

Inna operacja związana z oszustwami inwestycyjnymi, pochodząca niemal na pewno z Nigerii, prosiła model o szczegółowe instrukcje dotyczące wykorzystywania reklam w mediach społecznościowych do docierania do zamożnych mieszkańców Ameryki Łacińskiej, ukrywania swojej lokalizacji oraz omijania ograniczeń nakładanych przez platformy społecznościowe. W tym celu operatorzy kierowali model do publicznie dostępnego regulaminu platformy i prosili o sprawdzenie, czy proponowane treści reklamowe są z nim zgodne.

Oszuści, zwłaszcza duże centra oszustw, działają bardzo wytrwale. Bardzo często reagują na interwencję próbą wznowienia niedozwolonych działań, przy czym zmieniają niektóre elementy swojego postępowania — prawdopodobnie po to, aby uniknąć ponownego wykrycia. To jeden z powodów, dla których ważna jest branżowa wymiana informacji o zmieniających się działaniach sprawców. Przykładem jest udostępnianie przez OpenAI i Meta informacji o sprawcach zagrożeń, które pomogły w dalszych dochodzeniach i egzekwowaniu zasad.

Być może w reakcji na nasze interwencje lub szersze dyskusje internetowe o sygnałach zdradzających użycie AI oszuści próbowali ukrywać stosowanie tej technologii w treściach publikowanych w internecie i korespondencji z potencjalnymi ofiarami. Przykładowo operatorzy oszustw pochodzący prawdopodobnie z Kambodży polecali modelowi usuwać z odpowiedzi pauzy.

W jednym przypadku oszuści próbowali wyjaśnić masowe zablokowanie swoich zasobów w mediach społecznościowych, wymyślając usprawiedliwienie nałożonych blokad. Dotyczyło to opisanego wyżej centrum oszustw, które prawdopodobnie pochodziło z Kambodży i działało za pośrednictwem SMS-ów oraz WhatsAppa. Po zablokowaniu przez WhatsApp „grup inwestycyjnych” powiązanych z tą operacją jej operatorzy zaczęli tworzyć wiadomości twierdzące, że grupy zostały niesłusznie zgłoszone przez konkurenta. Prawdopodobnie chcieli w ten sposób wytłumaczyć blokady.

Zrzut ekranu wiadomości wysłanej przez WhatsApp badaczowi OpenAI przez operację oszustów powiązaną z Kambodżą po interwencji WhatsAppa.