Operacja „Fałszywy świadek”: fikcyjna usługa odzyskiwania pieniędzy i podszywanie się pod organy ścigania
OpenAI zablokowało konta najprawdopodobniej pochodzące z Kambodży, które wykorzystywały AI do podszywania się pod firmy odzyskujące pieniądze, kancelarie prawne i organy ścigania, biorąc na cel ofiary oszustw.
To studium przypadku pierwotnie opublikowano w raporcie OpenAI z lutego 2026 r.(otwiera nowe okno) dotyczącym przeciwdziałania złośliwemu wykorzystaniu AI.
Sprawcy
Zablokowaliśmy grupę kont ChatGPT, które wykorzystywały nasze modele do udawania fikcyjnych kancelarii prawnych oraz podszywania się pod prawdziwych prawników i amerykańskie organy ścigania. Konta te służyły oszustwu wymierzonemu w ofiary innych oszustw, którym obiecywano odzyskanie utraconych pieniędzy. Działalność ta najprawdopodobniej była prowadzona z Kambodży i wpisuje się w niedawne publiczne doniesienia o działających w tym kraju grupach przestępczych kierowanych przez Chińczyków i zajmujących się oszustwami.
Sposób działania
Konta wykorzystywały ChatGPT do wspierania oszustwa polegającego na rzekomym odzyskiwaniu pieniędzy utraconych w wyniku oszustw. Proceder opierał się na fikcyjnych kancelariach prawnych i podszywaniu się pod zaufane osoby i instytucje, takie jak prawdziwi prawnicy i centrum przyjmowania zgłoszeń o przestępstwach internetowych FBI (IC3).
1. Nawiązanie kontaktu: Oszuści wykorzystywali ChatGPT do tworzenia treści rzekomo pochodzących od co najmniej sześciu fikcyjnych kancelarii prawnych. Część tych treści publikowano następnie na kontach w mediach społecznościowych i w reklamach internetowych promujących fikcyjne usługi odzyskiwania pieniędzy utraconych w wyniku oszustw. Wiele informacji z ogólnodostępnych źródeł wskazywało na fikcyjny charakter tych kancelarii: brak dowodów na uprawnienia nadane przez stanowe samorządy adwokackie, niepasujące domeny internetowe, dane kontaktowe zawierające pozornie nieistniejące adresy oraz wskazówki, by kontaktować się z prawnikami przez komunikatory.
Oszuści wykorzystywali nasze modele do generowania treści w mediach społecznościowych promujących fikcyjne usługi odzyskiwania pieniędzy utraconych w wyniku oszustw.
2. Zdobycie zaufania: Oszuści próbowali zdobyć zaufanie swoich ofiar, generując komentarze naśladujące ton i profesjonalizm prawników specjalizujących się w pomocy ofiarom oszustw w odzyskiwaniu utraconych pieniędzy. Generowali treści rzekomo pochodzące od osób przedstawianych jako prawnicy. Zidentyfikowaliśmy część tych postaci na różnych stronach internetowych, gdzie ich zdjęcia profilowe najwyraźniej pochodziły z mediów społecznościowych lub zostały wygenerowane przez AI. W niektórych przypadkach oszust wykorzystywał te same tożsamości „prawników” w wielu rzekomych kancelariach prawnych. Jedna ze zidentyfikowanych przez nas stron podszywała się pod IC3.
Dane kontaktowe publikowane na tych oszukańczych stronach kierowały odwiedzających do prywatnych rozmów w komunikatorach, takich jak Telegram. W wiadomościach do potencjalnych ofiar, tworzonych za pomocą ChatGPT, oszuści fałszywie twierdzili, że działają pod nadzorem Międzynarodowego Trybunału Karnego i nie pobiorą żadnych opłat, dopóki nie odzyskają wszystkich utraconych pieniędzy.
3. Wyłudzenie: Oszuści próbowali wyłudzić pieniądze od ofiar, żądając opłat i depozytów przed jakimkolwiek „odzyskaniem środków”. Obejmowało to żądanie uiszczenia 15-procentowej „opłaty za usługę” przed otrzymaniem rzekomo odzyskanych pieniędzy, wpłaty depozytu w celu aktywacji konta oraz pobieranie „opłat za konsultacje”. Wiadomości oszustów do potencjalnych ofiar, tworzone za pomocą ChatGPT, zawierały instrukcje dokonania płatności w kryptowalutach i przesłania zrzutów ekranu z potwierdzeniami transakcji jako dowodu zapłaty.
Strona podszywająca się pod jednostkę IC3 FBI i powiązana z tym oszustwem. Kliknięcie „Zgłoś przestępstwo” kierowało odwiedzających do konta w Telegramie podszywającego się pod tę jednostkę.
Realizacja
Sprawcy wykorzystywali nasze modele na wielu etapach procederu, między innymi do generowania treści promocyjnych do mediów społecznościowych i wiadomości inicjujących kontakt z potencjalnymi ofiarami. Najczęściej jednak oszuści używali ChatGPT do tłumaczenia wiadomości wysyłanych do potencjalnych ofiar i otrzymywanych od nich w prywatnych rozmowach w komunikatorach. Prosili między innymi o napisanie odpowiedzi w „amerykańskiej odmianie angielskiego” lub w stylu prawnika.
Część kont oszustów wykorzystywała też nasze modele do tworzenia fałszywych materiałów mających zwiększyć ich wiarygodność. Były to między innymi fałszywe wpisy do rejestrów adwokatów i legitymacje członkowskie stowarzyszeń adwokackich, a także fikcyjne umowy o zachowaniu poufności, które miały zniechęcić ofiary do szukania pomocy z zewnątrz.
Fałszywa legitymacja członkowska Stowarzyszenia Adwokatów Stanu Nowy Jork wygenerowana za pomocą naszych modeli. Fragmenty zostały zamazane przez zespół dochodzeniowy OpenAI.
Skutki
Ocena skutków wymaga ostrożności, ponieważ jednym z głównych źródeł dowodów są treści wprowadzane przez samych oszustów. Treści te sugerują, że oszuści mogli wyłudzić od poszczególnych ofiar tysiące dolarów, ale nie możemy niezależnie zweryfikować tych twierdzeń. FBI i co najmniej jedna kancelaria prawna, pod którą się podszywano, opublikowały ostrzeżenia przed tym oszustwem. Przedstawiciele FBI ostrzegli, że proceder jest wymierzony w osoby szczególnie podatne na oszustwa, zwłaszcza starsze. Sprawcy wykorzystują stan emocjonalny ofiar wcześniejszych oszustw i ich pragnienie szybkiego odzyskania utraconych pieniędzy.
Zasady OpenAI surowo zabraniają wykorzystywania treści generowanych przez nasze narzędzia do oszustw i wyłudzeń. Aktywnie współpracujemy z innymi firmami z branży i odpowiednimi organami, by zrozumieć, jak AI wpływa na działania sprawców, oraz udaremniać oszustwa wykorzystujące nasze usługi.