Oszustwo na romans: schemat „uboju świń” wspomagany przez AI
OpenAI zablokowało konta prawdopodobnie pochodzące z Kambodży, które używały AI do tłumaczenia i generowania rozmów związanych z oszustwami romantyczno-inwestycyjnymi.
To studium przypadku opublikowano pierwotnie w raporcie OpenAI z lutego 2025 r.(otwiera nowe okno)
Sprawca
Zablokowaliśmy grupę kont ChatGPT, które tłumaczyły i generowały krótkie komentarze po japońsku, chińsku i angielsku. Aktywność ta prawdopodobnie pochodziła z Kambodży i odpowiadała schematowi oszustwa romantyczno-inwestycyjnego, zwanego również „ubojem świń”. Meta niedawno wykryła powiązaną aktywność(otwiera nowe okno) na swojej platformie, która prawdopodobnie pochodziła z nowo utworzonego ośrodka oszustów w Kambodży.
Sposób działania
Sieć ta wykorzystywała nasze modele do tłumaczenia i generowania krótkich komentarzy. Głównym językiem sprawców był prawdopodobnie chiński. Wyniki generowano w różnych językach, zwłaszcza po japońsku i chińsku, ale także po angielsku.
Sprawcy wykorzystywali nasze modele głównie do dwóch rodzajów działań. Po pierwsze, generowali komentarze publikowane publicznie w serwisach społecznościowych, między innymi na Facebooku, platformie X i Instagramie. Na każdym koncie w mediach społecznościowych znajdowało się zwykle co najmniej jedno zdjęcie profilowe młodej kobiety. Oceniamy, że przynajmniej część tych zdjęć skopiowano od prawdziwych modelek lub influencerek, a nie wygenerowano za pomocą AI.
Większość wygenerowanych komentarzy opublikowano w odpowiedzi na wpisy prawdziwych osób w mediach społecznościowych. Niektóre wpisy, na które odpowiadali operatorzy, miały kilka miesięcy lub nawet lat. Operacja była zwykle wymierzona w mężczyzn, których publiczne profile wskazywały, że mają ponad 40 lat i często wykonują zawody medyczne. Sprawcy często odpowiadali na wpisy o golfie, co wskazuje na celową strategię wyboru ofiar. Czasami oszuści publikowali treści dotyczące polityki lub bieżących wydarzeń.
Komentarz na Facebooku wygenerowany przez tego sprawcę przy użyciu naszych modeli i opublikowany w odpowiedzi na wypowiedź o golfie zamieszczoną przez osobę, która nie wydawała się powiązana z tą operacją. Zdjęcie profilowe konta oszustów skopiowano od amerykańskiej influencerki zajmującej się modą i urodą. Gdy konto oszustów zamieściło komentarz, oryginalny post miał już ponad miesiąc.
Komentarz wygenerowany przez nasze modele i opublikowany przez zweryfikowane konto na platformie X w odpowiedzi na wpis konta, które nie wydawało się powiązane z tym oszustwem. Zdjęcie profilowe konta skopiowano od tej samej amerykańskiej influencerki zajmującej się modą i urodą. Oryginalny wpis miał prawie sześć miesięcy.
Po drugie — i znacznie częściej — operatorzy generowali krótkie komentarze przypominające fragmenty rozmowy online. Zwykle polegało to na tłumaczeniu komentarzy z chińskiego na język docelowy — japoński lub angielski — albo z języka docelowego na chiński. Wskazuje to, że oszuści używali modelu przede wszystkim do tłumaczenia trwających rozmów.
Czasami prosili model o wygenerowanie odpowiedzi w określonym tonie, na przykład zalotnej młodej kobiety. Aby ukierunkować odpowiedzi modelu, czasami podawali obszerne informacje biograficzne, między innymi imię fikcyjnej postaci, jej wykształcenie, zawód, miejsce zamieszkania i zainteresowania. Biografie te zazwyczaj zawierały informację, że fikcyjna postać zajmuje się amatorsko inwestowaniem online.
Oszuści prawdopodobnie korzystali z wielu różnych narzędzi i platform do kontaktowania się z wybranymi osobami. W toku dochodzenia znaleźliśmy dowody na używanie przez nich między innymi komunikatorów LINE i WhatsApp, platform X, Facebook i Instagram, wielu innych usług przesyłania wiadomości, funkcji Apple „Ukryj mój adres email”(otwiera nowe okno) oraz platform do obrotu kryptowalutami i walutami obcymi.
Przebieg oszustwa
Na podstawie dostępnego nam wycinka tej aktywności wydaje się, że oszuści stosowali typowy schemat prowadzący od nawiązania kontaktu z wybraną osobą do nakłonienia jej do oszukańczej inwestycji:
Publiczne nawiązanie kontaktu: oszuści komentowali wpisy wybranej osoby w mediach społecznościowych. Komentarze te często kończyły się pytaniem w rodzaju: „Co sądzisz o [temat]?” — prawdopodobnie po to, by zwiększyć szansę na nawiązanie kontaktu. W nielicznych przypadkach komentowali politykę, ale znacznie częściej rozmawiali o golfie.
Prawdopodobne przejście do wiadomości prywatnych: następnie oszuści generowali krótkie wypowiedzi o konwersacyjnym charakterze. Nie mamy pełnego obrazu tego, jak i gdzie ich używano, ale komentarze odpowiadały sytuacji, w której oszust i wybrana osoba zaczynali wymieniać wiadomości prywatne.
Bezpieczny komunikator: wkrótce potem, często w ciągu kilku dni, oszuści generowali wiadomości sugerujące przejście do bezpieczniejszego komunikatora. Czasami uzasadniali to brakiem zaufania do mediów społecznościowych, a kiedy indziej wymówką natury praktycznej — na przykład rychłym wyjazdem w miejsce bez dostępu do takich serwisów.
Nawiązanie relacji romantycznej: oszuści pisali i tłumaczyli coraz czulsze i bardziej intymne wiadomości. Gdy wybrane osoby prosiły o zdjęcia „kobiety”, z którą rozmawiały, oszuści znajdowali wymówki.
Wprowadzenie wątku finansowego: oszuści pisali i tłumaczyli wiadomości, w których przechwalali się dużymi zyskami z internetowych inwestycji w waluty obce, kryptowaluty lub złoto. Często przedstawiali to jako efekt stosowania się do rad krewnego pracującego w branży finansowej. Oszust namawiał wybraną osobę, by zaczęła inwestować w ten sam sposób, i oferował pomoc w przejściu przez cały proces.
Oszustwo: oszuści pisali i tłumaczyli wiadomości mające przekonać ofiarę do przelania pieniędzy do aplikacji inwestycyjnej. Zachęcali ją, opowiadając o rzekomo osiąganych przez nią zyskach. Za każdym razem, gdy ofiara próbowała wypłacić swoje „zyski”, oszust przedstawiał wymówkę, na przykład konieczność wniesienia opłaty.
Ten schemat działania odpowiada publicznie dostępnym doniesieniom(otwiera nowe okno) opisującym typowy przebieg takich oszustw.
Skutki
Wydaje się, że wiele prób podejmowanych w ramach tej działalności kończyło się niepowodzeniem już na wczesnym etapie. Niektóre rozmowy przetwarzane przez oszustów za pomocą naszych modeli kończyły się rozpoznaniem oszustwa przez wybraną osobę lub żądaniem, by oszust zostawił ją w spokoju. Zidentyfikowaliśmy również wpisy oszustów w mediach społecznościowych, które nie spotkały się z żadnym odzewem.
W niektórych rozmowach pojawiały się jednak kwoty rzędu tysięcy dolarów lub ich równowartości jako wartość pojedynczych transakcji. Ze względu na sposób, w jaki operatorzy wykorzystywali nasze modele, nie wiemy, czy transakcje te rzeczywiście doszły do skutku. Wzmianki w rozmowach sugerują jednak, że przynajmniej w części przypadków oszustom udało się wyłudzić pieniądze od wybranych osób.
Zasady OpenAI surowo zabraniają wykorzystywania wyników działania naszych narzędzi do wyłudzeń lub oszustw. Ściśle współpracujemy z innymi podmiotami z branży i odpowiednimi organami, aby lepiej rozumieć wykorzystanie AI do szkodliwych działań oraz aktywnie przeciwdziałać oszustwom prowadzonym z użyciem naszych usług. Zgodnie z tym zobowiązaniem przekazaliśmy innym podmiotom z branży oraz odpowiednim organom informacje o rozbitych przez nas sieciach oszustów.