Operacija »Vaba za zmenek«: prevara s pomočjo UI, usmerjena v iskalce ljubezni

Ta študija primera je bila prvotno objavljena v poročilu družbe OpenAI iz februarja 2026⁠(odpre se v novem oknu) o preprečevanju zlonamerne uporabe UI.

Blokirali smo skupino računov ChatGPT in eno stranko, ki je uporabljala API. Z našimi modeli so izvajali delno avtomatizirano prevaro, ki je združevala ljubezensko prevaro in prevaro z nalogami ter verjetno vsak mesec ogoljufala več sto žrtev. Ta dejavnost je zelo verjetno izvirala iz Kambodže in se ujema z nedavnimi javnimi poročili⁠(odpre se v novem oknu) o kriminalnih prevarantskih operacijah pod kitajskim vodstvom v tej državi. V posameznih primerih so uporabniki sami navedli, da delajo kot prevaranti v Kambodži, na primer ko so model prosili za davčni nasvet in kot svoj poklic navedli »prevarant«.

Mreža je uporabljala ChatGPT in dostop do naših modelov prek API-ja za obsežno, delno avtomatizirano ljubezensko prevaro z nalogami. Pri tem je sledila strukturiranemu delovnemu procesu in načinu delovanja, ki sta spominjala na prodajne programe za nagovarjanje neznanih potencialnih strank.

1. Prvi stik: V začetni fazi pridobivanja žrtev je operacija s svojimi računi ChatGPT ustvarjala promocijska besedila za prestižno storitev zmenkov in spremstva, imenovano »Romantični klub«. Ta besedila so nato objavljali na družbenih omrežjih kot plačane oglase. Prevaranti so ciljali na indonezijske moške, ki so jih zanimale vsebine o razkošnem življenjskem slogu, z oglaševalskimi ključnimi besedami, kot so »golf«, »jahte« in »vrhunska kulinarika«. Oglasi so vsebovali povezave do klepetalnega robota z UI, ki je imel navodila, naj se izdaja za spogledljivo receptorko. Domnevna receptorka je tarče prosila, naj na seznamu izberejo tip ženske in razmerja, nato pa jih je s sledilnim URL-jem in promocijsko kodo usmerila na Telegram.

2. Čustveni odziv: Na Telegramu je operacija združevala delo ljudi, ki so uporabljali ChatGPT, z avtomatizacijo prek API-ja. Navidezne receptorke so pogovor nadaljevale z vse bolj romantičnim in spolno eksplicitnim jezikom, nato pa so tarčam ponudile, naj se pridružijo spletnima platformama za zmenke »Ljubezenska koda« in »Spolna akcija«. Platforma je prikazovala profile domnevno »razpoložljivih deklet« in vir objav, ustvarjenih z UI, ki so izmišljenim strankam čestitale za opravljene »misije«, odklenjene bonuse in osvojene nagrade.

Ko je navidezna receptorka pridobila zaupanje, je pogovor predala »mentorju«. Ta je s ChatGPT ustvarjal in prevajal čustveno manipulativna sporočila, s katerimi je pritiskal na tarče, naj opravijo zaporedje »nalog« ali »misij«. Vsaka naslednja naloga je zahtevala višje plačilo prek bančnega nakazila ali digitalne denarnice, na primer za nakup »kartice VIP«, podporo »izbranemu dekletu« na tekmovanju ali plačilo hotelskega pologa. Slika lažne receptorke za platformo za zmenke »Ljubezenska koda«, ki jo je prevarant ustvaril s ChatGPT.

3. Izvabljanje denarja: V zadnji fazi so prevaranti skušali iztržiti večje plačilo, ki so ga imenovali »zakol«, tako da so si izmišljali dodatne stroške, kot so »odškodninske poravnave« ali »pologi za preverjanje«. Sodeč po sporočilih, ki so jih prevaranti prilepili v ChatGPT, so žrtev, ko je poslala najvišji možni znesek, blokirali na Telegramu in primer označili kot zaključen. Kopija pisma, ki ga je prevarant posredoval orodju ChatGPT. V njem žrtvi sporoča, da mora plačati 20.500.000 Rp (12.000 USD) za odpravo izmišljene napake pri obdelavi podatkov v sistemu Ljubezenska koda, vendar bo prejela 35-odstotni »bonus« v višini 39.860.000 Rp. Podatke so prekrili preiskovalci družbe OpenAI.

Poleg ljubezenskih prevar je operacija naše modele uporabljala tudi za pomoč pri vsakodnevnem poslovanju. ChatGPT so med drugim prosili za navodila za tehnične naloge, kot sta integracija API-ja OpenAI ali posodabljanje spletnega mesta lažne storitve za zmenke, analizo finančnih računov in pripravo dnevnih poročil. V teh poročilih je bila vsaki tarči dodeljena vrednost »zakola«, ki so jo izračunali prevaranti – ocenjeni znesek, ki so ga nameravali izvabiti ob zadnjem plačilu.

V drugih primerih so prevaranti ChatGPT prosili za prevajanje sporočil med kitajsko govorečimi nadzorniki in indonezijsko govorečimi delavci v prevarantskih centrih ter za spremljanje uspešnosti oddelkov z imeni »Pridobivanje potencialnih strank«, »Sprejemna ekipa« in »Nadzorna ekipa«.

Pri ocenjevanju vpliva te mreže je potrebna previdnost. Naš glavni vir dokazov so vsebine, ki so jih vnašali prevaranti sami. Te vsebine kažejo, da so prevaranti morda komunicirali z več sto tarčami hkrati in pridobivali na tisoče dolarjev na dan. Vendar ne moremo neodvisno preveriti, ali so bile te navedbe točne.

Pravila družbe OpenAI strogo prepovedujejo uporabo vsebin, ustvarjenih z našimi orodji, za goljufije ali prevare. Zavezani smo sodelovanju z drugimi podjetji v panogi in pristojnimi organi, da bi razumeli, kako UI vpliva na ravnanje zlonamernih akterjev, ter dejavno preprečevali prevarantske dejavnosti, ki zlorabljajo naše storitve.