Operatsioon „Valetunnistaja“: ametiasutustena esinev võlts raha tagasisaamise teenus

See juhtumiuuring avaldati algselt OpenAI 2026. aasta veebruari⁠(avaneb uues aknas) aruandes tehisintellekti pahatahtliku kasutamise tõkestamise kohta.

Blokeerisime rühma ChatGPT kontosid, mis kasutasid meie mudeleid, et esineda väljamõeldud advokaadibüroode ning päriselt tegutsevate advokaatide ja USA õiguskaitseasutustena. See oli osa petuskeemist, millega lubati pettuseohvritele nende raha tagasi saada. See tegevus sai suure tõenäosusega alguse Kambodžast ning on kooskõlas hiljutiste avalike teadetega hiinlaste juhitud kuritegelikest petuskeemidest selles riigis.

Kontodel kasutati ChatGPT‑d pettusega kaotatud raha tagasisaamist lubava petuskeemi toetamiseks. Skeem põhines võltsadvokaadibüroodel ning usaldusväärsete isikute ja asutustena, näiteks päriselt tegutsevate advokaatide ja FBI internetikuritegude kaebuste keskusena (IC3) esinemisel.

1. Esmakontakt: petturid kasutasid ChatGPT‑d, et luua sisu, mis pärines väidetavalt vähemalt kuuelt võltsadvokaadibüroolt. Osa sellest sisust avaldati seejärel sotsiaalmeediakontodel ja veebireklaamides, mis reklaamisid olematuid teenuseid pettusega kaotatud raha tagasisaamiseks. Mitmed avalikest allikatest leitud märgid viitasid büroode petturlikkusele: puudusid tõendid osariigi advokatuurilt saadud tegevusloa kohta, kasutati sobimatuid veebidomeene, kontaktandmetes olid aadressid, mida ei paistnud olemas olevat, ning advokaatidega suunati ühendust võtma sõnumsiderakenduste kaudu.

2. Usalduse võitmine: petturid püüdsid võita sihtmärkide usaldust, genereerides kommentaare, mis jäljendasid pettuseohvritele raha tagasisaamisele spetsialiseerunud advokaatide tooni ja professionaalsust. Nad genereerisid sisu, mis pärines väidetavalt väljamõeldud advokaatidelt. Leidsime osa neist väljamõeldud isikutest mitmelt veebisaidilt, kus nende profiilipildid olid ilmselt võetud sotsiaalmeediast või loodud tehisintellektiga. Mõnel juhul kasutas pettur samade „advokaatide“ identiteete mitmes väidetavas advokaadibüroos. Üks meie tuvastatud veebisaitidest esines IC3-na.

Nendel petusaitidel avaldatud kontaktandmed suunasid külastajaid privaatsetesse sõnumsiderakendustesse, näiteks Telegrami. ChatGPT abil sihtmärkidele koostatud sõnumites väitsid petturid ekslikult, et tegutsevad Rahvusvahelise Kriminaalkohtu järelevalve all, ning lubasid, et tasu ei võeta enne, kui kogu ohvri raha on edukalt tagasi saadud.

3. Raha väljapetmine: petturid püüdsid sihtmärkidelt raha välja petta, nõudes tasusid ja sissemakseid enne igasugust raha „tagasisaamist“. Näiteks nõuti sihtmärkidelt 15% „teenustasu“ maksmist enne väidetavalt tagasisaadud raha kättesaamist, sissemakseid konto aktiveerimiseks ja „konsultatsioonitasusid“. ChatGPT abil sihtmärkidele koostatud sõnumites andsid petturid juhiseid teha krüptovaluutamakseid ning esitada maksmise tõendiks tehingukinnituste kuvatõmmised.

Skeemi elluviijad kasutasid meie mudeleid töövoo mitmes etapis, näiteks sotsiaalmeedia reklaamsisu ning sihtmärkidega esmase kontakti loomiseks mõeldud sõnumite genereerimiseks. Kõige sagedamini kasutasid petturid ChatGPT‑d aga privaatsetes sõnumsiderakendustes sihtmärkidele saadetud ja neilt saadud sõnumite tõlkimiseks. Muu hulgas palusid nad kirjutada vastuse „Ameerika inglise keeles“ või advokaadi stiilis.

Osal petukontodest kasutati meie mudeleid ka eksitavate materjalide loomiseks, et suurendada usaldusväärsust. Nende hulka kuulusid võltsitud advokaatide registreerimisandmed ja advokatuuri liikmekaardid ning fiktiivsed konfidentsiaalsuslepingud, millega püüti takistada ohvritel mujalt abi otsimast.

Mõju hindamisel tuleb olla ettevaatlik, sest üks peamisi tõendusallikaid on petturite endi sisestatud tekstid. Need viitavad sellele, et petturid võisid üksikutelt ohvritelt välja petta tuhandeid dollareid, kuid me ei saa neid väiteid sõltumatult kontrollida. FBI ja vähemalt üks advokaadibüroo, kelle nimel esineti, on avaldanud selle petuskeemi kohta hoiatusi. FBI ametnikud hoiatasid, et skeem on suunatud haavatavatele inimestele, eriti eakatele, ning kasutab ära pettuseohvrite emotsionaalset seisundit ja soovi kaotatud raha kiiresti tagasi saada.

OpenAI reeglid keelavad rangelt meie tööriistade väljundi kasutamise kelmusteks või petuskeemideks. Teeme järjepidevalt koostööd teiste valdkonna ettevõtete ja ametiasutustega, et mõista, kuidas tehisintellekt mõjutab pahatahtlike osaliste käitumist, ning aktiivselt tõkestada meie teenuseid kuritarvitavaid petuskeeme.