Kambodžas tegutsenud kuritegeliku petuoperatsiooni tõkestamine
OpenAI tõkestas Kambodžas tegutsenud petuoperatsiooni, kus ChatGPT abil korraldati investeerimis-, romantika- ja hasartmängupettusi ning esineti teiste isikutena.
Sissejuhatus
Selle aasta alguses tõkestasime Kambodžas tegutsenud petuoperatsiooni, kus ChatGPT abil korraldati investeerimis-, romantika- ja hasartmängupettusi ning esineti õiguskaitseasutustena. Alustasime selle tegevuse uurimist WhatsAppi kolleegidelt saadud vihje põhjal ning oleme pärast seda jaganud täiendavaid ohusignaale valdkonna partnerite ja asjaomaste ametiasutustega.
See operatsioon näitab tänapäevaste petuvõrgustike olulist eripära: organiseeritud kuritegelikud rühmitused piirduvad harva vaid üht liiki pettusega. Selle asemel kasutavad nad võimalust mööda lugusid, väljamõeldud isikuid ja võtteid, mida peavad ohvrite petmisel kõige tõhusamaks. Meie uurimistes näeme sageli, kuidas petturid liiguvad ühelt pettuseliigilt teisele või ühendavad ühes operatsioonis mitut petuvõtet.
Mõned võrgustiku kasutajad lõid ka sisu, mis viitas seostele inimkaubanduse ja sunniviisilise kuritegevusega. Need tähelepanekud ühtivad ulatusliku avaliku kajastusega(avaneb uues aknas), milles kirjeldatakse(avaneb uues aknas) Kagu-Aasia organiseeritud kuritegelikke rühmitusi, kes värbavad inimesi seadusliku töö lubadustega, kuid seovad nad seejärel võlaorjuse ja sunniga. Kuigi me ei saa sõltumatult kindlaks teha iga osalenud inimese olukorda, tuletab see tegevus meelde, et pettusi korraldavad inimesed võivad ka ise olla ärakasutamise ohvrid.
Tegutseja
Blokeerisime koordineeritud ChatGPT kontode võrgustiku, mis pärines väga tõenäoliselt Kambodžast ja tegutses arvatavasti Poipetis või selle ümbruses. Poipet on Banteay Meanchey provintsi linn, mida avalikus kajastuses(avaneb uues aknas) on korduvalt(avaneb uues aknas) seostatud(avaneb uues aknas) veebipettuste keskuste ja inimkaubandusega.
Võrgustik kasutas meie mudeleid võltside veebiidentiteetide loomiseks ja haldamiseks, pettuse sihtmärkidele saadetavate sõnumite koostamiseks ja tõlkimiseks, petuskeemide reklaamsisu loomiseks ning igapäevase tegevuse korraldamiseks.
Nagu varasemates(avaneb uues aknas) meie tõkestatud petuvõrgustikes, kasutas osa kasutajaid ChatGPT‑d ka haldustööks, sealhulgas siseteadete koostamiseks, töötajatevaheliste sõnumite tõlkimiseks ning värbamise, immigratsioonistaatuse, töötingimuste ja töötajate distsiplineerimisega näiliselt seotud küsimuste dokumenteerimiseks.
Käitumine
Võrgustik korraldas korraga mitut liiki pettusi, ühendades sageli eri skeemide elemente. Näiteks kasutasid petturid tutvumisportaalide väljamõeldud isikuid, et võita usaldus, enne kui pakkusid krüptoraha ja kulla hetketehingutega seotud petturlikke investeerimisvõimalusi. Teised kasutajad pidasid väljamõeldud identiteetide all sihtmärkidega pikki romantilisi vestlusi, esinesid võltsboonuseid ja -võite pakkuvate veebihasartmänguplatvormide esindajatena või õiguskaitseasutustena, väites sihtmärkidele, et nood peavad raskete kuritegude eest trahvi maksma.
Kuigi lood erinesid, ilmnes kogu võrgustiku kasutajate tegevuses järjekindlalt sama petlik käitumismuster. Näiteks lõid ja haldasid nad võltsitud tutvumisprofiile ning esinesid väljamõeldud investeerimisekspertide ja õiguskaitsetöötajatena. Samuti lõid nad võltsitud dokumentide pilte, sealhulgas passe, ametlikke teateid, aktsiaostukinnitusi ja hasartmänguplatvormide kasutajaliideseid.
Nagu oleme oma(avaneb uues aknas) varasemates(avaneb uues aknas) aruannetes(avaneb uues aknas) esile toonud, järgisid petturid sihtmärkidega suheldes levinud kolmeosalist mustrit: kontakt (ühenduse võtmine), mõjutamine (emotsiooni tekitamine) ja raha väljapetmine.
Kontakt: võrgustik kasutas ChatGPT‑d sihtmärkidega WhatsAppi, Telegrami ja muude sõnumiplatvormide kaudu peetavate vestluste tõlkimiseks ja koostamiseks. Petturid lõid oma võltsidentiteetide toetamiseks ka sotsiaalmeediasisu ja otsisid materjali tutvumisprofiilide jaoks.
Mõjutamine: petturite sõnumites kasutati sageli emotsionaalset survet ja usalduse võitmise võtteid. Näidete hulka kuulusid garanteeritud tootluse ja „riskivabade“ investeeringute lubadused, romantiline keelekasutus, juhised vestlusi saladuses hoida ning tungivad üleskutsed tegutseda enne väljamõeldud boonuste aegumist.
Raha väljapetmine: petturid käskisid ohvritel teha väidetavate preemiate avamiseks sissemakseid, tasuda aktiveerimistasusid ja väljamõeldud trahve ning seejärel esitada maksetõendina ülekannete kuvatõmmiseid või kontoandmeid.

Võrgustiku petturi ChatGPT abil loodud võltsitud krüptorahakauplemise kasutajaliides.

Võrgustiku petturi tehisintellektiga loodud pilt, millega reklaamiti võltsinvesteerimisskeemi.
Inimkaubanduse tunnused
Lisaks pettustele lõid mõned kasutajad sisu, mis viitas osalemisele muus reegleid rikkuvas tegevuses, mida me tuvastame ja tõkestame, näiteks inimkaubanduses või sunniviisilises töös. Muu hulgas loodi sotsiaalmeediareklaame Poipetis pakutavatele „vestleja“ töökohtadele, mille puhul lubati lennupileteid, majutust, toitlustust, viisat ja tööluba.
Muu tegevus näis olevat seotud operatsioonis töötavate inimeste haldamisega. Kasutajad pidasid arvestust töötajate võlgade, palgast tehtavate kinnipidamiste, distsiplinaartrahvide ja laenumaksete üle ning tõlkisid arutelusid immigratsioonistaatuse, töölubade, viisa kehtivusaja ületamise ja värbamisboonuste kohta.
Mõnes vestluses mainiti ka inimeste näilist kinnipidamist, põgenemiskatseid ja võimalikku kriminaalvastutust nende puhul, kes olid inimkaubanduse ohvriks langenud ja sunnitud petuoperatsioonides töötama. Kuigi need vestlused ei võimalda meil kindlaks teha ühegi konkreetse inimese olukorda, ühtivad need ulatusliku avaliku kajastusega(avaneb uues aknas), milles kirjeldatakse(avaneb uues aknas) Kagu-Aasia organiseeritud kuritegelike rühmituste tegevust.


Võrgustiku petturite tehisintellektiga loodud pildid, millega reklaamiti sotsiaalmeedias töökohti Kambodžas. OpenAI on osa teabest varjanud.
Mõju
Blokeerisime selle operatsiooniga seotud ChatGPT kontod, jagasime asjaomaseid ohutunnuseid valdkonna partnerite ja pädevate ametiasutustega ning astusime samme, et raskendada neil tegutsejatel meie toodetele ja teenustele uuesti juurdepääsu saamist.
Võrgustikuga seotud rahaliste kahjude kogumaht pole teada, kuid petturite endi suhtluse põhjal võis operatsioon eri liiki pettuste käigus ühendust võtta sadade sihtmärkidega. Kasutajate vestlustes väideti, et üksikud ohvrid kaotasid tuhandeid dollareid, kuid me ei saa neid väiteid sõltumatult kontrollida.
Laiemalt kinnitab see juhtum kaht suundumust. Esiteks võivad organiseeritud petuvõrgustikud olla väga mitmekesised ja korraldada ühe pettuseliigiga piirdumise asemel korraga mitut petuskeemi. Teiseks on veebipettuse, organiseeritud kuritegevuse ja inimkaubanduse piirid sageli hägusad. Tõhusaks tõkestamiseks tuleb seega keskenduda nii ohvrite vastu suunatud pettustele kui ka neid korraldavatele ja nende pealt teenivatele kuritegelikele organisatsioonidele.