Operācija „Randiņa ēsma”: krāpšana ar MI palīdzību, kuras mērķis ir mīlestības meklētāji

Šī gadījuma izpēte sākotnēji tika publicēta OpenAI 2026. gada februāra⁠(atveras jaunā logā) ziņojumā par MI ļaunprātīgas izmantošanas novēršanu.

Mēs bloķējām saistītu ChatGPT kontu grupu un vienu API klientu, kas izmantoja mūsu modeļus daļēji automatizētai romantiskās un uzdevumu krāpšanas shēmai, kurā, visticamāk, ik mēnesi apkrāpa simtiem upuru. Šīs darbības ļoti ticami tika veiktas no Kambodžas un atbilst nesen publiskotos ziņojumos⁠(atveras jaunā logā) aprakstītajām ķīniešu vadītajām noziedzīgajām krāpšanas operācijām šajā valstī. Atsevišķos gadījumos lietotāji paši norādīja, ka strādā krāpšanas jomā Kambodžā, piemēram, lūdzot modelim padomu par nodokļiem un kā savu nodarbošanos minot „krāpnieks”.

Tīkls izmantoja ChatGPT un API piekļuvi mūsu modeļiem, lai plašā mērogā īstenotu daļēji automatizētu romantiskās un uzdevumu krāpšanas shēmu. Tas darbojās pēc strukturēta procesa un darbības modeļa, kas atgādināja pārdošanas kampaņas, kurās uzrunā iepriekš nepazīstamus potenciālos klientus.

1. Uzrunāšana: piesaistes pirmajā posmā operācijas dalībnieki izmantoja savus ChatGPT kontus, lai ģenerētu reklāmas tekstus luksusa iepazīšanās un eskorta pakalpojumam „Romantiskais klubs”. Pēc tam šos tekstus publicēja sociālajos tīklos kā maksas reklāmas. Krāpnieki mērķēja uz Indonēzijas vīriešiem, kurus interesēja saturs par greznu dzīvesveidu, reklāmās izmantojot tādus atslēgvārdus kā „golfs”, „jahtas” un „izsmalcināta maltīte”. Reklāmās bija saites uz MI tērzēšanas robotu, kuram bija uzdots izlikties par flirtējošu administratori. Šī šķietamā administratore lūdza potenciālos upurus izvēlēties no saraksta sieviešu un attiecību tipus un pēc tam novirzīja viņus uz Telegram, izmantojot izsekošanas URL un akcijas kodu.

2. Emociju raisīšana: Telegram vidē operācija apvienoja ar ChatGPT strādājošu cilvēku darbu un automatizāciju, ko nodrošināja API. Administratoru tēli turpināja sarunu, izmantojot arvien romantiskāku un seksuāli atklātāku valodu, un pēc tam piedāvāja potenciālajiem upuriem pievienoties tiešsaistes iepazīšanās platformām „Mīlestības kods” un „Seksa aktivitātes”. Platformā bija redzami it kā „pieejamu meiteņu” profili un MI ģenerētu paziņojumu plūsma, kurā izdomātus klientus apsveica ar „misiju” izpildi, prēmiju atbloķēšanu un balvu laimēšanu.

Pēc uzticības iegūšanas administratores tēls nodeva sarunu „mentoram”, kurš izmantoja ChatGPT, lai ģenerētu un tulkotu emocionāli manipulatīvas ziņas, spiežot upurus izpildīt virkni „uzdevumu” vai „misiju”. Katrs nākamais uzdevums prasīja arvien lielākus maksājumus ar bankas pārskaitījumu vai digitālo maksājumu maku, piemēram, par „VIP kartes” iegādi, „izvēlētās meitenes” atbalstīšanu konkursā vai viesnīcas depozīta samaksu. Iepazīšanās platformas „Mīlestības kods” viltus administratores attēls, ko krāpnieks izveidoja, izmantojot ChatGPT.

3. Naudas izkrāpšana: pēdējā posmā krāpnieki mēģināja saņemt lielāku maksājumu, ko viņi dēvēja par „nokaušanu”, izdomājot papildu maksas, piemēram, „kompensācijas norēķinus” vai „verifikācijas depozītus”. Spriežot pēc ziņām, ko krāpnieki ielīmēja ChatGPT, tiklīdz upuris bija pārskaitījis maksimāli iespējamo summu, krāpnieki to bloķēja Telegram un atzīmēja lietu kā slēgtu. Vēstules kopija, ko krāpnieks iesniedza ChatGPT. Tajā upurim paziņots, ka jāsamaksā 20 500 000 Rp (12 000 ASV dolāru), lai novērstu izdomātu datu apstrādes kļūdu sistēmā „Mīlestības kods”, bet pretī tiks saņemta 35 % „prēmija” 39 860 000 Rp apmērā. Informāciju aizklājuši OpenAI izmeklētāji.

Papildus romantiskajai krāpšanai operācijas dalībnieki izmantoja mūsu modeļus arī ikdienas darba atbalstam. Viņi lūdza ChatGPT norādījumus tehnisku uzdevumu veikšanai, piemēram, OpenAI API integrēšanai vai viltus iepazīšanās pakalpojuma vietnes atjaunināšanai, analizēja finanšu kontus un ģenerēja ikdienas pārskatus, kuros katram upurim piešķīra krāpnieku aprēķinātu „nokaušanas” summu — aplēsto summu, ko mēģināt izkrāpt pēdējā posmā.

Citos gadījumos krāpnieki lūdza ChatGPT tulkot ziņas starp ķīniešu valodā runājošiem vadītājiem un indonēziešu valodā runājošiem krāpšanas centra darbiniekiem, kā arī sekot līdzi tādu nodaļu darbības rezultātiem kā „Potenciālo klientu piesaiste”, „Uzņemšanas komanda” un „Uzraudzības komanda”.

Šī tīkla ietekme jāvērtē piesardzīgi. Mūsu galvenais pierādījumu avots ir pašu krāpnieku ievadītā informācija. Tā liecina, ka krāpnieki, iespējams, vienlaikus sazinājās ar simtiem potenciālo upuru un ieguva tūkstošiem dolāru dienā. Tomēr mēs nevaram neatkarīgi pārbaudīt šo apgalvojumu patiesumu.

OpenAI politikas stingri aizliedz mūsu rīku ģenerētā satura izmantošanu krāpšanai. Esam apņēmušies sadarboties ar nozares kolēģiem un atbildīgajām iestādēm, lai izprastu, kā MI ietekmē ļaunprātīgu dalībnieku rīcību, un aktīvi apturētu krāpšanu, kurā ļaunprātīgi izmanto mūsu pakalpojumus.