Operacija „Pasimatymų masalas“: sukčiavimas pasitelkiant DI, nukreiptas į ieškančius meilės

Ši atvejo analizė pirmą kartą paskelbta „OpenAI“ 2026 m. vasario⁠(atsidaro naujame lange) ataskaitoje apie kovą su piktavališku DI naudojimu.

Užblokavome susijusių „ChatGPT“ paskyrų grupę ir vieną API klientą, kurie naudojo mūsų modelius pusiau automatizuotai romantinio ir užduotimis grįsto sukčiavimo schemai vykdyti. Tikėtina, kad kas mėnesį jie apgaudavo šimtus aukų. Labai tikėtina, kad ši veikla buvo vykdoma iš Kambodžos, ir ji atitinka neseniai viešai paskelbtą informaciją⁠(atsidaro naujame lange) apie kinų vadovaujamus nusikalstamus sukčiavimo tinklus šioje šalyje. Pavieniais atvejais naudotojai patys nurodė dirbantys sukčiavimo centruose Kambodžoje, pavyzdžiui, prašydami modelio patarimų mokesčių klausimais ir įvardydami savo profesiją kaip „sukčius“.

Tinklas naudojo „ChatGPT“ ir per API pasiekiamus mūsų modelius, kad plačiu mastu vykdytų pusiau automatizuotą romantinio sukčiavimo schemą su užduotimis. Jis laikėsi struktūruotos darbo eigos ir veiklos modelio, primenančio pardavimo programas, kuriose kreipiamasi į iš anksto susidomėjimo neišreiškusius klientus.

1. Sudominimas: Pradiniame pritraukimo etape tinklas naudojo savo „ChatGPT“ paskyras prabangių pažinčių ir palydos paslaugos „Romantikos klubas“ reklaminiams tekstams kurti. Tuomet šie tekstai buvo skelbiami socialiniuose tinkluose kaip mokamos reklamos. Sukčiai taikėsi į Indonezijos vyrus, besidominčius prabangaus gyvenimo būdo turiniu, reklamai naudodami tokius raktažodžius kaip „golfas“, „jachtos“ ir „aukštoji virtuvė“. Reklamose buvo nuorodų į DI pokalbių robotą, kuriam buvo nurodyta apsimesti flirtuojančia administratore. Tariama administratorė paprašydavo potencialių aukų iš meniu pasirinkti moterų ir santykių tipus, o tada nukreipdavo jas į „Telegram“, naudodama sekimo URL ir nuolaidos kodą.

2. Įtraukimas: Perkėlęs bendravimą į „Telegram“, tinklas derino „ChatGPT“ naudojančių darbuotojų darbą su automatizavimu per API. Administratorėmis apsimetantys veikėjai tęsdavo pokalbį vis romantiškesne ir seksualiai atviresne kalba, o tada pasiūlydavo potencialioms aukoms prisijungti prie internetinių pažinčių platformų „Meilės kodas“ ir „Sekso veiksmas“. Platformoje buvo rodomi tariamai „laisvų merginų“ profiliai ir DI sugeneruotų pranešimų srautas, kuriame išgalvoti klientai buvo sveikinami įvykdę „misijas“, gavę teisę į premijas ir laimėję prizus.

Pelniusi pasitikėjimą, tariama administratorė perduodavo pokalbį „mentoriui“. Šis naudojo „ChatGPT“ emociškai manipuliuojančioms žinutėms kurti ir versti, spausdamas potencialias aukas atlikti „užduočių“ ar „misijų“ seką. Kiekvienai paskesnei užduočiai reikėjo vis didesnių mokėjimų banko pavedimu ar per skaitmenines pinigines, pavyzdžiui, įsigyti „VIP kortelę“, paremti „pasirinktą merginą“ konkurse ar sumokėti viešbučio užstatą. Netikros pažinčių platformos „Meilės kodas“ administratorės atvaizdas, kurį sukčius sukūrė naudodamas „ChatGPT“.

3. Pinigų išviliojimas: Paskutiniame etape sukčiai bandydavo išvilioti didesnę sumą, kurią vadino „galutiniu laimikiu“, išgalvodami papildomus mokesčius, pavyzdžiui, „kompensacines įmokas“ ar „patvirtinimo užstatus“. Sprendžiant iš žinučių, kurias sukčiai įklijavo į „ChatGPT“, aukai pervedus didžiausią įmanomą sumą, sukčiai ją užblokuodavo „Telegram“ ir pažymėdavo atvejį kaip užbaigtą. Laiško, kurį sukčius pateikė „ChatGPT“, kopija. Laiške aukai nurodoma sumokėti 20 500 000 Rp (12 000 JAV dolerių), kad būtų ištaisyta išgalvota duomenų apdorojimo klaida sistemoje „Meilės kodas“, ir žadama 35 % „premija“ – 39 860 000 Rp. Dalį informacijos užtušavo „OpenAI“ tyrėjai.

Be romantinio sukčiavimo, tinklas taip pat naudojo mūsų modelius kasdienei veiklai palengvinti. Pavyzdžiui, sukčiai prašė „ChatGPT“ patarti, kaip atlikti technines užduotis, tokias kaip „OpenAI“ API integravimas ar netikros pažinčių paslaugos svetainės atnaujinimas, analizuoti finansines sąskaitas ir rengti kasdienes ataskaitas. Jose kiekvienai potencialiai aukai buvo priskiriama sukčių apskaičiuota „galutinio laimikio“ vertė – numatoma suma, kurią siekiama išvilioti paskutiniame etape.

Kitais atvejais sukčiai prašė „ChatGPT“ versti kinų kalba kalbančių vadovų ir indoneziečių kalba kalbančių sukčiavimo centro darbuotojų žinutes bei stebėti skyrių „Potencialių klientų paieška“, „Priėmimo komanda“ ir „Vadovų komanda“ veiklos rezultatus.

Šio tinklo veiklos poveikį reikia vertinti atsargiai. Pagrindinis mūsų įrodymų šaltinis – pačių sukčių įvesti duomenys. Šie duomenys leidžia manyti, kad sukčiai vienu metu galėjo bendrauti su šimtais potencialių aukų ir gauti tūkstančius dolerių per dieną. Tačiau negalime nepriklausomai patikrinti, ar šie teiginiai buvo tikslūs.

„OpenAI“ taisyklės griežtai draudžia naudoti mūsų įrankių sugeneruotą turinį sukčiavimui ar apgavystėms. Esame pasiryžę bendradarbiauti su kitomis šio sektoriaus įmonėmis ir atsakingomis institucijomis, kad suprastume, kaip DI veikia piktavalių elgesį, ir aktyviai užkirstume kelią sukčiavimui piktnaudžiaujant mūsų paslaugomis.