Operatsioon „Kohtingusööt“: tehisaru abil korraldatud pettus armastuseotsijate vastu

See juhtumiuuring avaldati algselt OpenAI 2026. aasta veebruari⁠(avaneb uues aknas) aruandes tehisaru pahatahtliku kasutamise tõkestamise kohta.

Blokeerisime rühma ChatGPT kontosid ja ühe API kliendi, kes kasutasid meie mudeleid poolautomaatse armu- ja ülesandepettuse korraldamiseks. Tõenäoliselt peteti selle skeemiga iga kuu sadu ohvreid. Tegevus sai väga tõenäoliselt alguse Kambodžast ja on kooskõlas hiljutiste avalike aruannetega⁠(avaneb uues aknas) hiinlaste juhitud kuritegelike petuvõrgustike kohta selles riigis. Üksikjuhtudel nimetasid kasutajad end ise Kambodžas tegutsevateks petukeskuse töötajateks, näiteks küsides mudelilt maksunõu ja märkides oma ametiks „pettur“.

Võrgustik kasutas ChatGPT‑d ja API kaudu meie mudeleid ulatusliku poolautomaatse armu- ja ülesandepettuse korraldamiseks. Selle struktureeritud töövoog ja tegutsemisviis meenutasid müügiprogramme, kus võetakse ühendust võõraste potentsiaalsete klientidega.

1. Kontakti loomine: värbamise esimeses etapis kasutas võrgustik oma ChatGPT kontosid, et luua reklaamtekste luksuslikule tutvumis- ja eskortteenusele nimega „Romantikaklubi“. Seejärel avaldati need tekstid sotsiaalmeedias tasuliste reklaamidena. Petturid võtsid sihikule luksusliku elustiili sisust huvitatud Indoneesia mehed, kasutades reklaamides muu hulgas märksõnu „golf“, „jahid“ ja „peen einestamine“. Reklaamides olid lingid tehisarupõhisele vestlusrobotile, millele oli antud juhis esineda flirtiva vastuvõtutöötajana. Väidetav vastuvõtutöötaja palus sihtmärkidel valida menüüst naiste ja suhete tüübid ning suunas nad seejärel jälgimislingi ja kampaaniakoodi abil Telegrami.

2. Emotsioonide äratamine: Telegramis ühendas võrgustik ChatGPT‑d kasutavate inimtöötajate töö API-põhise automatiseerimisega. Vastuvõtutöötajatena esinejad jätkasid vestlust üha romantilisemas ja seksuaalselt otsesemas keeles ning pakkusid seejärel sihtmärkidele võimalust liituda veebipõhiste tutvumisplatvormidega „Armastusekood“ ja „Seksiaktsioon“. Platvormil kuvati väidetavate „vabade tüdrukute“ profiile ja voogu tehisaru loodud teadetega, milles õnnitleti väljamõeldud kliente „missioonide“ täitmise, boonuste saamise ja auhindade võitmise puhul.

Pärast usalduse võitmist andis vastuvõtutöötajana esineja vestluse üle „mentorile“, kes kasutas ChatGPT‑d emotsionaalselt manipuleerivate sõnumite loomiseks ja tõlkimiseks. Nendega survestati sihtmärke täitma järjestikuseid „ülesandeid“ või „missioone“. Iga järgmine ülesanne nõudis üha suuremaid makseid pangaülekannete või digirahakottide kaudu, näiteks „VIP-kaardi“ ostmiseks, „valitud tüdruku“ toetamiseks võistlusel või hotelli ettemakse tasumiseks. Petturi poolt ChatGPT abil loodud pilt tutvumisplatvormi „Armastusekood“ võltsvastuvõtutöötajast.

3. Raha väljapetmine: viimases etapis püüdsid petturid kätte saada suurema makse, mida nad nimetasid „tapmiseks“, mõeldes välja lisatasusid, näiteks „hüvitusmakseid“ või „kontrolltagatisi“. Petturite ChatGPT‑sse kleebitud sõnumite põhjal otsustades blokeerisid nad ohvri Telegramis ja märkisid juhtumi lõpetatuks, kui too oli saatnud suurima võimaliku summa. Koopia kirjast, mida pettur jagas ChatGPT‑ga. Kirjas teatatakse ohvrile, et ta peab tasuma 20 500 000 ruupiat (12 000 dollarit), et parandada väljamõeldud andmetöötlusviga Armastusekoodi süsteemis, kuid saab vastu 35% „boonuse“ summas 39 860 000 ruupiat. Andmed on varjanud OpenAI uurijad.

Lisaks armupettustele kasutas võrgustik meie mudeleid ka oma igapäevase tegevuse toetamiseks. Muu hulgas küsiti ChatGPT‑lt juhiseid tehniliste ülesannete täitmiseks, näiteks OpenAI API lõimimiseks või võltstutvumisteenuse veebisaidi uuendamiseks. Samuti analüüsiti raamatupidamisandmeid ja koostati päevaaruandeid, milles määrati igale sihtmärgile petturite arvutatud „tapmise“ väärtus – hinnanguline summa, mida temalt lõppetapis välja petta.

Teistel juhtudel palusid petturid ChatGPT‑l tõlkida sõnumeid hiina keelt kõnelevate juhtide ja indoneesia keelt kõnelevate petukeskuse töötajate vahel ning jälgida osakondade „Potentsiaalsete klientide leidmine“, „Vastuvõtumeeskond“ ja „Juhtimismeeskond“ tulemusi.

Selle võrgustiku mõju tuleb hinnata ettevaatlikult. Meie peamine tõendiallikas on petturite endi sisestatud teave. See viitab, et petturid võisid suhelda korraga sadade sihtmärkidega ja teenida tuhandeid dollareid päevas. Me ei saa siiski sõltumatult kontrollida, kas need väited vastasid tõele.

OpenAI reeglid keelavad rangelt meie tööriistade väljundi kasutamise kelmusteks või pettusteks. Oleme pühendunud koostööle teiste valdkonna ettevõtete ja ametiasutustega, et mõista, kuidas tehisaru mõjutab pahatahtlike osaliste käitumist, ning tõkestada aktiivselt meie teenuseid kuritarvitavaid pettusi.