Operatsioon „Vale number“: tehisintellekti toel ülesandepettus

See juhtumiuuring avaldati algselt OpenAI 2025. aasta juuni⁠(avaneb uues aknas) aruandes.

Blokeerisime ChatGPT kontod, millega loodi lühikesi värbamissõnumeid inglise, hispaania, suahiili, ruanda, saksa ja Haiti kreooli keeles. Sõnumites pakuti tühiste ülesannete, näiteks sotsiaalmeediapostituste meeldivaks märkimise eest suurt palka ning innustati saajaid teisigi värbama. Operatsioon paistis olevat tugevalt tsentraliseeritud ja tõenäoliselt Kambodžast pärit.

Tehisintellektil põhinevate tõlkevahendite abil saime kiiresti uurida ja takistada OpenAI teenuste kasutamist selles kampaanias.

Enamik võrgustiku päringutest puudutas tõlkeülesandeid. Nad kasutasid ChatGPT‑d vestluslausete tõlkimiseks hiina keele ja mitme muu keele vahel, eelkõige inglise, hispaania, ruanda, suahiili, saksa ja Haiti kreooli keelde ning neist keeltest tagasi. Tavaliselt tõlgiti esmalt saabunud sõnum hiina keelde ja seejärel hiinakeelne vastus tagasi algkeelde.

Osa neist sõnumitest meenutas külmkontakti teel saadetud töökuulutusi, milles pakuti vähese töö eest suurt tunnitasu. Üks selline sõnum saadeti SMS-iga näiliselt juhuslikult valitud Ühendkuningriigi mobiiltelefoninumbritele, millest üks kuulus OpenAI uurijale. Andsime operatsioonile esimese SMS-i auks nimeks „Vale number“.

Ohustajad paistsid kasutavat mitut sõnumiplatvormi. Esialgses SMS-is suunati saajad suhtlema WhatsAppi kaudu, kus vastanud juhatati edasi Telegramis tegutseva „mentori“ juurde. Mõnes tegevuses viidati ka sõnumirakendusele BonChat. Nende kanalite kaudu saadetud esimesed tutvustavad sõnumid ei paistnud olevat loodud meie mudelitega. Need olid standardsed sõnumid, mida sai tõenäoliselt kasutada igas vestluses.

Paljud tõlkeülesanded puudutasid sõnumeid, mis väidetavalt pärinesid arvatavate „tööandjate“ esindajatelt. Selle uurimisega hõlmatud arvukates ChatGPT vestlustes kordusid samade ettevõtete nimed. Nende hulka kuulusid Hyesung Advertising⁠(avaneb uues aknas) ja Lightning Shared Scooter Co (LSSC)⁠(avaneb uues aknas). Avalike teadete kohaselt on Hyesung ja LSSC seotud väidetavate ülesandepettustega. Kuigi me pole nende üksuste olemust sõltumatult kontrollinud, selgus uurimisel, et väidetavalt neilt pärinevad sõnumid lõid hiina keelt kõnelevad ChatGPT kasutajad, kes tegutsesid tõenäoliselt Kambodžas.

Ettevõtted, mida võrgustik väitis end esindavat, tegutsesid väga erinevates valdkondades alates aktsiatega kauplemisest ja tõukerataste rentimisest kuni sotsiaalmeedia meeldimiste müümiseni. Üks selge ohumärk oli pakkumine maksta ühe TikToki meeldimise eest üle 5 dollari. Võrdluseks näitas meie veebiturgude käsitsi tehtud ülevaatus, et mõned sotsiaalmeedia meeldimiste müüjad küsivad 1000 meeldimise eest alla 10 dollari.

Platvormiväliseid näitajaid ja sisemisi tähelepanekuid ühendades tuvastasime korduva tegevusmustri. Et seda taktikat paremini mõistetaks ja oleks lihtsam liigitada, kirjeldame mustrit kolme etapina: kontakt (külmpöördumine), innustamine (vaimustuse tekitamine) ja rahaküsimine (raha väljapetmine):

1. Kontakt (külmpöördumine): võrgustik loob külmkontaktiks mõeldud sisu, pakkudes tavaliselt vähese töö eest ebatavaliselt kõrget palka või lubades aktsiaturule tehtud investeeringutelt suurt tulu. Pakkumised hõlmavad suurt tasu lihtsate ülesannete, näiteks sotsiaalmeediapostituste meeldivaks märkimise eest või tulusaid investeerimisvõimalusi.

2. Innustamine (vaimustuse tekitamine): võrgustik tõlgib vestlusi, mis toimuvad tõenäoliselt Operatori ja tema „töötajate“ vahel. Neis käsitletakse ülesannete praktilisi üksikasju, kuid sekka lisatakse sageli motiveerivaid sõnumeid teenistuse ja võimalike boonuste kohta.

3. Rahaküsimine (raha väljapetmine): võrgustik loob ja/või saadab sisu, millega survestatakse „töötajat“ või „investorit“ suuremate hüvede avamiseks raha sisse maksma. Seda tehakse mitmel viisil, sealhulgas esialgse „sissemakse“, krüptovaluuta ostmise ja „teenustasude“ kaudu.

Avalike teadete⁠(avaneb uues aknas) kohaselt nõudsid mõned neist ettevõtetest uutelt värvatutelt suuri liitumistasusid ning kasutasid osa sellest rahast olemasolevatele „töötajatele“ just nii suure summa maksmiseks, et hoida neid tegevusega seotuna. Selline ülesehitus on iseloomulik ülesandepettustele⁠(avaneb uues aknas).

Piiratud nähtavuse tõttu on võrgustiku tegelikku ulatust raske hinnata. Siiski näitavad platvormivälised teated⁠(avaneb uues aknas) ja vestlused, milles „töötajad“ nõudsid raha tagastamist, et vähemalt mõned inimesed maksid neile väidetavatele tööandjatele. Samuti märkasime sotsiaalmeedias päris kasutajaid neid ettevõtteid kaitsmas, mis viitab teatavale tegelikule osalusele.