Operacija „Ne tas numeris“: DI paremta užduočių afera

Šis atvejo tyrimas pirmą kartą paskelbtas OpenAI 2025 m. birželio⁠(atsidaro naujame lange) ataskaitoje.

Užblokavome ChatGPT paskyras, kurios generavo trumpas įdarbinimo pobūdžio žinutes anglų, ispanų, svahilių, kinjaruandų, vokiečių ir Haičio kreolų kalbomis. Šiose žinutėse gavėjams buvo siūlomas didelis atlygis už paprastas užduotis, pavyzdžiui, socialinių tinklų įrašų žymėjimą patiktukais, ir jie buvo raginami įtraukti kitus žmones. Atrodė, kad operacija buvo labai centralizuota ir tikriausiai vykdyta iš Kambodžos.

Naudodami DI pagrįstus vertimo įrankius galėjome greitai ištirti kampaniją ir sutrikdyti jos naudojimąsi OpenAI paslaugomis.

Didžioji tinklo komentarų dalis buvo susijusi su vertimo užduotimis. ChatGPT buvo naudojamas pokalbių sakiniams versti iš kinų kalbos į kelias kitas kalbas ir atvirkščiai, dažniausiai į anglų, ispanų, kinjaruandų, svahilių, vokiečių ir Haičio kreolų kalbas. Paprastai pakaitomis būdavo verčiama gauta žinutė į kinų kalbą, o atsakymas iš kinų kalbos – atgal į pradinę kalbą.

Dalis šių žinučių priminė nepageidaujamus darbo skelbimus, kuriuose už labai mažai darbo siūlytas didelis valandinis atlygis. Viena tokia žinutė SMS formatu buvo išsiųsta, regis, atsitiktinai parinktais Jungtinės Karalystės mobiliojo ryšio numeriais, iš kurių vienas priklausė OpenAI tyrėjui. Pradinės SMS garbei šią operaciją pavadinome „Ne tas numeris“.

Atrodė, kad grėsmės veikėjai naudojosi keliomis susirašinėjimo platformomis. Pradinėje SMS gavėjams buvo nurodoma susisiekti per „WhatsApp“, o atsakiusieji būdavo nukreipiami pas „mentorių“ platformoje „Telegram“. Kai kur minėta ir susirašinėjimo programėlė „BonChat“. Nepanašu, kad pirmosios įvadinės žinutės šiais kanalais būtų sugeneruotos naudojant mūsų modelius. Tai buvo įprastos žinutės, kurios tikriausiai tiko kiekvienam pokalbiui.

Daugelis vertimo užduočių buvo susijusios su žinutėmis, kurias neva siuntė tariamų įmonių „darbdavių“ atstovai. Šio tyrimo metu daugelyje ChatGPT pokalbių nuolat kartojosi tie patys įmonių pavadinimai. Tarp jų buvo Hyesung Advertising⁠(atsidaro naujame lange) ir Lightning Shared Scooter Co (LSSC)⁠(atsidaro naujame lange). Viešuose pranešimuose „Hyesung“ ir LSSC įvardytos kaip galimos užduočių sukčiavimo schemos. Nors patys nepatikrinome šių subjektų veiklos pobūdžio, per tyrimą nustatėme, kad žinutes, kurias neva siuntė šios įmonės, generavo kiniškai kalbantys ChatGPT naudotojai, tikriausiai veikę iš Kambodžos.

Įmonės, kurioms šis tinklas teigė atstovaujantis, veikė įvairiose srityse – nuo prekybos akcijomis ir paspirtukų nuomos iki socialinių tinklų patiktukų pardavimo. Vienas akivaizdus pavojaus signalas buvo siūlymas mokėti daugiau nei 5 USD už vieną „TikTok“ patiktuką. Palyginimui, patys patikrinę internetines prekyvietes nustatėme, kad kai kurie socialinių tinklų patiktukų pardavėjai už 1 000 patiktukų prašo mažiau nei 10 USD.

Sujungę už platformos ribų rastus požymius su vidaus stebėjimų duomenimis, nustatėme pasikartojančią veiksmų seką. Kad ši taktika būtų geriau suprantama ir ją būtų lengviau klasifikuoti, šią seką vadiname kabliuku (netikėtu kontaktu), vilione (entuziazmo sukėlimu) ir spąstais (pinigų išviliojimu):

1. Kabliukas (netikėtas kontaktas): tinklas kuria turinį nepageidaujamiems pirminiams kreipiniams. Paprastai už labai mažai darbo siūlomas neįprastai didelis atlygis arba žadama didelė investicijų akcijų rinkoje grąža. Siūlomas didelis atlygis už paprastas užduotis, pavyzdžiui, socialinių tinklų įrašų žymėjimą patiktukais, arba pelningos investavimo galimybės.

2. Vilionė (entuziazmo sukėlimas): tinklas verčia pokalbius, greičiausiai vykstančius tarp Operator ir jo „darbuotojų“. Juose aptariama užduočių logistika, tačiau dažnai įterpiama motyvacinių žinučių apie uždarbį ir galimas premijas.

3. Spąstai (pinigų išviliojimas): tinklas generuoja ir (arba) siunčia turinį, kuriuo „darbuotojas“ ar „investuotojas“ spaudžiamas sumokėti pinigų, kad galėtų gauti didesnį atlygį. Tai daroma keliais būdais, įskaitant pradinį „indėlį“, kriptovaliutos pirkimą ir „administravimo mokesčius“.

Viešuose pranešimuose⁠(atsidaro naujame lange) teigiama, kad kai kurios iš šių įmonių iš naujų darbuotojų imdavo didelius stojimo mokesčius, o dalį surinktų lėšų skirdavo esamiems „darbuotojams“, sumokėdamos tik tiek, kad šie neprarastų susidomėjimo. Tokia struktūra būdinga užduočių aferoms⁠(atsidaro naujame lange).

Dėl ribotų galimybių stebėti sunku įvertinti tikrąjį šio tinklo mastą. Tačiau už platformos ribų paskelbta informacija⁠(atsidaro naujame lange) ir pokalbiai, kuriuose „darbuotojai“ reikalavo grąžinti pinigus, rodo, kad bent dalis žmonių mokėjo šiems tariamiems darbdaviams. Socialiniuose tinkluose taip pat pastebėjome tikrų naudotojų, gynusių šias įmones, o tai rodo tam tikrą realų įsitraukimą.