Operācija „Nepareizais numurs”: ar MI atbalstīta uzdevumu krāpniecība

Šis gadījuma pētījums sākotnēji tika publicēts OpenAI 2025. gada jūnija⁠(atveras jaunā logā) ziņojumā.

Mēs bloķējām ChatGPT kontus, kuros tika ģenerētas īsas personāla atlases stila ziņas angļu, spāņu, svahili, kiņaruandas, vācu un Haiti kreolu valodā. Šajās ziņās saņēmējiem tika piedāvāts augsts atalgojums par vienkāršiem uzdevumiem, piemēram, sociālo tīklu ierakstu atzīmēšanu ar „Patīk”, un viņi tika mudināti piesaistīt citus. Operācija šķita ļoti centralizēta, un tās izcelsme, visticamāk, bija Kambodžā.

Izmantojot MI darbinātus tulkošanas rīkus, mēs spējām ātri izmeklēt un apturēt OpenAI pakalpojumu izmantošanu šajā kampaņā.

Lielākā daļa tīkla komentāru bija saistīti ar tulkošanas uzdevumiem. Viņi izmantoja ChatGPT, lai tulkotu sarunvalodas teikumus starp ķīniešu valodu un vairākām citām valodām, galvenokārt angļu, spāņu, kiņaruandas, svahili, vācu un Haiti kreolu valodu. Šajos uzdevumos parasti pamīšus tika tulkota saņemtā ziņa ķīniešu valodā un atbilde no ķīniešu valodas atpakaļ sākotnējā valodā.

Daļa šo ziņu līdzinājās nepieteiktiem darba piedāvājumiem, kuros par minimālu darbu tika solīta augsta stundas likme. Viena šāda ziņa īsziņas veidā tika nosūtīta šķietami nejauši izvēlētiem Apvienotās Karalistes mobilo tālruņu numuriem, un viens no tiem piederēja OpenAI izmeklētājam. Par godu sākotnējai īsziņai mēs šo operāciju nodēvējām par „Nepareizo numuru”.

Šķita, ka apdraudējuma īstenotāji izmantoja vairākas ziņapmaiņas platformas. Sākotnējā īsziņā saņēmēji tika aicināti turpināt saziņu lietotnē WhatsApp, bet atsaukušies cilvēki pēc tam tika novirzīti pie „mentora” platformā Telegram. Dažās darbībās bija minēta arī ziņapmaiņas lietotne BonChat. Šķiet, ka sākotnējās iepazīšanās ziņas šajos kanālos nebija ģenerētas ar mūsu modeļiem. Tās bija standarta ziņas, ko, visticamāk, varēja izmantot ikvienā sarunā.

Daudzi tulkošanas uzdevumi bija saistīti ar saziņu, kas it kā notika iespējamo „darba devēju” uzņēmumu pārstāvju vārdā. Šīs izmeklēšanas tvērumā vieni un tie paši uzņēmumu nosaukumi atkārtoti parādījās daudzās ChatGPT sarunās. To vidū bija Hyesung Advertising⁠(atveras jaunā logā) un Lightning Shared Scooter Co (LSSC)⁠(atveras jaunā logā). Publiskos ziņojumos Hyesung un LSSC ir identificēti kā iespējamas uzdevumu krāpniecības shēmas. Lai gan neesam neatkarīgi pārbaudījuši šo organizāciju būtību, mūsu izmeklēšanā tika konstatēts, ka ziņas, kas it kā nāca no tām, ģenerēja ķīniešu valodā runājoši ChatGPT lietotāji, kuri, visticamāk, darbojās no Kambodžas.

Uzņēmumi, kurus šis tīkls apgalvoja pārstāvam, darbojās ļoti dažādās nozarēs — no akciju tirdzniecības un skrejriteņu nomas līdz sociālo tīklu atzīmju „Patīk” pārdošanai. Nepārprotams brīdinājuma signāls bija piedāvājums maksāt vairāk nekā 5 $ par vienu TikTok atzīmi „Patīk”; salīdzinājumam — mūsu manuālajā tiešsaistes tirdzniecības vietu pārbaudē atklājās, ka daži sociālo tīklu atzīmju „Patīk” pārdevēji par 1000 atzīmēm prasa mazāk nekā 10 $.

Apvienojot ārpus platformas iegūtos indikatorus ar iekšējiem novērojumiem, mēs identificējām atkārtotu darbplūsmas modeli. Lai veicinātu plašāku izpratni par šo taktiku un vienkāršotu tās klasificēšanu, mēs šo modeli raksturojam šādi: uzruna (nepieteikta saziņa), aizrautības radīšana un dzelonis (naudas izvilināšana):

1. Uzruna (nepieteikta saziņa): tīkls ģenerē saturu, kas paredzēts nepieteiktai saziņai un parasti piedāvā neparasti augstu atalgojumu par minimālu darbu vai sola lielu peļņu no ieguldījumiem akciju tirgū. Šajos piedāvājumos tiek solīts augsts atalgojums par vienkāršiem uzdevumiem, piemēram, sociālo tīklu ierakstu atzīmēšanu ar „Patīk”, vai ienesīgas ieguldījumu iespējas.

2. Aizrautības radīšana: tīkls tulko sarunas, kas, visticamāk, notiek starp operatoru un tā „darbiniekiem”. Šajā saziņā ir ietverta praktiska informācija par uzdevumiem, taču to bieži papildina motivējošas ziņas par peļņu un iespējamām prēmijām.

3. Dzelonis (naudas izvilināšana): tīkls ģenerē un/vai nosūta saturu, ar kuru „darbinieks” vai „ieguldītājs” tiek spiests iemaksāt naudu, lai iegūtu lielākas atlīdzības. Tas izpaužas vairākos veidos, tostarp kā sākotnējais „depozīts”, kriptovalūtas iegāde un „apstrādes maksa”.

Publiskie ziņojumi⁠(atveras jaunā logā) liecina, ka daži no šiem uzņēmumiem iekasēja no jaunajiem dalībniekiem ievērojamu pievienošanās maksu un pēc tam daļu šo līdzekļu izmantoja, lai esošajiem „darbiniekiem” samaksātu tieši tik daudz, lai saglabātu viņu iesaisti. Šāda struktūra ir raksturīga uzdevumu krāpniecībai⁠(atveras jaunā logā).

Mūsu ierobežotās pārskatāmības dēļ ir grūti noteikt šā tīkla patieso tvērumu. Tomēr ārpus platformas publicētie ziņojumi⁠(atveras jaunā logā) un sarunas, kurās „darbinieki” pieprasīja atmaksu, liecina, ka vismaz daži cilvēki šiem iespējamajiem darba devējiem ir maksājuši. Mēs arī novērojām, ka reāli lietotāji sociālajos tīklos aizstāvēja šos uzņēmumus, kas liecina par zināmu iesaisti reālajā pasaulē.