Operacija „Pogrešan broj“: prevara sa zadacima uz pomoć umjetne inteligencije
OpenAI je blokirao račune koji su vjerovatno poticali iz Kambodže i koristili umjetnu inteligenciju u procesima prevare usmjerenim na ljude u Ujedinjenom Kraljevstvu.
Ova studija slučaja prvobitno je objavljena u izvještaju kompanije OpenAI za juni 2025.(otvara se u novom prozoru)
Akter
Blokirali smo ChatGPT račune koji su generisali kratke poruke nalik oglasima za zapošljavanje na engleskom, španskom, svahiliju, kinjarvandi, njemačkom i haićanskom kreolskom jeziku. U tim su porukama primaocima nuđene visoke plate za jednostavne zadatke, poput označavanja objava na društvenim mrežama sa „sviđa mi se“, te su poticani da vrbuju druge. Činilo se da je operacija izrazito centralizovana i da vjerovatno potiče iz Kambodže.
Zahvaljujući alatima za prevođenje zasnovanim na umjetnoj inteligenciji, uspjeli smo brzo istražiti i spriječiti korištenje usluga kompanije OpenAI u ovoj kampanji.
Ponašanje
Većina komentara ove mreže odnosila se na prevodilačke zadatke. Koristili su ChatGPT za prevođenje razgovornih rečenica između kineskog i nekoliko drugih jezika, prvenstveno engleskog, španskog, kinjarvande, svahilija, njemačkog i haićanskog kreolskog. Ti su se zadaci obično smjenjivali između prevođenja primljene poruke na kineski i prevođenja odgovora s kineskog na izvorni jezik.
Dio tih poruka nalikovao je neželjenim oglasima za posao koji su nudili visoku satnicu za vrlo malo rada. Jedna takva poruka poslana je SMS-om na naizgled nasumično odabrane brojeve mobilnih telefona u Ujedinjenom Kraljevstvu, među kojima je bio i broj istražitelja kompanije OpenAI. Ovu smo operaciju nazvali „Pogrešan broj“, u čast prvog SMS-a.
SMS nasumično poslan istražitelju kompanije OpenAI, generisan pomoću ChatGPT‑a.
Čini se da su se akteri prijetnje oslanjali na više platformi za razmjenu poruka. Prvi SMS usmjeravao je primaoce na komunikaciju putem WhatsAppa, nakon čega su oni koji su odgovorili upućivani „mentoru“ na Telegramu. U nekim aktivnostima spominjala se i aplikacija za razmjenu poruka BonChat. Čini se da prve, uvodne poruke poslane putem tih kanala nisu generisane pomoću naših modela. To su bile rutinske poruke koje bi se vjerovatno mogle koristiti u svakom razgovoru.
Poruka poslana putem WhatsAppa nakon SMS-a. Čini se da ova poruka nije generisana pomoću naših modela.
Mnogi prevodilački zadaci odnosili su se na poruke za koje se tvrdilo da dolaze od predstavnika navodnih kompanija „poslodavaca“. Nazivi istih kompanija stalno su se pojavljivali u brojnim ChatGPT razgovorima obuhvaćenim ovom istragom. Među njima su bili Hyesung Advertising(otvara se u novom prozoru) i Lightning Shared Scooter Co (LSSC)(otvara se u novom prozoru). Prema javno dostupnim izvještajima, Hyesung i LSSC navodno su povezani s prevarama sa zadacima. Iako nismo nezavisno provjerili prirodu tih subjekata, naša je istraga utvrdila da su poruke koje su navodno dolazile od njih generisali korisnici ChatGPT‑a koji govore kineski i vjerovatno djeluju iz Kambodže.
Generisani odgovori
Kompanije za koje je ova mreža tvrdila da ih predstavlja djelovale su u širokom rasponu djelatnosti, od trgovanja dionicama i iznajmljivanja skutera do prodaje oznaka „sviđa mi se“ na društvenim mrežama. Jasan znak upozorenja bila je ponuda da se za jednu oznaku „sviđa mi se“ na TikToku plati više od 5 USD; poređenja radi, naš ručni pregled internetskih tržišta pokazao je da neki prodavači naplaćuju manje od 10 USD za 1.000 takvih oznaka na društvenim mrežama.
Kombinovanjem pokazatelja izvan platforme s internim zapažanjima utvrdili smo obrazac procesa koji se ponavljao. Radi boljeg razumijevanja ove taktike i jednostavnijeg razvrstavanja, obrazac opisujemo kroz tri faze: javljanje (neželjeni kontakt), zagrijavanje (izazivanje oduševljenja) i izvlačenje (uzimanje novca):
Javljanje (neželjeni kontakt): Mreža generiše sadržaj namijenjen uspostavljanju neželjenog kontakta, obično nudeći neuobičajeno visoke plate za vrlo malo rada ili obećavajući visoke prinose od ulaganja na berzi. Te ponude uključuju visoku naknadu za jednostavne zadatke, poput označavanja objava na društvenim mrežama sa „sviđa mi se“, ili unosne prilike za ulaganje.
Zagrijavanje (izazivanje oduševljenja): Mreža prevodi razgovore, vjerovatno između operatora i njegovih „zaposlenika“. Razgovori sadrže logističke pojedinosti o zadacima, ali su često prožeti motivacijskim porukama o zaradi i mogućim bonusima.
Izvlačenje (uzimanje novca): Mreža generiše i/ili šalje sadržaj kojim vrši pritisak na „zaposlenika“ ili „ulagača“ da uplati novac kako bi otključao veće nagrade. To poprima nekoliko oblika, uključujući početni „depozit“, kupovinu kriptovaluta i „naknade za obradu“.
Primjer poruke za uspostavljanje neželjenog kontakta koja je generisana pomoću ChatGPT‑a i koju je distribuirala ova mreža. Poruka je istovremeno poslana na osam telefonskih brojeva, od kojih nijedan nije bio na spisku kontakata primaoca. Jedan primalac odmah je napustio grupu.
Poruka koju je mreža poslala putem Telegrama potencijalnoj žrtvi, nalažući joj da kupi kriptovalutu u vrijednosti od 20 £ i prebaci je neimenovanom trgovcu.
Javno dostupni izvještaji(otvara se u novom prozoru) ukazuju na to da su neke od tih kompanija novim članovima naplaćivale znatne pristupne naknade, a zatim dio tog novca koristile da postojećim „zaposlenicima“ isplate tek toliko da ih zadrže uključenima. Takva struktura karakteristična je za prevare sa zadacima(otvara se u novom prozoru).
Utjecaj
Zbog ograničenog uvida teško je utvrditi stvarni domet ove mreže. Međutim, izvještaji izvan platforme(otvara se u novom prozoru) i razgovori u kojima su „zaposlenici“ zahtijevali povrat novca ukazuju na to da su barem neke osobe platile tim navodnim poslodavcima. Uočili smo i stvarne korisnike koji su branili te kompanije na društvenim mrežama, što ukazuje na određeni stepen angažmana u stvarnom svijetu.