Prevara sa zadacima: lažni poslovi pisanja recenzija uz pomoć umjetne inteligencije

Ova studija slučaja prvobitno je objavljena u izvještaju kompanije OpenAI za februar 2025.⁠(otvara se u novom prozoru) godine.

Blokirali smo grupu ChatGPT računa koji su prevodili kratke komentare s urdua na engleski i obrnuto, što je odgovaralo prevari sa „zadacima⁠(otvara se u novom prozoru)“, u kojoj se žrtvama nudi vrlo dobro plaćen posao, ali se potom od njih traži da u sistem uplate vlastiti novac prije nego što mogu pristupiti navodnoj „zaradi“. Činilo se da ova aktivnost potječe iz Kambodže. U ovim prevarama žrtve uglavnom izgube i „zaradu“ i vlastiti novac. Ovu aktivnost počeli smo istraživati nakon dojave kompanije Meta.

Ova mreža prvenstveno je koristila naše modele za prevođenje kratkih komentara s urdua na engleski i obrnuto, koji su odgovarali razgovorima između prevaranata i njihovih žrtava. Pronašli smo spominjanja komunikacije putem Telegrama, koji je očigledno bio njihova glavna platforma, WhatsAppa i SMS-a, kao i različitih foruma i grupa za zapošljavanje na kojima su se mogle objavljivati ponude za posao.

Čini se da su prevaranti nastupali u dvije glavne uloge. Jedna je bila uloga „regrutera“: njihove poruke bile su oblik neželjenog direktnog obraćanja i uključivale su oglase za dobro plaćen rad na daljinu. Druga uloga, koja je generirala veći obim aktivnosti, bila je uloga „mentora“, koji bi se nadovezao na obraćanje „regrutera“ i podučavao metu kako da obavlja posao. „Mentori“ su veoma često spominjali obuke na Telegramu.

Prevaranti su povremeno koristili naše modele i za lekturu teksta na web-stranicama. Čini se da su te stranice oponašale nazive i izgled luksuznih brendova iz oblasti dizajna, mode i putovanja. Osobe u ulozi „mentora“ tvrdile bi da regrutuju u ime tih brendova, što ukazuje na to da su web-stranice vjerovatno služile kako bi prevara djelovala uvjerljivije.

Na osnovu našeg ograničenog uvida, čini se da su prevaranti slijedili uobičajen postupak kojim su mete od prvog kontakta vodili do prevare:

1. Objavljivanje oglasa za posao: Na osnovu njihovih upita i generiranih odgovora, čini se da su prevaranti počinjali objavljivanjem ponuda za posao na različitim internetskim forumima. U regrutovanju se obično spominjao rad na daljinu, uz naknade koje su bile relativno visoke za malu količinu posla, naprimjer 300 USD dnevno i bonusi za nekoliko sati rada. Te oglase obično su objavljivale osobe u ulozi „regrutera“.

2. Regrutovanje: Prevaranti bi zatim generirali poruke iz perspektive „mentora“ kako bi putem različitih aplikacija za razmjenu poruka kontaktirali potencijalne zaposlenike i rekli im da sarađuju s „regruterom“. „Mentor“ bi tvrdio da radi za jedan od luksuznih brendova za koje je ova operacija postavila web-stranicu. Zadatak bi opisali kao objavljivanje recenzija s pet zvjezdica na stranicama tih luksuznih brendova, navodno radi poboljšanja njihovih ocjena među kupcima.

3. Uvjeravanje: U generiranim odgovorima prevaranti bi često uvjeravali mete da je posao legitiman jer se obavlja u ime kompanije koja dugo posluje. Ako bi meta pokazala nelagodu, prevarant bi tvrdio da je i sam ranije bio prevaren, ali da je ova prilika sigurna.

4. Obuka: Ako bi meta i dalje bila zainteresirana, generirani odgovori ukazivali su na to da bi joj „mentor“ ponudio obuku, obično putem Telegrama. Meta bi u početku dobila pristup „računu za obuku“, na kojem se od nje očekivalo da obavi 25–35 zadataka pisanja recenzija dnevno. Na „računu za obuku“ prikazivalo bi se kako „zarada“ mete brzo raste.

5. Podsticanje uzbuđenja: Ako bi meta nastavila obuku, generirani odgovori često su ukazivali na to da bi joj bio ponuđen „poseban“ ili „ultimativni“ zadatak pisanja recenzije koji donosi veći bonus. „Mentor“ bi naglašavao koliko je takav zadatak rijedak i koliko je meta imala sreće.

6. „Naknada za aktivaciju“: Kada bi „zarada“ mete dostigla određeni iznos, generirani odgovori uključivali su poruke u kojima joj „mentor“ govori da mora platiti „naknadu za aktivaciju“ kako bi mogla podići svoju „zaradu“. Ako bi bilo potrebno, prevarant bi je nagovarao da novac posudi od prijatelja ili porodice.

7. Vršenje pritiska: Generirani odgovori pokazali su da bi prevarant postajao sve agresivniji ako bi meta oklijevala uplatiti novac. Vršeći pritisak, upoređivao bi je s drugim, efikasnijim radnicima i govorio joj da će izgubiti zaradu ako ne uplati novac.

8. Izgovori: Ako bi generirani odgovori ukazivali na to da je meta uplatila novac, prevarant bi navodio niz izgovora zbog kojih ona ne može podići svoju zaradu, često tvrdeći da mora uplatiti još novca.

Neki razgovori pokazali su da su mete bile vrlo skeptične, a pojedine poruke koje su prevaranti generirali bile su napisane iz perspektive „mentora“ koji pita zašto mu se meta prestala javljati, što ukazuje na to da je ova prevara vjerovatno imala nisku ukupnu stopu uspjeha. Međutim, neki razgovori i izvještaji na internetu ukazuju na to da su barem neke žrtve zaista uplatile novac u ove prevare. Ne možemo nezavisno provjeriti aktivnosti koje se odvijaju izvan naših alata.

Pravila kompanije OpenAI strogo zabranjuju korištenje rezultata naših alata za prevare ili obmane. Posvećeni smo saradnji s drugim kompanijama u industriji i nadležnim organima kako bismo razumjeli kako umjetna inteligencija utječe na protivničko ponašanje te aktivno suzbijali prevare u kojima se zloupotrebljavaju naše usluge. U skladu s tom obavezom, informacije o prevarantskim mrežama koje smo onemogućili podijelili smo s drugim kompanijama u industriji i nadležnim organima kako bismo unaprijedili zajedničku sigurnost.