Prijevara sa zadacima: poslovi pisanja lažnih recenzija uz pomoć umjetne inteligencije

Ova studija slučaja izvorno je objavljena u izvješću OpenAI-ja iz veljače 2025.⁠(otvara se u novom prozoru)

Blokirali smo skupinu ChatGPT računa koji su prevodili kratke komentare s urdskog na engleski i obratno, što odgovara prijevari sa „zadacima⁠(otvara se u novom prozoru)”. U takvoj se prijevari žrtvama nudi dobro plaćen posao, ali zatim moraju uplatiti vlastiti novac u sustav prije nego što mogu pristupiti navodnoj „zaradi”. Čini se da je ova aktivnost potjecala iz Kambodže. U tim prijevarama žrtve obično izgube i „zaradu” i vlastiti novac. Ovu smo aktivnost počeli istraživati nakon dojave tvrtke Meta.

Ova je mreža naše modele prvenstveno upotrebljavala za prevođenje kratkih komentara s urdskog na engleski i obratno, koji su odgovarali razgovorima prevaranata s njihovim žrtvama. Pronašli smo spominjanja razmjene poruka na Telegramu, koji je očito bio njihova glavna platforma, te na WhatsAppu, putem SMS-a i na raznim forumima i u grupama za zapošljavanje na kojima su se mogle objavljivati ponude za posao.

Čini se da su se prevaranti uglavnom predstavljali kao dvije vrste osoba. Jedna je bila „regruter”: njegove su poruke bile oblik neželjenog obraćanja i sadržavale oglase za dobro plaćen rad na daljinu. Druga, koja je generirala veći opseg aktivnosti, bila je „mentor”. Mentor bi nastavio komunikaciju koju je započeo „regruter” i poučavao metu kako obavljati posao. Mentori su vrlo često spominjali obuku na Telegramu.

Prevaranti su se povremeno služili našim modelima i za lekturu tekstova na web-mjestima. Čini se da su ta web-mjesta oponašala nazive i izgled luksuznih dizajnerskih, modnih i turističkih marki. Osobe u ulozi „mentora” tvrdile bi da zapošljavaju u ime tih marki, što upućuje na to da su web-mjesta vjerojatno služila kako bi prijevara djelovala vjerodostojnije.

Prema ograničenim podacima kojima raspolažemo, čini se da su prevaranti slijedili uobičajen postupak kojim su mete od prvog kontakta dovodili do prijevare:

1. Objava oglasa za posao: prema njihovim upitima i generiranom sadržaju, čini se da su prevaranti počinjali objavljivanjem ponuda za posao na raznim internetskim forumima. Pri zapošljavanju su obično spominjali rad na daljinu i nudili relativno visoku plaću za malo rada, primjerice 300 USD dnevno uz bonuse za nekoliko sati rada. Ponude je obično objavljivala osoba u ulozi „regrutera”.

2. Regrutiranje: prevaranti bi zatim generirali komentare iz perspektive „mentora” kako bi putem različitih aplikacija za razmjenu poruka kontaktirali potencijalne zaposlenike i rekli im da surađuju s „regruterom”. „Mentor” bi tvrdio da radi za jednu od luksuznih marki za koje je operacija postavila web-mjesto. Zadatak bi opisali kao objavljivanje recenzija s pet zvjezdica na web-mjestima tih luksuznih marki, navodno radi poboljšanja njihovih ocjena među kupcima.

3. Uvjeravanje: prevaranti bi u generiranom sadržaju često uvjeravali mete da je posao legitiman jer ga obavljaju za tvrtku s dugogodišnjom tradicijom. Ako bi meta pokazala nelagodu, prevarant bi tvrdio da je i sam već bio prevaren, ali da je ova prilika sigurna.

4. Obuka: ako bi meta i dalje bila zainteresirana, generirani sadržaj upućivao je na to da bi joj „mentor” ponudio obuku, obično na Telegramu. Meta bi najprije dobila pristup „računu za obuku”, na kojem bi trebala obavljati od 25 do 35 zadataka recenziranja dnevno. Na „računu za obuku” meta bi vidjela kako njezina „zarada” brzo raste.

5. Pobuđivanje uzbuđenja: ako bi meta nastavila obuku, generirani sadržaj često je upućivao na to da bi joj bio ponuđen „poseban” ili „ultimativan” zadatak recenziranja s većim bonusom. „Mentor” bi naglašavao koliko je taj zadatak rijedak i koliko je meta sretna što ga je dobila.

6. „Naknada za aktivaciju”: kada bi „zarada” mete dosegnula određenu razinu, generirani sadržaj uključivao je poruke „mentora” da mora platiti „naknadu za aktivaciju” kako bi mogla podići svoju „zaradu”. Ako bi bilo potrebno, prevarant bi je nagovarao da posudi novac od prijatelja ili obitelji.

7. Pritisak: generirani sadržaj pokazao je da bi prevarant, ako bi meta oklijevala uplatiti novac, postajao sve agresivniji. Pritiskao bi je uspoređujući je s drugim, učinkovitijim radnicima i govoreći da će izgubiti zaradu ako ne uplati novac.

8. Izgovori: ako bi generirani sadržaj upućivao na to da je meta uplatila novac, prevarant bi iznosio niz izgovora zašto ne može podići zaradu, često tvrdeći da mora uplatiti još novca.

Neki su razgovori pokazali da su mete bile vrlo skeptične, a dio komentara koje su prevaranti generirali bio je napisan iz perspektive mentora koji pokušava doznati zašto mu se meta prestala javljati. To upućuje na to da je ova prijevara vjerojatno imala nisku ukupnu stopu uspješnosti. Međutim, neki razgovori i internetska izvješća upućuju na to da su barem neke žrtve doista uložile novac u te prijevare. Ne možemo neovisno provjeriti aktivnosti koje se odvijaju izvan naših alata.

Pravila OpenAI-ja strogo zabranjuju upotrebu rezultata naših alata za obmanu ili prijevare. Predani smo suradnji s drugim dionicima u industriji i nadležnim tijelima kako bismo razumjeli kako umjetna inteligencija utječe na zlonamjerna ponašanja te aktivno suzbijali prijevare u kojima se zloupotrebljavaju naše usluge. U skladu s tom obvezom, informacije o razbijenim mrežama prevaranata podijelili smo s drugim dionicima u industriji i nadležnim tijelima kako bismo unaprijedili zajedničku sigurnost.