Prevarantske operacije: mreže za internetske prijevare

Ova studija slučaja izvorno je objavljena u OpenAI-jevu izvješću iz listopada 2025.⁠(otvara se u novom prozoru)

Mreže koje vjerojatno potječu iz Kambodže, Mjanmara i Nigerije zloupotrebljavaju ChatGPT u pokušajima internetskih prijevara.

Predano radimo na prepoznavanju, sprječavanju i zaustavljanju pokušaja zloupotrebe naših modela u štetne svrhe. Među tim zloupotrebama su prijevare, pri čemu otkrivamo i blokiramo zlonamjerne aktere koji pokušavaju zloupotrijebiti naše modele kako bi obmanuli i prevarili ljude. U posljednja tri mjeseca zaustavili smo prevarantske mreže koje su vjerojatno potjecale iz Kambodže, Mjanmara i Nigerije. Kao pokazatelj uloge koju AI može imati u borbi protiv prijevara, tijekom istraživanja tih obrazaca zloupotrebe vidjeli smo i mnoge ljude koji se našim modelima služe kako bi lakše prepoznali prijevare. Ovo izvješće razmatra oba načina upotrebe.

Zloupotreba naših modela za potporu prijevarama obuhvaća sve, od pojedinaca koji pokušavaju počiniti prijevaru do opsežnih i dugotrajnih operacija vjerojatno povezanih s organiziranim kriminalnim skupinama. Bez obzira na njihovo podrijetlo i konkretne taktike, aktivnosti povezane s prijevarama koje smo zaustavili uglavnom slijede isti obrazac: početni kontakt (obraćanje nepoznatoj osobi), pobuđivanje emocija (izazivanje oduševljenja ili panike) i završni udarac (izvlačenje novca ili vrijednih podataka).

Ti prevaranti počinju širenjem sadržaja, generiranog umjetnom inteligencijom ili na drugi način, putem komunikacijskih usluga i interneta, među ostalim oglašavanjem na društvenim mrežama. Zatim kod svakoga tko odgovori pokušavaju izazvati ili oduševljenje unosnom prilikom ili strah od neposrednog financijskog gubitka te iskoristiti tu emociju kako bi metu uvjerili da im preda novac ili osjetljive podatke.

Uočili smo i mnogo slučajeva u kojima su naši modeli vjerojatno pomogli zaštititi ljude od prijevara. Vidjeli smo dokaze da se ljudi milijunima puta mjesečno služe ChatGPT‑jem kako bi lakše prepoznali i izbjegli internetske prijevare. U svakoj prevarantskoj operaciji opisanoj u ovom izvješću vidjeli smo da model pomaže ljudima ispravno prepoznati prijevaru i savjetuje ih o odgovarajućim sigurnosnim mjerama. Prema našoj trenutačnoj procjeni, ChatGPT se za prepoznavanje prijevara upotrebljava do tri puta češće nego za njihovo provođenje.

Primjer istražitelja OpenAI-ja koji je u ChatGPT zalijepio snimku zaslona primljene prevarantske SMS poruke te uz pomoć modela uspješno utvrdio da je riječ o prijevari. U ovom su se slučaju zlonamjerni akteri pokušali predstaviti kao TikTokovi regruteri.

Od posljednjeg izvješća dodatno smo ojačali svoju sposobnost otkrivanja i zaustavljanja prijevara. Zaustavili smo dodatne prevarantske mreže za koje se činilo da potječu iz Kambodže, Mjanmara i Nigerije. Zajedno s našim prijašnjim intervencijama, ova nam uklanjanja omogućuju da prepoznamo nove trendove u više prevarantskih operacija iz različitih zemalja.

Većina prevarantskih aktivnosti koje smo zaustavili bila je usmjerena na uklapanje umjetne inteligencije u postojeće obrasce prijevara, a ne na stvaranje novih obrazaca zasnovanih na njoj. Sve prevarantske operacije koje smo ove godine prepoznali i blokirali upotrebljavale su umjetnu inteligenciju ponajprije kao alat za povećanje opsega i učinkovitosti. To je obično uključivalo upotrebu naših modela za prevođenje, pisanje poruka i izradu sadržaja za društvene mreže.

Primjerice, nedavno smo blokirali prevarantske operacije koje su vjerojatno potjecale iz Kambodže i Nigerije, a predstavljale su se kao „investicijske tvrtke” kako bi prevarile žrtve u više zemalja. Prevaranti su izrađivali web-mjesta i internetske oglase za promicanje lažnih tvrtki te su se služili vjerojatno lažnim računima na društvenim mrežama, predstavljajući se kao stručnjaci za trgovanje i pozivajući ljude da se pridruže privatnim grupama za razmjenu poruka. Obećavajući unosne prilike za zaradu bez rizika, zlonamjerni su akteri zatim pokušavali navesti potencijalne žrtve da uplate novac na izmišljene platforme za trgovanje. U svim su se tim prijevarama prevaranti našim modelima uglavnom služili za izradu i prevođenje korespondencije, stvaranje sadržaja za svoja web-mjesta i račune na društvenim mrežama te osnovna istraživanja.

U drugom smo slučaju blokirali prevarantski centar koji se vrlo vjerojatno nalazio u Mjanmaru, a naše je modele upotrebljavao i za izradu sadržaja za svoje prijevarne aktivnosti i za obavljanje svakodnevnih poslovnih zadataka. To je uključivalo organizaciju rasporeda, sastavljanje internih obavijesti, dodjelu radnih stolova i smještaja u spavaonicama te upravljanje financijskim računima. Neki su se operateri raspitivali o kaznama za osobe uhvaćene u provođenju internetskih prijevara.

Nisu svi prevaranti koje smo zaustavili upotrebljavali naše modele na isti način ni s istom razinom složenosti. Većina interakcija prevaranata s ChatGPT‑jem odnosila se na razmjerno jednostavne zadatke poput prevođenja, no neke su prevarantske operacije bile ambicioznije i razrađenije.

Primjerice, jedna prevarantska operacija koju smo zaustavili, a koja je vjerojatno potjecala iz Kambodže, upotrebljavala je naše modele za izradu detaljnih biografija lažnih investicijskih stručnjaka i izmišljenih zaposlenika lažnih trgovačkih društava. Prevaranti su zatim od ChatGPT‑ja tražili da piše poruke za društvene mreže u stilu tih likova. Zlonamjerni su akteri često u naš model unosili poruke koje su, čini se, primili od svojih meta i tražili od modela da nastavi razgovor u ulozi lažnog identiteta.

Druga prevarantska operacija, koja je također vjerojatno potjecala iz Kambodže, započela je upotrebom naših modela za izradu neželjenih SMS poruka koje su masovno slane na telefonske brojeve u SAD-u. Jedna od tih poruka poslana je istražitelju OpenAI-ja, slično slučaju o kojem smo izvijestili u lipnju. Te SMS poruke sadržavale su pozive za pridruživanje grupama na WhatsAppu, koje su poslije blokirane, a čiji su nazivi nalikovali nazivu legitimne investicijske tvrtke.

Sudeći prema nizu poruka na WhatsAppu poslanih istražitelju OpenAI-ja, potencijalna bi meta nakon pridruživanja jednoj od tih grupa ubrzo svjedočila „razgovoru” između šest različitih računa koji su svi govorili o ulaganju. Jedan se račun predstavljao kao „investicijski stručnjak”, a ostali kao ulagači različitih razina samopouzdanja i iskustva. Svaki dio tog razgovora generirali su prevaranti, koji su ga u jednom bloku preveli s kineskog, vjerojatno kako bi stvorili dojam živahne skupine predanih i uspješnih trgovaca. Na kraju bi „investicijski stručnjak” predložio meti da i ona pokuša ulagati.

Zasebno je jedna operacija investicijskih prijevara, koja je vrlo vjerojatno potjecala iz Nigerije, od modela tražila detaljne upute o tome kako oglasima na društvenim mrežama doprijeti do imućnih ljudi u Latinskoj Americi, prikriti svoju lokaciju i izbjeći ograničenja platformi društvenih mreža. To je uključivalo upućivanje modela na javno dostupne uvjete pružanja usluge određene platforme i traženje da provjeri je li predloženi sadržaj oglasa usklađen s njima.

Prevaranti su uporni, osobito veliki prevarantski centri. Na zaustavljanje vrlo često odgovaraju pokušajem ponovnog pokretanja aktivnosti kojima krše pravila, pritom mijenjajući neke obrasce ponašanja, vjerojatno kako bi izbjegli ponovno otkrivanje. To je jedan od razloga zbog kojih je važno na razini cijele industrije razmjenjivati spoznaje o razvoju njihovih aktivnosti, kao kada su OpenAI i Meta razmijenili informacije o zlonamjernim akterima, što je pridonijelo daljnjoj istrazi i provedbi mjera.

Možda kao odgovor na naša zaustavljanja ili na šire internetske rasprave o znakovima koji mogu odati upotrebu umjetne inteligencije, vidjeli smo kako prevaranti pokušavaju prikriti njezinu upotrebu u internetskom sadržaju i komunikaciji s metama. To uključuje prevarantske operacije koje su vjerojatno potjecale iz Kambodže i nalagale modelu da iz rezultata ukloni duge crtice.

U jednom su slučaju prevaranti pokušali objasniti opsežno uklanjanje svojih računa i drugog sadržaja na društvenim mrežama izmišljajući razlog zbog kojeg su blokirani. To se odnosilo na prethodno opisani prevarantski centar, vjerojatno iz Kambodže, koji je djelovao putem SMS-a i WhatsAppa. Nakon što je WhatsApp blokirao „investicijske grupe” povezane s tom operacijom, operateri su počeli generirati poruke u kojima su tvrdili da je konkurent lažno prijavio te grupe, vjerojatno kako bi opravdali blokade.

Snimka zaslona poruke na WhatsAppu koju je prevarantska operacija povezana s Kambodžom poslala istražitelju OpenAI-ja nakon što ju je WhatsApp uklonio.