Prevarantske operacije: mreže internetskih prevara

Ova studija slučaja prvobitno je objavljena u OpenAI-jevom izvještaju za oktobar 2025.⁠(otvara se u novom prozoru) godine.

Mreže koje vjerovatno potječu iz Kambodže, Mjanmara i Nigerije zloupotrebljavaju ChatGPT u pokušajima prevare ljudi na internetu.

Posvećeni smo otkrivanju, sprečavanju i suzbijanju pokušaja zloupotrebe naših modela u štetne svrhe. Među tim zloupotrebama su prevare, pri čemu otkrivamo i blokiramo zlonamjerne aktere koji pokušavaju zloupotrijebiti naše modele kako bi obmanuli i prevarili ljude. U posljednja tri mjeseca suzbili smo mreže prevaranata koje su vjerovatno potekle iz Kambodže, Mjanmara i Nigerije. Kao pokazatelj uloge koju umjetna inteligencija može imati u borbi protiv prevara, tokom istraživanja ovih obrazaca zloupotrebe vidjeli smo i mnogo ljudi koji koriste naše modele kako bi lakše prepoznali prevare. Ovaj izvještaj razmatra oba načina upotrebe.

Zloupotreba naših modela za prevare kreće se od pojedinaca koji pokušavaju počiniti prevaru do velikih i upornih operacija koje su vjerovatno povezane s organizovanim kriminalnim grupama. Bez obzira na porijeklo i konkretne taktike, aktivnosti povezane s prevarama koje smo suzbili obično slijede isti obrazac: javljanje (neželjeno obraćanje), izazivanje uzbuđenja ili panike te izvlačenje novca ili vrijednih informacija.

Ovi prevaranti počinju širenjem sadržaja, bilo da ga je generisala umjetna inteligencija ili ne, putem servisa za razmjenu poruka i interneta, uključujući oglase na društvenim mrežama. Zatim kod svakoga ko odgovori pokušavaju izazvati oduševljenje unosnom prilikom ili strah od neposrednog finansijskog gubitka te tu emociju iskoristiti da metu uvjere da im preda novac ili osjetljive podatke.

Uočili smo i brojne slučajeve u kojima su naši modeli vjerovatno pomogli zaštititi ljude od prevara. Vidjeli smo dokaze da ljudi koriste ChatGPT kako bi prepoznali i izbjegli internetske prevare milionima puta mjesečno. U svakoj prevarantskoj operaciji iz ovog izvještaja model je pomogao ljudima da ispravno prepoznaju prevaru i savjetovao ih o odgovarajućim sigurnosnim mjerama. Trenutno procjenjujemo da se ChatGPT koristi za prepoznavanje prevara do tri puta češće nego za njihovo provođenje.

Primjer istraživača iz OpenAI-ja koji je u ChatGPT unio snimak ekrana primljene prevarantske SMS poruke i pomoću modela uspješno utvrdio da je riječ o prevari. U ovom slučaju akteri prijetnje pokušali su se predstaviti kao TikTokovi regruteri.

Od posljednjeg izvještaja dodatno smo ojačali vlastitu sposobnost otkrivanja i suzbijanja prevara. Suzbili smo dodatne mreže prevaranata za koje se čini da potječu iz Kambodže, Mjanmara i Nigerije. Zajedno s našim ranijim intervencijama, ova gašenja omogućavaju nam da prepoznamo nove trendove u više prevarantskih operacija iz različitih zemalja.

Većina prevarantskih aktivnosti koje smo suzbili bila je usmjerena na uklapanje umjetne inteligencije u postojeće obrasce prevare, a ne na stvaranje novih obrazaca zasnovanih na njoj. Sve prevarantske operacije koje smo ove godine otkrili i blokirali prvenstveno su koristile umjetnu inteligenciju kao alat za povećanje obima i efikasnosti. To je obično podrazumijevalo korištenje naših modela za prevođenje, pisanje poruka i izradu sadržaja za društvene mreže.

Naprimjer, nedavno smo blokirali prevarantske operacije koje vjerovatno potječu iz Kambodže i Nigerije, a koje su se predstavljale kao „investicijske firme“ kako bi prevarile žrtve u više zemalja. Prevaranti su izradili web-stranice i internetske oglase radi promoviranja lažnih firmi te su, koristeći vjerovatno lažne naloge na društvenim mrežama predstavljene kao stručnjaci za trgovanje, pozivali ljude da se pridruže privatnim grupama za razmjenu poruka. Obećavajući unosne prilike za zaradu bez rizika, akteri prijetnje zatim su pokušavali navesti potencijalne žrtve da uplate novac na izmišljene platforme za trgovanje. U svim tim prevarama počinioci su naše modele prvenstveno koristili za pisanje i prevođenje prepiske, izradu sadržaja za svoje web-stranice i naloge na društvenim mrežama te provođenje osnovnih istraživanja.

U drugom slučaju blokirali smo centar za prevare koji se gotovo sigurno nalazi u Mjanmaru, a naše modele koristio je i za izradu sadržaja za svoje prevarantske aktivnosti i za svakodnevne poslovne zadatke. To je uključivalo organizovanje rasporeda, sastavljanje internih obavještenja, raspoređivanje radnih stolova i smještaja u spavaonicama te upravljanje finansijskim računima. Neki operateri raspitivali su se o krivičnim sankcijama za osobe uhvaćene u provođenju internetskih prevara.

Nisu svi prevaranti koje smo zaustavili koristili naše modele na isti način niti s istim stepenom složenosti. Većina interakcija prevaranata s ChatGPT‑jem odnosila se na relativno jednostavne zadatke poput prevođenja, ali neke prevarantske operacije bile su ambicioznije i složenije.

Naprimjer, jedna prevarantska operacija koju smo suzbili, a koja je vjerovatno potekla iz Kambodže, koristila je naše modele za izradu detaljnih biografija lažnih investicijskih stručnjaka i izmišljenih zaposlenika lažnih trgovačkih firmi. Prevaranti su zatim od ChatGPT‑ja tražili da piše poruke za društvene mreže oponašajući način izražavanja tih likova. Akteri prijetnje često su u naš model unosili poruke koje su, kako se čini, primili od svojih meta i tražili od modela da nastavi razgovor u ulozi lažne osobe.

Druga prevarantska operacija, također vjerovatno iz Kambodže, započela je korištenjem naših modela za izradu neželjenih SMS poruka koje su masovno slane na telefonske brojeve u SAD-u. Jedna od tih poruka poslana je istraživaču iz OpenAI-ja, slično slučaju o kojem smo izvijestili u junu. Te SMS poruke sadržavale su pozive za pridruživanje WhatsApp grupama, koje su naknadno blokirane, a čiji su nazivi podsjećali na legitimnu investicijsku firmu.

Sudeći prema nizu WhatsApp poruka poslanih istraživaču iz OpenAI-ja, potencijalna meta koja bi se pridružila jednoj od tih grupa ubrzo bi svjedočila „razgovoru“ između šest različitih naloga koji su svi govorili o ulaganju. Jedan od njih predstavljao se kao „investicijski stručnjak“, dok su se ostali predstavljali kao ulagači s različitim nivoima samopouzdanja i iskustva. Svaki dio ovog razgovora generisali su prevaranti, koji su ga u jednom bloku preveli s kineskog, vjerovatno kako bi stvorili dojam živahne grupe motivisanih i uspješnih trgovaca. Na kraju bi „investicijski stručnjak“ predložio meti da i ona pokuša ulagati.

Zasebno od toga, operacija investicijske prevare koja je gotovo sigurno potekla iz Nigerije tražila je od modela detaljna uputstva o tome kako pomoću oglasa na društvenim mrežama doprijeti do bogatih ljudi u Latinskoj Americi, prikriti svoju lokaciju i izbjeći ograničenja platformi društvenih mreža. To je uključivalo upućivanje modela na javno dostupne uslove korištenja platforme i zahtjev da provjeri usklađenost predloženog sadržaja oglasa.

Prevaranti, naročito veliki centri za prevare, veoma su uporni. Na suzbijanje njihovih aktivnosti vrlo često odgovaraju pokušajem ponovnog pokretanja aktivnosti kojima krše pravila, uz promjenu pojedinih elemenata ponašanja, vjerovatno kako bi izbjegli ponovno otkrivanje. To je jedan od razloga zbog kojih je važno u cijeloj industriji razmjenjivati saznanja o razvoju njihovih aktivnosti, kao kada su OpenAI i Meta razmijenili informacije o akterima prijetnji koje su doprinijele daljnjoj istrazi i provedbi mjera.

Možda kao odgovor na suzbijanje njihovih aktivnosti ili šire internetske rasprave o znakovima koji mogu otkriti upotrebu umjetne inteligencije, vidjeli smo kako prevaranti pokušavaju prikriti njenu upotrebu u internetskom sadržaju i komunikaciji s metama. To uključuje prevarantske operacije koje vjerovatno potječu iz Kambodže i koje su modelu nalagale da iz rezultata ukloni duge crtice.

U jednom slučaju prevaranti su pokušali objasniti gašenje velikog broja svojih naloga na društvenim mrežama izmišljajući opravdanje za njihovo blokiranje. To se odnosilo na prethodno opisani centar za prevare koji je vjerovatno potekao iz Kambodže i djelovao putem SMS-a i WhatsAppa. Nakon što je WhatsApp blokirao „investicijske grupe“ povezane s tom operacijom, operateri su počeli generisati poruke u kojima se tvrdilo da je konkurent lažno prijavio te grupe, vjerovatno kako bi opravdali blokiranje.

Snimak ekrana WhatsApp poruke koju je prevarantska operacija povezana s Kambodžom poslala istraživaču iz OpenAI-ja nakon što je WhatsApp ugasio njene grupe.