Operacija „Lažni svjedok”: lažna služba za povrat novca koja se predstavlja kao nadležno tijelo
OpenAI je zabranio račune koji su vrlo vjerojatno potjecali iz Kambodže i koristili AI za lažno predstavljanje kao službe za povrat novca, odvjetnički uredi i nadležna tijela, ciljajući žrtve prijevara.
Ova studija slučaja izvorno je objavljena u izvješću tvrtke OpenAI iz veljače 2026.(otvara se u novom prozoru) o suzbijanju zlonamjerne upotrebe AI-ja.
Akter
Zabranili smo skupinu računa na ChatGPT‑ju koji su koristili naše modele za predstavljanje kao izmišljeni odvjetnički uredi te lažno predstavljanje kao stvarni odvjetnici i američka tijela za provedbu zakona, u prijevari s povratom novca usmjerenoj na žrtve prijevara. Ta je aktivnost vrlo vjerojatno potjecala iz Kambodže i podudara se s nedavnim javno dostupnim izvješćima o kriminalnim prevarantskim operacijama pod kineskim vodstvom u toj zemlji.
Način djelovanja
Ti su računi koristili ChatGPT za potporu prijevarnoj operaciji koja je nudila povrat novca izgubljenog u prijevarama. Operacija se temeljila na lažnim odvjetničkim uredima i lažnom predstavljanju kao subjekti od povjerenja, poput stvarnih odvjetnika i FBI-jeva Centra za prijavu internetskog kriminala (IC3).
1. Uspostavljanje kontakta: Prevaranti su koristili ChatGPT za izradu sadržaja koji je navodno potjecao od najmanje šest lažnih odvjetničkih ureda. Dio tog sadržaja zatim je objavljen na računima na društvenim mrežama i u internetskim oglasima koji su promicali izmišljene usluge povrata novca izgubljenog u prijevarama. Više pokazatelja iz otvorenih izvora upućivalo je na to da su uredi lažni: nije bilo dokaza o odobrenjima nadležnih odvjetničkih komora, upotrebljavale su se web-domene koje nisu odgovarale tim uredima, u podacima za kontakt bile su navedene naizgled nepostojeće adrese, a korisnike se upućivalo da odvjetnike kontaktiraju putem aplikacija za razmjenu poruka.
Prevaranti su koristili naše modele za generiranje sadržaja za društvene mreže kojim su promicali lažne usluge povrata novca izgubljenog u prijevarama.
2. Stjecanje povjerenja: Prevaranti su pokušavali zadobiti povjerenje svojih meta generiranjem komentara koji su nastojali oponašati ton i profesionalnost odvjetnika specijaliziranih za pomoć žrtvama prijevara pri povratu izgubljenog novca. Generirali su sadržaj koji je navodno potjecao od osoba s izmišljenim odvjetničkim identitetima. Neke od tih identiteta pronašli smo na raznim web-stranicama, gdje su njihove profilne fotografije naizgled bile preuzete s društvenih mreža ili generirane AI-jem. U nekim je slučajevima prevarant upotrebljavao iste identitete „odvjetnika” u više navodnih odvjetničkih ureda. Jedna od web-stranica koje smo pronašli lažno se predstavljala kao IC3.
Podaci za kontakt objavljeni na tim različitim prevarantskim web-stranicama upućivali su posjetitelje na aplikacije za privatnu razmjenu poruka, poput Telegrama. U porukama metama sastavljenima uz pomoć ChatGPT‑ja prevaranti su lažno tvrdili da djeluju pod nadzorom Međunarodnog kaznenog suda te da neće naplatiti nikakve naknade dok sav novac žrtve ne bude uspješno vraćen.
3. Izvlačenje novca: Prevaranti su pokušavali izvući novac od svojih meta tražeći naknade i pologe prije bilo kakvog „povrata”. To je uključivalo zahtjeve da mete plate „naknadu za uslugu” od 15 % prije nego što prime navodno vraćena sredstva, uplate polog za aktivaciju računa te plate „naknade za savjetovanje”. Poruke koje su prevaranti sastavljali uz pomoć ChatGPT‑ja i slali svojim metama sadržavale su upute za plaćanje kriptovalutama i dostavu snimki zaslona s potvrdama transakcija kao dokaza o uplati.
Web-stranica povezana s ovom prijevarom koja se lažno predstavlja kao FBI-jeva jedinica IC3. Klikom na „Podnesite prijavu” posjetitelji su preusmjeravani na račun na Telegramu koji se lažno predstavlja.
Provedba
U operaciji su naši modeli služili kao potpora u više dijelova procesa, primjerice za generiranje promotivnog sadržaja za društvene mreže i neželjenih poruka za prvi kontakt s metama. Ipak, prevaranti su ChatGPT najčešće koristili za prevođenje poruka koje su slali metama i primali od njih u aplikacijama za privatnu razmjenu poruka, uključujući zahtjeve za pisanje odgovora na „američkom engleskom” ili u stilu odvjetnika.
Dio prevarantskih računa koristio je naše modele i za izradu obmanjujućih materijala kojima su nastojali povećati svoju vjerodostojnost. To je uključivalo lažne potvrde o upisu u imenik odvjetnika i lažne članske iskaznice odvjetničkih komora, kao i lažne ugovore o povjerljivosti kojima su žrtve nastojali odvratiti od traženja pomoći sa strane.
Lažna članska iskaznica Odvjetničke komore savezne države New York, generirana našim modelima. Dijelove sadržaja prekrili su istražitelji tvrtke OpenAI.
Učinak
Učinak treba procjenjivati oprezno jer su jedan od glavnih izvora dokaza sami unosi prevaranata. Ti unosi upućuju na to da su prevaranti pojedinačne žrtve možda oštetili za tisuće dolara, ali te tvrdnje ne možemo neovisno provjeriti. FBI i najmanje jedan odvjetnički ured čiji je identitet zloupotrijebljen izdali su javna upozorenja o toj prijevari. Dužnosnici FBI-ja upozorili su da operacija cilja ranjive skupine, osobito starije osobe, iskorištavajući emocionalno stanje žrtava prijevara i njihovu želju da brzo vrate izgubljeni novac.
Pravila tvrtke OpenAI strogo zabranjuju upotrebu sadržaja generiranog našim alatima za prijevare. Predani smo suradnji s drugim tvrtkama u industriji i nadležnim tijelima kako bismo razumjeli kako AI utječe na ponašanje zlonamjernih aktera te aktivno suzbijali prevarantske aktivnosti koje zloupotrebljavaju naše usluge.