Operacija „Lažni svjedok“: Lažna služba za povrat novca koja se predstavlja kao nadležni organi
OpenAI je blokirao račune koji su vrlo vjerovatno potekli iz Kambodže i koristili AI da se lažno predstavljaju kao službe za povrat novca, advokatske kancelarije i organi vlasti, ciljajući žrtve prevara.
Ova studija slučaja prvobitno je objavljena u izvještaju kompanije OpenAI iz februara 2026.(otvara se u novom prozoru) o suzbijanju zlonamjerne upotrebe AI-ja.
Akter
Blokirali smo grupu računa na ChatGPT‑u koji su koristili naše modele da se predstavljaju kao izmišljene advokatske kancelarije, ali i kao stvarni advokati i američki organi za provođenje zakona, u prevari koja je žrtvama prevara obećavala povrat novca. Ova aktivnost je vrlo vjerovatno potekla iz Kambodže i podudara se s nedavnim javno objavljenim izvještajima o kriminalnim prevarantskim operacijama koje u toj zemlji vode kineski državljani.
Ponašanje
Putem tih računa ChatGPT je korišten kao podrška prevarantskoj operaciji koja je obećavala povrat novca izgubljenog u prevarama, a zasnivala se na lažnim advokatskim kancelarijama i predstavljanju kao subjekti od povjerenja, poput stvarnih advokata i FBI-jevog Centra za prijave internetskog kriminala (IC3).
1. Prvi kontakt: Prevaranti su koristili ChatGPT za izradu sadržaja koji je navodno dolazio od najmanje šest lažnih advokatskih kancelarija. Dio tog sadržaja zatim je objavljen putem računa na društvenim mrežama i internetskih oglasa koji su promovirali izmišljene usluge povrata novca izgubljenog u prevarama. Više pokazatelja iz javno dostupnih izvora upućivalo je na to da su kancelarije lažne: nije bilo dokaza da imaju licencu nadležne advokatske komore, koristile su neodgovarajuće internetske domene, u kontakt-podacima navodile naizgled nepostojeće adrese i upućivale ljude da se advokatima jave putem aplikacija za dopisivanje.
Prevaranti su koristili naše modele za generiranje sadržaja za društvene mreže kojim su promovirali lažne usluge povrata novca izgubljenog u prevarama.
2. Sticanje povjerenja: Prevaranti su pokušavali zadobiti povjerenje svojih meta generiranjem komentara koji su oponašali ton i profesionalnost advokata specijaliziranih za pomoć žrtvama prevara pri povratu izgubljenog novca. Generirali su sadržaj koji je navodno dolazio od osoba predstavljenih kao advokati. Neke od tih lažnih identiteta pronašli smo na raznim web-stranicama, gdje su njihove profilne slike očigledno bile preuzete s društvenih mreža ili generirane pomoću AI-ja. U nekim slučajevima prevarant je koristio iste identitete „advokata“ u više navodnih advokatskih kancelarija. Jedna od web-stranica koje smo pronašli lažno se predstavljala kao IC3.
Kontakt-podaci objavljeni na tim prevarantskim web-stranicama usmjeravali su posjetioce na aplikacije za privatno dopisivanje, poput Telegrama. U porukama namijenjenim metama, sastavljenim pomoću ChatGPT‑a, prevaranti su lažno tvrdili da djeluju pod nadzorom Međunarodnog krivičnog suda i navodili da neće naplaćivati naknade dok sav novac žrtve ne bude uspješno vraćen.
3. Izvlačenje novca: Prevaranti su pokušavali izvući novac od svojih meta tražeći naknade i depozite prije bilo kakvog „povrata novca“. To je uključivalo zahtjeve da mete plate „naknadu za uslugu“ od 15% prije nego što prime navodno vraćeni novac, uplate depozit za aktivaciju računa i plate „naknade za konsultacije“. Poruke koje su prevaranti sastavljali za svoje mete pomoću ChatGPT‑a sadržavale su upute za plaćanje kriptovalutama i dostavljanje snimaka ekrana s potvrdama transakcija kao dokazom o uplati.
Web-stranica povezana s ovom prevarom koja se lažno predstavlja kao FBI-jeva jedinica IC3. Klik na „Podnesite prijavu“ usmjeravao je posjetioce na račun na Telegramu s lažnim identitetom.
Realizacija
U ovoj operaciji naši modeli korišteni su kao podrška u više faza rada, poput generiranja promotivnog sadržaja za društvene mreže i poruka za prvi, neželjeni kontakt s metama. Ipak, prevaranti su ChatGPT najčešće koristili za prevođenje poruka koje su slali metama i primali od njih putem aplikacija za privatno dopisivanje, uključujući zahtjeve da napiše odgovor na „američkom engleskom“ ili u stilu advokata.
Dio prevarantskih računa koristio je naše modele i za izradu obmanjujućih materijala namijenjenih jačanju vjerodostojnosti. To je uključivalo lažne evidencije o registraciji advokata i lažne članske iskaznice advokatskih komora, kao i lažne ugovore o povjerljivosti kojima su žrtve odvraćali od traženja pomoći izvan tog kruga.
Lažna članska iskaznica Advokatske komore države New York, generirana pomoću naših modela. Dijelove su zacrnili istražitelji kompanije OpenAI.
Utjecaj
Pri procjeni utjecaja potreban je oprez jer su jedan od glavnih izvora dokaza unosi samih prevaranata. Ti unosi ukazuju na to da su prevaranti možda oštetili pojedinačne žrtve za hiljade dolara, ali te tvrdnje ne možemo nezavisno provjeriti. FBI i najmanje jedna advokatska kancelarija čiji je identitet zloupotrijebljen objavili su javna upozorenja o ovoj prevari. Zvaničnici FBI-ja upozorili su da operacija cilja ranjive grupe, posebno starije osobe, iskorištavajući emocionalno stanje žrtava prevara i njihovu želju da brzo vrate izgubljeni novac.
Pravila kompanije OpenAI strogo zabranjuju korištenje sadržaja koji generiraju naši alati za prevare. Posvećeni smo saradnji s drugim kompanijama u industriji i nadležnim organima kako bismo razumjeli kako AI utječe na ponašanje zlonamjernih aktera i aktivno suzbijali prevarantske aktivnosti koje zloupotrebljavaju naše usluge.