Operacija „Ljubavni mamac”: prijevara uz pomoć AI-ja usmjerena na osobe koje traže ljubav

Ova je studija slučaja izvorno objavljena u izvješću tvrtke OpenAI iz veljače 2026.⁠(otvara se u novom prozoru) o suzbijanju zlonamjerne upotrebe AI-ja.

Blokirali smo skupinu računa za ChatGPT i jednog korisnika API-ja koji su se služili našim modelima za provedbu poluautomatizirane prijevare koja je spajala ljubavne prijevare i prijevare sa zadacima te vjerojatno oštećivala stotine žrtava mjesečno. Ta je aktivnost vrlo vjerojatno potjecala iz Kambodže i podudara se s nedavnim javnim izvješćima⁠(otvara se u novom prozoru) o kriminalnim prevarantskim operacijama u toj zemlji pod kineskim vodstvom. U pojedinačnim su slučajevima korisnici sami navodili da rade na prijevarama u Kambodži, primjerice kada su od modela tražili porezne savjete i kao zanimanje naveli „prevarant”.

Mreža je upotrebljavala ChatGPT i pristup našim modelima putem API-ja za provedbu opsežne, poluautomatizirane prijevare koja je spajala ljubavne prijevare i prijevare sa zadacima. Pritom je slijedila strukturirani tijek rada i operativni model nalik prodajnim programima koji se temelje na kontaktiranju nepoznatih potencijalnih kupaca.

1. Uspostavljanje kontakta: U početnoj fazi privlačenja potencijalnih žrtava operacija je upotrebljavala svoje račune za ChatGPT za generiranje promotivnih tekstova za luksuznu uslugu upoznavanja i pratnje pod nazivom „Romantični klub”. Ti su tekstovi zatim objavljivani na društvenim mrežama kao plaćeni oglasi. Prevaranti su ciljali indonezijske muškarce zainteresirane za sadržaje o luksuznom načinu života, služeći se oglasnim ključnim riječima poput „golf”, „jahte” i „vrhunska gastronomija”. Oglasi su sadržavali poveznice na AI chatbot kojem je zadano da se predstavlja kao koketna recepcionarka. Navodna recepcionarka tražila je od ciljanih osoba da s popisa odaberu tip žene i veze, a zatim ih usmjeravala na Telegram putem URL-a za praćenje i uz promotivni kȏd.

2. Emocionalni poticaj: Na Telegramu je operacija kombinirala rad ljudi koji su se služili ChatGPT‑jem s automatizacijom putem API-ja. Lažne recepcionarke nastavile su razgovor sve romantičnijim i seksualno eksplicitnijim jezikom, a zatim ciljanim osobama ponudile da se pridruže internetskim platformama za upoznavanje pod nazivima „Ljubavni kod” i „Seksualna akcija”. Platforma je prikazivala profile navodnih „dostupnih djevojaka” i niz objava generiranih AI-jem u kojima se izmišljenim klijentima čestitalo na dovršavanju „misija”, otključavanju bonusa i osvajanju nagrada.

Nakon što bi stekla povjerenje, lažna recepcionarka predala bi razgovor „mentoru”, koji je upotrebljavao ChatGPT za generiranje i prevođenje emocionalno manipulativnih poruka kojima je pritiskao ciljane osobe da dovrše niz „zadataka” ili „misija”. Svaki sljedeći zadatak zahtijevao je sve veće uplate bankovnim prijenosima ili digitalnim novčanicima, primjerice za kupnju „VIP kartice”, podršku „odabranoj djevojci” u natjecanju ili plaćanje hotelskog pologa. Slika lažne recepcionarke platforme za upoznavanje „Ljubavni kod”, koju je prevarant izradio uz pomoć ChatGPT‑ja.

3. Prijevara: U završnoj fazi prevaranti su pokušavali izvući veću uplatu, koju su nazivali „konačnim plijenom”, izmišljajući dodatne naknade poput „odštetnih nagodbi” ili „pologa za provjeru”. Sudeći prema porukama koje su prevaranti lijepili u ChatGPT, nakon što bi žrtva poslala najveći mogući iznos, blokirali bi je na Telegramu i označili slučaj kao zatvoren. Preslika pisma koje je prevarant podijelio s ChatGPT‑jem, u kojem žrtvi govori da mora platiti 20.500.000 Rp (12.000 USD) radi ispravka izmišljene pogreške u obradi podataka u sustavu Ljubavni kod, ali da će dobiti „bonus” od 35 % u iznosu od 39.860.000 Rp. Osjetljive podatke prekrili su istražitelji tvrtke OpenAI.

Osim za ljubavne prijevare, operacija je upotrebljavala naše modele i kao pomoć u svakodnevnom poslovanju. To je uključivalo traženje uputa od ChatGPT‑ja za tehničke zadatke, poput integracije API-ja tvrtke OpenAI ili ažuriranja web-stranice lažne usluge za upoznavanje, analizu financijskih računa i izradu dnevnih izvješća u kojima se svakoj ciljanoj osobi dodjeljivao iznos „konačnog plijena” koji su izračunali prevaranti – procjena iznosa koji žele izvući u završnom koraku.

U drugim su slučajevima prevaranti od ChatGPT‑ja tražili da prevodi poruke između nadređenih koji govore kineski i radnika u prevarantskom centru koji govore indonezijski te da prati učinak odjela nazvanih „Pronalaženje potencijalnih klijenata”, „Recepcijski tim” i „Nadzorni tim”.

Učinak ove mreže potrebno je procjenjivati oprezno. Naš su glavni izvor dokaza unosi samih prevaranata. Ti unosi upućuju na to da su prevaranti možda istodobno komunicirali sa stotinama potencijalnih žrtava i ostvarivali tisuće dolara dnevno. Međutim, ne možemo neovisno provjeriti jesu li te tvrdnje točne.

Pravila tvrtke OpenAI strogo zabranjuju upotrebu sadržaja dobivenog našim alatima za obmane ili prijevare. Predani smo suradnji s drugim tvrtkama u industriji i nadležnim tijelima kako bismo razumjeli kako AI utječe na ponašanje zlonamjernih aktera te aktivno suzbijali prevarantske aktivnosti koje zloupotrebljavaju naše usluge.