Operacija „Ljubavni mamac“: Prevara uz pomoć AI-ja usmjerena na osobe u potrazi za ljubavlju

Ova studija slučaja prvobitno je objavljena u izvještaju kompanije OpenAI iz februara 2026.⁠(otvara se u novom prozoru) o suzbijanju zlonamjerne upotrebe umjetne inteligencije.

Blokirali smo grupu ChatGPT računa i jednog korisnika API-ja koji su naše modele koristili za poluautomatiziranu prevaru zasnovanu na romantičnim vezama i izvršavanju zadataka, kojom su vjerovatno varali stotine žrtava mjesečno. Ova aktivnost vrlo je vjerovatno potjecala iz Kambodže i podudara se s nedavnim javnim izvještajima⁠(otvara se u novom prozoru) o kriminalnim prevarantskim operacijama pod kineskim vodstvom u toj zemlji. U pojedinačnim slučajevima korisnici su sami navodili da rade na prevarama u Kambodži, naprimjer kada su od modela tražili porezni savjet i kao zanimanje naveli „prevarant“.

Mreža je koristila ChatGPT i pristup našim modelima putem API-ja za provođenje opsežne, poluautomatizirane prevare zasnovane na romantičnim vezama i izvršavanju zadataka, uz strukturiran tok rada i operativni model nalik prodajnim programima koji se oslanjaju na kontaktiranje potencijalnih kupaca bez prethodnog odnosa.

1. Prvi kontakt: U početnoj fazi privlačenja žrtava, operacija je koristila svoje ChatGPT račune za generiranje promotivnih tekstova za luksuznu uslugu upoznavanja i poslovne pratnje pod nazivom „Romantični klub“. Ti tekstovi su zatim objavljivani na društvenim mrežama kao plaćeni oglasi. Prevaranti su ciljali muškarce iz Indonezije zainteresirane za sadržaje o luksuznom načinu života, koristeći ključne riječi u oglasima poput „golf“, „jahte“ i „vrhunska gastronomija“. Oglasi su sadržavali linkove do AI chatbota kojem je naloženo da se predstavlja kao recepcionerka sklona flertu. Navodna recepcionerka tražila je od potencijalnih žrtava da s ponuđene liste odaberu tipove žena i veza, a zatim ih usmjeravala na Telegram pomoću URL-a za praćenje i promotivnog kȏda.

2. Zavođenje: Nakon prelaska na Telegram, operacija je kombinirala rad ljudskih operatera koji su koristili ChatGPT s automatizacijom putem API-ja. Lažne recepcionerke nastavljale su razgovor sve romantičnijim i seksualno eksplicitnijim jezikom, a zatim potencijalnim žrtvama nudile da se pridruže platformama za upoznavanje putem interneta pod nazivima „Ljubavni kod“ i „Seksualna akcija“. Platforma je prikazivala profile navodno „dostupnih djevojaka“ i niz objava generiranih pomoću AI-ja u kojima se izmišljenim klijentima čestitalo na završenim „misijama“, otključanim bonusima i osvojenim nagradama.

Nakon što bi stekla povjerenje, lažna recepcionerka prepuštala je razgovor „mentoru“, koji je koristio ChatGPT za generiranje i prevođenje emocionalno manipulativnih poruka kojima je vršio pritisak na potencijalne žrtve da izvrše niz „zadataka“ ili „misija“. Svaki naredni zadatak zahtijevao je sve veće uplate putem bankovnih transfera ili digitalnih novčanika, naprimjer za kupovinu „VIP kartice“, podršku „odabranoj djevojci“ na takmičenju ili plaćanje hotelskog depozita. Slika lažne recepcionerke platforme za upoznavanje „Ljubavni kod“, koju je prevarant izradio pomoću ChatGPT‑a.

3. Izvlačenje novca: U završnoj fazi prevaranti su pokušavali naplatiti veći iznos, koji su nazivali „konačnim ulovom“, izmišljajući dodatne naknade poput „odštetnih poravnanja“ ili „depozita za verifikaciju“. Sudeći prema porukama koje su prevaranti lijepili u ChatGPT, nakon što bi žrtva poslala najveći mogući iznos, blokirali bi je na Telegramu i označili slučaj kao zatvoren. Kopija pisma koje je prevarant podijelio s ChatGPT‑om, u kojem žrtvi poručuje da mora platiti 20.500.000 Rp (12.000 USD) radi ispravljanja izmišljene greške u obradi podataka u sistemu Ljubavni kod, ali da će dobiti „bonus“ od 35% u iznosu od 39.860.000 Rp. Dijelove teksta zacrnili su istražitelji kompanije OpenAI.

Osim za ljubavne prevare, operacija je naše modele koristila i kao pomoć u svakodnevnom poslovanju. To je uključivalo traženje uputa od ChatGPT‑a za obavljanje tehničkih zadataka, poput integracije OpenAI API-ja ili ažuriranja web-stranice lažne usluge za upoznavanje, analizu finansijskih računa i izradu dnevnih izvještaja u kojima je svakoj potencijalnoj žrtvi dodjeljivana vrijednost „konačnog ulova“ koju su prevaranti izračunavali — procijenjeni iznos koji su namjeravali izvući na kraju.

U drugim slučajevima prevaranti su tražili od ChatGPT‑a da prevodi poruke između nadređenih koji govore kineski i radnika u prevarantskim centrima koji govore indonezijski, kao i da prati učinak odjela pod nazivima „Pronalaženje potencijalnih žrtava“, „Tim za prijem“ i „Tim nadzornika“.

Procjeni utjecaja ove mreže treba pristupiti oprezno. Naš glavni izvor dokaza su podaci koje su unosili sami prevaranti. Ti podaci ukazuju na to da su prevaranti možda istovremeno komunicirali sa stotinama potencijalnih žrtava i zarađivali hiljade dolara dnevno. Međutim, nismo u mogućnosti nezavisno provjeriti jesu li te tvrdnje bile tačne.

Pravila kompanije OpenAI strogo zabranjuju korištenje sadržaja koji generiraju naši alati za prevare ili obmane. Posvećeni smo saradnji s drugim kompanijama u industriji i nadležnim organima kako bismo razumjeli kako umjetna inteligencija utječe na zlonamjerno ponašanje i aktivno suzbijali prevarantske aktivnosti u kojima se zloupotrebljavaju naše usluge.