Ljubavne prijevare: provedba ljubavnih prijevara uz pomoć AI-ja
OpenAI je blokirao račune koji su upotrebljavali AI za provedbu ljubavnih prijevara, uključujući uspostavljanje kontakta, prevođenje, komunikaciju sa žrtvama i mamljenje u investicijske prijevare.
Ova je studija slučaja izvorno objavljena u izvješću tvrtke OpenAI iz veljače 2026.(otvara se u novom prozoru) o suzbijanju zlonamjerne upotrebe AI-ja.
Otkad smo prije godinu dana(otvara se u novom prozoru) počeli izvještavati o suzbijanju prevarantskih mreža koje su pokušavale zloupotrijebiti naše modele, onemogućili smo brojne prevarantske operacije iz različitih dijelova svijeta. Među njima su bile prijevare sa „zadacima”, u kojima prevaranti uvjeravaju žrtve da uplate novac kako bi pristupile nepostojećoj zaradi za jednostavne zadatke, te investicijske prijevare, u kojima žrtve nagovaraju da ulože novac u nepostojeće investicijske tvrtke.
Ljubavne prijevare česte su još od vremena davno prije pojave AI-ja. U njima se prevaranti predstavljaju kao potencijalni ljubavni partneri i nastoje uvjeriti ciljanu osobu da je pronašla srodnu dušu, a zatim od nje traže sve više novca. Naše prvo izvješće o suzbijanju prijevara opisivalo je tek uspostavljenu kriminalnu operaciju u Kambodži koja je upotrebljavala ChatGPT za generiranje poruka za ljubavnu prijevaru, od kojih su neke širene društvenim mrežama. Otad smo onemogućili razne pokušaje ljubavnih prijevara. Kao što smo napisali u lipnju(otvara se u novom prozoru), ove i druge prijevare uglavnom slijede zajednički obrazac upotrebe AI-ja, koji dijelimo na uspostavljanje kontakta (obraćanje nepoznatoj osobi), emocionalni poticaj (pobuđivanje emocija) i prijevaru (izvlačenje novca).
Uspostavljanje kontakta (obraćanje nepoznatoj osobi): prevarant generira sadržaj osmišljen da privuče pozornost potencijalne žrtve obraćajući se njezinim interesima. Primjerice, prijevara tipa „klanje svinja” o kojoj smo izvijestili prošle godine često je ciljala Amerikance u četrdesetima koji rade u medicinskim strukama, odgovarajući na njihove objave o golfu na društvenim mrežama. Druge su operacije upotrebljavale neželjene SMS poruke, lažne ponude za posao ili, u našem najnovijem slučaju ljubavne prijevare (opisanom u nastavku), oglase na društvenim mrežama. U svakom su slučaju zlonamjerni akteri upotrebljavali ChatGPT za generiranje poruka koje bi mogle biti privlačnije i manje očito odavati da ih nije napisao izvorni govornik nego poruke u tradicionalnim prijevarama.
Početna poruka o golfu koju je mreža za prijevare tipa „klanje svinja”, o kojoj smo izvijestili 2025., poslala kao odgovor na objavu na Facebooku korisnika koji nije povezan s operacijom.
Emocionalni poticaj (pobuđivanje emocija): prevarant generira sadržaj osmišljen da u ciljanoj osobi izazove snažne emocije kako bi njome lakše manipulirao. U ljubavnim prijevarama cilj je navesti žrtvu da osjeti privlačnost prema prevarantu. U drugim se prijevarama može pokušati izazvati uzbuđenje zbog potencijalno unosnog posla, strah od propuštanja prilike ili zabrinutost zbog navodnih pravnih problema ili neplaćenog računa. Ponekad se emocionalni poticaj može uključiti već u prvu poruku kojom se uspostavlja kontakt.
Neželjena SMS poruka prevarantske operacije „Pogrešan broj”, koju smo razotkrili u lipnju 2025., s pojedinostima o nevjerojatno visokoj zaradi za malo rada, vjerojatno osmišljena da izazove „emocionalni poticaj”.
Prijevara (izvlačenje novca): prevarant generira sadržaj osmišljen da uvjeri ciljanu osobu da mu preda novac. Pritom se navode vrlo različiti razlozi. Primjerice, u ljubavnim prijevarama od žrtve se može tražiti da uloži u posao voljene osobe ili joj preda novac kako bi prebrodila financijsku krizu. U prijevarama sa „zadacima” žrtvama se govori da uplate novac kako bi mogle pristupiti (izmišljenom) novcu za koji vjeruju da su ga zaradile. U investicijskim prijevarama žrtve se nagovara da ulože novac u nepostojeće investicije.
Neželjena SMS poruka prevarantske operacije „Pogrešan broj”, koju smo razotkrili u lipnju 2025., s pojedinostima o nevjerojatno visokoj zaradi za malo rada, vjerojatno osmišljena da izazove „emocionalni poticaj”.
Kao što taj slijed pokazuje, mreža za širenje poruka ključna je sastavnica prijevara. Različite prevarantske operacije koje smo razotkrili slale su početne poruke SMS-om, putem aplikacija za šifrirano dopisivanje, objava na društvenim mrežama, internetskih oglasa ili kombinacijom svih tih kanala. Prijevare iz vremena prije AI-ja poznate su po upotrebi e-pošte(otvara se u novom prozoru), telefonskih poziva(otvara se u novom prozoru), pa čak i, u devetnaestom stoljeću, pisama(otvara se u novom prozoru) i telegrama(otvara se u novom prozoru). U mnogim se prijevarama poruke šalju masovno i bez odabira primatelja, no u nekima se, čini se, pokušava precizno odabrati ciljane osobe. Primjerice, prijevara tipa „klanje svinja” o kojoj smo izvijestili u veljači 2025.(otvara se u novom prozoru) bila je usmjerena na teme poput golfa; druga je ljubavna prijevara oglasima na društvenim mrežama ciljala mlade muškarce u Indoneziji; a u prijevarama s lažnim predstavljanjem kao slavne osobe(otvara se u novom prozoru) prevaranti se obično predstavljaju kao poznata osoba i zatim ciljaju skupine njezinih obožavatelja. Iako nepotpunost dokaza otežava pouzdanu usporedbu različitih prijevara koje smo onemogućili, procjenjujemo da odabrani način širenja poruka (primjerice, masovni ili ciljani) znatno utječe na uspješnost svake prijevare u dosezanju i iskorištavanju žrtava, neovisno o tome u kojoj se mjeri operacija služila AI-jem za različite svrhe.
