Ljubavne prevare: Provođenje ljubavnih prevara uz pomoć AI-ja
OpenAI je blokirao račune koji su koristili AI za provođenje ljubavnih prevara, uključujući uspostavljanje kontakta, prevođenje, komunikaciju sa žrtvama i mamce za investicijske prevare.
Ova studija slučaja prvobitno je objavljena u izvještaju kompanije OpenAI iz februara 2026.(otvara se u novom prozoru) o suzbijanju zlonamjerne upotrebe AI-ja.
Otkako smo prije godinu dana(otvara se u novom prozoru) počeli izvještavati o suzbijanju prevarantskih mreža koje su pokušavale zloupotrijebiti naše modele, ugasili smo brojne prevarantske operacije iz različitih dijelova svijeta. Među njima su bile prevare sa „zadacima“, u kojima se žrtve uvjeravaju da uplate novac kako bi pristupile nepostojećoj zaradi od jednostavnih zadataka, te investicijske prevare, u kojima se žrtve navode da ulože novac u nepostojeće investicijske kompanije.
Jedna od čestih vrsta prevara, prisutna mnogo prije pojave AI-ja, jeste ljubavna prevara. Prevaranti se predstavljaju kao potencijalni ljubavni partneri i pokušavaju uvjeriti metu da je pronašla srodnu dušu, a zatim od nje traže sve više novca. Naš prvi objavljeni slučaj suzbijanja prevare odnosio se na tek pokrenutu kriminalnu operaciju u Kambodži koja je koristila ChatGPT za generiranje poruka za ljubavnu prevaru, od kojih su neke širene na društvenim mrežama. Od tada smo osujetili razne pokušaje ljubavnih prevara. Kao što smo pisali u junu(otvara se u novom prozoru), ove i druge prevare uglavnom slijede zajednički obrazac upotrebe AI-ja, koji opisujemo kroz tri koraka: kontakt (obraćanje nepoznatoj osobi), emocija (izazivanje osjećaja) i udarac (izvlačenje novca).
Kontakt (obraćanje nepoznatoj osobi): prevarant generira sadržaj osmišljen da privuče pažnju potencijalne mete tako što se dotiče njenih interesovanja. Naprimjer, prevara tipa „klanje svinja“ o kojoj smo izvijestili prošle godine često je ciljala Amerikance u četrdesetim godinama koji rade u medicinskim strukama, odgovarajući na njihove objave o golfu na društvenim mrežama. Druge operacije koristile su neželjene SMS poruke, lažne ponude za posao ili, u našem najnovijem slučaju ljubavne prevare (opisanom u nastavku), oglase na društvenim mrežama. U svakom od tih slučajeva zlonamjerni akteri koristili su ChatGPT za generiranje poruka koje bi mogle biti privlačnije i u kojima bi, za razliku od tradicionalnih prevara, bilo manje očigledno da ih nije napisao izvorni govornik.
Početni kontakt na temu golfa iz mreže za prevare tipa „klanje svinja“, o kojoj smo izvijestili 2025. godine, kao odgovor na Facebook objavu korisnika koji nije povezan s tom operacijom.
Emocija (izazivanje osjećaja): prevarant generira sadržaj osmišljen da kod mete izazove snažne emocije i tako olakša manipulaciju njome. Cilj ljubavnih prevara je da meta osjeti privlačnost prema prevarantu. Druge prevare mogu pokušati kod mete izazvati uzbuđenje zbog potencijalno unosnog posla, strah od propuštanja prilike ili zabrinutost zbog navodnog pravnog rizika ili neplaćenog računa. Ponekad se emocija izaziva već u poruci kojom se uspostavlja kontakt.
Neželjeni SMS iz prevarantske operacije „Pogrešan broj“, koju smo razotkrili u junu 2025. godine, s navodima o nevjerovatno visokoj zaradi uz malo rada, vjerovatno osmišljen da izazove snažne emocije.
Udarac (izvlačenje novca): prevarant generira sadržaj osmišljen da uvjeri metu da preda novac. Navedeni razlozi mogu biti veoma različiti. Naprimjer, u ljubavnim prevarama od mete se može tražiti da uloži u posao voljene osobe ili da joj da novac kako bi prebrodila finansijsku krizu. U prevarama sa „zadacima“ metama se govori da uplate novac kako bi pristupile (izmišljenoj) zaradi za koju vjeruju da su je ostvarile. U investicijskim prevarama mete se navode da ulože novac u nepostojeće investicije.
Neželjeni SMS iz prevarantske operacije „Pogrešan broj“, koju smo razotkrili u junu 2025. godine, s navodima o nevjerovatno visokoj zaradi uz malo rada, vjerovatno osmišljen da izazove snažne emocije.
Kao što ovaj slijed pokazuje, mreža za širenje poruka ključni je dio prevara. Različite prevarantske operacije koje smo razotkrili slale su početne poruke putem SMS-a, aplikacija za šifriranu razmjenu poruka, objava na društvenim mrežama, internetskih oglasa ili kombinacijom svih tih kanala. Prevare iz vremena prije AI-ja poznate su po upotrebi e-pošte(otvara se u novom prozoru), telefonskih poziva(otvara se u novom prozoru), pa čak i, u devetnaestom stoljeću, pisama(otvara se u novom prozoru) i telegrama(otvara se u novom prozoru). Mnoge prevare poruke šalju nasumično i masovno, ali čini se da neke pokušavaju precizno odabrati mete. Naprimjer, prevara tipa „klanje svinja“ o kojoj smo izvijestili u februaru 2025.(otvara se u novom prozoru) bila je usmjerena na teme poput golfa; druga ljubavna prevara koristila je oglase na društvenim mrežama kako bi ciljala mlade muškarce u Indoneziji; a u prevarama s lažnim predstavljanjem kao poznate osobe(otvara se u novom prozoru) prevaranti se obično predstavljaju kao slavna osoba, a zatim ciljaju grupe njenih obožavatelja. Iako nepotpunost dokaza otežava pouzdano poređenje različitih prevara koje smo suzbili, procjenjujemo da odabrani način širenja poruka (npr. nasumično ili ciljano) značajno utiče na sposobnost svake prevare da uspješno dopre do svojih meta i iskoristi ih, bez obzira na to u kojoj je mjeri operacija koristila AI za različite funkcije.
