Ljubezenske prevare: izvajanje ljubezenskih prevar s pomočjo UI

Ta študija primera je bila prvotno objavljena v poročilu družbe OpenAI iz februarja 2026⁠(odpre se v novem oknu) o preprečevanju zlonamerne uporabe UI.

Odkar smo pred enim letom⁠(odpre se v novem oknu) začeli poročati o ukrepih proti prevarantskim mrežam, ki so poskušale zlorabiti naše modele, smo onemogočili številne prevarantske operacije iz različnih delov sveta. Med njimi so bile prevare z »nalogami«, pri katerih žrtve prepričajo, da morajo vplačati denar za dostop do neobstoječega zaslužka za preproste naloge, in naložbene prevare, pri katerih žrtve prepričajo, da vložijo denar v neobstoječe naložbene družbe.

Ena od vrst prevar, razširjenih že dolgo pred pojavom UI, je ljubezenska prevara. Pri njej se prevaranti izdajajo za morebitnega ljubezenskega partnerja in skušajo žrtev prepričati, da je našla sorodno dušo, nato pa od nje zahtevajo vse več denarja. V prvi objavi o preprečevanju prevar smo predstavili novoustanovljeno kriminalno združbo v Kambodži, ki je uporabljala ChatGPT za ustvarjanje sporočil za ljubezensko prevaro. Nekatera od teh sporočil je širila po družbenih omrežjih. Od takrat smo preprečili različne poskuse ljubezenskih prevar. Kot smo zapisali junija⁠(odpre se v novem oknu), te in druge prevare pri uporabi UI običajno sledijo skupnemu vzorcu, ki ga opisujemo kot prvi stik (nagovor neznanca), čustveni odziv (vzbujanje čustev) in izvabljanje denarja.

Prvi stik (nagovor neznanca): prevarant ustvari vsebino, ki naj bi z navezovanjem na zanimanja morebitne žrtve pritegnila njeno pozornost. Prevara tipa »zakol prašičev«, o kateri smo poročali lani, je na primer pogosto ciljala na ameriške moške v štiridesetih letih, zaposlene v zdravstvu, z odgovori na njihove objave o golfu na družbenih omrežjih. Druge operacije so uporabljale nenaročena sporočila SMS, lažne ponudbe za zaposlitev ali, v našem najnovejšem primeru ljubezenske prevare (opisanem spodaj), oglase na družbenih omrežjih. V vseh primerih so zlonamerni akterji uporabljali ChatGPT za ustvarjanje sporočil, ki bi bila lahko privlačnejša kot pri tradicionalnih prevarah in pri katerih bi bilo manj očitno, da jih ni napisal materni govorec.

Čustveni odziv (vzbujanje čustev): prevarant ustvari vsebino, ki naj bi pri žrtvi sprožila močna čustva in tako olajšala manipulacijo z njo. Pri ljubezenskih prevarah skušajo doseči, da bi žrtev do prevaranta začutila privlačnost. Pri drugih prevarah skušajo žrtev navdušiti nad potencialno donosnim poslom, v njej vzbuditi strah, da bo zamudila priložnost, ali jo prestrašiti z domnevnimi pravnimi težavami ali neplačanim računom. Včasih je vzbujanje čustvenega odziva vključeno že v prvo sporočilo.

Izvabljanje denarja: prevarant ustvari vsebino, ki naj bi žrtev prepričala, da mu izroči denar. Razlogi, ki jih pri tem navaja, so lahko zelo različni. Pri ljubezenskih prevarah lahko na primer žrtev prosijo, naj vloži denar v podjetje ljubljene osebe ali ji z denarjem pomaga iz finančne stiske. Pri prevarah z »nalogami« žrtvam naročijo, naj vplačajo denar, da bodo lahko dostopale do (izmišljenega) zneska, za katerega verjamejo, da so ga zaslužile. Pri naložbenih prevarah žrtvam naročijo, naj svoj denar vložijo v neobstoječe naložbe.

Kot kaže ta potek, je mreža za širjenje sporočil ključni del prevar. Različne prevarantske operacije, ki smo jih razkrili, so prve stike vzpostavljale prek sporočil SMS, aplikacij za šifrirano sporočanje, objav na družbenih omrežjih, spletnih oglasov ali kombinacije vseh teh kanalov. Prevare iz obdobja pred UI pa so znane po uporabi e-pošte⁠(odpre se v novem oknu), telefonskih klicev⁠(odpre se v novem oknu) ali celo, v devetnajstem stoletju, pisem⁠(odpre se v novem oknu) in telegramov⁠(odpre se v novem oknu). Pri številnih prevarah se sporočila pošiljajo množično in brez izbire prejemnikov, pri nekaterih pa je videti, da skušajo natančno ciljati na določene skupine. Prevara tipa »zakol prašičev«, o kateri smo poročali februarja 2025⁠(odpre se v novem oknu), se je na primer osredotočala na teme, kot je golf. Druga ljubezenska prevara je z oglasi na družbenih omrežjih ciljala na mlade moške v Indoneziji, pri prevarah z lažnim predstavljanjem za slavne⁠(odpre se v novem oknu) pa se prevaranti običajno izdajajo za znano osebo in nato ciljajo na skupine njenih oboževalcev. Čeprav je zaradi nepopolnih dokazov težko zanesljivo primerjati različne prevare, ki smo jih onemogočili, ocenjujemo, da izbrani način širjenja sporočil (npr. množično ali ciljno usmerjeno pošiljanje) pomembno vpliva na to, kako uspešno prevara doseže in izkoristi svoje žrtve, ne glede na to, v kolikšni meri je operacija za posamezne dejavnosti uporabljala UI.