Escrocherii romantice: procese de fraudare asistate de IA
OpenAI a blocat conturi care foloseau IA în escrocherii romantice, pentru contactarea victimelor, traducere, menținerea interacțiunii și atragerea lor în fraude cu investiții.
Acest studiu de caz a fost publicat inițial în raportul OpenAI din februarie 2026(se deschide într-o fereastră nouă) privind combaterea utilizărilor rău intenționate ale IA.
De când am început, acum un an(se deschide într-o fereastră nouă), să raportăm despre acțiunile noastre de perturbare a rețelelor de escrocherii care încercau să ne folosească abuziv modelele, am oprit numeroase operațiuni de fraudare din diferite părți ale lumii. Printre acestea s-au numărat escrocheriile cu „sarcini”, în care victimele sunt convinse să depună bani pentru a accesa câștiguri inexistente din activități banale, și escrocheriile cu investiții, în care victimele sunt convinse să plaseze bani în companii de investiții inexistente.
Un tip de fraudă răspândit cu mult înainte de apariția IA este escrocheria romantică: escrocii se dau drept potențiali parteneri romantici și încearcă să-și convingă victimele că și-au găsit sufletul pereche, după care le cer tot mai mulți bani. Primul nostru raport despre oprirea unei escrocherii prezenta o operațiune infracțională recent înființată în Cambodgia, care folosise ChatGPT pentru a genera mesaje destinate unei escrocherii romantice, unele dintre ele fiind distribuite pe rețelele sociale. De atunci, am perturbat diverse tentative de escrocherie romantică. După cum am scris în iunie(se deschide într-o fereastră nouă), aceste escrocherii și altele tind să urmeze un tipar comun în utilizarea IA, pe care îl descriem prin trei etape: contactarea (abordarea nesolicitată), stimularea emoțională (provocarea emoțiilor) și stoarcerea de bani (obținerea banilor).
Contactarea (abordarea nesolicitată): escrocul generează conținut menit să atragă atenția potențialei victime, făcând apel la interesele acesteia. De exemplu, escrocheria de tip „îngrășarea porcului” despre care am raportat anul trecut viza frecvent bărbați americani cu vârste între 40 și 49 de ani, din profesii medicale, prin răspunsuri la postările lor despre golf de pe rețelele sociale. Alte operațiuni foloseau SMS-uri nesolicitate, mesaje false de recrutare sau, în cel mai recent caz de escrocherie romantică investigat de noi (descris mai jos), reclame pe rețelele sociale. În fiecare caz, actorii rău intenționați au folosit ChatGPT pentru a genera mesaje potențial mai atrăgătoare, în care faptul că autorul nu era vorbitor nativ să fie mai puțin evident decât în escrocheriile tradiționale.
Mesaj inițial despre golf trimis de rețeaua de escrocherii de tip „îngrășarea porcului”, despre care am raportat în 2025, ca răspuns la o postare pe Facebook a unui utilizator fără legătură cu operațiunea.
Stimularea emoțională (provocarea emoțiilor): escrocul generează conținut menit să provoace emoții puternice persoanei vizate, astfel încât aceasta să fie mai ușor de manipulat. Escrocheriile romantice urmăresc să facă persoana vizată să se simtă atrasă de escroc. Alte escrocherii pot încerca să entuziasmeze persoana vizată cu perspectiva unei afaceri profitabile, să-i provoace teama de a rata o oportunitate sau să o alarmeze cu privire la un presupus risc juridic ori o factură neachitată. Uneori, stimularea emoțională poate avea loc chiar în mesajul inițial de contactare.
SMS nesolicitat al operațiunii de fraudare „Număr greșit”, pe care am demascat-o în iunie 2025, cu detalii despre câștiguri neverosimil de mari pentru puțină muncă, probabil menite să producă efectul de „stimulare emoțională”.
Stoarcerea de bani (obținerea banilor): escrocul generează conținut menit să convingă persoana vizată să-i dea bani. Motivele invocate pot varia foarte mult. De exemplu, în escrocheriile romantice, persoanei vizate i se poate cere să investească în afacerea persoanei iubite sau să ofere bani pentru a o ajuta să depășească o criză financiară. În escrocheriile cu „sarcini”, persoanelor vizate li se cere să depună bani pentru a accesa sumele (fictive) pe care cred că le-au câștigat. În escrocheriile cu investiții, persoanelor vizate li se cere să-și plaseze banii în investiții inexistente.
SMS nesolicitat al operațiunii de fraudare „Număr greșit”, pe care am demascat-o în iunie 2025, cu detalii despre câștiguri neverosimil de mari pentru puțină muncă, probabil menite să producă efectul de „stimulare emoțională”.
După cum sugerează această succesiune de etape, rețeaua de distribuție este o componentă esențială a escrocheriilor. Diverse operațiuni de fraudare pe care le-am demascat trimiteau mesaje inițiale prin SMS, aplicații de mesagerie criptată, postări pe rețelele sociale, reclame online sau o combinație a tuturor acestora; escrocheriile din era de dinaintea IA sunt cunoscute pentru folosirea e-mailurilor(se deschide într-o fereastră nouă), a apelurilor telefonice(se deschide într-o fereastră nouă) sau chiar, în secolul al XIX-lea, a scrisorilor(se deschide într-o fereastră nouă) și a telegramelor(se deschide într-o fereastră nouă). Multe escrocherii distribuie mesajele în masă, fără o selecție atentă a destinatarilor, însă unele par să încerce o țintire precisă. De exemplu, escrocheria de tip „îngrășarea porcului” despre care am raportat în februarie 2025(se deschide într-o fereastră nouă) se concentra pe subiecte precum golful; o altă escrocherie romantică folosea reclame pe rețelele sociale pentru a viza bărbați tineri din Indonezia; iar în escrocheriile cu celebrități(se deschide într-o fereastră nouă), escrocii se dau de obicei drept o persoană celebră și vizează apoi grupurile de fani ale acesteia. Deși caracterul fragmentar al dovezilor face dificilă o comparație fiabilă între diferitele escrocherii pe care le-am perturbat, apreciem că metoda de distribuție aleasă (de exemplu, în masă sau țintită) joacă un rol important în capacitatea fiecărei escrocherii de a ajunge la persoanele vizate și de a le exploata, indiferent de măsura în care operațiunea a folosit IA pentru diverse activități.
