Escrocherie prin atragere romantică: fluxuri de tip „pig butchering” asistate de IA
OpenAI a blocat conturi aparent originare din Cambodgia, care foloseau IA pentru a traduce și genera conversații pentru escrocherii sentimentale și cu investiții.
Acest studiu de caz a fost publicat inițial în raportul OpenAI din februarie 2025(se deschide într-o fereastră nouă).
Actor
Am blocat un grup de conturi ChatGPT care traduceau și generau comentarii scurte în japoneză, chineză și engleză. Această activitate pare să fi provenit din Cambodgia și corespundea unei escrocherii sentimentale și cu investiții (cunoscută și ca „pig butchering”). Meta a identificat recent activități conexe(se deschide într-o fereastră nouă) pe platforma sa, care păreau să provină dintr-un centru de escrocherii nou-înființat în Cambodgia.
Comportament
Această rețea a folosit modelele noastre pentru a traduce și genera comentarii scurte. Limba principală a actorilor pare să fi fost chineza. Conținutul generat era în mai multe limbi, în special japoneză și chineză, dar și engleză.
Actorii au folosit modelele noastre pentru două activități principale. În primul rând, generau comentarii care erau publicate pe platforme de socializare precum Facebook, X și Instagram. Fiecare cont de pe rețelele sociale afișa de obicei una sau mai multe fotografii de profil ale unei tinere. Evaluăm că cel puțin unele dintre acestea au fost copiate de la modele sau influencerițe reale, nefiind generate de IA.
Majoritatea comentariilor generate au fost publicate ca răspuns la postările unor persoane reale de pe rețelele sociale. Unele dintre postările la care răspundeau operatorii aveau luni sau chiar ani vechime. Operațiunea viza de obicei bărbați ale căror profiluri publice sugerau că aveau peste 40 de ani, adesea profesioniști din domeniul medical. Operațiunea răspundea frecvent la postări despre golf, ceea ce sugerează o strategie deliberată de selectare a țintelor. Ocazional, escrocii publicau despre subiecte politice sau evenimente curente.
Comentariu pe Facebook generat de acest actor cu ajutorul modelelor noastre și publicat ca răspuns la un comentariu despre golf al unei persoane care nu părea asociată cu această operațiune. Fotografia de profil a contului fraudulos este copiată de la o influenceriță americană din domeniul modei și frumuseții. Postarea inițială avea peste o lună când contul fraudulos a comentat la ea.
Comentariu generat de modelele noastre și publicat de un cont verificat pe X ca răspuns la o postare a unui cont care nu părea asociat cu această escrocherie. Fotografia de profil a contului este copiată de la aceeași influenceriță americană din domeniul modei și frumuseții. Postarea inițială avea aproape șase luni.
În al doilea rând, și mai frecvent, operatorii generau comentarii scurte care semănau cu fragmente dintr-o conversație online. De obicei, aceștia traduceau comentarii din chineză într-o limbă țintă (japoneză sau engleză) ori din limba țintă înapoi în chineză. Acest lucru indică faptul că escrocii foloseau modelul în principal pentru a traduce conversații în desfășurare.
Uneori, conturile îi cereau modelului să genereze un răspuns pe un anumit ton, de exemplu cel al unei tinere cochete. Uneori erau furnizate detalii biografice ample pentru a orienta răspunsurile modelului, inclusiv numele, studiile, ocupația, localitatea și hobby-urile personajului fictiv. Aceste biografii menționau de obicei că personajul fictiv cocheta cu investițiile online.
Escrocii par să fi folosit numeroase instrumente și platforme diferite pentru a-și aborda țintele. Investigația noastră a descoperit dovezi că foloseau instrumente precum LINE, WhatsApp, X, Facebook, Instagram, diverse alte servicii de mesagerie, funcția Apple „Ascundeți adresa mea de e-mail”(se deschide într-o fereastră nouă), precum și platforme de criptomonede și tranzacționare valutară.
Conținut generat
Din perspectiva limitată pe care o avem asupra acestei activități, escrocii par să fi urmat un flux obișnuit pentru a-și conduce țintele de la primul contact la investiția frauduloasă:
Interacțiune publică: escrocii comentau la postările țintei de pe rețelele sociale. Aceste comentarii se încheiau adesea cu o întrebare precum „Ce părere ai despre [subiect]?”, probabil pentru a spori șansele unei interacțiuni. În câteva cazuri, comentau despre politică, dar cel mai adesea vorbeau despre golf.
Probabile mesaje directe: apoi, escrocii generau comentarii scurte, cu caracter conversațional. Deși nu știm exact cum și unde erau folosite, comentariile corespundeau unei situații în care escrocul și ținta începeau să schimbe mesaje directe.
Mesagerie securizată: foarte curând, adesea în câteva zile, escrocii generau mesaje care sugerau mutarea conversației într-o aplicație de mesagerie mai sigură. Uneori justificau acest lucru spunând că escrocul nu avea încredere în rețelele sociale; alteori invocau un motiv practic, precum faptul că urma să plece undeva unde nu ar fi avut acces la acestea.
Implicare romantică: escrocii scriau și traduceau mesaje tot mai afectuoase și mai intime. Dacă țintele cereau fotografii cu „femeia” cu care discutau, escrocii găseau scuze.
Implicare financiară: escrocii scriau și traduceau mesaje în care se lăudau că au câștigat mulți bani investind online în valută, criptomonede sau aur. Acest lucru era adesea prezentat ca rezultatul urmării sfaturilor unei rude care lucra în domeniul financiar. Escrocul îndemna ținta să înceapă să investească în același mod și se oferea să o îndrume pe parcursul procesului.
Fraudă: escrocii scriau și traduceau mesaje prin care încercau să convingă victima să transfere bani într-o aplicație de tranzacționare și o încurajau exagerând profiturile obținute. Ori de câte ori victima încerca să-și retragă „profiturile”, escrocul invoca un motiv, de exemplu necesitatea achitării unei taxe.
Acest tipar de activitate corespunde relatărilor disponibile public(se deschide într-o fereastră nouă) despre modul în care funcționează de obicei astfel de escrocherii.
Impact
Această activitate pare să fi inclus numeroase încercări nereușite și eșecuri. Unele dintre conversațiile procesate de escroci prin modelele noastre s-au încheiat când ținta a demascat activitatea drept escrocherie sau i-a cerut escrocului să o lase în pace. Am identificat și postări ale escrocilor pe rețelele sociale care nu au atras nicio interacțiune.
Totuși, unele conversații menționau sume de ordinul miilor de dolari sau echivalentul acestora în alte monede ca valoare a tranzacțiilor individuale. Având în vedere modul în care acești operatori ne-au folosit modelele, nu putem stabili dacă tranzacțiile financiare au avut loc, însă referirile din conversații sugerează că, cel puțin în unele cazuri, escrocii au reușit să-și fraudeze țintele.
Politicile OpenAI interzic cu strictețe folosirea conținutului generat de instrumentele noastre pentru fraude sau escrocherii. Ne angajăm să colaborăm cu organizațiile din domeniu și cu autoritățile pentru a înțelege cum este folosită IA în activități ostile și pentru a combate în mod activ escrocheriile care abuzează de serviciile noastre. În conformitate cu acest angajament, am transmis organizațiilor din domeniu și autorităților competente informații despre rețelele de escrocherii pe care le-am perturbat.