Oprirea unei operațiuni infracționale de înșelătorie din Cambodgia
OpenAI a oprit o operațiune de înșelătorie din Cambodgia care folosea ChatGPT pentru fraude cu investiții, relații romantice, jocuri de noroc și uzurpare de identitate.
Introducere
La începutul acestui an, am perturbat activitatea unei operațiuni de fraudă cu sediul în Cambodgia, care folosea ChatGPT pentru a facilita înșelătorii legate de investiții, relații romantice și jocuri de noroc, precum și fraude în care escrocii se dădeau drept reprezentanți ai forțelor de ordine. Am început să investigăm această activitate în urma unui indiciu primit de la colegii noștri de la WhatsApp. De atunci, am transmis partenerilor din industrie și autorităților competente informații suplimentare despre indicii ale acestei amenințări.
Operațiunea ilustrează o realitate importantă a rețelelor moderne de înșelătorie: grupările infracționale organizate rareori se limitează la un singur tip de fraudă. În schimb, acestea recurg oportunist la orice scenarii, identități și tactici pe care le consideră eficiente pentru a înșela victimele. În investigațiile noastre observăm frecvent actori care trec de la un tip de înșelătorie la altul sau combină mai multe tehnici într-o singură operațiune.
Unii utilizatori din rețea au generat și conținut care sugera legături cu traficul de persoane și cu obligarea acestora să comită infracțiuni. Aceste observații sunt în concordanță cu numeroasele relatări publice(se deschide într-o fereastră nouă) care descriu(se deschide într-o fereastră nouă) grupări de crimă organizată din Asia de Sud-Est care recrutează lucrători promițându-le locuri de muncă legale, apoi îi țin captivi prin aservire pentru datorii și constrângere. Deși nu putem stabili în mod independent situația fiecărei persoane implicate, această activitate ne reamintește că persoanele care comit înșelătorii pot fi ele însele victime ale exploatării.
Actor
Am blocat o rețea coordonată de conturi ChatGPT care provenea foarte probabil din Cambodgia și opera probabil în Poipet sau în împrejurimi. Poipet este un oraș din provincia Banteay Meanchey, asociat în mod repetat(se deschide într-o fereastră nouă) în relatările(se deschide într-o fereastră nouă) publice(se deschide într-o fereastră nouă) cu centre de înșelătorii online și operațiuni de trafic de persoane.
Rețeaua ne-a folosit modelele pentru a crea și administra identități online false, a genera și traduce mesaje trimise țintelor, a crea conținut promoțional pentru schemele frauduloase și a sprijini activitățile cotidiene.
La fel ca în cazul rețelelor de înșelătorie oprite anterior(se deschide într-o fereastră nouă), unii utilizatori au folosit ChatGPT și pentru activități administrative, inclusiv redactarea anunțurilor interne, traducerea mesajelor între angajați și documentarea unor aspecte aparent legate de recrutare, statutul de imigrare, condițiile de muncă și disciplina angajaților.
Comportament
Rețeaua desfășura simultan mai multe tipuri de înșelătorii, combinând adesea elemente din scheme diferite. De exemplu, operatorii foloseau identități false pe platformele de întâlniri pentru a câștiga încrederea victimelor, apoi le propuneau oportunități frauduloase de investiții în criptomonede și în tranzacționarea aurului la vedere. Alți utilizatori purtau conversații romantice îndelungate cu persoanele vizate, folosind identități fictive, se dădeau drept reprezentanți ai unor platforme de jocuri de noroc online care ofereau bonusuri și câștiguri false sau se dădeau drept reprezentanți ai forțelor de ordine și le spuneau victimelor că trebuie să plătească amenzi pentru comiterea unor infracțiuni grave.
Deși scenariile difereau, utilizatorii din întreaga rețea manifestau constant același tipar fundamental de comportament înșelător. De exemplu, aceștia creau și administrau profiluri false pe platforme de întâlniri, identități fictive de experți în investiții și identități frauduloase ale forțelor de ordine. De asemenea, generau imagini cu documente falsificate, inclusiv pașapoarte, notificări juridice, confirmări de cumpărare a acțiunilor și interfețe ale platformelor de jocuri de noroc.
Așa cum am evidențiat în(se deschide într-o fereastră nouă) rapoartele(se deschide într-o fereastră nouă) anterioare(se deschide într-o fereastră nouă), escrocii urmau un tipar obișnuit în interacțiunile cu țintele, pe care îl descriem prin trei etape: contactarea (inițierea conversației), stârnirea emoțiilor (provocarea unei reacții emoționale) și escrocarea (obținerea banilor).
Contactarea: rețeaua folosea ChatGPT pentru a traduce și genera conversații cu țintele pe platforme de mesagerie precum WhatsApp și Telegram. Escrocii creau și conținut pentru rețelele sociale și căutau materiale pentru profiluri de întâlniri, cu scopul de a-și susține identitățile false.
Stârnirea emoțiilor: mesajele escrocilor se bazau frecvent pe presiune emoțională și tehnici de câștigare a încrederii. Printre exemple se numărau promisiunile de randamente garantate și investiții „fără riscuri”, limbajul romantic, instrucțiunile de a păstra secrete conversațiile și solicitările urgente de a acționa înainte de expirarea unor bonusuri fictive.
Escrocarea: escrocii le cereau victimelor să facă depuneri pentru a debloca presupuse recompense, să plătească taxe de activare ori amenzi fictive, apoi să trimită capturi de ecran ale transferurilor sau informații despre conturi ca dovadă a plății.

Interfață falsă de tranzacționare a criptomonedelor, creată cu ChatGPT de un escroc din rețea.

Imagine generată de AI, creată de un escroc din rețea pentru a promova o schemă falsă de investiții.
Indicatori ai traficului de persoane
Pe lângă înșelătorii, unii utilizatori au generat conținut care sugera implicarea în alte activități ce ne încalcă politicile și pe care le detectăm și le oprim, precum traficul de persoane sau munca forțată. Printre acestea s-a numărat crearea de anunțuri pe rețelele sociale pentru posturi de „operator de chat” în Poipet, care promiteau bilete de avion, cazare, mese, vize și permise de muncă.
Alte activități păreau să aibă legătură cu administrarea lucrătorilor din cadrul operațiunii. Utilizatorii țineau evidența datoriilor angajaților, a reținerilor salariale, a sancțiunilor disciplinare și a rambursării împrumuturilor și traduceau discuții despre statutul de imigrare, permisele de muncă, depășirea perioadei de ședere prevăzute de viză și stimulentele pentru recrutare.
Unele conversații menționau și presupuse cazuri de detenție, tentative de evadare și posibila răspundere penală a persoanelor traficate și forțate să lucreze în operațiuni de înșelătorie. Deși aceste conversații nu ne permit să stabilim situația unei anumite persoane, ele corespund numeroaselor relatări(se deschide într-o fereastră nouă) publice care descriu(se deschide într-o fereastră nouă) activitățile grupărilor de crimă organizată din Asia de Sud-Est.


Imagini generate cu AI de escrocii din rețea pentru a promova locuri de muncă în Cambodgia pe rețelele sociale. Anumite informații au fost mascate de OpenAI.
Impact
Am blocat conturile ChatGPT asociate acestei operațiuni, am transmis indicatorii relevanți partenerilor din industrie și autorităților competente și am luat măsuri pentru ca acești actori să își recapete mai greu accesul la produsele și serviciile noastre.
Amploarea totală a pierderilor financiare asociate rețelei nu este cunoscută, însă, potrivit comunicărilor escrocilor, operațiunea ar fi putut interacționa cu sute de ținte prin mai multe tipuri de înșelătorii. Conversațiile utilizatorilor menționau victime care ar fi pierdut individual mii de dolari, însă nu putem verifica în mod independent aceste afirmații.
În sens mai larg, acest caz confirmă două tendințe. În primul rând, rețelele organizate de escrocherie pot avea activități foarte diversificate, desfășurând simultan mai multe scheme de fraudă, fără a se limita la un singur tip de înșelătorie. În al doilea rând, granițele dintre frauda online, crima organizată și traficul de persoane sunt adesea neclare. Prin urmare, combaterea eficientă a acestor operațiuni necesită vizarea atât a înșelătoriilor îndreptate direct împotriva victimelor, cât și a organizațiilor criminale care le orchestrează și obțin profituri de pe urma lor.