Operațiuni de escrocherie: rețele de fraudă online

Acest studiu de caz a fost publicat inițial în raportul OpenAI din octombrie 2025⁠(se deschide într-o fereastră nouă).

Rețele provenite probabil din Cambodgia, Myanmar și Nigeria, care au folosit abuziv ChatGPT în ceea ce par a fi tentative de fraudare a utilizatorilor online.

Ne dedicăm identificării, prevenirii și contracarării tentativelor de folosire abuzivă a modelelor noastre în scopuri dăunătoare. Printre aceste abuzuri se numără escrocheriile: detectăm și blocăm actorii rău intenționați care încearcă să ne folosească modelele pentru a înșela și frauda oamenii. În ultimele trei luni, am destructurat rețele de escrocherii provenite probabil din Cambodgia, Myanmar și Nigeria. Ca indiciu al rolului pe care IA îl poate juca în combaterea fraudei, pe parcursul investigării acestor tipare de abuz am observat și multe persoane care ne folosesc modelele pentru a identifica escrocherii. Acest raport analizează ambele tipuri de utilizare.

Folosirea abuzivă a modelelor noastre în sprijinul escrocheriilor variază de la tentative individuale de fraudă până la operațiuni ample și persistente, asociate probabil grupărilor de criminalitate organizată. Indiferent de origine și de tacticile exacte, activitatea asociată escrocheriilor pe care am contracarat-o urmează de obicei un tipar comun: contactul inițial (abordarea nesolicitată), stimularea (încercarea de a provoca entuziasm sau panică) și lovitura (obținerea de bani sau informații valoroase).

Acești escroci încep prin a răspândi conținut, generat sau nu de IA, pe serviciile de mesagerie și pe internet, inclusiv prin reclame pe platformele sociale. Apoi încearcă să le insufle celor care răspund fie entuziasm față de o oportunitate profitabilă, fie teama unei pierderi financiare iminente și exploatează acea emoție pentru a convinge ținta să le ofere bani sau informații sensibile.

Am observat și numeroase cazuri în care modelele noastre au contribuit probabil la protejarea oamenilor împotriva fraudei. Am constatat că oamenii folosesc ChatGPT de milioane de ori pe lună pentru a identifica și evita escrocheriile online; în fiecare operațiune descrisă în acest raport, am observat că modelul i-a ajutat să identifice corect escrocheria și le-a recomandat măsuri de siguranță adecvate. Estimarea noastră actuală este că ChatGPT este folosit pentru identificarea escrocheriilor de până la trei ori mai des decât pentru comiterea lor.

Exemplu în care un investigator OpenAI a încărcat în ChatGPT o captură de ecran a unui SMS fraudulos pe care îl primise și a folosit cu succes modelul pentru a-l identifica drept escrocherie. În acest caz, autorii amenințării au încercat să se dea drept recrutori TikTok.

De la ultimul nostru raport, ne-am consolidat capacitatea de a detecta și contracara escrocheriile. Am destructurat și alte rețele de escrocherii care păreau să provină din Cambodgia, Myanmar și Nigeria. Alături de intervențiile anterioare, aceste acțiuni ne permit să identificăm tendințe emergente în mai multe operațiuni de escrocherie din țări diferite.

Cea mai mare parte a activității frauduloase pe care am contracarat-o s-a axat pe integrarea IA în metodele de escrocherie existente, nu pe crearea unor metode noi bazate pe IA. Toate operațiunile de escrocherie pe care le-am identificat și blocat anul acesta au folosit IA în principal pentru eficiență și extinderea activității. De obicei, acestea ne foloseau modelele pentru traduceri, redactarea mesajelor și crearea de conținut pentru platformele sociale.

De exemplu, am blocat recent operațiuni frauduloase provenite probabil din Cambodgia și Nigeria, care se prezentau drept „firme de investiții” pentru a frauda victime din mai multe țări. Escrocii au creat site-uri și reclame online pentru a promova firmele false și au folosit conturi probabil neautentice pe platformele sociale, ai căror titulari pretindeau că sunt experți în tranzacționare, pentru a invita oamenii în grupuri private de mesagerie. Promițând oportunități profitabile și fără riscuri, autorii amenințărilor încercau apoi să convingă potențialele victime să depună bani pe platforme fictive de tranzacționare. În toate aceste escrocherii, autorii au folosit modelele noastre în principal pentru a genera și traduce corespondență, a crea conținut pentru site-uri și conturi de pe platformele sociale și a efectua cercetări de bază.

Într-un alt caz, am blocat un centru de escrocherii aflat foarte probabil în Myanmar, care ne folosea modelele atât pentru a genera conținut destinat schemelor frauduloase, cât și pentru activitățile administrative cotidiene. Printre acestea se numărau organizarea programului, redactarea anunțurilor interne, alocarea birourilor și locurilor în cămine și gestionarea conturilor financiare. Unii operatori au întrebat ce pedepse riscă persoanele prinse comițând escrocherii online.

Escrocii ale căror activități le-am contracarat nu ne-au folosit cu toții modelele în același mod sau cu același grad de complexitate. Majoritatea interacțiunilor escrocilor cu ChatGPT vizau sarcini relativ simple, precum traducerea, însă unele operațiuni erau mai ambițioase și mai elaborate.

De exemplu, o operațiune frauduloasă provenită probabil din Cambodgia, pe care am contracarat-o, ne-a folosit modelele pentru a genera biografii detaliate ale unor falși experți în investiții și ale unor angajați fictivi ai unor firme de tranzacționare false. Escrocii au cerut apoi ChatGPT să scrie mesaje pentru platformele sociale în stilul acelor personaje. Adesea, autorii amenințărilor introduceau în modelul nostru mesaje pe care păreau să le fi primit de la țintele lor și îi cereau modelului să continue conversația în rolul identității false.

O a doua operațiune frauduloasă, provenită probabil tot din Cambodgia, a început prin a ne folosi modelele pentru a genera SMS-uri nesolicitate, trimise în masă către numere de telefon din SUA. Un astfel de mesaj i-a fost trimis unui investigator OpenAI, într-un caz similar celui despre care am relatat în iunie. Aceste SMS-uri conțineau invitații de a intra în grupuri WhatsApp, blocate ulterior, ale căror nume semănau cu cel al unei firme legitime de investiții.

Dintr-o serie de mesaje WhatsApp trimise investigatorului OpenAI reiese că, dacă o potențială țintă intra într-un astfel de grup, asista imediat la o „conversație” între șase conturi diferite, toate discutând despre investiții. Unul dintre conturi se prezenta drept „expertul în investiții”, iar celelalte drept investitori cu niveluri diferite de încredere și experiență. Întreaga conversație era generată de escroci, care o traduceau din chineză într-un singur bloc, probabil pentru a crea impresia unui grup dinamic de investitori entuziaști și de succes. În cele din urmă, „expertul în investiții” îi sugera țintei să încerce și ea să investească.

Separat, o operațiune de fraudă cu investiții, provenită foarte probabil din Nigeria, a cerut modelului instrucțiuni pas cu pas despre folosirea reclamelor de pe platformele sociale pentru a ajunge la persoane înstărite din America Latină, mascarea locației și evitarea restricțiilor impuse de platforme. În acest scop, operatorii îi furnizau modelului termenii și condițiile publice ale unei platforme și îi cereau să verifice dacă reclamele propuse îi respectau.

Escrocii, în special cei din centrele de mari dimensiuni, sunt perseverenți. Foarte des, după ce le este contracarată activitatea, încearcă să reia încălcările, modificându-și unele comportamente, probabil pentru a evita să fie detectați din nou. Acesta este unul dintre motivele pentru care este important ca întregul sector să facă schimb de informații despre evoluția activității lor. De exemplu, OpenAI și Meta au distribuit fiecare informații despre autorii amenințărilor, contribuind astfel la investigații și măsuri ulterioare.

Poate ca reacție la intervențiile noastre sau la discuțiile mai ample de pe internet despre indiciile care pot da de gol folosirea IA, am observat escroci încercând să-și ascundă utilizarea IA în conținutul online și în comunicarea cu țintele. Printre aceștia se numără operațiuni frauduloase provenite probabil din Cambodgia, care cereau modelului să elimine liniile de pauză din răspunsuri.

Într-un caz, escrocii au încercat să explice blocarea pe scară largă a conturilor lor de pe platformele sociale inventând o scuză pentru interdicție. Era vorba despre centrul de escrocherii descris mai sus, provenit probabil din Cambodgia și activ prin SMS și WhatsApp. După ce WhatsApp a blocat „grupurile de investiții” asociate operațiunii, operatorii au început să genereze mesaje în care susțineau că grupurile fuseseră raportate pe nedrept de un concurent, probabil pentru a justifica blocările.

Captură de ecran a unui mesaj WhatsApp trimis unui investigator OpenAI de operațiunea frauduloasă asociată Cambodgiei, după intervenția WhatsApp.