Operațiunea „Recenzia batjocoritoare”: activitate de influență provenită din China

Acest studiu de caz a fost publicat inițial în raportul OpenAI din iunie 2025⁠(se deschide într-o fereastră nouă).

Am interzis conturi ChatGPT despre care am constatat că ne foloseau modelele pentru a genera în masă postări pe rețelele sociale, în concordanță cu activitatea unei operațiuni secrete de influență. Pe parcursul investigației noastre, am observat și că aceste conturi redactau evaluări interne ale performanței.

Aceste conturi au transmis în principal solicitări în chineză și s-au concentrat pe subiecte politice și geopolitice relevante pentru China. Un utilizator a afirmat într-o solicitare că lucra pentru Departamentul de Propagandă al Chinei; nu avem însă dovezi independente care să confirme această afirmație.

Conturile pe care le-am interzis desfășurau două tipuri principale de activități. Cea mai intensă activitate consta în generarea unor comentarii scurte pentru rețelele sociale, în engleză și chineză, precum și a câtorva în urdu. Am identificat numeroase astfel de comentarii publicate pe TikTok și X, precum și conținut suplimentar apărut pe Reddit, Facebook și diverse site-uri web.

Un tipar obișnuit presupunea publicarea unui comentariu inițial de către un cont „principal”, creat adesea, aparent, exclusiv pentru acea postare, urmat de o serie de comentarii-răspuns de la alte conturi. Acest comportament părea menit să creeze impresia falsă a unei interacțiuni organice.

Pe TikTok, conturile care publicau comentarii foloseau nume de utilizator în diverse limbi și alfabete, adesea fără legătură cu limba conținutului postat. De exemplu, un cont cu nume coreean a publicat un comentariu în urdu, iar conturi cu nume thailandeze și ebraice au publicat în engleză comentarii generate de această rețea. Pe X, conturile care publicau comentarii foloseau de obicei imagini de profil cu personaje de desene animate și, în unele cazuri, aveau nume asociate criptomonedelor.

Rețeaua a fost mai puțin activă pe Facebook. Activitatea sa consta în principal în generarea de nume și imagini de profil pentru două Pagini care pretindeau că sunt publicații de știri. Niciuna dintre Pagini nu avea urmăritori sau aprecieri, iar fiecare conținea doar câteva postări.

Rețeaua genera ocazional postări mai ample, în chineză sau engleză. Am identificat o astfel de postare pe Reddit și alte două pe diverse forumuri web. Al doilea tip de activitate consta în folosirea ChatGPT pentru a genera documente care par să fi fost politici interne sau evaluări ale performanței.

Conținutul pentru rețelele sociale generat de acest autor al amenințării aborda o serie de subiecte, toate strâns aliniate intereselor geostrategice ale Chinei.

O parte din conținut s-a concentrat asupra Taiwanului, vizând în mod special „Frontul inversat”⁠(se deschide într-o fereastră nouă) („逆統戰”), un joc video și de societate axat pe Taiwan, care imaginează rezistența împotriva Partidului Comunist Chinez. Rețeaua a generat zeci de comentarii critice în chineză despre joc, urmate de un articol amplu care susținea că acesta provocase reacții negative pe scară largă. Aceasta a fost activitatea cea mai distinctivă a operațiunii; pornind de aici, am numit-o Operațiunea „Recenzia batjocoritoare”.

Alte materiale, în engleză și urdu, au vizat-o pe activista pakistaneză Mahrang Baloch, care a criticat public investițiile Chinei în Balochistan⁠(se deschide într-o fereastră nouă). Un cont TikTok și o Pagină de Facebook asociate rețelei au publicat un videoclip care o acuza în mod fals pe Baloch că apăruse într-un film pornografic. Operațiunea a generat apoi sute de comentarii scurte în ambele limbi pentru a simula o interacțiune pe scară largă.

Un ultim set de materiale s-a axat pe desființarea Agenției SUA pentru Dezvoltare Internațională (USAID), fiind generate comentarii scurte care fie lăudau, fie criticau această decizie. Aceste comentarii au fost publicate pe TikTok și X.

În cele din urmă, autorii amenințării ne-au folosit modelele pentru a genera documente care par să fi fost de uz intern, inclusiv un eseu detaliat, redactat în stilul unui document oficial de siguranță publică, și o evaluare a performanței care descria măsurile luate pentru a înființa și desfășura operațiunea.

Operațiunea pare să fi fost într-un stadiu incipient atunci când i-am întrerupt accesul la modelele noastre. Niciuna dintre Paginile de Facebook nu avea urmăritori. Pe Reddit, o postare a primit 44 de voturi pozitive, iar alte două au fost blocate sau eliminate din comunitățile Reddit în care fuseseră publicate.

Interacțiunile pe X și TikTok au fost mai variate: cele două videoclipuri de pe TikTok au acumulat împreună 25.000 de aprecieri, iar postările publicate pe X de contul principal al operațiunii au avut de obicei aproximativ 10.000 de vizualizări fiecare. Totuși, multe dintre comentariile la aceste postări au fost generate de rețea folosind ChatGPT, ceea ce indică faptul că cel puțin o parte dintre interacțiuni nu au fost autentice. Prin urmare, toate cifrele privind interacțiunile trebuie tratate cu prudență.

Conform Scalei Breakout⁠(se deschide într-o fereastră nouă) pentru impactul operațiunilor de influență, am evalua această operațiune la limita inferioară a Categoriei 3, dacă cifrele privind interacțiunile pe X și TikTok ar fi autentice. Am revizui evaluarea în sens descendent dacă ar apărea mai multe dovezi care să susțină ipoteza că majoritatea aprecierilor și vizualizărilor, asemenea majorității comentariilor, nu au fost autentice.