Operació "Ressenya burleta": activitat d'influència d'origen xinès

Aquest estudi de cas es va publicar originalment a l'informe de juny de 2025⁠(s'obre en una finestra nova) d'OpenAI.

Vam bloquejar comptes de ChatGPT que vam detectar que utilitzaven els nostres models per generar massivament publicacions per a xarxes socials compatibles amb l'activitat d'una operació d'influència encoberta. Durant la investigació, també vam observar que aquests comptes redactaven avaluacions internes del rendiment.

Aquests comptes introduïen indicacions principalment en xinès i se centraven en temes polítics i geopolítics rellevants per a la Xina. Un usuari va afirmar en una indicació que treballava per al Departament de Propaganda xinès; tanmateix, no disposem de proves independents que permetin verificar aquesta afirmació.

Els comptes que vam bloquejar es dedicaven a dues línies de treball principals. La més prolífica consistia a generar comentaris breus per a xarxes socials en anglès i xinès, i alguns en urdú. Vam identificar molts d'aquests comentaris publicats a TikTok i X, a més d'altres continguts apareguts a Reddit, Facebook i diversos llocs web.

Un patró habitual consistia a publicar un comentari inicial des d'un compte "principal", sovint creat aparentment només per a aquella publicació, seguit d'una sèrie de comentaris de resposta des d'altres comptes. Aquest comportament semblava concebut per crear una falsa impressió d'interacció orgànica.

A TikTok, els comptes que publicaven comentaris utilitzaven noms d'usuari en diverses llengües i alfabets, sovint sense relació amb la llengua del contingut que publicaven. Per exemple, un compte amb un nom coreà va publicar un comentari en urdú, mentre que comptes amb noms tailandesos i hebreus van publicar en anglès comentaris generats per aquesta xarxa. A X, els comptes que publicaven comentaris solien fer servir imatges de perfil de dibuixos animats i, en alguns casos, tenien noms relacionats amb les criptomonedes.

La xarxa era menys activa a Facebook. La seva activitat consistia principalment a generar noms i imatges de perfil per a dues pàgines que es feien passar per mitjans de comunicació. Cap de les dues pàgines tenia seguidors ni "M'agrada", i cadascuna només contenia unes quantes publicacions.

La xarxa generava ocasionalment publicacions més llargues en xinès o anglès. Vam identificar una d'aquestes publicacions a Reddit i dues més en diversos fòrums web. La segona línia de treball consistia a utilitzar ChatGPT per generar documents que semblaven ser de política interna o d'avaluació del rendiment.

El contingut per a xarxes socials generat per aquest actor maliciós tractava diversos temes, tots estretament alineats amb els interessos geoestratègics de la Xina.

Alguns continguts se centraven en Taiwan i atacaven específicament "Front invertit"⁠(s'obre en una finestra nova) ("逆統戰"), un videojoc i joc de taula centrat en Taiwan que imagina la resistència contra el Partit Comunista Xinès. La xarxa va generar desenes de comentaris crítics en xinès sobre el joc, seguits d'un article llarg que afirmava que havia provocat un rebuig generalitzat. Aquesta va ser l'activitat més característica de l'operació i, per aquest motiu, l'hem batejada com a operació "Ressenya burleta".

Altres continguts, en anglès i urdú, atacaven l'activista pakistanesa Mahrang Baloch, que ha criticat públicament les inversions de la Xina al Balutxistan⁠(s'obre en una finestra nova). Un compte de TikTok i una pàgina de Facebook vinculats amb la xarxa van publicar un vídeo que acusava falsament Baloch d'haver aparegut en una pel·lícula pornogràfica. A continuació, l'operació va generar centenars de comentaris breus en totes dues llengües per simular una interacció generalitzada.

Un darrer conjunt de continguts se centrava en el tancament de l'Agència dels EUA per al Desenvolupament Internacional (USAID) i generava comentaris breus que elogiaven o criticaven la decisió. Aquests comentaris es van publicar a TikTok i X.

Finalment, els actors maliciosos van utilitzar els nostres models per generar el que semblaven documents interns, entre els quals hi havia un assaig detallat redactat a l'estil d'un document oficial de seguretat pública i una avaluació del rendiment que descrivia els passos seguits per establir i dirigir l'operació.

Aquesta operació sembla que encara era en una fase inicial quan en vam interrompre l'ús dels nostres models. Cap de les dues pàgines de Facebook tenia seguidors. A Reddit, una publicació va rebre 44 vots positius, mentre que dues altres van ser bloquejades o eliminades dels subreddits on s'havien publicat.

La interacció a X i TikTok va ser més variada: els dos vídeos de TikTok van acumular 25.000 "M'agrada" en total, mentre que els tuits del compte principal de l'operació solien rebre unes 10.000 visualitzacions cadascun. Tanmateix, molts dels comentaris d'aquestes publicacions van ser generats per aquesta xarxa amb ChatGPT, cosa que indica que almenys una part de la interacció no era autèntica. Per tant, totes les xifres d'interacció s'han d'interpretar amb cautela.

Segons l'escala d'impacte de les operacions d'influència Breakout Scale⁠(s'obre en una finestra nova), consideraríem que se situa a la part baixa de la categoria 3 si les xifres d'interacció a X i TikTok fossin autèntiques. Rebaixaríem aquesta valoració si apareguessin més proves que sustentessin la hipòtesi que la majoria dels "M'agrada" i les visualitzacions, igual que la majoria dels comentaris, no eren autèntics.