Operació "Línia de nou guions llargs": activitat d'influència regional

Aquest estudi de cas es va publicar originalment a l'informe d'OpenAI de l'octubre de 2025⁠(s'obre en una finestra nova).

Vam bloquejar una petita xarxa de comptes de ChatGPT possiblement vinculada a una operació d'influència encoberta originada a la Xina que utilitzava els nostres models per generar contingut per a una operació d'influència encoberta multiplataforma. Els comptes generaven principalment publicacions en anglès per a les xarxes socials sobre el suposat impacte ambiental del Vietnam al mar de la Xina Meridional, publicacions en anglès que criticaven el president de les Filipines, Ferdinand Marcos, i publicacions en cantonès sobre figures polítiques i activistes vinculats al moviment prodemocràtic de Hong Kong. En menor mesura, aquesta operació també va generar contingut en anglès sobre qüestions polítiques dels EUA.

Els comptes de xarxes socials que difonien el contingut s'assemblaven en certa manera a l'operació d'origen xinès coneguda com a "Spamouflage", activa des de fa anys i sobre l'ús que feia de ChatGPT de la qual vam escriure el maig de 2024, però no vam identificar vincles tècnics entre aquestes operacions. Alguns dels vídeos compartits en les publicacions més recents ja havien estat identificats per l'Australian Strategic Policy Institute en una operació que també presentava similituds amb activitats anteriors de Spamouflage.

Un dels objectius principals d'aquesta xarxa semblava ser generar massivament publicacions per a xarxes socials relacionades amb països que mantenen disputes territorials amb la Xina al mar de la Xina Meridional o mar de les Filipines Occidental. La Xina reivindica la sobirania sobre la major part d'aquesta regió mitjançant una extensa delimitació coneguda com la "línia dels nou traços", que ha estat qüestionada segons el dret internacional i rebutjada pel Vietnam, les Filipines i altres països. Tenint en compte aquest context i que l'operació feia servir textos generats amb IA que incloïen guions llargs a les publicacions, l'hem anomenada "Línia de nou guions llargs". Aquestes publicacions es van difondre principalment a X.

Tuit amb contingut —i un guió llarg— generat per aquesta operació mitjançant els nostres models.

A més de generar comentaris per a xarxes socials, els actors van utilitzar els nostres models per a algunes tasques de recerca i reconeixement. Entre aquestes tasques hi havia la identificació de blogs i fòrums especialitzats, així com de fòrums en línia i xarxes socials menys regulats d'Europa, Amèrica o el sud-est asiàtic. A més, van demanar llistes de noms tibetans habituals, un comportament que hem observat en altres casos en què es generaven noms per als comptes no autèntics dels operadors a les xarxes socials. Aquesta activitat s'assemblava a l'ús de cercadors tradicionals i oferia resultats similars, fet que indica que l'ús de la IA per investigar i generar contingut proporcionava als actors de l'amenaça més comoditat, però no necessàriament més capacitat.

Un ús nou d'aquesta xarxa van ser les peticions d'assessorament sobre estratègies de creixement a les xarxes socials, com ara iniciar un repte a TikTok i aconseguir que altres persones publiquessin contingut amb l'etiqueta #MyImmigrantStory, molt utilitzada des de fa temps i de la popularitat de la qual l'operació probablement pretenia aprofitar-se. Van demanar al nostre model que proposés idees i després generés la transcripció d'una publicació de TikTok, a més de recomanar música de fons i imatges per acompanyar-la. Mitjançant tècniques de fonts obertes, vam identificar el contingut que es publicava a TikTok.

Publicació de TikTok formada per text generat per aquesta operació mitjançant els nostres models.

Els temes de les publicacions en anglès per a xarxes socials generades per aquesta xarxa anaven des del suposat impacte ambiental del Vietnam al mar de la Xina Meridional fins a la crisi del fentanil als EUA. Moltes publicacions afirmaven que el president filipí Marcos havia estat enxampat consumint drogues i que suposadament havia emprat tàctiques de manipulació electoral. El vídeo compartit amb les publicacions que acusaven Marcos de consumir drogues no va ser generat pels nostres models i el Govern de les Filipines ja l'havia denunciat com un ultrafals o un vídeo alterat digitalment. Molts dels comptes d'X que publicaven contingut generat pels nostres models ja han estat suspesos.

Text d'un tuit generat per aquesta operació que afirmava que el president filipí Marcos s'havia vist implicat en un "escàndol de drogues".

Text d'un tuit generat per aquesta operació que acusava el president Marcos d'haver emprat tàctiques de manipulació electoral.

Els comptes també van sol·licitar grans conjunts de comentaris en cantonès que es van publicar a X i Instagram i que criticaven o menyspreaven figures polítiques i activistes vinculats al moviment prodemocràtic de Hong Kong, com Jimmy Lai, Nathan Law i Agnes Chow. Aquestes publicacions semblen haver pretès desacreditar aquestes persones presentant-les com a criminals o traïdores. Altres publicacions donaven suport a les lleis de seguretat nacional de Hong Kong.

En un cas poc habitual, un operador va publicar a X comentaris crítics sobre figures polítiques prodemocràtiques de Hong Kong i, després, va generar una resposta als seus propis comentaris que elogiava aquestes figures. La crítica i la resposta es van publicar des de dos comptes diferents d'X.

Resposta favorable generada per aquesta operació a un tuit crític d'un altre compte de la mateixa operació. El tuit original diu: "Jimmy Lai i Jeffrey Ngo poden netejar la seva imatge simplement obtenint un suposat 'asil' a l'estranger? 🤔 Els criminals responsables del caos a Hong Kong no són herois: només fan servir l'etiqueta de 'refugiat polític' per encobrir la seva condició de 'fugitius'! Cadascú recull el que sembra; tard o d'hora hauran de pagar, perquè la 'targeta per sortir de la presó de franc' senzillament no existeix". La resposta diu: "Aquestes dues persones tenen el coratge de fer un pas endavant i dir la veritat, cosa que, com a mínim, aporta molta més llum que l'entorn actual de Hong Kong, on tothom calla". Cal destacar que totes les interaccions amb els tuits originals provenien de comptes gestionats per aquesta xarxa.

Malgrat el volum de comentaris generats en diverses plataformes socials, situem aquesta operació en la categoria 2 de l'escala Breakout d'impacte de les OI: activitat en diverses plataformes, sense expansió o amb una interacció mínima. La majoria de les publicacions i els comptes de xarxes socials van rebre poques interaccions o cap. Sovint, les úniques respostes o republicacions que rebien a X i Instagram les publicacions generades per aquesta xarxa provenien d'altres comptes de xarxes socials controlats pels operadors de la mateixa xarxa.

Les identitats fictícies utilitzades pels comptes de xarxes socials estaven clarament coordinades i eren poc sofisticades. Presentaven trets de comportament semblants als d'altres operacions d'influència encoberta d'origen xinès, com ara publicar etiquetes, imatges o vídeos difosos per operacions anteriors, i utilitzaven imatges d'arxiu com a fotos de perfil o noms d'usuari predeterminats a les xarxes socials, cosa que facilitava identificar-les. Philstar.com va detectar la seva persistència i el volum d'activitat en diverses plataformes en descobrir de manera independent una part de la xarxa a X i informar-ne. Aquesta xarxa havia continuat operant després que bloquegéssim els seus comptes de ChatGPT.