Campanya "La moda dels centres de dades": activitat d'influència dirigida als EUA

Aquest estudi de cas es va publicar originalment a l'informe d'OpenAI de juny del 2026⁠(s'obre en una finestra nova) sobre operacions d'influència vinculades a l'RPC i dirigides als debats sobre IA als EUA.

Vam bloquejar un grup de comptes del ChatGPT que probablement tenia l'origen a la Xina i que feia servir el ChatGPT per generar contingut per a xarxes socials destinat a una operació d'influència encoberta. Donaven instruccions al ChatGPT en xinès simplificat i li demanaven repetidament resultats en anglès i xinès que es feien passar per missatges d'estatunidencs de perfils diversos i que es publicaven en diverses plataformes socials. Com que no permetem accedir als nostres models des de la Xina, van utilitzar VPN per accedir a la nostra plataforma.

Els operadors dels comptes probablement formaven part d'un equip d'operacions en xarxes socials d'una empresa tecnològica privada xinesa que treballava per a clients governamentals d'àmbit provincial de la Xina. Aquesta activitat sembla coherent amb un ecosistema comercial que dona suport a les prioritats de l'aparell polític i estatal en matèria d'orientació de l'opinió pública⁠(s'obre en una finestra nova). Un altre informe que van pujar al ChatGPT descrivia els seus objectius i les seves estratègies per influir en l'opinió pública i crear comptes de xarxes socials dissenyats per eludir els sistemes de detecció de les plataformes.

Els comptes que vam bloquejar intentaven influir en dos grups de públic. S'adreçaven principalment al públic dels EUA i generaven imatges i comentaris breus en anglès que afirmaven que els centres de dades i les aplicacions d'IA augmentaven la demanda elèctrica i els costos per als ciutadans corrents.

Per exemple, van demanar tires còmiques sobre els preus de les subhastes de capacitat d'un operador de la xarxa elèctrica, basades en informació publicada per un diari regional legítim. Li van demanar al ChatGPT que els comentaris se centressin en l'augment dels preus de la capacitat a conseqüència dels pics de demanda elèctrica, que presentessin aquesta nova demanda com a procedent dels centres de dades i les aplicacions d'IA i que sostinguessin que, en última instància, aquests costos es traslladaven a les llars corrents. Els comentaris i les imatges es van publicar a X des d'un conjunt de comptes probablement falsos, juntament amb enllaços a notícies legítimes sobre les subhastes de capacitat de l'operador de la xarxa elèctrica i la demanda energètica dels centres de dades.

El contingut generat per IA es va publicar a X amb etiquetes com ara #capacityauction, #datacentersuccess i #datacenters. També van utilitzar el ChatGPT per editar imatges i afegir text a imatges genèriques del mercat elèctric, a fi de reforçar el relat que la població corrent subvenciona la infraestructura d'IA.

Captures de publicacions a X amb text i imatges generats pel ChatGPT.

El segon públic al qual s'adreçava el grup eren els xinesos residents a l'estranger, fet coherent amb la seva aparent funció de suport a les prioritats del Govern xinès. Van demanar informació pública sobre el dissident xinès Li Ying, també conegut com a "Professor Li", i li van demanar al ChatGPT que generés comentaris breus per insultar-lo, adreçats al compte del seu equip a X, @whyyoutouzhele. En el nostre darrer informe sobre amenaces⁠, vam assenyalar que Li havia estat objecte d'un assetjament similar a Internet per part d'una persona vinculada a les forces de l'ordre xineses. En aquest cas, els nostres models es van negar a generar atacs incendiaris o personals contra Li. Altres comentaristes polítics xinesos que van intentar assetjar van ser Lu Yiheng, Xu Chi i el compte de X @SydneyDaddy1.

Una tàctica destacable consistia a fer-se passar a Internet per immigrants xinesos, treballadors, estudiants, mares, oficinistes i inversors residents als EUA, amb l'objectiu d'animar un expolicia xinès establert als EUA a criticar el país i exposar el "costat fosc" d'Amèrica. Els actors li van demanar al ChatGPT que generés missatges per a un youtuber que animessin l'expolicia a parlar dels fracassos de les polítiques dels EUA. Semblava una tàctica nova: utilitzar identitats fictícies de residents als EUA i immigrants xinesos per fomentar que un creador de contingut critiqués els EUA.

A més de generar contingut per a xarxes socials, els comptes van utilitzar el ChatGPT per automatitzar i ampliar el seu flux de treball. Això incloïa sol·licituds de codi per automatitzar l'inici de sessió i gestionar les interaccions en diverses plataformes socials. També van utilitzar el ChatGPT com a eina de processament de text per extreure noms d'usuari, afegir al principi enllaços de X o YouTube, eliminar enllaços i formatar dades per a fulls de càlcul.

Imatge original d'un centre de dades.

Imatge editada amb IA i publicada a X per un compte probablement fals.

Els comptes li van demanar al ChatGPT que generés, polís i edités informes de treball que revelaven les consideracions de seguretat operativa de les seves activitats a les xarxes socials i el seu coneixement dels sistemes de detecció de les plataformes. Van descriure que els seus objectius incloïen crear comptes persistents i creïbles, produir contingut visualment atractiu per ampliar l'abast entre el públic de les regions objectiu i garantir la viabilitat dels comptes a llarg termini anticipant-se a les mesures de les plataformes.

Un informe se centrava específicament en les operacions a Facebook i posava l'accent a crear identitats reals, fiables i vinculades a la vida quotidiana; establir marques inicials per als comptes amb contingut sobre estil de vida, actualitat, opinió i temes professionals, i fer servir interaccions entre comptes per amplificar relats tot mantenint l'aparença d'una participació orgànica. Això indicava l'existència d'un flux de treball més sofisticat per mantenir una presència persistent a les plataformes socials dels EUA i l'ús de la IA per donar suport a la planificació operativa d'aquestes activitats.

El mateix informe mostra que havien analitzat exhaustivament la plataforma de Facebook per augmentar-ne l'abast i reduir el risc d'interrupcions. Van debatre com es podien utilitzar l'ecosistema de continguts, els grups, les pàgines, les etiquetes, les eines publicitàries, els sistemes de recomanació i els mecanismes de denúncia de Facebook per guanyar influència i arribar progressivament a públics nous. Ho presentaven com un enfocament de doble via que combinava la participació orgànica amb anuncis de Facebook, amb el suport de proves iteratives de temes, formats i públics. També posaven l'accent en la seguretat dels comptes, la creació de comptes de reserva i la separació de l'activitat operativa dels comptes per evitar que la plataforma detectés la coordinació com a part del seu flux de treball.