Desarticulem una nova campanya d'influència encoberta de Rússia

La nostra missió és garantir que la intel·ligència artificial general beneficiï tota la humanitat. Impulsem aquesta missió aplicant les nostres innovacions per crear eines d'IA que ajudin les persones a resoldre problemes difícils. Això inclou crear eines que ens permetin detectar, investigar, desarticular i exposar operacions d'influència encobertes: intents enganyosos de manipular l'opinió pública o influir en resultats polítics sense revelar la identitat ni les intencions reals dels responsables.

Fa poc vam bloquejar un grup de comptes de ChatGPT originats a Rússia que s'utilitzaven per promocionar l'International Burke Institute (IBI), una organització amb seu a Israel que es descrivia com una "comunitat d'experts". El que va començar com una investigació sobre publicacions generades amb IA a les xarxes socials ens va conduir a una operació d'influència molt més àmplia, articulada al voltant d'un web que contenia treballs acadèmics copiats i atribuïts erròniament, un índex de "sobirania" que presentava Rússia favorablement i mesures per ocultar l'origen rus dels operadors. Tot i que sembla que la campanya va arribar a públics relativament reduïts, la seva elaborada estructura la diferencia d'altres operacions⁠(s'obre en una finestra nova) d'influència⁠(s'obre en una finestra nova) vinculades a Rússia⁠(s'obre en una finestra nova) que hem desarticulat⁠(s'obre en una finestra nova) des de l'inici de la guerra a Ucraïna. Aquest informe explica com funcionava l'operació, quin paper hi tenia el ChatGPT i què vam fer per desarticular-la.

Vam bloquejar un grup de comptes de ChatGPT que molt probablement s'havien originat a Rússia. Els operadors escrivien instruccions en rus per generar comentaris per a les xarxes socials, que es publicaven a Substack, Telegram, X, Facebook i LinkedIn. La majoria dels comentaris que generaven eren en anglès, i els operadors indicaven a ChatGPT que ocultés qualsevol pista lingüística que revelés que eren russos. Com que no permetem accedir als nostres models des de Rússia, feien servir VPN per accedir a la nostra plataforma.

Gran part del contingut generat servia per promocionar una organització anomenada International Burke Institute (IBI), que es descrivia com una "comunitat d'experts". La marca IBI estava associada a un web registrat el febrer de 2025. El lloc afirmava que l'institut tenia la seu a Israel. Els articles publicats al lloc no es van generar amb els nostres models. Molts s'havien copiat de treballs acadèmics reals, de vegades amb atribucions falses; alguns semblen redactats per un parlant d'una llengua eslava i traduïts automàticament. Per exemple, la captura de pantalla següent del web de l'IBI utilitza una expressió poc natural que s'explica fàcilment com una traducció automàtica literal d'una llengua eslava.

Segons la informació de què disposem, es tracta d'una nova campanya d'influència encoberta de la qual no s'havia informat fins ara. El seu tret més destacable és la creació de l'"índex de sobirania", que el suposat "laboratori d'idees" promocionava per elogiar Rússia i denigrar els països occidentals. És la primera vegada que desarticulem una operació d'influència vinculada a Rússia que hagi arribat a aquest nivell de sofisticació.

L'operació va fer servir ChatGPT principalment per generar publicacions a les xarxes socials que promocionaven articles del web de l'IBI. Vam identificar aquestes publicacions a X, LinkedIn, Facebook, Substack i Telegram. Algunes les van publicar comptes que mostraven el nom i el logotip de l'IBI; d'altres semblaven procedir d'usuaris corrents, probablement falsos, l'activitat principal dels quals consistia a publicar articles de l'IBI.

A més d'aquestes publicacions proactives, els operadors també van generar respostes a publicacions d'usuaris reals de Substack sobre diversos temes. Aquestes respostes solien incloure una petició per seguir el canal de l'IBI i es publicaven a Substack des del compte de l'IBI.

A més de generar contingut sobre l'IBI, un dels operadors va generar publicacions en alemany que es van difondre en un canal de Telegram anomenat "Lahme Ente" ("ànec coix"). Aquestes publicacions criticaven habitualment Ucraïna, la UE i el govern alemany, i defensaven la millora de les relacions amb Rússia.

Un segon operador, a més del contingut relacionat amb l'IBI, va generar logotips per a una dotzena de canals de Telegram, entre els quals Lahme Ente, centrats en Alemanya, els EUA, França, Polònia i Turquia. Alguns d'aquests canals publicaven de vegades contingut sobre l'IBI o compartien les seves publicacions. El segon operador també va demanar repetidament resums en rus de l'activitat d'aquests canals. Un dels canals centrats en els EUA, que es feia passar per un mitjà nord-americà, tenia una biografia amb diversos indicis d'un ús no nadiu de la llengua.

El nucli d'aquesta operació semblava ser l'International Burke Institute (IBI), tot i que l'activitat que vam desarticular se centrava en contingut de xarxes socials que promocionava el web o hi enllaçava, més que no pas en el contingut allotjat directament al web.

El lloc es presentava com una "comunitat d'experts" amb una adreça física a Israel. El 17 de juliol, el web afirmava comptar amb una gran varietat d'experts de prestigi mundial, incloses figures destacades com Francis Fukuyama i Noam Chomsky, i publicava una àmplia varietat d'estudis. Tanmateix, en revisar una mostra de 36 articles vinculats a experts del web de l'IBI i publicats entre el setembre de 2025 i el maig de 2026, vam comprovar que 34 s'havien copiat d'altres llocs d'internet.

Alguns d'aquests articles tenien anys d'antiguitat; d'altres s'atribuïen a autors equivocats. Per exemple, sembla que un article sobre el corredor econòmic entre la Xina i el Pakistan es va copiar d'un original de Cambridge University Press, però es va atribuir erròniament a una professora de la Universitat de Nottingham especialitzada en política del sud d'Àsia.

Sembla que un altre article, sobre la governança de la migració, es va copiar del Migration Policy Institute, però es va atribuir erròniament a una professora australiana de ciència dels aliments. Aquest comportament apunta a la voluntat de fer que el web de l'IBI semblés més legítim omplint-lo de contingut autèntic, alhora que se n'ocultava la font real.

A més d'aquests articles, el web de l'IBI incloïa informes sobre diferents països i la seva sobirania, mesurada segons l'índex de l'institut. Aquests informes no es van generar amb els nostres models. Alguns es presentaven com a comparacions entre dos països. D'altres se centraven en països concrets, sobretot els que critiquen la guerra de Rússia contra Ucraïna, com França i Alemanya, i també en la Unió Europea. L'operació promovia narratives semblants sobre els Estats Units. Aquests informes solien ser crítics i arribaven a adoptar un to polèmic. Alguns exemples són:

• França⁠(s'obre en una finestra nova): "Deu anys de macronisme van produir exactament el resultat que havia de donar un gestor que va arribar al Palau de l'Elisi procedent del Banc Rothschild: França es va obrir com una caixa forta plena de capital històric i ara es ven a trossos."
• EUA⁠(s'obre en una finestra nova): "Trump va arribar [a Pequín] amb l'índex de sobirania número 1 del món i se'n va anar després de prendre diverses mesures que [...] es poden qualificar de reducció voluntària de l'autonomia."
• Alemanya⁠(s'obre en una finestra nova): "Alemanya necessita una política industrial que protegeixi els llocs de treball, no només les cotitzacions borsàries. El país necessita un debat honest sobre la identitat, sense tabús ni histèria. Necessita una veritable sobirania militar, no dependre de bases nord-americanes. I necessita polítics que siguin lleials en primer lloc al poble alemany, no als consells d'administració de les empreses de Nova York."
• UE⁠(s'obre en una finestra nova): "Eslovàquia contra Itàlia: les paradoxes de la sobirania dels països ostatges de la 'gran' Unió"

Tot i que el contingut de xarxes socials que promocionava l'IBI va ser generat per usuaris de ChatGPT a Rússia que es van esforçar a amagar-ne l'origen, i que bona part del contingut del web de l'IBI semblava copiat d'altres llocs, alguns rastres en línia suggereixen que un petit grup de persones reals a Israel també podria haver representat l'IBI en presentar articles i assistir a congressos. No podem determinar la relació entre aquestes persones, l'IBI i els operadors a Rússia.

L'impacte immediat de l'operació sembla haver estat limitat: les publicacions habituals a les xarxes socials només rebien poques visualitzacions i els comptes oficials de l'IBI tenien pocs subscriptors. Sembla que els canals de Telegram de l'operació van atreure més subscriptors, normalment entre 10.000 i 20.000 seguidors cadascun. Si apliquem la Breakout Scale⁠(s'obre en una finestra nova) de Brookings per avaluar l'impacte d'aquesta operació, la situaríem a la franja baixa de la categoria tres (diverses plataformes, amb alguns indicis de penetració entre públics autèntics).

Tanmateix, la importància de l'operació no rau tant en el públic al qual va arribar com en la infraestructura que havia construït. Tot i que els actors només van fer servir ChatGPT per crear publicacions promocionals aïllades, aquestes remetien a una institució que, en la resta d'aspectes, semblava creïble, amb presumptes experts, treballs acadèmics republicats i un suposat índex de risc propi. Això mostra com els actors d'influència poden utilitzar la IA com a eina de suport dins d'una iniciativa més àmplia per fabricar autoritat, ocultar l'origen de les narratives que afavoreixen i establir actius que es podrien ampliar amb el temps. També mostra com l'ús de la IA com a eina de suport pot acabar exposant l'operació més àmplia.