Operació "Oncle Spam": activitat d'influència per polaritzar els EUA
OpenAI va bloquejar comptes d'origen xinès que feien servir IA per generar contingut polític sobre els EUA i investigar persones, moviments i comunitats en línia.
Aquest estudi de cas es va publicar originalment a l'informe d'OpenAI de juny de 2025(s'obre en una finestra nova).
Agent
Vam bloquejar diversos comptes de ChatGPT vinculats a una operació d'influència d'origen xinès(s'obre en una finestra nova) arran d'un avís dels nostres homòlegs de Meta. L'operació va generar contingut polaritzador per a xarxes socials que defensava totes dues posicions en qüestions divisives del debat polític nord-americà, inclosos textos i imatges de perfil generades amb IA en plataformes com X i Bluesky.
Comportament
La xarxa va utilitzar els nostres models per a diverses tasques, principalment per generar comentaris per a xarxes socials a favor o en contra dels aranzels. Els comptes van demanar als nostres models quines eren les millors hores per publicar i maximitzar la interacció del públic, fet que apunta a tàctiques d'amplificació calculades.
Dos tuits amb textos generats per aquest agent d'amenaça mitjançant els nostres models, un a favor i l'altre en contra dels aranzels.
En segon lloc, els comptes van utilitzar les nostres capacitats de generació d'imatges per crear logotips estilitzats, que després feien servir com a imatges de perfil per donar suport a identitats fictícies en diverses plataformes socials. En concret, els comptes es van centrar a crear identitats de veterans dels EUA crítics amb l'actual administració nord-americana.
Compte de Bluesky que va publicar contingut generat per aquesta xarxa. El logotip de "Veterans per la Justícia" es va generar mitjançant els nostres models.
Finalment, els comptes demanaven sistemàticament codi i mètodes per extreure dades personals de plataformes socials com X i Bluesky, com ara perfils d'usuari, llistes de seguidors i altres detalls, mitjançant eines com Tweepy, Nitter i l'API pública de Bluesky. A més, els comptes van utilitzar els nostres models per obtenir orientació sobre com analitzar dades de perfils a fi de determinar característiques personals i vinculacions amb organitzacions, possiblement per classificar persones o inferir-ne associacions i atributs.
Resultats
Els comptes van produir contingut polaritzador sobre diverses qüestions del debat polític nord-americà, sovint dins de les mateixes sessions operatives. D'acord amb les metodologies conegudes de les operacions d'influència, sembla probable que l'objectiu fos explotar les divisions polítiques existents, més que no pas promoure una posició ideològica concreta. El volum de contingut i l'èmfasi en els missatges adreçats al públic nord-americà ens van portar a batejar aquesta operació com a "Oncle Spam".
Tuits amb text generat pels nostres models i publicats per identitats fictícies.
Impacte
Segons l'escala de propagació(s'obre en una finestra nova) de l'impacte de les operacions d'influència, ho classificaríem en la categoria 2: activitat en diverses plataformes, sense propagació o amb una interacció mínima. Els comptes de xarxes socials que publicaven contingut generat pels nostres models van rebre poca interacció autèntica. La majoria de les publicacions a X d'aquesta xarxa van rebre pocs o cap «M'agrada» ni republicacions; només unes quantes van generar alguna interacció. Alguns comptes de xarxes socials tenien milers de seguidors, però no vam poder determinar si eren autèntics, i aquestes xifres no semblaven traduir-se en interaccions amb les publicacions.