Operación «Tío Spam»: actividad de influencia para polarizar a EE. UU.
OpenAI bloqueó cuentas de origen chino que usaban IA para generar contenido político estadounidense e investigar a personas, movimientos y comunidades en línea.
Este estudio de caso se publicó originalmente en el informe de OpenAI de junio de 2025(se abre en una ventana nueva).
Agente
Bloqueamos varias cuentas de ChatGPT vinculadas a una operación de influencia de origen chino(se abre en una ventana nueva) tras recibir información de nuestros homólogos de Meta. La operación generó contenido polarizador para redes sociales que apoyaba a ambos bandos en temas controvertidos del debate político estadounidense, incluidos textos e imágenes de perfil generadas por IA para plataformas como X y Bluesky.
Comportamiento
La red usó nuestros modelos para diversas tareas, principalmente para generar comentarios en redes sociales favorables o contrarios a los aranceles. Las cuentas preguntaron a nuestros modelos cuáles eran las mejores horas para publicar a fin de maximizar la interacción de la audiencia, lo que apunta al uso de tácticas de amplificación planificadas.
Dos tuits cuyos textos generó este agente malicioso con nuestros modelos para defender posturas opuestas en el debate sobre los aranceles.
En segundo lugar, las cuentas usaron nuestras capacidades de generación de imágenes para crear logotipos estilizados que después emplearon como imágenes de perfil de identidades ficticias en distintas plataformas sociales. En concreto, las cuentas se centraron en crear identidades de veteranos estadounidenses críticos con la actual Administración de EE. UU.
Cuenta de Bluesky que publicó contenido generado por esta red. El logotipo «Veteranos por la Justicia» se generó con nuestros modelos.
Por último, las cuentas solicitaron reiteradamente código y métodos para extraer de plataformas sociales como X y Bluesky datos personales —como perfiles de usuario, listas de seguidores y otros detalles— mediante herramientas como Tweepy, Nitter y la API pública de Bluesky. Además, las cuentas usaron nuestros modelos para obtener orientación sobre cómo analizar datos de perfiles en busca de características personales y afiliaciones a organizaciones, posiblemente para clasificar a personas o inferir relaciones y atributos.
Resultados
Las cuentas produjeron contenido polarizador sobre distintos ámbitos del debate político estadounidense, a menudo dentro de las mismas sesiones operativas. En consonancia con los métodos conocidos de las operaciones de influencia, todo apunta a que su objetivo era aprovechar las divisiones políticas existentes, más que promover una postura ideológica concreta. El volumen de contenido y el énfasis en los mensajes dirigidos al público estadounidense nos llevaron a bautizar esta operación como «Tío Spam».
Tuits con texto generado por nuestros modelos y publicados por identidades ficticias.
Impacto
Según la escala Breakout(se abre en una ventana nueva) del impacto de las operaciones de influencia, la clasificaríamos en la categoría 2: actividad en varias plataformas, sin expansión significativa y con una interacción mínima. Las cuentas de redes sociales que publicaron contenido generado por nuestros modelos recibieron poca interacción auténtica. La mayoría de las publicaciones de X difundidas por esta red recibieron pocos o ningún «me gusta» o republicación; solo unas pocas generaron cierta interacción. Algunas cuentas de redes sociales tenían miles de seguidores, pero no pudimos determinar si eran auténticos y esas cifras no parecían traducirse en interacciones con las publicaciones.