Operación “Tío Spam”: actividad de influencia para polarizar a EE. UU.
OpenAI bloqueó cuentas originadas en China que usaban IA para generar contenido político de EE. UU. e investigar a personas, movimientos y comunidades en línea.
Este estudio de caso se publicó originalmente en el informe de OpenAI de junio de 2025(se abre en una nueva ventana).
Actor
Bloqueamos varias cuentas de ChatGPT vinculadas a una operación de influencia originada en China(se abre en una nueva ventana) tras recibir información de nuestros colegas de Meta. La operación generó contenido polarizante para redes sociales que apoyaba posturas opuestas sobre temas divisivos del debate político estadounidense, incluidos textos e imágenes de perfil generadas con IA para plataformas como X y Bluesky.
Comportamiento
La red usó nuestros modelos para varias tareas, principalmente para generar comentarios en redes sociales a favor o en contra de los aranceles. Las cuentas preguntaron a nuestros modelos cuáles eran los mejores horarios de publicación para maximizar la interacción de la audiencia, lo que indica el uso de tácticas de amplificación planificadas.
Dos tuits cuyos textos fueron generados con nuestros modelos por este actor de amenazas y que promovían posturas opuestas en el debate sobre los aranceles.
En segundo lugar, las cuentas usaron nuestras funciones de generación de imágenes para crear logotipos estilizados que luego emplearon como imágenes de perfil de identidades ficticias en distintas plataformas sociales. En particular, las cuentas se enfocaron en crear identidades de veteranos de EE. UU. críticos de la actual administración estadounidense.
Cuenta de Bluesky que publicó contenido generado por esta red. El logotipo de “Veteranos por la Justicia” se generó con nuestros modelos.
Por último, las cuentas solicitaron reiteradamente código y métodos para extraer datos personales —como perfiles de usuarios, listas de seguidores y otros detalles— de plataformas sociales como X y Bluesky mediante herramientas como Tweepy, Nitter y la API pública de Bluesky. Además, las cuentas usaron nuestros modelos para obtener orientación sobre cómo analizar datos de perfiles en busca de características personales y afiliaciones organizacionales, posiblemente para clasificar a las personas o inferir sus vínculos y atributos.
Respuestas generadas
Las cuentas produjeron contenido polarizante sobre distintos temas del debate político estadounidense, a menudo durante las mismas sesiones operativas. En consonancia con las metodologías conocidas de las operaciones de influencia, esto parece haber sido diseñado para explotar las divisiones políticas existentes, en lugar de promover una postura ideológica específica. El volumen de contenido y el enfoque en mensajes dirigidos al público estadounidense nos llevaron a apodar esta operación “Tío Spam”.
Tuits con texto generado por nuestros modelos y publicados por identidades ficticias.
Impacto
Según la escala de alcance(se abre en una nueva ventana) para medir el impacto de las operaciones de influencia, la clasificaríamos en la categoría 2: actividad en varias plataformas, sin trascendencia fuera de ellas o con una interacción mínima. Las cuentas de redes sociales que publicaron contenido generado por nuestros modelos recibieron poca interacción auténtica. La mayoría de las publicaciones en X de esta red recibieron pocos o ningún “Me gusta” ni republicaciones; solo unas cuantas consiguieron cierta interacción. Algunas cuentas de redes sociales tenían miles de seguidores, pero no pudimos evaluar su autenticidad y esas cifras no parecían traducirse en interacciones con las publicaciones.