Operación “A2Z”: actividad de influencia multilingüe

Este estudio de caso se publicó originalmente en el informe de octubre de 2024⁠(se abre en una nueva ventana) de OpenAI.

Bloqueamos un grupo de cuentas del que no se había informado anteriormente y que usaba nuestra API para crear comentarios que luego se publicaban en X y Facebook. Muchos de estos comentarios elogiaban a Azerbaiyán o defendían su historial en materia de derechos humanos, pero la operación también abordaba muchos otros temas, lo que podría indicar que se trataba de una operación comercial. Dada la frecuencia con que elogiaba a Azerbaiyán y su intento de usar IA en varias fases de la operación, denominamos a esta red “A2Z”.

Al igual que la operación en ruso de Telegram que expusimos en mayo y denominamos “Mala gramática”, esta operación usó nuestros modelos para publicar comentarios en redes sociales. Aprovechó la IA para gestionar perfiles falsos en redes sociales, generar biografías, analizar publicaciones y comentarios, redactar respuestas en muchos idiomas y corregirlas. Luego, las respuestas se publicaban en X o Facebook. La mayor parte del contenido consistía en comentarios breves, pero también incluía imágenes estilizadas. Estas imágenes solían imitar el estilo de los carteles de la década de 1930, por lo que parecen diseñadas para atraer atención e interacciones, más que para engañar. Sin embargo, las publicaciones habituales con estas imágenes estilizadas solo recibieron entre 0 y 5 interacciones cada una.

Este uso de la IA permitió a la operación gestionar muchas cuentas de redes sociales a la vez: identificamos alrededor de 150 cuentas en X y Facebook que coincidían con esta actividad, además de otras cuentas sospechosas. También permitió que la operación participara ocasionalmente en hilos de comentarios con personas reales en internet. En ocasiones, observamos conversaciones breves entre personas reales y las cuentas falsas, cuyas respuestas se generaban con nuestros modelos.

Antes de la IA, una operación de esta escala probablemente habría requerido un gran equipo de troles, con todos los costos y riesgos de filtración asociados a una iniciativa de ese tipo. Sin embargo, la dependencia de la IA también hizo que esta operación fuera inusualmente vulnerable a nuestras medidas de disrupción. Como aprovechaba la IA en tantos eslabones de la cadena de ataque, nuestra intervención rompió muchos de ellos a la vez. Después de que desarticulamos esta actividad a principios de junio, las cuentas de redes sociales que habíamos identificado como parte de la operación dejaron de publicar durante los periodos electorales de la UE, el Reino Unido y Francia. Algunas reanudaron sus publicaciones a finales de agosto. Un pequeño número de sus publicaciones mostraba indicios de que probablemente se habían generado con IA. El contenido que mostraba esos indicios no provenía de nuestros modelos.

Esta campaña generó comentarios breves centrados en una amplia variedad de temas políticos. El tema más destacado fueron los elogios al gobierno de Azerbaiyán y a su papel en la política nacional, regional e internacional, por ejemplo, promover la unidad entre los países de Asia Central u organizar la Conferencia de las Naciones Unidas sobre el Cambio Climático. Cuentas en inglés e italiano elogiaron el papel de Azerbaiyán como proveedor de energía para Europa, a veces en respuesta a críticas sobre el historial del gobierno azerbaiyano en materia de derechos humanos.

Otras líneas de actividad se centraron en los beneficios y la evolución de la IA, los mercados financieros, cuestiones ecológicas, las criptomonedas y la tecnología en general. Un grupo se centró en los Emiratos Árabes Unidos, a los que presentaba como un destino estable para las inversiones, a menudo en contraste con afirmaciones sobre la inestabilidad política de Estados Unidos.

Algunos perfiles falsos se centraron en la política de Europa o Estados Unidos. La ideología de esta actividad variaba de una región a otra. Por ejemplo, una cuenta de X centrada en Estados Unidos se hacía pasar por liberal y criticaba al expresidente estadounidense Trump, mientras que algunas cuentas de Facebook que publicaban en francés criticaban al presidente Macron y apoyaban al partido Agrupación Nacional (RN). A veces, estas críticas se centraban en asuntos nacionales para sostener que el país en cuestión no debía intervenir en asuntos internacionales, incluida la invasión rusa de Ucrania.

Esta operación tuvo mucha actividad en Facebook y X, probablemente con cientos de cuentas. En X, algunas de sus cuentas tenían la marca azul de verificación pagada. De las aproximadamente 150 cuentas que analizamos en ambas plataformas, no identificamos ninguna con una cantidad significativa de seguidores: la cuenta de X con más seguidores que identificamos durante la investigación tenía 222; las cifras más habituales oscilaban entre unos 15 y poco más de 20, y las publicaciones típicas en X recibían menos de 10 interacciones. De manera similar, el mayor número de reacciones a una publicación de Facebook que observamos durante la investigación fue de 36, mientras que las cifras más habituales oscilaron entre 0 y 5. Sin embargo, identificamos algunas ocasiones en las que las publicaciones de la operación atrajeron respuestas de personas reales. Estas respuestas no siempre eran positivas y, en ocasiones, incluían a personas reales contradiciendo a las cuentas falsas, pero demuestran al menos cierta capacidad para interactuar con el público en varias plataformas, idiomas y temas.

Según la escala Breakout para evaluar el impacto de las operaciones de influencia, que las califica del 1 (más bajo) al 6 (más alto), situamos esta operación en el extremo superior de la categoría dos, con riesgo de avanzar a la categoría tres: se caracterizó por publicar en varias plataformas y hubo indicios de que personas reales interactuaban con su contenido. Sin embargo, después de que prohibimos que esta operación usara nuestros modelos y compartimos información con otras organizaciones del sector, las cuentas de redes sociales que habíamos identificado permanecieron inactivas durante muchas semanas. Esta operación pone de relieve tanto el aumento de capacidad que el uso de la IA puede brindar a los operadores como la mayor vulnerabilidad a la disrupción que genera su dependencia de un modelo de IA.