Operación «A2Z»: actividad de influencia multilingüe

Este estudio de caso se publicó originalmente en el informe de OpenAI de octubre de 2024⁠(se abre en una ventana nueva).

Bloqueamos un grupo de cuentas del que no se había informado anteriormente y que utilizaba nuestra API para crear comentarios que después se publicaban en X y Facebook. Muchos de estos comentarios elogiaban a Azerbaiyán o defendían su historial de derechos humanos, aunque la actividad también se centraba en muchos otros temas, lo que podría indicar que se trataba de una operación comercial. Dada la frecuencia con la que elogiaba a Azerbaiyán y su intento de usar IA en varias fases de la operación, hemos denominado «A2Z» a esta red.

Al igual que la operación en ruso de Telegram que expusimos en mayo y denominamos «Bad Grammar», esta operación utilizó nuestros modelos para publicar comentarios en redes sociales. Utilizó IA para gestionar identidades falsas en redes sociales, generar biografías, analizar publicaciones y comentarios, redactar respuestas en numerosos idiomas y corregirlas. Después, las respuestas se publicaban en X o Facebook. La mayor parte del contenido consistía en comentarios breves, aunque también incluía imágenes estilizadas. Estas imágenes solían imitar el estilo de los carteles de la década de 1930, por lo que parecen diseñadas para llamar la atención y generar interacción, más que para engañar. Sin embargo, las publicaciones habituales con estas imágenes estilizadas solo recibieron entre 0 y 5 interacciones cada una.

Este uso de la IA permitió a la operación gestionar muchas cuentas de redes sociales a la vez: identificamos unas 150 cuentas de X y Facebook que coincidían con esta actividad, además de otras cuentas sospechosas. También permitió que la operación participara ocasionalmente en hilos de comentarios con personas reales en internet. En ocasiones, observamos conversaciones breves entre personas reales y las cuentas falsas, cuyas respuestas se generaban con nuestros modelos.

Antes de la IA, una operación de esta magnitud probablemente habría requerido un gran equipo de troles, con todos los costes y riesgos de filtración asociados a una iniciativa así. Sin embargo, la dependencia de la IA también hizo que esta operación fuera especialmente vulnerable a nuestra intervención. Como utilizaba IA en tantos eslabones de la cadena de ataque, nuestra intervención rompió muchos de ellos a la vez. Después de que interrumpiéramos esta actividad a principios de junio, las cuentas de redes sociales que habíamos identificado como parte de la operación dejaron de publicar durante los periodos electorales de la UE, el Reino Unido y Francia. Algunas volvieron a publicar a finales de agosto. Un pequeño número de sus publicaciones presentaba indicios de que probablemente se habían generado mediante IA. El contenido que presentaba esos indicios no procedía de nuestros modelos.

Esta campaña generó comentarios breves centrados en una amplia variedad de temas políticos. El tema más destacado fueron los elogios al Gobierno de Azerbaiyán y a su papel en la política nacional, regional e internacional, por ejemplo, por fomentar la unidad entre los países de Asia Central o acoger la Conferencia de las Naciones Unidas sobre el Cambio Climático. Cuentas en inglés e italiano elogiaron el papel de Azerbaiyán como proveedor de energía para Europa, a veces en respuesta a críticas sobre el historial de derechos humanos del Gobierno azerbaiyano.

Otras líneas de actividad se centraron en las ventajas y la evolución de la IA, los mercados financieros, los problemas medioambientales, las criptomonedas y la tecnología en general. Un grupo se centró en los Emiratos Árabes Unidos, que presentaba como un destino estable para la inversión, a menudo en contraste con afirmaciones sobre la inestabilidad política de Estados Unidos.

Algunas identidades falsas se centraron en la política de Europa o Estados Unidos. La ideología de esta actividad variaba según la región. Por ejemplo, una cuenta de X centrada en Estados Unidos se hacía pasar por liberal y criticaba al expresidente estadounidense Trump, mientras que algunas cuentas de Facebook que publicaban en francés criticaban al presidente Macron y apoyaban al partido Agrupación Nacional (RN). A veces, estas críticas se centraban en cuestiones nacionales para sostener que el país en cuestión no debía intervenir en asuntos internacionales, incluida la invasión rusa de Ucrania.

Esta operación fue muy activa en Facebook y X y probablemente contó con cientos de cuentas. En X, algunas de sus cuentas tenían la marca azul de verificación de pago. De las aproximadamente 150 cuentas que analizamos en ambas plataformas, no identificamos ninguna con un número significativo de seguidores: la mayor audiencia de X que detectamos durante la investigación era de 222 seguidores; las cifras más habituales oscilaban entre unos 15 y poco más de 20, y las publicaciones típicas en X recibían menos de 10 interacciones. Del mismo modo, el mayor número de reacciones a una publicación de Facebook que observamos durante la investigación fue de 36, mientras que las cifras más habituales oscilaban entre 0 y 5. Sin embargo, sí identificamos algunas ocasiones en las que las publicaciones de la operación recibieron respuestas de personas reales. Estas respuestas no siempre eran positivas y, en ocasiones, incluían a personas reales que contradecían a las cuentas falsas, pero demuestran cierta capacidad para atraer a públicos de varias plataformas, en distintos idiomas y sobre múltiples temas.

Según la escala Breakout para evaluar el impacto de las operaciones de influencia, que las puntúa del 1 (mínimo) al 6 (máximo), situaríamos esta operación en el extremo superior de la categoría dos, con riesgo de pasar a la categoría tres: publicó en varias plataformas y había ciertos indicios de que personas reales interactuaban con su contenido. Sin embargo, después de impedir que esta operación utilizara nuestros modelos y compartir información con otras empresas del sector, las cuentas de redes sociales que habíamos identificado permanecieron inactivas durante muchas semanas. Esta operación pone así de relieve la mayor capacidad que el uso de la IA puede aportar a los operadores, pero también su mayor vulnerabilidad a las intervenciones debido a la dependencia de un modelo de IA.