Operación «Doppelganger»: actividad de influencia rusa dirigida contra Ucrania
OpenAI bloqueó cuentas asociadas a la operación de origen ruso «Doppelganger», que usaba IA para generar en varios idiomas comentarios contra Ucrania en redes sociales, traducciones y textos para sitios web.
Este caso práctico se publicó originalmente en el informe de mayo de 2024(se abre en una ventana nueva) de OpenAI.
Actor
Bloqueamos cuatro grupos de cuentas que usaban nuestros modelos y estaban vinculadas a personas que actuaban en nombre de la operación de influencia rusa conocida como «Doppelganger»(se abre en una ventana nueva). Cada grupo empleaba tácticas, técnicas y procedimientos (TTP) distintos, lo que concuerda con una operación formada por diferentes equipos funcionales.
Comportamiento
Esta actividad se dirigía a públicos de Europa y Norteamérica y se centraba en generar contenido para sitios web y redes sociales.
El primer grupo de cuentas generaba comentarios breves en inglés, francés, alemán, italiano y polaco. Estos se publicaban en 9GAG y X junto con memes, vídeos y enlaces que no parecen haberse generado con nuestros modelos. Algunos memes se copiaron de distintos sitios de internet y parecían tener varios años de antigüedad.
En 9GAG, las cuentas que publicaban el contenido de esta campaña solían tener fotos de perfil de famosos o gatos. Publicaban sus memes y vídeos en una amplia variedad de canales, entre ellos «Aleatorio» y otros dedicados a las mascotas, los deportes, el humor e incluso las relaciones y las citas.
Comentario sobre Ucrania y vídeo sobre Gaza publicados en el canal «Vehículos de motor» de 9GAG por una cuenta que publicaba repetidamente contenido generado por esta campaña. La referencia a Ucrania y a la frontera de Estados Unidos se generó con nuestros modelos. El vídeo era un montaje de imágenes de informativos. La publicación recibió 11 votos positivos y 93 negativos.
Cada vez que la campaña publicaba un meme o vídeo en 9GAG, entre tres y cinco cuentas respondían, normalmente con mensajes sencillos como «jajaja» o «lol». Todas estas cuentas interactuaban exclusivamente con el contenido de esta campaña; la mayoría se crearon el mismo día. Este comportamiento solía suscitar comentarios críticos de otros usuarios, muchos de los cuales denunciaban que las cuentas eran «bots».
Comentarios sobre el vídeo mostrado arriba. Las tres cuentas inferiores, que fueron las primeras en comentar, se crearon a finales de abril de 2024 y publicaron, votaron positivamente o comentaron repetidamente las publicaciones de esta campaña, pero ninguna otra. Las tres cuentas superiores, que denunciaron las falsificaciones, se habían creado entre uno y diez años antes y mostraban una gran variedad de actividad.
En X, los comentarios de la campaña procedían de cuentas que normalmente solo habían publicado una o dos veces. Los comentarios solían ir acompañados de un enlace aparentemente aleatorio, como «solarpanelfor.sale». Estos enlaces redirigían a un conjunto de sitios web que se han atribuido repetidamente a Doppelganger. Los sitios web tenían restricciones geográficas, por lo que solo podían verlos quienes tuvieran una dirección IP del país objetivo. Sin embargo, los operadores parecen haber cometido un error: algunos artículos en inglés, alemán y polaco solo podían verse desde una IP francesa.
Publicación en X que incluye un comentario generado con nuestros modelos. El comentario se traduce así: «¡Un acto estremecedor! La política nunca debería asociarse con la violencia. Necesitamos diálogo, no violencia». El enlace adjunto redirige a la edición en alemán de rrn.media, el sitio web de la marca Doppelganger. Sin embargo, a 20 de mayo, solo podía verse desde una IP francesa.
Probablemente para evitar que se detectara, este grupo accedió a nuestros modelos mediante un servicio vinculado a empresas de Rusia y la República Checa. Este servicio pretendía permitir que personas de Rusia eludieran nuestra política de acceso desde países admitidos(se abre en una ventana nueva). Hemos desactivado el acceso de este servicio a la API.
El segundo grupo traducía artículos del ruso al inglés y al francés; los textos rusos parecen haber sido composiciones originales. Muchos de estos artículos se publicaron después en un sitio web que se ha atribuido repetidamente a Doppelganger: rrn.media. El mismo grupo generó comentarios breves sobre sus artículos que más tarde aparecieron en redes sociales.
Publicación en X generada con nuestros modelos, junto con un enlace a un artículo de rrn.media.
El tercer grupo se utilizó para generar, revisar y corregir artículos en francés. Después, los artículos se publicaron en franceeteu.today, un sitio web que también se ha atribuido a Doppelganger.
El último grupo operaba en alemán. Importaba contenido de grenzezank.com, un sitio web de Doppelganger, y lo utilizaba para generar publicaciones breves para un grupo y una página de Facebook que llevaban el nombre del sitio.
Contenido
La mayor parte del contenido que esta campaña publicó en internet se centraba en la guerra de Ucrania. Presentaba de forma negativa a Ucrania, Estados Unidos, la OTAN y la UE, y de forma positiva a Rusia. Los comentarios habituales afirmaban que Rusia es un socio económico importante para los países europeos; que los líderes occidentales que critican a Rusia están desconectados de sus propios votantes; y que Ucrania es débil, corrupta o está al borde de la derrota.
En algunas ocasiones, los actores de Doppelganger intentaron que nuestros modelos generaran caricaturas de destacados políticos europeos y críticos con Rusia. Nuestros modelos rechazaron estas solicitudes.
Evaluación del impacto
Ninguna de las campañas de Doppelganger que identificamos parece haber logrado una interacción positiva considerable de públicos auténticos.
En 9GAG, las publicaciones habituales recibían entre 5 y 10 votos positivos —principalmente de cuentas que también publicaban contenido de esta campaña— y entre 15 y 200 votos negativos. En X, las publicaciones habituales tenían alrededor de 1000 veces compartidas, ninguna respuesta y ningún «Me gusta». Esta discrepancia es tan grande que apunta a una amplificación inauténtica. Una publicación recibió tres respuestas, y todas la denunciaron como falsa.
Respuesta en X a una publicación de Doppelganger.
Si aplicamos la Escala de propagación(se abre en una ventana nueva) para evaluar el impacto de las operaciones de influencia, que las puntúa del 1 (mínimo) al 6 (máximo), situaríamos la actividad relacionada con el uso de nuestros modelos en la categoría 2, caracterizada por publicaciones en varias plataformas, pero sin propagación ni una interacción significativa del público en ninguna de ellas.