Operación “Doppelganger”: actividad de influencia rusa dirigida contra Ucrania
OpenAI bloqueó cuentas asociadas con la operación de origen ruso “Doppelganger”, que usaba IA para generar en varios idiomas comentarios contra Ucrania en redes sociales, traducciones y textos para sitios web.
Este estudio de caso se publicó originalmente en el informe de mayo de 2024(se abre en una nueva ventana) de OpenAI.
Actor
Bloqueamos cuatro grupos de cuentas que usaban nuestros modelos y estaban vinculadas con personas que actuaban en nombre de la operación de influencia rusa conocida como “Doppelganger”(se abre en una nueva ventana). Cada grupo mostró tácticas, técnicas y procedimientos (TTP) diferentes, en consonancia con una operación formada por distintos equipos funcionales.
Comportamiento
Esta actividad se dirigió a públicos de Europa y Norteamérica y se centró en generar contenido para sitios web y redes sociales.
El primer grupo de cuentas generó comentarios breves en inglés, francés, alemán, italiano y polaco. Estos se publicaron en 9GAG y X junto con memes, videos y enlaces que no parecen haberse generado con nuestros modelos. Algunos memes se copiaron de diversas partes de internet y parecían tener varios años de antigüedad.
En 9GAG, las cuentas que publicaban contenido de esta campaña solían usar fotos de celebridades o gatos en sus perfiles. Publicaban sus memes y videos en una amplia variedad de canales, incluido “Random” y otros dedicados a mascotas, deportes, humor e incluso relaciones y citas.
Comentario sobre Ucrania y video sobre Gaza, publicados en el canal “Motor Vehicles” de 9GAG por una cuenta que publicaba repetidamente contenido generado por esta campaña. La referencia a Ucrania y a la frontera de Estados Unidos se generó con nuestros modelos. El video era un montaje de imágenes de noticias. La publicación recibió 11 votos a favor y 93 votos en contra.
Cada vez que la campaña publicaba un meme o video en 9GAG, entre tres y cinco cuentas respondían, por lo general con mensajes sencillos como “jajaja” o “lol”. Cada una de estas cuentas interactuó únicamente con el contenido de esta campaña; la mayoría se creó en la misma fecha. Este comportamiento solía atraer comentarios críticos de otros usuarios, muchos de los cuales denunciaban que las cuentas eran “bots”.
Comentarios sobre el video que se muestra arriba. Las tres cuentas de abajo, que fueron las primeras en comentar, se crearon a fines de abril de 2024 y publicaron, votaron a favor o comentaron repetidamente las publicaciones de esta campaña, pero ninguna otra. Las tres cuentas de arriba, que denunciaron las falsificaciones, se habían creado entre uno y diez años antes y mostraban una amplia variedad de actividad.
En X, los comentarios de la campaña provenían de cuentas que normalmente solo hacían una o dos publicaciones cada una. Los comentarios solían incluir un enlace aparentemente aleatorio, como “solarpanelfor.sale”. Estos enlaces redirigían a un conjunto de sitios web que se han atribuido repetidamente a Doppelganger. Los sitios web tenían restricciones geográficas, por lo que solo podían verlos quienes tuvieran una dirección IP del país objetivo. Sin embargo, los operadores parecen haber cometido un error, ya que algunos artículos en inglés, alemán y polaco solo podían verse desde una IP francesa.
Publicación en X que incluye un comentario generado con nuestros modelos. El comentario se traduce así: “¡Un acto impactante! La política nunca debe asociarse con la violencia. Necesitamos diálogo, no violencia”. El enlace adjunto redirige a la edición en alemán de rrn.media, el sitio web con la marca de Doppelganger. Sin embargo, al 20 de mayo, solo podía verse desde una IP francesa.
Probablemente para evitar que la detectaran, esta agrupación accedió a nuestros modelos mediante un servicio vinculado con empresas de Rusia y la República Checa. Este servicio buscaba permitir que las personas en Rusia eludieran nuestra política de acceso desde países admitidos(se abre en una nueva ventana). Deshabilitamos el acceso de este servicio a la API.
El segundo grupo tradujo artículos del ruso al inglés y al francés; los textos en ruso parecen haber sido composiciones originales. Muchos de estos artículos se publicaron después en un sitio web que se ha atribuido repetidamente a Doppelganger: rrn.media. El mismo grupo generó comentarios breves sobre sus artículos que luego aparecieron en redes sociales.
Publicación en X generada con nuestros modelos, junto con un enlace a un artículo de rrn.media.
El tercer grupo se usó para generar, revisar y corregir artículos en francés. Luego, los artículos se publicaron en franceeteu.today, otro sitio web que también se ha atribuido a Doppelganger.
El último grupo operaba en alemán. Incorporaba contenido de grenzezank.com, un sitio web de Doppelganger, y lo usaba para generar publicaciones breves destinadas a un grupo y una página de Facebook con el nombre del sitio.
Contenido
La mayor parte del contenido que esta campaña publicó en internet se centraba en la guerra de Ucrania. Presentaba de forma negativa a Ucrania, Estados Unidos, la OTAN y la UE, y de forma positiva a Rusia. Los comentarios habituales sostenían que Rusia es un socio económico importante para los países europeos; que los líderes occidentales que critican a Rusia están desconectados de sus propios votantes; y que Ucrania es débil, corrupta o está al borde de la derrota.
En algunas ocasiones, los actores de Doppelganger intentaron que nuestros modelos generaran caricaturas de políticos europeos destacados y críticos de Rusia. Nuestros modelos rechazaron estas solicitudes.
Evaluación del impacto
Ninguna de las campañas de Doppelganger que identificamos parece haber conseguido una interacción positiva considerable de públicos auténticos.
En 9GAG, las publicaciones habituales recibían entre 5 y 10 votos a favor —principalmente de cuentas que también publicaban contenido de esta campaña— y entre 15 y 200 votos en contra. En X, las publicaciones habituales tenían alrededor de 1000 republicaciones, ninguna respuesta y ningún “Me gusta”. Esta discrepancia es tan amplia que sugiere una amplificación inauténtica. Una publicación recibió tres respuestas, y todas la denunciaron como falsa.
Respuesta en X a una publicación de Doppelganger.
Al usar la Escala de propagación(se abre en una nueva ventana) para evaluar el impacto de las operaciones de influencia, que las califica en una escala del 1 (menor) al 6 (mayor), consideramos que la actividad relacionada con el uso de nuestros modelos se encontraba en la categoría 2, caracterizada por publicaciones en varias plataformas, pero sin propagación ni interacción significativa del público en ninguna de ellas.