“Mala gramática”: actividad de comentarios en Telegram vinculada a Rusia

Este estudio de caso se publicó originalmente en el informe de mayo de 2024⁠(se abre en una nueva ventana) de OpenAI.

Bloqueamos una red de cuentas no reportada anteriormente que usaba nuestros modelos para crear comentarios que luego se publicaban en Telegram. Vinculamos esta actividad con personas de Rusia. Debido a su enfoque en Telegram, sus publicaciones reiteradas en un inglés con errores gramaticales y sus dificultades para conseguir una audiencia, llamamos a esta red “Mala gramática”.

Esta red dirigió contenido en ruso e inglés a audiencias de Rusia, Ucrania, Estados Unidos, Moldavia y los países bálticos.

La red usó nuestros modelos y cuentas de Telegram para establecer un sistema automatizado de publicación masiva de comentarios. Primero, los operadores usaron nuestros modelos para depurar código que, al parecer, estaba diseñado para automatizar publicaciones en Telegram. Luego generaron comentarios en ruso e inglés como respuesta a publicaciones específicas de Telegram. Por último, parece que usaron al menos una docena de cuentas de Telegram para publicar esos comentarios.

En inglés, los operadores usaron nuestros modelos para generar comentarios con la voz de varias identidades ficticias de diferentes grupos demográficos y de ambos lados del espectro político de Estados Unidos. En ruso, preferían instrucciones más temáticas y menos basadas en identidades ficticias.

La red comentaba principalmente en publicaciones de un pequeño número de canales de Telegram. El canal más mencionado fue el prorruso @Slavyangrad, seguido de los canales en inglés @police_frequency y @SGTNewsNetwork. (Esta última se presenta como un veterano conservador estadounidense, pero en noviembre Meta informó⁠(se abre en una nueva ventana) que, en realidad, se originó en Irán). En una muestra de la actividad de febrero, la red intentó generar respuestas para estos tres canales con el doble de frecuencia que para los siguientes 10 canales más mencionados en conjunto.

Esta campaña generó comentarios breves centrados en unos pocos temas políticos. Tanto en inglés como en ruso, los principales temas sobre los que publicaba en Telegram eran la guerra en Ucrania, la situación política de Moldavia y los países bálticos, y la política de Estados Unidos.

Los comentarios habituales en ruso en Telegram acusaban a los presidentes de Ucrania y Moldavia de corrupción, falta de apoyo popular y de traicionar a sus propios pueblos ante la “interferencia” occidental. Los comentarios en inglés en Telegram se centraban en temas como la inmigración, las dificultades económicas y las noticias de última hora. Estos comentarios solían aprovechar el contexto de los acontecimientos actuales para argumentar que Estados Unidos no debía apoyar a Ucrania.

A veces, más de una identidad ficticia comentaba en la misma publicación y expresaba puntos de vista contradictorios. Este enfoque de “doble cara”, que consiste en hacerse pasar por voces de ambos bandos, ya se ha observado en operaciones rusas y puede indicar la intención de atraer a audiencias específicas o fomentar la división.

Tras el atentado terrorista del 22 de marzo en Moscú y la detención de cuatro ciudadanos tayikos, la campaña comenzó a usar un nuevo grupo de cuentas de Telegram centrado en Tayikistán. Los comentarios que publicaba pedían unidad entre tayikos y rusos, así como respeto por la legislación rusa.

La publicación masiva de comentarios ya era una técnica habitual de las operaciones de influencia antes de la llegada de la IA generativa. Aunque Mala gramática usó una técnica novedosa para generar sus comentarios, su sistema de distribución tuvo dificultades para conseguir interacciones.

Muy pocos de sus comentarios recibieron reacciones o respuestas. Por lo general, los comentarios de la red representaban una minoría de las respuestas a cada publicación, por lo que no acallaban otros puntos de vista, si ese era el objetivo.

En ocasiones, la red usó nuestros modelos para generar lo que parecían ser mensajes privados, posiblemente con otro usuario de Telegram, pero los textos generados sugieren que la red conversaba con un estafador de criptomonedas.

Si aplicamos la escala Breakout⁠(se abre en una nueva ventana) para evaluar el impacto de las operaciones de influencia, que las califica del 1 (más bajo) al 6 (más alto), situaríamos esta actividad en la categoría 1, caracterizada por publicaciones en una sola plataforma y sin indicios de una amplificación significativa por parte de personas ajenas a la red.