«Mala gramática»: actividad de comentarios en Telegram vinculada a Rusia

Este estudio de caso se publicó originalmente en el informe de mayo de 2024⁠(se abre en una ventana nueva) de OpenAI.

Bloqueamos una red de cuentas, hasta entonces desconocida, que usaba nuestros modelos para crear comentarios que después se publicaban en Telegram. Vinculamos esta actividad con personas de Rusia. Dado que se centraba en Telegram, publicaba repetidamente textos en un inglés agramatical y tenía dificultades para conseguir audiencia, bautizamos esta red como «Mala gramática».

Esta red se dirigía a audiencias de Rusia, Ucrania, Estados Unidos, Moldavia y los países bálticos con contenido en ruso e inglés.

La red usó nuestros modelos y cuentas de Telegram para establecer un sistema automatizado de publicación masiva de comentarios. Primero, los operadores usaron nuestros modelos para depurar código aparentemente diseñado para automatizar las publicaciones en Telegram. Después generaron comentarios en ruso e inglés como respuesta a publicaciones concretas de Telegram. Por último, parece que usaron al menos una docena de cuentas de Telegram para publicar esos comentarios.

En inglés, los operadores usaron nuestros modelos para generar comentarios con la voz de varios perfiles falsos que representaban a distintos grupos demográficos de ambos lados del espectro político estadounidense. En ruso, preferían instrucciones más temáticas y menos centradas en perfiles ficticios.

La red comentaba principalmente publicaciones de un reducido número de canales de Telegram. El canal más mencionado era el prorruso @Slavyangrad, seguido de los canales en inglés @police_frequency y @SGTNewsNetwork. (Este último se hace pasar por un veterano conservador estadounidense, pero, en noviembre, Meta informó⁠(se abre en una ventana nueva) de que en realidad tenía su origen en Irán). En una muestra de actividad de febrero, la red intentó generar respuestas para estos tres canales con el doble de frecuencia que para los otros 10 canales más mencionados en conjunto.

Esta campaña generó comentarios breves centrados en unos pocos temas políticos. Tanto en inglés como en ruso, los principales temas sobre los que publicaba en Telegram eran la guerra de Ucrania, la situación política de Moldavia y los países bálticos, y la política estadounidense.

Los comentarios habituales en ruso publicados en Telegram acusaban a los presidentes de Ucrania y Moldavia de corrupción, falta de apoyo popular y de traicionar a sus propios pueblos ante la «injerencia» occidental. Los comentarios en inglés de Telegram se centraban en temas como la inmigración, las dificultades económicas y las noticias de última hora. Estos comentarios solían aprovechar el contexto de la actualidad para defender que Estados Unidos no debía apoyar a Ucrania.

A veces, más de un perfil ficticio comentaba la misma publicación y ofrecía puntos de vista contradictorios. Este enfoque de «doble cara», basado en hacerse pasar por voces de ambos bandos, ya se ha observado en operaciones rusas y podría indicar el deseo de atraer a audiencias concretas o fomentar la división.

Tras el atentado terrorista de Moscú del 22 de marzo y la detención de cuatro ciudadanos tayikos, la campaña empezó a usar un nuevo grupo de cuentas de Telegram centradas en Tayikistán. Los comentarios que publicaba pedían unidad entre tayikos y rusos, así como respeto por la legislación rusa.

La publicación masiva de comentarios ya era una técnica habitual de las operaciones de influencia antes de la llegada de la IA generativa. Aunque Mala gramática usó una técnica novedosa para generar sus comentarios, su sistema de distribución tuvo dificultades para conseguir interacción.

Muy pocos de sus comentarios recibieron «Me gusta» o respuestas. Los comentarios de la red solían representar una minoría de las respuestas a cada publicación, por lo que no acallaban otros puntos de vista, si ese era el objetivo.

En ocasiones, la red usó nuestros modelos para generar lo que parecen haber sido mensajes privados, posiblemente intercambiados con otro usuario de Telegram, pero los textos generados sugieren que la red conversaba con un estafador de criptomonedas.

Según la escala de expansión⁠(se abre en una ventana nueva) para evaluar el impacto de las operaciones de influencia, que las puntúa del 1 (más bajo) al 6 (más alto), clasificaríamos esta actividad en la categoría 1, caracterizada por publicaciones en una sola plataforma y sin indicios de una amplificación significativa por parte de personas ajenas a la red.