«Má Gramática»: atividade de comentários no Telegram ligada à Rússia

Este estudo de caso foi originalmente publicado no relatório da OpenAI de maio de 2024⁠(abre numa nova janela).

Banimos uma rede de contas, até então desconhecida, que usava os nossos modelos para criar comentários posteriormente publicados no Telegram. Associámos esta atividade a indivíduos da Rússia. Tendo em conta o seu foco no Telegram, a publicação repetida de textos em inglês com erros gramaticais e a dificuldade em atrair público, chamámos a esta rede «Má Gramática».

Esta rede visou públicos na Rússia, Ucrânia, Estados Unidos, Moldávia e Estados Bálticos com conteúdos em russo e inglês.

A rede usou os nossos modelos e contas do Telegram para criar um fluxo de publicação massiva de comentários. Primeiro, os operadores usaram os nossos modelos para depurar código aparentemente concebido para automatizar publicações no Telegram. Depois, geraram comentários em russo e inglês em resposta a publicações específicas no Telegram. Por fim, parecem ter usado pelo menos uma dúzia de contas do Telegram para publicar esses comentários.

Em inglês, os operadores usaram os nossos modelos para gerar comentários assumindo a voz de várias personas falsas, com perfis demográficos distintos e provenientes de ambos os lados do espectro político dos Estados Unidos. Em russo, preferiram instruções mais centradas em temas e menos baseadas em personas.

A rede comentou sobretudo publicações de um pequeno número de canais do Telegram. O canal mais mencionado foi o canal pró-Rússia @Slavyangrad, seguido pelos canais em inglês @police_frequency e @SGTNewsNetwork. (Este último apresenta-se como um veterano norte-americano conservador, mas, em novembro, a Meta comunicou⁠(abre numa nova janela) que, na verdade, tinha origem no Irão.) Numa amostra da atividade de fevereiro, a rede tentou gerar respostas a estes três canais duas vezes mais frequentemente do que aos dez canais seguintes mais mencionados em conjunto.

Esta campanha gerou comentários curtos centrados num pequeno conjunto de temas políticos. Tanto em inglês como em russo, os principais temas abordados nas suas publicações no Telegram foram a guerra na Ucrânia, a situação política na Moldávia e nos Estados Bálticos e a política dos Estados Unidos.

Os comentários típicos em russo no Telegram acusavam os presidentes da Ucrânia e da Moldávia de corrupção, falta de apoio popular e traição dos seus próprios povos em favor da «interferência» ocidental. Os comentários em inglês no Telegram centravam-se em temas como a imigração, as dificuldades económicas e as principais notícias do dia. Estes comentários usavam frequentemente o contexto da atualidade para defender que os Estados Unidos não deviam apoiar a Ucrânia.

Por vezes, mais do que uma persona comentava a mesma publicação, apresentando pontos de vista contraditórios. Esta abordagem «dupla», que consiste em fingir representar vozes de ambos os lados, já foi observada em operações russas e poderá revelar uma intenção de atrair públicos específicos ou promover a divisão.

Após o ataque terrorista em Moscovo, a 22 de março, e a detenção de quatro cidadãos tajiques, a campanha começou a usar um novo grupo de contas do Telegram centrado no Tajiquistão. Os comentários publicados apelavam à união entre tajiques e russos e ao respeito pela lei russa.

A publicação massiva de comentários já era uma técnica comum das operações de influência antes do surgimento da IA generativa. Embora a Má Gramática tenha usado uma nova técnica para gerar comentários, o seu sistema de distribuição teve dificuldade em suscitar interação.

Muito poucos dos seus comentários receberam gostos ou respostas. Normalmente, os comentários da rede representavam uma minoria das respostas a cada publicação — ou seja, não abafavam outras opiniões, caso esse fosse o objetivo.

Ocasionalmente, a rede usou os nossos modelos para gerar o que parecem ter sido mensagens privadas, possivelmente trocadas com outro utilizador do Telegram, mas os textos gerados sugerem que a rede estava a conversar com um autor de burlas com criptomoedas.

Usando a Escala de Expansão⁠(abre numa nova janela) para avaliar o impacto das operações de influência, que as classifica numa escala de 1 (mais baixo) a 6 (mais alto), atribuiríamos a esta operação a Categoria 1, caracterizada pela publicação numa única plataforma, sem indícios de amplificação significativa por pessoas externas à rede.