Operação «Doppelganger»: atividade de influência russa dirigida à Ucrânia
A OpenAI baniu contas associadas à operação de origem russa «Doppelganger», que usava IA para gerar, em vários idiomas, comentários anti-Ucrânia nas redes sociais, traduções e textos para sites.
Este estudo de caso foi originalmente publicado no relatório da OpenAI de maio de 2024(abre numa nova janela).
Agente
Banimos quatro grupos de contas que usavam os nossos modelos e estavam ligados a pessoas que atuavam em nome da operação de influência russa conhecida como «Doppelganger»(abre numa nova janela). Cada grupo apresentava diferentes táticas, técnicas e procedimentos (TTP), compatíveis com uma operação composta por diferentes equipas funcionais.
Comportamento
Esta atividade visava públicos na Europa e na América do Norte e centrava-se na criação de conteúdos para sites e redes sociais.
O primeiro grupo de contas gerava comentários curtos em inglês, francês, alemão, italiano e polaco. Estes eram publicados no 9GAG e no X, juntamente com memes, vídeos e ligações que não parecem ter sido gerados com os nossos modelos. Alguns memes foram copiados de vários locais da Internet e pareciam ter vários anos.
No 9GAG, as contas que publicavam os conteúdos desta campanha tinham geralmente fotografias de perfil de celebridades ou gatos. Publicavam os seus memes e vídeos numa grande variedade de canais, incluindo o canal «Random» e canais dedicados a animais de estimação, desporto, humor e até relações e encontros.
Comentário sobre a Ucrânia e vídeo sobre Gaza publicados no canal «Motor Vehicles» do 9GAG por uma conta que publicava repetidamente conteúdos gerados por esta campanha. A referência à Ucrânia e à fronteira dos EUA foi gerada com os nossos modelos. O vídeo era uma montagem de imagens de noticiários. A publicação recebeu 11 votos positivos e 93 votos negativos.
Sempre que a campanha publicava um meme ou vídeo no 9GAG, três a cinco contas respondiam, geralmente com mensagens simples como «hahaha» ou «lol». Cada uma destas contas interagia exclusivamente com os conteúdos desta campanha; a maioria foi criada na mesma data. Este comportamento atraía frequentemente comentários críticos de outros utilizadores, muitos dos quais denunciavam as contas como «bots».
Comentários ao vídeo apresentado acima. As três contas na parte inferior, responsáveis pelos primeiros comentários, foram todas criadas no final de abril de 2024 e publicaram, deram votos positivos ou comentaram repetidamente as publicações desta campanha, e nenhumas outras. As três contas na parte superior, que denunciavam as falsificações, tinham sido criadas entre um e dez anos antes e apresentavam uma grande variedade de atividades.
No X, os comentários da campanha eram publicados por contas que, geralmente, apenas faziam uma ou duas publicações cada. Os comentários eram geralmente acompanhados por uma ligação aparentemente aleatória, como «solarpanelfor.sale». Estas ligações redirecionavam para um conjunto de sites que têm sido repetidamente atribuídos à Doppelganger. Os sites tinham restrições geográficas, pelo que apenas podiam ser consultados por pessoas com um endereço IP no país visado. No entanto, os operadores parecem ter cometido um erro, pois alguns artigos em inglês, alemão e polaco só podiam ser consultados a partir de um IP francês.
Publicação no X que inclui um comentário gerado com os nossos modelos. O comentário significa: «Um ato chocante! A política nunca deve estar associada à violência. Precisamos de diálogo, não de violência.» A ligação incluída redireciona para a edição em alemão do site da marca Doppelganger, rrn.media. No entanto, a 20 de maio, só podia ser consultado a partir de um IP francês.
Provavelmente numa tentativa de evitar a deteção, este grupo acedeu aos nossos modelos através de um serviço ligado a empresas na Rússia e na República Checa. Este serviço destinava-se a permitir que as pessoas na Rússia contornassem a nossa política de acesso em países suportados(abre numa nova janela). Desativámos o acesso deste serviço à API.
O segundo grupo traduzia artigos de russo para inglês e francês; os textos russos parecem ter sido composições originais. Muitos destes artigos foram posteriormente publicados num site repetidamente atribuído à Doppelganger: rrn.media. O mesmo grupo gerava comentários curtos sobre os seus artigos, que apareciam mais tarde nas redes sociais.
Publicação no X gerada com os nossos modelos, acompanhada de uma ligação para um artigo no rrn.media.
O terceiro grupo era utilizado para gerar, rever e corrigir artigos em francês. Os artigos eram depois publicados num site que também foi atribuído à Doppelganger, franceeteu.today.
O último grupo operava em alemão. Importava conteúdos de um site da Doppelganger, grenzezank.com, e utilizava-os para gerar publicações curtas para um grupo e uma página do Facebook com o nome do site.
Conteúdo
A maioria dos conteúdos que esta campanha publicou online centrava-se na guerra na Ucrânia. Retratava a Ucrânia, os EUA, a NATO e a UE de forma negativa e a Rússia de forma positiva. Os comentários habituais alegavam que a Rússia é um parceiro económico importante para os países europeus; que os líderes ocidentais que criticam a Rússia estão alheados dos seus próprios eleitores; e que a Ucrânia é fraca, corrupta e/ou está à beira da derrota.
Em algumas ocasiões, os agentes da Doppelganger tentaram fazer com que os nossos modelos gerassem caricaturas de políticos europeus de destaque e críticos da Rússia. Os nossos modelos recusaram estes pedidos.
Avaliação do impacto
Nenhuma das campanhas da Doppelganger que identificámos parece ter conseguido um envolvimento positivo substancial de públicos autênticos.
No 9GAG, as publicações habituais receberam entre 5 e 10 votos positivos — sobretudo de contas que também publicavam conteúdos desta campanha — e entre 15 e 200 votos negativos. No X, as publicações habituais tinham cerca de 1000 partilhas, nenhuma resposta e nenhum gosto. Esta discrepância é tão acentuada que sugere uma amplificação não autêntica. Uma publicação teve três respostas, todas elas a denunciaram como falsa.
Resposta no X a uma publicação da Doppelganger.
Utilizando a Escala de Propagação(abre numa nova janela) para avaliar o impacto das operações de influência, que as classifica numa escala de 1 (mais baixo) a 6 (mais alto), classificaríamos a atividade relacionada com a utilização dos nossos modelos na Categoria 2, caracterizada por publicações em várias plataformas, mas sem propagação ou envolvimento significativo do público em qualquer uma delas.