Operação «Spamouflage»: atividade de influência ligada à China

Este estudo de caso foi publicado originalmente no relatório da OpenAI de maio de 2024⁠(abre numa nova janela).

Banimos um pequeno número de contas associadas à operação de origem chinesa conhecida como «Spamouflage»⁠(abre numa nova janela). A Meta⁠(abre numa nova janela) atribuiu esta operação a «indivíduos associados às forças de segurança chinesas». O FBI⁠(abre numa nova janela) atribuiu parte da atividade desta operação nas redes sociais a uma unidade do Ministério da Segurança Pública da China.

Esta rede visava públicos de todo o mundo, sobretudo membros da diáspora chinesa e críticos do governo chinês. Gerava sobretudo conteúdo em chinês e, em menor grau, em inglês, japonês e coreano.

A rede utilizou os nossos modelos para depurar código, pedir aconselhamento sobre a análise de redes sociais, pesquisar notícias e acontecimentos atuais e gerar conteúdo que depois era publicado em fóruns de blogues e redes sociais.

Por exemplo, em 2023, a rede utilizou os nossos modelos para depurar o código que configurava o tema WordPress de um site, revealscum.com. Este site publicava, em chinês, críticas e informações pessoais sobre membros da diáspora chinesa que criticavam o governo chinês. O site chamava «traidores» a esses críticos. O conteúdo em si não foi gerado com os nossos modelos.

Esta campanha também utilizou os nossos modelos para criar conteúdo que depois era publicado em plataformas de redes sociais e fóruns. Por exemplo, no final de 2023, a operação gerou artigos que acusavam o Japão de prejudicar o ambiente marinho ao libertar águas residuais da central elétrica de Fukushima. Identificámos os artigos em plataformas como o Medium, o Blogspot e o ameblo.jp.

Em abril de 2024, a campanha publicou uma série de comentários em inglês que criticavam a dissidente chinesa Cai Xia. Identificámos uma conta no X que publicou o comentário inicial e um grupo de outras contas que publicou os restantes comentários como respostas. Não observámos respostas de quaisquer contas autênticas.

A campanha também utilizou os nossos modelos para realizar pesquisas em fontes abertas, por exemplo, sobre como solicitar contas de programador em redes sociais, ou para pedir resumos de publicações de críticos do governo chinês nessas redes.

A utilização de inteligência artificial pela rede parece ter representado apenas uma pequena parte da sua produção total. Por exemplo, muitas das contas no X e no Medium que identificámos como tendo publicado conteúdo gerado pelos nossos modelos publicaram um volume superior de conteúdo que parecia ter sido criado manualmente em inglês e chinês, como demonstrava, por exemplo, o uso pouco idiomático do inglês. Publicaram esse conteúdo tanto antes como depois de publicarem comentários gerados por IA.

Grande parte do conteúdo gerado por esta campanha estava em chinês. Os temas iam desde elogios à cooperação internacional do governo chinês na aplicação da lei até críticas aos abusos contra os povos indígenas dos Estados Unidos. Alguns conteúdos criticavam o governo dos EUA e a Microsoft por exporem a atividade do grupo de piratas informáticos chinês conhecido como «Volt Typhoon».

Outros conteúdos estavam em inglês. Estes criticavam geralmente figuras proeminentes que se opunham ao governo chinês, como o ator e ativista pelo Tibete Richard Gere e a dissidente Cai Xia. Alguns artigos gerados no final de 2023 em inglês, japonês, chinês, coreano e russo acusavam o Japão de poluir as águas do Pacífico com as descargas da central nuclear de Fukushima⁠(abre numa nova janela) — um tema recorrente das operações de influência chinesas.

Um pequeno grupo de atividades centrou-se em gerar comentários positivos, em chinês, sobre uma visita do ministro da Segurança Pública da China ao Uzbequistão. Não há conhecimento de que a Spamouflage tenha abordado este tema anteriormente; é um dado relevante tendo em conta que o FBI atribuiu⁠(abre numa nova janela) parte da atividade anterior desta operação nas redes sociais ao Ministério da Segurança Pública da China.

Parte da atividade da rede parece ter refletido os interesses pessoais dos operadores. Por exemplo, um operador utilizou os nossos modelos para pesquisar objetivas fotográficas. Outro utilizou os nossos modelos para concluir o que parece ter sido um trabalho de avaliação destinado a membros do Partido Comunista Chinês.

Desde que foi descrita publicamente pela primeira vez, em 2019⁠(abre numa nova janela), a Spamouflage tem sido uma das operações de influência mais estudadas do mundo. Há pouquíssimos relatos de que a sua atividade tenha alguma vez chegado a públicos autênticos.

A utilização de conteúdo gerado por IA não parece ter alterado essa dinâmica. Entre os blogues, artigos e contas de redes sociais que identificámos durante a nossa investigação, nenhum alcançou números elevados de interações ou seguidores reais. Em alguns casos, os indicadores disponíveis mostram que as únicas visualizações das publicações vieram da nossa equipa de investigação.

Utilizando a Breakout Scale⁠(abre numa nova janela) para avaliar o impacto das operações de influência, que as classifica numa escala de 1 (mais baixo) a 6 (mais alto), consideraríamos esta uma operação de categoria 2, caracterizada pela publicação em muitas plataformas, mas sem indícios de amplificação significativa por pessoas externas à rede.

Identificámos o seguinte domínio como estando associado a esta campanha.

• revealscum.com