Operação "Resenha Zombeteira": atividade de influência de origem chinesa

Este estudo de caso foi publicado originalmente no relatório da OpenAI de junho de 2025⁠(abre em uma nova janela).

Banimos contas do ChatGPT que detectamos usando nossos modelos para gerar em massa publicações em redes sociais compatíveis com a atividade de uma operação de influência clandestina. Ao longo da investigação, também observamos essas contas redigindo avaliações internas de desempenho.

Essas contas enviavam principalmente prompts em chinês e se concentravam em temas políticos e geopolíticos relevantes para a China. Um usuário afirmou em um prompt que trabalhava para o Departamento de Propaganda da China; no entanto, não temos provas independentes que confirmem essa alegação.

As contas que banimos atuavam em duas frentes principais. A mais produtiva envolvia gerar comentários curtos para redes sociais em inglês e chinês, além de alguns em urdu. Identificamos muitos desses comentários publicados no TikTok e no X, além de conteúdo adicional no Reddit, no Facebook e em vários sites.

Um padrão típico consistia em publicar um comentário inicial por meio de uma conta "principal", muitas vezes aparentemente criada apenas para aquela publicação, seguido por uma série de respostas de outras contas. Esse comportamento parecia ter sido concebido para criar uma falsa impressão de engajamento orgânico.

No TikTok, as contas que faziam comentários usavam nomes de exibição em diversos idiomas e alfabetos, muitas vezes sem relação com o idioma do conteúdo publicado. Por exemplo, uma conta com nome coreano publicou um comentário em urdu, enquanto contas com nomes tailandeses e hebraicos publicaram em inglês comentários gerados por esta rede. No X, as contas que faziam comentários normalmente usavam imagens de desenhos animados no perfil e, em alguns casos, tinham nomes associados a criptomoedas.

A rede era menos ativa no Facebook. Sua atividade consistia principalmente em gerar nomes e fotos de perfil para duas Páginas que se passavam por veículos de notícias. Nenhuma das Páginas tinha seguidores ou curtidas, e cada uma apresentava apenas algumas publicações.

Ocasionalmente, a rede gerava publicações mais longas em chinês ou inglês. Identificamos uma dessas publicações no Reddit e outras duas em diferentes fóruns da internet. A segunda frente de trabalho consistia em usar o ChatGPT para gerar o que pareciam ser documentos internos de políticas ou avaliações de desempenho.

O conteúdo para redes sociais gerado por esse agente de ameaça abordava vários temas, todos estreitamente alinhados aos interesses geoestratégicos da China.

Parte do conteúdo se concentrava em Taiwan e tinha como alvo específico o "Frente Invertida"⁠(abre em uma nova janela) ("逆統戰"), um jogo eletrônico e de tabuleiro centrado em Taiwan que imagina uma resistência contra o Partido Comunista Chinês. A rede gerou dezenas de comentários críticos em chinês sobre o jogo, seguidos por um artigo longo que alegava que ele havia provocado uma reação negativa generalizada. Essa foi a atividade mais característica da operação; por isso, nós a batizamos de "Resenha Zombeteira".

Outro conteúdo, em inglês e urdu, tinha como alvo a ativista paquistanesa Mahrang Baloch, que criticou publicamente os investimentos da China no Baluchistão⁠(abre em uma nova janela). Uma conta do TikTok e uma Página do Facebook vinculadas à rede publicaram um vídeo que acusava falsamente Baloch de aparecer em um filme pornográfico. Em seguida, a operação gerou centenas de comentários curtos nos dois idiomas para simular um amplo engajamento.

Um último conjunto de conteúdos se concentrou no fechamento da Agência dos EUA para o Desenvolvimento Internacional (USAID), gerando comentários curtos que elogiavam ou criticavam a medida. Esses comentários foram publicados no TikTok e no X.

Por fim, os agentes de ameaça usaram nossos modelos para gerar o que pareciam ser documentos internos, incluindo um ensaio detalhado escrito no estilo de um documento oficial de segurança pública e uma avaliação de desempenho que descrevia as medidas tomadas para estabelecer e conduzir a operação.

A operação parecia estar em seu estágio inicial quando interrompemos o uso de nossos modelos. Nenhuma das Páginas do Facebook tinha seguidores. No Reddit, uma publicação recebeu 44 votos positivos, enquanto outras duas foram bloqueadas ou removidas dos subreddits em que foram publicadas.

O engajamento no X e no TikTok foi mais variado: os dois vídeos do TikTok acumularam, juntos, 25 mil curtidas, enquanto as publicações da conta principal da operação no X normalmente recebiam cerca de 10 mil visualizações cada. No entanto, muitos dos comentários nessas publicações foram gerados por esta rede usando o ChatGPT, o que indica que pelo menos parte do engajamento não era autêntica. Portanto, todos os números de engajamento devem ser interpretados com cautela.

Usando a Escala Breakout⁠(abre em uma nova janela) de impacto de operações de influência, avaliaríamos esta operação como situada no limite inferior da Categoria 3, caso os números de engajamento no X e no TikTok fossem autênticos. Rebaixaríamos essa avaliação se surgissem mais evidências para sustentar a hipótese de que a maioria das curtidas e visualizações, assim como a maioria dos comentários, não era autêntica.