Operação «Crítica Sarcástica»: atividade de influência com origem na China

Este estudo de caso foi publicado originalmente no relatório da OpenAI de junho de 2025⁠(abre numa nova janela).

Bloqueámos contas do ChatGPT que detetámos estar a usar os nossos modelos para gerar em massa publicações nas redes sociais compatíveis com a atividade de uma operação de influência encoberta. Ao longo da nossa investigação, também observámos estas contas a redigir avaliações internas de desempenho.

Estas contas emitiam prompts sobretudo em chinês e incidiam em temas políticos e geopolíticos relevantes para a China. Um utilizador afirmou num prompt que trabalhava para o Departamento de Propaganda chinês; contudo, não dispomos de provas independentes que confirmem esta alegação.

As contas que bloqueámos dedicavam-se a duas áreas de atividade principais. A mais prolífica consistia em gerar comentários curtos para redes sociais, em inglês e chinês, e alguns em urdu. Identificámos muitos destes comentários no TikTok e no X, bem como alguns conteúdos adicionais no Reddit, Facebook e em vários sites.

Um padrão típico consistia em publicar um comentário inicial a partir de uma conta «principal», muitas vezes aparentemente criada apenas para essa publicação, seguido de vários comentários de resposta de outras contas. Este comportamento parecia destinar-se a criar uma falsa impressão de interação orgânica.

No TikTok, as contas que publicavam comentários usavam nomes de ecrã em vários idiomas e alfabetos, muitas vezes sem relação com o idioma do conteúdo publicado. Por exemplo, uma conta com um nome coreano publicou um comentário em urdu, enquanto contas com nomes tailandeses e hebraicos publicaram em inglês comentários gerados por esta rede. No X, as contas que publicavam comentários usavam geralmente imagens de perfil de desenhos animados e, em alguns casos, tinham nomes associados a criptomoedas.

A rede era menos ativa no Facebook. A sua atividade consistia sobretudo em gerar nomes e imagens de perfil para duas Páginas que se faziam passar por órgãos de comunicação social. Nenhuma das Páginas tinha seguidores ou gostos, e cada uma apresentava apenas algumas publicações.

Ocasionalmente, a rede gerava publicações mais longas em chinês ou inglês. Identificámos uma dessas publicações no Reddit e outras duas em vários fóruns online. A segunda área de atividade consistia em usar o ChatGPT para gerar o que parecem ter sido documentos internos de políticas ou de avaliação de desempenho.

Os conteúdos para redes sociais gerados por este agente de ameaça abrangeram vários temas, todos estreitamente alinhados com os interesses geoestratégicos da China.

Alguns conteúdos centraram-se em Taiwan, visando especificamente «Reversed Front»⁠(abre numa nova janela) («逆統戰»), um videojogo e jogo de tabuleiro centrado em Taiwan que imagina a resistência contra o Partido Comunista Chinês. A rede gerou dezenas de comentários em chinês que criticavam o jogo, seguidos de um artigo extenso que alegava ter havido uma reação negativa generalizada. Esta foi a atividade mais distintiva da operação, razão pela qual lhe demos o nome «Crítica Sarcástica».

Outros conteúdos, em inglês e urdu, visavam a ativista paquistanesa Mahrang Baloch, que criticou publicamente os investimentos da China no Baluchistão⁠(abre numa nova janela). Uma conta do TikTok e uma Página do Facebook ligadas à rede publicaram um vídeo que acusava falsamente Baloch de ter participado num filme pornográfico. A operação gerou depois centenas de comentários curtos em ambos os idiomas para simular uma interação generalizada.

Um último conjunto de conteúdos centrou-se no encerramento da Agência dos EUA para o Desenvolvimento Internacional (USAID), gerando comentários curtos que elogiavam ou criticavam a decisão. Estes comentários foram publicados no TikTok e no X.

Por fim, os agentes de ameaça usaram os nossos modelos para gerar o que parecem ter sido documentos internos, incluindo um ensaio detalhado escrito no estilo de um documento oficial de segurança pública e uma avaliação de desempenho que descrevia as medidas tomadas para criar e gerir a operação.

Esta operação parece ter estado ainda numa fase inicial quando interrompemos a utilização dos nossos modelos. Nenhuma das Páginas do Facebook tinha seguidores. No Reddit, uma publicação recebeu 44 votos positivos, enquanto outras duas foram bloqueadas ou removidas dos subreddits onde foram publicadas.

A interação no X e no TikTok foi mais variada: os dois vídeos do TikTok acumularam, em conjunto, 25 000 gostos, enquanto as publicações da conta principal desta operação no X recebiam geralmente cerca de 10 000 visualizações cada. Contudo, muitos dos comentários nestas publicações foram gerados por esta rede através do ChatGPT, o que indica que pelo menos parte da interação não era autêntica. Por conseguinte, todos os números relativos à interação devem ser interpretados com cautela.

Segundo a Escala Breakout⁠(abre numa nova janela) para medir o impacto das operações de influência, classificaríamos esta operação no limite inferior da Categoria 3, caso os números de interação no X e no TikTok fossem autênticos. Reveríamos esta avaliação em baixa se surgissem mais provas que sustentassem a hipótese de que a maioria dos gostos e das visualizações, tal como a maioria dos comentários, não era autêntica.