Operação «Tio Spam»: atividade de influência para polarizar os EUA
A OpenAI bloqueou contas com origem na China que usavam IA para gerar conteúdo político sobre os EUA e investigar pessoas, movimentos e comunidades em linha.
Este estudo de caso foi publicado originalmente no relatório da OpenAI de junho de 2025(abre numa nova janela).
Agente
Bloqueámos várias contas do ChatGPT associadas a uma operação de influência com origem na China(abre numa nova janela), na sequência de uma pista fornecida pelos nossos homólogos da Meta. A operação gerou conteúdo polarizador para as redes sociais que apoiava ambos os lados de temas controversos do debate político nos EUA, incluindo textos e imagens de perfil geradas por IA em plataformas como o X e o Bluesky.
Comportamento
A rede utilizou os nossos modelos para várias tarefas, sobretudo para gerar comentários nas redes sociais favoráveis ou críticos em relação às tarifas aduaneiras. As contas perguntaram aos nossos modelos quais eram os melhores horários para publicar e maximizar a interação do público, o que indicia táticas de amplificação premeditadas.
Duas publicações no X cujos textos foram gerados por este agente malicioso através dos nossos modelos, defendendo posições opostas no debate sobre as tarifas aduaneiras.
Em segundo lugar, as contas recorreram às nossas capacidades de geração de imagens para criar logótipos estilizados, posteriormente utilizados como imagens de perfil de identidades fictícias em várias plataformas sociais. Em particular, as contas concentraram-se em criar identidades de veteranos norte-americanos críticos da atual administração dos EUA.
Conta no Bluesky que publicou conteúdo gerado por esta rede. O logótipo «Veteranos pela Justiça» foi gerado através dos nossos modelos.
Por último, as contas solicitaram repetidamente código e métodos para extrair dados pessoais — como perfis de utilizador, listas de seguidores e outros dados — de plataformas sociais como o X e o Bluesky, através de ferramentas como o Tweepy, o Nitter e a API pública do Bluesky. Além disso, as contas utilizaram os nossos modelos para obter orientações sobre a análise de dados de perfis com vista a identificar características pessoais e filiações organizacionais, possivelmente para categorizar indivíduos ou inferir relações e atributos.
Resultados
As contas produziram conteúdo polarizador sobre vários temas do debate político nos EUA, muitas vezes durante as mesmas sessões operacionais. Em linha com metodologias conhecidas utilizadas por operações de influência, esta atividade parece ter sido concebida para explorar as divisões políticas existentes, e não para promover uma posição ideológica específica. O volume de conteúdo e o foco em mensagens dirigidas ao público norte-americano levaram-nos a batizar esta operação de «Tio Spam».
Publicações no X feitas por identidades fictícias, com texto gerado pelos nossos modelos.
Impacto
Com base na Escala de Expansão(abre numa nova janela) para avaliar o impacto de operações de influência, classificamos esta atividade na Categoria 2: atividade em várias plataformas, sem expansão ou com interação mínima. As contas das redes sociais que publicaram conteúdo gerado pelos nossos modelos obtiveram pouca interação autêntica. A maioria das publicações desta rede no X recebeu poucas ou nenhumas reações ou republicações, tendo apenas algumas gerado alguma interação. Algumas contas nas redes sociais tinham milhares de seguidores, mas não conseguimos avaliar a autenticidade desses seguidores e o seu número não pareceu traduzir-se em interações com as publicações.