Operação "Tio Spam": atividade de influência para polarizar os EUA
A OpenAI baniu contas originárias da China que usavam IA para gerar conteúdo político sobre os EUA e pesquisar pessoas, movimentos e comunidades online.
Este estudo de caso foi publicado originalmente no relatório de junho de 2025(abre em uma nova janela) da OpenAI.
Agente
Banimos várias contas do ChatGPT vinculadas a uma operação de influência originária da China(abre em uma nova janela), após recebermos uma pista de nossos colegas da Meta. A operação gerou conteúdo polarizador para redes sociais que apoiava os dois lados de temas controversos do debate político dos EUA, incluindo textos e imagens de perfil geradas por IA em plataformas como X e Bluesky.
Comportamento
A rede usou nossos modelos para diversas tarefas, principalmente para gerar comentários em redes sociais favoráveis ou contrários a tarifas. As contas perguntaram aos nossos modelos quais eram os melhores horários para publicar e maximizar o engajamento do público, o que indica o uso de táticas calculadas de amplificação.
Dois tuítes cujos textos foram gerados por esse agente mal-intencionado usando nossos modelos, cada um defendendo um lado do debate sobre tarifas.
Em segundo lugar, as contas usaram nossos recursos de geração de imagens para criar logotipos estilizados, que depois foram usados como fotos de perfil para sustentar identidades fictícias em várias plataformas sociais. Em particular, as contas se concentraram em criar identidades de veteranos dos EUA críticos ao atual governo americano.
Conta no Bluesky que publicou conteúdo gerado por essa rede. O logotipo "Veteranos pela Justiça" foi gerado usando nossos modelos.
Por fim, as contas solicitaram repetidamente códigos e métodos para extrair dados pessoais, como perfis de usuários, listas de seguidores e outros detalhes, de plataformas sociais como X e Bluesky, usando ferramentas como Tweepy, Nitter e a API pública do Bluesky. Além disso, as contas usaram nossos modelos para obter orientações sobre como analisar dados de perfis em busca de características pessoais e vínculos organizacionais, possivelmente para categorizar indivíduos ou inferir associações e atributos.
Resultados
As contas produziram conteúdo polarizador sobre diversos temas do debate político dos EUA, muitas vezes nas mesmas sessões operacionais. Em consonância com metodologias conhecidas de operações de influência, essa atividade parece ter sido concebida para explorar divisões políticas existentes, e não para promover uma posição ideológica específica. O volume de conteúdo e o foco em mensagens voltadas ao público americano nos levaram a chamar essa operação de "Tio Spam".
Tuítes com textos gerados por nossos modelos e publicados por identidades fictícias.
Impacto
Com base na Escala de Alcance(abre em uma nova janela) para avaliar o impacto de operações de influência, classificamos essa atividade na Categoria 2: atividade em várias plataformas, sem alcançar repercussão significativa ou com engajamento mínimo. As contas de redes sociais que publicaram conteúdo gerado por nossos modelos receberam pouco engajamento autêntico. A maioria das publicações dessa rede no X recebeu poucas ou nenhuma curtida ou republicação; apenas algumas tiveram algum engajamento. Algumas contas nas redes sociais tinham milhares de seguidores, mas não conseguimos avaliar a autenticidade deles, e essa quantidade não pareceu se traduzir em engajamento nas publicações.