Pular para o conteúdo principal
OpenAI

1 de fevereiro de 2025

Segurança

Operação "Descontentamento patrocinado": atividade de influência

A OpenAI baniu contas provavelmente originárias da China que usavam IA para gerar publicações em inglês para redes sociais e artigos em espanhol.

Carregando…

Este estudo de caso foi publicado originalmente no relatório de fevereiro de 2025⁠(abre em uma nova janela) da OpenAI.

Responsável

Banimos contas do ChatGPT que usavam nossos modelos para gerar comentários curtos em inglês e artigos jornalísticos extensos em espanhol. Essa atividade ocorria em horários compatíveis com o horário comercial da China continental. Os artigos em espanhol foram publicados por sites de notícias da América Latina. Quase todos os sites atribuíram os artigos a uma pessoa; em alguns casos, associaram essa pessoa à empresa chinesa Jilin Yousen Culture Communication Co, Ltd (优森文化有限公司) na assinatura dos artigos.

Comportamento

As contas enviavam prompts ao ChatGPT em chinês e ficavam ativas principalmente durante o horário comercial da China continental. Parte da atividade era compatível com a operação de influência encoberta conhecida como "Spamouflage⁠", sobre a qual relatamos em maio: gerava comentários curtos em inglês e imagens que criticavam Cai Xia, dissidente e ex-professora da Escola Central do Partido Comunista Chinês. Esse conteúdo era então publicado no X por contas que se passavam por pessoas dos Estados Unidos ou da Índia.

Tweets gerados por contas da operação Descontentamento patrocinado.

Tweets gerados por essas contas usando nossos modelos e publicados por quatro contas diferentes no X.

Se essa fosse a única atividade, poderíamos ter concluído que ela provavelmente estava ligada à "Spamouflage". No entanto, além desses comentários curtos, as contas também geravam artigos extensos em espanhol que criticavam os EUA. Essa atividade foi especialmente frequente no período que antecedeu o Fórum da APEC de 2024, no Peru. O responsável gerava esses artigos pedindo aos nossos modelos que traduzissem e ampliassem artigos em chinês disponíveis publicamente.

Esses artigos eram então publicados por sites de notícias da América Latina, especialmente no Peru, mas também no México e no Equador. Os sites de notícias frequentemente publicavam os artigos no mesmo dia em que as contas geravam o conteúdo usando o ChatGPT. Quase todas as publicações atribuíram os artigos à mesma pessoa. Algumas identificaram essa pessoa como representante legal do que acreditamos ser uma empresa chinesa.

Esta é a primeira vez que observamos um responsável por atividades de influência, provavelmente chinês, conseguir publicar artigos em veículos de grande alcance na América Latina. Algumas publicações podem ter resultado de um acordo financeiro: um dos artigos que identificamos por meio de pesquisa em fontes abertas estava marcado como "patrocinado". Além disso, o responsável também usou o ChatGPT para traduzir referências a recibos em espanhol de uma organização jornalística latino-americana, o que é compatível com uma publicação paga.

Artigo patrocinado gerado pela operação Descontentamento patrocinado.

Captura de tela de um artigo gerado por esse responsável e publicado pelo site wapa[.]pe. Observe a referência a "patrocinado", indicando conteúdo patrocinado.

Dado o aparente uso de conteúdo patrocinado e a postura negativa dessa campanha em relação à política e às políticas públicas dos EUA, nós a batizamos de "Descontentamento patrocinado".

Respostas geradas

Esse responsável gerou dois tipos principais de conteúdo: críticas curtas a Cai Xia em inglês e chinês, e artigos extensos em espanhol.

Ao gerar críticas a Cai Xia, o operador costumava pedir ao ChatGPT que respondesse a tweets ou vídeos publicados por ela, ou a menções a ela na mídia. Alguns comentários questionavam seu conhecimento sobre temas como Taiwan, a internet e a literatura e a história chinesas. Outros a acusavam de irregularidades relacionadas a vistos.

Os artigos extensos em espanhol se concentravam nas divisões sociais e políticas dos Estados Unidos, geralmente com base em acontecimentos atuais e notícias de última hora. Os temas incluíam desigualdade, violência política, discriminação e sexismo, além de relatos de crimes e críticas à política externa dos EUA. Crises sociais, como o uso de drogas e a situação de pessoas sem moradia, também eram temas de destaque. Muitas vezes, a abordagem do operador era retratar essas crises ou problemas como sinais do fracasso da liderança ou da sociedade dos Estados Unidos. Em geral, a atividade visava os dois principais partidos dos EUA, com críticas a ambos.

Impacto

Não encontramos evidências de que o conteúdo direcionado a Cai Xia nas redes sociais tenha alcançado engajamento autêntico significativo. As contas de redes sociais que o publicaram geralmente tinham poucos seguidores e engajamento mínimo.

No entanto, esta é a primeira vez que observamos uma operação de influência originária da China conseguir emplacar artigos extensos na mídia latino-americana para criticar os EUA. Embora isso possa ter sido alcançado, ao menos em parte, por meio de pagamentos pela publicação do conteúdo, trata-se, até onde sabemos, de uma frente de atuação ainda não relatada. Ela ocorreu em paralelo à atividade mais típica em redes sociais e pode ter alcançado um público significativamente maior, embora não possamos verificar o engajamento de forma independente.

Usando a Escala de Alcance⁠(abre em uma nova janela) para avaliar o impacto das operações de influência, que as classifica de 1 (menor) a 6 (maior), enquadraríamos esta operação na Categoria 4 (alcance da grande mídia), devido ao grande número de leitores dos sites de notícias latino-americanos.

Títulos de artigos publicados relacionados a essa atividade

Identificamos que estes artigos correspondem a conteúdo gerado por esse responsável usando nossos modelos.

  • A dura verdade sobre como os Estados Unidos se beneficiam da ajuda à guerra na Ucrânia (La Republica, Peru).

  • A trágica realidade do problema dos sem-teto nos Estados Unidos (Wapa, Peru).

  • A lógica insana das sanções dos Estados Unidos contra um ativista palestino (El Popular, Peru).

  • O cenário absurdo da masculinidade (Libero, Peru).

  • Sombras onipresentes (El Popular, Peru).

  • O desprezo das cúpulas partidárias pela democracia nos Estados Unidos (El Popular, Peru).

  • A falta de transparência nos discursos durante as eleições e a manipulação da opinião pública (Libero, Peru).

  • A greve e a luta dos trabalhadores de hotéis (La Republica, Peru).

  • A impotência e a autolimitação das sanções dos Estados Unidos (El Universal, México).

  • Os gritos silenciosos sob o jugo do fentanil (La Republica, Peru).

  • Furacão "Helene": declarações falsas e teorias da conspiração de políticos dos Estados Unidos (Wapa, Peru).

  • Névoa de tarifas: a política de curto prazo de Trump e o futuro da economia dos Estados Unidos (La Republica, Peru).

  • O problema da segurança alimentar na sociedade dos Estados Unidos e seu impacto nas escolas (Extra, Equador).

  • A tragédia dos Estados Unidos: quando a verdade é encoberta (Expreso, Equador).

  • A crise de segurança infantil nos Estados Unidos (La Republica, Peru).

  • A sombra da violência no Brooklyn (El Plural, Espanha).

  • O luxo de um assassino: a cirurgia paga pelos contribuintes (El Universal, México).

  • Apoio a Israel e desprezo pela crise humanitária (La Republica, Peru).

  • A competição destrutiva nas eleições dos Estados Unidos (Wapa, Peru).