Operação "Stop News": atividade de influência reincidente
A OpenAI baniu contas ligadas a uma operação de origem russa que chamamos de "Stop News", que usava IA para gerar conteúdo reincidente de influência direcionado à África e ao Reino Unido.
Este estudo de caso foi publicado originalmente no relatório de outubro de 2025(abre em uma nova janela) da OpenAI.
Agente
Banimos um conjunto de contas que tentava usar nossos modelos para gerar conteúdo para a operação de influência encoberta que descrevemos em outubro de 2024 como "Stop News". Essa atividade teve origem na Rússia e parecia compatível com uma operação conduzida por uma empresa de marketing. Nossa investigação identificou tentativas desse agente de usar ferramentas de IA de outras empresas para gerar vídeos que depois foram publicados no YouTube e no TikTok. Não conseguimos confirmar de forma independente quais modelos foram usados no fim.
Comportamento
Assim como na atividade que interrompemos em outubro de 2024, essa operação usava nossos modelos principalmente para gerar conteúdo que depois era publicado nas redes sociais e em um conjunto de sites que se passavam pelos mesmos veículos de notícias da África e do Reino Unido sobre os quais escrevemos no ano passado.
Embora essa atividade parecesse uma tentativa de dar continuidade à operação anterior após as medidas de interrupção tomadas por nós e por outras empresas do setor, identificamos algumas diferenças importantes. Em primeiro lugar, a proporção de geração de imagens foi significativamente menor. Enquanto a atividade original da Stop News, como observamos na época, era excepcionalmente prolífica no uso de imagens, a atividade mais recente se concentrou mais na geração de texto, com uso relativamente raro de geração de imagens. Isso está de acordo com a avaliação da agência digital francesa VIGINUM de que "desde a publicação dos relatórios da Meta e da OpenAI, o uso de imagens geradas por IA caiu drasticamente".
Em segundo lugar, a operação também usou o ChatGPT para gerar roteiros e descrições de vídeos curtos em estilo jornalístico. Normalmente, os operadores inseriam um texto longo em russo e pediam que fosse gerado um roteiro de vídeo com base nele. Em seguida, pediam ao modelo que traduzisse o texto para o francês. Em terceiro lugar, pediam ao modelo que gerasse uma descrição otimizada para SEO e hashtags.
Alguns desses roteiros apareceram em vídeos de um canal do YouTube ligado ao site da operação Stop News voltado à África, newstop[.]africa. Outros apareceram em canais do YouTube e do TikTok que não exibiam a marca "Stop News". Esses canais apresentavam uma pessoa gerada por IA lendo as notícias. Na maioria dos casos, breves clipes da apresentadora eram intercalados com imagens de eventos ocorridos na África ou relacionados ao continente. Os clipes da apresentadora não parecem ter sido gerados com nossos modelos; não conseguimos confirmar de forma independente qual serviço foi usado. A aparência da apresentadora evoluiu ao longo de 2025, como mostram as capturas de tela de vídeos do TikTok abaixo.
Da esquerda para a direita, a apresentadora de notícias gerada por IA elogiando a Rússia em janeiro de 2025, no início de junho de 2025 e no fim de junho de 2025, na conta da operação no TikTok.
Nos casos mais elaborados, os operadores usaram nossos modelos para gerar prompts de vídeo aparentemente destinados ao uso com outros modelos de IA. Nesse cenário, primeiro geravam um roteiro de vídeo em russo, depois o dividiam em trechos de duas frases e pediam ao ChatGPT que gerasse um prompt de vídeo para cada trecho. Depois de criar os prompts de vídeo, os operadores pediam ao modelo que traduzisse o roteiro inteiro para o francês.
Da esquerda para a direita: três capturas de tela de um vídeo do TikTok que elogia o "Corpo Africano" da Rússia. Os operadores usaram o ChatGPT para gerar o roteiro do áudio em russo, dividiram-no em trechos de duas frases e, para cada trecho, geraram um prompt de vídeo para outro modelo. As imagens acima correspondem aos prompts de vídeo. Não conseguimos confirmar de forma independente qual serviço foi usado para criar os vídeos. Vale observar que a legenda da imagem à direita contém um erro gramatical ("ces" em vez de "ses") que não aparecia na tradução para o francês fornecida pelo ChatGPT. Isso sugere que a legenda foi transcrita do áudio e não foi revisada por alguém que soubesse francês.
Resultados
A atividade dessa operação se dividia em três categorias principais. Primeiro, ela gerava conteúdo em francês que criticava o papel da França e dos Estados Unidos na África e elogiava a atuação da Rússia no continente. Segundo, ela gerava conteúdo em inglês que criticava a Ucrânia e seus apoiadores internacionais. Em algumas ocasiões, os operadores também geravam imagens para acompanhar o conteúdo textual. Em raras ocasiões, eles pediam ao ChatGPT que gerasse artigos promocionais e textos para anúncios do Google para sua principal marca de notícias, "Newstop Africa". Em vez de se concentrarem apenas na Newstop Africa, alguns desses artigos promocionais colocavam a marca Newstop ao lado de veículos de notícias legítimos, provavelmente para fazê-la parecer mais confiável por associação.
Publicação da principal conta da operação no X voltada à África. A imagem foi gerada com nosso modelo.
O terceiro conjunto de atividades consistia na geração de materiais promocionais para o que parecia ser uma série de empresas comerciais na Rússia. Isso incluía a geração de anúncios de jogos de azar on-line não licenciados. Essa combinação de diferentes tipos de geração de conteúdo é compatível com uma empresa comercial que conduz operações de influência encobertas sob encomenda paralelamente à publicidade mais tradicional, além de corresponder à atividade que relatamos no ano passado.
Impacto
Apesar do foco maior da operação em vídeos curtos e do uso mais complexo de diversas ferramentas de IA, o conteúdo publicado parece ter alcançado apenas um número limitado de visualizações ou pessoas. A principal conta da "Newstop Africa" no X tinha apenas 172 seguidores em agosto de 2025 e, segundo a função "Principais publicações" do X, o maior número de republicações de uma de suas postagens foi quatro.
Os canais do YouTube e do TikTok que apresentavam uma jornalista de IA tinham aproximadamente 1.900 seguidores cada; o canal do TikTok registrou 5.855 curtidas, uma média de 105 para cada um dos 56 vídeos publicados. O vídeo mais visto registrou 63.300 visualizações; o menos visto, apenas 87. O canal do YouTube contabilizava cerca de 255.000 visualizações em 50 vídeos, uma média de 5.100 por vídeo, mas não encontramos indícios de que esses vídeos tenham sido republicados, citados pela imprensa ou alcançado maior repercussão de outra forma.
Nossa avaliação original dessa operação no relatório de outubro de 2024 indicava que ela havia alcançado a Categoria 3 na Escala de Disseminação, em grande parte devido a uma série de aparentes "parcerias de informação" que pareciam ter sido estabelecidas com sites do Reino Unido. No entanto, pesquisas posteriores da VIGINUM e de pesquisadores de fontes abertas demonstraram que essas "parcerias" provavelmente eram fictícias e "exploravam falhas técnicas nesses sites externos" para adicionar conteúdo sem o conhecimento dos administradores. Com base nisso, atualmente avaliaríamos que a atividade dessa operação se enquadra melhor na Categoria 2: atividade em várias plataformas da internet, mas sem disseminação significativa em comunidades autênticas.