IUVM: rede de conteúdo de influência ligada ao Irã
A OpenAI baniu contas associadas à operação iraniana "IUVM", que usava IA para gerar e traduzir conteúdo pró-Irã, anti-Israel e anti-EUA para sites.
Este estudo de caso foi publicado originalmente no relatório da OpenAI de maio de 2024(abre em uma nova janela).
Agente
Banimos um pequeno número de contas ligadas a pessoas associadas à União Internacional de Mídia Virtual (IUVM)(abre em uma nova janela), uma entidade iraniana estudada pela comunidade de fontes abertas desde 2018.
Comportamento
Essa campanha tinha como alvo públicos globais e se concentrava na geração de conteúdo em inglês e francês. Ela usava nossos modelos para gerar e revisar artigos(abre em uma nova janela), títulos e tags de sites. Esse conteúdo era então publicado no site atual da IUVM, iuvmpress.co (domínios anteriores da IUVM foram apreendidos pelo FBI em 2020(abre em uma nova janela)).
Os artigos geralmente eram criados um dia antes da publicação; as tags do site eram criadas imediatamente antes de serem publicadas e provavelmente eram automatizadas. Em uma ocasião, identificamos um conjunto de tags do site que incluía a mensagem de resposta do nosso modelo, o que sugere automação (ou uma revisão inadequada).
Tags de um artigo publicado pelo iuvmpress.co. Observe as duas primeiras tags, que incluem a resposta do nosso modelo.
Conteúdo
O conteúdo gerado por essa rede consistia em artigos longos, títulos e tags de sites. Esse conteúdo geralmente era anti-EUA e anti-Israel e elogiava os palestinos, o Irã e o "Eixo da Resistência".
Avaliação de impacto
A presença online da IUVM foi reduzida por sucessivas remoções em redes sociais(abre em uma nova janela) e pela apreensão de seus domínios pelo FBI(abre em uma nova janela). Além do site, em 23 de maio de 2024, identificamos contas com a marca IUVM no TikTok, VKontakte e Odnoklassniki. Essas contas em redes sociais tinham, respectivamente, 10, 76 e 274 seguidores ou inscritos.
Usando a Escala de Propagação(abre em uma nova janela) para avaliar o impacto das operações de influência, que as classifica em uma escala de 1 (menor) a 6 (maior), avaliaríamos esta como uma operação de Categoria 2, marcada por publicações em várias plataformas, mas sem propagação nem envolvimento significativo do público em nenhuma delas.
Indicadores
Identificamos os seguintes domínios como associados a esta campanha.
iuvmpress.co
iuvmarchive.org