IUVM: rede de conteúdos de influência ligada ao Irão
A OpenAI baniu contas associadas à operação de origem iraniana «IUVM», que usava IA para gerar e traduzir conteúdos pró-Irão, anti-Israel e anti-EUA para sites.
Este estudo de caso foi publicado originalmente no relatório da OpenAI de maio de 2024(abre numa nova janela).
Ator
Banimos um pequeno número de contas ligadas a pessoas associadas à International Union of Virtual Media (IUVM)(abre numa nova janela), uma entidade iraniana estudada pela comunidade de investigação em fontes abertas desde 2018.
Comportamento
Esta campanha visava públicos de todo o mundo e centrava-se na criação de conteúdos em inglês e francês. Usava os nossos modelos para gerar e rever artigos(abre numa nova janela), títulos e etiquetas de sites. Estes conteúdos eram depois publicados no atual site da IUVM, iuvmpress.co (os anteriores domínios da IUVM foram apreendidos pelo FBI em 2020(abre numa nova janela)).
Normalmente, os artigos eram criados na véspera da publicação; as etiquetas do site eram criadas imediatamente antes e, provavelmente, de forma automatizada. Numa ocasião, identificámos um conjunto de etiquetas do site que incluía a mensagem de resposta do nosso modelo, o que sugere automatização (ou uma revisão deficiente).
Etiquetas num artigo publicado por iuvmpress.co. Repare nas duas primeiras, que incluem a resposta do nosso modelo.
Conteúdo
Os conteúdos gerados por esta rede consistiam em artigos extensos, títulos e etiquetas de sites. Estes conteúdos eram geralmente anti-EUA e anti-Israel e elogiavam os palestinianos, o Irão e o «Eixo da Resistência».
Avaliação do impacto
A presença online da IUVM foi reduzida por sucessivas remoções das redes sociais(abre numa nova janela) e pela apreensão dos seus domínios pelo FBI(abre numa nova janela). Além do seu site, em 23 de maio de 2024 identificámos contas com a marca IUVM no TikTok, VKontakte e Odnoklassniki. Estas contas nas redes sociais tinham, respetivamente, 10, 76 e 274 seguidores ou subscritores.
Recorrendo à Escala de Expansão(abre numa nova janela), que avalia o impacto das operações de influência de 1 (mínimo) a 6 (máximo), classificaríamos esta operação na categoria 2: houve publicações em várias plataformas, mas não ganhou projeção nem gerou interação significativa com o público em nenhuma delas.
Indicadores
Identificámos os seguintes domínios como estando associados a esta campanha.
iuvmpress.co
iuvmarchive.org