Operação «A2Z»: atividade de influência multilingue

Este estudo de caso foi originalmente publicado no relatório da OpenAI de outubro de 2024⁠(abre numa nova janela).

Banimos um grupo de contas, até então desconhecido, que usava a nossa API para criar comentários posteriormente publicados no X e no Facebook. Muitos destes comentários elogiavam o Azerbaijão ou defendiam o seu historial em matéria de direitos humanos, mas a operação também abordava muitos outros temas, o que poderá indicar que era gerida comercialmente. Dada a frequência com que elogiava o Azerbaijão e a tentativa de usar IA em várias fases da operação, designámos esta rede por «A2Z».

Tal como a operação em russo no Telegram que expusemos em maio e designámos por «Bad Grammar», esta operação usou os nossos modelos para viabilizar comentários nas redes sociais. Recorreu à IA para gerir identidades falsas nas redes sociais, gerar biografias, analisar publicações e comentários, redigir respostas em vários idiomas e revê-las. As respostas eram depois publicadas no X ou no Facebook. A maior parte do conteúdo consistia em comentários breves, mas também incluía imagens estilizadas. Estas imagens recorriam frequentemente ao estilo dos cartazes da década de 1930, pelo que parecem ter sido concebidas para atrair atenção e interação, não para enganar. Contudo, as publicações habituais com estas imagens estilizadas receberam apenas entre 0 e 5 interações cada.

Este uso de IA permitiu à operação gerir simultaneamente muitas contas nas redes sociais: identificámos cerca de 150 contas no X e no Facebook correspondentes a esta atividade, além de outras contas suspeitas. Também permitiu que a operação participasse ocasionalmente em conversas de comentários com pessoas reais na Internet. Observámos ocasionalmente conversas breves entre pessoas reais e as contas falsas, cujas respostas eram geradas com os nossos modelos.

Antes da IA, uma operação desta dimensão teria provavelmente exigido uma grande equipa de trolls, com todos os custos e riscos de fuga de informação associados a tal iniciativa. Contudo, a dependência da IA também tornou esta operação invulgarmente vulnerável à nossa intervenção. Como recorria à IA em muitas etapas da cadeia de ataque, a nossa intervenção interrompeu várias dessas etapas em simultâneo. Depois de interrompermos esta atividade no início de junho, as contas nas redes sociais que identificáramos como parte da operação deixaram de publicar durante os períodos eleitorais na UE, no Reino Unido e em França. Algumas retomaram as publicações no final de agosto. Um pequeno número das suas publicações apresentava indícios de ter sido provavelmente gerado por IA. O conteúdo que apresentava esses indícios não provinha dos nossos modelos.

Esta campanha gerou comentários breves sobre uma grande variedade de temas políticos. O tema mais proeminente era o elogio ao Governo do Azerbaijão e ao seu papel na política nacional, regional e internacional — por exemplo, na promoção da união entre os países da Ásia Central ou na organização da Conferência das Nações Unidas sobre Alterações Climáticas. Contas em inglês e italiano elogiaram o papel do Azerbaijão como fornecedor de energia à Europa — por vezes em resposta a críticas ao historial do Governo azeri em matéria de direitos humanos.

Outras vertentes da atividade centraram-se nos benefícios e na evolução da IA, nos mercados financeiros, em questões ambientais, nas criptomoedas e, de forma mais geral, na tecnologia. Um grupo centrou-se nos Emirados Árabes Unidos, apresentando-os como um destino estável para investimento e contrastando-os frequentemente com alegações de instabilidade política nos Estados Unidos.

Algumas identidades falsas centraram-se na política europeia ou norte-americana. A ideologia desta atividade variava de região para região. Por exemplo, uma conta no X centrada nos Estados Unidos fazia-se passar por liberal e criticava o antigo Presidente norte-americano Trump, enquanto algumas contas no Facebook que publicavam em francês criticavam o Presidente Macron e apoiavam o partido União Nacional (RN). Por vezes, estas críticas incidiam em questões internas para defender que o país em causa não devia intervir em questões internacionais, incluindo a invasão russa da Ucrânia.

Esta operação era muito ativa no Facebook e no X, provavelmente com centenas de contas. No X, algumas das suas contas tinham o visto azul da verificação paga. Das cerca de 150 contas que analisámos nas duas plataformas, nenhuma tinha um número significativo de seguidores: o maior número que identificámos no X durante a investigação foi 222; os valores mais comuns situavam-se entre cerca de 15 e pouco mais de 20; e as publicações habituais no X recebiam menos de 10 interações. Do mesmo modo, o maior número de reações a uma publicação no Facebook observado durante a investigação foi 36, sendo os valores mais comuns entre 0 e 5. Contudo, identificámos algumas ocasiões em que as publicações da operação suscitaram respostas de pessoas reais. Estas respostas nem sempre eram positivas e, por vezes, incluíam pessoas reais a contradizer as contas falsas, mas demonstram alguma capacidade de envolver públicos em várias plataformas, idiomas e temas.

Utilizando a Breakout Scale para avaliar o impacto das operações de influência, numa escala de 1 (mais baixo) a 6 (mais alto), situaríamos esta operação no limite superior da Categoria Dois, com risco de passar à Categoria Três: caracterizava-se pela publicação em várias plataformas e havia alguns indícios de interação de pessoas reais com os seus conteúdos. Contudo, depois de proibirmos esta operação de usar os nossos modelos e partilharmos informações com outras empresas do setor, as contas nas redes sociais que tínhamos identificado permaneceram inativas durante várias semanas. Esta operação evidencia, assim, a maior capacidade que o uso de IA pode proporcionar aos operadores, mas também a maior vulnerabilidade a intervenções decorrente da sua dependência de um modelo de IA.