Operação "A2Z": atividade de influência multilíngue

Este estudo de caso foi publicado originalmente no relatório da OpenAI de outubro de 2024⁠(abre em uma nova janela).

Banimos um grupo de contas até então desconhecido que usava nossa API para criar comentários posteriormente publicados no X e no Facebook. Muitos desses comentários elogiavam o Azerbaijão ou defendiam seu histórico de direitos humanos, mas a operação também abordava uma ampla variedade de outros temas, o que pode indicar uma iniciativa de natureza comercial. Devido à frequência com que elogiava o Azerbaijão e à tentativa de usar IA em várias fases da operação, apelidamos essa rede de "A2Z".

Assim como a operação em russo no Telegram que expusemos em maio e apelidamos de "Bad Grammar", esta operação usou nossos modelos para publicar comentários nas redes sociais. Ela usava IA para gerenciar personas falsas nas redes sociais, gerar biografias, analisar publicações e comentários, redigir respostas em vários idiomas e revisá-las. As respostas eram então publicadas no X ou no Facebook. A maior parte do conteúdo consistia em comentários curtos, mas também incluía imagens estilizadas. Essas imagens costumavam adotar o estilo de cartazes da década de 1930; assim, parecem ter sido criadas para atrair atenção e engajamento, não para enganar. No entanto, publicações típicas com essas imagens estilizadas receberam apenas de zero a cinco interações cada.

Esse uso de IA permitiu que a operação gerenciasse muitas contas de redes sociais simultaneamente: identificamos cerca de 150 contas no X e no Facebook associadas a essa atividade, além de outras contas suspeitas. Isso também permitiu que a operação, por vezes, participasse de conversas em comentários com pessoas reais na internet. Ocasionalmente, observamos conversas curtas entre pessoas reais e contas falsas, cujas respostas eram geradas usando nossos modelos.

Antes da IA, uma operação dessa escala provavelmente exigiria uma grande equipe de trolls, com todos os custos e riscos de vazamento associados a uma iniciativa desse tipo. No entanto, a dependência de IA também tornou essa operação excepcionalmente vulnerável às nossas medidas de interrupção. Como ela usava IA em muitos elos da cadeia de ataque, nossa intervenção rompeu vários deles de uma só vez. Depois que interrompemos essa atividade no início de junho, as contas de redes sociais que identificamos como parte da operação deixaram de publicar durante os períodos eleitorais na UE, no Reino Unido e na França. Algumas voltaram a publicar no fim de agosto. Um pequeno número de publicações apresentava indícios de provável geração por IA. O conteúdo que apresentava esses indícios não veio de nossos modelos.

Essa campanha gerou comentários curtos sobre uma ampla variedade de temas políticos. O tema mais proeminente eram os elogios ao governo do Azerbaijão e a seu papel na política nacional, regional e internacional — por exemplo, na promoção da união entre os países da Ásia Central ou como anfitrião da Conferência da ONU sobre Mudanças Climáticas. Contas em inglês e italiano elogiaram o papel do Azerbaijão como fornecedor de energia para a Europa — às vezes em resposta a críticas ao histórico de direitos humanos do governo azeri.

Outras vertentes da atividade abordaram os benefícios e a evolução da IA, mercados financeiros, questões ambientais, criptomoedas e tecnologia em geral. Um grupo se concentrou nos Emirados Árabes Unidos, retratando o país como um destino estável para investimentos e frequentemente contrapondo isso a alegações de instabilidade política nos Estados Unidos.

Algumas personas falsas se concentraram na política da Europa ou dos Estados Unidos. A ideologia dessa atividade variava de uma região para outra. Por exemplo, uma conta no X voltada aos Estados Unidos se apresentava como liberal e criticava o ex-presidente americano Trump, enquanto algumas contas do Facebook que publicavam em francês criticavam o presidente Macron e apoiavam o partido Reagrupamento Nacional (RN). Às vezes, essas críticas se concentravam em questões internas para argumentar que o país em questão não deveria intervir em assuntos internacionais, como a invasão russa da Ucrânia.

Essa operação era muito ativa no Facebook e no X, provavelmente com centenas de contas. No X, algumas dessas contas tinham o selo azul da verificação paga. Das aproximadamente 150 contas que analisamos nas duas plataformas, nenhuma tinha um número significativo de seguidores: a maior conta no X identificada durante nossa investigação tinha 222 seguidores; os números mais comuns ficavam entre cerca de 15 e pouco mais de 20; e as publicações típicas no X recebiam menos de dez interações. Da mesma forma, o maior número de reações a uma publicação no Facebook que observamos durante a investigação foi 36, enquanto os números mais comuns variavam de zero a cinco. No entanto, identificamos algumas ocasiões em que as publicações da operação atraíram respostas de pessoas reais. Essas respostas nem sempre eram positivas e, às vezes, incluíam pessoas reais contestando as contas falsas, mas demonstram ao menos alguma capacidade de envolver públicos em várias plataformas, idiomas e temas.

Usando a Breakout Scale para avaliar o impacto das operações de influência, que as classifica em uma escala de 1 (menor) a 6 (maior), situaríamos essa operação no limite superior da Categoria Dois, com risco de avançar para a Categoria Três: ela se caracterizava por publicações em várias plataformas, com alguns indícios de que pessoas reais interagiam com seu conteúdo. No entanto, depois que proibimos a operação de usar nossos modelos e compartilhamos informações com outras empresas do setor, as contas de redes sociais que havíamos identificado ficaram inativas por muitas semanas. Assim, essa operação destaca tanto o aumento de capacidade que o uso de IA pode proporcionar aos operadores quanto a maior vulnerabilidade a interrupções decorrente da dependência de um modelo de IA.