Operazione “A2Z”: attività di influenza multilingue

Questo caso di studio è stato pubblicato originariamente nel rapporto di OpenAI di ottobre 2024⁠(si apre in una nuova finestra).

Abbiamo bloccato un gruppo di account mai segnalato prima, che usava la nostra API per creare commenti da pubblicare successivamente su X e Facebook. Molti di questi commenti elogiavano l’Azerbaigian o ne difendevano il rispetto dei diritti umani, ma l’attività riguardava anche molti altri argomenti, suggerendo una possibile operazione a fini commerciali. Vista la frequenza degli elogi all’Azerbaigian e il tentativo di usare l’IA in più fasi dell’operazione, abbiamo chiamato questa rete “A2Z”.

Come l’operazione in lingua russa su Telegram che abbiamo smascherato a maggio e chiamato “Bad Grammar”, questa operazione usava i nostri modelli per pubblicare commenti sui social media. Sfruttava l’IA per gestire identità fittizie sui social media, generare biografie, analizzare post e commenti, redigere risposte in molte lingue e correggerle. Le risposte venivano poi pubblicate su X o Facebook. La maggior parte dei contenuti consisteva in brevi commenti, ma comprendeva anche immagini stilizzate. Queste immagini richiamavano spesso i manifesti degli anni Trenta e sembravano quindi pensate per attirare attenzione e interazioni, più che per ingannare. Tuttavia, i post con queste immagini stilizzate ricevevano generalmente solo 0–5 interazioni ciascuno.

Questo uso dell’IA consentiva all’operazione di gestire contemporaneamente molti account sui social media: abbiamo individuato circa 150 account su X e Facebook riconducibili a questa attività, oltre ad altri account sospetti. Consentiva inoltre all’operazione di intervenire talvolta in discussioni online con persone reali. In alcuni casi abbiamo osservato brevi conversazioni tra persone reali e account falsi, le cui risposte venivano generate con i nostri modelli.

Prima dell’IA, un’operazione di queste dimensioni avrebbe probabilmente richiesto una grande squadra di troll, con tutti i costi e i rischi di fughe di notizie associati a un’impresa simile. Tuttavia, la dipendenza dall’IA ha anche reso questa operazione insolitamente vulnerabile ai nostri interventi. Poiché sfruttava l’IA in molti passaggi della catena d’attacco, il nostro intervento ne ha spezzati diversi contemporaneamente. Dopo la nostra interruzione dell’attività all’inizio di giugno, gli account social che avevamo identificato come parte dell’operazione hanno smesso di pubblicare durante i periodi elettorali nell’UE, nel Regno Unito e in Francia. Alcuni hanno ripreso a pubblicare a fine agosto. Un numero limitato dei loro post mostrava indizi di una probabile generazione tramite IA. I contenuti che presentavano tali indizi non provenivano dai nostri modelli.

Questa campagna ha generato brevi commenti su un’ampia varietà di temi politici. Il tema principale era l’elogio del governo dell’Azerbaigian e del suo ruolo nella politica interna, regionale e internazionale, ad esempio per la promozione dell’unità tra i paesi dell’Asia centrale o per aver ospitato la Conferenza delle Nazioni Unite sui cambiamenti climatici. Gli account in inglese e italiano elogiavano il ruolo dell’Azerbaigian come fornitore di energia per l’Europa, talvolta in risposta alle critiche sul rispetto dei diritti umani da parte del governo azero.

Altri filoni di attività riguardavano i benefici e l’evoluzione dell’IA, i mercati finanziari, le questioni ambientali, le criptovalute e la tecnologia in senso più ampio. Un gruppo si concentrava sugli Emirati Arabi Uniti, presentandoli come una destinazione stabile per gli investimenti e contrapponendoli spesso a presunte condizioni di instabilità politica negli Stati Uniti.

Alcune identità fittizie si concentravano sulla politica europea o statunitense. L’orientamento ideologico di questa attività variava da una regione all’altra. Ad esempio, un account X incentrato sugli Stati Uniti si presentava come liberale e criticava l’ex presidente statunitense Trump, mentre alcuni account Facebook che pubblicavano in francese criticavano il presidente Macron e sostenevano il partito Rassemblement National (RN). A volte queste critiche si concentravano su questioni interne per sostenere che il paese interessato non dovesse intervenire nelle vicende internazionali, compresa l’invasione russa dell’Ucraina.

Questa operazione era molto attiva su Facebook e X e probabilmente disponeva di centinaia di account. Su X, alcuni dei suoi account avevano la spunta blu della verifica a pagamento. Tra i circa 150 account esaminati sulle due piattaforme, nessuno aveva un numero significativo di follower: durante l’indagine, il seguito più ampio individuato su X era di 222 follower; i valori più comuni andavano da circa 15 a poco più di 20 e i post su X ricevevano generalmente meno di dieci interazioni. Analogamente, il numero massimo di reazioni a un post di Facebook osservato durante l’indagine è stato 36, mentre i valori più comuni erano compresi tra 0 e 5. Abbiamo tuttavia individuato alcuni casi in cui i post dell’operazione hanno ricevuto risposte da persone reali. Le risposte non erano sempre positive e talvolta comprendevano persone reali che contraddicevano gli account falsi, ma dimostrano comunque una certa capacità di coinvolgere il pubblico su più piattaforme, in più lingue e su più argomenti.

Applicando la Breakout Scale per valutare l’impatto delle operazioni di influenza, su una scala da 1 (minimo) a 6 (massimo), collocheremmo questa operazione nella fascia alta della Categoria Due, con il rischio di passare alla Categoria Tre: era caratterizzata da pubblicazioni su più piattaforme e vi erano alcuni riscontri del coinvolgimento di persone reali nei suoi contenuti. Tuttavia, dopo aver impedito all’operazione di usare i nostri modelli e aver condiviso informazioni con altre aziende del settore, gli account social che avevamo individuato sono rimasti inattivi per molte settimane. Questa operazione evidenzia quindi sia le maggiori capacità che l’uso dell’IA può offrire agli operatori, sia la maggiore vulnerabilità agli interventi causata dalla loro dipendenza da un modello di IA.