Operazione “Spamouflage”: attività di influenza legata alla Cina

Questo caso di studio è stato pubblicato originariamente nel rapporto di OpenAI di maggio 2024⁠(si apre in una nuova finestra).

Abbiamo bloccato un piccolo numero di account associati all'operazione di origine cinese nota come “Spamouflage”⁠(si apre in una nuova finestra). Meta⁠(si apre in una nuova finestra) ha attribuito questa operazione a “individui legati alle forze dell'ordine cinesi”. L'FBI⁠(si apre in una nuova finestra) ha attribuito parte dell'attività sui social media dell'operazione a un'unità del Ministero della pubblica sicurezza cinese.

Questa rete prendeva di mira un pubblico globale, in particolare i membri della diaspora cinese e i critici del governo cinese. Generava contenuti soprattutto in cinese e, in misura minore, in inglese, giapponese e coreano.

La rete ha usato i nostri modelli per eseguire il debug del codice, chiedere consigli sull'analisi dei social media, svolgere ricerche su notizie e attualità e generare contenuti poi pubblicati su blog, forum e social media.

Nel 2023, ad esempio, la rete ha usato i nostri modelli per eseguire il debug del codice che configurava il tema WordPress del sito revealscum.com. Il sito pubblicava in cinese critiche e informazioni personali su membri della diaspora cinese che criticavano il governo cinese. Definiva questi critici “traditori”. I contenuti in sé non erano stati generati usando i nostri modelli.

La campagna ha inoltre usato i nostri modelli per creare contenuti poi pubblicati su piattaforme social e forum. Alla fine del 2023, ad esempio, l'operazione ha generato articoli che accusavano il Giappone di danneggiare l'ambiente marino scaricando le acque reflue della centrale di Fukushima. Abbiamo individuato gli articoli su piattaforme tra cui Medium, Blogspot e ameblo.jp.

Nell'aprile 2024, la campagna ha pubblicato una serie di commenti in inglese contro la dissidente cinese Cai Xia. Abbiamo individuato un account X che aveva pubblicato il commento iniziale e un gruppo di altri account che avevano pubblicato gli altri commenti come risposte. Non abbiamo rilevato risposte da parte di account autentici.

La campagna ha usato i nostri modelli anche per condurre ricerche su fonti aperte, ad esempio per sapere come richiedere account sviluppatore sui social media o ottenere riassunti dei post pubblicati dai critici del governo cinese.

L'uso dell'intelligenza artificiale da parte della rete sembra aver costituito solo una piccola parte della sua produzione complessiva. Ad esempio, molti degli account X e Medium che avevamo identificato come autori di contenuti generati dai nostri modelli pubblicavano una quantità maggiore di contenuti apparentemente creati a mano in inglese e cinese, come indicava, tra l'altro, l'uso poco idiomatico dell'inglese. Hanno pubblicato questi contenuti sia prima sia dopo i commenti generati dall'IA.

Gran parte dei contenuti generati da questa campagna era in cinese. I temi spaziavano dagli elogi alla cooperazione internazionale del governo cinese nel campo delle forze dell'ordine alle critiche per gli abusi contro i nativi americani negli Stati Uniti. Alcuni contenuti criticavano il governo statunitense e Microsoft per aver denunciato le attività del gruppo di hacker cinesi noto come “Volt Typhoon”.

Altri contenuti erano in inglese. In genere criticavano noti oppositori del governo cinese, come l'attore e attivista per il Tibet Richard Gere e la dissidente Cai Xia. Alcuni articoli generati alla fine del 2023 in inglese, giapponese, cinese, coreano e russo accusavano il Giappone di inquinare le acque del Pacifico con gli scarichi della centrale nucleare di Fukushima⁠(si apre in una nuova finestra), un tema ricorrente delle operazioni di influenza cinesi.

Un piccolo gruppo di attività si è concentrato sulla generazione di commenti positivi in cinese riguardo a una visita del Ministro della pubblica sicurezza cinese in Uzbekistan. Non risulta che Spamouflage avesse già affrontato questo tema, che assume rilievo alla luce dell'attribuzione dell'FBI⁠(si apre in una nuova finestra) di alcune precedenti attività sui social media dell'operazione al Ministero della pubblica sicurezza cinese.

Alcune attività della rete sembrano aver rispecchiato gli interessi personali degli operatori. Ad esempio, un operatore ha usato i nostri modelli per svolgere ricerche sugli obiettivi fotografici. Un altro ha usato i nostri modelli per completare quello che sembra essere stato un compito di verifica destinato ai membri del Partito Comunista Cinese.

Da quando è stata descritta pubblicamente per la prima volta nel 2019⁠(si apre in una nuova finestra), Spamouflage è una delle operazioni di influenza più studiate al mondo. Solo una minima parte delle sue attività avrebbe raggiunto un pubblico autentico.

L'uso di contenuti generati dall'IA non sembra aver cambiato questa dinamica. Tra i blog, gli articoli e gli account social che abbiamo individuato durante l'indagine, nessuno ha ottenuto un numero elevato di interazioni o follower autentici. In alcuni casi, gli indicatori disponibili mostrano che le uniche visualizzazioni dei post provenivano dal nostro team investigativo.

Applicando la Breakout Scale⁠(si apre in una nuova finestra), che valuta l'impatto delle operazioni di influenza su una scala da 1 (minimo) a 6 (massimo), classificheremmo questa operazione nella categoria 2: attività di pubblicazione su numerose piattaforme, ma nessuna prova di un'amplificazione significativa da parte di persone esterne alla rete.

Abbiamo individuato il seguente dominio associato alla campagna.

• revealscum.com