Operazione “Recensione sprezzante”: attività di influenza di origine cinese

Questo caso di studio è stato pubblicato originariamente nel rapporto di OpenAI del giugno 2025⁠(si apre in una nuova finestra).

Abbiamo bloccato account ChatGPT che, come abbiamo rilevato, usavano i nostri modelli per generare in massa post sui social media riconducibili all’attività di un’operazione di influenza occulta. Nel corso dell’indagine abbiamo inoltre osservato che questi account redigevano valutazioni interne delle prestazioni.

Questi account inviavano prompt principalmente in cinese e si concentravano su temi politici e geopolitici rilevanti per la Cina. In un prompt, un utente ha dichiarato di lavorare per il Dipartimento della propaganda cinese; non disponiamo tuttavia di prove indipendenti che confermino questa affermazione.

Gli account che abbiamo bloccato erano impegnati in due principali filoni di attività. Il più prolifico consisteva nel generare brevi commenti per i social media in inglese e cinese, con alcuni contenuti in urdu. Abbiamo riscontrato che molti di questi commenti erano stati pubblicati su TikTok e X, mentre altri contenuti erano comparsi su Reddit, Facebook e vari siti web.

Uno schema tipico prevedeva la pubblicazione di un commento iniziale da un account “principale”, spesso apparentemente creato soltanto per quel post, seguito da una serie di commenti di risposta provenienti da altri account. Questo comportamento sembrava mirato a creare la falsa impressione di un coinvolgimento spontaneo.

Su TikTok, gli account che pubblicavano i commenti usavano nomi visualizzati in lingue e alfabeti diversi, spesso senza alcun legame con la lingua dei contenuti pubblicati. Per esempio, un account con un nome coreano ha pubblicato un commento in urdu, mentre account con nomi thailandesi ed ebraici hanno pubblicato in inglese commenti generati da questa rete. Su X, gli account che pubblicavano commenti usavano generalmente immagini di profilo in stile cartone animato e, in alcuni casi, avevano nomi associati alle criptovalute.

La rete era meno attiva su Facebook. La sua attività consisteva principalmente nel generare nomi e immagini del profilo per due Pagine che si presentavano come testate giornalistiche. Nessuna delle due Pagine aveva follower o “Mi piace” ed entrambe contenevano soltanto pochi post.

Occasionalmente, la rete generava post più lunghi in cinese o in inglese. Abbiamo individuato uno di questi post su Reddit e altri due su diversi forum online. Il secondo filone di attività consisteva nell’usare ChatGPT per generare documenti che sembravano essere valutazioni interne delle politiche o delle prestazioni.

I contenuti per i social media generati da questo soggetto malevolo trattavano vari temi, tutti strettamente allineati agli interessi geostrategici della Cina.

Alcuni contenuti erano incentrati su Taiwan e prendevano di mira in particolare “Fronte rovesciato”⁠(si apre in una nuova finestra) (“逆統戰”), un videogioco e gioco da tavolo taiwanese che immagina una resistenza contro il Partito Comunista Cinese. La rete ha generato decine di commenti in cinese critici nei confronti del gioco, seguiti da un lungo articolo secondo cui il titolo avrebbe suscitato reazioni negative diffuse. Questa è stata l’attività più caratteristica dell’operazione, che per tale motivo abbiamo denominato “Recensione sprezzante”.

Altri contenuti, in inglese e urdu, prendevano di mira l’attivista pakistana Mahrang Baloch, che ha criticato pubblicamente gli investimenti della Cina in Belucistan⁠(si apre in una nuova finestra). Un account TikTok e una Pagina Facebook collegati alla rete hanno pubblicato un video in cui accusavano falsamente Baloch di essere apparsa in un film pornografico. L’operazione ha quindi generato centinaia di brevi commenti in entrambe le lingue per simulare un coinvolgimento diffuso.

Un ultimo gruppo di contenuti era incentrato sulla chiusura dell’Agenzia statunitense per lo sviluppo internazionale (USAID) e comprendeva brevi commenti che elogiavano o criticavano la decisione. Questi commenti sono stati pubblicati su TikTok e X.

Infine, i soggetti malevoli hanno usato i nostri modelli per generare quelli che sembravano documenti interni, tra cui un saggio dettagliato scritto nello stile di un documento ufficiale di pubblica sicurezza e una valutazione delle prestazioni che descriveva le misure adottate per avviare e gestire l’operazione.

Quando abbiamo impedito l’uso dei nostri modelli, questa operazione sembrava essere ancora nelle fasi iniziali. Nessuna delle due Pagine Facebook aveva follower. Su Reddit, un post ha ricevuto 44 voti positivi, mentre altri due sono stati bloccati o rimossi dai subreddit in cui erano stati pubblicati.

Il coinvolgimento su X e TikTok è stato più variabile: i due video su TikTok hanno totalizzato 25.000 “Mi piace”, mentre i tweet dell’account principale dell’operazione hanno ricevuto generalmente circa 10.000 visualizzazioni ciascuno. Tuttavia, molti commenti a questi post sono stati generati dalla rete con ChatGPT, indicando che almeno una parte del coinvolgimento non era autentica. Tutti i dati sul coinvolgimento devono quindi essere valutati con cautela.

Secondo la Breakout Scale⁠(si apre in una nuova finestra) per misurare l’impatto delle operazioni di influenza, collocheremmo questa attività nella fascia bassa della Categoria 3, se i dati sul coinvolgimento su X e TikTok fossero autentici. Rivedremmo al ribasso questa valutazione qualora emergessero ulteriori prove a sostegno dell’ipotesi che la maggior parte dei “Mi piace” e delle visualizzazioni, così come la maggior parte dei commenti, non fosse autentica.