Abusi legati alla RPC: attività di sorveglianza e influenza

Questo caso di studio è stato pubblicato originariamente nel rapporto di OpenAI di ottobre 2025⁠(si apre in una nuova finestra).

Individui apparentemente legati a enti governativi della RPC hanno usato ChatGPT come supporto per attività di sviluppo, profilazione e amministrazione burocratica.

Come abbiamo illustrato a marzo nel nostro contributo al Piano d’azione statunitense per l’IA dell’Office of Science and Technology Policy, riteniamo che, per garantire che l’IA porti benefici al maggior numero possibile di persone, sia necessario promuoverla attraverso regole di buon senso volte a proteggere le persone da danni concreti e sviluppare un’IA democratica. Per IA democratica intendiamo un’IA plasmata dai principi democratici che l’America ha sempre difeso. Ciò comprende impedire ai regimi autoritari di usare gli strumenti di IA per accumulare potere e controllare i propri cittadini.

I nostri investimenti per rilevare e contrastare i tentativi dei regimi autoritari di abusare delle funzionalità di ChatGPT non solo proteggono le persone nell’immediato, ma forniscono anche indicazioni importanti su come tali regimi potrebbero abusare delle funzionalità future. Questa sezione esamina una serie di risultati relativi a individui potenzialmente legati a tali regimi, con particolare attenzione alla RPC.

Come abbiamo scritto a giugno, la RPC sta compiendo progressi concreti nello sviluppo della propria versione autocratica dell’IA. La disattivazione degli account ChatGPT usati da individui apparentemente legati a enti governativi cinesi fa luce sullo stato attuale dell’uso dell’IA in questo contesto autoritario. Alcuni aspetti di questo utilizzo sembravano mirare a sostenere il monitoraggio su larga scala del traffico online o offline, sottolineando l’importanza di continuare a prestare attenzione ai potenziali abusi autoritari in questo ambito. Altri aspetti di questo utilizzo sembravano finalizzati a una profilazione più approfondita. Abbiamo bloccato gli account associati a questa attività e condividiamo quanto emerso nel presente rapporto.

Questo studio si basa su una selezione di attività in violazione delle nostre norme che abbiamo individuato e bloccato. Tali attività erano riconducibili all’uso di ChatGPT da parte di singoli utenti, anziché a un’adozione istituzionale su larga scala dei nostri modelli. Si tratta quindi di un quadro parziale dell’uso dei diversi modelli di IA in questo contesto.

Alcuni degli account che abbiamo bloccato sembravano tentare di usare ChatGPT per sviluppare strumenti di monitoraggio su larga scala, analizzando set di dati spesso raccolti da piattaforme di social media occidentali o cinesi. A febbraio abbiamo segnalato un caso analogo, finalizzato alla progettazione di uno strumento di ascolto dei social media basato sull’IA che, secondo gli operatori, era destinato alle forze di sicurezza cinesi. In genere, questi utenti chiedevano a ChatGPT di aiutarli a progettare tali strumenti o a generare materiale promozionale, ma non a effettuare il monitoraggio.

Di recente, ad esempio, abbiamo bloccato un utente che potrebbe aver usato una VPN per accedere ai nostri servizi dalla Cina e che chiedeva a ChatGPT di aiutarlo a creare materiale promozionale e piani di progetto per uno strumento di ascolto dei social media, apparentemente destinato a un cliente governativo. Lo strumento veniva descritto come una “sonda” per i social media (探针), presumibilmente in grado di analizzare Twitter/X, Facebook, Instagram, Reddit, TikTok e YouTube alla ricerca di quelli che l’utente definiva discorsi estremisti e contenuti etnici, religiosi e politici. L’utente non ha usato il nostro modello per effettuare concretamente il monitoraggio dei social media. Non siamo in grado di verificare in modo indipendente se questo strumento sia stato usato da un ente governativo cinese.

Analogamente, abbiamo bloccato un secondo utente, probabilmente legato a un ente governativo, che aveva chiesto a ChatGPT di contribuire alla stesura di una proposta per quello che descriveva come un Modello di allerta sull’afflusso di soggetti ad alto rischio legati agli uiguri (高危涉维吾尔关注人员流入预警模型). La proposta descriveva uno strumento che avrebbe analizzato le prenotazioni dei trasporti e le avrebbe confrontate con i registri della polizia, così da segnalare in anticipo gli spostamenti di persone classificate come legate agli uiguri e ad alto rischio, una categoria non altrimenti definita. L’utente non ha chiesto al nostro modello di contribuire alla realizzazione dello strumento, ma solo di elaborare una proposta generale; pertanto, non siamo in grado di confermare in modo indipendente quale tecnologia intendesse usare né se uno strumento simile sia stato utilizzato da un ente governativo cinese.

Abbiamo inoltre bloccato utenti che sembravano legati a enti governativi cinesi e che apparentemente tentavano di usare ChatGPT per attività più mirate e personalizzate di profilazione e ricerca online.

Ad esempio, un utente ha chiesto a ChatGPT di individuare le fonti di finanziamento di un account X che criticava il governo cinese. Un secondo utente ha chiesto a ChatGPT di identificare gli organizzatori di una petizione in Mongolia. In entrambi i casi, i nostri modelli hanno restituito solo informazioni disponibili pubblicamente, che non comprendevano dettagli sensibili come le fonti di finanziamento o l’identità degli organizzatori delle petizioni.

Alcune di queste attività impiegavano i nostri modelli come strumenti di ricerca su fonti aperte, in modo analogo a come in passato gli utenti avrebbero potuto usare i motori di ricerca o le ricerche sui social media. Ad esempio, un terzo utente ha chiesto a ChatGPT di individuare e riassumere ogni giorno le ultime notizie rilevanti per la Cina, comprese quelle su temi sensibili come l’anniversario del massacro di piazza Tienanmen del 1989 e il compleanno del Dalai Lama.