Interrotta una nuova campagna di influenza occulta dalla Russia

La nostra missione è garantire che l’intelligenza artificiale generale vada a beneficio di tutta l’umanità. Portiamo avanti questa missione mettendo a disposizione le nostre innovazioni per creare strumenti di IA che aiutino le persone a risolvere problemi complessi. Ciò include la creazione di strumenti che ci permettano di rilevare, indagare, interrompere e smascherare le operazioni di influenza occulta (IO), ossia tentativi ingannevoli di manipolare l’opinione pubblica o influenzare gli esiti politici senza rivelare la vera identità o le intenzioni di chi vi è dietro.

Di recente abbiamo bloccato un gruppo di account ChatGPT riconducibili alla Russia, utilizzati per promuovere l'International Burke Institute (IBI), una sedicente "comunità di esperti" con sede in Israele. Quella che era iniziata come un'indagine su post generati dall'IA sui social media ci ha portato a scoprire un'operazione di influenza molto più ampia, incentrata su un sito web che conteneva lavori accademici copiati e attribuiti erroneamente, un indice di "sovranità" che presentava la Russia sotto una luce favorevole e iniziative volte a dissimulare l'origine russa dei responsabili. Sebbene la campagna sembri aver raggiunto un pubblico relativamente ristretto, la sua complessa struttura la distingue dalle altre operazioni di⁠(si apre in una nuova finestra) influenza⁠(si apre in una nuova finestra) legate alla Russia⁠(si apre in una nuova finestra) che abbiamo interrotto⁠(si apre in una nuova finestra) dall'inizio della guerra in Ucraina. Questo rapporto illustra il funzionamento dell'operazione, il ruolo svolto da ChatGPT e le misure che abbiamo adottato per interromperla.

Abbiamo bloccato un gruppo di account ChatGPT che con ogni probabilità provenivano dalla Russia. Gli operatori impartivano istruzioni in russo per generare commenti destinati ai social media, poi pubblicati su Substack, Telegram, X, Facebook e LinkedIn. La maggior parte dei commenti generati era in inglese e gli operatori chiedevano a ChatGPT di nascondere qualsiasi indizio linguistico della loro origine russa. Poiché non consentiamo l’accesso ai nostri modelli dalla Russia, hanno usato VPN per accedere alla nostra piattaforma.

Gran parte dei contenuti generati serviva a promuovere una sedicente “comunità di esperti” chiamata International Burke Institute (IBI). Il marchio IBI era associato a un sito web registrato nel febbraio 2025. Il sito sosteneva che l’istituto avesse sede in Israele. Gli articoli pubblicati sul sito non erano stati generati con i nostri modelli. Molti erano copiati da autentici scritti accademici, talvolta con attribuzioni false; alcuni sembrano essere stati redatti da una persona di lingua slava e tradotti automaticamente. Ad esempio, la schermata seguente tratta dal sito dell’IBI usa un’espressione innaturale, spiegabile con ogni probabilità come traduzione automatica letterale da una lingua slava.

Per quanto ne sappiamo, si tratta di una nuova campagna di influenza occulta mai segnalata prima. La sua caratteristica più rilevante è la creazione dell’“indice di sovranità”, promosso dal presunto “centro studi” per elogiare la Russia e denigrare i Paesi occidentali. È la prima volta che interrompiamo un’operazione di influenza legata alla Russia organizzata con un simile livello di complessità.

L’operazione utilizzava ChatGPT principalmente per generare post sui social media che promuovevano articoli pubblicati sul sito dell’IBI. Abbiamo individuato questi post su X, LinkedIn, Facebook, Substack e Telegram. Alcuni erano pubblicati da account che usavano il nome e il logo dell’IBI; altri sembravano provenire da utenti comuni, probabilmente non autentici, la cui attività principale consisteva nel pubblicare articoli dell’IBI.

Oltre a questi post pubblicati di propria iniziativa, gli operatori generavano anche risposte ai post di utenti reali di Substack su vari argomenti. Queste risposte includevano generalmente un invito a seguire il canale dell’IBI e venivano pubblicate su Substack dall’account dell’IBI.

Oltre a generare contenuti sull’IBI, uno degli operatori ha prodotto post in tedesco, poi pubblicati su un canale Telegram chiamato "Lahme Ente" (anatra zoppa). Questi post criticavano abitualmente l’Ucraina, l’UE e il governo tedesco e sostenevano la necessità di migliorare i rapporti con la Russia.

Un secondo operatore, oltre a creare contenuti relativi all’IBI, ha generato loghi per una dozzina di canali Telegram, tra cui Lahme Ente, dedicati a Germania, Stati Uniti, Francia, Polonia e Turchia. Alcuni di questi canali pubblicavano talvolta contenuti sull’IBI o condividevano i post dell’istituto. Il secondo operatore chiedeva inoltre ripetutamente riepiloghi in russo dell’attività di questi canali. Uno dei canali dedicati agli Stati Uniti, che si presentava come una testata americana, aveva una biografia contenente vari indizi di un uso non madrelingua dell’inglese.

Il fulcro di questa operazione sembrava essere l’International Burke Institute (IBI), anche se l’attività che abbiamo interrotto riguardava contenuti sui social media che promuovevano il sito web o contenevano link ad esso, anziché contenuti pubblicati direttamente sul sito.

Il sito si presentava come una "comunità di esperti" con sede in Israele. Al 17 luglio, il sito web vantava una vasta gamma di esperti di livello mondiale, tra cui personalità di spicco come Francis Fukuyama e Noam Chomsky, e pubblicava una vasta gamma di ricerche. Tuttavia, in un’analisi di un campione di 36 articoli collegati agli esperti presenti sul sito web dell’IBI e pubblicati tra settembre 2025 e maggio 2026, 34 di essi risultavano essere stati copiati da altre fonti presenti su Internet.

Alcuni di questi articoli risalivano a diversi anni fa; altri erano attribuiti ad autori sbagliati. Ad esempio, un articolo sul Corridoio economico Cina-Pakistan sembra essere stato copiato da un testo originale della Cambridge University Press, ma attribuito erroneamente a una professoressa dell’Università di Nottingham specializzata in politica dell’Asia meridionale.

Un altro articolo sulla governance della migrazione sembra essere stato copiato dal Migration Policy Institute, ma attribuito erroneamente a una professoressa australiana di scienze alimentari. Questo comportamento indica il tentativo di conferire maggiore legittimità al sito dell’IBI riempiendolo di contenuti autentici, ma nascondendone la vera provenienza.

Oltre a questi articoli, il sito dell’IBI conteneva rapporti su diversi Paesi e sulla loro sovranità, misurata in base all’indice dell’istituto. Questi rapporti non erano stati generati con i nostri modelli. Alcuni venivano presentati come confronti tra due Paesi. Altri si concentravano su singoli Paesi, in particolare quelli che criticano la guerra della Russia in Ucraina, come Francia e Germania, oltre che sull’Unione europea. L’operazione promuoveva narrazioni analoghe sugli Stati Uniti. Questi rapporti erano generalmente critici, fino a sfociare nella polemica. Ecco alcuni esempi:

• Francia⁠(si apre in una nuova finestra): "Dieci anni di macronismo hanno prodotto esattamente il risultato che doveva ottenere un dirigente arrivato all’Eliseo dalla banca Rothschild: la Francia è stata aperta come una cassaforte contenente un capitale storico e ora viene venduta pezzo per pezzo".
• Stati Uniti⁠(si apre in una nuova finestra): "Trump è arrivato [a Pechino] con l’indice di sovranità numero uno al mondo e se n’è andato dopo aver adottato una serie di misure che [...] possono essere definite come una riduzione volontaria dell’autonomia".
• Germania⁠(si apre in una nuova finestra): "La Germania ha bisogno di una politica industriale che tuteli i posti di lavoro, non solo i prezzi delle azioni. Il Paese ha bisogno di un dibattito onesto sull’identità, senza tabù né isterismi. Ha bisogno di una vera sovranità militare, non della dipendenza dalle basi americane. E ha bisogno di politici la cui lealtà vada innanzitutto al popolo tedesco, non ai consigli di amministrazione delle grandi aziende di New York".
• UE⁠(si apre in una nuova finestra): "Slovacchia contro Italia: i paradossi della sovranità dei paesi ostaggio della 'Grande Unione'"

Sebbene i contenuti sui social media che promuovevano l’IBI fossero stati generati da utenti di ChatGPT in Russia che si erano premurati di nascondere la propria provenienza, e gran parte dei contenuti presenti sul sito web dell’IBI sembrasse copiata da altre fonti, alcune tracce online suggeriscono che anche una manciata di persone reali in Israele possa aver rappresentato l’IBI nella presentazione di articoli e in occasione di conferenze. Non siamo in grado di determinare il rapporto tra queste persone, l’IBI e gli operatori in Russia.

L’impatto immediato dell’operazione sembra essere stato limitato: i normali post sui social media ricevevano poche visualizzazioni e gli account ufficiali dell’IBI avevano pochi iscritti. I canali Telegram dell’operazione sembrano aver attirato più iscritti, generalmente tra i 10.000 e i 20.000 follower ciascuno. Applicando la Breakout Scale⁠(si apre in una nuova finestra) della Brookings per valutare l’impatto dell’operazione, la collocheremmo nella fascia inferiore della Categoria tre (più piattaforme, con alcuni segnali di diffusione presso un pubblico autentico).

La rilevanza dell’operazione, tuttavia, non risiede tanto nel pubblico raggiunto quanto nell’infrastruttura che aveva costruito. Sebbene gli autori abbiano usato ChatGPT solo per produrre singoli post promozionali, questi rimandavano a un’istituzione dall’aspetto altrimenti credibile, corredata di presunti esperti, lavori accademici ripubblicati e un presunto indice di rischio proprietario. Ciò dimostra come gli autori di operazioni di influenza possano usare l’IA come strumento di supporto nell’ambito di un progetto più ampio volto a costruire artificiosamente autorevolezza, nascondere la provenienza delle narrazioni che intendono favorire e creare risorse ampliabili nel tempo. Dimostra inoltre come l’uso dell’IA a supporto di queste attività possa portare alla scoperta dell’operazione più ampia.