Operazione “Doppelganger”: attività di influenza russa contro l'Ucraina
OpenAI ha bloccato account associati all'operazione di origine russa “Doppelganger”, che usava l'IA per generare in varie lingue commenti anti-Ucraina sui social media, traduzioni e testi per siti web.
Questo caso di studio è stato pubblicato originariamente nel rapporto di OpenAI di maggio 2024(si apre in una nuova finestra).
Soggetto
Abbiamo bloccato quattro gruppi di account che usavano i nostri modelli, riconducibili a persone che agivano per conto dell'operazione di influenza russa nota come “Doppelganger”(si apre in una nuova finestra). Ogni gruppo adottava tattiche, tecniche e procedure (TTP) diverse, coerentemente con un'operazione composta da team con funzioni differenti.
Comportamento
Questa attività era rivolta al pubblico europeo e nordamericano e si concentrava sulla generazione di contenuti per siti web e social media.
Il primo gruppo di account generava brevi commenti testuali in inglese, francese, tedesco, italiano e polacco. Venivano pubblicati su 9GAG e X insieme a meme, video e link che non sembrano essere stati generati con i nostri modelli. Alcuni meme erano stati copiati da varie fonti online e sembravano risalire a diversi anni prima.
Su 9GAG, gli account che pubblicavano i contenuti di questa campagna avevano generalmente come immagine del profilo celebrità o gatti. Pubblicavano meme e video in un'ampia varietà di canali, tra cui “Random” e quelli dedicati ad animali domestici, sport, umorismo e persino relazioni e incontri.
Commento sull'Ucraina e video su Gaza pubblicati nel canale “Motor Vehicles” di 9GAG da un account che diffondeva ripetutamente contenuti generati da questa campagna. Il riferimento all'Ucraina e al confine degli Stati Uniti è stato generato con i nostri modelli. Il video era un montaggio di filmati giornalistici. Il post ha ricevuto 11 voti positivi e 93 voti negativi.
Ogni volta che la campagna pubblicava un meme o un video su 9GAG, da tre a cinque account rispondevano, solitamente con semplici messaggi come “ahahah” o “lol”. Tutti questi account interagivano esclusivamente con i contenuti della campagna; la maggior parte era stata creata lo stesso giorno. Questo comportamento suscitava spesso commenti critici di altri utenti, molti dei quali denunciavano gli account come “bot”.
Commenti al video mostrato sopra. I tre account in basso, autori dei primi commenti, erano stati tutti creati alla fine di aprile 2024 e avevano ripetutamente pubblicato post, messo voti positivi o commentato esclusivamente i contenuti di questa campagna. I tre account in alto, che denunciavano i contenuti falsi, erano stati creati da uno a dieci anni prima e mostravano un'ampia varietà di attività.
Su X, i commenti della campagna venivano pubblicati da account che generalmente avevano creato soltanto uno o due post ciascuno. I commenti erano solitamente accompagnati da un link apparentemente casuale, come “solarpanelfor.sale”. Questi link rimandavano a una serie di siti web ripetutamente attribuiti a Doppelganger. I siti web erano soggetti a restrizioni geografiche, pertanto potevano essere visualizzati solo da persone con un indirizzo IP nel Paese preso di mira. Tuttavia, gli operatori sembrano aver commesso un errore: alcuni articoli in inglese, tedesco e polacco erano accessibili solo da un IP francese.
Post su X contenente un commento generato con i nostri modelli. Il commento si traduce così: “Un atto sconvolgente! La politica non dovrebbe mai essere associata alla violenza. Abbiamo bisogno di dialogo, non di violenza”. Il link allegato rimanda all'edizione in lingua tedesca di rrn.media, il sito con il marchio Doppelganger. Tuttavia, al 20 maggio, era accessibile solo da un IP francese.
Probabilmente nel tentativo di eludere il rilevamento, questo gruppo accedeva ai nostri modelli tramite un servizio collegato ad aziende in Russia e Repubblica Ceca. Il servizio consentiva alle persone in Russia di aggirare la nostra politica di accesso dai Paesi supportati(si apre in una nuova finestra). Abbiamo disabilitato l'accesso di questo servizio alle API.
Il secondo gruppo traduceva articoli dal russo all'inglese e al francese; i testi russi sembrano essere stati scritti appositamente. Molti di questi articoli sono stati successivamente pubblicati su rrn.media, un sito web ripetutamente attribuito a Doppelganger. Lo stesso gruppo generava brevi commenti sui propri articoli, poi pubblicati sui social media.
Post su X generato con i nostri modelli, accompagnato da un link a un articolo su rrn.media.
Il terzo gruppo veniva utilizzato per generare, revisionare e correggere articoli in lingua francese. Gli articoli venivano poi pubblicati su franceeteu.today, un altro sito web attribuito a Doppelganger.
L'ultimo gruppo operava in tedesco. Acquisiva contenuti da grenzezank.com, un sito di Doppelganger, e li usava per generare brevi post destinati a un gruppo e a una Pagina Facebook che portavano il nome del sito.
Contenuti
La maggior parte dei contenuti pubblicati online da questa campagna riguardava la guerra in Ucraina. Presentava in modo negativo l'Ucraina, gli Stati Uniti, la NATO e l'UE, e in modo positivo la Russia. I commenti più comuni sostenevano che la Russia fosse un partner economico importante per i Paesi europei, che i leader occidentali critici verso la Russia fossero lontani dalle opinioni dei propri elettori e che l'Ucraina fosse debole, corrotta e/o sull'orlo della sconfitta.
In alcune occasioni, gli operatori di Doppelganger hanno tentato di far generare ai nostri modelli vignette raffiguranti importanti politici europei e critici della Russia. I nostri modelli hanno rifiutato queste richieste.
Valutazione dell'impatto
Nessuna delle campagne di Doppelganger che abbiamo individuato sembra aver ottenuto un coinvolgimento positivo significativo da parte di utenti autentici.
Su 9GAG, i post tipici ricevevano 5-10 voti positivi, principalmente da account che pubblicavano anche contenuti della campagna, e tra 15 e 200 voti negativi. Su X, i post tipici registravano circa 1.000 condivisioni, nessuna risposta e nessun Mi piace. Una discrepanza così ampia lascia supporre un'amplificazione non autentica. Un post ha ricevuto tre risposte, tutte volte a denunciarlo come falso.
Risposta su X a un post di Doppelganger.
Applicando la Breakout Scale(si apre in una nuova finestra) per valutare l'impatto delle operazioni di influenza (IO), che le classifica su una scala da 1 (impatto minimo) a 6 (impatto massimo), collocheremmo l'attività legata all'uso dei nostri modelli nella Categoria 2, caratterizzata dalla pubblicazione su più piattaforme, ma senza diffusione virale né un coinvolgimento significativo del pubblico su alcuna di esse.