Operazione “Zio Spam”: attività di influenza sulla polarizzazione negli USA
OpenAI ha bloccato account di origine cinese che usavano l’IA per creare contenuti politici statunitensi e condurre ricerche su persone, movimenti e comunità online.
Questo caso di studio è stato pubblicato originariamente nel rapporto di OpenAI di giugno 2025(si apre in una nuova finestra).
Autore della minaccia
Abbiamo bloccato diversi account ChatGPT collegati a un’operazione di influenza di origine cinese(si apre in una nuova finestra), in seguito a una segnalazione dei nostri colleghi di Meta. L’operazione ha generato contenuti polarizzanti per i social media, a sostegno di entrambe le posizioni su temi divisivi del dibattito politico statunitense, tra cui testi e immagini del profilo generate dall’IA su piattaforme come X e Bluesky.
Comportamento
La rete ha usato i nostri modelli per varie attività, principalmente per generare commenti sui social media favorevoli o contrari ai dazi. Gli account hanno chiesto ai nostri modelli quali fossero gli orari migliori per pubblicare e massimizzare il coinvolgimento del pubblico, segno di tattiche di amplificazione pianificate.
Due tweet i cui testi sono stati generati da questo autore della minaccia usando i nostri modelli, a sostegno delle due posizioni contrapposte nel dibattito sui dazi.
In secondo luogo, gli account hanno usato le nostre funzionalità di generazione di immagini per creare loghi stilizzati, poi impiegati come immagini del profilo per dare credibilità a identità fittizie su diverse piattaforme social. In particolare, gli account si sono concentrati sulla creazione di identità di veterani statunitensi critici nei confronti dell’attuale amministrazione USA.
Account su Bluesky che ha pubblicato contenuti generati da questa rete. Il logo “Veterani per la giustizia” è stato creato usando i nostri modelli.
Infine, gli account hanno richiesto ripetutamente codice e metodi per estrarre dati personali, come profili utente, elenchi di follower e altri dettagli, da piattaforme social quali X e Bluesky, usando strumenti come Tweepy, Nitter e l’API pubblica di Bluesky. Gli account hanno inoltre usato i nostri modelli per ottenere indicazioni su come analizzare i dati dei profili in base a caratteristiche personali e affiliazioni organizzative, potenzialmente allo scopo di classificare le persone o dedurne legami e attributi.
Output
Gli account hanno prodotto contenuti polarizzanti su vari temi del dibattito politico statunitense, spesso nel corso delle stesse sessioni operative. In linea con le metodologie note delle operazioni di influenza, l’attività sembra essere stata concepita per sfruttare le divisioni politiche esistenti, anziché per promuovere una specifica posizione ideologica. Il volume dei contenuti e l’attenzione rivolta ai messaggi destinati al pubblico statunitense ci hanno indotto a chiamare questa operazione “Zio Spam”.
Tweet con testi generati dai nostri modelli e pubblicati da identità fittizie.
Impatto
In base alla scala Breakout(si apre in una nuova finestra) per l’impatto delle operazioni di influenza, classificheremmo questa attività nella Categoria 2: presenza su più piattaforme, senza diffusione significativa o con un coinvolgimento minimo. Gli account social che pubblicavano contenuti generati dai nostri modelli hanno ottenuto uno scarso coinvolgimento autentico. La maggior parte dei post pubblicati su X da questa rete ha ricevuto pochi o nessun “Mi piace” o repost; solo alcuni hanno ottenuto un certo coinvolgimento. Alcuni account social avevano migliaia di follower, ma non siamo riusciti a valutarne l’autenticità e il numero di follower non sembrava tradursi in interazioni con i post.