“Cattiva grammatica”: commenti su Telegram legati alla Russia

Questo caso di studio è stato pubblicato originariamente nel rapporto di OpenAI del maggio 2024⁠(si apre in una nuova finestra).

Abbiamo bloccato una rete di account, mai segnalata prima, che usava i nostri modelli per creare commenti poi pubblicati su Telegram. Abbiamo collegato questa attività a persone provenienti dalla Russia. Poiché si concentrava su Telegram, pubblicava ripetutamente testi in un inglese sgrammaticato e faticava a crearsi un pubblico, abbiamo soprannominato questa rete “Cattiva grammatica”.

Questa rete si rivolgeva al pubblico di Russia, Ucraina, Stati Uniti, Moldova e Paesi baltici con contenuti in russo e inglese.

La rete ha usato i nostri modelli e alcuni account Telegram per creare un sistema automatizzato di commenti spam. Inizialmente, gli operatori hanno usato i nostri modelli per correggere errori in un codice apparentemente progettato per automatizzare la pubblicazione su Telegram. Hanno quindi generato commenti in russo e inglese in risposta a specifici post su Telegram. Infine, sembra che abbiano usato almeno una dozzina di account Telegram per pubblicare quei commenti.

Per i contenuti in inglese, gli operatori hanno usato i nostri modelli per generare commenti con la voce di vari personaggi fittizi appartenenti a diversi gruppi demografici e schierati su entrambi i fronti dello spettro politico statunitense. Per i contenuti in russo, preferivano istruzioni più tematiche e meno incentrate su personaggi fittizi.

La rete commentava soprattutto i post di un numero ristretto di canali Telegram. Il canale più citato era il filorusso @Slavyangrad, seguito dai canali in lingua inglese @police_frequency e @SGTNewsNetwork. (Quest'ultimo si presenta come un veterano conservatore statunitense, ma a novembre Meta ha riferito⁠(si apre in una nuova finestra) che in realtà aveva origine in Iran.) In un campione di attività di febbraio, la rete ha tentato di generare risposte per questi tre canali con una frequenza doppia rispetto ai successivi 10 canali più citati messi insieme.

Questa campagna ha generato brevi commenti incentrati su pochi temi politici. Sia in inglese sia in russo, i principali argomenti trattati nei post su Telegram erano la guerra in Ucraina, la situazione politica in Moldova e nei Paesi baltici e la politica degli Stati Uniti.

I tipici commenti in russo su Telegram accusavano i presidenti di Ucraina e Moldova di corruzione, scarso sostegno popolare e tradimento del proprio popolo a vantaggio delle “ingerenze” occidentali. I commenti in inglese su Telegram si concentravano su temi quali immigrazione, difficoltà economiche e notizie dell'ultima ora. Questi commenti sfruttavano spesso il contesto dell'attualità per sostenere che gli Stati Uniti non dovessero appoggiare l'Ucraina.

A volte, più personaggi fittizi commentavano lo stesso post esprimendo punti di vista contrastanti. Questo approccio “a due facce”, che consiste nel presentarsi come voci di entrambi gli schieramenti, era già stato osservato in operazioni russe e potrebbe indicare l'intento di attirare specifici tipi di pubblico o di alimentare le divisioni.

Dopo l'attacco terroristico del 22 marzo a Mosca e l'arresto di quattro cittadini tagiki, la campagna ha iniziato a usare un nuovo gruppo di account Telegram incentrati sul Tagikistan. I commenti pubblicati invocavano l'unità tra tagiki e russi e il rispetto delle leggi russe.

La pubblicazione massiccia di commenti spam era una tecnica già comune nelle operazioni di influenza prima dell'avvento dell'IA generativa. Sebbene Cattiva grammatica usasse una tecnica innovativa per generare i commenti, il suo sistema di distribuzione faticava a suscitare interazioni.

Pochissimi commenti hanno ricevuto “Mi piace” o risposte. In genere, i commenti della rete rappresentavano una minoranza delle risposte a ciascun post: non riuscivano quindi a soffocare le altre opinioni, se questo era l'obiettivo.

Occasionalmente, la rete ha usato i nostri modelli per generare quelli che sembrano messaggi privati, forse scambiati con un altro utente di Telegram, ma i testi generati fanno pensare che stesse conversando con un truffatore di criptovalute.

Applicando la Breakout Scale⁠(si apre in una nuova finestra) per valutare l'impatto delle operazioni di influenza, classificandole su una scala da 1 (minimo) a 6 (massimo), assegneremmo a questa operazione la categoria 1, caratterizzata da attività di pubblicazione su una sola piattaforma e dall'assenza di prove di un'amplificazione significativa da parte di persone esterne alla rete.