»Dårlig grammatik«: russiskforbundet kommentaraktivitet på Telegram

Denne casestudie blev oprindeligt offentliggjort i OpenAI’s rapport fra maj 2024⁠(åbner i et nyt vindue).

Vi udelukkede et hidtil ukendt netværk af konti, der brugte vores modeller til at oprette kommentarer, som derefter blev slået op på Telegram. Vi knyttede denne aktivitet til personer fra Rusland. På grund af netværkets fokus på Telegram, dets gentagne opslag på ukorrekt engelsk og dets problemer med at opbygge en følgerskare har vi kaldt det »Dårlig grammatik«.

Dette netværk målrettede russisk- og engelsksproget indhold mod målgrupper i Rusland, Ukraine, USA, Moldova og de baltiske lande.

Netværket brugte vores modeller og konti på Telegram til at etablere en automatiseret strøm af spamkommentarer. Først brugte operatørerne vores modeller til at fejlfinde kode, der tilsyneladende var beregnet til at automatisere opslag på Telegram. Derefter genererede de kommentarer på russisk og engelsk som svar på bestemte Telegram-opslag. Til sidst ser de ud til at have brugt mindst 12 Telegram-konti til at slå kommentarerne op.

På engelsk brugte operatørerne vores modeller til at generere kommentarer i rollen som en række falske personaer fra forskellige befolkningsgrupper på begge sider af det politiske spektrum i USA. På russisk foretrak de mere tematiske instruktioner, der i mindre grad var baseret på personaer.

Netværket kommenterede primært opslag fra et lille antal Telegram-kanaler. Den hyppigst omtalte var den prorussiske kanal @Slavyangrad, efterfulgt af de engelsksprogede @police_frequency og @SGTNewsNetwork. (Sidstnævnte udgiver sig for at være en konservativ amerikansk veteran, men i november rapporterede Meta⁠(åbner i et nyt vindue), at kanalen i virkeligheden stammede fra Iran). I en stikprøve af aktiviteten fra februar forsøgte netværket at generere svar til disse tre kanaler dobbelt så ofte som til de ti næstmest omtalte kanaler tilsammen.

Denne kampagne genererede korte kommentarer med fokus på en håndfuld politiske temaer. På både engelsk og russisk var de vigtigste emner i kampagnens Telegram-opslag krigen i Ukraine, den politiske situation i Moldova og de baltiske lande samt politik i USA.

Typiske russisksprogede kommentarer på Telegram beskyldte Ukraines og Moldovas præsidenter for korruption, manglende folkelig opbakning og for at forråde deres egne befolkninger til fordel for vestlig »indblanding«. Engelsksprogede kommentarer på Telegram fokuserede på emner som indvandring, økonomiske problemer og dagens seneste nyheder. Kommentarerne brugte ofte aktuelle begivenheder som argument for, at USA ikke burde støtte Ukraine.

Nogle gange kommenterede flere personaer det samme opslag med modstridende synspunkter. Denne »dobbeltrolle«, hvor man udgiver sig for at være stemmer på begge sider, er tidligere blevet observeret i russiske operationer og kan være udtryk for et ønske om at tiltrække bestemte målgrupper eller skabe splittelse.

Efter terrorangrebet i Moskva den 22. marts og tilbageholdelsen af fire tadsjikiske statsborgere begyndte kampagnen at bruge en ny gruppe Telegram-konti med fokus på Tadsjikistan. Kommentarerne opfordrede til sammenhold mellem tadsjikere og russere og til respekt for russisk lovgivning.

Spredning af spamkommentarer var allerede en udbredt teknik i påvirkningsoperationer, før generativ AI blev indført. Selvom Dårlig grammatik brugte en ny metode til at generere sine kommentarer, havde distributionssystemet svært ved at skabe engagement.

Meget få af kommentarerne fik likes eller svar. Netværkets kommentarer udgjorde typisk kun et mindretal af svarene på det enkelte opslag – det overdøvede altså ikke andre synspunkter, hvis det da var hensigten.

Enkelte gange brugte netværket vores modeller til at generere, hvad der ligner private beskeder, muligvis udvekslet med en anden Telegram-bruger. De genererede tekster tyder dog på, at netværket chattede med en kryptosvindler.

Med Breakout-skalaen⁠(åbner i et nyt vindue), som vurderer konsekvenserne af påvirkningsoperationer på en skala fra 1 (lavest) til 6 (højest), vurderer vi dette til kategori 1. Den er kendetegnet ved opslag på én enkelt platform uden tegn på betydelig forstærkning fra personer uden for netværket.