“Slikta gramatika”: ar Krieviju saistīta komentēšana Telegram

Šis gadījuma pētījums sākotnēji tika publicēts OpenAI 2024. gada maija⁠(atveras jaunā logā) ziņojumā.

Mēs bloķējām iepriekš neziņotu kontu tīklu, kas izmantoja mūsu modeļus, lai veidotu komentārus, kurus pēc tam publicēja Telegram. Mēs saistījām šo darbību ar personām no Krievijas. Tā kā šis tīkls koncentrējās uz Telegram, atkārtoti publicēja gramatiski nepareizu tekstu angļu valodā un nespēja piesaistīt auditoriju, mēs to nodēvējām par “Sliktu gramatiku”.

Šis tīkls ar saturu krievu un angļu valodā vērsās pie auditorijām Krievijā, Ukrainā, ASV, Moldovā un Baltijas valstīs.

Tīkls izmantoja mūsu modeļus un Telegram kontus, lai izveidotu komentāru surogātpasta publicēšanas sistēmu. Vispirms operatori izmantoja mūsu modeļus, lai atkļūdotu kodu, kas acīmredzot bija paredzēts automatizētai publicēšanai Telegram. Pēc tam viņi ģenerēja komentārus krievu un angļu valodā, atbildot uz konkrētām Telegram publikācijām. Visbeidzot, šķiet, ka šo komentāru publicēšanai viņi izmantoja vismaz divpadsmit Telegram kontus.

Angļu valodā operatori izmantoja mūsu modeļus, lai ģenerētu komentārus vairāku viltus personāžu vārdā, pārstāvot dažādas demogrāfiskās grupas no abām ASV politiskā spektra pusēm. Krievu valodā viņi deva priekšroku tematiskākiem norādījumiem, kas mazāk balstījās uz personāžiem.

Tīkls galvenokārt komentēja neliela skaita Telegram kanālu publikācijas. Visbiežāk tika minēts Krieviju atbalstošais kanāls @Slavyangrad, kam sekoja angļu valodas kanāli @police_frequency un @SGTNewsNetwork. (Pēdējais uzdodas par konservatīvu amerikāņu veterānu, taču novembrī Meta ziņoja⁠(atveras jaunā logā), ka tas patiesībā ir radies Irānā.) Februāra darbību izlasē tīkls mēģināja ģenerēt atbildes šiem trim kanāliem divreiz biežāk nekā desmit nākamajiem visbiežāk minētajiem kanāliem kopā.

Šī kampaņa ģenerēja īsus komentārus par dažām politiskām tēmām. Gan angļu, gan krievu valodā Telegram publicētā satura galvenās tēmas bija karš Ukrainā, politiskā situācija Moldovā un Baltijas valstīs, kā arī ASV politika.

Telegram komentāros krievu valodā Ukrainas un Moldovas prezidenti parasti tika apsūdzēti korupcijā, sabiedrības atbalsta trūkumā un savas tautas nodošanā Rietumu “iejaukšanās” labā. Telegram komentāri angļu valodā pievērsās tādām tēmām kā imigrācija, ekonomiskās grūtības un aktuālākās dienas ziņas. Šajos komentāros bieži tika izmantots aktuālo notikumu konteksts, lai apgalvotu, ka ASV nevajadzētu atbalstīt Ukrainu.

Dažkārt vienu un to pašu publikāciju komentēja vairāki personāži, paužot pretrunīgus viedokļus. Šāda “divkosīga” pieeja, uzdodoties par abu pušu balsīm, Krievijas operācijās ir novērota jau iepriekš un var liecināt par vēlmi piesaistīt noteiktas auditorijas vai veicināt sabiedrības šķelšanos.

Pēc 22. marta terorakta Maskavā un četru Tadžikistānas pilsoņu aizturēšanas kampaņa sāka izmantot jaunu uz Tadžikistānu orientētu Telegram kontu kopu. Publicētajos komentāros tika aicināts uz tadžiku un krievu vienotību un Krievijas likumu ievērošanu.

Komentāru surogātpasta publicēšana bija izplatīts informācijas operāciju paņēmiens jau pirms ģeneratīvā MI parādīšanās. Lai gan “Slikta gramatika” komentāru ģenerēšanai izmantoja jaunu paņēmienu, tās izplatīšanas sistēmai neizdevās panākt auditorijas iesaisti.

Tikai daži komentāri saņēma atzīmes “Patīk” vai atbildes. Tīkla komentāri parasti veidoja mazākumu no atbildēm uz katru publikāciju — tātad tie nenomāca citus viedokļus, ja vien tāds bija mērķis.

Reizēm tīkls izmantoja mūsu modeļus, lai ģenerētu tekstus, kas šķietami bija privātas sarakstes, iespējams, ar citu Telegram lietotāju, taču ģenerētie teksti liecina, ka tīkls sarakstījās ar kriptovalūtas krāpnieku.

Vērtējot informācijas operāciju ietekmi ar Izlaušanās skalu⁠(atveras jaunā logā), kur tās tiek vērtētas no 1 (zemākais līmenis) līdz 6 (augstākais līmenis), mēs šo gadījumu ierindotu 1. kategorijā: publicēšana vienā platformā bez pierādījumiem par būtisku satura izplatīšanu ārpus tīkla iesaistīto personu vidū.