„Zlá gramatika“: aktivita komentárov na Telegrame prepojená s Ruskom

Táto prípadová štúdia bola pôvodne uverejnená v správe OpenAI z mája 2024⁠(otvorí sa v novom okne).

Zablokovali sme doteraz nezdokumentovanú sieť účtov, ktorá pomocou našich modelov vytvárala komentáre následne zverejňované na Telegrame. Túto aktivitu sme spojili s osobami z Ruska. Keďže sa táto sieť zameriavala na Telegram, opakovane zverejňovala gramaticky nesprávnu angličtinu a nedarilo sa jej vybudovať si publikum, nazvali sme ju „Zlá gramatika“.

Táto sieť cielila na publikum v Rusku, na Ukrajine, v Spojených štátoch, Moldavsku a pobaltských štátoch obsahom v ruštine a angličtine.

Sieť využívala naše modely a účty na Telegrame na vytvorenie systému na hromadné zverejňovanie komentárov. Prevádzkovatelia najprv pomocou našich modelov odstraňovali chyby v kóde, ktorý bol zjavne určený na automatizáciu zverejňovania na Telegrame. Potom generovali komentáre v ruštine a angličtine ako odpovede na konkrétne príspevky na Telegrame. Napokon tieto komentáre zrejme zverejňovali prostredníctvom najmenej dvanástich účtov na Telegrame.

V angličtine prevádzkovatelia pomocou našich modelov generovali komentáre v mene viacerých falošných persón, ktoré zastupovali rôzne demografické skupiny a obe strany politického spektra v Spojených štátoch. V ruštine uprednostňovali skôr tematické pokyny, ktoré sa menej opierali o persóny.

Sieť komentovala predovšetkým príspevky malého počtu kanálov na Telegrame. Najčastejšie spomínala proruský kanál @Slavyangrad, po ktorom nasledovali anglickojazyčné kanály @police_frequency a @SGTNewsNetwork. (Posledný z nich sa vydáva za konzervatívneho amerického veterána, no v novembri spoločnosť Meta uviedla⁠(otvorí sa v novom okne), že v skutočnosti pochádza z Iránu.) Vo februárovej vzorke aktivity sa sieť pokúšala generovať odpovede pre tieto tri kanály dvakrát častejšie než pre ďalších desať najčastejšie spomínaných kanálov dohromady.

Táto kampaň generovala krátke komentáre zamerané na niekoľko politických tém. V angličtine aj ruštine sa jej príspevky na Telegrame venovali najmä vojne na Ukrajine, politickej situácii v Moldavsku a pobaltských štátoch a politike v Spojených štátoch.

Typické ruskojazyčné komentáre na Telegrame obviňovali prezidentov Ukrajiny a Moldavska z korupcie, nedostatočnej podpory verejnosti a zrady vlastného ľudu v prospech západného „zasahovania“. Anglickojazyčné komentáre na Telegrame sa zameriavali na témy ako prisťahovalectvo, ekonomické ťažkosti a najnovšie udalosti dňa. Tieto komentáre často využívali aktuálne udalosti na presadzovanie názoru, že Spojené štáty by nemali podporovať Ukrajinu.

Niekedy ten istý príspevok komentovalo viacero persón, pričom prezentovali protichodné názory. Tento „dvojtvárny“ prístup, pri ktorom sa aktéri vydávajú za hlasy oboch strán, sme už zaznamenali pri ruských operáciách. Môže naznačovať snahu osloviť konkrétne publikum alebo prehlbovať rozdelenie spoločnosti.

Po teroristickom útoku v Moskve 22. marca a zadržaní štyroch občanov Tadžikistanu začala kampaň využívať novú skupinu účtov na Telegrame zameranú na Tadžikistan. V zverejnených komentároch vyzývala na jednotu Tadžikov a Rusov a na dodržiavanie ruských zákonov.

Hromadné zverejňovanie komentárov bolo bežnou technikou vplyvových operácií už pred nástupom generatívnej AI. Hoci „Zlá gramatika“ využívala na generovanie komentárov novú techniku, jej distribučnému systému sa nedarilo získavať interakcie.

Len veľmi málo jej komentárov získalo označenia Páči sa mi to alebo odpovede. Komentáre siete zvyčajne tvorili len menšinu odpovedí pod jednotlivými príspevkami. Ak bolo jej cieľom prehlušiť ostatné názory, nepodarilo sa jej to.

Sieť občas pomocou našich modelov generovala zdanlivo súkromné správy, možno určené inému používateľovi Telegramu. Vygenerované texty však naznačujú, že komunikovala s kryptomenovým podvodníkom.

Pri hodnotení vplyvu vplyvových operácií pomocou škály dosahu⁠(otvorí sa v novom okne), ktorá ich hodnotí od 1 (najnižší vplyv) do 6 (najvyšší vplyv), by sme túto operáciu zaradili do kategórie 1. Tá sa vyznačuje zverejňovaním na jedinej platforme bez dôkazov o významnom šírení ľuďmi mimo siete.