„Gramatică proastă”: activitate de comentarii pe Telegram asociată Rusiei

Acest studiu de caz a fost publicat inițial în raportul OpenAI din mai 2024⁠(se deschide într-o fereastră nouă).

Am blocat o rețea de conturi necunoscută anterior, care folosea modelele noastre pentru a crea comentarii publicate ulterior pe Telegram. Am asociat această activitate unor persoane din Rusia. Având în vedere concentrarea sa pe Telegram, publicarea repetată a unor texte în engleză cu greșeli gramaticale și dificultatea de a-și forma un public, am numit această rețea „Gramatică proastă”.

Această rețea a vizat publicul din Rusia, Ucraina, Statele Unite, Moldova și țările baltice, folosind conținut în rusă și engleză.

Rețeaua a folosit modelele noastre și conturi de Telegram pentru a crea un sistem automatizat de distribuire a comentariilor nedorite. Mai întâi, operatorii au folosit modelele noastre pentru a depana un cod aparent conceput să automatizeze publicarea pe Telegram. Apoi au generat comentarii în rusă și engleză ca răspuns la anumite postări de pe Telegram. În cele din urmă, se pare că au folosit cel puțin 12 conturi de Telegram pentru a publica acele comentarii.

În engleză, operatorii au folosit modelele noastre pentru a genera comentarii din perspectiva mai multor personaje fictive, aparținând unor categorii demografice diferite și reprezentând ambele tabere ale spectrului politic din Statele Unite. În rusă, au preferat instrucțiuni mai degrabă tematice și mai puțin bazate pe personaje.

Rețeaua a comentat în principal la postările unui număr restrâns de canale Telegram. Cel mai menționat a fost canalul prorus @Slavyangrad, urmat de canalele în limba engleză @police_frequency și @SGTNewsNetwork. (Acesta din urmă se prezintă drept un veteran american conservator, însă, în noiembrie, Meta a raportat⁠(se deschide într-o fereastră nouă) că provenea, de fapt, din Iran.) Într-un eșantion de activitate din februarie, rețeaua a încercat să genereze răspunsuri pentru aceste trei canale de două ori mai des decât pentru următoarele 10 canale cel mai frecvent menționate, luate împreună.

Această campanie a generat comentarii scurte axate pe câteva teme politice. Atât în engleză, cât și în rusă, principalele subiecte abordate în postările de pe Telegram au fost războiul din Ucraina, situația politică din Moldova și țările baltice, precum și politica din Statele Unite.

Comentariile tipice în limba rusă de pe Telegram îi acuzau pe președinții Ucrainei și Moldovei de corupție, lipsă de susținere populară și trădarea propriului popor în favoarea „ingerinței” occidentale. Comentariile în limba engleză de pe Telegram se concentrau pe subiecte precum imigrația, dificultățile economice și știrile de ultimă oră ale zilei. Aceste comentarii foloseau adesea contextul evenimentelor curente pentru a susține că Statele Unite nu ar trebui să sprijine Ucraina.

Uneori, mai multe personaje comentau la aceeași postare, exprimând puncte de vedere contradictorii. Această abordare „cu două fețe”, prin care operatorii se prezintă drept voci ale ambelor tabere, a mai fost observată în operațiuni rusești și poate indica intenția de a atrage anumite categorii de public sau de a amplifica dezbinarea.

După atacul terorist de la Moscova din 22 martie și reținerea a patru cetățeni tadjici, campania a început să folosească un nou grup de conturi Telegram axat pe Tadjikistan. Comentariile publicate făceau apel la unitate între tadjici și ruși și la respectarea legislației ruse.

Distribuirea masivă de comentarii nedorite era deja o tehnică folosită frecvent în operațiunile de influență înainte de apariția IA generative. Deși „Gramatică proastă” a folosit o tehnică nouă pentru a-și genera comentariile, sistemul său de distribuție nu a reușit să atragă interacțiuni.

Foarte puține dintre comentariile sale au primit aprecieri sau răspunsuri. De regulă, comentariile rețelei reprezentau o mică parte dintre răspunsurile la fiecare postare, ceea ce înseamnă că nu acopereau celelalte opinii, dacă acesta era scopul.

Ocazional, rețeaua a folosit modelele noastre pentru a genera mesaje aparent private, posibil adresate altui utilizator Telegram, însă textele generate sugerează că rețeaua conversa cu un escroc specializat în criptomonede.

Folosind scala Breakout⁠(se deschide într-o fereastră nouă) pentru a evalua impactul operațiunilor de influență, care le clasifică pe o scară de la 1 (cel mai scăzut) la 6 (cel mai ridicat), am încadra această activitate în categoria 1, caracterizată prin postări pe o singură platformă și fără dovezi ale unei amplificări semnificative din partea unor persoane din afara rețelei.