Operácia „Doppelganger“: Ruské ovplyvňovanie zamerané na Ukrajinu

Táto prípadová štúdia bola pôvodne publikovaná v správe OpenAI z mája 2024⁠(otvorí sa v novom okne).

Zablokovali sme štyri skupiny účtov využívajúcich naše modely, ktoré boli prepojené s ľuďmi konajúcimi v mene ruskej vplyvovej operácie známej ako „Doppelganger“⁠(otvorí sa v novom okne). Každá skupina používala odlišné taktiky, techniky a postupy (TTP), čo zodpovedá operácii zloženej z rôznych funkčných tímov.

Táto aktivita sa zameriavala na publikum v Európe a Severnej Amerike a sústreďovala sa na tvorbu obsahu pre weby a sociálne siete.

Prvá skupina účtov vytvárala krátke textové komentáre v angličtine, francúzštine, nemčine, taliančine a poľštine. Uverejňovala ich na platformách 9GAG a X spolu s mémami, videami a odkazmi, ktoré podľa všetkého neboli vytvorené pomocou našich modelov. Niektoré mémy boli skopírované z rôznych miest na internete a podľa všetkého boli staré aj niekoľko rokov.

Účty, ktoré na platforme 9GAG uverejňovali obsah tejto kampane, mali ako profilové obrázky zvyčajne celebrity alebo mačky. Svoje mémy a videá uverejňovali v širokej škále kanálov vrátane kanála „Random“ a kanálov venovaných domácim zvieratám, športu, humoru, ale aj vzťahom a zoznamovaniu.

Vždy, keď kampaň uverejnila na platforme 9GAG mém alebo video, odpovedali naň tri až päť účtov, zvyčajne jednoduchými správami ako „hahaha“ alebo „lol“. Každý z týchto účtov reagoval výlučne na obsah tejto kampane a väčšina z nich vznikla v rovnaký deň. Takéto správanie často vyvolalo kritické komentáre iných používateľov, z ktorých mnohí označovali účty za „botov“.

Komentáre kampane na sieti X uverejňovali účty, z ktorých každý zvyčajne zverejnil iba jeden či dva príspevky. Komentáre zvyčajne sprevádzal zdanlivo náhodný odkaz, napríklad „solarpanelfor.sale“. Tieto odkazy presmerúvali na súbor webov, ktoré boli opakovane pripísané operácii Doppelganger. Prístup k webom bol geograficky obmedzený, takže si ich mohli prezerať iba ľudia s IP adresou v cieľovej krajine. Prevádzkovatelia však zrejme pochybili, takže niektoré články v angličtine, nemčine a poľštine sa dali zobraziť iba z francúzskej IP adresy.

Táto skupina pristupovala k našim modelom prostredníctvom služby prepojenej so spoločnosťami v Rusku a Českej republike, pravdepodobne v snahe vyhnúť sa odhaleniu. Cieľom tejto služby bolo umožniť ľuďom v Rusku obchádzať naše pravidlá prístupu z podporovaných krajín⁠(otvorí sa v novom okne). Tejto službe sme zablokovali prístup k API.

Druhá skupina prekladala články z ruštiny do angličtiny a francúzštiny; ruské texty boli podľa všetkého pôvodné. Mnohé z týchto článkov boli následne publikované na webe rrn.media, ktorý bol opakovane pripísaný operácii Doppelganger. Tá istá skupina vytvárala krátke komentáre k svojim článkom, ktoré sa neskôr objavili na sociálnych sieťach.

Tretia skupina sa používala na tvorbu, korektúru a opravu článkov vo francúzštine. Články boli následne publikované na webe franceeteu.today, ktorý bol takisto pripísaný operácii Doppelganger.

Posledná skupina pôsobila v nemčine. Preberala obsah z webu operácie Doppelganger grenzezank.com a používala ho na tvorbu krátkych príspevkov pre facebookovú skupinu a stránku pomenované podľa tohto webu.

Väčšina obsahu, ktorý táto kampaň zverejnila na internete, sa týkala vojny na Ukrajine. Ukrajinu, USA, NATO a EÚ vykresľovala negatívne, zatiaľ čo Rusko pozitívne. Typické komentáre tvrdili, že Rusko je pre európske krajiny dôležitým hospodárskym partnerom, že západní lídri kritizujúci Rusko nerozumejú vlastným voličom a že Ukrajina je slabá, skorumpovaná a/alebo na pokraji porážky.

Aktéri operácie Doppelganger sa občas pokúšali prinútiť naše modely, aby vytvorili kreslené obrázky významných európskych politikov a kritikov Ruska. Naše modely tieto požiadavky odmietli.

Zdá sa, že žiadna z identifikovaných kampaní operácie Doppelganger nezískala výraznejšiu pozitívnu odozvu od autentického publika.

Bežné príspevky na platforme 9GAG získali 5 až 10 kladných hlasov – najmä od účtov, ktoré tiež uverejňovali obsah tejto kampane – a 15 až 200 záporných hlasov. Bežné príspevky na sieti X mali približne 1 000 zdieľaní, žiadne odpovede a žiadne označenia Páči sa mi to. Tento rozdiel je taký výrazný, že naznačuje neautentické zosilňovanie dosahu. Jeden príspevok mal tri odpovede a všetky ho označili za podvrh.

Pri hodnotení vplyvu vplyvových operácií pomocou škály Breakout Scale⁠(otvorí sa v novom okne), ktorá ich hodnotí od 1 (najnižší vplyv) po 6 (najvyšší vplyv), by sme aktivitu súvisiacu s používaním našich modelov zaradili do kategórie 2. Tá sa vyznačuje zverejňovaním na viacerých platformách, no bez výrazného prieniku alebo významnej odozvy publika na ktorejkoľvek z nich.