Operace „Doppelganger“: ruská vlivová činnost zaměřená na Ukrajinu

Tato případová studie byla původně zveřejněna ve zprávě OpenAI z května 2024⁠(otevře se v novém okně).

Zablokovali jsme čtyři skupiny účtů využívajících naše modely, které byly spojeny s lidmi jednajícími jménem ruské vlivové operace známé jako „Doppelganger“⁠(otevře se v novém okně). Každá skupina používala jiné taktiky, techniky a postupy (TTP), což odpovídá operaci tvořené různými funkčními týmy.

Tato činnost cílila na publikum v Evropě a Severní Americe a zaměřovala se na tvorbu obsahu pro weby a sociální sítě.

První skupina účtů vytvářela krátké textové komentáře v angličtině, francouzštině, němčině, italštině a polštině. Ty byly zveřejňovány na platformách 9GAG a X spolu s memy, videi a odkazy, které podle všeho nebyly vytvořeny pomocí našich modelů. Některé memy byly zkopírovány z různých míst na internetu a zřejmě byly staré několik let.

Účty zveřejňující obsah této kampaně na platformě 9GAG měly obvykle profilové obrázky celebrit nebo koček. Své memy a videa zveřejňovaly v nejrůznějších kanálech, včetně kanálu „Náhodné“ a kanálů věnovaných domácím mazlíčkům, sportu, humoru, a dokonce i vztahům a seznamování.

Pokaždé, když kampaň zveřejnila na platformě 9GAG mem nebo video, reagovalo na něj tři až pět účtů, obvykle jednoduchými zprávami jako „hahaha“ nebo „lol“. Všechny tyto účty reagovaly výhradně na obsah této kampaně a většina z nich byla vytvořena ve stejný den. Toto chování často vyvolávalo kritické komentáře ostatních uživatelů, z nichž mnozí účty označovali za „boty“.

Na síti X zveřejňovaly komentáře kampaně účty, které obvykle publikovaly pouze jeden či dva příspěvky. Komentáře obvykle doprovázel zdánlivě náhodný odkaz, například „solarpanelfor.sale“. Tyto odkazy přesměrovávaly na skupinu webů, které byly opakovaně připisovány operaci Doppelganger. Weby byly geograficky omezené, takže je mohli zobrazit pouze lidé s IP adresou v cílové zemi. Operátoři se však zřejmě dopustili chyby, takže některé anglické, německé a polské články bylo možné zobrazit pouze z francouzské IP adresy.

Pravděpodobně ve snaze vyhnout se odhalení přistupovala tato skupina k našim modelům prostřednictvím služby spojené se společnostmi v Rusku a České republice. Tato služba měla lidem v Rusku umožnit obcházet naše zásady přístupu z podporovaných zemí⁠(otevře se v novém okně). Této službě jsme zakázali přístup k API.

Druhá skupina překládala články z ruštiny do angličtiny a francouzštiny; ruské texty byly podle všeho původní. Mnohé z těchto článků byly následně zveřejněny na webu, který byl opakovaně připisován operaci Doppelganger: rrn.media. Stejná skupina vytvářela krátké komentáře ke svým článkům, které se později objevily na sociálních sítích.

Třetí skupina sloužila k vytváření, korekturám a opravám článků ve francouzštině. Články byly poté zveřejněny na webu franceeteu.today, který byl rovněž připisován operaci Doppelganger.

Poslední skupina působila v němčině. Přebírala obsah z webu operace Doppelganger grenzezank.com a vytvářela z něj krátké příspěvky pro facebookovou skupinu a stránku pojmenované podle tohoto webu.

Většina obsahu, který tato kampaň zveřejnila na internetu, se zaměřovala na válku na Ukrajině. Ukrajinu, USA, NATO a EU vykreslovala negativně, zatímco Rusko pozitivně. Typické komentáře tvrdily, že Rusko je pro evropské země důležitým hospodářským partnerem, že západní představitelé kritizující Rusko nerozumějí vlastním voličům a že Ukrajina je slabá, zkorumpovaná nebo na pokraji porážky.

Aktéři operace Doppelganger se někdy snažili přimět naše modely, aby vytvářely kreslené obrázky významných evropských politiků a kritiků Ruska. Naše modely tyto požadavky odmítly.

Žádná z kampaní operace Doppelganger, které jsme odhalili, podle všeho nezískala výraznější pozitivní odezvu od skutečného publika.

Běžné příspěvky na platformě 9GAG získaly 5–10 kladných hlasů, převážně od účtů, které rovněž zveřejňovaly obsah této kampaně, a 15 až 200 záporných hlasů. Běžné příspěvky na síti X měly přibližně 1 000 sdílení, žádné odpovědi a žádná označení To se mi líbí. Tento rozdíl je natolik výrazný, že naznačuje neautentické umělé zesilování dosahu. Jeden příspěvek obdržel tři odpovědi a všechny jej označovaly za podvrh.

Při hodnocení dopadu vlivových operací pomocí škály Breakout Scale⁠(otevře se v novém okně), která je hodnotí od 1 (nejnižší) do 6 (nejvyšší), bychom činnost související s používáním našich modelů zařadili do kategorie 2. Ta se vyznačuje aktivitou na více platformách, ale bez výraznějšího průlomu či zapojení publika na kterékoli z nich.