Operacija „Doppelganger“: ruske aktivnosti utjecaja usmjerene na Ukrajinu
OpenAI je blokirao račune povezane s ruskom operacijom „Doppelganger“, koja je koristila AI za izradu komentara protiv Ukrajine, prijevoda i tekstova za web-stranice na više jezika.
Ova studija slučaja prvobitno je objavljena u izvještaju kompanije OpenAI iz maja 2024.(otvara se u novom prozoru)
Akter
Blokirali smo četiri grupe računa koji su koristili naše modele, a bili su povezani s osobama koje su djelovale u ime ruske operacije utjecaja poznate kao „Doppelganger“(otvara se u novom prozoru). Svaka grupa primjenjivala je drugačije taktike, tehnike i procedure (TTP), što odgovara operaciji sastavljenoj od različitih funkcionalnih timova.
Ponašanje
Ova aktivnost bila je usmjerena na publiku u Evropi i Sjevernoj Americi, a fokusirala se na izradu sadržaja za web-stranice i društvene mreže.
Prva grupa računa generisala je kratke tekstualne komentare na engleskom, francuskom, njemačkom, italijanskom i poljskom jeziku. Objavljivani su na platformama 9GAG i X uz memeove, videozapise i poveznice koji, prema svemu sudeći, nisu generisani pomoću naših modela. Neki memeovi kopirani su s raznih mjesta na internetu i čini se da su bili stari godinama.
Na platformi 9GAG računi koji su objavljivali sadržaj ove kampanje obično su imali profilne slike poznatih osoba ili mačaka. Svoje memeove i videozapise objavljivali su na brojnim kanalima, uključujući kanal „Random“ i kanale posvećene kućnim ljubimcima, sportu, humoru, pa čak i vezama i upoznavanju.
Komentar o Ukrajini i videozapis o Gazi koje je na kanalu „Motor Vehicles“ platforme 9GAG objavio račun koji je više puta objavljivao sadržaj generisan u okviru ove kampanje. Spominjanje Ukrajine i granice SAD-a generisano je pomoću naših modela. Videozapis je bio kolaž snimaka iz vijesti. Objava je dobila 11 glasova za i 93 glasa protiv.
Svaki put kada bi kampanja objavila meme ili videozapis na platformi 9GAG, odgovorilo bi tri do pet računa, obično jednostavnim porukama poput „hahaha“ ili „lol“. Svaki od tih računa komunicirao je isključivo sa sadržajem ove kampanje, a većina ih je otvorena istog datuma. Takvo ponašanje često je privlačilo kritičke komentare drugih korisnika, od kojih su mnogi račune prozivali kao „botove“.
Komentari na prethodno prikazani video. Sva tri donja računa, čiji su komentari bili najraniji, otvorena su krajem aprila 2024. i više puta su objavljivala, podržavala ili komentarisala isključivo objave ove kampanje. Tri gornja računa, koja su ukazala na lažne račune, otvorena su prije jedne do deset godina i pokazivala su širok raspon aktivnosti.
Na platformi X komentare kampanje objavljivali su računi koji su obično imali samo jednu ili dvije objave. Uz komentare se obično pojavljivala naizgled nasumična poveznica, poput „solarpanelfor.sale“. Te poveznice preusmjeravale su na skup web-stranica koje su više puta pripisane operaciji Doppelganger. Web-stranice su bile geografski ograničene, pa su ih mogle pregledati samo osobe s IP adresom u ciljanoj zemlji. Međutim, čini se da su operateri pogriješili, pa su se neki članci na engleskom, njemačkom i poljskom jeziku mogli pregledati samo s francuske IP adrese.
Objava na platformi X s komentarom generisanim pomoću naših modela. Komentar glasi: „Šokantan čin! Politika se nikada ne smije povezivati s nasiljem. Treba nam dijalog, a ne nasilje.“ Prateća poveznica preusmjerava na izdanje brendirane web-stranice operacije Doppelganger na njemačkom jeziku, rrn.media. Međutim, od 20. maja moglo mu se pristupiti samo s francuske IP adrese.
Vjerovatno pokušavajući izbjeći otkrivanje, ova grupa pristupala je našim modelima putem usluge povezane s kompanijama u Rusiji i Češkoj Republici. Ta usluga omogućavala je osobama u Rusiji da zaobiđu naša pravila pristupa za podržane zemlje(otvara se u novom prozoru). Onemogućili smo API pristup toj usluzi.
Druga grupa prevodila je članke s ruskog na engleski i francuski jezik, a čini se da su tekstovi na ruskom bili izvorni radovi. Mnogi od tih članaka naknadno su objavljeni na web-stranici koja je više puta pripisana operaciji Doppelganger: rrn.media. Ista grupa generisala je kratke komentare o svojim člancima, koji su se kasnije pojavili na društvenim mrežama.
Objava na platformi X generisana pomoću naših modela, uz poveznicu na članak na stranici rrn.media.
Treća grupa korištena je za izradu, lekturu i ispravljanje članaka na francuskom jeziku. Članci su zatim objavljeni na web-stranici franceeteu.today, koja je također pripisana operaciji Doppelganger.
Posljednja grupa djelovala je na njemačkom jeziku. Preuzimala je sadržaj s web-stranice operacije Doppelganger, grenzezank.com, i koristila ga za izradu kratkih objava za Facebook grupu i stranicu nazvane po toj web-stranici.
Sadržaj
Većina sadržaja koji je ova kampanja objavila na internetu bila je usmjerena na rat u Ukrajini. Ukrajinu, SAD, NATO i EU prikazivala je u negativnom, a Rusiju u pozitivnom svjetlu. Uobičajeni komentari tvrdili su da je Rusija važan ekonomski partner evropskih zemalja, da zapadni lideri koji kritikuju Rusiju ne razumiju vlastite birače te da je Ukrajina slaba, korumpirana i/ili pred porazom.
U nekoliko navrata akteri operacije Doppelganger pokušali su navesti naše modele da generišu karikature istaknutih evropskih političara i kritičara Rusije. Naši modeli odbili su te zahtjeve.
Procjena utjecaja
Čini se da nijedna kampanja operacije Doppelganger koju smo identificirali nije ostvarila značajan pozitivan angažman autentične publike.
Na platformi 9GAG uobičajene objave dobile su od 5 do 10 glasova za, uglavnom od računa koji su također objavljivali sadržaj ove kampanje, te od 15 do 200 glasova protiv. Na platformi X uobičajene objave imale su oko 1.000 dijeljenja, bez odgovora i oznaka „sviđa mi se“. Ova razlika je toliko velika da upućuje na neautentično povećavanje dosega. Jedna objava imala je tri odgovora, a svi su je prozvali lažnom.
Odgovor na platformi X na objavu operacije Doppelganger.
Primjenom Breakout skale(otvara se u novom prozoru) za procjenu utjecaja operacija utjecaja, koja ih ocjenjuje od 1 (najniže) do 6 (najviše), aktivnosti povezane s korištenjem naših modela svrstali bismo u kategoriju 2, koju karakteriše objavljivanje na više platformi, ali bez šireg prodora ili značajnog angažmana publike na bilo kojoj od njih.