Operacija „Doppelganger”: ruske aktivnosti utjecaja usmjerene na Ukrajinu
OpenAI je blokirao račune povezane s ruskom operacijom „Doppelganger”, koja je s pomoću umjetne inteligencije na više jezika izrađivala komentare protiv Ukrajine, prijevode i tekstove za web-mjesta.
Ova studija slučaja izvorno je objavljena u izvješću OpenAI-ja za svibanj 2024.(otvara se u novom prozoru)
Akter
Blokirali smo četiri skupine računa koji su se koristili našim modelima, a bili su povezani s osobama koje su djelovale u ime ruske operacije utjecaja poznate kao „Doppelganger”(otvara se u novom prozoru). Svaka je skupina primjenjivala drukčije taktike, tehnike i postupke (TTP-ove), što odgovara operaciji sastavljenoj od različitih funkcionalnih timova.
Ponašanje
Ova je aktivnost bila usmjerena na publiku u Europi i Sjevernoj Americi, a cilj joj je bio izrađivati sadržaj za web-mjesta i društvene mreže.
Prva skupina računa izrađivala je kratke tekstne komentare na engleskom, francuskom, njemačkom, talijanskom i poljskom jeziku. Objavljivali su ih na platformama 9GAG i X uz memove, videozapise i poveznice za koje se čini da nisu izrađeni s pomoću naših modela. Neki su memovi kopirani s raznih dijelova interneta i čini se da su bili stari više godina.
Računi koji su na platformi 9GAG objavljivali sadržaj ove kampanje obično su kao profilne slike imali slavne osobe ili mačke. Svoje su memove i videozapise objavljivali na brojnim kanalima, uključujući kanal „Nasumično” te kanale posvećene kućnim ljubimcima, sportu, humoru, pa čak i vezama i spojevima.
Komentar o Ukrajini i videozapis o Gazi koje je na kanalu „Motorna vozila” platforme 9GAG objavio račun koji je više puta objavljivao sadržaj izrađen u sklopu ove kampanje. Dio o Ukrajini i američkoj granici izrađen je s pomoću naših modela. Videozapis je bio kolaž snimki iz vijesti. Objava je dobila 11 pozitivnih i 93 negativna glasa.
Kad god bi kampanja objavila mem ili videozapis na platformi 9GAG, odgovorilo bi između tri i pet računa, obično jednostavnim porukama poput „hahaha” ili „lol”. Svaki od tih računa reagirao je isključivo na sadržaj ove kampanje, a većina ih je otvorena istog datuma. Takvo je ponašanje često privlačilo kritičke komentare drugih korisnika, od kojih su mnogi te račune prozivali „botovima”.
Komentari na prethodno prikazani videozapis. Sva tri donja računa, čiji su komentari bili najraniji, otvorena su krajem travnja 2024. i više su puta objavljivala sadržaj ove kampanje, pozitivno ga ocjenjivala ili komentirala, ali nisu bila aktivna na drugim objavama. Tri gornja računa, koja su upozorila na lažni sadržaj, otvorena su prije jedne do deset godina i pokazivala su širok raspon aktivnosti.
Na platformi X komentare kampanje objavljivali su računi koji su obično imali samo jednu ili dvije objave. Uz komentare se obično nalazila naizgled nasumična poveznica, primjerice „solarpanelfor.sale”. Te su poveznice preusmjeravale na skup web-mjesta koja su se više puta povezivala s operacijom Doppelganger. Web-mjesta su bila geografski ograničena pa su ih mogle pregledavati samo osobe s IP adresom u ciljanoj zemlji. Međutim, čini se da su operateri pogriješili pa se nekim člancima na engleskom, njemačkom i poljskom jeziku moglo pristupiti samo s francuske IP adrese.
Objava na platformi X s komentarom izrađenim s pomoću naših modela. Prijevod komentara glasi: „Šokantan čin! Politika se nikada ne bi smjela povezivati s nasiljem. Treba nam dijalog, a ne nasilje.” Priložena poveznica preusmjerava na njemačko izdanje web-mjesta rrn.media, brendiranog kao Doppelganger. Međutim, 20. svibnja moglo mu se pristupiti samo s francuske IP adrese.
Vjerojatno nastojeći izbjeći otkrivanje, ova je skupina našim modelima pristupala putem usluge povezane s tvrtkama u Rusiji i Češkoj. Ta je usluga osobama u Rusiji trebala omogućiti zaobilaženje naših pravila pristupa iz podržanih zemalja(otvara se u novom prozoru). Onemogućili smo API pristup toj usluzi.
Druga je skupina prevodila članke s ruskog na engleski i francuski, a čini se da su tekstovi na ruskom bili izvorno napisani. Mnogi od tih članaka poslije su objavljeni na web-mjestu rrn.media, koje se više puta povezivalo s operacijom Doppelganger. Ista je skupina izrađivala kratke komentare o svojim člancima koji su se poslije pojavljivali na društvenim mrežama.
Objava na platformi X izrađena s pomoću naših modela uz poveznicu na članak na web-mjestu rrn.media.
Treća se skupina upotrebljavala za izradu, lekturu i ispravljanje članaka na francuskom jeziku. Članci su zatim objavljeni na web-mjestu franceeteu.today, koje se također povezivalo s operacijom Doppelganger.
Posljednja je skupina djelovala na njemačkom jeziku. Preuzimala je sadržaj s web-mjesta operacije Doppelganger, grenzezank.com, i upotrebljavala ga za izradu kratkih objava za Facebook grupu i stranicu nazvane po tom web-mjestu.
Sadržaj
Većina sadržaja koji je ova kampanja objavila na internetu odnosila se na rat u Ukrajini. Ukrajinu, SAD, NATO i EU prikazivala je u negativnom, a Rusiju u pozitivnom svjetlu. U tipičnim se komentarima tvrdilo da je Rusija važan gospodarski partner europskim zemljama, da zapadni čelnici koji kritiziraju Rusiju ne razumiju vlastite birače te da je Ukrajina slaba, korumpirana i/ili na rubu poraza.
Akteri operacije Doppelganger katkad su pokušavali navesti naše modele da izrade karikature istaknutih europskih političara i kritičara Rusije. Naši su modeli odbili te zahtjeve.
Procjena učinka
Čini se da nijedna kampanja operacije Doppelganger koju smo otkrili nije ostvarila znatan pozitivan angažman autentične publike.
Tipične objave na platformi 9GAG dobile su od 5 do 10 pozitivnih glasova, uglavnom s računa koji su također objavljivali sadržaj ove kampanje, te između 15 i 200 negativnih glasova. Tipične objave na platformi X imale su oko 1000 dijeljenja, bez odgovora i oznaka „sviđa mi se”. Ta je razlika toliko velika da upućuje na neautentično povećavanje dosega. Jedna je objava dobila tri odgovora, a u svakom je označena kao lažna.
Odgovor na platformi X na objavu operacije Doppelganger.
Prema ljestvici Breakout(otvara se u novom prozoru) za procjenu učinka operacija utjecaja, koja ih ocjenjuje od 1 (najniže) do 6 (najviše), aktivnosti povezane s upotrebom naših modela svrstali bismo u 2. kategoriju. Nju obilježava objavljivanje na više platformi, ali bez šireg proboja ili znatnog angažmana publike na bilo kojoj od njih.