„Doppelganger” hadművelet: Ukrajnát célzó orosz befolyásolási tevékenység
Az OpenAI letiltotta az orosz eredetű „Doppelganger” hadművelethez köthető fiókokat, amelyek MI-vel több nyelven készítettek Ukrajna-ellenes közösségimédia-hozzászólásokat, fordításokat és weboldalszövegeket.
Ez az esettanulmány eredetileg az OpenAI 2024. májusi(új ablakban nyílik meg) jelentésében jelent meg.
Szereplő
Letiltottunk négy olyan fiókcsoportot, amelyek a modelljeinket használták, és az orosz „Doppelganger”(új ablakban nyílik meg) befolyásolási művelet nevében eljáró személyekhez kötődtek. Az egyes csoportok eltérő taktikákat, technikákat és eljárásokat (TTP-ket) alkalmaztak, ami arra utal, hogy a művelet különböző feladatkörű csapatokból állt.
Viselkedés
A tevékenység európai és észak-amerikai közönséget célzott, és weboldalakra, illetve közösségi médiába szánt tartalmak létrehozására összpontosított.
Az első fiókcsoport rövid hozzászólásokat készített angol, francia, német, olasz és lengyel nyelven. Ezeket a 9GAG-en és az X-en tették közzé mémekkel, videókkal és olyan hivatkozásokkal együtt, amelyeket láthatóan nem a modelljeinkkel hoztak létre. Egyes mémeket az internet különböző részeiről másoltak, és úgy tűnik, némelyik már többéves volt.
A 9GAG-en a kampány tartalmait közzétevő fiókok profilképén jellemzően hírességek vagy macskák szerepeltek. A mémjeiket és videóikat sokféle csatornában tették közzé, többek között a „Random” csatornában, valamint háziállatokkal, sporttal, humorral, sőt párkapcsolatokkal és ismerkedéssel foglalkozó csatornákban.
Egy Ukrajnáról szóló hozzászólás és egy Gázáról szóló videó a 9GAG „Motor Vehicles” csatornájában, egy olyan fióktól, amely ismételten közzétette a kampány által létrehozott tartalmakat. Az Ukrajnára és az amerikai határra való utalást a modelljeinkkel hozták létre. A videó híradófelvételekből összeállított kollázs volt. A bejegyzés 11 pozitív és 93 negatív szavazatot kapott.
Valahányszor a kampány közzétett egy mémet vagy videót a 9GAG-en, három–öt fiók válaszolt rá, többnyire olyan egyszerű üzenetekkel, mint a „hahaha” vagy a „lol”. Ezek a fiókok kizárólag a kampány tartalmaival léptek kapcsolatba; a legtöbbjüket ugyanazon a napon hozták létre. Ez a viselkedés gyakran váltott ki bíráló hozzászólásokat más felhasználókból, akik közül sokan „botoknak” nevezték a fiókokat.
Hozzászólások a fent bemutatott videóhoz. Az alsó három fiókot – amelyek elsőként szóltak hozzá – 2024 áprilisának végén hozták létre, és kizárólag e kampány bejegyzéseit tették közzé, értékelték pozitívan vagy kommentálták, méghozzá ismételten. A hamisítványokat leleplező felső három fiókot egy–tíz éve hozták létre, és sokféle tevékenységet folytattak.
Az X-en a kampány hozzászólásait olyan fiókok tették közzé, amelyek jellemzően összesen csupán egy-két bejegyzést írtak. A hozzászólásokhoz rendszerint egy látszólag véletlenszerű hivatkozás is társult, például a „solarpanelfor.sale”. Ezek a hivatkozások olyan weboldalak egy csoportjára irányítottak át, amelyeket már többször a Doppelgangernek tulajdonítottak. A weboldalak földrajzi hozzáférés-korlátozást alkalmaztak, így csak a célországban található IP-címmel rendelkező személyek tekinthették meg őket. Az üzemeltetők azonban láthatóan hibáztak, ezért néhány angol, német és lengyel cikket csak francia IP-címről lehetett megtekinteni.
Egy bejegyzés az X-en, benne a modelljeinkkel létrehozott hozzászólással. A hozzászólás fordítása: „Megdöbbentő tett! A politikát soha nem szabad összekapcsolni az erőszakkal. Párbeszédre van szükségünk, nem erőszakra.” A mellékelt hivatkozás a Doppelganger saját weboldalának, az rrn.media-nak a német nyelvű változatára irányít át. Május 20-án azonban ez csak francia IP-címről volt megtekinthető.
Feltehetően az észlelés elkerülése érdekében ez a csoport egy oroszországi és csehországi vállalatokhoz köthető szolgáltatáson keresztül használta a modelljeinket. A szolgáltatás célja az volt, hogy az oroszországi felhasználók megkerülhessék a támogatott országok hozzáférési szabályzatát(új ablakban nyílik meg). Letiltottuk a szolgáltatás API-hozzáférését.
A második csoport orosz nyelvű cikkeket fordított angolra és franciára; az orosz szövegek feltehetően eredeti írások voltak. E cikkek közül később sok megjelent az rrn.media weboldalon, amelyet már többször a Doppelgangernek tulajdonítottak. Ugyanez a csoport rövid hozzászólásokat is készített a cikkeiről, amelyek később megjelentek a közösségi médiában.
A modelljeinkkel létrehozott bejegyzés az X-en, az rrn.media egyik cikkére mutató hivatkozással.
A harmadik csoportot francia nyelvű cikkek létrehozására, lektorálására és javítására használták. A cikkeket ezután a franceeteu.today weboldalon tették közzé, amelyet szintén a Doppelgangernek tulajdonítottak.
Az utolsó csoport német nyelven működött. A Doppelganger egyik weboldaláról, a grenzezank.com-ról töltött be tartalmakat, majd ezek alapján rövid bejegyzéseket készített egy, a weboldalról elnevezett Facebook-csoport és -oldal számára.
Tartalom
A kampány által az interneten közzétett tartalmak többsége az ukrajnai háborúval foglalkozott. Ukrajnát, az Egyesült Államokat, a NATO-t és az EU-t kedvezőtlen, Oroszországot pedig kedvező színben tüntette fel. A jellemző hozzászólások azt állították, hogy Oroszország fontos gazdasági partner az európai országok számára; hogy az Oroszországot bíráló nyugati vezetők elveszítették a kapcsolatot saját választóikkal; valamint hogy Ukrajna gyenge, korrupt és/vagy a vereség szélén áll.
A Doppelganger szereplői néhány alkalommal megpróbálták rávenni modelljeinket, hogy készítsenek karikatúrákat neves európai politikusokról és Oroszország bírálóiról. Modelljeink elutasították ezeket a kéréseket.
Hatásvizsgálat
Az általunk azonosított Doppelganger-kampányok egyike sem váltott ki számottevő pozitív aktivitást valódi közönségből.
A 9GAG-en egy átlagos bejegyzés 5–10 pozitív szavazatot kapott – főként olyan fiókoktól, amelyek szintén közzétették a kampány tartalmait –, a negatív szavazatok száma pedig 15 és 200 között mozgott. Az X-en egy átlagos bejegyzésnek körülbelül 1000 megosztása volt, válasza és kedvelése viszont egy sem. Ez az eltérés olyan nagy, hogy mesterséges felerősítésre utal. Az egyik bejegyzésre három válasz érkezett, és mindegyik hamisítványnak nevezte.
Válasz az X-en egy Doppelganger-bejegyzésre.
A befolyásolási műveletek hatásának felmérésére szolgáló, 1-től (legalacsonyabb) 6-ig (legmagasabb) terjedő Breakout Scale(új ablakban nyílik meg) alapján a modelljeink használatához kapcsolódó tevékenységet a 2. kategóriába sorolnánk: több platformon is tettek közzé tartalmakat, de egyik platformon sem értek el áttörést vagy jelentős közönségaktivitást.