Operacija „Doppelganger“: prieš Ukrainą nukreipta Rusijos įtakos veikla
OpenAI užblokavo su Rusijoje pradėta operacija „Doppelganger“ susijusias paskyras, kuriose DI buvo naudojamas keliomis kalbomis kurti prieš Ukrainą nukreiptiems socialinių tinklų komentarams, vertimams ir svetainių tekstams.
Šis atvejo tyrimas pirmą kartą paskelbtas OpenAI 2024 m. gegužės(atsidaro naujame lange) ataskaitoje.
Veikėjas
Užblokavome keturias mūsų modelius naudojusių paskyrų grupes, susijusias su asmenimis, veikusiais Rusijos įtakos operacijos, žinomos kaip „Doppelganger“(atsidaro naujame lange), vardu. Kiekviena grupė taikė skirtingą taktiką, metodus ir procedūras (TTP), būdingus iš skirtingų funkcinių komandų sudarytai operacijai.
Elgsena
Šia veikla buvo siekiama paveikti Europos ir Šiaurės Amerikos auditorijas, daugiausia kuriant turinį svetainėms ir socialiniams tinklams.
Pirmoji paskyrų grupė kūrė trumpus komentarus anglų, prancūzų, vokiečių, italų ir lenkų kalbomis. Jie buvo skelbiami platformose „9GAG“ ir „X“ kartu su memais, vaizdo įrašais bei nuorodomis, kurie, regis, nebuvo sukurti naudojant mūsų modelius. Kai kurie memai buvo nukopijuoti iš įvairių interneto vietų ir, regis, buvo kelerių metų senumo.
Platformoje „9GAG“ šios kampanijos turinį skelbusiose paskyrose paprastai naudotos įžymybių arba kačių profilio nuotraukos. Jų memai ir vaizdo įrašai buvo skelbiami įvairiausiuose kanaluose, įskaitant kanalą „Atsitiktiniai“ ir gyvūnams, sportui, humorui, net santykiams bei pažintims skirtus kanalus.
Komentaras apie Ukrainą ir vaizdo įrašas apie Gazos Ruožą, paskelbti „9GAG“ kanale „Motorinės transporto priemonės“ iš paskyros, kurioje ne kartą skelbtas šios kampanijos sukurtas turinys. Nuoroda į Ukrainą ir JAV sieną buvo sukurta naudojant mūsų modelius. Vaizdo įrašą sudarė naujienų siužetų koliažas. Įrašas sulaukė 11 teigiamų ir 93 neigiamų įvertinimų.
Kaskart kampanijai paskelbus memą ar vaizdo įrašą platformoje „9GAG“, į jį atsakydavo 3–5 paskyros, dažniausiai paprastomis žinutėmis, pavyzdžiui, „hahaha“ arba „lol“. Visos šios paskyros sąveikavo tik su šios kampanijos turiniu; dauguma jų buvo sukurtos tą pačią dieną. Tokia elgsena dažnai sulaukdavo kritiškų kitų naudotojų komentarų – daugelis paskyras vadino „botais“.
Komentarai apie pirmiau parodytą vaizdo įrašą. Visos trys apatinės paskyros (jų komentarai paskelbti anksčiausiai) buvo sukurtos 2024 m. balandžio pabaigoje ir ne kartą skelbė šios kampanijos įrašus, balsavo už juos ar juos komentavo, tačiau su jokiu kitu turiniu nesąveikavo. Trys viršutinės paskyros, atkreipusios dėmesį į klastotes, buvo sukurtos prieš 1–10 metų ir jose vykdyta labai įvairi veikla.
Platformoje „X“ kampanijos komentarus skelbė paskyros, kuriose paprastai būdavo paskelbtas vos vienas ar du įrašai. Prie komentarų paprastai būdavo pridedama iš pažiūros atsitiktinė nuoroda, pavyzdžiui, „solarpanelfor.sale“. Šios nuorodos nukreipdavo į svetaines, ne kartą susietas su „Doppelganger“. Svetainėms buvo taikomi geografiniai apribojimai, todėl jas galėjo peržiūrėti tik tikslinėje šalyje esantį IP adresą naudojantys žmonės. Tačiau operatoriai, regis, suklydo, todėl kai kuriuos straipsnius anglų, vokiečių ir lenkų kalbomis buvo galima peržiūrėti tik naudojant Prancūzijos IP adresą.
Įrašas platformoje „X“ su naudojant mūsų modelius sukurtu komentaru. Komentaro vertimas: „Sukrečiantis poelgis! Politika niekada neturėtų būti siejama su smurtu. Mums reikia dialogo, o ne smurto.“ Pridėta nuoroda nukreipia į „Doppelganger“ svetainės rrn.media versiją vokiečių kalba. Tačiau gegužės 20 d. ją buvo galima peržiūrėti tik naudojant Prancūzijos IP adresą.
Tikriausiai mėgindama išvengti aptikimo, ši grupė mūsų modelius pasiekdavo naudodama su Rusijos ir Čekijos įmonėmis susietą paslaugą. Ši paslauga buvo skirta padėti žmonėms Rusijoje apeiti mūsų prieigos iš palaikomų šalių politiką(atsidaro naujame lange). Išjungėme šios paslaugos prieigą prie API.
Antroji grupė vertė straipsnius iš rusų kalbos į anglų ir prancūzų kalbas; rusiški tekstai, regis, buvo originalūs. Daugelis šių straipsnių vėliau paskelbti svetainėje rrn.media, kuri ne kartą buvo susieta su „Doppelganger“. Ta pati grupė kūrė trumpus komentarus apie savo straipsnius, kurie vėliau pasirodydavo socialiniuose tinkluose.
Naudojant mūsų modelius sukurtas įrašas platformoje „X“ su nuoroda į straipsnį svetainėje rrn.media.
Trečioji grupė buvo naudojama straipsniams prancūzų kalba kurti, tikrinti ir taisyti. Vėliau straipsniai buvo paskelbti svetainėje franceeteu.today, kuri taip pat susieta su „Doppelganger“.
Paskutinė grupė veikė vokiečių kalba. Ji gaudavo turinį iš „Doppelganger“ svetainės grenzezank.com ir pagal jį kūrė trumpus įrašus svetainės vardu pavadintai „Facebook“ grupei ir puslapiui.
Turinys
Didžioji dalis šios kampanijos internete paskelbto turinio buvo skirta karui Ukrainoje. Ukraina, JAV, NATO ir ES buvo vaizduojamos neigiamai, o Rusija – teigiamai. Tipiniuose komentaruose teigta, kad Rusija yra svarbi Europos šalių ekonominė partnerė, Rusiją kritikuojantys Vakarų lyderiai nesupranta savo rinkėjų, o Ukraina yra silpna, korumpuota ir (arba) atsidūrusi ties pralaimėjimo riba.
Kai kuriais atvejais „Doppelganger“ veikėjai mėgino pasitelkti mūsų modelius karikatūroms, vaizduojančioms žymius Europos politikus ir Rusijos kritikus, kurti. Mūsų modeliai šiuos prašymus atmetė.
Poveikio vertinimas
Nė viena iš mūsų nustatytų „Doppelganger“ kampanijų, regis, nesulaukė reikšmingo teigiamo tikros auditorijos įsitraukimo.
Tipiniai „9GAG“ įrašai sulaukdavo 5–10 teigiamų įvertinimų, daugiausia iš paskyrų, kurios taip pat skelbė šios kampanijos turinį, ir nuo 15 iki 200 neigiamų įvertinimų. Tipiniai platformos „X“ įrašai būdavo bendrinami apie 1 000 kartų, tačiau nesulaukdavo nė vieno atsakymo ar patiktuko. Toks didelis neatitikimas rodo neautentišką sklaidą. Vienas įrašas sulaukė trijų atsakymų ir visuose juose buvo pavadintas klastote.
Atsakymas platformoje „X“ į „Doppelganger“ įrašą.
Vertindami įtakos operacijų poveikį pagal „Breakout“ skalę(atsidaro naujame lange), kurioje jis vertinamas nuo 1 (mažiausias) iki 6 (didžiausias), su mūsų modelių naudojimu susijusią veiklą priskirtume 2 kategorijai: turinys skelbtas keliose platformose, tačiau nė vienoje iš jų plačiai neišplito ir nesulaukė reikšmingo auditorijos įsitraukimo.