Operācija „Doppelganger“: pret Ukrainu vērsta Krievijas ietekmes darbība
OpenAI bloķēja ar Krievijā īstenoto operāciju „Doppelganger“ saistītus kontus, kas izmantoja MI, lai vairākās valodās ģenerētu pret Ukrainu vērstus komentārus sociālajos tīklos, tulkojumus un vietņu tekstus.
Šis gadījuma pētījums sākotnēji tika publicēts OpenAI 2024. gada maija(atveras jaunā logā) ziņojumā.
Dalībnieks
Mēs bloķējām četras kontu kopas, kas izmantoja mūsu modeļus un bija saistītas ar personām, kuras darbojās Krievijas ietekmes operācijas „Doppelganger“(atveras jaunā logā) vārdā. Katrai kopai bija atšķirīga taktika, metodes un procedūras (TTP), kas atbilst operācijai ar dažādām funkcionālām komandām.
Rīcība
Šīs darbības mērķauditorija bija cilvēki Eiropā un Ziemeļamerikā, un tā bija vērsta uz satura veidošanu vietnēm un sociālajiem tīkliem.
Pirmā kontu kopa ģenerēja īsus komentārus angļu, franču, vācu, itāļu un poļu valodā. Tie tika publicēti platformās 9GAG un X kopā ar mēmēm, video un saitēm, kas, šķiet, nebija ģenerētas ar mūsu modeļiem. Dažas mēmes bija nokopētas no dažādām interneta vietnēm un, šķiet, bija vairākus gadus vecas.
Platformā 9GAG kontiem, kas publicēja šīs kampaņas saturu, profila attēlos parasti bija slavenības vai kaķi. Savas mēmes un video tie publicēja visdažādākajos kanālos, tostarp kanālā „Nejauši“, kā arī mājdzīvniekiem, sportam, humoram un pat attiecībām un randiņiem veltītos kanālos.
Komentārs par Ukrainu un video par Gazu, ko 9GAG kanālā „Mehāniskie transportlīdzekļi“ publicēja konts, kurš atkārtoti ievietoja šīs kampaņas ģenerēto saturu. Atsauce uz Ukrainu un ASV robežu tika ģenerēta, izmantojot mūsu modeļus. Video bija veidots kā ziņu sižetu kolāža. Ieraksts saņēma 11 pozitīvus un 93 negatīvus vērtējumus.
Ikreiz, kad kampaņa platformā 9GAG publicēja mēmi vai video, trīs līdz pieci konti atbildēja, parasti ar vienkāršiem komentāriem, piemēram, „hahaha“ vai „lol“. Katrs no šiem kontiem mijiedarbojās tikai ar šīs kampaņas saturu; lielākā daļa bija izveidoti vienā un tajā pašā datumā. Šāda rīcība bieži izraisīja kritiskus citu lietotāju komentārus, un daudzi šos kontus nosauca par „botiem“.
Komentāri pie iepriekš attēlotā video. Visi trīs apakšējie konti (pirmo komentāru autori) tika izveidoti 2024. gada aprīļa beigās un atkārtoti publicēja, atzinīgi novērtēja vai komentēja tikai šīs kampaņas ierakstus. Trīs augšējie konti, kas norādīja uz viltojumiem, bija izveidoti pirms viena līdz desmit gadiem, un tajos bija vērojamas ļoti dažādas aktivitātes.
Platformā X kampaņas komentārus publicēja konti, kuros parasti bija tikai viens vai divi ieraksti. Komentāriem parasti bija pievienota šķietami nejauša saite, piemēram, „solarpanelfor.sale“. Šīs saites novirzīja uz vietnēm, kas vairākkārt piedēvētas operācijai „Doppelganger“. Vietnēm bija ģeogrāfiski piekļuves ierobežojumi, tāpēc tās varēja skatīt tikai lietotāji ar mērķa valsts IP adresi. Tomēr operatori, šķiet, bija kļūdījušies, tāpēc dažus rakstus angļu, vācu un poļu valodā varēja skatīt tikai no Francijas IP adreses.
Ieraksts platformā X ar komentāru, kas ģenerēts, izmantojot mūsu modeļus. Komentāra tulkojums: „Šokējoša rīcība! Politiku nekad nedrīkst saistīt ar vardarbību. Mums vajadzīgs dialogs, nevis vardarbība.“ Pievienotā saite novirza uz „Doppelganger“ zīmola vietnes rrn.media izdevumu vācu valodā. Tomēr 20. maijā to varēja skatīt tikai no Francijas IP adreses.
Visticamāk, lai izvairītos no atklāšanas, šī kopa piekļuva mūsu modeļiem, izmantojot pakalpojumu, kas saistīts ar uzņēmumiem Krievijā un Čehijā. Šis pakalpojums bija paredzēts, lai cilvēki Krievijā varētu apiet mūsu atbalstīto valstu piekļuves politiku(atveras jaunā logā). Mēs esam atspējojuši šī pakalpojuma piekļuvi API.
Otrā kopa tulkoja rakstus no krievu valodas angļu un franču valodā; teksti krievu valodā, šķiet, bija oriģināldarbi. Daudzi no šiem rakstiem vēlāk tika publicēti vietnē rrn.media, kas vairākkārt piedēvēta operācijai „Doppelganger“. Tā pati kopa ģenerēja īsus komentārus par saviem rakstiem, kas vēlāk parādījās sociālajos tīklos.
Ar mūsu modeļiem ģenerēts ieraksts platformā X un saite uz rakstu vietnē rrn.media.
Trešā kopa tika izmantota, lai ģenerētu, pārbaudītu un labotu rakstus franču valodā. Pēc tam raksti tika publicēti vietnē franceeteu.today, kas arī piedēvēta operācijai „Doppelganger“.
Pēdējā kopa darbojās vācu valodā. Tā ievāca saturu no operācijas „Doppelganger“ vietnes grenzezank.com un izmantoja to, lai ģenerētu īsus ierakstus vietnes vārdā nosauktai Facebook grupai un lapai.
Saturs
Lielākā daļa satura, ko šī kampaņa publicēja internetā, bija par karu Ukrainā. Tajā Ukraina, ASV, NATO un ES tika atspoguļotas negatīvi, bet Krievija — pozitīvi. Raksturīgos komentāros tika apgalvots, ka Krievija ir svarīga Eiropas valstu ekonomiskā partnere, ka Rietumu līderi, kuri kritizē Krieviju, neizprot savus vēlētājus un ka Ukraina ir vāja, korumpēta un/vai atrodas uz sakāves sliekšņa.
Dažkārt operācijas „Doppelganger“ dalībnieki mēģināja panākt, lai mūsu modeļi ģenerētu ievērojamu Eiropas politiķu un Krievijas kritiķu karikatūras. Mūsu modeļi šos pieprasījumus noraidīja.
Ietekmes novērtējums
Neviena no mūsu identificētajām „Doppelganger“ kampaņām, šķiet, nesaņēma būtisku pozitīvu iesaisti no autentiskas auditorijas.
Platformā 9GAG tipiski ieraksti saņēma 5–10 pozitīvus vērtējumus — galvenokārt no kontiem, kas publicēja arī šīs kampaņas saturu, — un no 15 līdz 200 negatīviem vērtējumiem. Platformā X tipiskiem ierakstiem bija aptuveni 1000 kopīgošanas reižu, nevienas atbildes un nevienas atzīmes „Patīk“. Šī neatbilstība ir tik liela, ka liecina par neautentisku izplatības veicināšanu. Vienam ierakstam bija trīs atbildes, un visās tas tika nosaukts par viltojumu.
Atbilde platformā X uz operācijas „Doppelganger“ ierakstu.
Izmantojot izplatības skalu(atveras jaunā logā), kurā ietekmes operāciju ietekme tiek vērtēta no 1 (zemākā) līdz 6 (augstākā), ar mūsu modeļu izmantošanu saistīto darbību mēs novērtētu kā 2. kategoriju: ieraksti tika publicēti vairākās platformās, taču nevienā no tām neizplatījās plašāk un neguva būtisku auditorijas iesaisti.