Operasyong “Doppelganger”: Gawaing pang-impluwensya ng Russia na nagta-target sa Ukraine
Ipinagbawal ng OpenAI ang mga account na nauugnay sa operasyong “Doppelganger” na nagmula sa Russia at gumagamit ng AI upang bumuo ng mga komentong kontra-Ukraine sa social media, mga salin, at teksto para sa website sa iba’t ibang wika.
Orihinal na inilathala ang case study na ito sa ulat ng OpenAI noong Mayo 2024(magbubukas sa bagong window).
Aktor
Ipinagbawal namin ang apat na pangkat ng mga account na gumagamit ng aming mga modelo at nauugnay sa mga taong kumikilos para sa operasyong pang-impluwensya ng Russia na kilala bilang “Doppelganger”(magbubukas sa bagong window). Nagpakita ang bawat pangkat ng magkakaibang taktika, pamamaraan, at proseso (TTP), na naaayon sa isang operasyong binubuo ng iba’t ibang pangkat na may kani-kaniyang tungkulin.
Pag-uugali
Nag-target ang aktibidad na ito ng mga audience sa Europa at Hilagang Amerika at nakatuon sa pagbuo ng nilalaman para sa mga website at social media.
Bumuo ang unang pangkat ng mga account ng maiikling komentong nasa English, French, German, Italian, at Polish. Na-post ang mga ito sa 9GAG at X kasama ng mga meme, video, at link na mukhang hindi binuo gamit ang aming mga modelo. Kinopya mula sa iba’t ibang bahagi ng internet ang ilang meme at mukhang ilang taon na ang mga ito.
Sa 9GAG, karaniwang mga larawan ng celebrity o pusa ang profile picture ng mga account na nag-post ng nilalaman ng kampanyang ito. Nag-post sila ng kanilang mga meme at video sa iba’t ibang channel, kabilang ang channel na “Random” at mga channel para sa mga alagang hayop, sports, katatawanan, at maging sa mga relasyon at pakikipag-date.
Komento tungkol sa Ukraine at video tungkol sa Gaza, na ipinost sa channel na “Motor Vehicles” ng 9GAG ng isang account na paulit-ulit na nag-post ng nilalamang binuo ng kampanyang ito. Binuo gamit ang aming mga modelo ang pagbanggit sa Ukraine at hangganan ng US. Isang collage ng mga kuha mula sa balita ang video. Nakatanggap ang post ng 11 upvote at 93 downvote.
Sa tuwing nagpo-post ang kampanya ng meme o video sa 9GAG, tatlo hanggang limang account ang sumasagot, karaniwan gamit ang mga simpleng mensahe gaya ng “hahaha” o “lol”. Tanging sa nilalaman ng kampanyang ito nakipag-ugnayan ang bawat isa sa mga account na ito; karamihan ay ginawa sa iisang petsa. Madalas na umani ang pag-uugaling ito ng mga mapanuring komento mula sa ibang user, at marami sa kanila ang nagsabing “mga bot” ang mga account.
Mga komento sa video na ipinakita sa itaas. Ang tatlong account sa ibaba (mga unang nagkomento) ay ginawa noong huling bahagi ng Abril 2024, at paulit-ulit na nag-post, nag-upvote, o nagkomento sa mga post ng kampanyang ito at wala nang iba. Ang tatlong account sa itaas, na nagsabing peke ang mga ito, ay ginawa isa hanggang sampung taon na ang nakalipas at nagpakita ng iba’t ibang aktibidad.
Sa X, ang mga komento ng kampanya ay ipinost ng mga account na karaniwang isa o dalawang post lamang ang ginawa. Karaniwang may kasamang tila random na link ang mga komento, gaya ng “solarpanelfor.sale”. Nagre-redirect ang mga link na ito sa isang hanay ng mga website na paulit-ulit nang iniuugnay sa Doppelganger. Naka-geofence ang mga website, kaya tanging mga taong may IP address sa tina-target na bansa ang makakakita sa mga ito. Gayunman, mukhang nagkamali ang mga operator, kaya mula lamang sa isang French IP maaaring makita ang ilang artikulong English, German, at Polish.
Post sa X na may komentong binuo gamit ang aming mga modelo. Ang salin ng komento ay, “Isang nakagigimbal na gawain! Hindi kailanman dapat iugnay ang politika sa karahasan. Diyalogo ang kailangan natin, hindi karahasan.” Ang kalakip na link ay nagre-redirect sa edisyong German ng branded na website ng Doppelganger, rrn.media. Gayunman, noong Mayo 20, mula lamang sa isang French IP ito maaaring makita.
Malamang na upang makaiwas sa pagkakatukoy, in-access ng pangkat na ito ang aming mga modelo gamit ang serbisyong nauugnay sa mga kumpanya sa Russia at Czech Republic. Layunin ng serbisyong ito na tulungan ang mga tao sa Russia na malusutan ang aming patakaran sa access para sa mga sinusuportahang bansa(magbubukas sa bagong window). Hindi na namin pinagana ang API access ng serbisyong ito.
Isinalin ng ikalawang pangkat ang mga artikula mula Russian tungong English at French; mukhang orihinal na isinulat ang mga tekstong Russian. Marami sa mga artikulong ito ang inilathala kalaunan sa isang website na paulit-ulit nang iniuugnay sa Doppelganger: rrn.media. Bumuo rin ang pangkat na ito ng maiikling komento tungkol sa mga artikulo nito na lumabas kalaunan sa social media.
Post sa X na binuo gamit ang aming mga modelo, kasama ang link sa isang artikulo sa rrn.media.
Ginamit ang ikatlong pangkat upang bumuo, mag-proofread, at magwasto ng mga artikulong nasa French. Pagkatapos, inilathala ang mga artikulo sa franceeteu.today, isang website na iniuugnay rin sa Doppelganger.
Gumamit ng German ang huling pangkat. Kumuha ito ng nilalaman mula sa website ng Doppelganger na grenzezank.com at ginamit iyon upang bumuo ng maiikling post para sa isang Facebook Group at Page na ipinangalan sa website.
Nilalaman
Nakatuon sa digmaan sa Ukraine ang karamihan sa nilalamang inilathala online ng kampanyang ito. Inilarawan nito sa negatibong paraan ang Ukraine, US, NATO, at EU, at sa positibong paraan naman ang Russia. Karaniwang iginigiit ng mga komento na mahalagang kasosyong pang-ekonomiya ng mga bansa sa Europa ang Russia; na hindi nauunawaan ng mga lider sa Kanluran na pumupuna sa Russia ang sarili nilang mga botante; at na mahina, tiwali, at/o malapit nang matalo ang Ukraine.
Sa ilang pagkakataon, sinubukan ng mga aktor ng Doppelganger na ipagawa sa aming mga modelo ang mga cartoon na larawan ng mga kilalang politiko sa Europa at kritiko ng Russia. Tinanggihan ng aming mga modelo ang mga kahilingang ito.
Pagtatasa sa epekto
Wala sa mga kampanya ng Doppelganger na natukoy namin ang mukhang nakakuha ng malaking positibong engagement mula sa mga tunay na audience.
Sa 9GAG, nakatanggap ang karaniwang mga post ng 5–10 upvote—pangunahin mula sa mga account na nag-post din ng nilalaman ng kampanyang ito—at 15 hanggang 200 downvote. Sa X, may humigit-kumulang 1,000 share, walang reply, at walang like ang karaniwang mga post. Napakalaki ng agwat na ito kaya nagpapahiwatig ito ng hindi tunay na pagpapalakas ng abot. May isang post na nakatanggap ng tatlong reply, at lahat ng iyon ay nagsabing peke ito.
Reply sa X sa isang post ng Doppelganger.
Gamit ang Breakout Scale(magbubukas sa bagong window) upang tasahin ang epekto ng IO, na nagbibigay ng rating mula 1 (pinakamababa) hanggang 6 (pinakamataas), tinataya naming nasa Kategorya 2 ang aktibidad na nauugnay sa paggamit ng aming mga modelo: may pagpo-post sa maraming platform, ngunit walang malawakang paglaganap o malaking engagement ng audience sa alinman sa mga ito.