Operasi “Doppelganger”: Aktivitas pangaribawa Rusia sing ngarah Ukraina
OpenAI mblokir akun sing ana gandhèngané karo operasi “Doppelganger” saka Rusia, sing nganggo AI kanggo nggawé komentar media sosial anti-Ukraina, terjemahan, lan tulisan situs web ing pirang-pirang basa.
Studi kasus iki wiwitané diterbitaké ing laporan OpenAI Mèi 2024(mbukak ing jendhela anyar).
Pelaku
Kita mblokir patang klompok akun sing nganggo model kita lan kagandhèng karo wong-wong sing tumindak atas jeneng operasi pangaribawa Rusia sing dikenal minangka “Doppelganger”(mbukak ing jendhela anyar). Saben klompok nuduhaké taktik, tèknik, lan tata cara (TTP) sing béda-béda, cocog karo operasi sing dumadi saka tim kanthi fungsi sing béda.
Prilaku
Aktivitas iki ngarah pamirsa ing Éropah lan Amérika Lor, kanthi fokus nggawé konten kanggo situs web lan media sosial.
Klompok akun kapisan nggawé komentar cekak ing basa Inggris, Prancis, Jerman, Italia, lan Polandia. Komentar kuwi dikirim ing 9GAG lan X bebarengan karo meme, video, lan pranala sing kétoké ora digawé nganggo model kita. Sawetara meme disalin saka internet lan kétoké wis umuré pirang-pirang taun.
Ing 9GAG, akun sing ngirim konten kampanye iki lumrahé nganggo foto profil selebriti utawa kucing. Akun-akun kuwi ngirim meme lan video ing manéka warna kanal, kalebu kanal “Acak” lan kanal khusus kéwan ingon, olahraga, humor, malah sesambungan lan pacaran.
Komentar ngenani Ukraina lan video ngenani Gaza, sing dikirim ing kanal “Kendharaan Bermotor” 9GAG déning akun sing bola-bali ngirim konten gawéan kampanye iki. Rujukan marang Ukraina lan tapel wates AS digawé nganggo model kita. Video kuwi minangka kolase cuplikan pawarta. Kiriman kuwi éntuk 11 upvote lan 93 downvote.
Saben kampanye iki ngirim meme utawa video ing 9GAG, telung nganti limang akun bakal mbales, lumrahé nganggo pesen prasaja kaya “hahaha” utawa “wkwk”. Saben akun iki mung sesambungan karo konten kampanye iki; akèh-akèhé digawé ing tanggal sing padha. Prilaku iki kerep ngundang komentar kritis saka pangguna liya, lan akèh sing nyebut akun-akun kuwi minangka “bot”.
Komentar ing video sing digambaraké ing ndhuwur. Telung akun paling ngisor (sing paling dhisik komentar) kabèh digawé ing pungkasan April 2024 lan bola-bali ngirim, mènèhi upvote, utawa ngomentari kiriman kampanye iki, tanpa sesambungan karo kiriman liya. Telung akun paling ndhuwur, sing mbongkar akun palsu, digawé antara setaun nganti sepuluh taun kepungkur lan nduwèni manéka warna aktivitas.
Ing X, komentar kampanye iki dikirim déning akun sing lumrahé mung tau nggawé siji utawa rong kiriman. Komentar kuwi lumrahé dilampiri pranala sing kétok acak, kayata “solarpanelfor.sale”. Pranala iki ngarah menyang saklompok situs web sing bola-bali digandhèngaké karo Doppelganger. Situs web kuwi diwatesi miturut lokasi, mula mung wong sing alamat IP-né ana ing negara sasaran sing bisa ndeleng. Nanging, operatoré kétoké klèru, mula sawetara artikel basa Inggris, Jerman, lan Polandia mung bisa dideleng saka IP Prancis.
Kiriman ing X sing ngemot komentar gawéan model kita. Terjemahan komentaré, “Tumindak sing ngagètaké! Pulitik aja nganti digandhèngaké karo kekerasan. Kita butuh dhialog, dudu kekerasan.” Pranala sing dilampiraké ngarah menyang situs web merek Doppelganger versi basa Jerman, rrn.media. Nanging, nganti 20 Mèi, situs kuwi mung bisa dideleng saka IP Prancis.
Mbokmenawa kanggo ngéndhani detèksi, klompok iki ngaksès model kita liwat layanan sing kagandhèng karo perusahaan ing Rusia lan Républik Ceko. Layanan iki ditujokaké supaya wong ing Rusia bisa ngakali kabijakan aksès negara sing didhukung(mbukak ing jendhela anyar). Kita wis matèni aksès API layanan iki.
Klompok kapindho nerjemahaké artikel saka basa Rusia menyang basa Inggris lan Prancis; tèks Rusia kétoké minangka tulisan asli. Akèh artikel iki banjur diterbitaké ing situs web sing bola-bali digandhèngaké karo Doppelganger: rrn.media. Klompok sing padha nggawé komentar cekak ngenani artikelé, sing banjur muncul ing media sosial.
Kiriman ing X sing digawé nganggo model kita, karo pranala menyang artikel ing rrn.media.
Klompok katelu digunakaké kanggo nggawé, nyunting, lan mbeneraké artikel basa Prancis. Artikel kuwi banjur diterbitaké ing situs web sing uga digandhèngaké karo Doppelganger, franceeteu.today.
Klompok pungkasan makarya nganggo basa Jerman. Klompok iki njupuk konten saka situs web Doppelganger, grenzezank.com, banjur digunakaké kanggo nggawé kiriman cekak bagi Grup lan Kaca Facebook sing dijenengi kaya situs web kuwi.
Konten
Akèh-akèhé konten sing diterbitaké kampanye iki ing internet fokus marang perang ing Ukraina. Konten kuwi nggambaraké Ukraina, AS, NATO, lan EU kanthi négatif, déné Rusia kanthi positif. Komentar sing umum nyatakaké yèn Rusia iku mitra ékonomi wigati kanggo negara-negara Éropah; para pamimpin Kulon sing ngritik Rusia ora ngerti karepé pamilihé dhéwé; lan Ukraina iku ringkih, korup, lan/utawa wis mèh kalah.
Ing sawetara kedadéan, pelaku Doppelganger nyoba njaluk model kita nggawé gambar kartun pulitikus Éropah sing kondhang lan para pangritik Rusia. Model kita nolak panjaluk kasebut.
Penilaian dampak
Ora ana kampanye Doppelganger sing kita temokaké katon éntuk interaksi positif sing gedhé saka pamirsa asli.
Ing 9GAG, kiriman lumrahé éntuk 5–10 upvote—utamané saka akun sing uga ngirim konten kampanye iki—lan 15 nganti 200 downvote. Ing X, kiriman lumrahé éntuk udakara 1.000 enggo bareng, tanpa balesan lan tanpa seneng. Bedané amba banget, mula nuduhaké anané panyebaran sing ora asli. Siji kiriman éntuk telung balesan, sing kabèh nyebut kiriman kuwi palsu.
Balesan ing X marang kiriman Doppelganger.
Kanthi nganggo Skala Breakout(mbukak ing jendhela anyar) kanggo ngukur dampak IO, sing mènèhi peringkat saka 1 (paling endhek) nganti 6 (paling dhuwur), kita netepaké aktivitas sing kagandhèng karo panggunaan model kita ing Kategori 2, sing ditandhani aktivitas ngirim ing pirang-pirang platform, nanging tanpa panyebaran utawa interaksi pamirsa sing signifikan ing platform apa waé.