Operasi “Doppelganger”: Aktiviti pengaruh Rusia yang menyasarkan Ukraine
OpenAI menyekat akaun yang dikaitkan dengan operasi “Doppelganger” dari Rusia, yang menggunakan AI untuk menjana komen media sosial anti-Ukraine, terjemahan dan teks laman web dalam beberapa bahasa.
Kajian kes ini pada asalnya diterbitkan dalam laporan Mei 2024(dibuka dalam tetingkap baru) OpenAI.
Pelaku
Kami menyekat empat kelompok akaun yang menggunakan model kami dan dikaitkan dengan individu yang bertindak bagi pihak operasi pengaruh Rusia yang dikenali sebagai “Doppelganger”(dibuka dalam tetingkap baru). Setiap kelompok mempamerkan taktik, teknik dan prosedur (TTP) yang berbeza, selaras dengan operasi yang terdiri daripada pasukan dengan fungsi berlainan.
Tingkah laku
Aktiviti ini menyasarkan khalayak di Eropah dan Amerika Utara serta bertumpu pada penjanaan kandungan untuk laman web dan media sosial.
Kelompok akaun pertama menjana komen teks ringkas dalam bahasa Inggeris, Perancis, Jerman, Itali dan Poland. Komen ini disiarkan di 9GAG dan X bersama meme, video dan pautan yang nampaknya tidak dijana menggunakan model kami. Sesetengah meme disalin dari pelbagai laman di internet dan nampaknya telah wujud selama bertahun-tahun.
Di 9GAG, akaun yang menyiarkan kandungan kempen ini biasanya menggunakan gambar profil selebriti atau kucing. Mereka menyiarkan meme dan video dalam pelbagai saluran, termasuk saluran “Rawak” serta saluran khusus untuk haiwan peliharaan, sukan, jenaka, malah hubungan dan janji temu.
Komen tentang Ukraine dan video tentang Gaza, disiarkan ke saluran “Kenderaan Bermotor” 9GAG oleh akaun yang berulang kali menyiarkan kandungan hasil kempen ini. Rujukan kepada Ukraine dan sempadan AS dijana menggunakan model kami. Video itu ialah kolaj rakaman berita. Siaran itu menerima 11 undian naik dan 93 undian turun.
Setiap kali kempen itu menyiarkan meme atau video di 9GAG, tiga hingga lima akaun akan membalas, biasanya dengan mesej ringkas seperti “hahaha” atau “lol”. Setiap akaun ini hanya pernah berinteraksi dengan kandungan kempen ini; kebanyakannya dicipta pada tarikh yang sama. Tingkah laku ini sering mengundang komen kritikal daripada pengguna lain, dan ramai antara mereka menyifatkan akaun tersebut sebagai “bot”.
Komen pada video yang ditunjukkan di atas. Tiga akaun terbawah (pengulas terawal) semuanya dicipta pada akhir April 2024 dan berulang kali menyiarkan, mengundi naik atau mengulas siaran kempen ini sahaja. Tiga akaun teratas yang mendedahkan kepalsuan itu dicipta antara satu hingga sepuluh tahun lalu dan menunjukkan pelbagai aktiviti.
Di X, komen kempen itu disiarkan oleh akaun yang biasanya hanya pernah membuat satu atau dua siaran setiap satu. Komen tersebut biasanya disertakan dengan pautan yang kelihatan rawak, seperti “solarpanelfor.sale”. Pautan ini mengubah hala ke beberapa laman web yang berulang kali dikaitkan dengan Doppelganger. Laman web tersebut dikenakan sekatan geografi, maka hanya individu dengan alamat IP di negara sasaran dapat melihatnya. Namun, pengendalinya nampaknya telah melakukan kesilapan sehingga sesetengah artikel bahasa Inggeris, Jerman dan Poland hanya dapat dilihat melalui IP Perancis.
Siaran di X yang mengandungi komen yang dijana menggunakan model kami. Terjemahan komen itu ialah, “Tindakan yang mengejutkan! Politik tidak seharusnya dikaitkan dengan keganasan. Kita memerlukan dialog, bukan keganasan.” Pautan yang disertakan mengubah hala ke edisi bahasa Jerman bagi laman web berjenama Doppelganger, rrn.media. Namun, setakat 20 Mei, laman itu hanya boleh dilihat melalui IP Perancis.
Kemungkinan untuk mengelakkan pengesanan, kelompok ini mengakses model kami menggunakan perkhidmatan yang dikaitkan dengan syarikat di Rusia dan Republik Czech. Perkhidmatan ini bertujuan membolehkan pengguna di Rusia memintas dasar akses negara yang disokong(dibuka dalam tetingkap baru) kami. Kami telah melumpuhkan akses API perkhidmatan ini.
Kelompok kedua menterjemahkan artikel daripada bahasa Rusia kepada bahasa Inggeris dan Perancis; teks Rusia itu nampaknya merupakan karya asal. Banyak artikel ini kemudiannya diterbitkan di laman web yang berulang kali dikaitkan dengan Doppelganger: rrn.media. Kelompok yang sama menjana komen ringkas tentang artikelnya yang kemudian muncul di media sosial.
Siaran di X yang dijana menggunakan model kami, berserta pautan kepada artikel di rrn.media.
Kelompok ketiga digunakan untuk menjana, menyemak pruf dan membetulkan artikel berbahasa Perancis. Artikel tersebut kemudian diterbitkan di laman web yang turut dikaitkan dengan Doppelganger, franceeteu.today.
Kelompok terakhir beroperasi dalam bahasa Jerman. Kelompok itu mengambil kandungan daripada laman web Doppelganger, grenzezank.com, lalu menggunakannya untuk menjana siaran ringkas bagi Kumpulan dan Halaman Facebook yang dinamakan sempena laman web tersebut.
Kandungan
Sebahagian besar kandungan yang diterbitkan dalam talian oleh kempen ini tertumpu pada perang di Ukraine. Kandungan itu menggambarkan Ukraine, AS, NATO dan EU secara negatif, manakala Rusia secara positif. Komen lazimnya mendakwa bahawa Rusia ialah rakan ekonomi penting bagi negara Eropah; pemimpin Barat yang mengkritik Rusia tidak memahami pengundi mereka sendiri; dan Ukraine lemah, korup dan/atau hampir kalah.
Dalam beberapa keadaan, pelaku Doppelganger cuba meminta model kami menjana imej kartun ahli politik terkemuka Eropah dan pengkritik Rusia. Model kami menolak permintaan tersebut.
Penilaian impak
Tiada kempen Doppelganger yang kami kenal pasti nampaknya meraih penglibatan positif yang ketara daripada khalayak sebenar.
Di 9GAG, siaran biasa menerima 5–10 undian naik—terutamanya daripada akaun yang turut menyiarkan kandungan kempen ini—dan antara 15 hingga 200 undian turun. Di X, siaran biasa memperoleh kira-kira 1,000 perkongsian, tanpa balasan dan tanpa tanda suka. Percanggahan yang begitu besar ini menunjukkan penguatan tidak autentik. Satu siaran menerima tiga balasan yang semuanya menyifatkannya sebagai palsu.
Balasan di X kepada siaran Doppelganger.
Dengan menggunakan Skala Breakout(dibuka dalam tetingkap baru) untuk menilai impak operasi pengaruh, yang memberikan penarafan pada skala 1 (terendah) hingga 6 (tertinggi), kami menilai aktiviti berkaitan penggunaan model kami sebagai Kategori 2, yang dicirikan oleh aktiviti penyiaran pada berbilang platform, tetapi tanpa penembusan atau penglibatan khalayak yang ketara pada mana-mana platform.