Operasi “Doppelganger”: Aktivitas pengaruh Rusia yang menargetkan Ukraina
OpenAI memblokir akun terkait operasi asal Rusia “Doppelganger”, yang memakai AI untuk membuat komentar media sosial anti-Ukraina, terjemahan, dan konten situs web dalam beberapa bahasa.
Studi kasus ini pertama kali diterbitkan dalam laporan OpenAI Mei 2024(terbuka di jendela baru).
Pelaku
Kami memblokir empat kelompok akun pengguna model kami yang terkait dengan orang-orang yang bertindak atas nama operasi pengaruh Rusia bernama “Doppelganger”(terbuka di jendela baru). Setiap kelompok menggunakan taktik, teknik, dan prosedur (TTP) yang berbeda, sesuai dengan karakteristik operasi yang terdiri dari berbagai tim fungsional.
Perilaku
Aktivitas ini menargetkan audiens di Eropa dan Amerika Utara serta berfokus pada pembuatan konten untuk situs web dan media sosial.
Kelompok akun pertama membuat komentar singkat dalam bahasa Inggris, Prancis, Jerman, Italia, dan Polandia. Komentar tersebut diposting di 9GAG dan X bersama meme, video, dan tautan yang tampaknya tidak dibuat menggunakan model kami. Beberapa meme disalin dari berbagai sumber di internet dan tampaknya sudah berusia bertahun-tahun.
Di 9GAG, akun yang memposting konten kampanye ini biasanya menggunakan foto selebritas atau kucing sebagai foto profil. Mereka memposting meme dan video di berbagai kanal, termasuk kanal “Acak” serta kanal khusus hewan peliharaan, olahraga, humor, bahkan hubungan dan kencan.
Komentar tentang Ukraina dan video tentang Gaza yang diposting di kanal “Kendaraan Bermotor” 9GAG oleh akun yang berulang kali memposting konten buatan kampanye ini. Penyebutan Ukraina dan perbatasan AS dibuat menggunakan model kami. Video tersebut merupakan kolase rekaman berita. Postingan itu mendapat 11 suara positif dan 93 suara negatif.
Setiap kali kampanye ini memposting meme atau video di 9GAG, tiga hingga lima akun akan membalas, biasanya dengan pesan sederhana seperti “hahaha” atau “wkwk”. Akun-akun ini hanya pernah berinteraksi dengan konten kampanye tersebut; sebagian besar dibuat pada tanggal yang sama. Perilaku ini sering memancing komentar kritis dari pengguna lain, yang banyak di antaranya menyebut akun tersebut sebagai “bot”.
Komentar pada video yang ditampilkan di atas. Ketiga akun terbawah (pemberi komentar paling awal) dibuat pada akhir April 2024 dan berulang kali memposting, memberi suara positif, atau mengomentari postingan kampanye ini saja. Ketiga akun teratas, yang mengungkap kepalsuan tersebut, dibuat antara satu hingga sepuluh tahun lalu dan menunjukkan beragam aktivitas.
Di X, komentar kampanye diposting oleh akun yang biasanya hanya pernah membuat satu atau dua postingan. Komentar tersebut biasanya disertai tautan yang tampak acak, seperti “solarpanelfor.sale”. Tautan ini mengarah ke sekumpulan situs web yang berulang kali dikaitkan dengan Doppelganger. Situs web tersebut dibatasi secara geografis sehingga hanya orang dengan alamat IP di negara sasaran yang dapat melihatnya. Namun, operatornya tampaknya melakukan kekeliruan sehingga beberapa artikel berbahasa Inggris, Jerman, dan Polandia hanya dapat dilihat dari IP Prancis.
Postingan di X yang memuat komentar buatan model kami. Terjemahan komentar tersebut adalah, “Tindakan yang mengejutkan! Politik tidak boleh dikaitkan dengan kekerasan. Kita membutuhkan dialog, bukan kekerasan.” Tautan yang menyertainya mengarah ke rrn.media, situs web bermerek Doppelganger edisi bahasa Jerman. Namun, per 20 Mei, situs tersebut hanya dapat dilihat dari IP Prancis.
Kemungkinan untuk menghindari deteksi, kelompok ini mengakses model kami melalui layanan yang terkait dengan perusahaan di Rusia dan Republik Ceko. Layanan ini ditujukan untuk membantu orang-orang di Rusia mengakali kebijakan akses negara yang kami dukung(terbuka di jendela baru). Kami telah menonaktifkan akses API layanan ini.
Kelompok kedua menerjemahkan artikel dari bahasa Rusia ke bahasa Inggris dan Prancis; teks berbahasa Rusia tampaknya merupakan tulisan asli. Banyak artikel tersebut kemudian diterbitkan di situs web yang berulang kali dikaitkan dengan Doppelganger: rrn.media. Kelompok yang sama membuat komentar singkat tentang artikel mereka, yang kemudian muncul di media sosial.
Postingan di X yang dibuat menggunakan model kami, disertai tautan ke artikel di rrn.media.
Kelompok ketiga digunakan untuk membuat, mengoreksi, dan menyunting artikel berbahasa Prancis. Artikel tersebut kemudian diterbitkan di situs web lain yang juga dikaitkan dengan Doppelganger, franceeteu.today.
Kelompok terakhir beroperasi dalam bahasa Jerman. Kelompok ini mengambil konten dari situs web Doppelganger, grenzezank.com, lalu menggunakannya untuk membuat postingan singkat bagi Grup dan Halaman Facebook yang dinamai sesuai situs tersebut.
Konten
Sebagian besar konten yang diterbitkan kampanye ini secara daring berfokus pada perang di Ukraina. Konten tersebut menggambarkan Ukraina, AS, NATO, dan Uni Eropa secara negatif, sedangkan Rusia secara positif. Komentar yang umum menyatakan bahwa Rusia adalah mitra ekonomi penting bagi negara-negara Eropa; para pemimpin Barat yang mengkritik Rusia tidak memahami pemilih mereka sendiri; dan Ukraina lemah, korup, dan/atau berada di ambang kekalahan.
Dalam beberapa kesempatan, pelaku Doppelganger mencoba meminta model kami membuat gambar kartun politikus terkemuka Eropa dan pengkritik Rusia. Model kami menolak permintaan tersebut.
Penilaian dampak
Tidak satu pun kampanye Doppelganger yang kami identifikasi tampaknya memperoleh interaksi positif yang signifikan dari audiens autentik.
Di 9GAG, postingan biasa memperoleh 5–10 suara positif—terutama dari akun yang juga memposting konten kampanye ini—dan antara 15 hingga 200 suara negatif. Di X, postingan biasa dibagikan sekitar 1.000 kali, tanpa balasan maupun suka. Kesenjangan yang begitu besar ini mengindikasikan penguatan yang tidak autentik. Satu postingan mendapat tiga balasan, yang semuanya menyebutnya palsu.
Balasan di X terhadap postingan Doppelganger.
Dengan menggunakan Skala Breakout(terbuka di jendela baru) untuk menilai dampak operasi pengaruh (IO) pada skala 1 (terendah) hingga 6 (tertinggi), kami menilai aktivitas yang terkait dengan penggunaan model kami berada di Kategori 2, yang ditandai oleh aktivitas posting di berbagai platform, tetapi tanpa penyebaran luas atau interaksi audiens yang signifikan di platform mana pun.