Operasi “Spamouflage”: aktivitas pengaruh terkait Tiongkok

Studi kasus ini pertama kali diterbitkan dalam laporan OpenAI Mei 2024⁠(terbuka di jendela baru).

Kami memblokir sejumlah kecil akun yang terkait dengan operasi asal Tiongkok bernama “Spamouflage”⁠(terbuka di jendela baru). Menurut Meta⁠(terbuka di jendela baru), operasi ini dijalankan oleh “individu yang terkait dengan aparat penegak hukum Tiongkok”. Menurut FBI⁠(terbuka di jendela baru), sebagian aktivitas media sosial operasi ini dilakukan oleh sebuah unit di Kementerian Keamanan Publik Tiongkok.

Jaringan ini menyasar audiens global, terutama anggota diaspora Tionghoa dan pengkritik pemerintah Tiongkok. Jaringan ini terutama membuat konten dalam bahasa Mandarin, serta dalam jumlah lebih sedikit, bahasa Inggris, Jepang, dan Korea.

Jaringan tersebut menggunakan model kami untuk men-debug kode, meminta saran tentang analisis media sosial, meneliti berita dan peristiwa terkini, serta membuat konten yang kemudian diterbitkan di forum blog dan media sosial.

Misalnya, pada 2023, jaringan tersebut menggunakan model kami untuk men-debug kode yang mengatur tema WordPress bagi sebuah situs, revealscum.com. Situs ini menerbitkan kritik dalam bahasa Mandarin dan informasi pribadi tentang anggota diaspora Tionghoa yang mengkritik pemerintah Tiongkok. Situs tersebut menyebut para pengkritik ini “pengkhianat”. Konten itu sendiri tidak dibuat menggunakan model kami.

Kampanye ini juga menggunakan model kami untuk membuat konten yang kemudian diposting di platform media sosial dan forum. Misalnya, pada akhir 2023, operasi tersebut membuat artikel yang menuduh Jepang merusak lingkungan laut dengan membuang air limbah dari pembangkit listrik Fukushima. Kami menemukan artikel tersebut di sejumlah platform, termasuk Medium, Blogspot, dan ameblo.jp.

Pada April 2024, kampanye tersebut menjalankan serangkaian komentar berbahasa Inggris yang mengkritik pembangkang Tiongkok, Cai Xia. Kami menemukan satu akun X yang memposting komentar awal dan sekelompok akun lain yang memposting komentar lainnya sebagai balasan. Kami tidak melihat adanya akun asli yang membalas mereka.

Kampanye tersebut juga menggunakan model kami untuk melakukan riset sumber terbuka, seperti mencari tahu cara mengajukan akun pengembang di media sosial atau meminta rangkuman postingan media sosial dari para pengkritik pemerintah Tiongkok.

Penggunaan kecerdasan buatan oleh jaringan ini tampaknya hanya mencakup sebagian kecil dari keseluruhan konten yang dihasilkannya. Misalnya, banyak akun X dan Medium yang kami temukan memposting konten buatan model kami ternyata lebih banyak memposting konten yang tampaknya dibuat secara manual dalam bahasa Inggris dan Mandarin (seperti terlihat, misalnya, dari penggunaan bahasa Inggris yang tidak wajar). Mereka memposting konten ini sebelum maupun sesudah memposting komentar buatan AI.

Sebagian besar konten yang dibuat oleh kampanye ini berbahasa Mandarin. Topiknya beragam, mulai dari memuji kerja sama penegakan hukum internasional pemerintah Tiongkok hingga mengkritik perlakuan buruk terhadap Penduduk Asli Amerika di Amerika Serikat. Sejumlah konten mengkritik pemerintah AS dan Microsoft karena mengungkap aktivitas kelompok peretas Tiongkok yang dikenal sebagai “Volt Typhoon”.

Konten lainnya berbahasa Inggris. Konten ini biasanya mengkritik tokoh-tokoh terkemuka yang mengkritik pemerintah Tiongkok, seperti aktor sekaligus aktivis Tibet Richard Gere dan pembangkang Cai Xia. Sejumlah artikel yang dibuat pada akhir 2023 dalam bahasa Inggris, Jepang, Mandarin, Korea, dan Rusia menuduh Jepang mencemari perairan Pasifik dengan pembuangan limbah dari pembangkit nuklir Fukushima⁠(terbuka di jendela baru)—tema yang telah lama diusung operasi pengaruh Tiongkok.

Satu kelompok kecil aktivitas berfokus membuat komentar positif dalam bahasa Mandarin tentang kunjungan Menteri Keamanan Publik Tiongkok ke Uzbekistan. Spamouflage belum pernah diketahui membahas tema ini sebelumnya; hal ini menarik mengingat penilaian FBI⁠(terbuka di jendela baru) bahwa sebagian aktivitas media sosial operasi ini sebelumnya dilakukan oleh Kementerian Keamanan Publik Tiongkok.

Sebagian aktivitas jaringan ini tampaknya mencerminkan minat pribadi para operatornya. Misalnya, seorang operator menggunakan model kami untuk meneliti lensa kamera. Operator lain menggunakan model kami untuk menyelesaikan tugas yang tampaknya merupakan ujian bagi anggota Partai Komunis Tiongkok.

Spamouflage telah menjadi salah satu operasi pengaruh yang paling intensif diteliti di dunia sejak pertama kali dipaparkan kepada publik pada 2019⁠(terbuka di jendela baru). Sangat sedikit aktivitasnya yang pernah dilaporkan berhasil menjangkau audiens asli.

Penggunaan konten buatan AI tampaknya tidak mengubah keadaan tersebut. Dari seluruh blog, artikel, dan akun media sosial yang kami temukan dalam penyelidikan, tidak ada yang meraih banyak interaksi atau pengikut dari orang sungguhan. Dalam beberapa kasus, indikator yang tersedia menunjukkan bahwa postingan mereka hanya dilihat oleh tim investigasi kami.

Dengan menggunakan Breakout Scale⁠(terbuka di jendela baru) untuk menilai dampak operasi pengaruh pada skala 1 (terendah) hingga 6 (tertinggi), kami menilai operasi ini termasuk Kategori 2, yang ditandai dengan aktivitas posting di banyak platform, tetapi tanpa bukti bahwa kontennya diperkuat secara signifikan oleh orang-orang di luar jaringan.

Kami menemukan domain berikut terkait dengan kampanye ini.

• revealscum.com