Operasi “Spamouflage”: Aktiviti pengaruh berkaitan China

Kajian kes ini pada asalnya diterbitkan dalam laporan Mei 2024⁠(dibuka dalam tetingkap baru) OpenAI.

Kami menyekat sebilangan kecil akaun yang dikaitkan dengan operasi dari China yang dikenali sebagai “Spamouflage”⁠(dibuka dalam tetingkap baru). Operasi ini telah dikaitkan oleh Meta⁠(dibuka dalam tetingkap baru) dengan “individu yang mempunyai hubungan dengan pihak penguatkuasaan undang-undang China”. Sebahagian aktiviti media sosial operasi ini dikaitkan oleh FBI⁠(dibuka dalam tetingkap baru) dengan sebuah unit dalam Kementerian Keselamatan Awam China.

Rangkaian ini menyasarkan khalayak global, khususnya anggota diaspora China dan pengkritik kerajaan China. Rangkaian ini terutamanya menjana kandungan dalam bahasa Cina dan, pada tahap yang lebih rendah, bahasa Inggeris, Jepun dan Korea.

Rangkaian ini menggunakan model kami untuk menyahpepijat kod, mendapatkan nasihat tentang analisis media sosial, menyelidik berita dan peristiwa semasa serta menjana kandungan yang kemudiannya diterbitkan di forum blog dan media sosial.

Sebagai contoh, pada 2023, rangkaian ini menggunakan model kami untuk menyahpepijat kod yang menetapkan tema WordPress bagi laman web revealscum.com. Laman web ini menerbitkan kritikan dalam bahasa Cina dan maklumat peribadi tentang anggota diaspora China yang mengkritik kerajaan China. Laman ini menggelar para pengkritik tersebut sebagai “pengkhianat”. Kandungan itu sendiri tidak dijana menggunakan model kami.

Kempen ini turut menggunakan model kami untuk mencipta kandungan yang kemudiannya disiarkan di platform dan forum media sosial. Sebagai contoh, pada penghujung 2023, operasi ini menjana artikel yang menuduh Jepun merosakkan alam sekitar marin dengan melepaskan air sisa dari loji kuasa Fukushima. Kami mengenal pasti artikel tersebut di platform termasuk Medium, Blogspot dan ameblo.jp.

Pada April 2024, kempen ini menyiarkan beberapa komen dalam bahasa Inggeris yang mengkritik pembelot China, Cai Xia. Kami mengenal pasti satu akaun X yang menyiarkan komen pertama dan sekumpulan akaun lain yang menyiarkan komen selebihnya sebagai balasan. Kami tidak menemukan sebarang akaun sebenar yang membalas komen tersebut.

Kempen ini turut menggunakan model kami untuk menjalankan penyelidikan sumber terbuka, seperti cara memohon akaun pembangun di media sosial atau meminta ringkasan siaran media sosial oleh pengkritik kerajaan China.

Penggunaan kecerdasan buatan oleh rangkaian ini nampaknya hanya merangkumi sebahagian kecil daripada keseluruhan kandungannya. Sebagai contoh, banyak akaun X dan Medium yang kami kenal pasti menyiarkan kandungan janaan model kami turut menyiarkan lebih banyak kandungan yang kelihatan dicipta secara manual dalam bahasa Inggeris dan Cina (seperti yang ditunjukkan, misalnya, oleh penggunaan bahasa Inggeris yang tidak lazim). Mereka menyiarkan kandungan ini sebelum dan selepas menyiarkan komen janaan AI.

Sebahagian besar kandungan yang dijana oleh kempen ini adalah dalam bahasa Cina. Topiknya merangkumi pujian terhadap kerjasama penguatkuasaan undang-undang antarabangsa kerajaan China hinggalah kritikan terhadap penindasan Orang Asli Amerika di Amerika Syarikat. Sesetengah kandungan mengkritik kerajaan AS dan Microsoft kerana mendedahkan aktiviti kumpulan penggodam China yang dikenali sebagai “Volt Typhoon”.

Kandungan lain pula adalah dalam bahasa Inggeris. Kandungan ini lazimnya mengkritik pengkritik terkenal kerajaan China, seperti pelakon dan aktivis Tibet Richard Gere serta pembelot Cai Xia. Beberapa artikel yang dijana pada penghujung 2023 dalam bahasa Inggeris, Jepun, Cina, Korea dan Rusia menuduh Jepun mencemarkan perairan Pasifik dengan pelepasan dari loji nuklear Fukushima⁠(dibuka dalam tetingkap baru)—tema yang telah lama digunakan dalam operasi pengaruh China.

Satu kelompok kecil aktiviti tertumpu pada penjanaan komen positif dalam bahasa Cina tentang lawatan Menteri Keselamatan Awam China ke Uzbekistan. Spamouflage tidak pernah diketahui membincangkan tema ini sebelum ini; perkara ini menarik perhatian berikutan pengaitan oleh FBI⁠(dibuka dalam tetingkap baru) antara beberapa aktiviti media sosial terdahulu operasi ini dengan Kementerian Keselamatan Awam China.

Sebahagian aktiviti rangkaian ini kelihatan mencerminkan minat peribadi para operatornya. Sebagai contoh, seorang operator menggunakan model kami untuk menyelidik kanta kamera. Seorang lagi menggunakan model kami untuk menyelesaikan tugasan yang kelihatan seperti ujian untuk ahli Parti Komunis China.

Spamouflage merupakan antara operasi pengaruh yang paling intensif dikaji di dunia sejak pertama kali didedahkan kepada umum pada 2019⁠(dibuka dalam tetingkap baru). Sangat sedikit aktivitinya pernah dilaporkan berjaya menjangkau khalayak sebenar.

Penggunaan kandungan janaan AI nampaknya tidak mengubah keadaan tersebut. Antara blog, artikel dan akaun media sosial yang kami kenal pasti dalam siasatan kami, tiada satu pun memperoleh jumlah interaksi atau pengikut yang tinggi daripada orang sebenar. Dalam sesetengah kes, petunjuk yang ada menunjukkan bahawa siaran mereka hanya dilihat oleh pasukan penyiasat kami.

Berdasarkan Skala Breakout⁠(dibuka dalam tetingkap baru) untuk menilai impak operasi pengaruh pada skala 1 (terendah) hingga 6 (tertinggi), kami menilai operasi ini sebagai Kategori 2, yang dicirikan oleh aktiviti penyiaran merentas banyak platform tetapi tanpa bukti bahawa kandungannya diperluas dengan ketara oleh individu di luar rangkaian.

Kami mengenal pasti domain berikut sebagai berkaitan dengan kempen ini.

• revealscum.com