Operasi “Ulasan Sinis”: Aktiviti pengaruh dari China

Kajian kes ini pada asalnya diterbitkan dalam laporan OpenAI pada Jun 2025⁠(dibuka dalam tetingkap baru).

Kami menyekat akaun ChatGPT yang dikesan menggunakan model kami untuk menghasilkan siaran media sosial secara pukal, selaras dengan aktiviti operasi pengaruh terselindung. Sepanjang siasatan, kami turut mendapati akaun ini merangka penilaian prestasi dalaman.

Akaun ini terutamanya menghantar prom dalam bahasa Cina dan menumpukan pada topik politik serta geopolitik yang berkaitan dengan China. Seorang pengguna menyatakan dalam prom bahawa mereka bekerja untuk Jabatan Propaganda China. Walau bagaimanapun, kami tidak mempunyai bukti bebas untuk mengesahkan dakwaan ini.

Akaun yang kami sekat menjalankan dua aliran kerja utama. Aliran kerja yang paling giat melibatkan penghasilan komen pendek media sosial dalam bahasa Inggeris dan Cina, serta beberapa komen dalam bahasa Urdu. Kami mengenal pasti banyak komen ini disiarkan di TikTok dan X, manakala kandungan tambahan turut muncul di Reddit, Facebook dan pelbagai laman web.

Corak lazimnya melibatkan penyiaran komen awal daripada akaun “utama”, yang sering kelihatan diwujudkan semata-mata untuk siaran itu, diikuti beberapa komen balas daripada akaun lain. Tingkah laku ini kelihatan bertujuan mewujudkan tanggapan palsu bahawa interaksi tersebut berlaku secara organik.

Di TikTok, akaun yang memberi komen menggunakan nama paparan dalam pelbagai bahasa dan abjad, yang sering tidak berkaitan dengan bahasa kandungan yang disiarkan. Sebagai contoh, akaun bernama Korea menyiarkan komen dalam bahasa Urdu, manakala akaun bernama Thai dan Ibrani menyiarkan komen bahasa Inggeris yang dihasilkan oleh rangkaian ini. Di X, akaun yang memberi komen biasanya menggunakan imej profil kartun dan, dalam sesetengah kes, mempunyai nama yang dikaitkan dengan mata wang kripto.

Rangkaian ini kurang aktif di Facebook. Aktivitinya terutamanya melibatkan penghasilan nama dan gambar profil untuk dua Halaman yang menyamar sebagai saluran berita. Kedua-dua Halaman itu tidak mempunyai pengikut atau tanda suka dan masing-masing hanya memaparkan beberapa siaran.

Rangkaian ini sekali-sekala menghasilkan siaran yang lebih panjang dalam bahasa Cina atau Inggeris. Kami mengenal pasti satu siaran sedemikian di Reddit dan dua lagi di pelbagai forum web. Aliran kerja kedua melibatkan penggunaan ChatGPT untuk menghasilkan dokumen yang kelihatan seperti dasar dalaman atau penilaian prestasi.

Kandungan media sosial yang dihasilkan oleh pelaku ancaman ini merangkumi pelbagai topik, semuanya berkait rapat dengan kepentingan geostrategik China.

Sesetengah kandungan tertumpu pada Taiwan, khususnya menyasarkan “Barisan Hadapan Terbalik”⁠(dibuka dalam tetingkap baru) (“逆統戰”), permainan video dan permainan papan bertemakan Taiwan yang membayangkan penentangan terhadap Parti Komunis China. Rangkaian ini menghasilkan puluhan komen kritis dalam bahasa Cina mengenai permainan tersebut, disusuli rencana panjang yang mendakwa permainan itu menerima kecaman meluas. Ini merupakan aktiviti operasi yang paling tersendiri. Atas dasar ini, kami menamakan operasi tersebut “Ulasan Sinis”.

Kandungan lain dalam bahasa Inggeris dan Urdu menyasarkan aktivis Pakistan, Mahrang Baloch, yang telah mengkritik pelaburan China di Balochistan secara terbuka⁠(dibuka dalam tetingkap baru). Sebuah akaun TikTok dan Halaman Facebook yang dikaitkan dengan rangkaian ini menyiarkan video yang menuduh Baloch secara palsu bahawa beliau muncul dalam filem lucah. Operasi itu kemudian menghasilkan ratusan komen pendek dalam kedua-dua bahasa untuk mewujudkan gambaran interaksi yang meluas.

Kumpulan kandungan terakhir tertumpu pada penutupan Agensi Amerika Syarikat untuk Pembangunan Antarabangsa (USAID), dengan menghasilkan komen pendek yang memuji atau mengkritik tindakan tersebut. Komen ini disiarkan di TikTok dan X.

Akhir sekali, pelaku ancaman menggunakan model kami untuk menghasilkan dokumen yang kelihatan seperti dokumen dalaman, termasuk esei terperinci yang ditulis dalam gaya dokumen rasmi keselamatan awam dan penilaian prestasi yang menerangkan langkah-langkah untuk menubuhkan serta menjalankan operasi tersebut.

Operasi ini nampaknya masih pada peringkat awal ketika kami menyekat penggunaan model kami oleh operasi tersebut. Kedua-dua Halaman Facebook itu tidak mempunyai pengikut. Di Reddit, satu siaran menerima 44 undian naik, manakala dua lagi disekat atau dialih keluar daripada subreddit tempat siaran itu diterbitkan.

Interaksi di X dan TikTok lebih pelbagai. Kedua-dua video TikTok itu meraih sejumlah 25,000 tanda suka, manakala ciapan daripada akaun utama operasi ini biasanya menerima kira-kira 10,000 tontonan setiap satu. Walau bagaimanapun, banyak komen pada siaran ini dihasilkan oleh rangkaian tersebut menggunakan ChatGPT, yang menunjukkan bahawa sekurang-kurangnya sebahagian interaksi itu tidak tulen. Oleh itu, semua angka interaksi perlu ditafsirkan dengan berhati-hati.

Berdasarkan Skala Penembusan⁠(dibuka dalam tetingkap baru) bagi impak operasi pengaruh, kami menilai operasi ini berada pada tahap rendah Kategori 3 sekiranya angka interaksi di X dan TikTok adalah tulen. Kami akan menurunkan penilaian ini jika terdapat lebih banyak bukti yang menyokong hipotesis bahawa kebanyakan tanda suka dan tontonan, seperti kebanyakan komen, adalah tidak tulen.