Operasi “Tinjauan Sinis”: aktivitas pengaruh saka Tiongkok
OpenAI nglarang akun sing nggunakake AI kanggo nggawe kiriman sing ngritik pemengaruh media sosial Taiwan lan topik AS sing gegandhengan.
Studi kasus iki wiwitane diterbitake ing laporan Juni 2025(mbukak ing jendhela anyar) saka OpenAI.
Pelaku
Kita nglarang akun ChatGPT sing kadeteksi nggunakake model kita kanggo nggawe akeh kiriman media sosial sing selaras karo aktivitas operasi pengaruh rahasia. Sajrone investigasi, kita uga weruh akun-akun iki nyusun evaluasi kinerja internal.
Akun-akun iki utamane menehi prompt nganggo basa Tionghoa lan fokus marang topik politik lan geopolitik sing relevan karo Tiongkok. Salah siji pangguna kandha ing sawijining prompt yen dheweke nyambut gawe kanggo Departemen Propaganda Tiongkok; nanging, kita ora duwe bukti mandiri kanggo mbuktekake pratelan iki.
Tumindak
Akun-akun sing kita larang nindakake rong alur kerja utama. Alur sing paling aktif yaiku nggawe komentar media sosial cekak nganggo basa Inggris lan Tionghoa, sarta sawetara nganggo basa Urdu. Kita nemokake akeh komentar kasebut dikirim ing TikTok lan X, kanthi sawetara konten tambahan katon ing Reddit, Facebook, lan maneka situs web.
Pola sing lumrah yaiku ngirim komentar wiwitan saka akun “utama”, sing asring katon digawe mung kanggo kiriman kasebut, banjur diterusake seri komentar balesan saka akun liyane. Tumindak iki katon dirancang kanggo nggawe kesan palsu yen interaksi kasebut dumadi kanthi alami.
Kiriman TikTok kanthi irah-irahan “Nutup #USAID mung dadi #WIWITANE!” sing ana gandhengane karo aktivitas iki. Jeneng kanal, teks subtitel video, lan kabeh komentar sing katon ing gambar layar iki digawe dening jaringan iki nganggo ChatGPT.
Ing TikTok, akun-akun sing menehi komentar nggunakake jeneng tampilan ing maneka basa lan aksara, sing asring ora ana gandhengane karo basa konten sing dikirim. Contone, akun kanthi jeneng Korea ngirim komentar nganggo basa Urdu, dene akun kanthi jeneng Thai lan Ibrani ngirim komentar basa Inggris sing digawe dening jaringan iki. Ing X, akun-akun sing menehi komentar biasane nggunakake gambar profil kartun lan, ing sawetara kasus, duwe jeneng sing ana gandhengane karo mata uang kripto.
Tweet lan komentar balesane, kabeh digawe dening jaringan iki nganggo ChatGPT.
Jaringan iki ora patiya aktif ing Facebook. Aktivitase utamane nggawe jeneng lan gambar profil kanggo rong Kaca sing nyamar dadi media warta. Kaloro Kaca kasebut ora duwe pengikut utawa seneng, lan saben Kaca mung ngemot sawetara kiriman.
Kiriman Facebook sing nuduhake video sing miturut identifikasi kita kemungkinan ana gandhengane karo operasi iki.
Jaringan iki kadhang kala nggawe kiriman luwih dawa nganggo basa Tionghoa utawa Inggris. Kita nemokake siji kiriman kaya mangkono ing Reddit lan loro liyane ing maneka forum web. Alur kerja kapindho yaiku nggunakake ChatGPT kanggo nggawe dokumen sing katon kaya dokumen kebijakan internal utawa evaluasi kinerja.
Asil
Konten media sosial sing digawe dening pelaku ancaman iki nyakup maneka topik, sing kabeh selaras banget karo kapentingan geostrategis Tiongkok.
Sawetara konten fokus marang Taiwan, mligine nyasar “Front Terbalik”(mbukak ing jendhela anyar) (“逆統戰”), game video lan game papan kanthi tema Taiwan sing nggambarake perlawanan marang Partai Komunis Tiongkok. Jaringan iki nggawe puluhan komentar kritis nganggo basa Tionghoa babagan game kasebut, banjur artikel dawa sing ngaku yen game kasebut ditentang kanthi wiyar. Iki minangka aktivitas operasi sing paling khas; adhedhasar iki, kita menehi jeneng operasi iki “Tinjauan Sinis”.
Konten liyane, nganggo basa Inggris lan Urdu, nyasar aktivis Pakistan Mahrang Baloch, sing wis ngritik investasi Tiongkok ing Balochistan kanthi terang-terangan(mbukak ing jendhela anyar). Akun TikTok lan Kaca Facebook sing ana gandhengane karo jaringan kasebut ngirim video sing nudhuh Baloch kanthi palsu yen dheweke tampil ing film porno. Operasi kasebut banjur nggawe atusan komentar cekak ing kaloro basa kasebut kanggo niru interaksi sing katon nyebar.
Komentar sing kaget ing video TikTok Mahrang Baloch.
Klompok konten pungkasan fokus marang penutupan Badan Pembangunan Internasional Amerika Serikat (USAID), kanthi nggawe komentar cekak sing muji utawa ngritik langkah kasebut. Komentar-komentar iki dikirim ing TikTok lan X.
Tweet sing nggayutake masalah bantuan karo masalah tarif, digawe dening jaringan iki nganggo ChatGPT.
Pungkasan, para pelaku ancaman nggunakake model kita kanggo nggawe dokumen sing katon kaya dokumen internal, kalebu esai rinci sing ditulis nganggo gaya dokumen resmi keamanan umum lan evaluasi kinerja sing njlentrehake langkah-langkah kanggo ngedegake lan nglakokake operasi kasebut.
Dampak
Operasi iki katon isih ana ing tahap wiwitan nalika kita ngganggu panggunaan model kita. Kaloro Kaca Facebook kasebut ora duwe pengikut. Ing Reddit, siji kiriman entuk 44 upvote, dene loro liyane diblokir utawa dibusak saka subreddit papan kiriman kasebut dikirim.
Gambar layar kiriman saka akun Reddit sing kita identifikasi minangka bagean saka jaringan iki, sing nuduhake yen kiriman kasebut dibusak dening panyaring platform.
Interaksi ing X lan TikTok luwih maneka warna; rong video TikTok kasebut nglumpukake total 25.000 seneng, dene saben tweet saka akun utama operasi iki biasane ditonton watara 10.000 kaping. Nanging, akeh komentar ing kiriman kasebut digawe dening jaringan iki nganggo ChatGPT, sing nuduhake yen paling ora sawetara interaksi kasebut ora asli. Mula, kabeh angka interaksi kudu ditanggapi kanthi ngati-ati.
Kanthi nggunakake Skala Breakout(mbukak ing jendhela anyar) kanggo dampak IO, kita bakal netepake iki ing tingkat ngisor Kategori 3 yen angka interaksi ing X lan TikTok kasebut asli. Kita bakal ngedhunake pambiji iki yen ana luwih akeh bukti sing nyengkuyung hipotesis yen mayoritas seneng lan tayangan, kaya mayoritas komentar, ora asli.