Operasi “Spamouflage”: aktivitas pengaruh sing ana gandhèngané karo Tiongkok
OpenAI mblokir akun sing ana gandhèngané karo operasi “Spamouflage” saka RRT, sing nganggo AI kanggo nliti aktivitas média sosial, nggawé kiriman, lan ndandani situs sing durung tau dilapuraké.
Studi kasus iki wiwitané diterbitaké ing laporan OpenAI Mei 2024(mbukak ing jendhela anyar).
Pelaku
Kita mblokir sawetara akun sing ana gandhèngané karo operasi saka Tiongkok sing dikenal minangka “Spamouflage”(mbukak ing jendhela anyar). Miturut Meta(mbukak ing jendhela anyar), operasi iki ditindakaké déning “wong-wong sing ana gandhèngané karo aparat penegak hukum Tiongkok”. Sawetara aktivitas operasi iki ing média sosial digandhèngaké déning FBI(mbukak ing jendhela anyar) karo sawijining unit ing Kamentrian Keamanan Publik Tiongkok.
Tindak-tanduk
Jaringan iki ngarahaké aktivitasé marang pamirsa global, mligi anggota diaspora Tionghoa lan para pangritik pamaréntah Tiongkok. Kontené akèh-akèhé digawé nganggo basa Mandarin, lan sapérangan cilik nganggo basa Inggris, Jepang, lan Koréa.
Jaringan iki nganggo model kita kanggo ndandani kode, njaluk saran babagan analisis média sosial, nliti pawarta lan prastawa saiki, sarta nggawé konten sing banjur diterbitaké ing forum blog lan média sosial.
Contoné, ing taun 2023 jaringan iki nganggo model kita kanggo ndandani kode sing ngatur téma WordPress kanggo situs revealscum.com. Situs iki nerbitaké kritik nganggo basa Mandarin lan informasi pribadhi babagan anggota diaspora Tionghoa sing ngritik pamaréntah Tiongkok. Situs iki nyebut para pangritik mau “pengkhianat”. Konten kasebut ora digawé nganggo model kita.
Gambar layar situs revealscum.com sing nuduhaké kaca kanthi irah-irahan “汉奸” (“pengkhianat”). Kita wis nyamuraké rai wong-wong sing dadi sasaran situs iki.
Kampanye iki uga nganggo model kita kanggo nggawé konten sing banjur dikirim ing platform média sosial lan forum. Contoné, ing pungkasan taun 2023 operasi iki nggawé artikel sing nuduh Jepang ngrusak lingkungan segara amarga mbuwang banyu limbah saka PLTN Fukushima. Kita nemokaké artikel kasebut ing platform kaya Medium, Blogspot, lan ameblo.jp.
Ing April 2024, kampanye iki ngirim rerangkéyan komentar nganggo basa Inggris sing ngritik pembangkang Tiongkok, Cai Xia. Kita nemokaké siji akun X sing ngirim komentar wiwitan lan saklompok akun liya sing ngirim komentar salanjuté minangka wangsulan. Kita ora weruh akun nyata sing nanggapi komentar kasebut.
Kiriman lan wangsulan sing nyerang Cai Xia, kanthi konten gawéan Spamouflage sing nggunakake model kita. Gatekna manawa ora ana kiriman ulang utawa tanda seneng. Kabèh sepuluh komentar ing kiriman asli asalé saka akun sing nganggo konten gawéan Spamouflage.
Kampanye iki uga nganggo model kita kanggo riset sumber terbuka, kayata nggoleki cara ndhaptar akun pangembang ing média sosial utawa njaluk ringkesan kiriman média sosial saka para pangritik pamaréntah Tiongkok.
Panggunaan kacerdhasan gawéan déning jaringan iki kétoké mung dadi sapérangan cilik saka kabèh konten sing diasilaké. Contoné, akèh akun X lan Medium sing kita kenali ngirim konten gawéan model kita jebulé uga ngirim luwih akèh konten sing kaya-kaya digawé kanthi manual nganggo basa Inggris lan Mandarin (umpamané, katon saka panganggoné basa Inggris sing ora lumrah). Konten iki dikirim sadurungé lan sawisé akun-akun kasebut ngirim komentar gawéan AI.
Kiriman tanggal 22 April 2024 saka salah siji akun sing ngirim konten gawéan AI tanggal 19 April. Tèks lan gambare kétoké digawé kanthi manual.
Konten
Akèh konten sing digawé kampanye iki nganggo basa Mandarin. Topiké wiwit saka ngalembana kerja sama penegakan hukum internasional pamaréntah Tiongkok nganti ngritik tumindak kasar marang Pribumi Amerika ing Amerika Serikat. Sawetara konten ngritik pamaréntah AS lan Microsoft amarga mbabar aktivitas kelompok peretas Tiongkok sing dikenal minangka “Volt Typhoon”.
Konten liyané nganggo basa Inggris. Lumrahé konten iki ngritik tokoh pangritik pamaréntah Tiongkok, kayata aktor lan aktivis Tibet Richard Gere, uga pembangkang Cai Xia. Sawetara artikel sing digawé ing pungkasan taun 2023 nganggo basa Inggris, Jepang, Mandarin, Koréa, lan Rusia nuduh Jepang ngracuni banyu Pasifik kanthi mbuwang limbah saka PLTN Fukushima(mbukak ing jendhela anyar)—téma sing wis suwé digunakaké ing operasi pengaruh Tiongkok.
Saklompok cilik aktivitas fokus nggawé komentar positif nganggo basa Mandarin babagan kunjungan Menteri Keamanan Publik Tiongkok menyang Uzbekistan. Spamouflage durung tau dikenal ngrembug téma iki; bab iki dadi wigati amarga FBI nggandhèngaké(mbukak ing jendhela anyar) sapérangan aktivitas média sosial operasi iki sing luwih dhisik karo Kamentrian Keamanan Publik Tiongkok.
Sawetara aktivitas jaringan iki kaya-kaya nggambaraké kapentingan pribadhi para operator. Contoné, siji operator nganggo model kita kanggo nliti lénsa kamera. Operator liyané nganggo model kita kanggo ngrampungaké tugas sing katoné minangka ujian kanggo anggota Partai Komunis Tiongkok.
Penilaian dampak
Wiwit sepisanan diterangaké marang umum ing taun 2019(mbukak ing jendhela anyar), Spamouflage dadi salah siji operasi pengaruh sing paling akèh ditliti ing donya. Mung sithik banget aktivitasé sing tau dilapuraké bisa nggayuh pamirsa nyata.
Panggunaan konten gawéan AI kétoké ora ngowahi kahanan kasebut. Saka kabèh blog, artikel, lan akun média sosial sing kita kenali sajroning investigasi, ora ana siji waé sing éntuk akèh interaksi utawa pengikut saka wong nyata. Ing sawetara kasus, indikator sing ana nuduhaké yèn kiriman kasebut mung dideleng déning tim investigasi kita.
Kanthi nganggo Skala Breakout(mbukak ing jendhela anyar) kanggo menilai dampak operasi pengaruh saka tingkat 1 (paling asor) nganti 6 (paling dhuwur), kita menilai iki minangka operasi Kategori 2: aktif ngirim konten ing akèh platform, nanging ora ana bukti manawa konten kasebut disebaraké kanthi gedhé déning wong ing njaba jaringan.
Indikator
Kita nemokaké domain ing ngisor iki sing ana gandhèngané karo kampanye iki.
revealscum.com