Pandhuan Cahya ing Balik Mendhung: Kegiyatan sing kamungkinan asale saka Tiongkok lan ngarah wong AS

Studi kasus iki wiwitane diterbitake ing laporan OpenAI edisi Februari 2026⁠(mbukak ing jendhela anyar) babagan upaya ngalangi panganggone AI kanggo tumindak ala.

Kita mblokir saklompok cilik akun ChatGPT sing kamungkinan asale saka Tiongkok. Akun-akun kasebut nggunakake model kita kanggo njaluk informasi babagan wong AS, forum lan lokasi gedhung federal, njaluk pandhuan babagan piranti lunak kanggo ngganti rai, lan nggawe email basa Inggris sing katon kaya upaya rekayasa sosial. Dheweke menehi prentah marang model kita nganggo basa Tionghoa, umume aktif sajrone jam kerja ing Tiongkok dharatan, lan nggunakake VPN kanggo ngakses platform kita.

Akun-akun kasebut nggawe draf email sing ngakune dikirim dening pegawai perusahaan ing Hong Kong sing jenenge “Nimbus Hub Consulting”. Nanging, dheweke menehi prentah marang model kita nganggo aksara Tionghoa Sederhana (sing lumrahe digunakake ing Tiongkok dharatan), dudu aksara Tionghoa Tradisional (sing lumrahe digunakake ing Hong Kong). Iki nuduhake yen operator sejatine ana ing Tiongkok dharatan. Kajaba iku, siji akun nggawe email kanthi ngaku dadi wakil organisasi hubungan masyarakat ing Shanghai sing nyengkuyung ijol-ijolan ekonomi lan budaya antarane AS lan Shanghai. Adhedhasar jeneng perusahaan sing nyebut “Nimbus”, tegese mendhung udan utawa bunderan cahya, kita menehi jeneng operasi iki “Pandhuan Cahya ing Balik Mendhung”.

Akun-akun kasebut nggawe draf email basa Inggris kanggo pejabat tingkat negara bagian ing AS utawa analis kabijakan sing makarya ing bidang bisnis lan keuangan. Dheweke katon ngajak para panampa supaya melu konsultasi kanthi bayaran, sing diterangake minangka tugas napsirake kabijakan lan menehi saran strategis kanggo kliene. Dheweke njaluk draf email sing ringkes, cetha, lan profesional, kanthi subjek sing nuwuhake rasa kudu enggal ditanggapi lan nggunakake isyarat psikologis sing alus.

Kajaba iku, akun-akun ChatGPT kasebut nggunakake model kita kanggo nggoleki informasi umum, sing ditanggapi model kita nganggo sumber sing kasedhiya kanggo umum. Iki kalebu pitakon babagan topik-topik ing ngisor iki:

• Lokasi kantor pamrentah federal AS, kalebu lokasi kantor utama, lan dhaptar peringkat negara bagian sing akeh badan lan pejabat federale.

• Sebaran pegawai federal AS miturut negara bagian.

• Wong AS, kayata pambawa acara Voice of America, kalebu wawancara sing tau ditindakake lan topik sing dadi minate.

• Forum online lan situs web sing lumrah digunakake dening profesional lan wong sing golek kerja ing industri ekonomi lan keuangan AS.

Sing wigati, siji akun njaluk pandhuan carane ngundhuh lan masang FaceFusion ing komputere, yaiku platform manipulasi rai kanggo ngganti rai lan ningkatake kualitas media liyane. Miturut kegiyatane ing ChatGPT, dheweke nerangake yen mligi arep nggunakake fitur ngganti rai kanthi langsung. Dheweke njaluk pandhuan pamasangan langkah demi langkah tanpa istilah teknis lan ngaku minangka pamrogram komputer pamula, mula pandhuane kudu prasaja. Dheweke ngunggah gambar layar spesifikasi piranti keras komputere kanggo mbantu proses pamasangan. Model menehi tanggapan nganggo informasi saka situs web lan dokumentasi FaceFusion sing kasedhiya kanggo umum.

Prentahe kanggo nggawe draf email nganggo model kita mirip karo pandhuan taktik⁠(mbukak ing jendhela anyar) rekayasa sosial kanggo pendekatan badan intelijen manca, dudu pesen rekrutmen lumrah. Kanggo saben draf email, dheweke njaluk bagean-bagean iki:

Nggawe kesan sah lan bisa dipercaya: Dheweke nggambarake “Nimbus Hub” minangka perusahaan konsultasi strategis profesional sing nduweni keahlian mumpuni ing geopolitik lan kabijakan lintas negara. Dheweke nyantumake pranala menyang situs web Nimbus Hub (deleng gambar layar ing ngisor iki).

Nggawe pesen pribadi lan ngalem sasaran: Dheweke ngongkon model nyebut kanthi cetha latar mburi panampa ing sektor publik minangka bukti yen panampa pancen cocog kanggo peran kasebut. Ing salah siji kasus, akun kasebut ngunggah gambar layar profil LinkedIn wong AS sing manggon ing Shanghai lan ngongkon model nyetel draf email supaya luwih pribadi adhedhasar teks babagan pengalaman pribadi lan latar mburine wong kasebut ing gambar layar.

Menehi maneka iming-iming: Tawaran konsultasi biasane diiming-imingake minangka kesempatan kerja online kanthi bayaran gedhe, bonus kinerja, lan ganjaran amarga ngajak wong liya, nanging katrangan babagan pakaryan sejatine tetep ora cetha.

Nggunakake basa sing ngyakinake lan nggawe risiko katon cilik: Dheweke kerep ngaku yen pakaryane santai, bayarane tepat wektu, lan asipat rahasia.

Enggal mindhah komunikasi menyang njaba platform: Dheweke tansah nyoba ngajak panampa ngalih saka email menyang patemon wiwitan liwat konferensi video online ing WhatsApp, Zoom, utawa Teams.

Interaksi jaringan-jaringan kasebut karo model ing kasus iki ora canggih sacara teknis, lan panjaluke kadhangkala katon kaya panjaluk lumrah kanggo nyusun undhangan rekrutmen utawa masang piranti lunak kanthi sah. Nanging, taktik pangguna sing ndhelik ing mburi identitas perusahaan palsu lan minate marang topik geopolitik nuduhake yen bisa uga ana niyat ngrekrut kanggo kepentingan pihak mungsuh.

Adhedhasar panganggone ChatGPT dening akun-akun kasebut, ora ana bukti yen dheweke kasil njaluk tanggapan saka sasaran kanggo mbales undhangane. Kita ora bisa mesthekake kanthi mandhiri apa undhangan email kasebut pancen dikirim utawa apa ana panampa sing dadi sasaran sing menehi tanggapan.

Sawetara pamrentah demokratis (kayata AS⁠(mbukak ing jendhela anyar), Britania Raya⁠(mbukak ing jendhela anyar), Australia⁠(mbukak ing jendhela anyar)) wis ngelingake yen badan intelijen manca ngarahake rekrutmen marang pegawai lan mantan pegawai pamrentah kanthi nyamar dadi perusahaan konsultasi lan lembaga liyane ing platform jejaring sosial lan profesional. Mbedakake pesen rekrutmen lumrah saka pendekatan rekayasa sosial sing ngarah sasaran tartamtu iki bisa angel amarga ana sawetara ciri sing padha. Nanging, tawaran sing sah biasane dirancang kanggo proses seleksi sing luwih alon lan ngemot informasi sing bisa dipriksa babagan jeneng jabatan, rincian pemberi kerja sing bisa dipercaya, kisaran bayaran sing lumrah miturut pasar, lan pranala menyang lowongan kerja sing nyata. Cekake, yen tawaran katon apik banget nganti angel dipercaya, mesthine pancen ora kena dipercaya.