Operasi “Fokus Samar”: Rekayasa sosial lan kegiatan pengaruh

Studi kasus iki pisanan diterbitake ing laporan OpenAI Juni 2025⁠(mbukak ing jendhela anyar).

Kita mblokir jaringan cilik akun ChatGPT sing nggunakake model kita kanggo nggawe kiriman media sosial, nganalisis kumpulan data, lan nerjemahake email sarta pesen saka basa Cina menyang basa Inggris sing katon kaya upaya rekayasa sosial. Akun-akun kasebut menehi prentah marang model kita nganggo basa Cina lan umume aktif ing jam kerja ing dharatan Cina.

Akun-akun kasebut nggawe pesen sing ngakune saka karyawan telung organisasi sing fokus ing geopolitik: “Warta Lensa Fokus”, “Media Gelombang Padhang Eropa”, lan “Grup Penasihat Visioner” (VAG). Kajaba iku, akun-akun ChatGPT kasebut nggawe teks sing cocog karo kiriman lan bio akun X sing ana gandhengane karo telung organisasi iki. Ing katrangan kapisah, para pelaku ancaman kasebut nyebut organisasi-organisasi iki minangka kedhok kanggo nglumpukake lan nganalisis informasi intelijen. Adhedhasar jeneng-jeneng iki, kita menehi jejuluk operasi iki “Fokus Samar”.

Operasi iki nggunakake ChatGPT kanggo nyengkuyung patang alur kerja utama. Kapisan, akun-akun kasebut umume nggunakake model kita kanggo nggawe kiriman media sosial lan biografi kanggo persona daring sing katon minangka bagean saka operasi pengaruh kanthi sesidheman. Kiriman kasebut disebarake dening akun X sing nyamar dadi wartawan lan analis geopolitik.

Kapindho, akun-akun kasebut ndandani lan nerjemahake layang-layang kanggo sawijining Senator AS babagan pencalonan pejabat pamarentah. Kita ora bisa mesthekake kanthi mandhiri apa ana layang kasebut sing wis dikirim.

Katelu, akun-akun kasebut takon sawetara pitakon dhasar babagan piranti kanggo nyerang lan ngeksploitasi jaringan komputer. Model kita mung menehi katrangan umum babagan panggunaan lan kemampuane. Pitakon-pitakon iki ora secanggih pitakone para pelaku siber sing dirembug ing bagean sabanjure ing laporan iki, lan nuduhake tingkat kaprigelan sing kurang.

Pungkasan, para pangguna kasebut ajeg njaluk terjemahan saka basa Cina menyang basa Inggris kanggo pesen-pesen sing katon dirancang kanggo nyedhaki, lan pungkasane ndhudhuk informasi saka, wong sing durung dingerteni identitase. Sawetara pesen kasebut dikirim ing media sosial minangka wangsulan marang wartawan lan panliti. Pesen liyane katon kaya pesen langsung sing ora ditemokake ing panelusuran daring.

Tujuan utama jaringan iki ketoke kanggo nglumpukake informasi intelijen kanthi nyamar dadi tenaga profesional sing manggon ing Eropa utawa Turki. Ing konten sing digawe lan dikirim kanthi daring, para operator nggambarake “Warta Lensa Fokus” minangka organisasi mandhiri sing dumunung ing Eropa lan mligi nindakake analisis lan pawarta. Nanging, para operator uga ngakoni yen citra merek iki sejatine dadi kedhok kanggo nggampangake pangumpulan, analisis, lan panyebaran informasi intelijen.

Miturut situs web sing ditautake ing bio media sosial, Grup Penasihat Visioner dumunung ing Turki lan mligi nyedhiyakake layanan konsultasi geopolitik profesional. Para operator nggunakake model kita kanggo nerjemahake instruksi saka basa Cina menyang basa Inggris sing nyebut yen Grup VAG lagi nggoleki informasi babagan kabijakan ekonomi lan keuangan AS lan gelem mbayar $2,000 saben jam kanggo wawancara. Dheweke uga nerjemahake tawaran kanggo tuku dokumen rahasia.

Situs web Grup VAG duwe versi basa Turki lan Inggris. Ing kaca Hubungi Kita ing versi basa Inggris, aksara Cina kanggo “hubungi kita” (聯絡) katon ing menu. Iki siji-sijine teks basa Cina ing sakabehing domain kasebut.

Sawetara konten jaringan iki katon kaya materi pemasaran kanggo operasi pengaruh sing luwih amba. Miturut pratelan sing ora bisa kita buktekake kanthi mandhiri, operasi kasebut nggunakake pamulangan mesin, pangolahan basa alami, lan pangumpulan data otomatis kanggo ngenali tokoh lan topik sing duweni pengaruh ing media sosial.

Akun-akun media sosial sing ana gandhengane karo kegiatan iki ora oleh tanggapan asli sing akeh saka pangguna daring. Mung akun X Warta Lensa Fokus sing duwe pengikut cukup akeh, yaiku 17.000; nanging, akun kasebut digawe ing November 2014 nganggo jeneng liya, ngirim tweet suwene telung dina, banjur meneng nganti tengah taun 2024. Pola iki lumrah ing akun sing wis dibajak lan dialihake kanggo tujuan liya, mula cacah pengikute kudu ditafsirake kanthi ngati-ati.

Kanthi nggunakake Skala Jangkauan Pengaruh⁠(mbukak ing jendhela anyar) kanggo ngukur dampak operasi pengaruh (IO), kita nggolongake bagean operasi iki sing katon ing publik ing tingkat ngisor Kategori 2: ana kegiatan ing maneka platform, nanging mung sithik bukti yen wong nyata nanggapi utawa nyebarake kontene kanthi wiyar. Bukti sing kasedhiya durung cukup kanggo mbiji dampak rekayasa sosial lan kegiatan sesidheman liyane saka operasi iki.