Panduan Sisi Cerah: Aktivitas yang diduga berasal dari Tiongkok dan menargetkan orang-orang AS

Studi kasus ini pertama kali diterbitkan dalam laporan OpenAI edisi Februari 2026⁠(terbuka di jendela baru) tentang upaya menggagalkan penggunaan AI untuk tujuan jahat.

Kami memblokir sejumlah kecil akun ChatGPT yang kemungkinan berasal dari Tiongkok. Akun-akun ini menggunakan model kami untuk meminta informasi tentang orang-orang AS, forum, dan lokasi gedung pemerintah federal, meminta panduan perangkat lunak penukar wajah, serta membuat email berbahasa Inggris yang menyerupai upaya rekayasa sosial. Mereka memberikan prompt kepada model kami dalam bahasa Mandarin, sebagian besar aktif pada jam kerja Tiongkok daratan, dan menggunakan VPN untuk mengakses platform kami.

Akun-akun tersebut membuat draf email yang seolah-olah dikirim oleh karyawan sebuah perusahaan berbasis di Hong Kong bernama “Nimbus Hub Consulting”. Namun, mereka memberikan prompt kepada model kami menggunakan aksara Tionghoa Sederhana (yang lazim digunakan di Tiongkok daratan), bukan aksara Tionghoa Tradisional (yang lazim digunakan di Hong Kong). Hal ini mengindikasikan bahwa operator sebenarnya berbasis di Tiongkok daratan. Selain itu, satu akun membuat email yang seolah-olah berasal dari perwakilan organisasi hubungan masyarakat berbasis di Shanghai yang mempromosikan pertukaran ekonomi dan budaya antara AS dan Shanghai. Mengacu pada nama perusahaan yang menyebut “Nimbus”, yang berarti awan hujan atau lingkaran cahaya, kami menamai operasi ini “Panduan Sisi Cerah”.

Akun-akun tersebut membuat draf email berbahasa Inggris yang ditujukan kepada pejabat tingkat negara bagian di AS atau analis kebijakan yang bekerja di bidang bisnis dan keuangan. Mereka tampaknya mengundang para penerima untuk mengikuti konsultasi berbayar, yang digambarkan sebagai kegiatan menafsirkan kebijakan dan memberikan saran strategis bagi klien mereka. Mereka meminta agar draf email dibuat ringkas, jelas, dan profesional, dengan subjek yang menciptakan kesan mendesak dan menggunakan isyarat psikologis yang halus.

Selain itu, akun-akun ChatGPT tersebut menggunakan model kami untuk mencari informasi umum, yang dijawab model kami menggunakan sumber yang tersedia untuk publik. Pencarian tersebut mencakup topik-topik berikut:

• Lokasi kantor pemerintah federal AS, termasuk lokasi kantor pusat, serta daftar peringkat negara bagian dengan konsentrasi lembaga dan pejabat federal yang tinggi.

• Persebaran pegawai pemerintah federal AS menurut negara bagian.

• Orang-orang AS, seperti pembawa acara Voice of America, termasuk wawancara mereka sebelumnya dan topik yang mereka minati.

• Forum daring dan situs web yang umum digunakan oleh profesional dan pencari kerja di bidang ekonomi dan keuangan AS.

Yang menarik, satu akun meminta panduan untuk mengunduh dan menginstal FaceFusion di komputernya, yaitu platform manipulasi wajah untuk menukar wajah dan menyempurnakan media dengan cara lain. Dalam aktivitasnya di ChatGPT, pengguna akun tersebut menyatakan niat untuk secara khusus menggunakan fitur penukar wajah secara langsung. Pengguna tersebut meminta panduan instalasi langkah demi langkah tanpa istilah teknis dan mengaku sebagai pemrogram komputer pemula, sehingga instruksinya harus sederhana. Pengguna tersebut mengunggah tangkapan layar spesifikasi perangkat keras komputernya untuk membantu proses instalasi. Model merespons dengan informasi yang diambil dari situs web dan dokumentasi FaceFusion yang tersedia untuk publik.

Instruksi mereka untuk membuat draf email menggunakan model kami menyerupai panduan taktik⁠(terbuka di jendela baru) rekayasa sosial yang digunakan badan intelijen asing untuk mendekati target, bukan pesan rekrutmen biasa. Untuk setiap draf email, mereka meminta bagian-bagian berikut:

Membangun kesan sah: Mereka memperkenalkan “Nimbus Hub” sebagai perusahaan konsultan strategis profesional dengan keahlian yang diakui dalam geopolitik dan kebijakan lintas negara. Mereka menyertakan tautan ke situs web Nimbus Hub (lihat tangkapan layar di bawah).

Mempersonalisasi pesan dan menyanjung target: Mereka menyuruh model secara eksplisit menyebut latar belakang penerima di sektor publik sebagai bukti bahwa penerima sangat cocok untuk peran tersebut. Dalam satu kasus, akun tersebut mengunggah tangkapan layar profil LinkedIn milik orang AS yang berbasis di Shanghai dan menginstruksikan model untuk mempersonalisasi draf email berdasarkan teks tentang pengalaman pribadi dan latar belakang orang tersebut yang tercantum dalam tangkapan layar.

Menawarkan beragam insentif: Pekerjaan konsultasi biasanya diiming-imingkan sebagai peluang daring yang menguntungkan, dengan bonus kinerja dan imbalan referensi, sementara pekerjaan sebenarnya tetap dijelaskan secara samar.

Menggunakan bahasa yang meyakinkan dan mengurangi kesan berisiko: Mereka sering mengklaim bahwa pekerjaannya santai, pembayarannya tepat waktu, dan kerahasiaannya terjaga.

Segera memindahkan komunikasi ke platform lain: Mereka selalu berupaya mengalihkan penerima dari email ke panggilan konferensi video daring awal melalui WhatsApp, Zoom, atau Teams.

Interaksi jaringan-jaringan ini dengan model tidak canggih secara teknis, dan permintaan mereka terkadang tampak seperti permintaan wajar untuk menyusun undangan rekrutmen atau menginstal perangkat lunak secara sah. Namun, taktik para pengguna yang bersembunyi di balik identitas perusahaan palsu serta ketertarikan mereka pada topik geopolitik mengindikasikan kemungkinan niat untuk melakukan rekrutmen demi kepentingan pihak lawan.

Berdasarkan penggunaan ChatGPT oleh akun-akun tersebut, tidak ada bukti bahwa mereka berhasil membuat target membalas undangan mereka. Kami tidak dapat memastikan secara independen apakah undangan email tersebut benar-benar dikirim atau apakah ada penerima yang ditargetkan yang merespons.

Sejumlah pemerintah negara demokratis (misalnya AS⁠(terbuka di jendela baru), Britania Raya⁠(terbuka di jendela baru), dan Australia⁠(terbuka di jendela baru)) telah memperingatkan bahwa badan intelijen asing menargetkan pegawai dan mantan pegawai pemerintah untuk direkrut dengan menyamar sebagai perusahaan konsultan dan entitas lain di platform jejaring sosial dan profesional. Pesan rekrutmen biasa mungkin sulit dibedakan dari pendekatan rekayasa sosial yang menyasar target tertentu ini karena keduanya memiliki sejumlah ciri serupa. Namun, tawaran yang sah biasanya dirancang untuk proses seleksi yang lebih bertahap dan memuat informasi jabatan yang dapat diverifikasi, detail pemberi kerja yang kredibel, kisaran imbalan yang wajar sesuai pasar, serta tautan ke lowongan kerja yang benar-benar ada. Singkatnya, jika suatu tawaran terdengar terlalu muluk untuk menjadi kenyataan, kemungkinan besar memang begitu.