Operasi “VAGue Focus”: Kejuruteraan sosial dan aktiviti pengaruh

Kajian kes ini pada asalnya diterbitkan dalam laporan OpenAI bagi Jun 2025⁠(dibuka dalam tetingkap baru).

Kami menyekat satu rangkaian kecil akaun ChatGPT yang menggunakan model kami untuk menjana hantaran media sosial, menganalisis set data serta menterjemah e-mel dan mesej yang menyerupai cubaan kejuruteraan sosial daripada bahasa Cina kepada bahasa Inggeris. Akaun-akaun ini memberikan arahan kepada model kami dalam bahasa Cina dan kebanyakannya aktif pada waktu bekerja di tanah besar China.

Akaun-akaun ini menjana mesej yang kononnya datang daripada kakitangan tiga entiti yang berfokus pada geopolitik: “Focus Lens News”, “BrightWave Media Europe” dan “Visionary Advisory Group” (VAG). Selain itu, akaun ChatGPT tersebut menjana teks yang sepadan dengan hantaran dan biodata akaun X yang dikaitkan dengan ketiga-tiga entiti ini. Secara berasingan, pelaku ancaman menyifatkan entiti-entiti ini sebagai organisasi samaran untuk pengumpulan dan analisis risikan. Berdasarkan nama-nama ini, kami menamakan operasi ini “VAGue Focus”.

Operasi ini menggunakan ChatGPT untuk menyokong empat bidang kerja utama. Pertama, akaun-akaun tersebut kebanyakannya menggunakan model kami untuk menjana hantaran media sosial dan biodata bagi persona dalam talian yang kelihatan menjadi sebahagian daripada operasi pengaruh terselindung. Hantaran tersebut disebarkan oleh akaun X yang menyamar sebagai wartawan dan penganalisis geopolitik.

Kedua, akaun-akaun tersebut memperkemas dan menterjemah surat-menyurat yang ditujukan kepada seorang Senator AS berhubung pencalonan seorang pegawai pentadbiran. Kami tidak dapat mengesahkan secara bebas sama ada mana-mana surat-menyurat tersebut telah dihantar.

Ketiga, akaun-akaun tersebut mengemukakan beberapa soalan asas tentang alat serangan dan eksploitasi rangkaian komputer. Model kami hanya memberikan penjelasan umum tentang penggunaan dan keupayaan alat-alat tersebut. Soalan-soalan ini tidak menunjukkan tahap kecanggihan pelaku siber yang kami huraikan kemudian dalam laporan ini, dan membayangkan tahap kepakaran yang rendah.

Akhir sekali, pengguna kerap meminta terjemahan daripada bahasa Cina kepada bahasa Inggeris bagi mesej yang kelihatan direka untuk menjalin hubungan dengan individu yang tidak diketahui identitinya, dan akhirnya mendapatkan maklumat daripada mereka. Sebahagian mesej ini disiarkan di media sosial sebagai balasan kepada wartawan dan penyelidik. Mesej lain menyerupai mesej peribadi yang tidak ditemukan dalam carian dalam talian.

Objektif utama rangkaian ini nampaknya adalah untuk mengumpulkan risikan dengan menyamar sebagai golongan profesional yang berpangkalan di Eropah atau Turki. Dalam kandungan yang dijana dan disiarkan dalam talian, pengendali operasi ini menggambarkan “Focus Lens News” sebagai entiti bebas yang berpangkalan di Eropah dan mengkhusus dalam analisis serta pelaporan. Namun, pengendali tersebut turut mendakwa bahawa penjenamaan ini sebenarnya berfungsi sebagai penyamaran untuk memudahkan pengumpulan, analisis dan penyebaran risikan.

Menurut laman web yang dipautkan dalam biodata media sosial, Visionary Advisory Group terletak di Turki dan mengkhusus dalam perkhidmatan perundingan geopolitik profesional. Pengendali menggunakan model kami untuk menterjemah arahan daripada bahasa Cina kepada bahasa Inggeris yang mendakwa bahawa VAG Group sedang mencari maklumat tentang dasar ekonomi dan kewangan AS serta sanggup membayar $2,000 sejam untuk temu bual. Mereka juga menterjemah tawaran untuk membayar bagi mendapatkan dokumen terperingkat.

Laman web VAG Group mempunyai versi bahasa Turki dan bahasa Inggeris. Pada halaman Hubungi Kami dalam versi bahasa Inggeris, aksara Cina untuk “hubungi kami” (聯絡) kelihatan dalam menu. Inilah satu-satunya teks bahasa Cina di seluruh domain tersebut.

Sebahagian kandungan rangkaian ini menyerupai bahan pemasaran untuk operasi pengaruh yang lebih luas. Menurut dakwaan yang tidak dapat kami sahkan secara bebas, operasi ini menggunakan pembelajaran mesin, pemprosesan bahasa semula jadi dan pengikisan data automatik untuk mengenal pasti individu serta topik yang berpengaruh di media sosial.

Akaun media sosial yang dikaitkan dengan aktiviti ini tidak menerima interaksi tulen yang ketara dalam talian. Hanya akaun X Focus Lens News mempunyai jumlah pengikut yang besar, iaitu 17,000 orang. Namun, akaun tersebut diwujudkan pada November 2014 dengan nama lain, menyiarkan ciapan selama tiga hari, kemudian tidak aktif sehingga pertengahan 2024. Corak ini lazim bagi akaun yang telah diambil alih tanpa kebenaran dan digunakan untuk tujuan lain, maka jumlah pengikutnya perlu dinilai dengan berhati-hati.

Dengan menggunakan Skala Penembusan⁠(dibuka dalam tetingkap baru) untuk mengukur impak operasi pengaruh (IO), kami menilai bahagian operasi ini yang dapat dilihat oleh orang awam berada pada tahap rendah dalam Kategori 2: aktiviti pada berbilang platform, tetapi hanya sedikit bukti bahawa pengguna sebenar memberi perhatian kepada kandungan mereka atau berkongsinya secara meluas. Bukti yang tersedia tidak mencukupi untuk menilai impak kejuruteraan sosial dan aktiviti terselindung lain dalam operasi ini.