Operasi Siber: Sokongan pancingan data dan penskripan

Kajian kes ini pada asalnya diterbitkan dalam laporan OpenAI pada Oktober 2025⁠(dibuka dalam tetingkap baru).

Kami mengenal pasti dan menyekat sekumpulan akaun ChatGPT yang terlibat dalam aktiviti yang bertindih dengan laporan awam tentang kumpulan ancaman yang dijejaki dalam industri sebagai UNK_DROPPITCH (Proofpoint) dan UTA0388 (Volexity). Dalam sekurang-kurangnya satu kes, alamat e-mel yang digunakan untuk mendaftarkan akaun ChatGPT juga dilaporkan digunakan untuk menghantar mesej pancingan data.

Pelaku ancaman yang mengendalikan akaun ini menunjukkan ciri-ciri yang selaras dengan operasi siber bagi memenuhi keperluan perisikan RRC: penggunaan bahasa Cina dan penyasaran sektor semikonduktor Taiwan, ahli akademik serta badan pemikir AS, dan organisasi yang dikaitkan dengan kumpulan etnik dan politik yang mengkritik PKC, yang kadangkala digelar “lima racun”.

Model kami tidak memperkenalkan keupayaan serangan baharu. Pengendali tersebut nampaknya menggunakan model kami terutamanya untuk meningkatkan kecekapan secara beransur-ansur dalam aliran kerja sedia ada, khususnya bagi menghasilkan kandungan pancingan data serta menyahpepijat atau mengubah suai peralatan mereka.

Pelaku menggunakan ChatGPT untuk melaksanakan dua tugas utama: menjana kandungan bagi kempen pancingan data dalam pelbagai bahasa, termasuk bahasa Cina ringkas dan tradisional, bahasa Inggeris serta bahasa Jepun, dan membantu membangunkan alat serta perisian hasad. Kerja pembangunan mereka menunjukkan pelaku yang cekap dari segi teknikal tetapi tidak begitu canggih. Sebagai contoh, mereka membincangkan beberapa aspek dan selok-belok penggunaan AES untuk melindungi trafik C2, namun masih menggunakan kunci statik yang ringkas.

Taktik pelaku untuk menghasilkan kandungan pancingan data adalah terperinci dan berformula, selaras dengan penyasaran demografi yang ditakrifkan secara khusus. Lazimnya, mereka akan menjana e-mel yang ringkas dan sopan secara formal dengan menyamar sebagai wakil akademik, industri atau persidangan. Pelaku ancaman sering meminta agar nada disesuaikan, istilah ditukar mengikut penggunaan serantau atau rujukan khusus kepada institusi ditambahkan. Walaupun suntingan kecil yang disasarkan ini menunjukkan usaha bersepadu untuk meningkatkan mutu kandungan awal mereka, pelaku ancaman gagal membetulkan beberapa butiran yang jelas mencurigakan, seperti contoh maklumat hubungan yang tidak munasabah dalam blok tandatangan mereka.

Mereka meminta coretan kod dan senarai semak yang dapat mempercepat tugas rutin. Mereka meminta kod untuk menguji pengangkutan tersulit (HTTPS, TLS) bagi peninjauan berkala ringkas berbentuk beacon; merangka coretan Go dan PowerShell untuk menyenaraikan proses, menghentikan proses mengikut nama fail boleh laku atau mengumpulkan butiran persekitaran; serta menggabungkan pengimbas komoditi ke dalam pembalut bash / PowerShell.

Mereka turut meminta model mencadangkan pengeliruan ringkas dan penambahbaikan kecil pada keselamatan operasi (OPSEC), seperti menamakan semula fungsi, mengubah suai pengepala atau menyembunyikan rentetan. Dalam beberapa sesi, mereka berusaha membina prototaip perintah dan kawalan asas yang selaras dengan perisian hasad bertahap kematangan rendah hingga sederhana, termasuk gelung kekal aktif, pemberian tugas minimum melalui HTTP(S), serta sampul tugas / hasil berasaskan JSON.

Butiran pelaksanaan dalam beberapa aktiviti pembangunan berasaskan Go oleh pelaku bertindih dengan laporan industri tentang perisian hasad yang dijejaki sebagai GOVERSHELL (Volexity) atau HealthKick (Proofpoint), yang menunjukkan bahawa mereka menggunakan model untuk cuba menyokong pembangunan perisian hasad utama mereka.

Di samping pembinaan persona dan pembangunan alat ini, pengendali turut menyelidik automasi lanjutan yang boleh dicapai melalui DeepSeek. Aktiviti ini menyerupai kerja penerokaan untuk mengautomasikan pancingan data secara besar-besaran, contohnya dengan menganalisis kandungan web bagi menjana senarai sasaran e-mel secara automatik berserta kandungan yang dijangka menarik minat setiap bakal sasaran yang dikenal pasti. Kami tidak dapat mengesahkan secara bebas sama ada pelaku meneruskan sebarang automasi sedemikian dan, jika ya, model yang akhirnya mungkin digunakan.

Pelaku cuba menggunakan model kami untuk merancang dan menambah baik secara berulang komponen C2 tersulit, aliran kerja pelaksanaan arahan jarak jauh dan pendekatan yang disesuaikan dengan budaya, dengan mengutamakan kelajuan serta penyetempatan dan bukannya keupayaan serangan baharu. Mereka menjana hasil keluaran model yang nampaknya bertujuan menyokong aktiviti di luar platform kami dalam beberapa bidang operasi:

• C2 tersulit dan pelaksanaan jarak jauh: permintaan untuk merangka atau membaiki kod pelayan-klien Go dengan penyulitan mesej seperti AES-GCM, penukaran semula kunci sesi, beacon maklumat sistem dan konsol pelayan untuk mengeluarkan arahan PowerShell melalui protokol web standard atau saluran berasaskan WebSocket.

• Perlindungan trafik dan penambahbaikan OPSEC: permintaan termasuk kod untuk menyokong peralihan daripada WebSocket biasa kepada WebSocket selamat (wss://), dan daripada HTTP kepada HTTPS; menyahdayakan semakan sijil dalam sesetengah ujian; menyamarkan trafik melalui bahagian hadapan CDN / TLS; serta mengendalikan mesej yang lebih besar tanpa menyebabkan klien ranap.

• Peninjauan dan kawalan proses: permintaan untuk maklumat berkaitan pengesanan antivirus melalui PowerShell, penyenaraian proses dan penamatan proses Edge / WebView2 tertentu.

• Penyediaan pengimbasan komoditi: panduan memasang dan menggunakan alat sumber terbuka seperti nuclei dan fscan pada infrastruktur Linux komersial, serta menyimpan hasil untuk semakan kemudian.

• Kandungan pancingan data dan pendekatan: merangka e-mel persuasif dalam pelbagai bahasa untuk kenalan akademik atau industri, termasuk baris subjek dan gaya yang disesuaikan dengan norma tempatan.

Aktiviti ini tergolong dalam kategori LLM ATT&CK, termasuk LLM-Optimized Payload Crafting, LLM-Enhanced Anomaly-Detection Evasion, LLM-Assisted Post-Compromise Activity, LLM-Assisted Reconnaissance and Discovery dan LLM-Assisted Social Engineering.

Kami menyahaktifkan semua akaun yang dikaitkan dengan aktiviti ini dan berkongsi petunjuk yang berkaitan dengan rakan industri. Pelaku terutamanya berusaha meningkatkan kecekapan secara beransur-ansur dalam aliran kerja sedia ada, termasuk menghasilkan e-mel pancingan data yang sedia dihantar serta memendekkan kitaran penambahbaikan untuk kod dan automasi rutin. Kami tidak menemukan bukti bahawa hasil keluaran model membolehkan keupayaan yang melangkaui teknik awam yang didokumentasikan dengan baik; model kami tidak memperkenalkan keupayaan serangan baharu. Kelebihan taktik yang dicari melalui bantuan model berpunca daripada kefasihan bahasa, penyetempatan dan kegigihan: kemungkinan kesilapan bahasa yang lebih sedikit, kod penghubung yang lebih pantas dan pelarasan yang lebih cepat apabila sesuatu gagal.