Operasi “ScopeCreep”: Pengembangan malware oleh pelaku berbahasa Rusia

Studi kasus ini pertama kali diterbitkan dalam laporan OpenAI edisi Juni 2025⁠(terbuka di jendela baru).

Kami memblokir sekelompok akun ChatGPT yang tampaknya dioperasikan oleh pelaku ancaman berbahasa Rusia. Pelaku ini menggunakan model kami untuk membantu mengembangkan dan menyempurnakan malware Windows, menelusuri dan memperbaiki kesalahan kode dalam berbagai bahasa pemrograman, serta menyiapkan infrastruktur komando dan kendali mereka.

Pelaku menunjukkan pemahaman tentang cara kerja internal Windows dan menerapkan sejumlah praktik keamanan operasional. Karena operasi ini berfokus pada penggunaan alat bantu bidik untuk gim yang telah disisipi trojan serta taktik untuk menghindari deteksi, kami menamainya “ScopeCreep”.

Pelaku ancaman ini memiliki pendekatan keamanan operasional yang cukup khas. Mereka menggunakan alamat email sementara untuk mendaftarkan akun ChatGPT, lalu membatasi penggunaan tiap akun hanya untuk satu percakapan tentang satu perbaikan kecil pada kode mereka. Mereka kemudian meninggalkan akun tersebut dan membuat akun baru.

Pelaku menyebarkan malware ScopeCreep melalui repositori kode publik yang menyamar sebagai alat overlay bidikan yang sah dan populer untuk gim video (Crosshair-X). Pengguna yang tanpa curiga mengunduh dan menjalankan versi berbahaya tersebut akan mengaktifkan pemuat malware di sistem mereka, sehingga berkas berbahaya lainnya diunduh dari infrastruktur penyerang dan dijalankan.

Dari sana, malware dirancang untuk memulai proses bertahap guna meningkatkan hak akses, mempertahankan keberadaannya secara tersembunyi, memberi tahu pelaku ancaman, dan mengekstraksi data sensitif sambil menghindari deteksi.

Pelaku ancaman menggunakan model kami untuk membantu mengembangkan malware secara iteratif, dengan terus meminta ChatGPT menerapkan fitur-fitur spesifik tambahan. ScopeCreep menggunakan beragam teknik untuk pengiriman, eksekusi, penghindaran deteksi, dan eksfiltrasi data, termasuk:

• Payload C2 yang dirancang untuk menghindari deteksi berbasis tanda tangan.

• Eksekusi tersembunyi melalui DLL side-loading.

• Obfuskasi melalui pengemasan khusus dengan Themida.

• Peningkatan hak akses dan penghindaran deteksi.

• HTTPS melalui port 80.

• Pencurian kredensial dan sesi.

• Notifikasi kepada penyerang melalui Telegram.

• Obfuskasi lalu lintas berbasis proksi.

Meskipun pelaku ancaman menerapkan keamanan operasional dan malware itu sendiri memiliki mekanisme penghindaran deteksi, kami tetap dapat mendeteksi aktivitas tersebut berkat proses deteksi penyalahgunaan siber berskala besar kami. Kami berkoordinasi dengan penyedia hosting kode untuk menghapus repositori berbahaya tersebut dan memblokir semua akun ChatGPT yang terkait dengan aktivitas ini.

Interaksi kelompok akun ini dengan model mencakup beragam tugas pengembangan. Dalam salah satu interaksi, pelaku ancaman menyertakan cuplikan kode Go yang mengalami masalah pada permintaan HTTPS dan meminta model menelusuri serta memperbaiki kesalahannya. Dalam interaksi lain, pelaku ancaman meminta bantuan untuk menggunakan perintah PowerShell melalui Go guna mengubah pengaturan Windows Defender, demi menemukan cara menambahkan pengecualian antivirus secara terprogram.

Contoh-contoh yang mewakili aktivitas ini dapat dipetakan ke kerangka kerja LLM ATT&CK sebagai berikut:

• Menggunakan LLM untuk mengompilasi berkas python310.dll agar kode mereka dieksekusi setiap kali python.exe berjalan: Pengembangan Berbantuan LLM.

• Mengatasi kesalahan pada sertifikat SSL/TLS yang dirancang untuk melayani lalu lintas HTTPS di port 80: Pengembangan Berbantuan LLM.

• Migrasi server C2 berbasis Flask ke server WSGI yang siap digunakan di lingkungan produksi dengan bantuan model: Pengembangan Berbantuan LLM.

• Mengembangkan perintah PowerShell dalam Go untuk mengubah pengaturan Windows Defender dan menambahkan pengecualian antivirus: Penghindaran Deteksi Anomali yang Ditingkatkan dengan LLM.

• Menelusuri dan memperbaiki kesalahan pada kode untuk memberi notifikasi ke kanal Telegram yang dikendalikan penyerang ketika sistem korban baru berhasil disusupi: Aktivitas Pascapenyusupan Berbantuan LLM.

Pada tahap ini, dampak ScopeCreep mungkin telah dikurangi berkat pelaporan yang cepat dan kolaborasi erat dengan mitra industri yang berhasil menghapus repositori berbahaya tersebut. Kami memblokir akun OpenAI yang digunakan oleh pelaku ini.

Kami menilai bahwa pelaku ancaman ini menggunakan model kami dalam upaya mempercepat operasi pengembangan malware mereka. Namun, hal ini justru memberi kami kesempatan untuk mengidentifikasi dan mengganggu ancaman tersebut dengan cepat, saat operasinya tampaknya masih berada pada tahap awal.

Meskipun malware ini memiliki kemampuan meningkatkan hak akses, mempertahankan keberadaannya di sistem, mengumpulkan kredensial, dan melakukan akses jarak jauh, kemampuan tersebut bukanlah hal yang tergolong baru. Walaupun malware ini kemungkinan sudah aktif beredar, dengan beberapa sampelnya muncul di VirusTotal, kami tidak melihat bukti adanya minat yang besar atau penyebaran yang luas.