Operasi Siber: Perangkat malware berbahasa Rusia
OpenAI memblokir akun yang kemungkinan terkait dengan kelompok kriminal berbahasa Rusia dan menggunakan AI untuk membuat loader malware, lapisan penghindaran, skrip pencurian kredensial, serta infrastruktur C2.
Studi kasus ini awalnya diterbitkan dalam laporan OpenAI Oktober 2025(terbuka di jendela baru).
Pelaku
Kami memblokir akun ChatGPT yang berupaya menggunakan model untuk membantu mengembangkan dan menyempurnakan malware, termasuk trojan akses jarak jauh, pencuri kredensial, dan fitur untuk menghindari deteksi. Akun-akun ini tampaknya berafiliasi dengan kelompok kriminal berbahasa Rusia karena kami melihat mereka mengunggah bukti aktivitasnya di kanal Telegram yang dikhususkan bagi para pelaku tersebut. Berdasarkan penyelidikan kami, kami menilai bahwa aktivitas ini terkait dengan operator berbahasa Rusia yang mengelola beberapa akun serta memanfaatkan infrastruktur proksi dan hosting sementara.
Perilaku
Pelaku ancaman ini menggunakan beberapa akun ChatGPT terutama untuk membuat purwarupa dan memecahkan masalah komponen teknis yang memungkinkan aktivitas pascaeksploitasi dan pencurian kredensial, dua aktivitas yang lazim dilakukan oleh pelaku ancaman jenis ini. Model menolak permintaan langsung untuk menghasilkan konten berbahaya. Karena itu, operator biasanya menggunakan model untuk memperoleh kode komponen dasar, seperti mengonversi berkas executable terkompilasi menjadi shellcode, merancang loader dalam memori, atau mengurai kredensial browser. Pelaku ancaman tersebut kemudian kemungkinan merangkainya menjadi alur kerja berbahaya.
Pelaku ancaman juga menggunakan model kami untuk menghasilkan kode bagi teknik obfuscation dan pola “crypter”, seperti menyisipkan instruksi padding dan rangkaian sampah, memantau clipboard, serta membuat alat bantu eksfiltrasi sederhana, seperti pengunggah bot Telegram dan skrip untuk mengarsipkan lalu mengirim data. Output tersebut pada dasarnya tidak berbahaya, kecuali jika digunakan untuk tujuan berbahaya oleh pelaku ancaman di luar platform kami.
Pelaku ancaman terutama menggunakan ChatGPT untuk tugas teknis, seperti penanganan PE / Win32 API tingkat rendah dan cookie DPAPI / AES GCM, serta otomatisasi Chrome DevTools / CDP. Pelaku ancaman mengajukan permintaan dengan tingkat kecanggihan yang beragam: banyak prompt memerlukan pengetahuan mendalam tentang platform Windows dan proses debugging berulang, sedangkan yang lain mengotomatiskan tugas umum seperti pembuatan kata sandi massal dan pengajuan lamaran kerja melalui skrip. Operator menggunakan sejumlah kecil akun ChatGPT dan terus menyempurnakan kode yang sama dalam berbagai percakapan, pola yang menunjukkan pengembangan berkelanjutan alih-alih pengujian sesekali.
Hasil
Model kami tidak digunakan untuk menjalankan alat maupun alur kerja pelaku ancaman, dan kami tidak dapat memverifikasi secara independen aktivitas apa pun di luar platform. Pelaku ancaman ini berupaya menggunakan model kami untuk mengembangkan dan menyempurnakan alat ofensif serta alur kerja operasional yang tampaknya memungkinkan pencurian kredensial dan aset kripto, eksekusi kode secara tersembunyi, serta pengelolaan infrastruktur terselubung.
Secara khusus, mereka menggunakan ChatGPT untuk menghasilkan dan menyempurnakan kode yang berfungsi serta panduan deployment untuk eksekusi dalam memori dan loader shellcode; bypass UAC / SmartScreen / Mark-of-the-Web; ekstraksi kredensial / cookie browser dan kerangka dekripsi app-bound; penguraian dompet LevelDB serta alat pembajakan / penggantian clipboard dengan eksfiltrasi; dan komponen akses jarak jauh (RAT), termasuk emulasi video dan input. Sesuai dengan mekanisme pengamannya, model kami menolak permintaan yang jelas berbahaya dan tidak memiliki penerapan yang sah.
Contoh representatif aktivitas ini dapat dipetakan ke kerangka kerja LLM ATT&CK sebagai berikut:
Aktivitas | Kategori Kerangka Kerja LLM ATT&CK |
|---|---|
Mengonversi EXE menjadi shellcode yang tidak bergantung pada posisi; membuat loader dalam memori (VirtualAlloc / WriteProcessMemory / remote thread); mengonversi bahasa untuk toolchain loader. | Pembuatan Payload yang Dioptimalkan dengan LLM |
Menyisipkan lapisan obfuscation / packer, crypter, dan teknik yang kemungkinan dirancang untuk mengubah signature PE atau menyembunyikan payload dari AV/EDR dengan cara lain. | Penghindaran Deteksi Anomali yang Disempurnakan dengan LLM |
Menghasilkan skrip dan kode program yang kemungkinan dirancang untuk mengekstrak / mendekripsi kredensial dan cookie browser, mengurai LevelDB dompet, memantau atau mengganti isi clipboard, serta mengekfiltrasi data melalui kanal bot seperti Telegram. | Aktivitas Pasca-Kompromi Berbantuan LLM |
Membangun dan menyempurnakan infrastruktur C2 dan tunneling, termasuk reverse proxy, konfigurasi SOCKS5 / OpenVPN, tunneling desktop jarak jauh, serta panduan debugging / deployment untuk streaming jarak jauh dan emulasi input. | Pemrofilan Infrastruktur Berpanduan LLM |
Dampak
Kami menonaktifkan semua akun yang terkait dengan aktivitas ini dan membagikan indikator yang relevan kepada mitra industri. Kami tidak menemukan bukti bahwa akses ke model kami memberi para pelaku ini kemampuan atau arahan baru yang tidak dapat mereka peroleh dari berbagai sumber yang tersedia untuk umum. Model kami menolak permintaan langsung terkait eksploit dan keylogger.