Operasyong Cyber: Mga tool sa malware ng mga nagsasalita ng Russian
Ipinagbawal ng OpenAI ang mga account na malamang na konektado sa mga grupong kriminal na nagsasalita ng Russian at gumagamit ng AI upang bumuo ng mga malware loader, evasion layer, script sa pagnanakaw ng kredensyal, at imprastraktura ng C2.
Orihinal na inilathala ang case study na ito sa ulat ng OpenAI noong Oktubre 2025(magbubukas sa bagong window).
Aktor
Ipinagbawal namin ang mga ChatGPT account na nagtangkang gamitin ang modelo upang tumulong sa pagbuo at pagpapahusay ng malware, kabilang ang remote-access trojan, mga pangnakaw ng kredensyal, at mga feature para makaiwas sa pagtukoy. Mukhang konektado ang mga account na ito sa mga grupong kriminal na nagsasalita ng Russian, dahil nakita naming nag-post sila ng ebidensya ng kanilang mga aktibidad sa isang Telegram channel na nakalaan para sa mga aktor na iyon. Batay sa aming pagsisiyasat, tinataya naming konektado ang aktibidad na ito sa isang Operator na gumagamit ng wikang Russian, namamahala ng maraming account, at gumagamit ng proxy at panandaliang imprastraktura sa pagho-host.
Gawi
Gumamit ang threat actor na ito ng maraming ChatGPT account, pangunahin upang gumawa ng prototype at mag-troubleshoot ng mga teknikal na component na nagbibigay-daan sa mga aktibidad pagkatapos ng pagsasamantala at pagnanakaw ng kredensyal—mga kilalang gawain ng ganitong uri ng threat actor. Tinanggihan ng modelo ang mga direktang kahilingang bumuo ng mapaminsalang content, kaya karaniwang ginagamit ng Operator ang modelo upang kumuha ng mga pundasyong code, gaya ng pag-convert ng mga compiled executable sa shellcode, pagdisenyo ng mga in-memory loader, o pag-parse ng mga kredensyal sa browser, na malamang na pinagsama-sama ng threat actor sa mga mapaminsalang workflow.
Ginamit din ng threat actor ang aming mga modelo upang bumuo ng code para sa obfuscation at mga pattern ng “crypter,” gaya ng paglalagay ng mga padding instruction at junk sequence, pagsubaybay sa clipboard, at mga simpleng helper para sa exfiltration, gaya ng Telegram bot uploader at mga script para sa pag-archive at pagpapadala. Hindi likas na mapaminsala ang mga output na ito, maliban kung gagamitin sa ganoong paraan ng isang threat actor sa labas ng aming platform.
Ginamit ng threat actor ang ChatGPT pangunahin para sa mga teknikal na gawain gaya ng low-level na pangangasiwa ng PE / Win32 API at DPAPI / AES GCM cookie, at automation ng Chrome DevTools / CDP. Nagbigay ang threat actor ng pinaghalong mas sopistikado at hindi gaanong sopistikadong mga kahilingan: maraming prompt ang nangailangan ng malalim na kaalaman sa Windows platform at paulit-ulit na pag-debug, habang in-automate naman ng iba ang mga karaniwang gawain gaya ng maramihang pagbuo ng password at mga naka-script na aplikasyon sa trabaho. Gumamit ang Operator ng ilang ChatGPT account at paulit-ulit na pinahusay ang parehong code sa iba’t ibang pag-uusap, isang pattern na nagpapahiwatig ng tuloy-tuloy na pagbuo sa halip na paminsan-minsang pagsubok.
Mga tugon
Hindi ginamit ang aming mga modelo upang patakbuhin ang anumang tool o workflow ng threat actor, at hindi namin malayang mabe-verify ang anumang aktibidad sa labas ng platform. Tinangka ng threat actor na ito na gamitin ang aming mga modelo upang bumuo at magpahusay ng mga opensibong tool at operasyonal na workflow na mukhang nagbibigay-daan sa pagnanakaw ng mga kredensyal at crypto asset, palihim na pagpapatakbo ng code, at pamamahala ng lihim na imprastraktura.
Partikular, ginamit nila ang ChatGPT upang bumuo at paulit-ulit na magpahusay ng gumaganang code at gabay sa deployment para sa in-memory execution at mga shellcode loader; mga pag-bypass sa UAC / SmartScreen / Mark-of-the-Web; pagkuha ng kredensyal / cookie sa browser at mga scaffold para sa app-bound decryption; pag-parse ng LevelDB wallet at mga tool para sa pag-hijack / pagpapalit ng clipboard na may exfiltration; at mga component para sa remote access (RAT), kabilang ang emulation ng video at input. Alinsunod sa kanilang mga pananggalang, tinanggihan ng aming mga modelo ang mga kahilingang malinaw na mapaminsala at walang lehitimong aplikasyon.
Maaaring imapa sa balangkas na LLM ATT&CK ang mga halimbawang kumakatawan sa mga aktibidad na ito, gaya ng sumusunod:
Aktibidad | Kategorya sa Balangkas na LLM ATT&CK |
|---|---|
Pag-convert ng mga EXE sa position-independent shellcode; pagbuo ng mga in-memory loader (VirtualAlloc / WriteProcessMemory / remote thread); at pag-convert ng wika para sa mga loader toolchain. | Pagbuo ng Payload na In-optimize ng LLM |
Paglalagay ng mga layer ng obfuscation / packer, mga crypter, at mga teknik na malamang na idinisenyo upang baguhin ang mga PE signature o itago ang mga payload mula sa AV/EDR sa ibang paraan. | Pag-iwas sa Pagtukoy ng Anomalya na Pinahusay ng LLM |
Pagbuo ng mga script at programmatic code na malamang na idinisenyo upang kunin / i-decrypt ang mga kredensyal at cookie sa browser, i-parse ang mga LevelDB ng wallet, subaybayan o palitan ang laman ng clipboard, at mag-exfiltrate sa pamamagitan ng mga bot channel gaya ng Telegram. | Aktibidad Pagkatapos ng Pagkompromiso na Tinulungan ng LLM |
Pagbuo at pagpapahusay ng imprastraktura para sa C2 at tunneling, kabilang ang mga reverse proxy, configuration ng SOCKS5 / OpenVPN, remote desktop tunneling, at gabay sa pag-debug / deployment para sa remote streaming at input emulation. | Pag-profile ng Imprastraktura na Ginagabayan ng LLM |
Epekto
Na-disable namin ang lahat ng account na nauugnay sa aktibidad na ito at ibinahagi ang mahahalagang indicator sa mga partner sa industriya. Wala kaming nakitang ebidensya na ang access sa aming mga modelo ay nagbigay sa mga aktor na ito ng mga bagong kakayahan o direksyong hindi nila makukuha mula sa maraming mapagkukunang available sa publiko. Tinanggihan ng aming mga modelo ang mga direktang kahilingan para sa exploit at keylogger.