Operasyong “ScopeCreep”: Pagbuo ng malware ng aktor na nagsasalita ng Russian

Orihinal na inilathala ang pag-aaral na ito sa ulat ng OpenAI noong Hunyo 2025⁠(magbubukas sa bagong window).

Nag-ban kami ng isang grupo ng mga ChatGPT account na mukhang pinapatakbo ng isang malisyosong aktor na nagsasalita ng Russian. Ginamit ng aktor na ito ang aming mga modelo para tumulong sa pagbuo at pagpino ng malware para sa Windows, pag-debug ng code sa iba't ibang programming language, at pag-set up ng kanilang command-and-control infrastructure.

Nagpakita ang aktor ng kaalaman sa panloob na paggana ng Windows at gumamit ng ilang hakbang para mapanatili ang seguridad ng operasyon. Dahil nakatuon ang operasyon sa paggamit ng gaming tool na “pananda sa pagpuntirya” na nilagyan ng trojan, at sa mga palihim na taktika nito, tinawag namin itong “ScopeCreep.”

Kapansin-pansin ang paraan ng malisyosong aktor na ito sa pagpapanatili ng seguridad ng operasyon. Gumamit sila ng mga pansamantalang email address para mag-sign up sa ChatGPT. Nilimitahan nila ang bawat account sa iisang pag-uusap tungkol sa paggawa ng isang maliit na pagpapahusay sa kanilang code. Pagkatapos, iniwan nila ang orihinal na account at gumawa ng bago.

Ipinamahagi ng aktor ang ScopeCreep malware sa pamamagitan ng isang pampublikong code repository na nagpapanggap na isang lehitimo at sikat na crosshair overlay tool (Crosshair-X) para sa mga video game. Kapag na-download at pinatakbo ng mga user ang malisyosong bersyon nang walang kamalay-malay, magsisimula ang malware loader sa kanilang system. Dahil dito, mada-download at tatakbo ang mga karagdagang malisyosong file mula sa infrastructure ng umaatake.

Mula roon, dinisenyo ang malware para magsimula ng isang prosesong may maraming yugto upang makakuha ng mas mataas na pribilehiyo, manatili sa system nang palihim, abisuhan ang malisyosong aktor, at ilabas ang sensitibong data nang hindi natutuklasan.

Ginamit ng malisyosong aktor ang aming modelo upang tumulong sa paunti-unting pagbuo ng malware, sa pamamagitan ng paulit-ulit na paghiling sa ChatGPT na magdagdag ng mga partikular na feature. Gumamit ang ScopeCreep ng iba't ibang pamamaraan sa paghahatid at pagpapatakbo ng malware, pag-iwas sa pagtuklas, at paglalabas ng data, kabilang ang:

• Mga C2 payload na dinisenyo para makaiwas sa pagtuklas na nakabatay sa signature.

• Palihim na pagpapatakbo sa pamamagitan ng DLL side-loading.

• Pagpapalabo ng code sa pamamagitan ng custom packing gamit ang Themida.

• Pagkuha ng mas mataas na pribilehiyo at pag-iwas sa pagtuklas.

• HTTPS sa port 80.

• Pagnanakaw ng mga kredensyal at session.

• Pag-abiso sa umaatake sa pamamagitan ng Telegram.

• Pagtatago ng katangian ng network traffic gamit ang proxy.

Sa kabila ng mga pagsisikap ng malisyosong aktor na mapanatili ang seguridad ng operasyon at ng mga mekanismo ng malware para makaiwas sa pagtuklas, natukoy namin ang aktibidad sa pamamagitan ng aming malawakang proseso ng pagtuklas ng pang-aabuso sa cyber. Nakipag-ugnayan kami sa code hosting provider para alisin ang malisyosong repository at na-ban namin ang lahat ng ChatGPT account na nauugnay sa aktibidad na ito.

Saklaw ng mga pakikipag-ugnayan ng grupong ito sa modelo ang iba't ibang gawain sa pagbuo ng software. Sa isang pag-uusap, nagbigay ang malisyosong aktor ng isang bahagi ng Go code na may problema sa HTTPS request, at hiniling sa modelo na i-debug ito. Sa isa pang pagkakataon, humingi ang malisyosong aktor ng tulong sa paggamit ng mga PowerShell command sa pamamagitan ng Go upang baguhin ang mga setting ng Windows Defender, at naghanap ng paraan para magdagdag ng mga AV exclusion gamit ang code.

Maaaring itugma sa balangkas ng LLM ATT&CK ang mga halimbawa ng mga aktibidad na ito gaya ng sumusunod:

• Paggamit ng mga LLM para i-compile ang file na python310.dll upang mapatakbo ang kanilang code tuwing tumatakbo ang python.exe: Pagbuo sa Tulong ng LLM.

• Pag-troubleshoot ng mga error sa mga SSL/TLS certificate na nilayong gamitin sa paghahatid ng HTTPS traffic sa port 80: Pagbuo sa Tulong ng LLM.

• Paglipat, sa tulong ng modelo, ng isang C2 server na nakabatay sa Flask tungo sa isang WSGI server na handa na para sa aktuwal na operasyon: Pagbuo sa Tulong ng LLM.

• Pagbuo ng mga PowerShell command sa Go upang baguhin ang mga setting ng Windows Defender at magdagdag ng mga AV exclusion: Pag-iwas sa Pagtuklas ng Anomalya na Pinahusay ng LLM.

• Pag-debug ng mga error sa code na nag-aabiso sa isang Telegram channel na kontrolado ng umaatake kapag nakompromiso ang isang bagong biktima: Aktibidad Pagkatapos ng Pagkompromiso sa Tulong ng LLM.

Sa yugtong ito, maaaring nabawasan ang epekto ng ScopeCreep dahil sa mabilis na pag-uulat at malapit na pakikipagtulungan sa mga katuwang sa industriya na nakapag-alis sa malisyosong repository. Na-ban namin ang mga OpenAI account na ginamit ng umaatakeng ito.

Sa aming pagtatasa, ginamit ng malisyosong aktor na ito ang aming mga modelo sa pagtatangkang pabilisin ang kanilang mga operasyon sa pagbuo ng malware. Ngunit ang paggamit na ito rin ang nagbigay sa amin ng pagkakataong mabilis na matukoy at maputol ang banta habang tila nasa maagang yugto pa lamang ito.

Bagama't kayang kumuha ng malware na ito ng mas mataas na pribilehiyo, manatili sa system, mangalap ng mga kredensyal, at magbigay ng remote access, hindi naman bago ang mga kakayahang ito. Bagama't malamang na aktibo na ang malware na ito sa mga totoong system, at may ilang sample na lumitaw sa VirusTotal, wala kaming nakitang ebidensya ng malawakang interes o pamamahagi.