Operācija “ScopeCreep”: ļaunprogrammatūras izstrāde krievu valodā

Šī gadījuma izpēte sākotnēji tika publicēta OpenAI 2025. gada jūnija⁠(atveras jaunā logā) ziņojumā.

Mēs bloķējām savstarpēji saistītu ChatGPT kontu grupu, ko, šķiet, pārvaldīja krieviski runājošs uzbrucējs. Šis uzbrucējs izmantoja mūsu modeļus, lai palīdzētu izstrādāt un pilnveidot Windows ļaunprogrammatūru, atkļūdot kodu vairākās programmēšanas valodās un izveidot savu komandvadības infrastruktūru.

Uzbrucējs demonstrēja zināšanas par Windows iekšējo darbību un veica dažus operacionālās drošības pasākumus. Tā kā operācijā galvenokārt tika izmantots ar Trojas zirgu inficēts spēļu tēmēkļa rīks un slēptas darbības taktika, mēs to nosaucām par “ScopeCreep”.

Šī uzbrucēja pieeja operacionālajai drošībai bija ievērības cienīga. Viņš reģistrēja ChatGPT kontus, izmantojot pagaidu e-pasta adreses, un katrā kontā veica tikai vienu sarunu par vienu nelielu koda uzlabojumu. Pēc tam viņš pārtrauca izmantot šo kontu un izveidoja jaunu.

Uzbrucējs izplatīja ScopeCreep ļaunprogrammatūru, izmantojot publiski pieejamu koda repozitoriju, kas uzdevās par likumīgu un populāru videospēļu tēmēkļa pārklājuma rīku (Crosshair-X). Lietotāji, kuri neko nenojaušot lejupielādēja un palaida ļaunprātīgo versiju, savā sistēmā aktivizēja ļaunprogrammatūras ielādētāju, kas no uzbrucēja infrastruktūras lejupielādēja un izpildīja papildu ļaunprātīgus failus.

Pēc tam ļaunprogrammatūrai bija paredzēts sākt vairāku posmu procesu, lai paaugstinātu privilēģijas, nodrošinātu slēptu, noturīgu klātbūtni sistēmā, informētu uzbrucēju un izzagtu sensitīvus datus, vienlaikus izvairoties no atklāšanas.

Uzbrucējs izmantoja mūsu modeli, lai pakāpeniski izstrādātu ļaunprogrammatūru, atkārtoti lūdzot ChatGPT ieviest konkrētas papildu funkcijas. ScopeCreep izmantoja dažādus paņēmienus ļaunprogrammatūras piegādei, izpildei, izvairīšanās no atklāšanas un datu izzagšanai, tostarp:

• C2 ļaunprātīgo kodu, kas izstrādāts, lai izvairītos no atklāšanas pēc signatūrām.

• Slēptu izpildi, izmantojot DLL sānielādi.

• Koda maskēšanu, izmantojot pielāgotu pakošanu ar Themida.

• Privilēģiju paaugstināšanu un izvairīšanos no atklāšanas.

• HTTPS izmantošanu 80. portā.

• Akreditācijas datu un sesiju zagšanu.

• Paziņojumu sūtīšanu uzbrucējam, izmantojot Telegram.

• Datplūsmas maskēšanu, izmantojot starpniekserverus.

Neraugoties uz uzbrucēja operacionālās drošības pasākumiem un pašā ļaunprogrammatūrā iestrādātajiem mehānismiem, kas palīdz izvairīties no atklāšanas, mūsu plaša mēroga ļaunprātīgu kiberdarbību atklāšanas process ļāva mums konstatēt šīs darbības. Mēs sadarbojāmies ar koda mitināšanas pakalpojuma sniedzēju, lai panāktu ļaunprātīgā repozitorija noņemšanu, un bloķējām visus ar šīm darbībām saistītos ChatGPT kontus.

Šīs kontu grupas mijiedarbība ar modeli aptvēra plašu izstrādes uzdevumu klāstu. Vienā sarunā uzbrucējs iesniedza Go koda fragmentu, kurā viņam neizdevās pareizi izpildīt HTTPS pieprasījumu, un lūdza modelim to atkļūdot. Citā gadījumā uzbrucējs lūdza palīdzību PowerShell komandu izmantošanā no Go koda, lai mainītu Windows Defender iestatījumus, meklējot veidu, kā programmatiski pievienot pretvīrusu pārbaudes izņēmumus.

Raksturīgus šo darbību piemērus var iedalīt pēc LVM ATT&CK ietvara šādi:

• LVM izmantošana faila python310.dll kompilēšanai, lai uzbrucēja kods tiktu izpildīts ikreiz, kad tiek palaists python.exe: izstrāde ar LVM palīdzību.

• Kļūdu novēršana saistībā ar SSL/TLS sertifikātiem, kas paredzēti HTTPS datplūsmas apkalpošanai 80. portā: izstrāde ar LVM palīdzību.

• Uz Flask balstīta C2 servera migrēšana uz darbam produkcijas vidē gatavu WSGI serveri ar modeļa palīdzību: izstrāde ar LVM palīdzību.

• PowerShell komandu izstrāde Go kodā, lai mainītu Windows Defender iestatījumus un pievienotu pretvīrusu pārbaudes izņēmumus: ar LVM uzlabota izvairīšanās no anomāliju atklāšanas.

• Kļūdu novēršana kodā, kas sūta paziņojumu uz uzbrucēja kontrolētu Telegram kanālu, kad ir uzlauzta jauna upura sistēma: darbības pēc sistēmas uzlaušanas ar LVM palīdzību.

Šajā posmā ScopeCreep ietekmi, iespējams, mazināja ātra ziņošana un cieša sadarbība ar nozares partneriem, kuri spēja panākt ļaunprātīgā repozitorija noņemšanu. Mēs bloķējām šī uzbrucēja izmantotos OpenAI kontus.

Mūsu vērtējumā šis uzbrucējs izmantoja mūsu modeļus, cenšoties paātrināt ļaunprogrammatūras izstrādi. Paradoksāli, bet tas mums arī deva iespēju ātri atklāt un apturēt apdraudējumu, turklāt, šķiet, jau tā sākumposmā.

Lai gan šīs ļaunprogrammatūras iespējas ietver privilēģiju paaugstināšanu, noturīgas klātbūtnes nodrošināšanu sistēmā, akreditācijas datu vākšanu un attālo piekļuvi, tās nav īpaši jaunas. Lai gan šī ļaunprogrammatūra, visticamāk, jau tika izmantota reālos uzbrukumos un daži tās paraugi bija parādījušies VirusTotal, mēs nekonstatējām pierādījumus plašai interesei par to vai plašai tās izplatībai.