Kibernetska operacija: rusko govoreči razvijalci orodij za zlonamerno programsko opremo
OpenAI je blokiral račune, verjetno povezane z rusko govorečimi kriminalnimi združbami, ki so z umetno inteligenco izdelovale nalagalnike zlonamerne programske opreme, plasti za izogibanje zaznavi, skripte za krajo poverilnic in infrastrukturo C2.
Ta študija primera je bila prvotno objavljena v poročilu OpenAI iz oktobra 2025(odpre se v novem oknu).
Akter
Blokirali smo račune ChatGPT, s katerimi so uporabniki poskušali model uporabiti za razvoj in izpopolnjevanje zlonamerne programske opreme, vključno s trojanskim konjem za oddaljeni dostop, orodji za krajo poverilnic in funkcijami za izogibanje zaznavi. Kaže, da so bili ti računi povezani z rusko govorečimi kriminalnimi združbami, saj smo opazili, da so dokaze o svojih dejavnostih objavljali v kanalu Telegram, namenjenem tem akterjem. Na podlagi preiskave ocenjujemo, da je bila ta dejavnost povezana z rusko govorečim Operatorjem, ki je upravljal več računov ter uporabljal posredniške strežnike in kratkotrajno infrastrukturo gostovanja.
Vedenje
Ta akter grožnje je več računov ChatGPT uporabljal predvsem za izdelavo prototipov in odpravljanje težav s tehničnimi komponentami, ki omogočajo dejavnosti po vdoru in krajo poverilnic, kar je za tovrstne akterje groženj dobro znano ravnanje. Model je zavrnil neposredne zahteve za ustvarjanje zlonamerne vsebine, zato je Operator model običajno uporabljal za pridobivanje posameznih gradnikov kode, na primer za pretvarjanje prevedenih izvedljivih datotek v lupinsko kodo, načrtovanje nalagalnikov v pomnilniku ali razčlenjevanje poverilnic brskalnikov. Akter grožnje je te gradnike nato verjetno združil v zlonamerne delovne postopke.
Akter grožnje je naše modele uporabljal tudi za ustvarjanje kode za zakrivanje in vzorce »šifrirnikov«, kot so vstavljanje dopolnilnih ukazov in odvečnih zaporedij, spremljanje odložišča ter preprosta orodja za iznos podatkov, denimo nalagalnik prek bota Telegram in skripte za arhiviranje ter pošiljanje. Ti rezultati sami po sebi niso zlonamerni, razen če jih akter grožnje tako uporabi zunaj naše platforme.
Akter grožnje je ChatGPT uporabljal predvsem za tehnične naloge, kot so nizkonivojsko delo s PE/Win32 API, obravnava piškotkov z DPAPI/AES GCM ter avtomatizacija orodij Chrome DevTools/CDP. Akter grožnje je podajal tako zelo kot manj zahtevne zahteve: številni pozivi so zahtevali poglobljeno poznavanje platforme Windows in večkratno odpravljanje napak, drugi pa so avtomatizirali splošno dostopne naloge, kot sta množično ustvarjanje gesel in prijavljanje na delovna mesta s skriptami. Operator je uporabljal manjše število računov ChatGPT in isto kodo izpopolnjeval v več pogovorih, kar je značilno za stalen razvoj, ne pa za občasno preskušanje.
Rezultati
Naši modeli niso bili uporabljeni za izvajanje orodij ali delovnih postopkov akterja grožnje, dejavnosti zunaj naše platforme pa ne moremo neodvisno preveriti. Ta akter grožnje je naše modele poskušal uporabiti za razvoj in izpopolnjevanje napadalnih orodij ter operativnih delovnih postopkov, ki so bili očitno namenjeni kraji poverilnic in kriptosredstev, prikritemu izvajanju kode ter upravljanju tajne infrastrukture.
Natančneje, ChatGPT je uporabljal za ustvarjanje in izpopolnjevanje delujoče kode ter navodil za uvedbo izvajanja v pomnilniku in nalagalnikov lupinske kode; obhode UAC, SmartScreen in Mark-of-the-Web; ogrodja za pridobivanje poverilnic in piškotkov iz brskalnikov ter dešifriranje podatkov, vezanih na aplikacije; razčlenjevanje denarnic LevelDB in orodja za prevzem oziroma zamenjavo vsebine odložišča z iznosom podatkov; ter komponente za oddaljeni dostop (RAT), vključno z videom in posnemanjem vnosa. Naši modeli so skladno z vgrajenimi zaščitnimi ukrepi zavrnili zahteve, ki so bile očitno zlonamerne in niso imele nobene zakonite uporabe.
Značilne primere teh dejavnosti lahko v okvir ATT&CK za velike jezikovne modele umestimo tako:
Dejavnost | Kategorija okvira ATT&CK za velike jezikovne modele |
|---|---|
Pretvarjanje datotek EXE v od položaja neodvisno lupinsko kodo; izdelava nalagalnikov v pomnilniku (VirtualAlloc/WriteProcessMemory/oddaljena nit); pretvarjanje med programskimi jeziki za verige orodij nalagalnikov. | Izdelava koristnih vsebin, optimizirana z velikimi jezikovnimi modeli |
Dodajanje plasti za zakrivanje in pakiranje, šifrirnikov ter tehnik, ki so bile verjetno namenjene spreminjanju podpisov PE ali drugačnemu skrivanju koristnih vsebin pred sistemi AV/EDR. | Izogibanje zaznavanju anomalij s pomočjo velikih jezikovnih modelov |
Ustvarjanje skript in programske kode, ki so bile verjetno namenjene pridobivanju oziroma dešifriranju poverilnic in piškotkov brskalnikov, razčlenjevanju podatkovnih zbirk LevelDB denarnic, spremljanju ali zamenjavi vsebine odložišča ter iznosu podatkov prek kanalov botov, kot je Telegram. | Dejavnosti po vdoru s pomočjo velikih jezikovnih modelov |
Vzpostavljanje in izpopolnjevanje infrastrukture C2 ter tuneliranja, vključno s povratnimi posredniškimi strežniki, konfiguracijami SOCKS5/OpenVPN, tuneliranjem oddaljenega namizja ter navodili za odpravljanje napak in uvedbo oddaljenega pretakanja ter posnemanja vnosa. | Profiliranje infrastrukture s pomočjo velikih jezikovnih modelov |
Vpliv
Onemogočili smo vse račune, povezane s to dejavnostjo, in ustrezne kazalnike delili s partnerji v panogi. Nismo našli dokazov, da bi dostop do naših modelov tem akterjem omogočil nove zmogljivosti ali pristope, ki jih sicer ne bi mogli pridobiti iz številnih javno dostopnih virov. Naši modeli so zavrnili neposredne zahteve za ustvarjanje izkoriščevalske kode in zapisovalnikov tipk.