Kibernetička operacija: alati za zlonamjerni softver rusofonih aktera
OpenAI je blokirao račune vjerojatno povezane s rusofonim kriminalnim skupinama koje su umjetnu inteligenciju upotrebljavale za izradu učitavača zlonamjernog softvera, slojeva za izbjegavanje otkrivanja, skripti za krađu vjerodajnica i C2 infrastrukture.
Ova studija slučaja izvorno je objavljena u izvješću OpenAI-ja za listopad 2025.(otvara se u novom prozoru)
Akter
Blokirali smo račune na ChatGPT‑u koji su pokušavali upotrijebiti model za razvoj i doradu zlonamjernog softvera, uključujući trojanca za udaljeni pristup, alate za krađu vjerodajnica i značajke za izbjegavanje otkrivanja. Čini se da su ti računi povezani s kriminalnim skupinama s ruskoga govornog područja jer smo uočili da na Telegramovu kanalu posvećenom tim akterima objavljuju dokaze o svojim aktivnostima. Na temelju istrage procjenjujemo da je ta aktivnost bila povezana s operatorom koji govori ruski, upravlja većim brojem računa te se koristi proxy poslužiteljima i kratkotrajnom infrastrukturom za hosting.
Ponašanje
Ovaj akter prijetnje služio se većim brojem računa na ChatGPT‑u prvenstveno za izradu prototipova i otklanjanje poteškoća u tehničkim komponentama koje omogućuju aktivnosti nakon iskorištavanja ranjivosti i krađu vjerodajnica, što je dobro poznato ponašanje takvih aktera. Model je odbijao izravne zahtjeve za izradu zlonamjernog sadržaja, pa je operator model obično upotrebljavao kako bi dobio osnovne dijelove koda, primjerice za pretvaranje kompajliranih izvršnih datoteka u shellcode, projektiranje učitavača koji rade u memoriji ili raščlanjivanje vjerodajnica iz preglednika. Akter prijetnje te je dijelove potom vjerojatno spajao u zlonamjerne radne procese.
Akter prijetnje upotrebljavao je naše modele i za generiranje koda za obfuskaciju te obrazaca „kriptera”, primjerice umetanje dopunskih naredbi i beskorisnih nizova, nadzor međuspremnika i jednostavne alate za izvlačenje podataka, poput alata za prijenos putem bota na Telegramu te skripti za arhiviranje i slanje. Ti rezultati nisu sami po sebi zlonamjerni, osim ako ih akter prijetnje izvan naše platforme ne upotrijebi u zlonamjerne svrhe.
Akter prijetnje služio se ChatGPT‑om pretežno za tehničke zadatke, poput rada s niskorazinskim PE / Win32 API-jem, obrade kolačića pomoću DPAPI-ja / AES GCM-a te automatizacije alata Chrome DevTools / CDP. Akter prijetnje slao je zahtjeve različitih razina složenosti: mnogi su upiti zahtijevali temeljito poznavanje platforme Windows i iterativno otklanjanje pogrešaka, dok su drugi automatizirali uobičajene zadatke, poput masovnog generiranja lozinki i slanja prijava za posao pomoću skripti. Operator se služio manjim brojem računa na ChatGPT‑u i u više je razgovora uzastopno dorađivao isti kod, što upućuje na kontinuirani razvoj, a ne na povremeno testiranje.
Rezultati
Naši modeli nisu upotrijebljeni za izvršavanje alata ni radnih procesa aktera prijetnje, a aktivnosti izvan platforme ne možemo neovisno potvrditi. Ovaj akter prijetnje pokušao je upotrijebiti naše modele za razvoj i doradu napadačkih alata i operativnih radnih procesa koji, čini se, omogućuju krađu vjerodajnica i kriptoimovine, prikriveno izvršavanje koda te upravljanje tajnom infrastrukturom.
Konkretno, ChatGPT su upotrebljavali za generiranje i uzastopnu doradu funkcionalnog koda te uputa za implementaciju izvršavanja u memoriji i učitavača shellcodea; zaobilaženje zaštita UAC / SmartScreen / Mark-of-the-Web; izdvajanje vjerodajnica / kolačića iz preglednika i izradu okvira za dešifriranje povezano s aplikacijom; raščlanjivanje novčanika u LevelDB-u i alate za preuzimanje / zamjenu sadržaja međuspremnika uz izvlačenje podataka; te komponente za udaljeni pristup (RAT), uključujući video i emulaciju unosa. U skladu s ugrađenim zaštitnim mjerama, naši su modeli odbijali zahtjeve koji su bili očito zlonamjerni i nisu imali nikakvu legitimnu primjenu.
Reprezentativni primjeri tih aktivnosti mogu se svrstati u okvir LLM ATT&CK na sljedeći način:
Aktivnost | Kategorija okvira LLM ATT&CK |
|---|---|
Pretvaranje EXE datoteka u shellcode neovisan o položaju; izrada učitavača koji rade u memoriji (VirtualAlloc / WriteProcessMemory / udaljena dretva); prevođenje među programskim jezicima za lance alata učitavača. | Izrada korisnog tereta optimizirana LLM-om |
Umetanje slojeva za obfuskaciju / pakiranje, kriptera i tehnika vjerojatno namijenjenih izmjeni PE potpisa ili drugom načinu skrivanja korisnog tereta od sustava AV/EDR. | Izbjegavanje otkrivanja anomalija poboljšano LLM-om |
Generiranje skripti i programskog koda vjerojatno namijenjenih izdvajanju / dešifriranju vjerodajnica i kolačića iz preglednika, raščlanjivanju novčanika u LevelDB-u, nadziranju ili zamjeni sadržaja međuspremnika te izvlačenju podataka kanalima botova, poput Telegrama. | Aktivnosti nakon kompromitacije uz pomoć LLM-a |
Izrada i dorada C2 infrastrukture i infrastrukture za tuneliranje, uključujući obrnute proxy poslužitelje, konfiguracije SOCKS5 / OpenVPN, tuneliranje udaljene radne površine te upute za otklanjanje pogrešaka i implementaciju udaljenog prijenosa sadržaja i emulacije unosa. | Profiliranje infrastrukture vođeno LLM-om |
Učinak
Onemogućili smo sve račune povezane s ovom aktivnošću i podijelili relevantne pokazatelje s partnerima u industriji. Nismo pronašli dokaze da je pristup našim modelima tim akterima pružio nove mogućnosti ili smjernice koje inače ne bi mogli pronaći u brojnim javno dostupnim izvorima. Naši modeli odbijali su izravne zahtjeve za izradu exploita i keyloggera.