Kibernetička operacija: alati za zlonamjerni softver na ruskom jeziku
OpenAI je blokirao račune vjerovatno povezane s kriminalnim grupama koje govore ruski, a koje su koristile AI za izradu učitavača zlonamjernog softvera, slojeva za izbjegavanje otkrivanja, skripti za krađu pristupnih podataka i C2 infrastrukture.
Ova studija slučaja prvobitno je objavljena u OpenAI-jevom izvještaju za oktobar 2025.(otvara se u novom prozoru).
Akter
Blokirali smo ChatGPT račune koji su pokušavali koristiti model za razvoj i usavršavanje zlonamjernog softvera, uključujući trojanca za daljinski pristup, alate za krađu pristupnih podataka i funkcije za izbjegavanje otkrivanja. Čini se da su ti računi povezani s kriminalnim grupama koje govore ruski jer smo primijetili da na Telegram kanalu posvećenom tim akterima objavljuju dokaze o svojim aktivnostima. Na osnovu naše istrage procjenjujemo da je ova aktivnost bila povezana s operatorom koji govori ruski, upravlja većim brojem računa te koristi proxy servere i infrastrukturu za privremeni hosting.
Ponašanje
Ovaj akter prijetnje koristio je više ChatGPT računa prvenstveno za izradu prototipa i otklanjanje problema u tehničkim komponentama koje omogućavaju aktivnosti nakon iskorištavanja ranjivosti i krađu pristupnih podataka, što su dobro poznate aktivnosti ove vrste aktera. Model je odbijao direktne zahtjeve za generiranje zlonamjernog sadržaja, pa je operator uglavnom pokušavao od modela dobiti kod za pojedinačne komponente, poput pretvaranja kompajliranih izvršnih datoteka u shellcode, izrade učitavača koji rade u memoriji ili obrade pristupnih podataka iz preglednika. Akter prijetnje zatim je te komponente vjerovatno povezivao u zlonamjerne radne tokove.
Akter prijetnje koristio je naše modele i za generiranje koda za obfuskaciju i obrazaca za „kriptere“, poput umetanja instrukcija za popunjavanje i beskorisnih sekvenci, praćenja međuspremnika te jednostavnih alata za izvlačenje podataka, kao što su alat za prijenos putem Telegram bota i skripte za arhiviranje i slanje. Ti rezultati sami po sebi nisu zlonamjerni, osim ako ih akter prijetnje izvan naše platforme ne koristi u zlonamjerne svrhe.
Akter prijetnje koristio je ChatGPT pretežno za tehničke zadatke, poput rada na niskom nivou s PE / Win32 API-jem, obrade kolačića pomoću DPAPI-ja / AES GCM-a te automatizacije Chrome DevTools-a / CDP-a. Akter prijetnje slao je zahtjeve različitih nivoa složenosti: mnogi upiti zahtijevali su temeljito poznavanje platforme Windows i iterativno otklanjanje grešaka, dok su drugi automatizirali uobičajene zadatke poput masovnog generiranja lozinki i slanja prijava za posao pomoću skripti. Operator je koristio mali broj ChatGPT računa i kroz više razgovora uzastopno dorađivao isti kod, što ukazuje na kontinuirani razvoj, a ne na povremeno testiranje.
Rezultati
Naši modeli nisu korišteni za pokretanje alata i radnih tokova aktera prijetnje, a aktivnosti izvan naše platforme ne možemo nezavisno potvrditi. Ovaj akter prijetnje pokušao je koristiti naše modele za razvoj i usavršavanje napadačkih alata i operativnih radnih tokova koji su, čini se, namijenjeni krađi pristupnih podataka i kriptoimovine, prikrivenom izvršavanju koda i upravljanju tajnom infrastrukturom.
Konkretno, koristio je ChatGPT za generiranje i iterativno dorađivanje funkcionalnog koda i uputa za implementaciju radi izvršavanja u memoriji i učitavanja shellcodea; zaobilaženja UAC-a / SmartScreena / oznake Mark-of-the-Web; izdvajanja pristupnih podataka / kolačića iz preglednika i izrade osnove za dešifriranje vezano za aplikaciju; obrade LevelDB baza novčanika i izrade alata za preuzimanje kontrole nad međuspremnikom / zamjenu njegovog sadržaja uz izvlačenje podataka; te komponenti za daljinski pristup (RAT), uključujući emulaciju videa i unosa. U skladu sa svojim zaštitnim mjerama, naši modeli odbili su zahtjeve koji su bili očigledno zlonamjerni i nisu imali legitimnu primjenu.
Reprezentativni primjeri ovih aktivnosti mogu se mapirati na okvir LLM ATT&CK na sljedeći način:
Aktivnost | Kategorija okvira LLM ATT&CK |
|---|---|
Pretvaranje EXE datoteka u pozicijski nezavisan shellcode; izrada učitavača koji rade u memoriji (VirtualAlloc / WriteProcessMemory / udaljena nit); prebacivanje između programskih jezika za lance alata za učitavanje. | Izrada napadačkog koda optimizirana pomoću LLM-a |
Dodavanje slojeva za obfuskaciju / pakovanje, kriptera i tehnika vjerovatno namijenjenih mijenjanju PE potpisa ili drugom načinu skrivanja napadačkog koda od AV/EDR sistema. | Izbjegavanje otkrivanja anomalija unaprijeđeno pomoću LLM-a |
Generiranje skripti i programskog koda vjerovatno namijenjenih izdvajanju / dešifriranju pristupnih podataka i kolačića iz preglednika, obradi LevelDB baza novčanika, praćenju ili zamjeni sadržaja međuspremnika te izvlačenju podataka putem kanala botova kao što je Telegram. | Aktivnosti nakon kompromitacije potpomognute LLM-om |
Izrada i usavršavanje C2 infrastrukture i infrastrukture za tuneliranje, uključujući obrnute proxy servere, konfiguracije za SOCKS5 / OpenVPN, tuneliranje udaljene radne površine te upute za otklanjanje grešaka i implementaciju daljinskog prijenosa i emulacije unosa. | Profiliranje infrastrukture uz pomoć LLM-a |
Utjecaj
Onemogućili smo sve račune povezane s ovom aktivnošću i podijelili relevantne pokazatelje s partnerima u industriji. Nismo pronašli dokaze da je pristup našim modelima tim akterima pružio nove mogućnosti ili smjernice koje inače ne bi mogli dobiti iz brojnih javno dostupnih izvora. Naši modeli odbili su direktne zahtjeve za izradu exploita i keyloggera.