Kybernetická operácia: malvérové nástroje rusky hovoriacich aktérov
OpenAI zablokovala účty pravdepodobne prepojené s rusky hovoriacimi zločineckými skupinami, ktoré pomocou AI vytvárali loadery malvéru, vrstvy na obchádzanie detekcie, skripty na krádež prihlasovacích údajov a infraštruktúru C2.
Táto prípadová štúdia bola pôvodne publikovaná v správe OpenAI z októbra 2025(otvorí sa v novom okne).
Aktér
Zablokovali sme účty ChatGPT, ktoré sa pokúšali použiť model na vývoj a zdokonaľovanie malvéru vrátane trójskeho koňa na vzdialený prístup, nástrojov na krádež prihlasovacích údajov a funkcií na obchádzanie detekcie. Zdá sa, že tieto účty sú prepojené s rusky hovoriacimi zločineckými skupinami, keďže sme zaznamenali, že dôkazy o svojej činnosti zverejňovali v kanáli na Telegrame venovanom týmto aktérom. Na základe nášho vyšetrovania usudzujeme, že táto aktivita súvisela s rusky hovoriacim operátorom, ktorý spravoval viacero účtov a využíval proxy servery a krátkodobú hostingovú infraštruktúru.
Správanie
Tento aktér hrozby používal viacero účtov ChatGPT najmä na prototypovanie a riešenie problémov s technickými komponentmi umožňujúcimi činnosti po prieniku a krádež prihlasovacích údajov, ktoré sú pre tento typ aktéra dobre známe. Model odmietal priame žiadosti o vytvorenie škodlivého obsahu, preto operátor model zvyčajne používal na získavanie čiastkového kódu, napríklad na konverziu skompilovaných spustiteľných súborov na shellcode, návrh loaderov fungujúcich v pamäti alebo analýzu prihlasovacích údajov z prehliadačov. Aktér hrozby potom tieto časti pravdepodobne spájal do škodlivých pracovných postupov.
Aktér hrozby používal naše modely aj na generovanie kódu na obfuskáciu a vzorov typu „crypter“, napríklad na vkladanie výplňových inštrukcií a nepotrebných sekvencií, monitorovanie schránky a vytváranie jednoduchých pomocných nástrojov na exfiltráciu, ako sú nástroj na nahrávanie súborov cez bota na Telegrame a skripty na archiváciu a odosielanie údajov. Tieto výstupy samy osebe nie sú škodlivé, pokiaľ ich aktér hrozby mimo našej platformy nepoužije škodlivým spôsobom.
Aktér hrozby používal ChatGPT prevažne na technické úlohy, ako je nízkoúrovňová práca s PE/Win32 API, spracovanie súborov cookie pomocou DPAPI/AES-GCM a automatizácia Chrome DevTools/CDP. Aktér hrozby zadával požiadavky s rôznou mierou sofistikovanosti: mnohé prompty vyžadovali hlboké znalosti platformy Windows a opakované ladenie, zatiaľ čo iné automatizovali bežné úlohy, ako je hromadné generovanie hesiel a odosielanie žiadostí o zamestnanie pomocou skriptov. Operátor používal malý počet účtov ChatGPT a v rôznych konverzáciách opakovane upravoval ten istý kód, čo zodpovedá skôr priebežnému vývoju než príležitostnému testovaniu.
Výstupy
Naše modely neboli použité na spustenie žiadnych nástrojov ani pracovných postupov aktéra hrozby a nedokážeme nezávisle overiť žiadnu aktivitu mimo našej platformy. Tento aktér hrozby sa pokúšal použiť naše modely na vývoj a zdokonaľovanie útočných nástrojov a operačných pracovných postupov, ktoré zrejme umožňujú krádež prihlasovacích údajov a kryptoaktív, skryté spúšťanie kódu a správu utajenej infraštruktúry.
Konkrétne používal ChatGPT na generovanie a opakované vylepšovanie funkčného kódu a pokynov na nasadenie pre spúšťanie v pamäti a loadery shellcode; obchádzanie UAC, SmartScreen a Mark-of-the-Web; extrakciu prihlasovacích údajov a súborov cookie z prehliadačov a pomocný kód na dešifrovanie viazané na aplikáciu; analýzu databáz LevelDB kryptopeňaženiek a nástroje na ovládnutie či nahradenie obsahu schránky s exfiltráciou; a komponenty na vzdialený prístup (RAT) vrátane emulácie videa a vstupov. V súlade so svojimi ochrannými mechanizmami naše modely odmietali požiadavky, ktoré boli jednoznačne škodlivé a nemali žiadne legitímne využitie.
Reprezentatívne príklady týchto aktivít možno zaradiť do rámca LLM ATT&CK takto:
Aktivita | Kategória rámca LLM ATT&CK |
|---|---|
Konverzia súborov EXE na pozične nezávislý shellcode; vytváranie loaderov fungujúcich v pamäti (VirtualAlloc/WriteProcessMemory/vzdialené vlákno); prevody medzi programovacími jazykmi pre reťazce nástrojov loaderov. | Tvorba payloadov optimalizovaná pomocou LLM |
Vkladanie vrstiev na obfuskáciu a balenie, crypterov a techník pravdepodobne určených na zmenu signatúr PE alebo iné skrytie payloadov pred systémami AV/EDR. | Obchádzanie detekcie anomálií s podporou LLM |
Generovanie skriptov a programového kódu pravdepodobne určeného na extrakciu či dešifrovanie prihlasovacích údajov a súborov cookie z prehliadačov, analýzu databáz LevelDB kryptopeňaženiek, monitorovanie alebo nahrádzanie obsahu schránky a exfiltráciu prostredníctvom kanálov botov, napríklad na Telegrame. | Činnosť po prieniku s podporou LLM |
Budovanie a zdokonaľovanie infraštruktúry C2 a tunelovania vrátane reverzných proxy serverov, konfigurácií SOCKS5/OpenVPN, tunelovania vzdialenej pracovnej plochy a pokynov na ladenie a nasadenie vzdialeného streamovania a emulácie vstupov. | Profilovanie infraštruktúry s podporou LLM |
Vplyv
Deaktivovali sme všetky účty spojené s touto aktivitou a relevantné indikátory sme poskytli partnerom v odvetví. Nenašli sme žiadne dôkazy, že by prístup k našim modelom poskytol týmto aktérom nové schopnosti alebo postupy, ktoré by inak nemohli získať z viacerých verejne dostupných zdrojov. Naše modely odmietali priame žiadosti týkajúce sa exploitov a keyloggerov.