Operácia „ScopeCreep“: vývoj malvéru rusky hovoriacim útočníkom

Táto prípadová štúdia bola pôvodne uverejnená v správe spoločnosti OpenAI z júna 2025⁠(otvorí sa v novom okne).

Zablokovali sme skupinu účtov ChatGPT, ktoré zrejme prevádzkoval rusky hovoriaci útočník. Tento aktér používal naše modely na pomoc pri vývoji a zdokonaľovaní malvéru pre Windows, ladení kódu vo viacerých jazykoch a budovaní infraštruktúry na velenie a riadenie.

Aktér preukázal znalosť vnútorného fungovania systému Windows a uplatňoval určité postupy operačnej bezpečnosti. Operáciu sme nazvali „ScopeCreep“, pretože sa zameriavala na používanie herného nástroja na zobrazenie zameriavacieho kríža, do ktorého bol vložený trójsky kôň, a využívala taktiky na utajenie činnosti.

Tento útočník mal pozoruhodný prístup k operačnej bezpečnosti. Na registráciu účtov ChatGPT používal dočasné e-mailové adresy, pričom každý účet ChatGPT využil len na jednu konverzáciu o jednom čiastkovom vylepšení svojho kódu. Pôvodný účet potom prestal používať a vytvoril si nový.

Aktér šíril malvér ScopeCreep prostredníctvom verejne dostupného repozitára kódu, ktorý sa vydával za legitímny a obľúbený nástroj na prekrytie obrazu vo videohrách zameriavacím krížom (Crosshair-X). Nič netušiaci používatelia, ktorí si stiahli a spustili škodlivú verziu, tým vo svojom systéme spustili zavádzač malvéru. Ten následne stiahol z infraštruktúry útočníka ďalšie škodlivé súbory a spustil ich.

Malvér bol následne navrhnutý tak, aby spustil viacstupňový proces na zvýšenie oprávnení, skryté udržanie prístupu, upozornenie útočníka a odcudzenie citlivých údajov, pričom sa vyhýbal odhaleniu.

Útočník využíval náš model na pomoc pri postupnom vývoji malvéru a opakovane žiadal ChatGPT o implementáciu ďalších konkrétnych funkcií. ScopeCreep využíval celý rad techník na doručenie, spustenie, vyhýbanie sa odhaleniu a exfiltráciu údajov vrátane:

• Škodlivého kódu C2 navrhnutého tak, aby sa vyhol detekcii založenej na signatúrach.

• Skrytého spúšťania pomocou podstrčenia knižnice DLL (DLL side-loading).

• Obfuskácie prostredníctvom vlastného balenia kódu nástrojom Themida.

• Zvyšovania oprávnení a vyhýbania sa odhaleniu.

• Komunikácie HTTPS cez port 80.

• Krádeže prihlasovacích údajov a relácií.

• Upozornení pre útočníka cez Telegram.

• Maskovania sieťovej prevádzky pomocou proxy serverov.

Napriek opatreniam útočníka v oblasti operačnej bezpečnosti a mechanizmom na vyhýbanie sa detekcii v samotnom malvéri sme túto aktivitu dokázali odhaliť vďaka nášmu procesu detekcie kybernetického zneužívania vo veľkom rozsahu. V spolupráci s poskytovateľom hostingu kódu sme zabezpečili odstránenie škodlivého repozitára a zablokovali všetky účty ChatGPT spojené s touto aktivitou.

Interakcie s modelom v rámci tejto skupiny účtov zahŕňali širokú škálu vývojových úloh. V jednej z nich útočník predložil úryvok kódu v jazyku Go, v ktorom mal problém s požiadavkou HTTPS, a požiadal model o opravu chyby. V inom prípade útočník žiadal o pomoc s používaním príkazov PowerShell cez Go na úpravu nastavení Windows Defendera, pričom hľadal spôsob, ako programovo pridávať antivírusové výnimky.

Reprezentatívne príklady týchto aktivít možno zaradiť do rámca LLM ATT&CK takto:

• Použitie LLM na kompiláciu súboru python310.dll tak, aby sa útočníkov kód vykonal pri každom spustení python.exe: vývoj s pomocou LLM.

• Riešenie chýb s certifikátmi SSL/TLS určenými na obsluhu komunikácie HTTPS na porte 80: vývoj s pomocou LLM.

• Migrácia servera C2 založeného na frameworku Flask na server WSGI pripravený na produkčnú prevádzku s pomocou modelu: vývoj s pomocou LLM.

• Tvorba príkazov PowerShell v jazyku Go na úpravu nastavení Windows Defendera a pridávanie antivírusových výnimiek: vyhýbanie sa detekcii anomálií zdokonalené pomocou LLM.

• Ladenie chýb v kóde, ktorý posiela upozornenie do útočníkom ovládaného kanála na Telegrame pri kompromitácii novej obete: aktivity po kompromitácii s pomocou LLM.

V tejto fáze mohlo rýchle nahlásenie a úzka spolupráca s partnermi z odvetvia, ktorí dokázali odstrániť škodlivý repozitár, zmierniť dosah operácie ScopeCreep. Zablokovali sme účty OpenAI, ktoré tento útočník používal.

Podľa nášho hodnotenia tento útočník využíval naše modely v snahe urýchliť vývoj svojho malvéru. Paradoxne nám to zároveň umožnilo hrozbu rýchlo identifikovať a narušiť, a to zrejme už v jej počiatočných fázach.

Hoci tento malvér umožňuje zvyšovanie oprávnení, udržanie prístupu, zber prihlasovacích údajov a vzdialený prístup, tieto schopnosti nie sú nijako zvlášť nové. Hoci bol tento malvér pravdepodobne aktívny v reálnom prostredí a niektoré vzorky sa objavili v službe VirusTotal, nezaznamenali sme dôkazy o širšom záujme ani o jeho rozsiahlom šírení.