Operace „ScopeCreep“: Vývoj malwaru rusky mluvícím útočníkem

Tato případová studie byla původně zveřejněna ve zprávě OpenAI z června 2025⁠(otevře se v novém okně).

Zablokovali jsme skupinu účtů ChatGPT, které zřejmě provozoval rusky mluvící útočník. Útočník využíval naše modely jako pomoc při vývoji a zdokonalování malwaru pro Windows, ladění kódu v několika jazycích a budování infrastruktury pro řízení a ovládání.

Útočník prokázal znalost vnitřního fungování systému Windows a uplatňoval některé postupy operační bezpečnosti. Operaci jsme nazvali „ScopeCreep“, protože se zaměřovala na využití herního nástroje pro zobrazení zaměřovacího kříže, do nějž byl vložen trojský kůň, a používala skryté taktiky.

Tento útočník přistupoval k operační bezpečnosti pozoruhodným způsobem. K registraci účtů ChatGPT používal dočasné e-mailové adresy a každý účet využil jen k jedné konverzaci o jediném dílčím vylepšení svého kódu. Poté původní účet přestal používat a vytvořil si nový.

Útočník šířil malware ScopeCreep prostřednictvím veřejně dostupného úložiště kódu, které se vydávalo za legitimní a oblíbený nástroj Crosshair-X pro zobrazení zaměřovacího kříže ve videohrách. Nic netušící uživatelé, kteří si škodlivou verzi stáhli a spustili, tím ve svém systému aktivovali zavaděč malwaru. Ten z útočníkovy infrastruktury stáhl a spustil další škodlivé soubory.

Malware byl navržen tak, aby následně zahájil vícestupňový proces, během něhož zvýší svá oprávnění, skrytě si zajistí trvalý přístup, upozorní útočníka a odcizí citlivá data, aniž by byl odhalen.

Útočník využíval náš model k postupnému vývoji malwaru a opakovaně žádal ChatGPT o implementaci dalších konkrétních funkcí. ScopeCreep využíval řadu technik pro doručení, spuštění, vyhýbání se detekci a odcizení dat, například:

• Škodlivé komponenty C2 navržené tak, aby se vyhnuly detekci na základě signatur.

• Skryté spouštění pomocí podstrčení knihoven DLL (DLL side-loading).

• Znečitelnění kódu pomocí vlastního balení nástrojem Themida.

• Zvyšování oprávnění a vyhýbání se detekci.

• HTTPS na portu 80.

• Krádeže přihlašovacích údajů a relací.

• Upozorňování útočníka přes Telegram.

• Maskování síťového provozu pomocí proxy serverů.

Navzdory útočníkovým opatřením v oblasti operační bezpečnosti a mechanismům pro vyhýbání se detekci v samotném malwaru jsme tuto aktivitu odhalili díky našemu procesu detekce kybernetického zneužití, který funguje ve velkém měřítku. Ve spolupráci s poskytovatelem hostingu kódu jsme zajistili odstranění škodlivého úložiště a zablokovali všechny účty ChatGPT spojené s touto aktivitou.

Interakce s modelem z této skupiny účtů zahrnovaly širokou škálu vývojářských úkolů. V jednom případě útočník předložil úryvek kódu v jazyce Go, v němž měl potíže s požadavkem HTTPS, a požádal model o jeho odladění. V jiném případě útočník požádal o pomoc s využitím příkazů PowerShellu z jazyka Go ke změně nastavení Windows Defenderu. Hledal způsob, jak programově přidávat antivirové výjimky.

Reprezentativní příklady těchto aktivit lze přiřadit k rámci LLM ATT&CK následovně:

• Využití LLM ke kompilaci souboru python310.dll tak, aby se útočníkův kód spustil při každém spuštění python.exe: vývoj s podporou LLM.

• Řešení chyb s certifikáty SSL/TLS určenými k obsluze provozu HTTPS na portu 80: vývoj s podporou LLM.

• Migrace serveru pro řízení a ovládání (C2) založeného na Flasku na server WSGI vhodný pro produkční provoz za pomoci modelu: vývoj s podporou LLM.

• Vývoj příkazů PowerShellu v jazyce Go ke změně nastavení Windows Defenderu a přidávání antivirových výjimek: vyhýbání se detekci anomálií vylepšené pomocí LLM.

• Ladění chyb v kódu, který po napadení nové oběti odesílá upozornění do kanálu Telegramu ovládaného útočníkem: činnost po napadení s podporou LLM.

V této fázi mohlo dopad operace ScopeCreep zmírnit rychlé nahlášení a úzká spolupráce s partnery z oboru, kteří dokázali škodlivé úložiště odstranit. Zablokovali jsme účty OpenAI, které tento útočník používal.

Podle našeho hodnocení útočník využíval naše modely ve snaze urychlit vývoj svého malwaru. Paradoxně nám tím také umožnil hrozbu rychle odhalit a narušit, zřejmě již v jejích raných fázích.

Tento malware sice umožňuje zvyšování oprávnění, zajištění trvalého přístupu, sběr přihlašovacích údajů a vzdálený přístup, tyto schopnosti však nejsou nijak zvlášť nové. Přestože byl tento malware pravděpodobně aktivně nasazen a některé jeho vzorky se objevily na VirusTotalu, nezaznamenali jsme důkazy o jeho rozsáhlém šíření ani o širším zájmu o něj.