Kybernetická operace: Nástroje malwaru ruskojazyčných skupin

Tato případová studie byla původně zveřejněna ve zprávě OpenAI z října 2025⁠(otevře se v novém okně).

Zablokovali jsme účty ChatGPT, které se pokoušely využívat model k vývoji a zdokonalování malwaru, včetně trojského koně pro vzdálený přístup, nástrojů ke krádeži přihlašovacích údajů a funkcí pro obcházení detekce. Zdá se, že tyto účty byly napojené na ruskojazyčné zločinecké skupiny, protože jsme zaznamenali, že důkazy o své činnosti zveřejňovaly v telegramovém kanálu zaměřeném na tyto aktéry. Na základě našeho šetření se domníváme, že tato aktivita souvisela s ruskojazyčným operátorem, který spravoval několik účtů a využíval proxy servery a krátkodobou hostingovou infrastrukturu.

Tento aktér hrozby používal několik účtů ChatGPT především k vytváření prototypů a řešení problémů s technickými komponentami umožňujícími činnost po napadení systému a krádeže přihlašovacích údajů, což jsou pro tento typ aktéra dobře známé aktivity. Model odmítal přímé žádosti o generování škodlivého obsahu. Operátor proto model obvykle využíval k získávání dílčích částí kódu, například k převodu zkompilovaných spustitelných souborů na shellcode, návrhu zavaděčů spouštěných v paměti nebo zpracování přihlašovacích údajů z prohlížečů. Aktér hrozby je pak pravděpodobně skládal do škodlivých pracovních postupů.

Aktér hrozby také používal naše modely ke generování kódu pro obfuskaci a vzorů „krypterů“, například k vkládání výplňových instrukcí a nepotřebných sekvencí, sledování schránky a tvorbě jednoduchých nástrojů pro exfiltraci, jako jsou nástroj pro nahrávání přes bota na Telegramu a skripty pro zabalení a odeslání dat. Tyto výstupy samy o sobě nejsou škodlivé, pokud je aktér hrozby tímto způsobem nepoužije mimo naši platformu.

Aktér hrozby používal ChatGPT převážně k technickým úlohám, jako je nízkoúrovňová práce s PE / Win32 API, zpracování cookies pomocí DPAPI / AES GCM a automatizace Chrome DevTools / CDP. Aktér hrozby zadával požadavky s různou mírou technické náročnosti: mnoho promptů vyžadovalo hluboké znalosti platformy Windows a opakované ladění, zatímco jiné automatizovaly běžné úlohy, jako je hromadné generování hesel a podávání žádostí o zaměstnání pomocí skriptů. Operátor používal několik účtů ChatGPT a napříč konverzacemi opakovaně upravoval tentýž kód, což odpovídá spíše průběžnému vývoji než příležitostnému testování.

Naše modely nebyly použity ke spuštění žádných nástrojů ani pracovních postupů aktéra hrozby a jakoukoli aktivitu mimo naši platformu nemůžeme nezávisle ověřit. Tento aktér hrozby se pokoušel používat naše modely k vývoji a zdokonalování útočných nástrojů a operačních postupů, které zřejmě umožňují krádeže přihlašovacích údajů a kryptoaktiv, skryté spouštění kódu a správu utajené infrastruktury.

Konkrétně používal ChatGPT ke generování a opakovaným úpravám funkčního kódu a pokynů k nasazení pro spouštění v paměti a zavaděče shellcodu; obcházení UAC / SmartScreen / Mark-of-the-Web; extrakci přihlašovacích údajů a cookies z prohlížečů a podpůrný kód pro dešifrování vázané na aplikaci; zpracování peněženek v LevelDB a nástroje k ovládnutí či nahrazování obsahu schránky s exfiltrací; a komponenty pro vzdálený přístup (RAT), včetně videa a emulace vstupu. Naše modely v souladu se svými ochrannými mechanismy odmítaly požadavky, které byly zjevně škodlivé a neměly žádné legitimní využití.

Reprezentativní příklady těchto aktivit lze přiřadit k rámci LLM ATT&CK následovně:

Deaktivovali jsme všechny účty spojené s touto aktivitou a příslušné indikátory jsme sdíleli s partnery v oboru. Nenašli jsme žádné důkazy, že by přístup k našim modelům poskytl těmto aktérům nové schopnosti nebo postupy, které by jinak nemohli získat z řady veřejně dostupných zdrojů. Naše modely odmítaly přímé žádosti týkající se exploitů a keyloggerů.