Kybernetická operace: Phishing a podpora skriptování

Tato případová studie byla původně zveřejněna ve zprávě OpenAI z října 2025⁠(otevře se v novém okně).

Identifikovali jsme a zablokovali skupinu účtů ChatGPT zapojených do aktivit, které se překrývaly s veřejnými zprávami o skupinách hrozeb označovaných v oboru jako UNK_DROPPITCH (Proofpoint) a UTA0388 (Volexity). Nejméně v jednom případě byla e-mailová adresa použitá k registraci účtu ChatGPT údajně využita také k rozesílání phishingových zpráv.

Aktéři hrozeb, kteří tyto účty provozovali, vykazovali znaky typické pro kybernetické operace sloužící zpravodajským potřebám ČLR: používali čínštinu a zaměřovali se na tchajwanský polovodičový průmysl, americké akademické instituce a think-tanky i organizace spojené s etnickými a politickými skupinami kritizujícími Komunistickou stranu Číny, někdy označovanými jako „pět jedů“.

Náš model neposkytl žádné nové útočné schopnosti. Zdá se, že operátoři používali naše modely především k postupnému zefektivňování stávajících pracovních postupů, zejména při tvorbě phishingového obsahu a ladění či úpravách svých nástrojů.

Aktéři používali ChatGPT ke dvěma hlavním úkolům: k tvorbě obsahu pro phishingové kampaně v několika jazycích, včetně zjednodušené i tradiční čínštiny, angličtiny a japonštiny, a k pomoci s vývojem nástrojů a malwaru. Jejich vývojová činnost odpovídala technicky zdatnému, ale nepříliš sofistikovanému aktérovi. Probírali například několik aspektů a nuancí použití AES k zabezpečení provozu C2, přesto však používali jednoduchý statický klíč.

Postup aktérů při tvorbě phishingového obsahu byl podrobný a schematický, což odpovídalo cílení na přesně vymezenou demografickou skupinu. Obvykle si nechávali vytvořit stručný, formálně zdvořilý e-mail od osoby vystupující jako zástupce akademické sféry, průmyslu nebo konference. Aktéři hrozeb často žádali o úpravu tónu, nahrazení výrazů regionálně obvyklými variantami nebo doplnění konkrétních odkazů na instituce. Ačkoli tyto cílené drobné úpravy naznačují soustavnou snahu zvýšit kvalitu původního obsahu, aktéři hrozeb neopravili některé prozrazující detaily, například nevěrohodné ukázkové kontaktní údaje v podpisových blocích.

Žádali o úryvky kódu a kontrolní seznamy, které by urychlily rutinní úkoly. Požadovali kód pro testování šifrovaných přenosů (HTTPS, TLS) při jednoduchém dotazování typu beacon, navrhovali úryvky v Go a PowerShellu pro výpis procesů, ukončování procesů podle názvu spustitelného souboru či shromažďování údajů o prostředí a zapojovali běžně dostupné skenery do obslužných skriptů v bashi a PowerShellu.

Model také žádali, aby navrhl jednoduché maskování a drobná vylepšení provozního zabezpečení (OPSEC), například přejmenování funkcí, úpravu hlaviček nebo skrytí řetězců. Během několika relací směřovali k základním prototypům řízení a kontroly odpovídajícím malwaru s nízkou až střední úrovní vyspělosti. Zahrnovaly smyčky keep-alive, jednoduché zadávání úloh přes HTTP(S) a obálky úloh a výsledků založené na JSON.

Implementační detaily některých vývojových aktivit aktéra v jazyce Go se překrývají s oborovými zprávami o malwaru označovaném jako GOVERSHELL (Volexity) nebo HealthKick (Proofpoint). To naznačuje, že se pomocí modelů snažil podpořit vývoj svého hlavního malwaru.

Vedle práce na těchto personách a vývoje nástrojů operátoři zkoumali další možnosti automatizace prostřednictvím DeepSeeku. Tato činnost připomínala průzkum možností automatizace hromadného phishingu, například pomocí analýzy webového obsahu, z níž by se automaticky vytvořil seznam e-mailových cílů a pro každý identifikovaný potenciální cíl také obsah, který by ho pravděpodobně zaujal. Nemůžeme nezávisle potvrdit, zda aktéři takovou automatizaci skutečně nasadili, ani který model případně nakonec použili.

Aktéři se pokoušeli využít naše modely k plánování a opakovanému zdokonalování šifrovaných komponent C2, pracovních postupů pro vzdálené spouštění příkazů a kulturně přizpůsobeného oslovování. Za hlavní přínos považovali spíše rychlost a lokalizaci než nové útočné schopnosti. Vytvářeli modelové výstupy, které zřejmě měly podpořit aktivity mimo naši platformu v několika operačních oblastech:

• Šifrované C2 a vzdálené spouštění: požadavky na vytvoření nebo opravu klient-serverového kódu v Go se šifrováním zpráv, například pomocí AES-GCM, obnovou klíčů relace, beacony se systémovými informacemi a serverovou konzolí pro zadávání příkazů PowerShellu přes standardní webové protokoly nebo kanál založený na WebSocketu.

• Ochrana provozu a úpravy OPSEC: požadavky zahrnovaly kód pro přechod z nešifrovaných WebSocketů na zabezpečené WebSockety (wss://) a z HTTP na HTTPS, vypnutí kontroly certifikátů v některých testech, maskování provozu pomocí CDN či koncového bodu TLS a zpracování větších zpráv bez pádu klienta.

• Průzkum a řízení procesů: požadavky na informace o zjišťování antivirových řešení pomocí PowerShellu, výpisu procesů a ukončování konkrétních procesů Edge či WebView2.

• Nastavení běžně dostupných skenerů: návody k instalaci a používání open-source nástrojů, jako jsou nuclei a fscan, na komerční linuxové infrastruktuře a k ukládání výsledků pro pozdější kontrolu.

• Phishingový a kontaktní obsah: tvorba přesvědčivých e-mailů v několika jazycích určených kontaktům z akademické sféry nebo průmyslu, včetně předmětů a stylu přizpůsobených místním zvyklostem.

Tyto aktivity spadají do kategorií LLM ATT&CK, mezi něž patří LLM-Optimized Payload Crafting, LLM-Enhanced Anomaly-Detection Evasion, LLM-Assisted Post-Compromise Activity, LLM-Assisted Reconnaissance and Discovery a LLM-Assisted Social Engineering.

Všechny účty spojené s touto aktivitou jsme zablokovali a relevantní indikátory jsme sdíleli s partnery v oboru. Aktéři se snažili především postupně zefektivňovat stávající pracovní postupy, mimo jiné vytvářením phishingových e-mailů připravených k odeslání a zkracováním cyklů úprav rutinního kódu a automatizace. Nezaznamenali jsme žádné důkazy, že by výstupy modelu umožnily schopnosti nad rámec dobře zdokumentovaných veřejných technik. Náš model neposkytl žádné nové útočné schopnosti. Výhoda, kterou aktéři hledali v pomoci modelu, spočívala v jazykové plynulosti, lokalizaci a vytrvalosti: pravděpodobně méně jazykových chyb, rychlejší tvorbě propojovacího kódu a pohotovějších úpravách, když něco selhalo.