Kiberművelet: orosz nyelvű kártevőeszközök
Az OpenAI olyan, vélhetően oroszul beszélő bűnözői csoportokhoz köthető fiókokat tiltott le, amelyek MI-vel készítettek kártevő-betöltőket, kijátszási rétegeket, hitelesítőadat-lopó szkripteket és C2-infrastruktúrát.
Ez az esettanulmány eredetileg az OpenAI 2025. októberi(új ablakban nyílik meg) jelentésében jelent meg.
Szereplő
Letiltottuk azokat a ChatGPT‑fiókokat, amelyek a modell segítségével próbáltak kártevőket fejleszteni és továbbfejleszteni, köztük egy távoli hozzáférést biztosító trójai programot, hitelesítőadat-lopókat és az észlelés elkerülését szolgáló funkciókat. Úgy tűnik, hogy ezek a fiókok oroszul beszélő bűnözői csoportokhoz kötődtek, mivel egy kifejezetten e szereplőknek fenntartott Telegram-csatornán bizonyítékokat tettek közzé a tevékenységükről. Vizsgálatunk alapján úgy ítéljük meg, hogy ez a tevékenység egy orosz nyelvű operátorhoz kapcsolódott, aki több fiókot kezelt, és proxy-, valamint rövid élettartamú tárhely-infrastruktúrát használt.
Viselkedés
A fenyegetési szereplő több ChatGPT‑fiókot használt, elsősorban a sikeres behatolás utáni műveleteket és a hitelesítő adatok ellopását lehetővé tevő technikai összetevők prototípusainak elkészítésére és hibakeresésére. Ezek az ilyen szereplőkre jellemző, jól ismert tevékenységek. A modell elutasította a rosszindulatú tartalom létrehozására irányuló közvetlen kéréseket, ezért az operátor jellemzően építőelemként használható kódot próbált kinyerni belőle: például lefordított futtatható fájlok shellkóddá alakítását, memóriában futó betöltők tervezését vagy böngészőben tárolt hitelesítő adatok feldolgozását. Ezeket a fenyegetési szereplő később feltehetően rosszindulatú munkafolyamatokká állította össze.
A fenyegetési szereplő a modelljeinkkel kódot is generált obfuszkációhoz és „crypter” mintákhoz, például kitöltő utasítások és felesleges szekvenciák beillesztéséhez, a vágólap figyeléséhez, valamint egyszerű adatkiszivárogtató segédprogramokhoz, köztük Telegram-boton keresztüli feltöltéshez és archiváló-továbbító szkriptekhez. Ezek a kimenetek önmagukban nem rosszindulatúak, csak akkor, ha egy fenyegetési szereplő a platformunkon kívül ilyen célra használja őket.
A fenyegetési szereplő főként technikai feladatokra használta a ChatGPT‑t, például alacsony szintű PE-/Win32 API-műveletekhez, DPAPI-/AES-GCM-alapú cookie-kezeléshez, valamint Chrome DevTools-/CDP-automatizáláshoz. A fenyegetési szereplő különböző összetettségű kéréseket fogalmazott meg: számos prompt mélyreható Windows-platformismeretet és iteratív hibakeresést igényelt, míg mások olyan általános feladatokat automatizáltak, mint a jelszavak tömeges generálása és a szkriptelt álláspályázás. Az operátor kevés ChatGPT‑fiókot használt, és több beszélgetésen át ugyanazt a kódot finomította. Ez a minta inkább folyamatos fejlesztésre, mint alkalmi tesztelésre utal.
Válaszok
Modelljeinket nem használták a fenyegetési szereplő eszközeinek vagy munkafolyamatainak végrehajtására, a platformon kívüli tevékenységeket pedig nem tudjuk függetlenül ellenőrizni. A fenyegetési szereplő modelljeinket olyan támadóeszközök és operatív munkafolyamatok fejlesztésére és finomítására próbálta használni, amelyek feltehetően hitelesítő adatok és kriptoeszközök ellopását, kód rejtett végrehajtását és titkos infrastruktúra kezelését teszik lehetővé.
Konkrétan működő kódot és telepítési útmutatást generáltak és finomítottak a ChatGPT‑vel a memórián belüli végrehajtáshoz és shellkódbetöltőkhöz; az UAC, a SmartScreen és a Mark-of-the-Web megkerüléséhez; böngészőben tárolt hitelesítő adatok és cookie-k kinyeréséhez, illetve alkalmazáshoz kötött visszafejtési keretrendszerekhez; LevelDB-alapú tárcák feldolgozásához, vágólap-eltérítő és -helyettesítő, adatkiszivárogtatást végző eszközökhöz; valamint távoli hozzáférésű trójai (RAT-) összetevőkhöz, beleértve a videó- és beviteli emulációt. A védelmi intézkedéseiknek megfelelően modelljeink elutasították az egyértelműen rosszindulatú, jogszerű felhasználási lehetőség nélküli kéréseket.
E tevékenységek jellemző példái az alábbiak szerint képezhetők le az LLM ATT&CK keretrendszerre:
Tevékenység | Az LLM ATT&CK keretrendszer kategóriája |
|---|---|
EXE-fájlok pozíciófüggetlen shellkóddá alakítása; memóriában futó betöltők készítése (VirtualAlloc / WriteProcessMemory / távoli szál); nyelvek közötti konverziók betöltőeszköz-láncokhoz. | LLM-re optimalizált hasznos kód készítése |
Obfuszkációs és csomagolórétegek, crypterek, valamint feltehetően a PE-aláírások módosítására vagy a hasznos kód AV-/EDR-rendszerek előli elrejtésére szolgáló technikák beillesztése. | LLM-mel továbbfejlesztett anomáliaészlelés-kijátszás |
Olyan szkriptek és programkódok generálása, amelyeket feltehetően a böngészőben tárolt hitelesítő adatok és cookie-k kinyerésére vagy visszafejtésére, tárcák LevelDB-adatainak feldolgozására, a vágólap tartalmának figyelésére vagy lecserélésére, illetve botcsatornákon – például a Telegramon – keresztüli adatkiszivárogtatásra terveztek. | LLM-mel támogatott, kompromittálás utáni tevékenység |
C2- és alagút-infrastruktúra kiépítése és finomítása, beleértve a fordított proxykat, a SOCKS5-/OpenVPN-konfigurációkat és a távoli asztali alagutakat, továbbá hibakeresési és telepítési útmutatás nyújtása a távoli streameléshez és a beviteli emulációhoz. | LLM által irányított infrastruktúra-profilozás |
Hatás
A tevékenységhez kapcsolódó összes fiókot letiltottuk, a releváns indikátorokat pedig megosztottuk iparági partnereinkkel. Nem találtunk bizonyítékot arra, hogy a modelljeinkhez való hozzáférés olyan új képességeket vagy útmutatást adott volna e szereplőknek, amelyeket ne szerezhettek volna meg számos nyilvánosan elérhető forrásból. Modelljeink elutasították a biztonsági rések közvetlen kihasználására és a billentyűleütés-naplózók készítésére irányuló kéréseket.