„ScopeCreep” művelet: orosz nyelvű kártevőfejlesztés

Ez az esettanulmány eredetileg az OpenAI 2025. júniusi⁠(új ablakban nyílik meg) jelentésében jelent meg.

Letiltottunk egy csoportnyi ChatGPT‑fiókot, amelyeket a jelek szerint egy oroszul beszélő támadó üzemeltetett. A támadó a modelljeink segítségével fejlesztett és finomított Windowsra szánt kártevőket, keresett hibákat több programozási nyelven írt kódban, és építette ki vezérlőinfrastruktúráját.

A támadó ismerte a Windows belső működését, és bizonyos műveletbiztonsági óvintézkedéseket is alkalmazott. A művelet középpontjában egy trójai programmal fertőzött, játékokhoz készült „célkereszt”-eszköz állt. Erre és a rejtőzködő taktikákra utalva a „ScopeCreep” nevet adtuk neki.

A támadó figyelemre méltó módon ügyelt a műveletbiztonságra. Ideiglenes e-mail-címekkel regisztrált ChatGPT‑fiókokat, és mindegyikben csak egyetlen beszélgetést folytatott, amely a kód egyetlen kisebb továbbfejlesztéséről szólt. Ezután felhagyott az adott fiók használatával, és újat hozott létre.

A támadó egy nyilvánosan elérhető kódadattáron keresztül terjesztette a ScopeCreep kártevőt. Az adattár egy legitim és népszerű, videojátékokban célkeresztet megjelenítő eszköznek (Crosshair-X) adta ki magát. A rosszindulatú verziót letöltő és futtató gyanútlan felhasználók elindították a rendszerükön a kártevő betöltőprogramját, amely további rosszindulatú fájlokat töltött le a támadó infrastruktúrájáról, majd végrehajtotta őket.

A kártevőt úgy tervezték, hogy ezt követően többlépcsős folyamatot indítson: emelje a jogosultságait, észrevétlenül megvesse a lábát a rendszerben, értesítse a támadót, és érzékeny adatokat szivárogtasson ki, miközben elkerüli az észlelést.

A támadó modellünk segítségével, lépésről lépésre fejlesztette a kártevőt: újra és újra arra kérte a ChatGPT‑t, hogy valósítson meg további, konkrét funkciókat. A ScopeCreep számos technikát alkalmazott a célba juttatás, a végrehajtás, az észlelés elkerülése és az adatkiszivárogtatás során, többek között:

• Szignatúraalapú észlelés elkerülésére tervezett C2-kódcsomagok.

• Rejtett végrehajtás DLL-oldalbetöltéssel.

• Kódelfedés egyedi csomagolással, a Themida segítségével.

• Jogosultságnövelés és az észlelés elkerülése.

• HTTPS-forgalom a 80-as porton.

• Hitelesítő adatok és munkamenetek ellopása.

• A támadó értesítése Telegramon keresztül.

• A hálózati forgalom elfedése proxykkal.

A támadó műveletbiztonsági erőfeszítései és a kártevőbe épített, észlelést elkerülő mechanizmusok ellenére a kiber-visszaélések tömeges észlelésére szolgáló folyamatunkkal sikerült azonosítanunk a tevékenységet. A kódtárhely-szolgáltatóval együttműködve eltávolíttattuk a rosszindulatú adattárat, és letiltottuk a tevékenységhez kapcsolódó összes ChatGPT‑fiókot.

Az e fiókcsoportból a modellekkel folytatott beszélgetések sokféle fejlesztési feladatot érintettek. Az egyikben a támadó egy Go-kódrészlet HTTPS-kérésével akadt el, és a modellt kérte meg a hiba kijavítására. Egy másik alkalommal ahhoz kért segítséget, hogyan módosíthatja a Windows Defender beállításait Go-ból futtatott PowerShell-parancsokkal: programozottan szeretett volna kivételeket hozzáadni a vírusvédelemhez.

E tevékenységek jellemző példái az alábbiak szerint sorolhatók be az LLM ATT&CK keretrendszerbe:

• A python310.dll fájl lefordítása LLM-ek segítségével úgy, hogy a támadó kódja a python.exe minden futtatásakor végrehajtódjon: LLM-mel támogatott fejlesztés.

• A 80-as porton zajló HTTPS-forgalom kiszolgálására szánt SSL/TLS-tanúsítványok hibáinak elhárítása: LLM-mel támogatott fejlesztés.

• Flask-alapú C2-kiszolgáló átköltöztetése éles üzemre kész WSGI-kiszolgálóra, modell segítségével: LLM-mel támogatott fejlesztés.

• PowerShell-parancsok fejlesztése Go-ban a Windows Defender beállításainak módosításához és vírusvédelmi kivételek hozzáadásához: az anomáliaészlelés megkerülése LLM-támogatással.

• Hibajavítás abban a kódban, amely egy új áldozat rendszerének feltörésekor értesítést küld a támadó által kezelt Telegram-csatornára: LLM-mel támogatott, behatolást követő tevékenység.

Ebben a szakaszban a gyors bejelentés és az iparági partnerekkel folytatott szoros együttműködés mérsékelhette a ScopeCreep hatását: partnereinknek sikerült eltávolítaniuk a rosszindulatú adattárat. Letiltottuk a támadó által használt OpenAI-fiókokat.

Értékelésünk szerint a támadó a kártevőfejlesztés felgyorsítására próbálta használni a modelljeinket. Paradox módon ez arra is lehetőséget adott nekünk, hogy gyorsan, és a jelek szerint még korai szakaszában azonosítsuk és megzavarjuk a fenyegetést.

Bár a kártevő képes jogosultságnövelésre, tartós jelenlét kialakítására, hitelesítő adatok begyűjtésére és távoli hozzáférés biztosítására, ezek nem számítanak különösebben újszerűnek. Bár a kártevő valószínűleg már tényleges támadásokban is működött, és néhány mintája megjelent a VirusTotalon, nem találtunk bizonyítékot széles körű érdeklődésre vagy terjesztésre.