SweetSpecter: Kínához köthető kibertevékenység
Az OpenAI letiltotta a feltehetően Kínában működő SweetSpecter támadócsoporthoz valószínűleg tartozó fiókokat, amelyek MI-vel kutattak sérülékenységeket, írtak kódot és támogattak célzott adathalász támadásokat.
Ez az esettanulmány eredetileg az OpenAI 2024. októberi(új ablakban nyílik meg) jelentésében jelent meg.
Elkövető
Olyan fiókokat azonosítottunk és tiltottunk le, amelyek egy megbízható forrás értékelése szerint valószínűleg egy feltehetően Kínában működő támadócsoporthoz tartoztak. A csoport a modelljeinkkel próbálta támogatni támadó kiberműveleteit, miközben célzott adathalász támadásokat hajtott végre munkatársaink és a világ különböző kormányzatai ellen. Ez a nyilvánosan SweetSpecter néven nyomon követett támadócsoport 2023-ban jelent meg. Tudomásunk szerint most először vált nyilvánossá, hogy célpontjai között egy egyesült államokbeli MI-vállalat is szerepel. Korábbi tevékenysége a beszámolók szerint közel-keleti, afrikai és ázsiai politikai szervezetekre összpontosult.
Módszerek
2024 májusában egy megbízható forrás arról tájékoztatott minket, hogy biztonsági csapata megfigyelte: a SweetSpecter kártékony mellékleteket tartalmazó, célzott adathalász e-maileket küldött néhány munkatársunk vállalati és személyes e-mail-címére.
A SweetSpecter által néhány munkatársunknak küldött e-mail részben kitakart változata. Ezeket az e-maileket biztonsági rendszereink blokkolták. A képet a Proofpoint bocsátotta rendelkezésünkre.
Ezekben az e-mailekben a SweetSpecter ChatGPT‑felhasználónak adta ki magát, és segítséget kért a megcélzott munkatársaktól. Az e-mailek egy „some problems.zip” nevű kártékony mellékletet tartalmaztak, benne egy LNK-fájllal. A fájl olyan kódot tartalmazott, amely megnyitáskor egy DOCX-fájlt jelenített volna meg a felhasználónak, benne látszólag a ChatGPT‑től származó különféle hiba- és szolgáltatásüzenetekkel. A háttérben azonban egy SugarGh0st RAT néven ismert, Windowsra írt kártevő visszafejtése és futtatása indult volna el. A kártevő célja, hogy a SweetSpecter átvehesse az irányítást a feltört gép felett, és például tetszőleges parancsokat hajthasson végre, képernyőképeket készíthessen, illetve adatokat szivárogtathasson ki.
Az OpenAI biztonsági csapata felvette a kapcsolatot azokkal a munkatársakkal, akiket vélhetően célba vett ez az adathalász kampány, és megállapította, hogy a meglévő biztonsági intézkedések megakadályozták, hogy az e-mailek egyáltalán eljussanak a vállalati postafiókjaikba.
Az egyik elemzett kártékony LNK-fájl megtévesztő tartalma, amely a fájl futtatásakor jelent volna meg.
A folyamat során az iparági partnereinkkel való együttműködés kulcsszerepet játszott a munkatársi fiókok feltörésére irányuló sikertelen kísérletek azonosításában. Ez rávilágít arra, mennyire fontos a fenyegetésekkel kapcsolatos információk megosztása és az együttműködés ahhoz, hogy az MI korában is a kifinomult módszereket alkalmazó támadók előtt járjunk. A megosztott információkra és a közös szakértelemre támaszkodva hatékonyabban védhetjük meg erőforrásainkat, és akadályozhatjuk meg az ilyen tevékenységekhez kapcsolódó fiókok működését a platformunkon.
Modellválaszok
A kampányt támogató tágabb infrastruktúra elemzése során azonosítottunk egy ChatGPT‑fiókcsoportot, és megakadályoztuk a működését. Ezek a fiókok ugyanezt az infrastruktúrát használták arra, hogy válaszokat keressenek kérdésekre, valamint szkriptírási és sérülékenységkutatási feladatokat végezzenek. Ezeket az interakciókat megfeleltettük azoknak az LLM-ekhez kapcsolódó taktikáknak, technikáknak és eljárásoknak (TTP-knek), amelyek beépítését a MITRE ATT&CK® keretrendszerbe a Microsoft az év elején javasolta. A MITRE keretrendszere a kibertámadók által a gyakorlatban alkalmazott taktikákat és technikákat foglalja össze. E megfeleltetések felsorolásával szeretnénk tájékoztatni a tágabb kiberbiztonsági közösséget a megfigyelt TTP-kről, és elősegíteni a kibervédelem hatékonyságának javítását.
Az alábbiakban néhány példát mutatunk be a SweetSpecter e TTP-knek megfelelő tevékenységeire:
Tevékenység | Az ATT&CK keretrendszer LLM-kategóriája |
|---|---|
Kérdések különböző alkalmazások sérülékenységeiről | LLM-információkon alapuló felderítés |
Kérdések a Log4j azon verzióinak kereséséről, amelyeket érint a távoli kódfuttatást lehetővé tevő, kritikus Log4Shell-sérülékenység | LLM-információkon alapuló felderítés |
Kérdések a külföldön népszerű tartalomkezelő rendszerekről | LLM-információkon alapuló felderítés |
Információk kérése konkrét CVE-azonosítókról | LLM-információkon alapuló felderítés |
Kérdések az egész internetet pásztázó eszközök készítéséről. | LLM-információkon alapuló felderítés |
Kérdések arról, hogyan lehetne az sqlmap segítségével egy lehetséges webshellt feltölteni egy célkiszolgálóra. | LLM-mel támogatott sérülékenységkutatás |
Segítség kérése egy jelentős autógyártó infrastruktúrájának kihasználására alkalmas módszerek felkutatásához. | LLM-mel támogatott sérülékenységkutatás |
Kód megadása és további segítség kérése kommunikációs szolgáltatások használatához, szöveges üzenetek programozott küldése céljából. | LLM-mel továbbfejlesztett szkriptírási technikák |
Segítség kérése egy kiberbiztonsági eszközhöz fejlesztett bővítmény hibakereséséhez. | LLM-mel továbbfejlesztett szkriptírási technikák |
Segítség kérése olyan kód hibakereséséhez, amely egy nagyobb keretrendszer részeként programozottan küld szöveges üzeneteket a támadó által megadott telefonszámokra. | LLM-mel segített fejlesztés |
Javaslatok kérése kormányzati szervek munkatársai számára érdekes témákra, illetve a blokkolás elkerülésére alkalmas mellékletnevekre. | LLM-mel támogatott pszichológiai manipuláció |
Változatok kérése a támadó által megadott toborzóüzenetre. | LLM-mel támogatott pszichológiai manipuláció |
Biztonsági csapataink a vizsgálat során végig a ChatGPT segítségével elemezték, kategorizálták, fordították és foglalták össze a támadói fiókok interakcióit. Így nagy adathalmazokból is gyorsan nyerhettünk hasznos információkat, miközben minimálisra csökkentettük a munkához szükséges erőforrásokat. Modelljeink fejlődésével várhatóan arra is használhatjuk majd a ChatGPT‑t, hogy visszafejtsük és elemezzük a munkatársainknak küldött kártékony mellékleteket.
Hatás
A fenyegetésekről szóló első jelentésünk megfigyeléseivel összhangban úgy tűnt, hogy modelljeink használata nem biztosított a támadóknak olyan új képességeket vagy útmutatást, amelyekhez több, nyilvánosan elérhető forrásból egyébként ne férhettek volna hozzá. Biztonsági mechanizmusaink blokkolták a támadók kártékony e-mailjeit, mielőtt azok eljutottak volna a munkatársaink postafiókjaiba.