„SweetSpecter“: su Kinija siejama kibernetinė veikla
„OpenAI“ užblokavo paskyras, tikriausiai priklausiusias, kaip įtariama, Kinijoje veikiančiai „SweetSpecter“ grupei, kuri pasitelkė DI pažeidžiamumams tirti, kodui rašyti ir tikslinėms duomenų viliojimo atakoms vykdyti.
Ši atvejo analizė pirmą kartą paskelbta „OpenAI“ 2024 m. spalio mėn.(atsidaro naujame lange) ataskaitoje.
Grėsmės subjektas
Aptikome ir užblokavome paskyras, kurios, patikimo šaltinio vertinimu, tikriausiai priklausė, kaip įtariama, Kinijoje veikiantiems kibernetiniams užpuolikams. Jie bandė pasitelkti mūsų modelius puolamosioms kibernetinėms operacijoms ir tuo pat metu vykdė tikslines duomenų viliojimo atakas prieš mūsų darbuotojus bei vyriausybes visame pasaulyje. Ši užpuolikų grupė, viešai stebima „SweetSpecter“ pavadinimu, iškilo 2023 m. Mūsų žiniomis, tai pirmas kartas, kai viešai nustatyta, kad tarp jos taikinių yra JAV įsikūrusi DI bendrovė. Anksčiau buvo pranešama, kad jos veikla buvo nukreipta į politinius subjektus Artimuosiuose Rytuose, Afrikoje ir Azijoje.
Veiksmai
2024 m. gegužę iš patikimo šaltinio gavome pranešimą, kad jo saugumo komanda pastebėjo „SweetSpecter“ siunčiant tikslinius duomenų viliojimo laiškus su kenkėjiškais priedais į kai kurių mūsų darbuotojų darbines ir asmenines el. pašto paskyras.
„SweetSpecter“ nedidelei mūsų darbuotojų grupei išsiųstas el. laiškas su užmaskuota dalimi informacijos. Šiuos laiškus užblokavo mūsų saugumo sistemos. Vaizdą maloniai suteikė „Proofpoint“.
Šiuose laiškuose „SweetSpecter“ apsimetė „ChatGPT“ naudotoju, prašančiu pasirinktų darbuotojų pagalbos. Prie laiškų buvo pridėtas kenkėjiškas priedas „some problems.zip“, kuriame buvo LNK failas. Šiame faile buvo kodas, kuris jį atidarius naudotojui parodytų DOCX failą su įvairiais tariamais „ChatGPT“ klaidų ir paslaugos pranešimais. Tačiau fone būtų iššifruota ir paleista „Windows“ skirta kenkėjiška programa „SugarGh0st RAT“. Ši kenkėjiška programa sukurta tam, kad „SweetSpecter“ galėtų valdyti užkrėstą kompiuterį, pavyzdžiui, vykdyti bet kokias komandas, daryti ekrano kopijas ir išgauti duomenis.
„OpenAI“ saugumo komanda susisiekė su darbuotojais, kurie, kaip manyta, buvo šios tikslinio duomenų viliojimo kampanijos taikiniai, ir nustatė, kad esamos saugumo priemonės neleido laiškams pasiekti jų darbinio el. pašto dėžučių.
Masalui skirtas turinys iš vieno analizuoto kenkėjiško LNK failo, kuris būtų rodomas paleidus failą.
Viso šio proceso metu bendradarbiavimas su sektoriaus partneriais buvo itin svarbus nustatant šiuos nesėkmingus bandymus įsilaužti į darbuotojų paskyras. Tai rodo, kaip svarbu dalytis žvalgybine informacija apie grėsmes ir bendradarbiauti, kad DI amžiuje būtume žingsniu priekyje sudėtingus metodus taikančių užpuolikų. Pasitelkę bendras įžvalgas ir sukauptą patirtį, galime geriau apsaugoti savo išteklius ir nutraukti su tokia veikla susijusių paskyrų veikimą mūsų platformoje.
Modelių atsakymai
Analizuodami platesnę šiai kampanijai naudotą infrastruktūrą, aptikome ir užblokavome grupę „ChatGPT“ paskyrų, kurios per tą pačią infrastruktūrą bandė gauti atsakymus į klausimus, kurti scenarijus ir tirti pažeidžiamumus. Šias sąveikas susiejome su LLM naudojimo taktikomis, metodais ir procedūromis (TTP), kurias „Microsoft“ šių metų pradžioje pasiūlė įtraukti į MITRE ATT&CK® sistemą. MITRE sistemoje aprašomos realiai kibernetinių užpuolikų taikomos taktikos ir metodai. Pateikdami šias sąsajas, siekiame informuoti platesnę kibernetinio saugumo bendruomenę apie pastebėtas TTP ir padėti didinti kibernetinės gynybos veiksmingumą.
Toliau pateikiami keli šias TTP atitinkančios „SweetSpecter“ veiklos pavyzdžiai:
Veikla | ATT&CK sistemos LLM kategorija |
|---|---|
Klausimai apie įvairių programų pažeidžiamumus | Žvalgyba pasitelkiant LLM informaciją |
Klausimai, kaip ieškoti konkrečių „Log4j“ versijų, turinčių kritinį nuotolinio kodo vykdymo (RCE) pažeidžiamumą „Log4Shell“ | Žvalgyba pasitelkiant LLM informaciją |
Klausimai apie užsienyje populiarias turinio valdymo sistemas | Žvalgyba pasitelkiant LLM informaciją |
Prašymai pateikti informacijos apie konkrečius CVE numerius | Žvalgyba pasitelkiant LLM informaciją |
Klausimai, kaip kuriami visą internetą skenuojantys įrankiai. | Žvalgyba pasitelkiant LLM informaciją |
Klausimai, kaip naudojant „sqlmap“ į tikslinį serverį įkelti failą, galintį veikti kaip žiniatinklio komandų apvalkalas. | Pažeidžiamumų tyrimas pasitelkiant LLM |
Prašymai padėti rasti būdų išnaudoti žinomo automobilių gamintojo infrastruktūros spragas. | Pažeidžiamumų tyrimas pasitelkiant LLM |
Kodo pateikimas ir prašymai papildomai padėti naudotis ryšių paslaugomis, kad būtų galima programiškai siųsti tekstinius pranešimus. | LLM patobulinti scenarijų kūrimo metodai |
Prašymai padėti ištaisyti klaidas kuriamame kibernetinio saugumo įrankio plėtinyje. | LLM patobulinti scenarijų kūrimo metodai |
Prašymai padėti ištaisyti kodo, kuris yra didesnės sistemos, skirtos programiškai siųsti tekstinius pranešimus užpuoliko nurodytais numeriais, dalis, klaidas. | Programavimas pasitelkiant LLM |
Prašymai pasiūlyti temų, kurios sudomintų valstybės institucijų darbuotojus, ir priedų pavadinimų, kurie padėtų išvengti blokavimo. | Socialinė inžinerija pasitelkiant LLM |
Prašymai sukurti užpuoliko pateikto pranešimo apie siūlomą darbą variantų. | Socialinė inžinerija pasitelkiant LLM |
Viso tyrimo metu mūsų saugumo komandos pasitelkė „ChatGPT“ sąveikoms iš užpuolikų paskyrų analizuoti, skirstyti į kategorijas, versti ir apibendrinti. Tai leido greitai gauti įžvalgų iš didelių duomenų rinkinių ir sumažinti šiam darbui reikalingus išteklius. Mūsų modeliams tobulėjant, tikimės, kad „ChatGPT“ galėsime pasitelkti ir darbuotojams siunčiamų kenkėjiškų priedų atvirkštinei inžinerijai bei analizei.
Poveikis
Kaip ir pastebėjome rengdami pirmąją grėsmių ataskaitą, neatrodė, kad mūsų modeliai būtų suteikę šios veiklos vykdytojams naujų galimybių ar gairių, kurių jie nebūtų galėję gauti iš daugybės viešai prieinamų šaltinių. Mūsų saugumo mechanizmai užblokavo kenkėjiškus užpuolikų laiškus dar prieš jiems pasiekiant darbuotojų pašto dėžutes.