SweetSpecter: Kibernetičke aktivnosti povezane s Kinom
OpenAI je blokirao račune koji vjerovatno pripadaju napadaču SweetSpecter, za kojeg se sumnja da djeluje iz Kine i koji je koristio AI za istraživanje ranjivosti, pisanje koda i podršku ciljanim phishing napadima.
Ova studija slučaja prvobitno je objavljena u izvještaju kompanije OpenAI iz oktobra 2024.(otvara se u novom prozoru) godine.
Akter
Identificirali smo i blokirali račune koji su, prema procjeni pouzdanog izvora, vjerovatno pripadali napadaču za kojeg se sumnja da djeluje iz Kine. Ti računi pokušavali su koristiti naše modele kao podršku ofanzivnim kibernetičkim operacijama, dok je napadač istovremeno provodio ciljane phishing napade na naše zaposlenike i vlade širom svijeta. Ovaj napadač, koji se u javnosti prati pod nazivom SweetSpecter, pojavio se 2023. godine. Koliko nam je poznato, ovo je prvi put da je javno utvrđeno da je među njegovim metama i američka kompanija za umjetnu inteligenciju. Prema ranijim izvještajima, njegove aktivnosti bile su usmjerene na političke subjekte na Bliskom istoku, u Africi i Aziji.
Ponašanje
U maju 2024. dobili smo dojavu od pouzdanog izvora čiji je sigurnosni tim primijetio da SweetSpecter šalje ciljane phishing e-poruke sa zlonamjernim prilozima na službene i privatne e-mail adrese nekih naših zaposlenika.
Verzija e-poruke s prekrivenim osjetljivim podacima koju je SweetSpecter poslao malom broju naših zaposlenika. Naši sigurnosni sistemi blokirali su ove e-poruke. Slika je ustupljena ljubaznošću kompanije Proofpoint.
U tim e-porukama SweetSpecter se predstavljao kao korisnik alata ChatGPT koji od ciljanih zaposlenika traži podršku. E-poruke su sadržavale zlonamjerni prilog pod nazivom „some problems.zip“, u kojem se nalazila LNK datoteka. Ta datoteka sadržavala je kod koji bi pri otvaranju korisniku prikazao DOCX datoteku s popisom različitih navodnih poruka o greškama i obavijesti servisa ChatGPT. Međutim, u pozadini bi se dešifrirao i pokrenuo zlonamjerni softver za Windows poznat kao SugarGh0st RAT. Taj zlonamjerni softver osmišljen je da napadaču SweetSpecter omogući kontrolu nad kompromitiranim računarom i radnje poput izvršavanja proizvoljnih naredbi, snimanja ekrana i krađe podataka.
Sigurnosni tim kompanije OpenAI kontaktirao je zaposlenike za koje se vjerovalo da su bili mete ove ciljane phishing kampanje i utvrdio da su postojeće sigurnosne kontrole spriječile da e-poruke uopće stignu na njihove službene adrese.
Sadržaj mamca iz jedne od analiziranih zlonamjernih LNK datoteka, koji bi se prikazao pri njenom pokretanju.
Tokom cijelog ovog procesa saradnja s partnerima iz industrije imala je ključnu ulogu u otkrivanju ovih neuspjelih pokušaja kompromitiranja računa zaposlenika. To pokazuje koliko su razmjena obavještajnih podataka o prijetnjama i saradnja važne da bismo u doba umjetne inteligencije ostali korak ispred sofisticiranih napadača. Koristeći razmijenjena saznanja i zajedničku stručnost, možemo bolje zaštititi svoje resurse i onemogućiti račune na platformi povezane s takvim aktivnostima.
Odgovori modela
Analizirajući širu infrastrukturu koja je podržavala ovu kampanju, pronašli smo i onemogućili grupu računa na platformi ChatGPT koji su koristili istu infrastrukturu kako bi pokušali dobiti odgovore na pitanja i obaviti zadatke pisanja skripti i istraživanja ranjivosti. Ove interakcije povezali smo s taktikama, tehnikama i procedurama (TTP) koje uključuju LLM, a koje je Microsoft ranije ove godine predložio za uvrštavanje u okvir MITRE ATT&CK®. Okvir MITRE obuhvata taktike i tehnike koje kibernetički napadači koriste u stvarnim napadima. Navođenjem ovih poveznica želimo obavijestiti širu zajednicu za kibernetičku sigurnost o uočenim taktikama, tehnikama i procedurama te pomoći da kibernetička odbrana bude efikasnija.
U nastavku su neki primjeri aktivnosti napadača SweetSpecter koje odgovaraju ovim taktikama, tehnikama i procedurama:
Aktivnost | Kategorija okvira ATT&CK za LLM |
|---|---|
Postavljanje pitanja o ranjivostima u različitim aplikacijama | Izviđanje na osnovu informacija LLM-a |
Postavljanje pitanja o tome kako pronaći određene verzije biblioteke Log4j pogođene kritičnom ranjivošću Log4Shell, koja omogućava udaljeno izvršavanje koda (RCE) | Izviđanje na osnovu informacija LLM-a |
Postavljanje pitanja o popularnim sistemima za upravljanje sadržajem koji se koriste u inostranstvu | Izviđanje na osnovu informacija LLM-a |
Traženje informacija o određenim CVE brojevima | Izviđanje na osnovu informacija LLM-a |
Postavljanje pitanja o tome kako se izrađuju alati za skeniranje cijelog interneta. | Izviđanje na osnovu informacija LLM-a |
Postavljanje pitanja o tome kako bi se sqlmap mogao koristiti za postavljanje potencijalne web-ljuske na ciljni server. | Istraživanje ranjivosti uz pomoć LLM-a |
Traženje pomoći u pronalaženju načina za iskorištavanje ranjivosti infrastrukture poznatog proizvođača automobila. | Istraživanje ranjivosti uz pomoć LLM-a |
Dostavljanje koda i traženje dodatne pomoći pri korištenju komunikacijskih servisa za programsko slanje tekstualnih poruka. | Tehnike pisanja skripti unaprijeđene LLM-om |
Traženje pomoći pri otklanjanju grešaka tokom razvoja dodatka za alat za kibernetičku sigurnost. | Tehnike pisanja skripti unaprijeđene LLM-om |
Traženje pomoći pri otklanjanju grešaka u kodu koji je dio šireg programskog okvira za slanje tekstualnih poruka na brojeve koje odredi napadač. | Razvoj uz pomoć LLM-a |
Traženje tema koje bi zaposlenicima državnih institucija bile zanimljive i prikladnih naziva za priloge kako bi se izbjeglo njihovo blokiranje. | Socijalni inženjering uz podršku LLM-a |
Traženje varijanti poruke za zapošljavanje koju je dostavio napadač. | Socijalni inženjering uz podršku LLM-a |
Tokom cijele istrage naši sigurnosni timovi koristili su ChatGPT za analizu, kategorizaciju, prevođenje i sažimanje interakcija s računa napadača. To nam je omogućilo da brzo dođemo do saznanja iz velikih skupova podataka, uz minimalnu upotrebu resursa potrebnih za taj rad. Kako naši modeli budu napredovali, očekujemo da ćemo ChatGPT moći koristiti i za obrnuti inženjering i analizu zlonamjernih priloga poslanih zaposlenicima.
Utjecaj
U skladu s onim što smo uočili u prvom izvještaju o prijetnjama, činilo se da korištenje naših modela napadačima nije pružilo nove mogućnosti ili smjernice do kojih inače ne bi mogli doći putem više javno dostupnih izvora. Naši sigurnosni mehanizmi blokirali su zlonamjerne e-poruke napadača prije nego što su stigle u prijemne sandučiće zaposlenika.