SweetSpecter: kibernetske dejavnosti, povezane s Kitajsko
OpenAI je blokiral račune, verjetno povezane z napadalci SweetSpecter, ki domnevno delujejo s Kitajske in uporabljajo umetno inteligenco za raziskovanje ranljivosti, pisanje kode in podporo ciljanemu spletnemu ribarjenju.
Ta študija primera je bila prvotno objavljena v poročilu družbe OpenAI iz oktobra 2024(odpre se v novem oknu).
Akter
Prepoznali in blokirali smo račune, ki so po oceni verodostojnega vira verjetno pripadali napadalcem, ki domnevno delujejo s Kitajske. Naše modele so poskušali uporabljati za podporo svojim ofenzivnim kibernetskim operacijam, hkrati pa so izvajali napade s ciljanim spletnim ribarjenjem na naše zaposlene in vlade po vsem svetu. Ti napadalci, v javnosti znani kot SweetSpecter, so se pojavili leta 2023. Kolikor nam je znano, je bilo tokrat prvič javno razkrito, da je med njihovimi tarčami tudi podjetje za umetno inteligenco s sedežem v ZDA. Po prejšnjih poročilih so bile njihove dejavnosti usmerjene v politične subjekte na Bližnjem vzhodu, v Afriki in Aziji.
Ravnanje
Maja 2024 smo od verodostojnega vira prejeli obvestilo, da je njegova varnostna ekipa zaznala napade s ciljanim spletnim ribarjenjem, pri katerih so napadalci SweetSpecter pošiljali e-pošto z zlonamernimi priponkami na službene in osebne e-poštne naslove nekaterih naših zaposlenih.
Različica e-poštnega sporočila s prekritimi občutljivimi podatki, ki so ga napadalci SweetSpecter poslali manjšemu številu naših zaposlenih. Naši varnostni sistemi so ta sporočila blokirali. Sliko je prijazno posredovalo podjetje Proofpoint.
V teh e-poštnih sporočilih so se napadalci SweetSpecter izdajali za uporabnika ChatGPT, ki je izbrane zaposlene prosil za pomoč. E-poštna sporočila so vsebovala zlonamerno priponko z imenom »some problems.zip«, v kateri je bila datoteka LNK. Ta datoteka je vsebovala kodo, ki bi ob odprtju uporabniku prikazala datoteko DOCX s seznamom različnih domnevnih sporočil o napakah in obvestil storitve ChatGPT. V ozadju pa bi se dešifrirala in zagnala zlonamerna programska oprema za Windows, znana kot SugarGh0st RAT. Ta zlonamerna programska oprema napadalcem SweetSpecter omogoča prevzem nadzora nad ogroženim računalnikom ter med drugim izvajanje poljubnih ukazov, zajemanje zaslonskih slik in odtujevanje podatkov.
Varnostna ekipa družbe OpenAI je stopila v stik z zaposlenimi, ki naj bi bili tarče te kampanje ciljanega spletnega ribarjenja, in ugotovila, da so obstoječi varnostni ukrepi preprečili dostavo teh sporočil v njihove službene e-poštne predale.
Vsebina vabe iz ene od analiziranih zlonamernih datotek LNK, ki bi se prikazala ob zagonu.
Pri prepoznavanju teh neuspelih poskusov vdora v račune zaposlenih je imelo ves čas ključno vlogo sodelovanje s partnerji v panogi. To poudarja pomen izmenjave obveščevalnih podatkov o grožnjah in sodelovanja, če želimo v dobi umetne inteligence ostati korak pred naprednimi napadalci. Z izmenjavo ugotovitev in združevanjem strokovnega znanja lahko bolje zaščitimo svoja sredstva in onemogočimo račune na naši platformi, povezane s takimi dejavnostmi.
Odzivi
Med analizo širše infrastrukture, ki je podpirala to kampanjo, smo odkrili in onemogočili skupino računov ChatGPT, ki so uporabljali isto infrastrukturo za pridobivanje odgovorov na vprašanja ter pomoč pri pisanju skriptov in raziskovanju ranljivosti. Te interakcije smo povezali s taktikami, tehnikami in postopki (TTP), povezanimi z velikimi jezikovnimi modeli, ki jih je Microsoft v začetku tega leta predlagal za vključitev v ogrodje MITRE ATT&CK®. Ogrodje MITRE zajema taktike in tehnike, ki jih kibernetski napadalci uporabljajo v praksi. Z navajanjem teh povezav želimo širšo skupnost za kibernetsko varnost seznaniti z opaženimi taktikami, tehnikami in postopki ter pomagati izboljšati učinkovitost kibernetske obrambe.
Spodaj je nekaj primerov dejavnosti napadalcev SweetSpecter, ki ustrezajo tem taktikam, tehnikam in postopkom:
Dejavnost | Kategorija ogrodja ATT&CK za velike jezikovne modele |
|---|---|
Poizvedovanje o ranljivostih v različnih aplikacijah | Izvidovanje na podlagi informacij velikih jezikovnih modelov |
Poizvedovanje o tem, kako poiskati določene različice Log4j s kritično ranljivostjo Log4Shell, ki omogoča oddaljeno izvajanje kode (RCE) | Izvidovanje na podlagi informacij velikih jezikovnih modelov |
Poizvedovanje o priljubljenih sistemih za upravljanje vsebin, ki se uporabljajo v tujini | Izvidovanje na podlagi informacij velikih jezikovnih modelov |
Iskanje informacij o določenih številkah CVE | Izvidovanje na podlagi informacij velikih jezikovnih modelov |
Poizvedovanje o tem, kako se izdelajo orodja za pregledovanje celotnega interneta. | Izvidovanje na podlagi informacij velikih jezikovnih modelov |
Poizvedovanje o tem, kako bi bilo mogoče z orodjem sqlmap na ciljni strežnik naložiti morebitno spletno lupino. | Raziskovanje ranljivosti s pomočjo velikih jezikovnih modelov |
Prošnje za pomoč pri iskanju načinov za izrabo ranljivosti v infrastrukturi uglednega proizvajalca avtomobilov. | Raziskovanje ranljivosti s pomočjo velikih jezikovnih modelov |
Posredovanje kode in prošnje za dodatno pomoč pri uporabi komunikacijskih storitev za programsko pošiljanje besedilnih sporočil. | Tehnike pisanja skriptov, izboljšane z velikimi jezikovnimi modeli |
Prošnje za pomoč pri odpravljanju napak med razvojem razširitve za orodje za kibernetsko varnost. | Tehnike pisanja skriptov, izboljšane z velikimi jezikovnimi modeli |
Prošnje za pomoč pri odpravljanju napak v kodi, ki je del širšega ogrodja za programsko pošiljanje besedilnih sporočil na številke, ki jih določi napadalec. | Razvoj s pomočjo velikih jezikovnih modelov |
Poizvedovanje o temah, ki bi zanimale zaposlene v vladnih službah, in primernih imenih priponk, s katerimi bi se izognili blokiranju. | Socialni inženiring s podporo velikih jezikovnih modelov |
Prošnje za različice sporočila s ponudbo zaposlitve, ki ga je posredoval napadalec. | Socialni inženiring s podporo velikih jezikovnih modelov |
Naše varnostne ekipe so ves čas preiskave uporabljale ChatGPT za analizo, razvrščanje, prevajanje in povzemanje interakcij iz računov napadalcev. To nam je omogočilo hitro pridobivanje vpogledov iz obsežnih podatkovnih zbirk ob čim manjši porabi virov za to delo. Z nadaljnjim napredkom naših modelov pričakujemo, da bomo ChatGPT lahko uporabljali tudi za obratno inženirstvo in analizo zlonamernih priponk, poslanih zaposlenim.
Vpliv
Podobno kot smo ugotovili že v prvem poročilu o grožnjah, ni bilo videti, da bi uporaba naših modelov napadalcem omogočila nove zmogljivosti ali smernice, ki jih sicer ne bi mogli pridobiti iz več javno dostopnih virov. Naši varnostni mehanizmi so zlonamerna e-poštna sporočila napadalcev blokirali, še preden so dosegla e-poštne predale zaposlenih.