SweetSpecter: Netárásastarfsemi tengd Kína
OpenAI lokaði reikningum sem líklega tilheyrðu SweetSpecter, ógnaraðila sem talinn er starfa frá Kína og notaði gervigreind til að rannsaka veikleika, skrifa kóða og styðja sérsniðnar vefveiðiárásir.
Þessi tilviksrannsókn birtist upphaflega í skýrslu OpenAI frá október 2024(opnast í nýjum glugga).
Ógnaraðili
Við greindum og lokuðum reikningum sem, samkvæmt mati áreiðanlegs heimildaraðila, tilheyrðu líklega ógnaraðila sem talinn er starfa frá Kína. Aðilinn reyndi að nota líkön okkar til að styðja við netárásir sínar samhliða því að beina sérsniðnum vefveiðiárásum að starfsfólki okkar og stjórnvöldum víða um heim. Þessi ógnaraðili kom fram árið 2023 og er þekktur í opinberri umfjöllun undir heitinu SweetSpecter. Eftir því sem við best vitum er þetta í fyrsta sinn sem opinberlega er greint frá því að skotmörk hans nái til gervigreindarfyrirtækis með aðsetur í Bandaríkjunum. Áður hafði verið greint frá því að starfsemi hans beindist að pólitískum aðilum í Mið-Austurlöndum, Afríku og Asíu.
Hegðun
Í maí 2024 fengum við ábendingu frá áreiðanlegum heimildaraðila um að öryggisteymi hans hefði orðið vart við að SweetSpecter sendi sérsniðna vefveiðipósta með skaðlegum viðhengjum á bæði vinnu- og einkanetföng nokkurra starfsmanna okkar.
Afrit af tölvupósti sem SweetSpecter sendi nokkrum starfsmönnum okkar, með viðkvæmum upplýsingum afmáðum. Öryggiskerfi okkar stöðvuðu þessa tölvupósta. Mynd birt með leyfi Proofpoint.
Í þessum tölvupóstum þóttist SweetSpecter vera notandi ChatGPT sem óskaði eftir aðstoð frá starfsmönnunum sem árásin beindist að. Tölvupóstunum fylgdi skaðlegt viðhengi sem hét „some problems.zip“ og innihélt LNK-skrá. Skráin innihélt kóða sem myndi, ef hún væri opnuð, birta notandanum DOCX-skrá með lista yfir ýmis skilaboð sem virtust vera villu- og þjónustutilkynningar frá ChatGPT. Í bakgrunni yrði hins vegar Windows-spilliforritið SugarGh0st RAT afkóðað og keyrt. Spilliforritið er hannað til að veita SweetSpecter stjórn á sýktu tölvunni og gera aðilanum meðal annars kleift að keyra hvaða skipanir sem er, taka skjámyndir og stela gögnum.
Öryggisteymi OpenAI hafði samband við starfsfólk sem talið var að hefði orðið fyrir þessum sérsniðnu vefveiðiárásum og komst að því að fyrirliggjandi öryggisvarnir höfðu komið í veg fyrir að póstarnir bærust í vinnupósthólf þess.
Tálbeituefni úr einni af skaðlegu LNK-skránum sem voru greindar. Efnið myndi birtast við keyrslu skrárinnar.
Samstarf okkar við aðra aðila í greininni gegndi lykilhlutverki í öllu ferlinu við að greina þessar misheppnuðu tilraunir til að brjótast inn á reikninga starfsfólks. Þetta undirstrikar mikilvægi samstarfs og miðlunar upplýsinga um ógnir til að vera skrefi á undan háþróuðum ógnaraðilum á tímum gervigreindar. Með því að nýta sameiginlega innsýn og sérþekkingu getum við betur verndað verðmæti okkar og stöðvað notkun reikninga á þjónustum okkar sem tengjast slíkri starfsemi.
Svör líkansins
Við greiningu á þeim víðtækari innviðum sem studdu þessa árásarherferð fundum við og lokuðum hópi ChatGPT‑reikninga sem notuðu sömu innviði til að reyna að fá svör við spurningum, skrifa skriftur og rannsaka veikleika. Við flokkuðum þessi samskipti eftir LLM-tengdum aðferðum, tækni og verklagi (TTP) sem Microsoft lagði til fyrr á þessu ári að yrðu felld inn í MITRE ATT&CK®-rammann. MITRE-ramminn skráir aðferðir og tækni sem ógnaraðilar nota í raunverulegum netárásum. Með því að birta þessa flokkun viljum við upplýsa netöryggissamfélagið um þær aðferðir, tækni og verklag sem við höfum greint og stuðla að árangursríkari netvörnum.
Hér að neðan eru nokkur dæmi um athafnir SweetSpecter sem falla undir þessa flokka:
Athöfn | LLM-flokkur í ATT&CK-rammanum |
|---|---|
Spurt um veikleika í ýmsum forritum | Könnun með upplýsingum frá LLM |
Spurt hvernig leita megi að tilteknum útgáfum af Log4j sem eru viðkvæmar fyrir Log4Shell, alvarlegum veikleika sem gerir fjarkeyrslu kóða (RCE) mögulega | Könnun með upplýsingum frá LLM |
Spurt um vinsæl vefumsjónarkerfi sem notuð eru erlendis | Könnun með upplýsingum frá LLM |
Óskað eftir upplýsingum um tiltekin CVE-númer | Könnun með upplýsingum frá LLM |
Spurt hvernig smíða megi skanna sem leita um allt internetið. | Könnun með upplýsingum frá LLM |
Spurt hvernig nota mætti sqlmap til að hlaða upp mögulegri vefskel á netþjón sem árás beinist að. | Veikleikarannsóknir með aðstoð LLM |
Óskað eftir aðstoð við að finna leiðir til að nýta veikleika í innviðum þekkts bílaframleiðanda. | Veikleikarannsóknir með aðstoð LLM |
Kóði lagður fram og óskað eftir frekari aðstoð við að nota samskiptaþjónustur til að senda textaskilaboð með forritun. | Skriftugerð efld með LLM |
Óskað eftir aðstoð við villuleit í þróun viðbótar fyrir netöryggisverkfæri. | Skriftugerð efld með LLM |
Óskað eftir aðstoð við villuleit í kóða sem er hluti af stærri hugbúnaðarramma til að senda textaskilaboð með forritun í símanúmer sem árásaraðilinn tilgreinir. | Þróun með aðstoð LLM |
Spurt um efni sem starfsfólki opinberra stofnana þætti áhugavert og hvaða nöfn hentuðu viðhengjum til að komast hjá því að þau væru stöðvuð. | Félagsleg verkfræði studd af LLM |
Óskað eftir mismunandi útgáfum af ráðningarskilaboðum sem árásaraðilinn lagði fram. | Félagsleg verkfræði studd af LLM |
Í gegnum alla rannsóknina nýttu öryggisteymi okkar ChatGPT til að greina, flokka, þýða og draga saman samskipti af reikningum ógnaraðila. Þetta gerði okkur kleift að afla fljótt innsýnar úr stórum gagnasöfnum og halda um leið vinnu og kostnaði við verkið í lágmarki. Eftir því sem líkön okkar verða fullkomnari gerum við ráð fyrir að geta einnig notað ChatGPT til að bakþýða og greina skaðleg viðhengi sem send eru starfsfólki.
Áhrif
Í samræmi við það sem við sáum í fyrstu skýrslu okkar um ógnir virtist notkun aðilanna á líkönum okkar ekki veita þeim nýja getu eða leiðbeiningar sem þeir hefðu ekki annars getað aflað sér úr ýmsum opinberlega aðgengilegum heimildum. Öryggisvarnir okkar stöðvuðu skaðlega tölvupósta ógnaraðilans áður en þeir bárust í pósthólf starfsfólks.