SweetSpecter: Kiinaan kytkeytyvää kybertoimintaa
OpenAI sulki tilejä, jotka todennäköisesti kuuluivat Kiinassa toimivaksi epäillylle SweetSpecterille. Toimija käytti tekoälyä haavoittuvuuksien tutkimiseen, koodin kirjoittamiseen ja kohdennetun tietojenkalastelun tukemiseen.
Tämä tapaustutkimus julkaistiin alun perin OpenAI:n lokakuun 2024(avautuu uudessa ikkunassa) raportissa.
Toimija
Tunnistimme ja suljimme tilejä, jotka luotettavan lähteen arvion mukaan kuuluivat todennäköisesti Kiinassa toimivaksi epäillylle uhkatoimijalle. Se yritti käyttää mallejamme kyberhyökkäystensä tukena ja toteutti samalla kohdennettuja tietojenkalasteluhyökkäyksiä työntekijöitämme ja eri maiden hallintoja vastaan. Tämä julkisuudessa nimellä SweetSpecter seurattu uhkatoimija tuli esiin vuonna 2023. Tietojemme mukaan tämä on ensimmäinen kerta, kun sen kohteeksi on julkisesti tunnistettu yhdysvaltalainen tekoäly-yritys. Aiemmin sen toiminnan on raportoitu kohdistuneen poliittisiin tahoihin Lähi-idässä, Afrikassa ja Aasiassa.
Toimintatavat
Saimme toukokuussa 2024 luotettavalta lähteeltä vihjeen: lähteen tietoturvatiimi oli havainnut SweetSpecterin lähettävän haitallisia liitteitä sisältäviä kohdennettuja tietojenkalasteluviestejä joidenkin työntekijöidemme työ- ja henkilökohtaisiin sähköpostiosoitteisiin.
Osittain peitetty versio sähköpostista, jonka SweetSpecter lähetti pienelle joukolle työntekijöitämme. Tietoturvajärjestelmämme estivät nämä sähköpostit. Kuva: Proofpoint.
Näissä sähköposteissa SweetSpecter esiintyi ChatGPT:n käyttäjänä ja pyysi tukea kohteeksi valituilta työntekijöiltä. Sähköposteissa oli haitallinen liite nimeltä ”some problems.zip”, joka sisälsi LNK-tiedoston. Tiedosto sisälsi koodia, joka avattaessa näyttäisi käyttäjälle DOCX-tiedoston. Siinä lueteltiin erilaisia näennäisesti ChatGPT:stä peräisin olevia virhe- ja palveluviestejä. Taustalla kuitenkin purettaisiin SugarGh0st RAT -nimisen Windows-haittaohjelman salaus ja käynnistettäisiin ohjelma. Haittaohjelma on suunniteltu antamaan SweetSpecterille hallinta saastuneeseen tietokoneeseen. Sen avulla toimija voi esimerkiksi suorittaa haluamiaan komentoja, ottaa näyttökuvia ja varastaa tietoja.
OpenAI:n tietoturvatiimi otti yhteyttä työntekijöihin, joiden uskottiin joutuneen tämän kohdennetun tietojenkalastelukampanjan kohteeksi. Tiimi totesi, että käytössä olleet suojaustoimet olivat estäneet viestien pääsyn työntekijöiden työsähköposteihin.
Yhden analysoidun haitallisen LNK-tiedoston harhautussisältö, joka näytettäisiin tiedostoa suoritettaessa.
Yhteistyömme alan kumppanien kanssa oli koko prosessin ajan keskeisessä asemassa näiden epäonnistuneiden tilikaappausyritysten tunnistamisessa. Tämä korostaa uhkatietojen jakamisen ja yhteistyön merkitystä, jotta pysymme edistyneiden uhkatoimijoiden edellä tekoälyn aikakaudella. Hyödyntämällä jaettuja havaintoja ja yhteistä asiantuntemusta voimme suojata resurssejamme paremmin ja estää tällaiseen toimintaan liittyvien tilien käytön alustallamme.
Mallien vastaukset
Analysoidessamme kampanjaa tukevaa laajempaa infrastruktuuria löysimme joukon ChatGPT‑tilejä ja estimme niiden toiminnan. Tilit käyttivät samaa infrastruktuuria yrittäessään saada vastauksia kysymyksiin sekä apua skriptien kirjoittamiseen ja haavoittuvuuksien tutkimiseen. Luokittelimme nämä keskustelut suuriin kielimalleihin liittyvien taktiikoiden, tekniikoiden ja menettelytapojen (TTP) mukaan. Microsoft ehdotti aiemmin tänä vuonna niiden lisäämistä MITRE ATT&CK® -viitekehykseen. MITRE-viitekehykseen on koottu kyberuhkatoimijoiden käytännössä käyttämiä taktiikoita ja tekniikoita. Esittämällä nämä luokittelut pyrimme jakamaan havaitut taktiikat, tekniikat ja menettelytavat laajemman kyberturvallisuusyhteisön tietoon ja auttamaan kyberpuolustuksen tehostamisessa.
Alla on esimerkkejä SweetSpecterin toiminnasta, joka vastaa näitä taktiikoita, tekniikoita ja menettelytapoja:
Toiminta | Suuriin kielimalleihin liittyvä ATT&CK-viitekehyksen luokka |
|---|---|
Kysymyksiä eri sovellusten haavoittuvuuksista | Suuren kielimallin tietoihin perustuva tiedustelu |
Kysymyksiä siitä, miten etsiä tiettyjä Log4j-versioita, joissa on kriittinen koodin etäsuorituksen mahdollistava Log4Shell-haavoittuvuus | Suuren kielimallin tietoihin perustuva tiedustelu |
Kysymyksiä ulkomailla käytetyistä suosituista sisällönhallintajärjestelmistä | Suuren kielimallin tietoihin perustuva tiedustelu |
Tietopyyntöjä tietyistä CVE-tunnuksista | Suuren kielimallin tietoihin perustuva tiedustelu |
Kysymyksiä siitä, miten koko internetin kattavia skannereita tehdään. | Suuren kielimallin tietoihin perustuva tiedustelu |
Kysymyksiä siitä, miten sqlmap-työkalulla voisi ladata mahdollisen web shell -komentotulkin kohdepalvelimelle. | Suuren kielimallin avustama haavoittuvuustutkimus |
Avun pyytämistä keinojen löytämiseen, joilla voisi hyödyntää tunnetun autonvalmistajan infrastruktuurin heikkouksia. | Suuren kielimallin avustama haavoittuvuustutkimus |
Koodin toimittamista ja lisäavun pyytämistä viestintäpalvelujen käyttöön tekstiviestien lähettämiseksi ohjelmallisesti. | Suuren kielimallin tehostamat skriptaustekniikat |
Avun pyytämistä virheiden korjaamiseen kyberturvallisuustyökalun laajennusta kehitettäessä. | Suuren kielimallin tehostamat skriptaustekniikat |
Avun pyytämistä virheiden korjaamiseen koodista, joka on osa laajempaa ohjelmistokehystä tekstiviestien lähettämiseksi ohjelmallisesti hyökkääjän määrittämiin numeroihin. | Suuren kielimallin avustama kehitystyö |
Ehdotusten pyytämistä valtion virastojen työntekijöitä kiinnostavista aiheista sekä liitteiden nimistä, joiden avulla viestien estämisen voisi välttää. | Suuren kielimallin tukema sosiaalinen manipulointi |
Muunnelmien pyytämistä hyökkääjän toimittamasta rekrytointiviestistä. | Suuren kielimallin tukema sosiaalinen manipulointi |
Tietoturvatiimimme hyödynsivät koko tutkinnan ajan ChatGPT:tä uhkatoimijoiden tilien keskustelujen analysointiin, luokitteluun, kääntämiseen ja tiivistämiseen. Näin pystyimme nopeasti tekemään havaintoja suurista tietoaineistoista ja samalla minimoimaan työhön tarvittavat resurssit. Malliemme kehittyessä uskomme voivamme käyttää ChatGPT:tä myös työntekijöille lähetettyjen haitallisten liitteiden takaisinmallinnukseen ja analysointiin.
Vaikutukset
Ensimmäisen uhkaraporttimme havaintojen mukaisesti malliemme käyttö ei näyttänyt antavan toimijoille uusia kyvykkyyksiä tai ohjeita, joita he eivät olisi muutenkin voineet saada useista julkisesti saatavilla olevista lähteistä. Suojausmekanismimme estivät uhkatoimijan haitalliset sähköpostit ennen kuin ne pääsivät työntekijöiden postilaatikoihin.