SweetSpecter: Cyberaktivitet med forbindelse til Kina

Denne casestudie blev oprindeligt offentliggjort i OpenAI's rapport fra oktober 2024⁠(åbner i et nyt vindue).

Vi identificerede og blokerede konti, der ifølge en vurdering fra en troværdig kilde sandsynligvis tilhørte en trusselsaktør med formodet base i Kina. Aktøren forsøgte at bruge vores modeller til at understøtte sine offensive cyberoperationer og udførte samtidig spearphishingangreb mod vores medarbejdere og regeringer verden over. Denne trusselsaktør dukkede op i 2023 og er offentligt kendt under navnet SweetSpecter. Så vidt vi ved, er det første gang, det er blevet offentligt kendt, at aktørens mål omfatter en amerikansk AI-virksomhed. Tidligere aktiviteter har ifølge rapporter været rettet mod politiske enheder i Mellemøsten, Afrika og Asien.

I maj 2024 modtog vi et tip fra en troværdig kilde, hvis sikkerhedsteam havde observeret, at SweetSpecter sendte spearphishingmails med skadelige vedhæftede filer til både arbejdsrelaterede og private mailkonti tilhørende nogle af vores medarbejdere.

I disse mails udgav SweetSpecter sig for at være en ChatGPT‑bruger, der bad de udvalgte medarbejdere om support. Mailene indeholdt en skadelig vedhæftet fil med navnet »some problems.zip«, som indeholdt en LNK-fil. Denne fil indeholdt kode, der ved åbning ville vise brugeren en DOCX-fil med en liste over forskellige tilsyneladende fejl- og servicemeddelelser fra ChatGPT. I baggrunden ville Windows-malware kendt som SugarGh0st RAT imidlertid blive dekrypteret og kørt. Malwaren er designet til at give SweetSpecter kontrol over den kompromitterede computer og gøre det muligt at udføre vilkårlige kommandoer, tage skærmbilleder og eksfiltrere data.

OpenAI's sikkerhedsteam kontaktede de medarbejdere, som man mente havde været mål for denne spearphishingkampagne, og konstaterede, at de eksisterende sikkerhedsforanstaltninger havde forhindret mailene i overhovedet at nå frem til deres arbejdsmailkonti.

Gennem hele forløbet spillede vores samarbejde med branchepartnere en central rolle i at identificere disse mislykkede forsøg på at kompromittere medarbejderkonti. Det understreger, hvor vigtigt det er at dele trusselsoplysninger og samarbejde for at være på forkant med avancerede trusselsaktører i AI-tidsalderen. Ved at udnytte fælles viden og ekspertise kan vi bedre beskytte vores aktiver og gribe ind over for konti på vores platform, der er forbundet med sådanne aktiviteter.

Under analysen af den bredere infrastruktur bag denne kampagne fandt og blokerede vi en gruppe ChatGPT‑konti, der brugte samme infrastruktur til at forsøge at få besvaret spørgsmål og løse opgaver inden for scripting og undersøgelse af sårbarheder. Vi knyttede disse interaktioner til de LLM-relaterede taktikker, teknikker og procedurer (TTP'er), som Microsoft tidligere på året foreslog at integrere i MITRE ATT&CK^®-rammeværket. MITRE-rammeværket beskriver taktikker og teknikker, som cybertrusselsaktører bruger i praksis. Ved at vise disse sammenhænge vil vi informere det bredere cybersikkerhedsmiljø om observerede TTP'er og bidrage til at gøre cyberforsvaret mere effektivt.

Nedenfor ses eksempler på SweetSpecters aktiviteter, der svarer til disse TTP'er:

Gennem hele undersøgelsen brugte vores sikkerhedsteams ChatGPT til at analysere, kategorisere, oversætte og opsummere interaktioner fra trusselsaktørernes konti. Det gjorde os i stand til hurtigt at udlede viden fra store datasæt og samtidig minimere ressourceforbruget til dette arbejde. Efterhånden som vores modeller bliver mere avancerede, forventer vi også at kunne bruge ChatGPT til at foretage reverse engineering og analysere de skadelige vedhæftede filer, der blev sendt til medarbejderne.

I tråd med vores observationer i den første trusselsrapport lod aktørernes brug af vores modeller ikke til at give dem nye evner eller anvisninger, som de ikke også kunne have fået fra en række offentligt tilgængelige kilder. Vores sikkerhedsmekanismer blokerede trusselsaktørens skadelige mails, før de nåede medarbejdernes indbakker.