Cybertrusselsaktører: AI-understøttet research i cyberindtrængen
OpenAI udelukkede konti med mulig tilknytning til offentligt omtalte DPRK-relaterede trusselsaktører, som brugte AI til at undersøge indtrængningsværktøjer, phishing, malware og målretning mod kryptovaluta.
Denne casestudie blev oprindeligt offentliggjort i OpenAIs rapport fra februar 2025(åbner i et nyt vindue).
Aktør
Vi udelukkede konti med aktivitet, der muligvis var forbundet med offentligt omtalte trusselsaktører med tilknytning til Den Demokratiske Folkerepublik Korea (DPRK). Nogle af disse konti udviste aktivitet med TTP'er, der stemte overens med en trusselsgruppe kendt som VELVET CHOLLIMA (også kendt som Kimsuky og Emerald Sleet)(åbner i et nyt vindue), mens andre konti muligvis var relateret til en aktør, som en troværdig kilde vurderede havde forbindelse til STARDUST CHOLLIMA (også kendt som APT38 og Sapphire Sleet)(åbner i et nyt vindue). Vi opdagede disse konti efter et tip fra en betroet branchepartner.
Adfærd
De udelukkede konti brugte primært vores værktøjer til at søge oplysninger, der sandsynligvis vedrørte værktøjer eller operationer til cyberindtrængen. De viste også interesse for emner relateret til kryptovaluta, sandsynligvis i forbindelse med økonomisk motiverede aktiviteter. Denne kombination af finansiel og cyberrelateret aktivitet er typisk for trusselsgrupper med tilknytning til DPRK.
Genererede svar
Aktørerne brugte vores modeller til hjælp med programmering og fejlfinding samt til at undersøge open source-kode relateret til sikkerhed. Det omfattede hjælp med fejlfinding og udvikling af offentligt tilgængelige værktøjer og kode, der kunne bruges til brute force-angreb via Remote Desktop Protocol (RDP), samt hjælp til brugen af open source-værktøjer til fjernadministration (RAT'er).
Under fejlfinding af placeringer og teknikker for auto-start extensibility points (ASEP) på MacOS afslørede aktøren staging-URL'er til binære filer (kompilerede eksekverbare filer), som på daværende tidspunkt tilsyneladende var ukendte for sikkerhedsleverandørerne. Vi indsendte staging-URL'erne til en online scanningstjeneste for at gøre dem tilgængelige for sikkerhedsbranchen. De binære filer registreres nu pålideligt af en række leverandører, hvilket beskytter potentielle ofre.
Nedenfor vises et udsnit af aktiviteter, som er kortlagt i tidligere foreslåede LLM-relaterede udvidelser af MITRE ATT&CK® Framework(åbner i et nyt vindue):
Spørgsmål om sårbarheder i forskellige applikationer: LLM-baseret rekognoscering.
Udvikling og fejlfinding af en C#-baseret RDP-klient til brute force-angreb: LLM-understøttet udvikling.
Anmodninger om kode til at omgå sikkerhedsadvarsler ved uautoriseret RDP-adgang: LLM-understøttet udvikling.
Anmodninger om en lang række PowerShell-scripts til RDP-forbindelser, upload og download af filer, afvikling af kode fra hukommelsen og sløring af HTML-indhold: LLM-forbedrede scriptingteknikker; LLM-forbedret omgåelse af anomaliregistrering.
Drøftelser om oprettelse og implementering af slørede payloads til afvikling: LLM-optimeret udvikling af payloads.
Søgning efter metoder til målrettet phishing og social engineering mod investorer og handlende inden for kryptovaluta samt mere generisk phishingindhold: LLM-understøttet social engineering.
Udarbejdelse af phishingmails og notifikationer, der manipulerer brugere til at afsløre følsomme oplysninger: LLM-understøttet social engineering.
Undersøgelse af open source-værktøjer til fjernadministration (RAT'er): LLM-understøttet aktivitet efter kompromittering.
Konsekvens
Aktørens prompts og forespørgsler var primært baseret på eksisterende open source-oplysninger, og de leverede modelsvar gav enten ingen nye muligheder eller afviste at svare. Vi udelukkede de konti, der var knyttet til trusselsaktøren, og delte aktørens payloads med sikkerhedsbranchen for yderligere at forstyrre operationerne.