Cyberoperation: Russisktalendes malware-værktøjer
OpenAI udelukkede konti med sandsynlig tilknytning til russisktalende kriminelle grupper, der brugte AI til at udvikle malware-loadere, lag til at undgå registrering, scripts til tyveri af loginoplysninger og C2-infrastruktur.
Dette casestudie blev oprindeligt udgivet i OpenAI's rapport fra oktober 2025(åbner i et nyt vindue).
Aktør
Vi udelukkede ChatGPT‑konti, der forsøgte at bruge modellen til at udvikle og forbedre malware, herunder en fjernadgangstrojaner, værktøjer til at stjæle loginoplysninger og funktioner til at undgå registrering. Disse konti ser ud til at være tilknyttet russisktalende kriminelle grupper, da vi så dem offentliggøre dokumentation for deres aktiviteter i en Telegram-kanal dedikeret til disse aktører. På baggrund af vores undersøgelse vurderer vi, at aktiviteten var knyttet til en russisksproget operator, som administrerede flere konti og benyttede proxyinfrastruktur og midlertidig hostinginfrastruktur.
Adfærd
Denne trusselsaktør brugte primært flere ChatGPT‑konti til at udvikle prototyper og fejlfinde tekniske komponenter, der muliggør aktiviteter efter kompromittering og tyveri af loginoplysninger – velkendte aktiviteter for denne type trusselsaktør. Modellen afviste direkte anmodninger om at generere skadeligt indhold. Operatorens typiske brug af modellen bestod derfor i at få genereret kode til enkeltdele, f.eks. konvertering af kompilerede eksekverbare filer til shellcode, design af in-memory-loadere eller parsing af loginoplysninger fra browsere. Trusselsaktøren samlede derefter sandsynligvis disse dele i skadelige arbejdsgange.
Trusselsaktøren brugte også vores modeller til at generere kode til obfuskering og »crypter«-mønstre, f.eks. indsættelse af fyldinstruktioner og ubrugelige sekvenser, overvågning af udklipsholderen og simple hjælpeværktøjer til dataudtræk, herunder en Telegram-bot til upload samt scripts til arkivering og afsendelse. Disse output er ikke i sig selv skadelige, medmindre en trusselsaktør uden for vores platform bruger dem på en skadelig måde.
Trusselsaktøren brugte hovedsageligt ChatGPT til tekniske opgaver såsom PE-/Win32 API-arbejde på lavt niveau, håndtering af cookies med DPAPI/AES-GCM samt automatisering med Chrome DevTools/CDP. Trusselsaktørens anmodninger havde varierende kompleksitet: Mange prompts krævede indgående kendskab til Windows-platformen og iterativ fejlfinding, mens andre automatiserede standardopgaver såsom massegenerering af adgangskoder og ansøgninger til job via scripts. Operatoren brugte et lille antal ChatGPT‑konti og videreudviklede den samme kode på tværs af samtaler – et mønster, der stemmer overens med løbende udvikling frem for lejlighedsvise test.
Genererede svar
Vores modeller blev ikke brugt til at køre trusselsaktørens værktøjer eller arbejdsgange, og vi kan ikke uafhængigt bekræfte aktiviteter uden for platformen. Denne trusselsaktør forsøgte at bruge vores modeller til at udvikle og forbedre offensive værktøjer og operationelle arbejdsgange, der ser ud til at muliggøre tyveri af loginoplysninger og kryptoaktiver, skjult kørsel af kode og administration af hemmelig infrastruktur.
Konkret brugte aktøren ChatGPT til at generere og videreudvikle fungerende kode og vejledning i implementering til kørsel i hukommelsen og shellcode-loadere; omgåelse af UAC, SmartScreen og Mark-of-the-Web; udtræk af loginoplysninger og cookies fra browsere samt grundstrukturer til app-bundet dekryptering; parsing af walletdata i LevelDB og værktøjer til kapring eller erstatning af udklipsholderens indhold med dataudtræk; samt fjernadgangskomponenter (RAT), herunder video- og inputemulering. I overensstemmelse med deres sikkerhedsforanstaltninger afviste vores modeller anmodninger, der tydeligvis var skadelige og ikke havde nogen legitim anvendelse.
Repræsentative eksempler på disse aktiviteter kan knyttes til LLM ATT&CK-strukturen på følgende måde:
Aktivitet | Kategori i LLM ATT&CK-strukturen |
|---|---|
Konvertering af EXE-filer til positionsuafhængig shellcode; opbygning af in-memory-loadere (VirtualAlloc/WriteProcessMemory/fjerntråd); konvertering mellem programmeringssprog til loader-værktøjskæder. | LLM-optimeret udformning af nyttelast |
Indsættelse af lag til obfuskering og pakning, cryptere og teknikker, der sandsynligvis er beregnet til at ændre PE-signaturer eller på anden måde skjule nyttelast for AV/EDR. | LLM-forbedret omgåelse af anomaliregistrering |
Generering af scripts og programkode, der sandsynligvis er beregnet til at udtrække eller dekryptere loginoplysninger og cookies fra browsere, parse walletdata i LevelDB, overvåge eller erstatte udklipsholderens indhold og udtrække data via botkanaler såsom Telegram. | LLM-assisteret aktivitet efter kompromittering |
Opbygning og forbedring af C2- og tunneleringsinfrastruktur, herunder reverse proxies, SOCKS5-/OpenVPN-konfigurationer, tunnellering af fjernskrivebord samt vejledning i fejlfinding og implementering til fjernstreaming og inputemulering. | LLM-styret profilering af infrastruktur |
Konsekvenser
Vi deaktiverede alle konti med tilknytning til denne aktivitet og delte relevante indikatorer med branchepartnere. Vi fandt ingen tegn på, at adgangen til vores modeller gav disse aktører nye kapaciteter eller fremgangsmåder, som de ikke på anden vis kunne have fundet i en række offentligt tilgængelige kilder. Vores modeller afviste direkte anmodninger om exploits og keyloggere.