Cyberoperasjon: Russiskspråklige skadevareverktøy
OpenAI utestengte kontoer med sannsynlige forbindelser til russiskspråklige kriminelle grupper som brukte KI til å bygge skadevarelastere, lag for å unngå oppdagelse, skript for legitimasjonstyveri og C2-infrastruktur.
Denne kasusstudien ble opprinnelig publisert i OpenAIs rapport fra oktober 2025(åpnes i et nytt vindu).
Aktør
Vi utestengte ChatGPT‑kontoer som forsøkte å bruke modellen til å utvikle og forbedre skadevare, blant annet en trojaner for fjerntilgang, verktøy for legitimasjonstyveri og funksjoner for å unngå å bli oppdaget. Disse kontoene ser ut til å være tilknyttet russiskspråklige kriminelle grupper, ettersom vi observerte at de publiserte dokumentasjon på aktivitetene sine i en Telegram-kanal for slike aktører. Basert på undersøkelsen vår vurderer vi at aktiviteten var knyttet til en russiskspråklig operator som administrerte flere kontoer og benyttet proxy-infrastruktur og midlertidig hostinginfrastruktur.
Atferd
Denne trusselaktøren brukte flere ChatGPT‑kontoer, hovedsakelig til å lage prototyper av og feilsøke tekniske komponenter som muliggjør aktiviteter etter kompromittering og tyveri av legitimasjon – velkjente aktiviteter for denne typen trusselaktør. Modellen avviste direkte forespørsler om å generere skadelig innhold. Operatorens typiske bruk av modellen besto derfor i å frembringe kode til enkeltkomponenter, for eksempel konvertering av kompilerte kjørbare filer til skallkode, utforming av minnebaserte lastere eller uthenting av nettleserlegitimasjon. Trusselaktøren satte trolig deretter komponentene sammen til skadelige arbeidsflyter.
Trusselaktøren brukte også modellene våre til å generere kode for tilsløring og «crypter»-mønstre, blant annet innsetting av utfyllingsinstruksjoner og søppelsekvenser, overvåking av utklippstavlen og enkle verktøy for dataeksfiltrering, som en Telegram-bot for opplasting og skript for arkivering og overføring. Disse resultatene er ikke skadelige i seg selv, med mindre en trusselaktør bruker dem på en slik måte utenfor plattformen vår.
Trusselaktøren brukte hovedsakelig ChatGPT til tekniske oppgaver som PE-/Win32-API på lavt nivå, håndtering av informasjonskapsler med DPAPI/AES-GCM og automatisering med Chrome DevTools/CDP. Trusselaktøren kom med forespørsler av varierende kompleksitet: Mange ledetekster krevde inngående kunnskap om Windows-plattformen og gjentatt feilsøking, mens andre automatiserte standardoppgaver som masseproduksjon av passord og skriptbaserte jobbsøknader. Operatoren brukte et lite antall ChatGPT‑kontoer og videreutviklet den samme koden på tvers av samtaler, et mønster som samsvarer med løpende utvikling snarere enn sporadisk testing.
Resultater
Modellene våre ble ikke brukt til å kjøre noen av trusselaktørens verktøy eller arbeidsflyter, og vi kan ikke uavhengig bekrefte aktivitet utenfor plattformen. Denne trusselaktøren forsøkte å bruke modellene våre til å utvikle og forbedre offensive verktøy og operative arbeidsflyter som ser ut til å muliggjøre tyveri av legitimasjon og kryptoaktiva, skjult kjøring av kode og administrasjon av fordekt infrastruktur.
De brukte nærmere bestemt ChatGPT til å generere og videreutvikle fungerende kode og veiledning om distribusjon for minnebasert kjøring og skallkodelastere; omgåelse av UAC, SmartScreen og Mark-of-the-Web; uthenting av nettleserlegitimasjon og informasjonskapsler samt rammeverk for appbundet dekryptering; analyse av LevelDB-data fra kryptolommebøker og verktøy for kapring eller erstatning av innhold på utklippstavlen med eksfiltrering; og komponenter for fjerntilgang (RAT), inkludert video- og inndataemulering. I tråd med sikkerhetstiltakene avviste modellene våre forespørsler som var klart skadelige og ikke hadde noe legitimt bruksområde.
Representative eksempler på disse aktivitetene kan knyttes til LLM ATT&CK-rammeverket som følger:
Aktivitet | Kategori i LLM ATT&CK-rammeverket |
|---|---|
Konvertering av EXE-filer til posisjonsuavhengig skallkode; bygging av minnebaserte lastere (VirtualAlloc / WriteProcessMemory / ekstern tråd); konvertering mellom programmeringsspråk for verktøykjeder til lastere. | LLM-optimalisert utforming av nyttelast |
Innsetting av lag for tilsløring og pakking, cryptere og teknikker som trolig var utviklet for å endre PE-signaturer eller på andre måter skjule nyttelaster for AV/EDR. | LLM-forbedret omgåelse av avviksdeteksjon |
Generering av skript og programkode som trolig var utviklet for å hente ut eller dekryptere nettleserlegitimasjon og informasjonskapsler, analysere LevelDB-data fra kryptolommebøker, overvåke eller erstatte innhold på utklippstavlen og eksfiltrere data via botkanaler som Telegram. | LLM-assistert aktivitet etter kompromittering |
Bygging og forbedring av C2- og tunnelinfrastruktur, inkludert reverse proxyer, SOCKS5-/OpenVPN-konfigurasjoner, tunnelering av eksternt skrivebord samt veiledning om feilsøking og distribusjon for ekstern strømming og inndataemulering. | LLM-veiledet kartlegging av infrastruktur |
Konsekvenser
Vi deaktiverte alle kontoer knyttet til denne aktiviteten og delte relevante indikatorer med bransjepartnere. Vi fant ingen bevis for at tilgangen til modellene våre ga disse aktørene nye ferdigheter eller fremgangsmåter som de ikke ellers kunne ha tilegnet seg fra en rekke offentlig tilgjengelige ressurser. Modellene våre avviste direkte forespørsler om skadevareutnyttelse og tasteloggere.