Cyberoperation: ryskspråkiga verktyg för skadlig kod
OpenAI stängde av konton med troliga kopplingar till ryskspråkiga kriminella grupper som använde AI för att bygga laddare för skadlig kod, lager för att undgå upptäckt, skript för stöld av autentiseringsuppgifter och C2-infrastruktur.
Den här fallstudien publicerades ursprungligen i OpenAI:s rapport från oktober 2025(öppnas i ett nytt fönster).
Aktör
Vi stängde av ChatGPT‑konton som försökte använda modellen för att utveckla och finslipa skadlig kod, däribland en fjärråtkomsttrojan, verktyg för att stjäla autentiseringsuppgifter och funktioner för att undgå upptäckt. Dessa konton verkar ha kopplingar till ryskspråkiga kriminella grupper, eftersom vi såg dem publicera bevis på sin verksamhet i en Telegram-kanal för sådana aktörer. Utifrån vår utredning bedömer vi att verksamheten var kopplad till en ryskspråkig operator som hanterade flera konton och använde proxyservrar och tillfällig driftinfrastruktur.
Beteende
Den här hotaktören använde flera ChatGPT‑konton främst för att skapa prototyper och felsöka tekniska komponenter för aktiviteter efter intrång och stöld av autentiseringsuppgifter, vilket är välkända tillvägagångssätt för den här typen av hotaktör. Modellen avvisade direkta förfrågningar om att generera skadligt innehåll. Operatorn använde därför vanligtvis modellen för att ta fram kodkomponenter, exempelvis för att konvertera kompilerade körbara filer till shellkod, utforma minnesbaserade laddare eller analysera autentiseringsuppgifter från webbläsare. Hotaktören satte sedan sannolikt ihop dessa till skadliga arbetsflöden.
Hotaktören använde även våra modeller för att generera kod för obfuskering och så kallade ”crypter”-mönster, exempelvis infogning av utfyllnadsinstruktioner och skräpsekvenser, övervakning av urklipp samt enkla exfiltreringsverktyg, som en Telegram-bot för uppladdning och skript för att arkivera och skicka data. Dessa resultat är inte skadliga i sig, såvida de inte används på ett skadligt sätt av en hotaktör utanför vår plattform.
Hotaktören använde främst ChatGPT för tekniska uppgifter på låg nivå, såsom hantering av PE/Win32 API och DPAPI/AES GCM-cookies samt automatisering med Chrome DevTools/CDP. Hotaktörens förfrågningar hade varierande komplexitet: många promptar krävde djupgående kunskap om Windows-plattformen och iterativ felsökning, medan andra automatiserade enklare standarduppgifter som massgenerering av lösenord och skriptade jobbansökningar. Operatorn använde ett litet antal ChatGPT‑konton och vidareutvecklade samma kod i flera konversationer, ett mönster som tyder på löpande utveckling snarare än enstaka tester.
Resultat
Våra modeller användes inte för att köra några av hotaktörens verktyg eller arbetsflöden, och vi kan inte oberoende verifiera någon aktivitet utanför plattformen. Hotaktören försökte använda våra modeller för att utveckla och finslipa offensiva verktyg och operativa arbetsflöden som tycks möjliggöra stöld av autentiseringsuppgifter och kryptotillgångar, dold kodkörning och hantering av hemlig infrastruktur.
Mer specifikt använde aktören ChatGPT för att generera och iterativt förbättra fungerande kod och distributionsanvisningar för minnesbaserad körning och shellkodsladdare; kringgående av UAC, SmartScreen och Mark-of-the-Web; extrahering av autentiseringsuppgifter och cookies från webbläsare samt ramverk för appbunden dekryptering; analys av plånböckers LevelDB-data och verktyg för att kapa eller ersätta urklippsinnehåll och exfiltrera data; samt komponenter för fjärråtkomsttrojaner (RAT), däribland video- och inmatningsemulering. I enlighet med sina skyddsåtgärder avvisade våra modeller förfrågningar som var uppenbart skadliga och saknade legitima användningsområden.
Representativa exempel på dessa aktiviteter kan kopplas till ramverket LLM ATT&CK enligt följande:
Aktivitet | Kategori i ramverket LLM ATT&CK |
|---|---|
Konvertering av EXE-filer till positionsoberoende shellkod; utveckling av minnesbaserade laddare (VirtualAlloc/WriteProcessMemory/fjärrtråd); konvertering mellan programmeringsspråk för verktygskedjor till laddare. | LLM-optimerad utformning av nyttolaster |
Infogning av lager för obfuskering och paketering, crypters och tekniker som sannolikt utformats för att ändra PE-signaturer eller på annat sätt dölja nyttolaster för AV/EDR. | LLM-förstärkt kringgående av anomalidetektering |
Generering av skript och programkod som sannolikt utformats för att extrahera eller dekryptera autentiseringsuppgifter och cookies från webbläsare, analysera plånböckers LevelDB-data, övervaka eller ersätta urklippsinnehåll och exfiltrera data via botkanaler som Telegram. | LLM-assisterad aktivitet efter intrång |
Utveckling och finslipning av C2- och tunnlingsinfrastruktur, däribland omvända proxyservrar, SOCKS5/OpenVPN-konfigurationer, tunnling av fjärrskrivbord samt vägledning för felsökning och distribution av fjärrströmning och inmatningsemulering. | LLM-vägledd infrastrukturprofilering |
Påverkan
Vi inaktiverade alla konton som var kopplade till verksamheten och delade relevanta indikatorer med branschpartner. Vi hittade inga belägg för att åtkomsten till våra modeller gav aktörerna nya förmågor eller tillvägagångssätt som de inte hade kunnat få från flera offentligt tillgängliga källor. Våra modeller avvisade direkta förfrågningar om exploateringskod och tangentloggare.