Cyberoperatie: malwaretools van Russischtaligen
OpenAI blokkeerde accounts die waarschijnlijk verbonden waren aan Russischtalige criminele groepen en AI gebruikten om malware-loaders, ontwijkingslagen, scripts voor diefstal van inloggegevens en C2-infrastructuur te bouwen.
Deze casestudy verscheen oorspronkelijk in het rapport van OpenAI van oktober 2025(opent in een nieuw venster).
Actor
We hebben ChatGPT‑accounts geblokkeerd die het model probeerden te gebruiken om malware te ontwikkelen en te verfijnen, waaronder een trojan voor externe toegang, software voor het stelen van inloggegevens en functies om detectie te omzeilen. Deze accounts lijken verbonden te zijn aan Russischtalige criminele groepen. We zagen namelijk dat ze in een aan die actoren gewijd Telegram-kanaal bewijs van hun activiteiten plaatsten. Op basis van ons onderzoek schatten we in dat deze activiteit verband hield met een Russischtalige operator die meerdere accounts beheerde en gebruikmaakte van proxy's en tijdelijke hostinginfrastructuur.
Gedrag
Deze dreigingsactor gebruikte meerdere ChatGPT‑accounts vooral om technische componenten voor activiteiten na een geslaagde aanval en voor diefstal van inloggegevens te prototypen en problemen ermee op te lossen. Dit zijn bekende activiteiten voor dit type dreigingsactor. Het model weigerde rechtstreekse verzoeken om schadelijke content te genereren. De operator gebruikte het model daarom doorgaans om code voor afzonderlijke bouwstenen te verkrijgen, zoals het omzetten van gecompileerde uitvoerbare bestanden in shellcode, het ontwerpen van in-memory loaders en het verwerken van browserinloggegevens. De dreigingsactor heeft deze bouwstenen vervolgens waarschijnlijk samengevoegd tot schadelijke workflows.
De dreigingsactor gebruikte onze modellen ook om code voor obfuscatie en "crypter"-patronen te genereren, zoals het invoegen van opvulinstructies en overbodige reeksen, het bewaken van het klembord en eenvoudige hulpmiddelen voor exfiltratie, waaronder een uploader via een Telegram-bot en scripts die bestanden archiveren en verzenden. Deze uitvoer is op zichzelf niet schadelijk, tenzij een dreigingsactor deze buiten ons platform voor schadelijke doeleinden gebruikt.
De dreigingsactor gebruikte ChatGPT voornamelijk voor technische taken, zoals PE / Win32 API op laag niveau, de verwerking van cookies met DPAPI / AES GCM en automatisering met Chrome DevTools / CDP. De dreigingsactor deed zowel zeer geavanceerde als minder geavanceerde verzoeken: veel prompts vereisten diepgaande kennis van het Windows-platform en herhaaldelijke foutopsporing, terwijl andere gangbare taken automatiseerden, zoals het massaal genereren van wachtwoorden en het geautomatiseerd solliciteren naar vacatures. De operator gebruikte een klein aantal ChatGPT‑accounts en werkte in verschillende gesprekken steeds verder aan dezelfde code. Dit patroon past bij doorlopende ontwikkeling en niet bij incidentele tests.
Resultaten
Onze modellen zijn niet gebruikt om tools of workflows van de dreigingsactor uit te voeren en we kunnen activiteiten buiten ons platform niet onafhankelijk verifiëren. Deze dreigingsactor probeerde onze modellen te gebruiken om offensieve tools en operationele workflows te ontwikkelen en te verfijnen die bedoeld lijken voor het stelen van inloggegevens en cryptoactiva, het onopgemerkt uitvoeren van code en het beheren van heimelijke infrastructuur.
De actor gebruikte ChatGPT specifiek voor het genereren en stapsgewijs verbeteren van werkende code en implementatierichtlijnen voor uitvoering in het geheugen en shellcode-loaders; het omzeilen van UAC / SmartScreen / Mark-of-the-Web; het extraheren van browserinloggegevens / cookies en raamwerken voor app-gebonden ontsleuteling; het verwerken van LevelDB-wallets en tools voor klembordkaping / klembordvervanging met exfiltratie; en componenten voor externe toegang (RAT), waaronder video- en invoeremulatie. Conform hun beveiligingsmaatregelen weigerden onze modellen verzoeken die duidelijk schadelijk waren en geen legitieme toepassing hadden.
Representatieve voorbeelden van deze activiteiten kunnen als volgt aan het LLM ATT&CK-framework worden gekoppeld:
Activiteit | Categorie van het LLM ATT&CK-framework |
|---|---|
EXE's omzetten in positie-onafhankelijke shellcode; in-memory loaders bouwen (VirtualAlloc / WriteProcessMemory / externe thread); code naar andere programmeertalen omzetten voor loader-toolchains. | LLM-geoptimaliseerde payloadontwikkeling |
Obfuscatie- / packerlagen, crypters en technieken invoegen die waarschijnlijk bedoeld zijn om PE-handtekeningen te wijzigen of payloads anderszins voor AV/EDR te verbergen. | LLM-ondersteunde omzeiling van anomaliedetectie |
Scripts en programmacode genereren die waarschijnlijk bedoeld zijn om browserinloggegevens en cookies te extraheren / ontsleutelen, LevelDB's van wallets te verwerken, klembordinhoud te bewaken of vervangen en gegevens via botkanalen zoals Telegram te exfiltreren. | Door LLM ondersteunde activiteiten na compromittering |
C2- en tunnelinginfrastructuur bouwen en verfijnen, waaronder reverse proxy's, SOCKS5- / OpenVPN-configuraties en tunnels voor extern bureaublad, plus richtlijnen voor foutopsporing en implementatie van streaming op afstand en invoeremulatie. | LLM-gestuurde infrastructuurprofilering |
Impact
We hebben alle accounts die verband hielden met deze activiteit uitgeschakeld en relevante indicatoren gedeeld met partners in de sector. We hebben geen bewijs gevonden dat toegang tot onze modellen deze actoren nieuwe mogelijkheden of aanwijzingen bood die ze niet ook uit diverse openbaar beschikbare bronnen hadden kunnen verkrijgen. Onze modellen weigerden rechtstreekse verzoeken om exploits en keyloggers.