Opération cybernétique : outils malveillants russophones
OpenAI a banni des comptes probablement liés à des groupes criminels russophones qui utilisaient l’IA pour créer des chargeurs de logiciels malveillants, des couches d’évasion, des scripts de vol d’identifiants et une infrastructure C2.
Cette étude de cas a été publiée initialement dans le rapport d’octobre 2025(s'ouvre dans une nouvelle fenêtre) d’OpenAI.
Acteur
Nous avons banni des comptes ChatGPT qui tentaient d’utiliser le modèle pour développer et perfectionner des logiciels malveillants, notamment un cheval de Troie d’accès à distance, des outils de vol d’identifiants et des fonctions permettant d’échapper à la détection. Ces comptes semblent affiliés à des groupes criminels russophones, car nous les avons vus publier des preuves de leurs activités dans un canal Telegram consacré à ces acteurs. Selon notre enquête, nous estimons que cette activité était liée à un opérateur russophone qui gérait plusieurs comptes et exploitait une infrastructure d’hébergement mandataire et éphémère.
Comportement
Cet acteur malveillant a utilisé plusieurs comptes ChatGPT principalement pour créer des prototypes et résoudre des problèmes liés à des composants techniques permettant la post-exploitation et le vol d’identifiants, des activités bien connues chez ce type d’acteur. Le modèle a refusé les demandes directes visant à générer du contenu malveillant. L’opérateur utilisait donc généralement le modèle pour obtenir des blocs de code, par exemple pour convertir des exécutables compilés en code d’interpréteur de commandes, concevoir des chargeurs en mémoire ou analyser des identifiants de navigateur, que l’acteur malveillant a ensuite probablement intégrés à des flux de travail malveillants.
L’acteur malveillant a également utilisé nos modèles pour générer du code d’obscurcissement et des modèles de « crypteur », notamment l’insertion d’instructions de remplissage et de séquences inutiles, la surveillance du presse-papiers ainsi que de simples outils d’exfiltration, comme un téléverseur par robot Telegram et des scripts d’archivage et d’envoi. Ces résultats ne sont pas intrinsèquement malveillants, sauf s’ils sont utilisés ainsi par un acteur malveillant à l’extérieur de notre plateforme.
L’acteur malveillant a surtout utilisé ChatGPT pour des tâches techniques comme la gestion de bas niveau de PE / l’API Win32 et des témoins avec DPAPI / AES GCM, ainsi que l’automatisation de Chrome DevTools / CDP. L’acteur malveillant a formulé des demandes de niveaux de complexité variés : de nombreuses requêtes exigeaient une connaissance approfondie de la plateforme Windows et un débogage itératif, tandis que d’autres automatisaient des tâches courantes comme la génération massive de mots de passe et les candidatures à des emplois par script. L’opérateur a utilisé un petit nombre de comptes ChatGPT et a retravaillé le même code au fil des conversations, ce qui correspond davantage à un développement continu qu’à des essais occasionnels.
Résultats
Nos modèles n’ont servi à exécuter aucun outil ni flux de travail de l’acteur malveillant, et nous ne pouvons vérifier de façon indépendante aucune activité menée hors plateforme. Cet acteur malveillant a tenté d’utiliser nos modèles pour développer et perfectionner des outils offensifs et des flux de travail opérationnels qui semblent permettre de voler des identifiants et des cryptoactifs, d’exécuter discrètement du code et de gérer une infrastructure clandestine.
Plus précisément, il a utilisé ChatGPT pour générer et améliorer du code fonctionnel ainsi que des directives de déploiement pour l’exécution en mémoire et les chargeurs de code d’interpréteur de commandes; le contournement de l’UAC, de SmartScreen et de Mark-of-the-Web; l’extraction d’identifiants et de témoins de navigateur ainsi que les structures de déchiffrement lié aux applications; l’analyse de portefeuilles LevelDB et les outils de détournement ou de remplacement du presse-papiers avec exfiltration; et les composants d’accès à distance (RAT), notamment l’émulation vidéo et des entrées. Conformément à leurs mesures de protection, nos modèles ont refusé les demandes manifestement malveillantes et sans application légitime.
Des exemples représentatifs de ces activités peuvent être associés au cadre LLM ATT&CK comme suit :
Activité | Catégorie du cadre LLM ATT&CK |
|---|---|
Conversion d’EXE en code d’interpréteur de commandes indépendant de la position; création de chargeurs en mémoire (VirtualAlloc / WriteProcessMemory / fil d’exécution distant); conversions de langages pour les chaînes d’outils de chargement. | Conception de charges utiles optimisée par LLM |
Insertion de couches d’obscurcissement et de compression, de crypteurs et de techniques probablement conçues pour modifier les signatures PE ou dissimuler autrement les charges utiles aux systèmes AV/EDR. | Contournement de la détection d’anomalies amélioré par LLM |
Génération de scripts et de code probablement conçus pour extraire ou déchiffrer les identifiants et témoins de navigateur, analyser les bases LevelDB de portefeuilles, surveiller ou remplacer le contenu du presse-papiers et exfiltrer des données par des canaux de robots comme Telegram. | Activité post-compromission assistée par LLM |
Création et perfectionnement d’une infrastructure de commande et contrôle (C2) et de tunnelisation, notamment des serveurs mandataires inverses, des configurations SOCKS5 / OpenVPN, la tunnelisation de bureaux à distance ainsi que des directives de débogage et de déploiement pour la diffusion à distance et l’émulation des entrées. | Profilage d’infrastructure guidé par LLM |
Impact
Nous avons désactivé tous les comptes associés à cette activité et transmis les indicateurs pertinents à des partenaires du secteur. Nous n’avons trouvé aucune preuve que l’accès à nos modèles ait fourni à ces acteurs de nouvelles capacités ou pistes qu’ils n’auraient pas pu obtenir autrement auprès de nombreuses ressources publiques. Nos modèles ont refusé les demandes directes concernant des exploits et des enregistreurs de frappe.