Cyberopération : outils malveillants russophones
OpenAI a banni des comptes probablement liés à des groupes criminels russophones qui utilisaient l’IA pour créer des chargeurs de logiciels malveillants, des couches de contournement, des scripts de vol d’identifiants et une infrastructure C2.
Cette étude de cas a été publiée initialement dans le rapport d’octobre 2025(ouverture dans une nouvelle fenêtre) d’OpenAI.
Acteur
Nous avons banni des comptes ChatGPT qui tentaient d’utiliser le modèle pour développer et perfectionner des logiciels malveillants, notamment un cheval de Troie d’accès à distance, des outils de vol d’identifiants et des fonctions permettant d’échapper à la détection. Ces comptes semblent être affiliés à des groupes criminels russophones, car nous les avons vus publier des preuves de leurs activités dans un canal Telegram consacré à ces acteurs. D’après notre enquête, nous estimons que cette activité était liée à un opérateur russophone gérant plusieurs comptes et exploitant une infrastructure de proxys et d’hébergement éphémère.
Comportement
Cet acteur malveillant a utilisé plusieurs comptes ChatGPT principalement pour prototyper et dépanner des composants techniques permettant des activités post-exploitation et le vol d’identifiants, des pratiques bien connues chez ce type d’acteur. Le modèle a refusé les demandes directes de génération de contenu malveillant. L’utilisation habituelle du modèle par l’opérateur consistait donc à obtenir des briques de code, par exemple pour convertir des exécutables compilés en code shell, concevoir des chargeurs en mémoire ou analyser les identifiants de navigateurs, que l’acteur malveillant a ensuite probablement assemblées en flux de travail malveillants.
L’acteur malveillant a également utilisé nos modèles pour générer du code destiné à l’obscurcissement et à des mécanismes de type « crypter », par exemple l’insertion d’instructions de remplissage et de séquences inutiles, la surveillance du presse-papiers et de simples outils d’exfiltration, tels qu’un robot Telegram de téléversement et des scripts d’archivage et d’envoi. Ces résultats ne sont pas intrinsèquement malveillants, sauf s’ils sont employés comme tels par un acteur malveillant en dehors de notre plateforme.
L’acteur malveillant a principalement utilisé ChatGPT pour des tâches techniques, notamment la gestion de bas niveau de PE, de l’API Win32 et des cookies avec DPAPI / AES GCM, ainsi que l’automatisation de Chrome DevTools / CDP. L’acteur malveillant a formulé des demandes de niveaux de sophistication variés : de nombreuses requêtes exigeaient une connaissance approfondie de la plateforme Windows et un débogage itératif, tandis que d’autres automatisaient des tâches courantes comme la génération massive de mots de passe et l’envoi automatisé de candidatures. L’opérateur a utilisé un petit nombre de comptes ChatGPT et a travaillé de manière itérative sur le même code au fil des conversations, un schéma correspondant davantage à un développement continu qu’à des tests occasionnels.
Réalisations
Nos modèles n’ont servi à exécuter aucun outil ni flux de travail de l’acteur malveillant, et nous ne sommes pas en mesure de vérifier indépendamment les activités menées hors de notre plateforme. Cet acteur malveillant a tenté d’utiliser nos modèles pour développer et perfectionner des outils offensifs et des flux de travail opérationnels semblant permettre le vol d’identifiants et de cryptoactifs, l’exécution furtive de code et la gestion d’une infrastructure clandestine.
Plus précisément, il a utilisé ChatGPT pour générer et améliorer de manière itérative du code fonctionnel et des instructions de déploiement concernant l’exécution en mémoire et les chargeurs de code shell ; le contournement de l’UAC, de SmartScreen et de Mark-of-the-Web ; l’extraction d’identifiants et de cookies de navigateurs, ainsi que des structures de déchiffrement lié aux applications ; l’analyse de portefeuilles LevelDB et des outils de détournement ou de remplacement du presse-papiers avec exfiltration ; et des composants d’accès à distance (RAT), notamment pour la vidéo et l’émulation des saisies. Conformément à leurs mesures de protection, nos modèles ont refusé les demandes clairement malveillantes dépourvues de toute application légitime.
Des exemples représentatifs de ces activités peuvent être associés au cadre LLM ATT&CK comme suit :
Activité | Catégorie du cadre LLM ATT&CK |
|---|---|
Conversion d’EXE en code shell indépendant de la position ; création de chargeurs en mémoire (VirtualAlloc / WriteProcessMemory / thread distant) ; conversions de langages pour les chaînes d’outils de chargement. | Création de charges utiles optimisée par LLM |
Insertion de couches d’obscurcissement ou de compactage, de crypters et de techniques probablement conçues pour modifier les signatures PE ou dissimuler autrement les charges utiles aux antivirus et solutions EDR. | Contournement de la détection des anomalies amélioré par LLM |
Génération de scripts et de code probablement conçus pour extraire ou déchiffrer les identifiants et cookies de navigateurs, analyser les bases LevelDB de portefeuilles, surveiller ou remplacer le contenu du presse-papiers et exfiltrer des données par l’intermédiaire de canaux de robots tels que Telegram. | Activité post-compromission assistée par LLM |
Création et perfectionnement d’une infrastructure de commande et contrôle (C2) et de tunnellisation, notamment des proxys inverses, des configurations SOCKS5 / OpenVPN, des tunnels de bureau à distance, ainsi que des instructions de débogage et de déploiement pour la diffusion à distance et l’émulation des saisies. | Profilage de l’infrastructure guidé par LLM |
Impact
Nous avons désactivé tous les comptes associés à cette activité et communiqué les indicateurs pertinents à des partenaires du secteur. Nous n’avons trouvé aucune preuve que l’accès à nos modèles ait fourni à ces acteurs de nouvelles capacités ou orientations qu’ils n’auraient pas pu obtenir par ailleurs auprès de multiples ressources accessibles au public. Nos modèles ont refusé les demandes directes concernant des exploits et des enregistreurs de frappe.