Opération « ScopeCreep » : développement de logiciels malveillants par un acteur russophone

Cette étude de cas a été publiée initialement dans le rapport de juin 2025⁠(ouverture dans une nouvelle fenêtre) d’OpenAI.

Nous avons banni un groupe de comptes ChatGPT qui semblaient être exploités par un acteur malveillant russophone. Cet acteur utilisait nos modèles pour l’aider à développer et à perfectionner des logiciels malveillants pour Windows, à déboguer du code dans plusieurs langages et à mettre en place son infrastructure de commande et de contrôle.

L’acteur a montré une connaissance du fonctionnement interne de Windows et adopté certaines pratiques de sécurité opérationnelle. L’opération reposant sur l’utilisation d’un outil de « réticule de visée » pour jeux vidéo piégé par un cheval de Troie et sur des tactiques furtives, nous l’avons baptisée « ScopeCreep ».

Cet acteur malveillant avait une approche notable de la sécurité opérationnelle. Il utilisait des adresses e-mail temporaires pour créer des comptes ChatGPT, limitant chaque compte à une seule conversation visant à apporter une amélioration progressive à son code. Il abandonnait ensuite le compte initial et en créait un nouveau.

L’acteur diffusait le logiciel malveillant ScopeCreep par l’intermédiaire d’un dépôt de code public qui se faisait passer pour un outil légitime et populaire de superposition de réticule de visée pour jeux vidéo (Crosshair-X). Les utilisateurs qui téléchargeaient et exécutaient la version malveillante sans se méfier lançaient le chargeur du logiciel malveillant sur leur système, entraînant le téléchargement et l’exécution d’autres fichiers malveillants depuis l’infrastructure de l’attaquant.

Le logiciel malveillant était alors conçu pour lancer un processus en plusieurs étapes afin d’élever ses privilèges, d’établir une persistance furtive, d’avertir l’acteur malveillant et d’exfiltrer des données sensibles tout en échappant à la détection.

L’acteur malveillant utilisait notre modèle pour l’aider à développer le logiciel malveillant de manière itérative, en demandant continuellement à ChatGPT d’implémenter de nouvelles fonctionnalités précises. ScopeCreep employait diverses techniques de diffusion, d’exécution, de contournement et d’exfiltration, notamment :

• Des charges utiles C2 conçues pour échapper à la détection fondée sur les signatures.

• Une exécution furtive par chargement latéral de DLL.

• Une obfuscation par empaquetage personnalisé avec Themida.

• L’élévation de privilèges et le contournement des protections.

• L’utilisation de HTTPS sur le port 80.

• Le vol d’identifiants et de sessions.

• L’envoi de notifications à l’attaquant via Telegram.

• L’obfuscation du trafic à l’aide de proxys.

Malgré les efforts de sécurité opérationnelle de l’acteur malveillant et les mécanismes de contournement de la détection intégrés au logiciel malveillant, nous avons pu repérer cette activité grâce à notre processus de détection des cyberabus à grande échelle. Nous avons collaboré avec le fournisseur d’hébergement de code pour supprimer le dépôt malveillant et avons banni tous les comptes ChatGPT associés à cette activité.

Les interactions de ce groupe de comptes avec le modèle couvraient un large éventail de tâches de développement. L’une d’elles contenait un extrait de code Go dans lequel l’acteur malveillant rencontrait des difficultés avec une requête HTTPS et demandait au modèle de le déboguer. Dans un autre cas, l’acteur malveillant demandait de l’aide pour utiliser des commandes PowerShell via Go afin de modifier les paramètres de Windows Defender, en cherchant un moyen d’ajouter des exclusions antivirus par programmation.

Des exemples représentatifs de ces activités peuvent être rattachés au cadre LLM ATT&CK comme suit :

• Utilisation de LLM pour compiler un fichier, python310.dll, afin que le code de l’acteur soit exécuté à chaque lancement de python.exe : développement assisté par LLM.

• Résolution d’erreurs liées à des certificats SSL/TLS destinés à servir du trafic HTTPS sur le port 80 : développement assisté par LLM.

• Migration, assistée par le modèle, d’un serveur C2 basé sur Flask vers un serveur WSGI prêt pour la production : développement assisté par LLM.

• Développement de commandes PowerShell en Go pour modifier les paramètres de Windows Defender et ajouter des exclusions antivirus : contournement de la détection d’anomalies renforcé par LLM.

• Débogage du code servant à envoyer une notification sur un canal Telegram contrôlé par l’attaquant lorsqu’une nouvelle victime est compromise : activité post-compromission assistée par LLM.

À ce stade, l’impact de ScopeCreep a pu être atténué grâce à un signalement rapide et à une étroite collaboration avec des partenaires du secteur qui ont pu supprimer le dépôt malveillant. Nous avons banni les comptes OpenAI utilisés par cet adversaire.

Nous estimons que cet acteur malveillant a utilisé nos modèles pour tenter d’accélérer ses opérations de développement de logiciels malveillants. Paradoxalement, cela nous a aussi permis d’identifier et de perturber rapidement la menace, à un stade qui semblait encore précoce.

Si ce logiciel malveillant permet l’élévation de privilèges, la persistance, la collecte d’identifiants et l’accès à distance, ces capacités ne sont pas particulièrement nouvelles. Bien que ce logiciel malveillant ait probablement été actif en conditions réelles, certains échantillons étant apparus sur VirusTotal, nous n’avons observé aucun indice d’un intérêt marqué ni d’une diffusion à grande échelle.