Opération « ScopeCreep » : développement de logiciels malveillants par un acteur russophone

Cette étude de cas a été publiée initialement dans le rapport de juin 2025⁠(s'ouvre dans une nouvelle fenêtre) d’OpenAI.

Nous avons banni un groupe de comptes ChatGPT qui semblaient être exploités par un acteur malveillant russophone. Cet acteur a utilisé nos modèles pour l’aider à développer et à perfectionner des logiciels malveillants pour Windows, à déboguer du code dans plusieurs langages et à mettre en place son infrastructure de commande et de contrôle.

L’acteur a démontré une connaissance du fonctionnement interne de Windows et adopté certaines pratiques de sécurité opérationnelle. Comme cette opération reposait sur l’utilisation d’un outil de jeu de type « réticule de visée » infecté par un cheval de Troie et sur des tactiques furtives, nous l’avons baptisée « ScopeCreep ».

Cet acteur malveillant avait une approche notable de la sécurité opérationnelle. Il utilisait des adresses courriel temporaires pour créer des comptes ChatGPT, limitant chaque compte à une seule conversation portant sur une amélioration progressive de son code. Il abandonnait ensuite le compte initial et en créait un nouveau.

L’acteur distribuait le logiciel malveillant ScopeCreep au moyen d’un dépôt de code accessible au public qui se faisait passer pour un outil légitime et populaire de superposition de réticule de visée pour les jeux vidéo (Crosshair-X). Les utilisateurs non avertis qui téléchargeaient et exécutaient la version malveillante lançaient le chargeur de logiciel malveillant sur leur système, ce qui entraînait le téléchargement et l’exécution d’autres fichiers malveillants depuis l’infrastructure de l’attaquant.

À partir de là, le logiciel malveillant était conçu pour lancer un processus en plusieurs étapes afin d’élever les privilèges, d’établir une persistance furtive, d’aviser l’acteur malveillant et d’exfiltrer des données sensibles tout en évitant la détection.

L’acteur malveillant utilisait notre modèle pour l’aider à développer le logiciel malveillant de façon itérative, en demandant continuellement à ChatGPT d’implémenter de nouvelles fonctionnalités précises. ScopeCreep employait un éventail de techniques de livraison, d’exécution, d’évasion et d’exfiltration, notamment :

• Des charges utiles C2 conçues pour éviter la détection fondée sur les signatures.

• Une exécution furtive par chargement latéral de DLL.

• Une obfuscation par empaquetage personnalisé avec Themida.

• L’élévation des privilèges et l’évasion.

• HTTPS sur le port 80.

• Le vol d’identifiants et de sessions.

• Des notifications à l’attaquant par Telegram.

• L’obfuscation du trafic au moyen de serveurs mandataires.

Malgré les efforts de sécurité opérationnelle de l’acteur malveillant et les mécanismes d’évasion de la détection intégrés au logiciel malveillant, nous avons pu détecter cette activité grâce à notre processus de détection des cyberabus à grande échelle. Nous avons collaboré avec le fournisseur d’hébergement de code pour mettre hors ligne le dépôt malveillant et avons banni tous les comptes ChatGPT associés à cette activité.

Les interactions de ce groupe de comptes avec le modèle couvraient un large éventail de tâches de développement. L’une d’elles comprenait un extrait de code Go dans lequel l’acteur malveillant rencontrait des difficultés avec une requête HTTPS et demandait au modèle de le déboguer. Dans un autre cas, l’acteur malveillant demandait de l’aide pour utiliser des commandes PowerShell à partir de Go afin de modifier les paramètres de Windows Defender, cherchant un moyen d’ajouter des exclusions antivirus par programmation.

Des exemples représentatifs de ces activités peuvent être associés au cadre LLM ATT&CK comme suit :

• Utilisation de LLM pour compiler un fichier, python310.dll, afin que le code de l’acteur s’exécute chaque fois que python.exe est lancé : développement assisté par LLM.

• Résolution d’erreurs liées à des certificats SSL/TLS destinés à assurer le trafic HTTPS sur le port 80 : développement assisté par LLM.

• Migration assistée par modèle d’un serveur C2 basé sur Flask vers un serveur WSGI prêt pour la production : développement assisté par LLM.

• Développement de commandes PowerShell en Go pour modifier les paramètres de Windows Defender et ajouter des exclusions antivirus : évasion de la détection d’anomalies améliorée par LLM.

• Débogage de code destiné à envoyer une notification à un canal Telegram contrôlé par l’attaquant lorsqu’une nouvelle victime est compromise : activité après compromission assistée par LLM.

À ce stade, les répercussions de ScopeCreep ont peut-être été atténuées par un signalement rapide et une étroite collaboration avec des partenaires du secteur qui ont pu mettre hors ligne le dépôt malveillant. Nous avons banni les comptes OpenAI utilisés par cet adversaire.

Nous estimons que cet acteur malveillant a utilisé nos modèles pour tenter d’accélérer ses activités de développement de logiciels malveillants. Paradoxalement, cela nous a aussi donné l’occasion de repérer et de perturber rapidement la menace, apparemment à ses débuts.

Bien que les capacités de ce logiciel malveillant comprennent l’élévation des privilèges, la persistance, la collecte d’identifiants et l’accès à distance, elles ne sont pas particulièrement nouvelles. Même si ce logiciel malveillant était probablement actif en circulation, certains échantillons étant apparus sur VirusTotal, nous n’avons observé aucun signe d’un intérêt généralisé ni d’une diffusion à grande échelle.