Renforcer la résilience en cybersécurité alors que les capacités de l’IA progressent

Les capacités en cybersécurité des modèles d’IA progressent rapidement, apportant des bénéfices concrets pour la cyberdéfense, tout en introduisant de nouveaux risques à double usage qui doivent être gérés avec précaution. Par exemple, les capacités évaluées à travers des défis de type capture-the-flag (CTF) sont passées de 27 % pour GPT‑5⁠(s'ouvre dans une nouvelle fenêtre) en août 2025 à 76 % pour GPT‑5.1‑Codex‑Max⁠(s'ouvre dans une nouvelle fenêtre) en novembre 2025.

Nous nous attendons à ce que les prochains modèles d’IA poursuivent cette progression. Nous nous y préparons en planifiant et en évaluant comme si chaque nouveau modèle pouvait atteindre un niveau « élevé » en cybersécurité, selon notre cadre de préparation⁠(s'ouvre dans une nouvelle fenêtre). Nous entendons par là des modèles capables soit de développer des exploitations du jour zéro à distance opérationnelles contre des systèmes bien protégés, soit d’apporter une aide significative à des opérations d’intrusion complexes et discrètes au sein d’environnements d’entreprise ou industriels, visant des effets concrets dans le monde réel. Cet article explique comment nous concevons des limites pour des modèles atteignant ce niveau de capacité, afin de soutenir concrètement les défenseurs tout en limitant les usages abusifs.

Alors que ces capacités progressent, OpenAI investit pour renforcer ses modèles sur les usages de cybersécurité défensive et développer des outils permettant aux équipes de sécurité d’effectuer plus facilement des tâches comme l’audit de code et la correction des vulnérabilités. Notre objectif est que nos modèles et nos produits apportent un avantage réel aux défenseurs, souvent en sous-effectif et disposant de ressources limitées.

Comme dans d’autres domaines à double usage, les flux de travail de cybersécurité défensive et offensive reposent souvent sur les mêmes connaissances et techniques. Nous déployons des mesures pour que ces capacités puissantes servent avant tout la défense, tout en réduisant les risques d’usage malveillant. La cybersécurité touche presque tous les domaines, ce qui signifie que nous ne pouvons pas nous appuyer sur une seule catégorie de limites—comme la restriction des connaissances ou un accès contrôlé à lui seul—mais devons adopter une approche de défense approfondie qui équilibre les risques tout en donnant aux utilisateurs les moyens d’agir. Concrètement, cela signifie encadrer la manière dont ces capacités sont accessibles, orientées et utilisées, afin que les modèles avancés renforcent la sécurité plutôt que de faciliter les usages malveillants.

Nous considérons ce travail non pas comme un effort ponctuel, mais comme un investissement durable, visant à donner un avantage aux défenseurs et à renforcer en continu le niveau de sécurité des infrastructures critiques à l’échelle de l’écosystème.

Nos modèles sont conçus et entraînés pour fonctionner en toute sécurité, soutenus par des systèmes proactifs qui détectent et traitent les abus en cybersécurité. Nous affinons continuellement ces protections alors que nos capacités et le paysage des menaces évoluent. Aucun système ne peut garantir une prévention totale des usages abusifs en cybersécurité sans nuire fortement aux usages défensifs. Notre approche consiste donc à réduire les risques grâce à un dispositif de sécurité par niveaux.

À la base, nous adoptons une approche de défense approfondie, fondée sur une combinaison de contrôles d’accès, de renforcement des infrastructures, de contrôles des sorties et de mécanismes de surveillance. Nous complétons ces mesures par des systèmes de détection et de réponse, ainsi que par des programmes dédiés de renseignement sur les menaces et de gestion des risques internes, afin d’identifier et de bloquer rapidement les menaces émergentes. Ces limites sont conçus pour évoluer avec le paysage des menaces. Nous partons du principe que le changement est constant, et nous concevons nos solutions afin de pouvoir nous adapter rapidement et de façon appropriée.

S’appuyer sur cette base :

• Entraîner le modèle à refuser ou à répondre de manière sûre aux demandes nuisibles, tout en restant utile pour les cas d’usage éducatifs et défensifs : Nous entraînons nos modèles de pointe à refuser ou à répondre de manière sûre aux demandes susceptibles de faciliter des usages abusifs en cybersécurité, tout en restant aussi utiles que possible pour des usages légitimes, éducatifs et défensifs.
• Systèmes de détection : Nous affinons et maintenons une surveillance à l’échelle de l’ensemble du système, sur les produits utilisant des modèles de pointe, afin de détecter d’éventuelles activités malveillantes en cybersécurité. Lorsque des activités présentent des risques, nous pouvons bloquer les réponses, orienter les invites vers des modèles plus sûrs ou moins avancés, ou les escalader pour traitement. Notre dispositif d’application des règles repose à la fois sur des systèmes automatisés et sur des examens humains, en tenant compte de facteurs tels que les exigences légales, la gravité et la récurrence des comportements. Nous travaillons également étroitement avec les développeurs et les clients entreprises afin d’aligner les standards de sécurité et de favoriser un usage responsable, avec des circuits d’escalade clairement définis.
• Exercices d’équipe rouge de bout en bout : Nous collaborons avec des organisations spécialisées pour évaluer et améliorer nos mesures de sécurité. Leur rôle est de tenter de contourner l’ensemble de nos défenses de bout en bout, comme le ferait un adversaire déterminé et disposant de moyens importants. Cela nous aide à identifier rapidement les lacunes et à renforcer l’ensemble du système.

OpenAI a investi tôt dans l’application de l’IA aux usages de cybersécurité défensive, et nos équipes collaborent étroitement avec des experts du monde entier pour faire évoluer à la fois nos modèles et leurs usages. Nous saluons le travail de la communauté mondiale des professionnels de la cybersécurité, engagés à rendre notre monde numérique plus sûr, et nous nous engageons à fournir des outils puissants au service de la sécurité défensive. Alors que nous déployons de nouvelles mesures, nous continuerons à travailler avec la communauté de la cybersécurité pour identifier où l’IA peut réellement renforcer la résilience, et où des protections adaptées sont les plus essentielles.

Dans le prolongement de ces collaborations, nous mettons en place une série d’initiatives pour aider les équipes de défense à agir plus vite, ancrer nos mesures dans les réalités du terrain et accélérer la remédiation responsable à grande échelle.

Nous lancerons prochainement un programme d’accès de confiance visant à proposer aux utilisateurs et clients admissibles, engagés dans la cybersécurité défensive, un accès par niveaux à des capacités renforcées dans nos derniers modèles, pour des usages défensifs. Nous continuons d’examiner quelles capacités peuvent être ouvertes à un large accès et lesquelles doivent faire l’objet de restrictions par niveaux, ce qui pourrait influencer la conception future de ce programme. Nous visons à faire de ce programme d’accès de confiance un élément constitutif vers la création d’un écosystème résilient.

Aardvark, notre chercheur en sécurité agentive qui aide les développeurs et les équipes de sécurité à détecter et corriger les vulnérabilités à grande échelle, est désormais disponible en bêta privée. Il analyse les bases de code pour y détecter les vulnérabilités et propose des correctifs que les mainteneurs peuvent adopter rapidement. Il a déjà permis d’identifier de nouvelles CVE dans des logiciels open source en analysant l’ensemble du code. Nous prévoyons d’offrir une couverture gratuite à certains dépôts open source non commerciaux pour renforcer la sécurité de l’écosystème des logiciels open source et de la chaîne d’approvisionnement. Postulez pour participer ici.

Nous mettrons en place le Conseil des risques liés aux modèles de pointe, un groupe consultatif qui réunira des experts de la cybersécurité et des praticiens de la défense pour collaborer étroitement avec nos équipes. Ce conseil commencera par se concentrer sur la cybersécurité et s’étendra à d’autres domaines de capacités de pointe à l’avenir. Les membres apporteront leur expertise sur la frontière qui existe entre capacités utiles et responsables et risques d’usage abusif, et ces enseignements alimenteront directement nos évaluations et les mesures que nous prenons. Nous vous en dirons bientôt plus sur le conseil. 

Enfin, nous anticipons que des usages malveillants en cybersécurité pourraient devenir possibles avec n’importe quel modèle de pointe du secteur. Pour y répondre, nous collaborons avec d’autres laboratoires de pointe au sein du Forum des modèles de pointe, une organisation à but non lucratif soutenue par des acteurs majeurs de l’IA et des partenaires de l’industrie, afin de développer une compréhension commune des modèles de menace et des bonnes pratiques. Dans ce contexte, la modélisation des menaces permet de réduire les risques en identifiant comment les capacités de l’IA pourraient être détournées, où se situent les points de blocage pour différents types d’acteurs malveillants, et dans quelle mesure les modèles de pointe pourraient accroître leur efficacité. Cette collaboration vise à établir une compréhension cohérente, à l’échelle de l’écosystème, des acteurs de la menace et des vecteurs d’attaque, afin de permettre aux laboratoires, aux mainteneurs et aux équipes de défense d’améliorer leurs mesures de protection et d’assurer une diffusion rapide des informations de sécurité essentielles au sein de l’écosystème. Nous collaborons également avec des équipes externes pour développer des évaluations en cybersécurité⁠(s'ouvre dans une nouvelle fenêtre). Nous espérons qu’un écosystème d’évaluations indépendantes contribuera à renforcer une compréhension commune des capacités des modèles.

Ensemble, ces efforts reflètent notre engagement à long terme de renforcer le volet défensif de l’écosystème. Alors que les modèles gagnent en capacité, notre objectif est de faire en sorte que ces avancées se traduisent par un véritable avantage pour les défenseurs—ancré dans les besoins du terrain, éclairé par l’expertise et déployé avec prudence. Dans le prolongement de ces travaux, nous prévoyons d’explorer d’autres initiatives ainsi que des programmes de financement en cybersécurité afin de faire émerger des idées innovantes qui ne passeraient pas par les circuits traditionnels, et de mobiliser des approches audacieuses et créatives issues du monde académique, de l’industrie et de la communauté open source. Dans leur ensemble, ces initiatives s’inscrivent dans un travail continu, et nous prévoyons de les faire évoluer alors que nous identifions ce qui contribue le plus efficacement à renforcer la sécurité dans le monde réel.