Contribuer à des standards communs pour l’IA avancée

Des modèles toujours plus performants peuvent renforcer la cyberdéfense, accélérer les découvertes scientifiques et élargir l’accès à l’expertise. Mais ils peuvent aussi créer des risques pour la sûreté et la sécurité si leurs capacités sont mal comprises, si leurs garde-fous sont insuffisants ou si les pouvoirs publics ne disposent pas des informations nécessaires pour réagir. Pour en tirer parti de manière sûre et confiante, les sociétés auront besoin d’institutions dotées des capacités techniques et de gouvernance nécessaires pour évaluer, sécuriser et encadrer des systèmes toujours plus performants.

C’est l’une des raisons pour lesquelles OpenAI a contribué à fonder l’Appia Foundation⁠(ouverture dans une nouvelle fenêtre), hébergée par la Linux Foundation. Appia développera des spécifications ouvertes et modulaires destinées à traduire les normes internationales et les cadres établis en critères d’évaluation pratiques tout au long de la chaîne de valeur de l’IA. Son travail peut aider à créer une couche de confiance essentielle qui fait aujourd’hui défaut, grâce à laquelle des tiers vérifient la conformité aux normes et produisent des éléments de preuve plus clairs et plus réutilisables lorsque les modèles, l’infrastructure et les applications sont développés par différentes organisations. Ce faisant, Appia contribuera à créer un langage technique commun qui permettra aux institutions nationales et internationales de faire confiance au travail des unes et des autres.

Nous voyons dans cet effort une prochaine étape importante d’un chantier plus large visant à renforcer les institutions, les standards et les pratiques d’évaluation nécessaires aux systèmes d’IA avancés.

Notre récent plan pour une gouvernance démocratique de l’IA de pointe propose une feuille de route pour ce travail. Il appelle à un cadre américain durable, à un Center for AI Standards and Innovation (CAISI) renforcé, ainsi qu’à une stratégie de résilience plus large à l’échelle de l’administration. Il reconnaît également que les risques liés aux modèles de pointe ont une portée internationale. Les États devraient collaborer pour élaborer des cadres de sûreté compatibles, des canaux fiables de partage des constats sur les risques et des réponses coordonnées aux incidents.

Les capacités nationales et la coopération internationale devraient se renforcer mutuellement. Des institutions solides comme CAISI peuvent développer une expertise technique, évaluer les systèmes de pointe et soutenir un écosystème d’évaluation indépendant. Un réseau d’institutions nationales compétentes peut ensuite établir des méthodes communes, reconnaître les preuves fiables et donner aux gouvernements la compréhension technique partagée nécessaire pour agir ensemble.

Les standards sont au cœur de cet effort et doivent s’appuyer sur des pratiques d’évaluation crédibles et une rigueur technique. Dans notre guide commun pour des évaluations tierces fiables, nous exposons les éléments que les évaluations des systèmes de pointe doivent de plus en plus communiquer : le système testé, son accès aux outils et son dispositif d’évaluation, les méthodes utilisées pour faire émerger les capacités, les ressources disponibles et les vérifications effectuées pour valider les résultats. Nous avons également mis ces principes en pratique dans le cadre de partenariats de test avec l’US CAISI et l’UK AISI, dont les travaux sur l’évaluation des capacités de pointe et les garde-fous contre les usages biologiques abusifs ont conduit à des améliorations concrètes de nos systèmes. Ce travail joue un rôle important : jeter les bases de pratiques pouvant être normalisées afin de vérifier les performances de manière comparable.

Ces pratiques complètent l’infrastructure de sécurité plus large d’OpenAI. Notre Preparedness Framework constitue le socle de notre approche pour définir et mettre en œuvre la gestion des risques les plus graves liés aux systèmes d’IA avancés, y compris dans nos pratiques internes. Notre cadre de gouvernance des modèles de pointe intègre les éléments pertinents de cette approche dans un document public de gouvernance centré sur des obligations réglementaires précises, notamment l’évaluation des risques, la déclaration des modèles, les contrôles de sécurité, la réponse aux incidents et la prise en compte des contributions d’experts externes. Ensemble, ces documents aident à traduire de grands engagements en pratiques opérationnelles pouvant être validées et améliorées.

Le travail d’Appia vise le prochain défi : rendre ces pratiques interopérables entre les organisations, les juridictions et la chaîne d’approvisionnement.

OpenAI contribue déjà à un écosystème plus large de normes et d’efforts de pré-normalisation. Nous participons au Comité technique mixte 1, sous-comité 42 sur l’intelligence artificielle, de l’Organisation internationale de normalisation et de la Commission électrotechnique internationale⁠(ouverture dans une nouvelle fenêtre) ainsi qu’au Consortium sur l’intelligence artificielle piloté par le National Institute of Standards and Technology⁠(ouverture dans une nouvelle fenêtre) ; nous avons contribué à fonder le Forum des modèles de pointe et l’Agentic Artificial Intelligence Foundation⁠(ouverture dans une nouvelle fenêtre) de la Linux Foundation ; nous participons à la Coalition for Secure Artificial Intelligence⁠(ouverture dans une nouvelle fenêtre) ; siégeons au comité de pilotage de la Coalition for Content Provenance and Authenticity⁠(ouverture dans une nouvelle fenêtre) ; et prenons part aux travaux de l’Internet Engineering Task Force⁠(ouverture dans une nouvelle fenêtre) et de la Fast Identity Online Alliance⁠(ouverture dans une nouvelle fenêtre) afin de faire progresser des normes techniques interopérables.

Dans l’ensemble de ces forums, y compris désormais par l’intermédiaire d’Appia, notre objectif est de transformer les enseignements tirés du développement à la frontière technologique en pratiques ouvertes, techniquement solides, que les pouvoirs publics, les entreprises et les évaluateurs indépendants peuvent utiliser dans différentes juridictions.