Contribuer à des normes communes pour l’IA avancée

Des modèles de plus en plus performants peuvent renforcer la cyberdéfense, accélérer la découverte scientifique et élargir l’accès à l’expertise. Mais ils peuvent aussi créer des risques pour la sûreté et la sécurité si leurs capacités sont mal comprises, si leurs mesures de protection sont insuffisantes ou si les gouvernements ne disposent pas de l’information nécessaire pour réagir. Pour en tirer les avantages de manière sûre et en toute confiance, les sociétés auront besoin d’institutions dotées des capacités techniques et de gouvernance nécessaires pour évaluer, sécuriser et encadrer des systèmes de plus en plus performants.

C’est l’une des raisons pour lesquelles OpenAI a contribué à fonder l’Fondation Appia⁠(s'ouvre dans une nouvelle fenêtre), hébergée par la Fondation Linux. Appia élaborera des spécifications ouvertes et modulaires visant à convertir les normes internationales et les cadres établis en critères d’évaluation pratiques dans l’ensemble de la chaîne de valeur de l’IA. Ses travaux peuvent aider à créer une couche de confiance essentielle et manquante, grâce à laquelle des tiers vérifient la conformité aux normes et produisent des éléments probants plus clairs et plus réutilisables lorsque les modèles, l’infrastructure et les applications sont développés par différentes organisations. En menant ces travaux, Appia contribuera à créer un langage technique commun qui permettra aux institutions nationales et internationales de faire confiance au travail des autres.

Nous considérons cet effort comme une prochaine étape importante dans un ensemble plus vaste de travaux visant à renforcer les institutions, les normes et les pratiques d’évaluation nécessaires aux systèmes d’IA avancés.

Notre récent plan directeur pour une gouvernance démocratique de l’IA de pointe propose une feuille de route pour ces travaux. Il préconise un cadre américain durable, un Center for AI Standards and Innovation (CAISI) renforcé et une stratégie de résilience plus large à l’échelle du gouvernement. Il reconnaît également que les risques liés aux modèles de pointe ont une portée internationale. Les pays devraient travailler ensemble à l’élaboration de cadres de sécurité compatibles, de canaux fiables pour communiquer les constats liés aux risques et de réponses coordonnées aux incidents.

Les capacités nationales et la coopération internationale devraient se renforcer mutuellement. Des institutions solides comme le CAISI peuvent développer une expertise technique, évaluer les systèmes de pointe et soutenir un écosystème d’évaluation indépendant. Un réseau d’institutions nationales compétentes peut ensuite établir des méthodes communes, reconnaître les éléments probants fiables et donner aux gouvernements la compréhension technique commune dont ils ont besoin pour agir ensemble.

Les normes sont au cœur de cet effort, et elles doivent reposer sur des pratiques d’évaluation crédibles et une grande rigueur technique. Dans notre guide commun pour des évaluations tierces dignes de confiance, nous précisons ce que les évaluations des systèmes de pointe doivent de plus en plus divulguer : le système testé, son accès aux outils et son banc d’évaluation, les méthodes utilisées pour faire ressortir ses capacités, les ressources disponibles et les vérifications effectuées pour valider les résultats. Nous avons également mis ces principes en pratique dans le cadre de partenariats d’essai avec le CAISI des États-Unis et l’AISI du Royaume-Uni, dont les travaux sur l’évaluation des capacités de pointe et les mesures de protection contre les usages biologiques malveillants ont mené à des améliorations concrètes de nos systèmes. Ces travaux jouent un rôle important en jetant les bases de pratiques qui peuvent être normalisées afin de vérifier la performance de manière comparable.

Ces pratiques complètent l’infrastructure de sécurité plus large d’OpenAI. Notre Cadre de préparation constitue la base de notre façon de définir et de mettre en œuvre notre approche de gestion des risques les plus graves associés aux systèmes d’IA avancés, y compris nos pratiques internes. Notre cadre de gouvernance des modèles de pointe applique les éléments pertinents de cette approche dans un document de gouvernance public axé sur des obligations réglementaires précises, notamment l’évaluation des risques, la production de rapports sur les modèles, les contrôles de sécurité, la réponse aux incidents et l’intégration de l’avis d’experts externes. Ensemble, ces outils aident à convertir des engagements généraux en pratiques opérationnelles qui peuvent être validées et améliorées.

Les travaux d’Appia visent le prochain défi : rendre ces pratiques interopérables entre les organisations, les territoires de compétence et la chaîne d’approvisionnement.

OpenAI contribue déjà à un écosystème plus vaste de normes et d’efforts de préstandardisation. Nous participons au comité technique mixte 1, sous-comité 42 sur l’intelligence artificielle, de l’Organisation internationale de normalisation et de la Commission électrotechnique internationale⁠(s'ouvre dans une nouvelle fenêtre) ainsi qu’au Consortium sur l’intelligence artificielle dirigé par le National Institute of Standards and Technology⁠(s'ouvre dans une nouvelle fenêtre); nous avons contribué à fonder le Forum des modèles de pointe et l’Agentic Artificial Intelligence Foundation⁠(s'ouvre dans une nouvelle fenêtre) de la Fondation Linux; nous participons à la Coalition for Secure Artificial Intelligence⁠(s'ouvre dans une nouvelle fenêtre); nous siégeons au comité directeur de la Coalition for Content Provenance and Authenticity⁠(s'ouvre dans une nouvelle fenêtre); et nous prenons part aux processus de l’Internet Engineering Task Force⁠(s'ouvre dans une nouvelle fenêtre) et de la Fast Identity Online Alliance⁠(s'ouvre dans une nouvelle fenêtre) afin de faire progresser des normes techniques interopérables.

Dans l’ensemble de ces forums, y compris maintenant par l’entremise d’Appia, notre objectif est de traduire les leçons tirées du développement de modèles de pointe en pratiques ouvertes et techniquement fondées que les gouvernements, les entreprises et les évaluateurs indépendants peuvent utiliser dans différents territoires de compétence.