Les États-Unis font progresser la sûreté de l’IA par l’action des États et du fédéral

Par Chris Lehane, chef des Affaires internationales

Des capitales des États partout au pays à Washington, jusqu’aux rencontres internationales, des approches sérieuses de gouvernance de l’IA de pointe prennent forme. Ensemble, elles font progresser une vision démocratique de l’IA.

La Californie, New York et, plus récemment, l’Illinois ont fait avancer des projets de loi sur la sûreté de pointe qui contribuent à orienter le pays vers un socle commun pour encadrer les systèmes d’IA les plus puissants.

Ces efforts témoignent de l’élan derrière ce qu’OpenAI appelle le fédéralisme inversé : des États qui contribuent à établir une orientation commune au moyen d’un cadre partagé. À mesure que les travaux menés par les États convergent avec ceux en cours au niveau fédéral, une norme nationale commence à se dessiner, jetant les bases d’un cadre mondial de l’IA dirigé par les États-Unis. Nous croyons que la meilleure façon de veiller à ce que l’IA profite au plus grand nombre, et non à quelques-uns seulement, est que les décisions cruciales, à commencer par la sûreté de pointe, soient prises par des gouvernements démocratiques, et non uniquement par les laboratoires de pointe.

En définitive, les États-Unis seraient mieux servis par un cadre national fondé sur ce principe. Mais en son absence, les États peuvent nous y mener en adoptant des lois qui se répondent. Étape par étape, ils peuvent créer une norme nationale de fait.

Et si la sûreté est la priorité, une telle norme nationale constitue la meilleure approche stratégique pour veiller à ce que (a) les États-Unis continuent de mener en innovation et ne soient pas freinés par un ensemble disparate de règlements qui ralentirait la mise en place d’une pile mondiale d’IA démocratique, afin que les acteurs légitimes disposent des outils nécessaires pour se défendre contre les acteurs malveillants qui cherchent à détourner l’IA dans des domaines comme la cybersécurité; et (b) les États-Unis soient dans la position la plus forte pour transformer cette norme nationale en une approche mondiale du déploiement sûr de l’IA, fondée sur les valeurs démocratiques. Si nous voulons créer un cadre de sûreté qui donne réellement la priorité à l’établissement d’une norme nationale et internationale — ce qui soutiendra le mieux le déploiement sûr de l’IA — il faudra un travail rigoureux, un profond sens des responsabilités et une stratégie qui relie les États, le gouvernement fédéral et la conversation internationale. Une approche performative ou de vertu ostentatoire ne suffira pas ici : le chaos au niveau des États n’est pas dans l’intérêt d’une approche durable de la sûreté; il ne fera qu’engendrer davantage de chaos.

Pour que cette approche réussisse, les États devraient continuer d’harmoniser les éléments fondamentaux, comme l’ont fait la Californie, New York et l’Illinois. De façon générale, ces éléments sont les suivants :

• Un cadre de sûreté documenté comprenant des évaluations des risques pour les modèles de pointe, ainsi que la divulgation publique de ces évaluations et de leurs résultats.
• Le signalement des incidents graves liés à la sûreté.
• La gouvernance et la reddition de comptes au moyen d’audits indépendants et objectifs.

Pris ensemble, ces trois États ont intégré une supervision démocratique au déploiement de l’IA de pointe. La Californie a établi le cadre de divulgation de base. New York a montré que l’approche pouvait être adoptée dans plusieurs territoires. L’Illinois l’a complétée en exigeant une vérification indépendante des principales divulgations.

Nous reconnaissons que les lois comprennent souvent des dispositions supplémentaires pour obtenir les votes nécessaires à leur adoption. Mais nous croyons qu’il s’agit des éléments essentiels pour créer, par le fédéralisme inversé, une norme nationale de fait. Sans cette discipline, nous risquons une dérive des politiques et un ensemble disparate de lois étatiques difficiles à faire appliquer par les organismes de réglementation, déroutantes pour les consommateurs et qui détournent des ressources de développement, surtout dans les jeunes pousses et les petites entreprises, alors qu’elles seraient mieux investies dans la sûreté. En particulier, et comme les dernières semaines l’ont montré, à mesure que les modèles d’IA deviennent de plus en plus performants, nous avons besoin d’un système cohérent qui nous permettra de mettre les outils entre les mains des gouvernements, des infrastructures critiques, des alliés et des partenaires de confiance.

Les responsables des politiques devraient aussi se prémunir contre l’élargissement indu de la mission. On ne devrait pas demander aux États de gérer des risques importants pour la sécurité nationale (ni, dans les faits, de prendre des décisions de sécurité nationale au nom de tout le pays) ou de mener des examens hautement techniques qui relèvent mieux d’experts fédéraux disposant des ressources, de l’expertise, de l’accès à des systèmes classifiés et de la capacité nécessaires pour travailler étroitement avec nos équipes.

À l’échelle fédérale, l’administration Trump continue de travailler avec des experts techniques et en sécurité nationale à un cadre d’essais menés par le gouvernement américain sur les modèles d’IA les plus performants dans le domaine cyber. Ce cadre établira des normes, des échéanciers et des processus d’essai. OpenAI participe à des discussions constructives avec l’administration, des entreprises comparables, des groupes d’affaires et d’autres parties prenantes qui contribuent à façonner cet effort.

Les travaux en cours sur les évaluations cyber montrent pourquoi la cohérence est importante. Aujourd’hui, et c’est compréhensible, les modèles sont mis à l’essai avant que le cadre fédéral soit achevé. Au fil de ce processus dans les laboratoires, une leçon s’est imposée : il nous faut une approche cohérente et reproductible, tant au niveau des États qu’au niveau fédéral. C’est essentiel si nous voulons mettre les modèles les plus performants entre les mains des gouvernements, des défenseurs des infrastructures critiques, des alliés et d’autres partenaires de confiance. Nous saluons l’objectif de l’administration de mettre ce cadre en place d’ici le début d’août.

Un cadre fédéral d’essais aidera à mettre des outils d’IA avancés entre les mains des gouvernements, des défenseurs des infrastructures critiques, des alliés et d’autres partenaires de confiance. Ce faisant, il renforcera les institutions démocratiques et contribuera à bâtir une pile d’IA démocratique dirigée par les États-Unis. Le moment est venu de mettre l’avance américaine en innovation au service d’une IA démocratique.

Ni un processus fédéral mal défini ni un ensemble disparate de lois étatiques ne permettront d’établir un régime cohérent de sûreté de pointe. Nous avons besoin d’une approche qui permette aux meilleurs évaluateurs d’examiner les modèles les plus performants, et aux défenseurs de confiance d’accéder à ces outils assez rapidement pour garder une longueur d’avance sur les acteurs malveillants.

Le Congrès avance lui aussi. Des élus des deux chambres et des deux partis, dont plus récemment les représentants Jay Obernolte et Lori Trahan, ont pris note des développements dans les États et au sein du pouvoir exécutif, et ont présenté des propositions de cadre fédéral. Aucun projet de discussion ayant une voie réaliste vers l’adoption ne sera parfait. Mais nous considérons ce travail comme une avancée constructive et croyons que bon nombre de ses dispositions sont réfléchies et méritent d’être appuyées.

Nous sommes également encouragés de voir les dirigeants du Sénat et de la Chambre consacrer des efforts sérieux aux propositions de gouvernance nationale et de sûreté de pointe, et nous avons eu des échanges constructifs avec bon nombre d’entre eux. Compte tenu de la taille et de l’influence des États qui ont déjà adopté des lois allant dans le même sens, intégrer ces approches à la législation fédérale devrait faciliter l’établissement d’un régime national unique de sûreté de pointe.

Le plan directeur d’OpenAI pour la sûreté de pointe présente ce que nous considérons comme les éléments essentiels de ce cadre.

Premièrement, le gouvernement fédéral devrait diriger les essais et l’évaluation des systèmes les plus avancés. L’IA de pointe soulève des questions de sécurité nationale et de sécurité publique qui exigent une expertise technique, des ressources et un accès qu’aucun État ne peut entièrement reproduire.

Ces travaux devraient renforcer le Center for AI Standards and Innovation (CAISI), créé sous le président Biden et consolidé sous le président Trump. Le CAISI peut fournir la capacité fédérale durable nécessaire pour évaluer les modèles avancés et orienter la sûreté de pointe vers la prévention des torts avant qu’ils ne surviennent, plutôt que de compter principalement sur la responsabilisation après coup. Toute loi fédérale devrait examiner attentivement la façon dont le CAISI devrait travailler avec le reste du gouvernement et le rôle qu’il devrait jouer au cœur des essais.

Deuxièmement, les entreprises qui développent les systèmes les plus performants devraient satisfaire à des exigences claires, notamment des audits indépendants, le signalement des incidents, des normes de sécurité rigoureuses et des protections pour les lanceurs d’alerte.

Troisièmement, les efforts fédéraux et étatiques devraient se renforcer mutuellement. Les lois des États ne seront pas toutes identiques, et nous avons hâte de travailler avec les responsables des politiques partout au pays afin qu’elles renforcent la sûreté tout en maximisant les retombées économiques de l’IA.

Les États devraient aussi continuer de servir de laboratoires de démocratie dans des domaines autres que la sûreté de pointe, notamment la protection des jeunes, les politiques en matière d’électricité et d’environnement, ainsi que l’éducation et la littératie en IA.

Un cadre fédéral demeure essentiel. L’IA de pointe soulève des questions de sécurité nationale, de compétitivité économique et de sécurité publique qui nécessitent en fin de compte des normes, des capacités et des institutions nationales pour soutenir une IA démocratique.

Une législation nationale est également essentielle à un cadre international de normes d’IA dirigé par les États-Unis. Cette idée a été discutée il y a plusieurs semaines au G7, avec le Brésil, l’Égypte, l’Inde, le Kenya et la Corée, où les chefs de la direction de grands laboratoires de pointe ont abordé la nécessité d’un tel cadre. À la suite de cette rencontre, le chef de la direction d’OpenAI, Sam Altman, a proposé dans le Financial Times⁠(s'ouvre dans une nouvelle fenêtre) « un forum international dirigé par les États-Unis qui établit des normes acceptées, fournit une analyse experte et impartiale des capacités et des risques, et rend la technologie accessible aux pays et aux entreprises qui y participent et respectent les règles ». Cette semaine, Demis Hassabis, chef de la direction de Google DeepMind, a également présenté des idées réfléchies dans un nouveau document. Une loi fédérale, nécessairement bipartisane, offrirait une base solide à cet effort international.

L’élan est désormais visible à tous les niveaux. Les États établissent des approches communes. Le Congrès et le pouvoir exécutif progressent vers un cadre national. Et les dirigeants mondiaux commencent à discuter de normes internationales. Si chacun s’appuie sur les autres, les États-Unis peuvent diriger l’élaboration d’un cadre mondial fondé sur une vision démocratique de l’IA. Et cette approche d’alignement démocratique de l’IA est celle qui donne véritablement la priorité à la sûreté.