Les États-Unis font progresser la sécurité de l’IA par l’action des États et du fédéral

Par Chris Lehane, directeur des Affaires internationales

Des capitales des États à Washington, en passant par les rencontres internationales, des approches sérieuses de la gouvernance de l’IA de pointe prennent forme. Ensemble, elles font progresser une vision démocratique de l’IA.

La Californie, New York et, plus récemment, l’Illinois ont fait avancer des lois sur la sécurité de pointe qui contribuent à rapprocher le pays d’un socle commun pour gouverner les systèmes d’IA les plus puissants.

Ces efforts traduisent l’élan autour de ce qu’OpenAI appelle le fédéralisme inversé : des États qui aident à définir une direction commune à travers un cadre partagé. À mesure que les travaux menés par les États convergent avec ceux engagés au niveau fédéral, une norme nationale commence à se dessiner, jetant les bases d’un cadre mondial pour l’IA mené par les États-Unis. Nous pensons que la meilleure façon de garantir que l’IA profite au plus grand nombre, et pas seulement à quelques-uns, est que les décisions essentielles — à commencer par la sécurité de pointe — soient prises par des gouvernements démocratiques, et non uniquement par les laboratoires d’IA de pointe.

À terme, les États-Unis seraient mieux servis par un cadre national fondé sur ce principe. Mais en son absence, les États peuvent nous y conduire en adoptant des lois qui se répondent. Pas à pas, ils peuvent créer de fait une norme nationale.

Et si la sécurité est la priorité, une telle norme nationale est la meilleure approche publique pour garantir (a) que les États-Unis continuent de dominer l’innovation sans être affaiblis par un morcellement réglementaire qui freinerait la capacité à bâtir une pile mondiale d’IA démocratique, afin que les acteurs de confiance disposent des outils nécessaires pour se défendre contre les acteurs malveillants cherchant à détourner l’IA dans des domaines comme la cybersécurité ; et (b) que les États-Unis soient dans la position la plus forte pour transformer cette norme nationale en une approche mondiale du déploiement sûr de l’IA, fondée sur des valeurs démocratiques. Si nous voulons créer un cadre de sécurité qui donne réellement la priorité à la mise en place d’une norme nationale et internationale — ce qui soutiendra le mieux le déploiement sûr de l’IA — il faudra un travail exigeant, un réel sérieux et une stratégie reliant les États, le gouvernement fédéral et le débat international. Une approche de façade ou d’affichage vertueux ne suffira pas : le chaos au niveau des États ne sert pas l’intérêt d’une approche durable de la sécurité, il ne fera qu’engendrer davantage de chaos.

Pour que cette approche réussisse, les États devraient continuer à s’aligner sur les éléments fondamentaux, comme l’ont fait la Californie, New York et l’Illinois. Dans les grandes lignes, ces éléments sont les suivants :

• Un cadre de sécurité documenté, avec des évaluations des risques pour les modèles de pointe et la publication de ces évaluations et de leurs résultats.
• Le signalement des incidents de sécurité graves.
• La gouvernance et la responsabilité grâce à des audits indépendants et objectifs.

Pris ensemble, ces trois États ont intégré un contrôle démocratique au déploiement de l’IA de pointe. La Californie a établi le cadre central de divulgation. New York a montré que l’approche pouvait être adoptée dans plusieurs juridictions. L’Illinois l’a complétée en exigeant une vérification indépendante des divulgations clés.

Nous reconnaissons que les lois comportent souvent des dispositions supplémentaires destinées à obtenir les voix nécessaires à leur adoption. Mais nous pensons qu’il s’agit des éléments essentiels nécessaires pour créer, de fait, une norme nationale par le fédéralisme inversé. Sans cette discipline, nous risquons une dérive des politiques publiques et un morcellement de lois d’États difficiles à faire appliquer par les régulateurs, déroutantes pour les consommateurs et détournant des ressources de développement — surtout dans les start-up et les petites entreprises — qui seraient mieux investies dans la sécurité. En particulier, et comme l’ont montré les dernières semaines, à mesure que les modèles d’IA deviennent de plus en plus performants, nous avons besoin d’un système cohérent qui nous permette de placer les outils entre les mains des pouvoirs publics, des infrastructures critiques, des alliés et des partenaires de confiance.

Les responsables publics devraient également se prémunir contre l’élargissement incontrôlé du périmètre. Il ne devrait pas être demandé aux États de gérer d’importants risques de sécurité nationale (ou, dans les faits, de prendre des décisions de sécurité nationale au nom de tout le pays), ni de mener des examens hautement techniques qui relèvent davantage d’experts fédéraux disposant des ressources, de l’expertise, de l’accès aux systèmes classifiés et de la capacité nécessaires pour travailler étroitement avec nos équipes.

Au niveau fédéral, l’administration Trump continue de travailler avec des experts techniques et de sécurité nationale à un cadre permettant au gouvernement américain de tester les modèles d’IA les plus performants en matière de cyberdéfense. Ce cadre définira des normes, des calendriers et des processus de test. OpenAI participe à des discussions constructives avec l’administration, des entreprises comparables, des organisations professionnelles et d’autres parties prenantes qui contribuent à façonner cette initiative.

Les travaux en cours sur les évaluations cyber montrent pourquoi la cohérence est essentielle. Aujourd’hui, et cela se comprend, les modèles sont testés avant que le cadre fédéral ne soit achevé. Au fil de ce processus, les laboratoires ont tiré une leçon claire : nous avons besoin d’une approche cohérente et reproductible, tant au niveau des États qu’au niveau fédéral. C’est indispensable si nous voulons que les modèles les plus performants soient entre les mains des pouvoirs publics, des défenseurs des infrastructures critiques, des alliés et d’autres partenaires de confiance. Nous saluons l’objectif de l’administration de mettre ce cadre en place d’ici début août.

Un cadre fédéral de test contribuera à placer des outils d’IA avancés entre les mains des pouvoirs publics, des défenseurs des infrastructures critiques, des alliés et d’autres partenaires de confiance. Ce faisant, il renforcera les institutions démocratiques et aidera à construire une pile d’IA démocratique menée par les États-Unis. Le moment est venu de mettre l’avance américaine en matière d’innovation au service d’une IA démocratique.

Ni un processus fédéral non défini, ni un morcellement de lois d’États ne permettront d’instaurer un régime cohérent de sécurité de pointe. Il nous faut une approche qui garantisse que les meilleurs testeurs évaluent les modèles les plus performants, et que les défenseurs de confiance aient accès à ces outils assez vite pour garder une longueur d’avance sur les acteurs malveillants.

Le Congrès avance lui aussi. Des législateurs des deux chambres et des deux partis — notamment, tout récemment, les représentants Jay Obernolte et Lori Trahan — ont pris acte des évolutions dans les États et au sein de l’exécutif, et ont présenté des propositions de cadre fédéral. Aucun projet de discussion ayant une chance réaliste d’être adopté ne sera parfait. Mais nous considérons ces travaux comme une avancée constructive et estimons que nombre de leurs dispositions sont réfléchies et méritent d’être soutenues.

Nous sommes également encouragés de voir les responsables du Sénat et de la Chambre investir des efforts sérieux dans la gouvernance nationale et les propositions de sécurité de pointe, et nous avons eu des échanges constructifs avec beaucoup d’entre eux. Compte tenu de la taille et de l’influence des États qui ont déjà adopté des lois allant dans le même sens, intégrer ces approches dans la législation fédérale devrait faciliter l’établissement d’un régime national unique de sécurité de pointe.

Le plan d’OpenAI pour la sécurité de pointe expose ce que nous considérons comme les éléments essentiels de ce cadre.

Premièrement, le gouvernement fédéral devrait piloter les tests et l’évaluation des systèmes les plus avancés. L’IA de pointe soulève des questions de sécurité nationale et de sûreté publique qui exigent une expertise technique, des ressources et des accès qu’aucun État ne peut pleinement reproduire.

Ces travaux devraient renforcer le Center for AI Standards and Innovation (CAISI), créé sous le président Biden et renforcé sous le président Trump. Le CAISI peut fournir la capacité fédérale durable nécessaire pour évaluer les modèles avancés et orienter la sécurité de pointe vers la prévention des dommages avant qu’ils ne surviennent, plutôt que de s’appuyer principalement sur la responsabilité a posteriori. Toute législation fédérale devrait examiner avec soin la manière dont le CAISI doit travailler avec le reste de l’administration et le rôle qu’il doit jouer au cœur des tests.

Deuxièmement, les entreprises qui développent les systèmes les plus performants devraient satisfaire à des exigences claires, notamment des audits indépendants, le signalement des incidents, des normes de sécurité strictes et la protection des lanceurs d’alerte.

Troisièmement, les efforts fédéraux et ceux des États devraient se renforcer mutuellement. Les lois des États ne seront pas toutes identiques, et nous nous réjouissons de travailler avec les responsables publics partout dans le pays pour veiller à ce qu’elles renforcent la sécurité tout en maximisant les bénéfices économiques de l’IA.

Les États devraient aussi continuer à servir de laboratoires de la démocratie dans des domaines allant au-delà de la sécurité de pointe, notamment la protection des jeunes, les politiques de l’électricité et de l’environnement, ainsi que l’éducation et la culture de l’IA.

Un cadre fédéral reste indispensable. L’IA de pointe soulève des questions de sécurité nationale, de compétitivité économique et de sûreté publique qui exigent, en définitive, des normes, des capacités et des institutions nationales pour soutenir une IA démocratique.

Une législation nationale est également essentielle pour établir un cadre international, mené par les États-Unis, en matière de normes d’IA. Cette idée a été discutée il y a plusieurs semaines au G7, aux côtés du Brésil, de l’Égypte, de l’Inde, du Kenya et de la Corée, où les dirigeants des principaux laboratoires d’IA de pointe ont évoqué la nécessité d’un tel cadre. À la suite de cette réunion, Sam Altman, CEO d’OpenAI, a proposé dans le Financial Times⁠(ouverture dans une nouvelle fenêtre) « un forum international mené par les États-Unis, qui établisse des normes acceptées, fournisse une analyse experte et impartiale des capacités et des risques, et rende la technologie accessible aux nations et aux entreprises qui y participent et respectent les règles ». Cette semaine, Demis Hassabis, CEO de Google DeepMind, a également avancé des idées réfléchies dans un nouveau document. Une législation fédérale — nécessairement bipartisane — constituerait une base solide pour cet effort international.

La dynamique est désormais visible à tous les niveaux. Les États établissent des approches communes. Le Congrès et l’exécutif construisent progressivement un cadre national. Et les dirigeants mondiaux commencent à discuter de normes internationales. Si chacun de ces niveaux s’appuie sur les autres, les États-Unis peuvent conduire l’élaboration d’un cadre mondial fondé sur une vision démocratique de l’IA. Et cette approche d’alignement démocratique de l’IA est celle qui donne véritablement la priorité à la sécurité.