La fenêtre de la politique d’IA est ouverte. Nous devons agir.

Nous sommes entrés dans une nouvelle phase des capacités de l’IA, ce qui appelle une nouvelle approche des politiques publiques en la matière. Aucune entreprise, aucun secteur ni aucun gouvernement ne peut relever seul ce défi. Nous devons saisir cette occasion en privilégiant l’action concrète plutôt que la perfection des politiques publiques.

Voici ce que nous faisons :

1. Promouvoir des exigences nationales obligatoires en matière de sécurité de l’IA. Nous voulons travailler avec le Congrès à l’élaboration d’une réglementation nationale obligatoire de la sécurité de l’IA, fondée sur les capacités des modèles.

2. Maintenir la dynamique dans les États. Tant que le Congrès n’agira pas, nous continuerons à soutenir les lois des États qui renforcent l’écosystème plus large de la sécurité de l’IA. Aujourd’hui, nous annonçons notre soutien à quatre projets de loi californiens : le SB 813 sur le cadre général des évaluations indépendantes de sécurité, l’AB 1405 sur les normes applicables aux auditeurs d’IA, le SB 1119 sur la protection des jeunes et l’AB 1864 sur les garanties contre les menaces biologiques facilitées par l’IA.

3. Faire progresser les normes portées par le secteur. Nous collaborerons avec d’autres laboratoires de pointe afin de faire progresser les normes applicables à l’IA de pointe, en mettant en place dès maintenant une démarche volontaire, avec ou sans le soutien des pouvoirs publics.

4. Établir des normes mondiales. Nous plaiderons en faveur d’approches internationales compatibles pour mesurer les capacités, gérer les risques, préserver le contrôle humain et déterminer quand et comment le développement devrait ralentir ou s’arrêter, même si cela implique de ralentir la progression des capacités des modèles.

Notre directeur scientifique, Jakub Pachocki, a récemment écrit⁠ que l’essor rapide de l’intelligence artificielle, y compris la possibilité d’une auto-amélioration récursive, exige une « extrême prudence ». OpenAI continuera de rechercher des solutions techniques d’alignement et de surveillance, de bâtir des systèmes défensifs et de ralentir le développement si nécessaire. Mais le travail technique mené dans chaque laboratoire ne suffira pas. Nous avons aussi besoin de normes communes, notamment pour déterminer quand ralentir ou arrêter le développement.

Les enjeux sont immenses. L’IA avancée pourrait accélérer la mise au point de nouveaux médicaments⁠, renforcer les infrastructures critiques⁠, élargir les perspectives économiques⁠ et aider à résoudre des problèmes scientifiques⁠ ayant résisté à plusieurs générations d’efforts humains. Mais les capacités qui rendent les modèles plus utiles comportent aussi des risques, lesquels ne resteront pas confinés à quelques laboratoires de pointe. Les modèles développés dans le monde, y compris les modèles ouverts, se rapprocheront toujours plus du niveau de pointe actuel et deviendront largement accessibles.

Les capacités d’Astra, les premiers signes d’une accélération de la recherche par l’IA et l’essai de Jakub vont tous dans le même sens : l’IA progresse rapidement et les politiques publiques doivent suivre le rythme.

Greg Brockman a décrit la « Defenders Window »⁠(ouverture dans une nouvelle fenêtre) : une période limitée pendant laquelle l’IA de pointe peut aider les défenseurs à renforcer les systèmes critiques avant la généralisation de puissantes capacités offensives. Les décideurs font face à une situation analogue : une fenêtre qui se referme pour instaurer des garanties durables avant que les capacités de l’IA ne dépassent les institutions chargées de les encadrer.

À mesure que les capacités progressent, la confiance dans la sécurité doit de plus en plus déterminer le rythme des progrès de l’IA. La sécurité ne fait pas obstacle au progrès ; elle lui permet d’aller plus loin et de profiter à davantage de personnes.

Nous avons renforcé les garanties de surveillance, d’alignement et de sécurité tout au long du cycle de développement des modèles, notamment par une isolation accrue des charges de travail de recherche de pointe, une surveillance élargie du comportement des modèles lors de l’entraînement et des évaluations faisant appel à des outils, ainsi que des règles plus claires pour faire remonter les préoccupations. Pour Astra, nous avons également mis en place une surveillance universelle des trajectoires complètes, y compris des chaînes de pensée, et une étape obligatoire d’évaluation de l’alignement avant un déploiement interne plus large.

Ces mesures de protection doivent continuer à devancer l’évolution des capacités. Lorsque la poursuite de nos activités présenterait un risque inacceptable pour la sécurité, nous ralentirons ou arrêterons le développement ou le déploiement de systèmes que nous ne pouvons pas protéger suffisamment, comme nous l’avons déjà fait et comme l’exige notre cadre de préparation⁠(ouverture dans une nouvelle fenêtre).

L’auto-amélioration récursive entièrement autonome, où des systèmes d’IA pilotent indépendamment des générations successives d’IA toujours plus performantes, ne se produit pas aujourd’hui. Nous ne devons pas la poursuivre tant qu’elle ne peut pas être menée à bien en toute sécurité.

Cependant, l’IA accélère déjà certaines parties de la recherche utilisée pour développer et aligner la prochaine génération de modèles. Nos dernières recherches⁠ montrent que des agents d’IA peuvent effectuer certaines tâches qui prendraient plusieurs jours à des chercheurs qualifiés. Il ne s’agit pas d’auto-amélioration récursive, mais cela témoigne de la direction que prennent les choses.

Cette accélération peut et doit aussi être orientée vers la sécurité. Notre objectif est de créer en toute sécurité des agents de recherche en IA automatisés qui travaillent sous supervision humaine, feront progresser l’apprentissage profond et l’alignement, chaque génération d’IA aidant à rendre la suivante plus sûre, mieux alignée et plus facile à contrôler, et pas seulement plus performante.

Les gouvernements devraient définir des méthodes communes pour mesurer ces progrès, préserver un contrôle humain réel et fixer des seuils de sécurité communs indiquant quand et comment ralentir ou arrêter le développement. Si nous ne pouvons pas respecter certains seuils de sécurité sans ralentir la progression des capacités, nous devrions donner la priorité au respect de ces seuils. Plus la technologie gagne en puissance, plus les garanties qui l’encadrent doivent être solides.

La perspective d’un développement de l’IA accéléré par ses propres systèmes exige plus que des engagements volontaires. Les États-Unis ont besoin d’une réglementation nationale obligatoire, fondée sur les capacités, qui puisse évoluer avec la technologie.

Notre Plan pour une gouvernance démocratique de l’IA de pointe⁠ trace la voie vers un cadre fédéral durable : des exigences communes en matière de tests et d’évaluation indépendante, des protections renforcées en matière de cybersécurité, des règles claires de signalement des incidents, une meilleure préparation nationale et des mesures partagées pour suivre les progrès vers l’auto-amélioration récursive.

Plusieurs propositions sérieuses en matière de sécurité de l’IA de pointe sont actuellement à l’étude au Congrès. Nous continuerons de participer de manière constructive et comptons soutenir une législation qui relève sensiblement le niveau de sécurité. Face à des enjeux aussi élevés, le mieux ne doit pas devenir l’ennemi du bien. Le Congrès doit agir avant la fin de sa session.

Un cadre national doit être solide, mais soigneusement ciblé. Les exigences de sécurité applicables aux systèmes d’IA de pointe devraient viser uniquement les quelques laboratoires bien équipés qui développent les systèmes les plus performants, et non les start-up, les petits développeurs ou les chercheurs qui ne travaillent pas à la pointe. Les obligations doivent être proportionnelles aux capacités et aux risques.

La politique de sécurité de l’IA de pointe ne doit pas devenir, sous un autre nom, une politique visant les modèles à poids ouverts. Les modèles ouverts peuvent faire partie de la solution, en particulier en cybersécurité et lorsque des impératifs de souveraineté, de sécurité ou de résidence des données favorisent un déploiement local. La plupart ne se positionnent pas à la pointe, mais se distinguent par leurs coûts, leur contrôle et leur latence. Comme nous l’avons affirmé en signant la lettre Open Weights and American AI Leadership⁠(ouverture dans une nouvelle fenêtre), les États-Unis ont besoin de modèles ouverts comme de modèles fermés. Un cadre fédéral devrait traiter des capacités et des risques de pointe sans affaiblir la concurrence, renforcer la position des acteurs établis ni pousser l’innovation à l’étranger.

Un cadre public sérieux devrait réduire la concentration du pouvoir, et non l’accroître. Aujourd’hui, les laboratoires de pointe fixent en grande partie leurs propres règles de gestion des risques liés aux modèles de pointe. Des normes soumises au contrôle démocratique, une vérification indépendante et une véritable transparence remplaceraient ce système fragmenté de gouvernance privée.

C’est essentiel au leadership américain. Les États-Unis ne pourront pas s’imposer dans l’ère de l’IA en misant uniquement sur leurs capacités technologiques. L’avance technique comptera peu si les citoyens, les institutions et les gouvernements ne font pas assez confiance à la technologie pour l’adopter. Des garanties solides ne sont pas une concession faite au détriment de l’innovation. Elles font partie de l’infrastructure nécessaire à une adoption généralisée et à un leadership américain durable.

Nous avons un besoin urgent de normes nationales sur l’IA, et quiconque travaille à la pointe de l’IA peut constater l’urgence. En attendant que le Congrès agisse, les États devraient poursuivre leurs efforts pour combler le vide et relever le niveau d’exigence.

OpenAI a soutenu le SB 53 de Californie, le RAISE Act de New York, le SB 315 de l’Illinois, ainsi que les audits indépendants prévus par le projet de loi sur la sécurité des IA de pointe étudié au Massachusetts. Nous encourageons les États à s’accorder sur ces garanties communes. Ce faisant, ils peuvent créer un socle national de fait que le Congrès pourra ensuite inscrire dans la loi : c’est ce que nous appelons le ⁠fédéralisme inversé⁠. Mais l’harmonisation ne signifie pas le gel des exigences.

Aujourd’hui, nous soutenons officiellement quatre projets de loi californiens supplémentaires, adoptés par la législature et désormais soumis au gouverneur Newsom. Ensemble, ils traitent de volets complémentaires de l’écosystème de sécurité de l’IA.

Le SB 813⁠(ouverture dans une nouvelle fenêtre) établirait un processus de désignation d’organisations indépendantes et qualifiées capables d’évaluer les risques liés à l’IA. Comme nous l’avons indiqué dans notre ⁠(ouverture dans une nouvelle fenêtre)plan de sécurité pour l’IA de pointe⁠(ouverture dans une nouvelle fenêtre), nous préférons que les évaluations techniques indépendantes soient obligatoires au niveau fédéral, où les décideurs peuvent établir des normes cohérentes en matière de qualifications des évaluateurs, de sécurité et d’accès à des informations hautement sensibles. Toutefois, en l’absence d’action fédérale, la Californie peut contribuer à définir les règles applicables à un système national d’évaluation indépendante sûr et performant, qui produit de meilleurs résultats en matière de sécurité.

L’AB 1405⁠(ouverture dans une nouvelle fenêtre) instaurerait des exigences d’enregistrement, d’indépendance, de transparence et de responsabilité pour les auditeurs d’IA.

Le SB 1119⁠(ouverture dans une nouvelle fenêtre) imposerait la vérification de l’âge, des évaluations des risques, des audits indépendants, des contrôles parentaux et des mesures de protection contre les contenus nocifs pour les enfants et adolescents utilisant des chatbots compagnons. Nous avons récemment signalé notre soutien⁠ à ce projet de loi. Celui-ci s’appuie sur les mesures de sécurité pour les jeunes qu’OpenAI a mises en place dans ses produits et ⁠ses principes mondiaux d’action publique,⁠ ainsi que sur son soutien au ⁠(ouverture dans une nouvelle fenêtre)Parents & Kids Safe AI Act⁠(ouverture dans une nouvelle fenêtre). Il s’appuie également sur les protections intégrées à ChatGPT pour les adolescents, notamment des réglages par défaut renforcés dans les domaines sensibles, Quiet Hours, Study Hours et les rappels de pause.

L’AB 1864⁠(ouverture dans une nouvelle fenêtre) obligerait les fournisseurs de synthèse génétique et les fabricants d’équipements de synthèse sur paillasse à respecter les normes fédérales de contrôle, renforçant ainsi une protection physique importante contre les menaces biologiques facilitées par l’IA.

Nous n’avions pas soutenu certains de ces projets de loi auparavant. À la lumière de la progression récente des capacités, nous avons réévalué notre position et les soutenons désormais.

Ces projets de loi ne remplacent pas une réglementation fédérale. Il s’agit d’efforts sérieux qui peuvent protéger les personnes dès maintenant, montrer à quoi ressemblent des garanties applicables et contribuer à créer une dynamique en faveur d’une action fédérale.

Les lois seules ne suffiront pas à rendre l’IA avancée sûre. Nous avons aussi besoin de pratiques concrètes au sein des laboratoires qui développent les systèmes les plus performants. La surveillance est le point de départ le plus urgent.

Cela est particulièrement important dans le cas du désalignement, c’est-à-dire lorsqu’un modèle poursuit un objectif d’une manière qui enfreint l’intention humaine ou les limites établies, sans nécessiter de conscience ni d’intention malveillante. À mesure que les modèles gagnent en autonomie, utilisent des outils plus puissants et fonctionnent plus longtemps, les développeurs devraient être tenus de surveiller ces comportements désalignés et de démontrer que des garanties efficaces sont en place.

La surveillance doit être liée à des exigences claires en matière de divulgation. Comme nous l’avons préconisé en Californie, les entreprises devraient être tenues de notifier rapidement par écrit les parties concernées lorsque, durant le développement ou l’évaluation, leurs modèles contournent sans autorisation les contrôles de sécurité d’une autre organisation et accèdent de manière substantielle aux systèmes protégés ou aux informations confidentielles de cette organisation, les modifient ou les détruisent. Nous soutenons également l’instauration d’exigences fédérales de signalement pour d’autres incidents graves liés à l’IA et travaillons à définir les incidents qui devraient être couverts ainsi que le contenu de ces exigences.

Comme annoncé la semaine dernière, OpenAI élabore un cadre pour signaler les incidents de désalignement majeurs et surveiller systématiquement l’activité des modèles de pointe, y compris les usages internes. Cette initiative est d’abord menée par l’entreprise, mais nous espérons qu’elle pourra contribuer à orienter des politiques fédérales et des exigences de signalement plus larges.

Nous souhaitons collaborer avec d’autres laboratoires à l’élaboration de normes portées par le secteur. Toute norme portée par le secteur viendrait compléter — sans les remplacer — les garanties fédérales obligatoires et le contrôle démocratique. Mais nous sommes entrés dans une nouvelle phase du développement des capacités de l’IA, et tout doit être envisagé, y compris ce qui peut être mis en place volontairement en dehors du cadre gouvernemental comme mesure immédiate.

De telles normes devront également, à terme, s’étendre au-delà des frontières nationales. Les modèles, les recherches et l’expertise technique circulent dans le monde entier, et les défaillances des systèmes les plus performants pourraient avoir des conséquences bien au-delà du pays dans lequel ils sont développés. Les États-Unis doivent établir des normes crédibles sur leur territoire s’ils veulent jouer un rôle de premier plan à l’international, et nous sommes de plus en plus convaincus que des normes internationales compatibles seront nécessaires.

La fenêtre d’action politique sur l’IA est ouverte, pour l’instant. Nous comptons la saisir.

Cela implique d’agir rapidement, avec humilité et en restant prêts à nous adapter. Cela implique de soutenir les propositions sérieuses qui relèvent sensiblement le niveau de sécurité, même si elles ne correspondent pas exactement à ce que nous aurions conçu. Et cela implique de renforcer le cadre à mesure que la technologie évolue.

Aucune première étape ne sera parfaite. Mais le plus grand risque est désormais d’attendre trop longtemps avant d’agir.