La voie est ouverte pour encadrer l’IA. Agissons.

Nous avons atteint un nouveau tournant dans les capacités de l’IA, ce qui exige un nouveau chapitre pour les politiques en matière d’IA. Aucune entreprise, industrie ou administration ne peut relever seule ce défi. Nous devons répondre à cette situation en privilégiant une action concrète plutôt que la perfection des politiques publiques.

Voici ce que nous faisons :

1. Promouvoir des exigences nationales obligatoires en matière de sécurité de l’IA. Nous voulons collaborer avec le Congrès à une réglementation nationale obligatoire en matière de sécurité de l’IA, fondée sur les capacités.

2. Maintenir l’élan dans les États. Tant que le Congrès n’aura pas agi, nous continuerons d’appuyer la législation des États qui renforce l’écosystème élargi de sécurité de l’IA. Aujourd’hui, nous annonçons notre appui à quatre projets de loi californiens : le projet de loi SB 813 sur l’infrastructure globale des évaluations de sécurité indépendantes, le projet de loi AB 1405 sur les normes applicables aux auditeurs en IA, le projet de loi SB 1119 sur les protections pour les jeunes et le projet de loi AB 1864 sur les mesures de protection contre les menaces biologiques facilitées par l’IA.

3. Faire progresser les normes élaborées par l’industrie. Nous collaborerons avec d’autres laboratoires de pointe pour faire progresser les normes relatives à l’IA de pointe, en mettant en place dès maintenant une initiative volontaire, avec ou sans le soutien du gouvernement.

4. Établir des normes mondiales. Nous préconiserons des approches internationales compatibles pour mesurer les capacités, gérer les risques, préserver le contrôle humain et déterminer quand et comment le développement devrait ralentir ou s’arrêter, même si cela signifie ralentir l’avancement des capacités des modèles.

Notre scientifique en chef, Jakub Pachocki, a récemment écrit⁠ que l’essor rapide de l’intelligence artificielle, y compris le potentiel d’auto-amélioration récursive, exige une « extrême prudence ». OpenAI continuera de chercher des solutions techniques pour l’alignement et la surveillance, de bâtir des systèmes défensifs et de ralentir le développement au besoin. Mais le travail technique au sein de chaque laboratoire ne suffira pas. Nous avons aussi besoin de normes communes, notamment pour déterminer quand ralentir ou arrêter le développement.

Les enjeux sont énormes. L’IA avancée pourrait accélérer la mise au point de nouveaux médicaments⁠, renforcer les infrastructures essentielles⁠, accroître les opportunités économiques⁠ et aider à résoudre des problèmes scientifiques⁠ qui résistent depuis des générations aux efforts humains. Mais les capacités qui rendent les modèles plus utiles comportent aussi des risques, et elles ne resteront pas confinées à quelques laboratoires de pointe. Les modèles développés partout dans le monde, y compris les modèles ouverts, se rapprocheront de plus en plus de la fine pointe actuelle et deviendront largement accessibles.

Les capacités d’Astra, les premiers signes d’une accélération de la recherche par l’IA et l’essai de Jakub convergent toutes vers la même conclusion : l’IA progresse rapidement, et les politiques publiques doivent suivre le rythme.

Greg Brockman a décrit une « fenêtre des défenseurs »⁠(s'ouvre dans une nouvelle fenêtre) : une période limitée pendant laquelle l’IA de pointe peut aider les défenseurs à renforcer les systèmes critiques avant que de puissantes capacités offensives ne se généralisent. Les décideurs politiques font face à une situation analogue : la fenêtre d’action pour établir des mesures de protection durables se referme, alors que les capacités de l’IA risquent de progresser plus vite que les institutions chargées de l’encadrer.

À mesure que les capacités augmentent, la confiance dans la sécurité doit de plus en plus dicter le rythme des progrès de l’IA. La sécurité ne fait pas obstacle au progrès; c’est elle qui lui permet d’aller plus loin et de profiter à un plus grand nombre de personnes.

Nous avons renforcé les mesures de surveillance, d’alignement et de sécurité tout au long du cycle de développement des modèles, notamment en isolant davantage les charges de travail liées à la recherche de pointe, en élargissant la surveillance du comportement des modèles pendant les entraînements et les évaluations faisant appel à des outils, et en clarifiant les règles qui déterminent à quel moment faire remonter les préoccupations. Pour Astra, nous avons également instauré une surveillance systématique des trajectoires complètes, y compris des chaînes de pensée, ainsi qu’une étape obligatoire d’évaluation de l’alignement avant tout déploiement interne à plus grande échelle.

Ces mesures de protection doivent continuer à garder une longueur d’avance sur les capacités. Si la poursuite de nos activités devait présenter un risque inacceptable pour la sécurité, nous ralentirons ou arrêterons le développement ou le déploiement de systèmes que nous ne pouvons pas protéger suffisamment, comme nous l’avons déjà fait et comme l’exige notre cadre de préparation⁠(s'ouvre dans une nouvelle fenêtre).

L’auto-amélioration récursive entièrement autonome, dans laquelle les systèmes d’IA pilotent de façon indépendante le développement de générations successives toujours plus performantes, n’existe pas aujourd’hui. Nous ne devrions pas nous engager dans cette voie tant que nous ne pouvons pas le faire en toute sécurité.

Cependant, l’IA accélère déjà certains volets de la recherche servant à développer et à aligner la prochaine génération de modèles. Nos dernières recherches⁠ montrent que des agents d’IA peuvent effectuer certaines tâches qui prendraient plusieurs jours à des chercheurs qualifiés. Il ne s’agit pas d’auto-amélioration récursive, mais cela montre bien dans quelle direction évolue l’IA.

Cette accélération peut et doit aussi être orientée vers la sécurité. Notre objectif est de développer en toute sécurité des agents d’IA capables de mener des recherches de façon automatisée sous supervision humaine afin de faire progresser l’apprentissage profond et l’alignement, chaque génération d’IA aidant à rendre la suivante plus sûre, mieux alignée et plus facile à contrôler, et non pas simplement plus performante.

Les gouvernements devraient adopter des méthodes communes pour mesurer ces progrès, préserver un véritable contrôle humain et établir des seuils de sécurité communs déterminant quand et comment ralentir ou arrêter le développement. Si nous ne pouvons pas respecter certains seuils de sécurité sans ralentir la progression des capacités, nous devrions privilégier le respect de ces seuils. Plus la technologie gagne en puissance, plus les mesures de protection qui l’encadrent doivent être robustes.

La perspective d’un développement de l’IA accéléré par ses propres systèmes exige plus que de simples engagements volontaires. Les États-Unis ont besoin d’une réglementation nationale obligatoire, fondée sur les capacités, qui puisse évoluer avec la technologie.

Notre Plan pour une gouvernance démocratique de l’IA de pointe⁠ trace la voie vers un cadre fédéral durable : des exigences communes en matière de tests et d’évaluation indépendante, des protections renforcées en matière de cybersécurité, des règles claires de signalement des incidents, une meilleure préparation nationale et des mesures partagées pour suivre les progrès vers l’auto-amélioration récursive.

Plusieurs propositions législatives sérieuses visant la sécurité des systèmes d’IA de pointe sont actuellement à l’étude au Congrès. Nous continuerons à participer aux discussions de manière constructive et prévoyons soutenir les mesures législatives qui rehausseront sensiblement le niveau de sécurité. Face à de tels enjeux, le mieux ne doit pas devenir l’ennemi du bien. Le Congrès devrait agir avant de suspendre ses travaux.

Un cadre national devrait être rigoureux, mais soigneusement délimité. Les exigences de sécurité applicables aux systèmes de pointe devraient viser uniquement les quelques laboratoires bien équipés qui développent les systèmes les plus performants, et non les jeunes entreprises, les petits développeurs ou les chercheurs dont les travaux sont loin de la fine pointe. Les obligations devraient être proportionnelles aux capacités et aux risques.

La politique de sécurité de l’IA de pointe ne doit pas devenir, sous un autre nom, une politique visant les modèles à poids ouverts. Les modèles ouverts peuvent faire partie de la solution, particulièrement en cybersécurité et lorsque les exigences de souveraineté, de sécurité ou de résidence des données favorisent un déploiement local. Pour la plupart, la concurrence se joue moins sur les capacités de pointe que sur le coût, le contrôle et la latence. Comme nous l’avons affirmé en signant la lettre sur les poids ouverts et le leadership américain en matière d,IA⁠(s'ouvre dans une nouvelle fenêtre), les États-Unis ont besoin de modèles ouverts comme de modèles fermés. Un cadre fédéral devrait encadrer les capacités et les risques de pointe sans affaiblir la concurrence, renforcer la position des acteurs établis ni pousser l’innovation à l’étranger.

Un cadre public rigoureux devrait réduire la concentration du pouvoir, et non l’accroître. Aujourd’hui, les laboratoires de pointe fixent surtout leurs propres règles de gestion des risques liés aux modèles de pointe. Des normes établies sous contrôle démocratique, une vérification indépendante et une transparence réelle remplaceraient ce système fragmenté d’autoréglementation.

C’est essentiel au leadership américain. Les États-Unis ne pourront pas s’imposer à l’ère de l’IA en misant uniquement sur les capacités. L’avance technologique importera peu si la population, les institutions et les gouvernements n’ont pas suffisamment confiance en cette technologie pour l’adopter. Des protections solides ne sont pas une concession au détriment de l’innovation. Elles font partie de l’infrastructure nécessaire à une adoption généralisée et à un leadership américain durable.

Nous avons grand besoin de normes nationales sur l’IA, et toute personne travaillant à la fine pointe du domaine en constate l’urgence. Tant que le Congrès n’agit pas, les États devraient continuer à agir pour combler le vide et rehausser la barre.

OpenAI a appuyé le projet de loi SB 53 de la Californie, la loi RAISE de l’État de New York, le projet de loi SB 315 de l’Illinois ainsi que les audits indépendants prévus dans le projet de loi sur la sécurité de l’IA de pointe actuellement étudié au Massachusetts. Nous encourageons les États à harmoniser leurs approches autour de ces mesures de protection communes. lIs pourront ainsi établir un cadre national de facto que le Congrès pourra ultimement inscrire dans la loi – une approche que nous appelons ⁠« fédéralisme inversé »⁠. Mais l’harmonisation ne signifie pas figer les exigences.

Aujourd’hui, nous appuyons officiellement quatre autres projets de loi californiens qui ont été adoptés par la législature et qui ont été transmis au gouverneur Newsom. Ensemble, ils abordent des aspects complémentaires de l’écosystème de sécurité de l’IA.

Le SB 813⁠(s'ouvre dans une nouvelle fenêtre) établirait un processus de désignation d’organismes qualifiés et indépendants capables d’évaluer les risques liés à l’IA. Comme nous l’avons indiqué dans notre ⁠(s'ouvre dans une nouvelle fenêtre)plan directeur pour la sûreté de l’IA de pointe⁠(s'ouvre dans une nouvelle fenêtre), nous préférons que les évaluations techniques indépendantes soient exigées au niveau fédéral, où les décideurs peuvent établir des normes cohérentes concernant les qualifications requises des évaluateurs, la sécurité et l’accès aux renseignements hautement sensibles. Toutefois, en l’absence d’action fédérale, la Californie peut contribuer à établir les règles de base d’un système national d’évaluation indépendante sécurisé et efficace qui produit de meilleurs résultats en matière de sécurité.

Le projet de loi AB 1405⁠(s'ouvre dans une nouvelle fenêtre) imposerait aux auditeurs en IA des exigences d’enregistrement, d’indépendance, de transparence et de reddition de comptes.

Le SB 1119⁠(s'ouvre dans une nouvelle fenêtre) imposerait la vérification de l’âge, des évaluations des risques, des audits indépendants, des contrôles parentaux et des mesures de protection contre les contenus nocifs pour les enfants et adolescents utilisant des chatbots compagnons. Nous avons récemment exprimé notre soutien⁠ à ce projet de loi, qui s’appuie sur les mesures de sécurité pour les jeunes qu’OpenAI a mises de l’avant au moyen de nos produits et de nos ⁠ principes mondiaux en matière de politiques publiques⁠, ainsi que par notre soutien au ⁠(s'ouvre dans une nouvelle fenêtre)Parents & Kids Safe AI Act⁠(s'ouvre dans une nouvelle fenêtre). Il s’appuie également sur les protections intégrées à ChatGPT pour adolescents, notamment des paramètres par défaut plus stricts dans les domaines sensibles, les Heures de silence, les Heures d’étude et les rappels de pause.

Le projet de loi AB 1864⁠(s'ouvre dans une nouvelle fenêtre) obligerait les fournisseurs de synthèse génétique et les fabricants d’équipement de synthèse de laboratoire à respecter les normes fédérales de dépistage, renforçant ainsi une protection physique importante contre les menaces biologiques facilitées par l’IA.

Nous n’avions pas appuyé certains de ces projets de loi par le passé, mais nous les soutenons maintenant après avoir réévalué notre position à la lumière des progrès récents en matière de capacités.

Ces projets de loi ne sauraient remplacer une réglementation fédérale. Ils constituent des efforts sérieux qui peuvent protéger les gens dès maintenant, montrer à quoi ressemblent des mesures de protection applicables et contribuer à créer un élan en faveur d’une action fédérale.

Les lois à elles seules ne suffiront pas à rendre l’IA avancée sûre. Nous avons aussi besoin de pratiques concrètes au sein des laboratoires qui développent les systèmes les plus performants. Le plus urgent est de commencer par la surveillance.

Cela est particulièrement important pour les désalignement – lorsqu’un modèle poursuit un objectif à l’encontre de l’intention humaine ou des limites établies, sans qu’une conscience ou une intention malveillante soit nécessaire. À mesure que les modèles gagnent en autonomie, utilisent des outils plus puissants et fonctionnent sur de plus longues périodes, les développeurs devraient être tenus de surveiller ces comportements désalignés et de démontrer que des mesures de protection efficaces sont en place.

La surveillance doit s’accompagner d’exigences claires en matière de divulgation. Comme nous l’avons préconisé en Californie, les entreprises devraient être tenues d’aviser rapidement par écrit les parties touchées lorsque, pendant le développement ou l’évaluation, leurs modèles contournent sans autorisation les contrôles de sécurité d’une autre organisation et accèdent de manière substantielle aux systèmes protégés ou aux renseignements confidentiels de cette organisation, les modifient ou les détruisent. Nous appuyons également des exigences fédérales de signalement pour d’autres incidents graves liés à l’IA et travaillons à définir les incidents qui devraient être visés ainsi que ce que ces exigences devraient prévoir.

Comme nous l’avons indiqué la semaine dernière, OpenAI élabore un cadre de signalement des incidents majeurs de désalignement et de surveillance systématique de l’activité des modèles de pointe, y compris lors de leur utilisation interne. Cette initiative est d’abord menée par l’entreprise, mais nous espérons qu’elle pourra éclairer des politiques fédérales et des exigences de signalement plus larges.

Nous voulons collaborer avec d’autres laboratoires sur des normes pilotées par l’industrie. Ces normes viendraient compléter, sans les remplacer, les mesures de protection fédérales obligatoires et la surveillance démocratique. Mais nous sommes entrés dans une nouvelle phase des capacités de l’IA, et toutes les options doivent être envisagées, y compris ce qui peut être instauré volontairement hors du cadre gouvernemental comme mesure immédiate.

De telles normes devront aussi, à terme, s’étendre au-delà des frontières nationales. Les modèles, la recherche et l’expertise technique circulent à l’échelle mondiale, et les défaillances des systèmes les plus performants pourraient avoir des conséquences bien au-delà de leur pays d’origine. Les États-Unis doivent établir des normes crédibles sur leur territoire s’ils veulent jouer un rôle de chef de file à l’international, et nous sommes de plus en plus convaincus que des normes internationales compatibles seront nécessaires.

La fenêtre d’action en matière de politiques sur l’IA est ouverte, pour l’instant. Nous comptons en profiter.

Cela signifie agir avec urgence, humilité et volonté d’adaptation. Appuyer des propositions sérieuses qui rehaussent véritablement le niveau de sécurité, même si elles ne correspondent pas exactement à ce que nous aurions conçu. Cela signifie aussi renforcer le cadre à mesure que la technologie évolue.

Aucune première étape ne sera parfaite. Mais le plus grand risque est maintenant d’attendre trop longtemps avant d’agir.