Allocution de Sam Altman au Conseil de sécurité des Nations Unies

Aujourd’hui, Sam Altman, chef de la direction d’OpenAI, s’est adressé au Conseil de sécurité des Nations Unies au sujet de l’intelligence artificielle. Il a parlé du potentiel de l’IA pour élargir les possibilités, de l’importance de maintenir les systèmes puissants sous contrôle humain et de la nécessité d’une coopération internationale en matière de sécurité de l’IA.

Merci, Monsieur le Président, Excellences. C’est un honneur d’être ici et de pouvoir m’adresser à vous tous en ce moment important.

Nous parlons d’intelligence artificielle depuis des années, mais les dernières semaines et les derniers mois semblent différents. Les progrès rapides des modèles ont donné l’impression que l’échéancier se resserrait et que les avantages devenaient plus tangibles, mais aussi que les enjeux et les risques étaient plus immédiats.

Un choix se présente à nous. L’IA peut ressembler davantage à une nouvelle Renaissance de créativité et de découverte, ou à une nouvelle révolution industrielle marquée par les bouleversements et le désordre.

La Renaissance a été une époque où de nouveaux outils, de nouvelles idées et de nouvelles institutions ont élargi la conception que les gens avaient de leurs propres possibilités. L’IA peut jouer ce rôle à notre époque. Je crois que les gens sont beaucoup plus capables qu’ils ne l’imaginent, mais qu’ils ont été freinés par une technologie limitée qui devait leur donner plus de moyens, mais qui les distrait et accapare souvent leur attention.

La meilleure version de l’IA ne consiste pas à transformer les gens en rouages d’une immense machine ni à optimiser chaque aspect de la vie jusqu’à ce que sa dimension humaine disparaisse. Elle consiste à donner aux gens une plus grande capacité d’agir dans un monde toujours plus complexe : une plus grande capacité d’apprendre, de créer, de découvrir, de bâtir et de participer. Il y a beaucoup de choses que l’IA ne peut pas — et ne devrait pas — automatiser.

L’IA devrait être conçue pour les gens, et non simplement pour accélérer le fonctionnement des machines comme une fin en soi. Certaines déclarations de personnes qui travaillent à bâtir l’IA sont si dystopiques qu’elles semblent tirées de mauvais films de science-fiction.

Une technologie aussi puissante est également intimidante. La situation actuelle est complexe, car nous ressentons simultanément un potentiel immense et une anxiété tout à fait compréhensible.

Ces modèles peuvent aider les gens à acquérir de nouvelles connaissances, à créer de nouveaux médicaments, à améliorer les soins de santé et l’éducation, et à bâtir des économies plus productives. Ils peuvent devenir de nouveaux outils permettant aux gens de poursuivre des rêves et des ambitions qui semblent aujourd’hui hors de portée. La vie quotidienne est devenue considérablement plus complexe pour la personne moyenne. L’IA peut être un outil de défense contre cette complexité tout autant qu’un outil de découverte et d’innovation sans précédent.

En revanche, à mesure que les systèmes d’IA gagnent en capacités et en autonomie, ils pourraient progresser plus vite que nos institutions, concentrer le pouvoir entre trop peu de mains ou prendre des décisions que les gens ne comprennent ou ne contrôlent plus.

Cette préoccupation devient particulièrement importante à mesure que nous approchons de systèmes capables de s’améliorer eux-mêmes et d’améliorer leurs futures versions, un phénomène souvent appelé autoamélioration récursive. À mesure que la conception de l’IA s’automatise, le rythme de ses progrès pourrait s’accélérer rapidement. Ce moment exige une prudence extrême.

Je suis en grande partie d’accord avec le professeur Bengio. Même si j’en nommerai deux plutôt que trois, je crois que les progrès de l’IA pourraient très mal tourner de deux façons que nous devons éviter.

Premièrement, nous pourrions perdre au profit de l’IA le contrôle de notre avenir. Le risque est qu’elle progresse si vite que les gens ne puissent plus suivre ce qui se passe ni intervenir lorsque c’est nécessaire. Ce serait évidemment terrible.

L’industrie ne doit pas accepter des risques technologiques excessifs simplement parce que les avantages sont immenses et qu’ils semblent trop importants pour justifier un ralentissement. Devancer des entreprises dans une course concurrentielle ne justifie pas des décisions irréfléchies. Nous ne croyons pas non plus être pris dans une course qui nous empêcherait de ralentir. Nous avons déjà ralenti unilatéralement par le passé. Nous le ferons de nouveau à l’avenir. Nous ne voulons pas concevoir de systèmes — et nous croyons qu’il est important que personne n’en conçoive — pour lesquels nous ne pouvons pas fournir les garanties nécessaires en matière d’alignement, de surveillance et de sécurité.

Nous devons comprendre ce que font ces systèmes et disposer de preuves solides qu’ils feront ce que les gens souhaitent, même lorsqu’ils deviendront très, très intelligents. En fait, surtout lorsqu’ils deviendront très, très intelligents. Peu importe que les gens évaluent le risque de catastrophe à 10 %, à 1 %, à 12 % ou à 0,1 %. Aucun de ces niveaux n’est le moindrement acceptable. Et nous ne devrions pas entraîner de modèles sans pouvoir démontrer de façon extrêmement convaincante que nous serons en mesure de les maintenir sous contrôle humain.

Voilà donc une façon dont les choses pourraient mal tourner. À l’autre extrême, ces systèmes pourraient concentrer trop de pouvoir entre trop peu de mains. Aucune personne, entreprise ou nation ne devrait pouvoir utiliser les modèles d’IA les plus puissants pour imposer sa vision du monde à tous les autres. Une entreprise ou un pays qui estime être le seul digne de confiance pour utiliser cette technologie peut se servir de cette conviction pour justifier presque n’importe quoi d’autre. Nous devons rejeter cette logique, même lorsqu’elle convient à un acteur donné.

Je crois qu’il existe une voie pragmatique entre ces deux écueils. Chez OpenAI, nous abordons ces questions avec un objectif clair : l’IA devrait donner aux gens davantage de pouvoir sur leur propre vie. Plus de liberté pour vivre comme ils l’entendent. Une plus grande capacité à résoudre des problèmes, petits ou grands, et à améliorer leurs communautés. Nous ne voulons pas tomber dans le piège d’un optimisme aveugle. Nous ne voulons pas non plus tomber dans le piège du catastrophisme. Nous laisser entraîner vers l’un ou l’autre de ces extrêmes ne nous aidera pas à relever les défis qui nous attendent, surtout à une époque où le monde et ses habitants font face à d’immenses difficultés que cette technologie peut contribuer à résoudre. Nous tentons donc de suivre une voie médiane entre ces deux pôles.

Pour nous, cela repose sur trois principes.

Premièrement, à mesure que l’IA gagne en capacités, les gens doivent rester au cœur des décisions qui la concernent. L’alignement n’est pas une question de recherche abstraite. Il s’agit de veiller à ce que ces systèmes demeurent de façon fiable sous contrôle humain, reflètent les valeurs humaines et aident les gens à orienter les prochaines étapes du développement. Nous ne cherchons pas — et ne devons pas chercher — à automatiser le jugement humain ni les valeurs humaines.

Deuxièmement, les progrès scientifiques et la croissance économique doivent être réalisés par et pour les gens. L’IA devrait aider les chercheurs à faire des découvertes, les médecins à soigner leurs patients, les enseignants à instruire leurs élèves, les entrepreneurs à lancer des entreprises, les communautés à résoudre des problèmes qui semblaient hors de portée, et bien plus encore. L’histoire continue du progrès humain ne repose pas sur le remplacement de la capacité d’agir des humains par des outils. Elle repose sur le fait que les bons outils rendent les gens plus capables, et je crois que cela ira bien au-delà de ce que nous pensons possible.

Troisièmement, cette technologie doit donner à chaque personne les moyens d’agir. Un avenir prometteur naîtra de personnes qui réalisent leur potentiel et créent de la valeur pour elles-mêmes, leurs communautés, leur pays et le monde entier. Nous sommes peut-être parmi les bâtisseurs de cette technologie, mais nous ne sommes pas les héros de cette histoire. Notre rôle consiste à donner aux gens du monde entier les moyens d’agir et à faire confiance à la magie du savoir-faire et des facultés de l’humanité.

Nous disposons maintenant de modèles capables de découvrir des connaissances auxquelles nous n’avions jamais eu accès. Pensons aux progrès accomplis en mathématiques. Il y a trois étés, nos modèles se débrouillaient en mathématiques de niveau primaire. Il y a deux étés, ils étaient plutôt bons dans les concours de mathématiques de niveau secondaire. L’été dernier, nous avons atteint le niveau d’une médaille d’or au plus prestigieux concours international de mathématiques. Et il y a quelques semaines à peine, cet été, l’un de nos modèles a résolu l’un des problèmes du prix du millénaire : les équations de Navier-Stokes.

Ces équations servent à concevoir des aéronefs, à prévoir la météo et à étudier la circulation sanguine. Nous ne résolvons pas des problèmes mathématiques pour le simple plaisir de le faire, mais pour permettre aux gens de découvrir de nouvelles connaissances et de les utiliser afin d’améliorer les soins de santé, d’élever le niveau de vie et d’accroître le potentiel de chacun dans le monde. Il reste tant de choses à découvrir.

Mais il est très important que les entreprises ne se substituent pas au processus démocratique.

Pour que l’IA soit démocratique, les décisions les plus importantes ne peuvent pas être prises uniquement par des laboratoires de San Francisco. Elles doivent être façonnées par des processus démocratiques et par des gouvernements qui rendent des comptes aux populations qu’ils servent.

À l’échelle internationale, cela nécessitera de la coopération. Au cours de notre histoire, il est arrivé que des pays concurrents qui ne s’appréciaient pas toujours beaucoup s’unissent néanmoins au nom d’intérêts communs et du bien collectif face à une nouvelle technologie puissante. Nous croyons que le moment est venu de le faire à nouveau.

Il nous faut un mécanisme permettant d’établir des normes nationales et internationales complémentaires sur l’IA de pointe : des normes pour mesurer les capacités, évaluer les risques, déterminer si les mesures de protection sont suffisantes et préserver une véritable supervision humaine à mesure que les systèmes deviennent plus autonomes.

Il nous faut des normes communes afin que les pays puissent comparer les données probantes, vérifier la conformité et partager un langage et une compréhension de ce qui se passe.

Il nous faut des signalements d’incidents rapides et exacts ainsi que des protocoles de classification et de signalement, afin que le monde puisse tirer des leçons des défaillances avant qu’elles ne deviennent des catastrophes.

Et il nous faut des canaux sécurisés entre les gouvernements, les exploitants d’infrastructures essentielles et les experts techniques pour communiquer les vulnérabilités émergentes et les nouvelles menaces.

Évidemment, ces normes ne devraient pas protéger les acteurs établis ni favoriser un modèle d’affaires plutôt qu’un autre. Elles doivent soutenir les concepteurs de modèles ouverts et fermés, les nouveaux venus et les laboratoires établis, l’autorité nationale et la coopération internationale. Chaque gouvernement devrait décider de la manière d’intégrer les normes à son propre système juridique. Mais nous nous porterons tous mieux si nous pouvons nous entendre, à l’échelle mondiale, sur ce qui constitue des données probantes, des mesures de protection et une supervision adéquates.

Nous n’avons pas toutes les réponses et sommes tout à fait ouverts à de meilleures idées. Nous sommes prêts à travailler avec vous tous et à faire tout notre possible pour trouver la voie à suivre.

Nous sommes à la croisée des chemins. Une voie mène à un monde où le pouvoir est concentré, où les décisions sont opaques et où les gens ont l’impression que la technologie la plus importante de leur vie leur est imposée. L’autre voie mène à un monde où l’IA travaille pour les gens parce que ceux-ci, par l’intermédiaire d’institutions démocratiques, contribuent à décider de son évolution et à l’orienter; où les progrès scientifiques améliorent concrètement la vie; où davantage de personnes peuvent participer à l’avenir; et où cette technologie continue de donner aux personnes et aux communautés plus de pouvoir pour vivre comme elles l’entendent. C’est un avenir de potentiel réalisé, d’enthousiasme et d’émerveillement.

Et c’est l’avenir qui, selon nous, mérite d’être bâti. Merci beaucoup.