De génération en génération, de nouvelles technologies viennent parfois tout bouleverser.
Imaginez l’arrivée de l’électricité dans une petite ville rurale des États-Unis dans les années 1920. Avant l’installation des lignes électriques, la vie quotidienne était dictée par des contraintes bien concrètes : transporter l’eau, laver les vêtements à la main, conserver les aliments dans la glace et mettre fin à une grande partie des activités lorsque le soleil se couchait. L’électricité n’a pas transformé tous les foyers du jour au lendemain, et ses bénéfices n’ont pas été répartis également. Mais à mesure que l’accès s’est élargi, le quotidien a changé. L’éclairage a prolongé les journées. Les pompes électriques, les appareils électroménagers et la réfrigération ont allégé certaines des tâches les plus exigeantes du quotidien. La radio a permis aux gens d’accéder aux nouvelles, à la musique et à un monde de connexions qui s’étendait bien au-delà de leur communauté.
Au départ, la principale promesse de l’électricité était d’ordre pratique. Toutefois, son impact le plus profond est venu des nouvelles possibilités qu’elle a ouvertes à mesure que davantage de personnes y ont eu accès. Avec le temps, ces possibilités se sont multipliées, et les machines ainsi que les ordinateurs ont considérablement accéléré les progrès en médecine, en ingénierie et dans bien d’autres domaines. À la fin du 20e siècle, l’espérance de vie moyenne avait augmenté de plus de 20 ans et le revenu médian, ajusté pour tenir compte de l’inflation, avait plus ou moins triplé. Ces avancées ont été rendues possibles en grande partie par les progrès réalisés en matière de soins de santé, d’assainissement et de niveau de vie, dont plusieurs ont été favorisés ou accélérés par la généralisation de l’électricité et les avancées technologiques qui l’ont accompagnée.
Nous assistons aujourd’hui à un phénomène similaire avec l’IA. L’IA sera bientôt capable de choses extraordinaires. Mais l’essentiel n’est pas la technologie elle-même. L’essentiel, c’est ce qu’elle permet aux gens d’accomplir. Elle peut aider une personne à comprendre une facture médicale, à acquérir une nouvelle compétence, à lancer une petite entreprise, à prendre soin d’un parent vieillissant, à mieux comprendre une décision d’ordre juridique ou financier, à concrétiser une idée ou même à réaliser une découverte scientifique.
L’émerveillement suscité par l’éclairage après la tombée du jour s’est probablement estompé assez rapidement. Ce qui a perduré, en revanche, c’est ce que les gens ont choisi d’en faire. Et puisque la technologie a toujours été un puissant moteur de prospérité à long terme, nous croyons que l’IA devrait être accessible à tous, afin que chacun puisse l’utiliser autant qu’il en a besoin, où et comme il le souhaite.
Cet avenir ne se concrétisera pas de lui-même. Les technologies transformatrices peuvent concentrer le pouvoir, ou au contraire contribuer à le répartir plus largement. Elles peuvent améliorer la vie d’un petit nombre de personnes, ou créer davantage de possibilités pour le plus grand nombre. Notre approche repose sur la conviction que l’IA doit être au service des personnes : les aider à atteindre leurs propres objectifs, accroître leurs capacités et faire en sorte que les bénéfices de cette technologie soient répartis aussi largement que possible.
Notre premier engagement consiste à développer une IA au service de l’humanité. Cela signifie que nous voulons donner à un large éventail de personnes les moyens d’agir, plutôt que de voir le pouvoir se concentrer entre les mains d’un petit nombre d’entreprises, de gouvernements ou d’individus. Nous croyons qu’un avenir plus sûr est un avenir où le pouvoir est largement réparti, permettant ainsi à une plus grande partie de la population mondiale de contribuer à la mise en place d’un écosystème de résilience.*
Nous sommes optimistes quant au potentiel de l’IA, car nous croyons qu’elle peut accroître les capacités humaines et favoriser la prospérité. Mais nous sommes également pleinement conscients des risques qu’elle comporte. Les systèmes les plus puissants doivent demeurer sécuritaires, alignés sur les intentions humaines et sous contrôle humain. Chez OpenAI, notre mission est de faire en sorte que l’AGI profite à l’ensemble de l’humanité. Cela signifie concevoir des systèmes qui aident les gens à accomplir davantage de ce qu’ils choisissent eux-mêmes de faire, et non des systèmes qui se substituent au jugement humain lorsqu’il s’agit de déterminer ce qui compte vraiment.
L’automatisation complète de tout n’est pas l’avenir que nous souhaitons. Ce serait à la fois peu épanouissant et dangereux. L’IA devrait aider les gens à poursuivre leurs objectifs, et non s’en détacher. À mesure que les systèmes d’IA gagnent en capacités, le rôle des humains devient encore plus important : donner une direction, faire des choix, exercer leur jugement et apporter leurs valeurs, leur sensibilité, leur attention et leur sens des responsabilités au travail accompli.
À long terme, l’un des rôles les plus importants des humains sera de déterminer ce qui mérite d’être fait.
Nous croyons que, d’ici quelques années, la capacité de l’IA à mener elle-même des travaux de recherche sur l’IA deviendra le principal facteur déterminant du rythme des progrès. Cela est important, car l’alignement constitue en soi un défi de recherche complexe. Pour réaliser des avancées rapides et significatives, nos chercheurs auront besoin de systèmes d’IA capables de les aider à mettre des idées à l’épreuve, à repérer des erreurs, à explorer différentes avenues et à itérer à leurs côtés.
Toutefois, à mesure que les progrès techniques s’accélèrent, le jugement humain et la coordination à l’échelle de la société gagnent en importance, et non l’inverse. L’avenir devrait être façonné par les personnes, les institutions et les sociétés, et non uniquement par les entreprises qui développent les systèmes les plus avancés.
À mesure que le développement des systèmes d’IA de pointe se poursuit, nous nous attendons à ce que la coordination à l’échelle nationale et mondiale gagne en importance. Nous croyons depuis longtemps qu’il devrait éventuellement exister une organisation internationale chargée de coordonner les principaux efforts en matière d’IA afin de réduire les risques catastrophiques. La coopération et l’adoption de normes de sécurité communes constituent des éléments essentiels de la voie à suivre, d’autant plus qu’il est difficile d’échapper aux dynamiques de concurrence commerciale et géopolitique. L’un des objectifs d’une telle organisation devrait être de permettre au monde d’agir de manière coordonnée, notamment en ralentissant le développement des systèmes d’IA de pointe lorsque cela s’avère nécessaire, afin que la résilience de la société, la sécurité et l’alignement puissent suivre le rythme des avancées.
Créer un chercheur IA automatisé — un système d’IA capable d’accélérer le processus de recherche et d’en automatiser progressivement davantage d’étapes, tout en demeurant contrôlable, responsable et centré sur les besoins des personnes. Selon nos estimations internes, d’ici mars 2028, une part importante de nos travaux de recherche pourrait être réalisée par des systèmes d’IA en collaboration avec nos propres chercheurs. Pour accomplir des progrès suffisants en matière d’alignement, nous croyons que les IA devront évoluer et itérer à nos côtés. Cela nous aidera à traverser la transition vers un monde post-AGI afin que nous puissions collectivement déterminer la voie à suivre pour l’avenir.
Accélérer l’économie en favorisant les avancées scientifiques, la productivité et la croissance économique, tout en veillant à ce que les bénéfices soient largement partagés. Chacun devrait avoir la possibilité de bénéficier de manière significative de la prospérité créée par l’IA.
Offrir à chaque personne sur Terre une AGI personnelle, afin qu’elle puisse tirer parti de l’une des technologies les plus transformatrices de l’histoire de l’humanité, de la manière qui lui convient.
Pour y parvenir, nous amorçons la troisième phase d’OpenAI.
La première phase d’OpenAI était consacrée à la recherche visant à développer l’AGI. La deuxième phase a commencé lorsque nos travaux de recherche ont commencé à avoir une incidence concrète dans le monde réel et que nous sommes devenus une entreprise de produits. Nous avons alors déployé nos systèmes, appris de la façon dont les gens les utilisaient et poursuivi nos progrès vers une AGI sécuritaire et alignée sur notre mission.
Nous entrons maintenant dans la troisième phase. L’économie commence à se transformer sous l’effet de l’IA. La question centrale n’est plus seulement de développer une IA avancée, mais de la rendre abondante, abordable, sécuritaire, utile et suffisamment accessible pour que chaque personne et chaque organisation puisse en tirer parti. Les capacités de pointe ne représentent qu’une partie du défi. Le véritable enjeu consiste à les transformer en outils qui permettent réellement aux gens de s’épanouir.
Plus que tout, nous croyons qu’une répartition largement partagée du pouvoir contribuera à bâtir un avenir meilleur. L’histoire de l’humanité montre que la concentration du pouvoir engendre de la fragilité, tandis qu’un pouvoir mieux réparti rend les sociétés plus résilientes, plus adaptables et plus libres.
C’est pourquoi l’accès est si important. C’est aussi pourquoi la sécurité, la protection de la vie privée, le coût, les écosystèmes ouverts et la supervision du public sont essentiels.
Un avenir positif pour l’IA ne peut pas être un avenir où un petit nombre d’institutions contrôle l’essentiel des capacités et des retombées. Il doit plutôt s’agir d’un avenir où de nombreuses personnes, entreprises, collectivités et nations peuvent créer, prospérer et exercer une influence réelle. Nous croyons que cette transformation doit profiter à tout le monde.
Si nous y parvenons, l’IA pourra devenir un moteur de productivité, de créativité, de progrès scientifique et de possibilités économiques pour le plus grand nombre. Nous réaliserons alors notre mission : faire en sorte que l’AGI profite à l’ensemble de l’humanité.
*La résilience face à l’IA désigne l’ensemble des organisations, des systèmes et des personnes qu’une société peut mettre en place pour anticiper les perturbations causées par l’IA, y résister, s’y adapter et s’en remettre rapidement. L’automobile, par exemple, a profondément transformé la société, mais elle n’est devenue largement bénéfique que parce que des mécanismes d’encadrement ont été mis en place : ceintures de sécurité, code de la route, permis de conduire, essais de collision et infrastructures routières. L’objectif n’était pas d’empêcher les gens de conduire, mais de rendre cette technologie suffisamment sûre et robuste pour permettre son adoption à grande échelle.
