L’IA a le potentiel d’améliorer considérablement de nombreux aspects de la société.
Cette technologie, comme d’autres avant elle, donnera aux gens plus de capacités et de pouvoir d’agir; ce qu’ils pourront faire avec l’IA dépassera de loin ce qu’ils pouvaient accomplir avec la machine à vapeur ou l’électricité.
Nous imaginons un monde où l’épanouissement est largement répandu à un niveau qu’il est actuellement difficile d’imaginer, et un monde dans lequel le potentiel individuel, le pouvoir d’agir et l’accomplissement personnel augmentent considérablement. Bien des choses que nous nous permettions seulement de rêver dans la science-fiction pourraient devenir réalité, et la plupart des gens pourraient mener une vie plus riche de sens que ce qui est possible aujourd’hui pour la plupart.
Mais cet avenir n’est pas garanti. Le pouvoir à l’avenir peut soit être détenu par une toute petite poignée d’entreprises qui utilisent et contrôlent la superintelligence, soit être réparti de manière décentralisée entre les personnes. Nous croyons que la deuxième option est de loin préférable, et notre objectif est de mettre une IA véritablement générale entre les mains du plus grand nombre possible. Comme le présent, l’avenir ne sera ni tout mauvais ni tout bon, mais les décisions que nous prenons maintenant peuvent aider à maximiser le positif.
Notre mission est de faire en sorte que l’AGI profite à toute l’humanité. Voici les principes qui guident notre travail.
1. Démocratisation. Nous résisterons au potentiel de cette technologie à concentrer le pouvoir entre les mains de quelques-uns.
Cela signifie qu’en plus de donner à tout le monde accès à l’IA, nous devons nous assurer que les décisions clés concernant l’IA sont prises au moyen de processus démocratiques et selon des principes égalitaires, et non seulement par des laboratoires d’IA.
2. Autonomisation. Nous croyons que l’IA peut donner à chacun les moyens d’atteindre ses objectifs, d’apprendre davantage, d’être plus heureux et plus épanoui, et de poursuivre ses rêves, et que la société dans son ensemble en bénéficiera.
Pour y parvenir, il faut laisser les gens explorer l’énorme potentiel qui s’offre à nous, et nous devons bâtir des produits qui le permettent. Les utilisateurs devraient pouvoir accomplir de façon fiable, avec nos services, des tâches de plus en plus utiles.
Le monde est diversifié et les gens ont des besoins différents. Nous voulons donner à nos utilisateurs l’autonomie dont ils ont besoin et permettre autant que nous le pouvons raisonnablement.
Bien que nous voulions accorder à nos utilisateurs une très grande latitude dans la façon dont ils utilisent nos services et que nous croyions fermement que l’IA sera globalement très bénéfique, nous avons la responsabilité de la concevoir et de la déployer de manière à réduire au minimum les préjudices. Cela comprend bien sûr la prévention de dommages catastrophiques, mais aussi la réduction des préjudices locaux et l’évitement d’effets sociétaux potentiellement corrosifs. Cela signifie qu’en situation d’incertitude, nous ferons preuve de prudence et assouplirons les contraintes à mesure que les preuves s’accumuleront.
3. Prospérité universelle. Nous voulons un avenir où tout le monde peut avoir une excellente vie.
En mettant entre les mains de tout le monde des systèmes d’IA faciles à utiliser et dotés d’une grande puissance de calcul, nous croyons que les gens trouveront de nouvelles façons de créer de la valeur et d’améliorer massivement la qualité de vie de tous, en particulier grâce à la découverte de nouvelles avancées scientifiques.
Pour que la prospérité soit pleinement réalisée et largement partagée, nous croyons que 1) nos gouvernements pourraient devoir envisager de nouveaux modèles économiques pour s’assurer que tout le monde puisse participer à la création de valeur qui s’offre à nous et 2) nous devons construire d’énormes quantités d’infrastructure d’IA et développer de nouvelles technologies pour faire baisser considérablement les coûts de cette infrastructure.
Bien des choses que nous faisons et qui peuvent sembler étranges — acheter d’énormes quantités de puissance de calcul alors que nos revenus sont relativement faibles, intégrer verticalement pour réduire les coûts et rendre notre technologie plus facile à utiliser, pousser à construire des centres de données partout dans le monde, et bien plus encore — sont motivées par notre conviction fondamentale en un avenir de prospérité universelle.
4. Résilience. L’IA introduira de nouveaux risques, et nous travaillerons avec d’autres entreprises, écosystèmes, gouvernements et la société pour les résoudre. Nous ferons un usage important des ressources de notre Fondation pour soutenir ce travail.
Aucun laboratoire d’IA ne peut à lui seul garantir un avenir positif. Un exemple évident : il pourrait exister des modèles extrêmement performants qui facilitent la création d’un nouveau pathogène, et nous avons besoin d’une approche à l’échelle de la société pour nous en défendre au moyen de contre-mesures indépendantes du pathogène. Autre exemple : à mesure que les capacités des modèles en cybersécurité augmentent, nous devons rapidement utiliser ces modèles pour aider à sécuriser les logiciels libres et les infrastructures essentielles, tout en les entraînant à aider tout le monde à créer des logiciels plus sécuritaires.
Il s’agit d’un prolongement de notre stratégie de longue date de déploiement itératif; nous croyons que la société doit composer avec chaque niveau successif de capacité de l’IA, le comprendre, l’intégrer et déterminer ensemble la meilleure voie à suivre. Cela ne peut pas se faire en vase clos; la société et la technologie coévoluent, et cela demande du temps.
Nous ne présentons pas cela comme notre seule stratégie de sécurité; nous devons aussi créer des systèmes sûrs et continuer à faire un excellent travail sur l’alignement technique.
Nous nous attendons à ce qu’il y ait des périodes où nous devrons collaborer avec des gouvernements, des organismes internationaux et d’autres acteurs de l’AGI pour nous assurer d’avoir suffisamment résolu des problèmes graves d’alignement, de sécurité ou de société avant d’aller plus loin dans notre travail.
5. Capacité d’adaptation. Nous continuons de croire que la seule façon de relever les défis d’un avenir très imprévisible est d’être prêts à faire évoluer nos positions à mesure que nous en apprenons davantage. Nous reconnaissons aussi qu’OpenAI est une force beaucoup plus importante dans le monde qu’elle ne l’était il y a quelques années, et nous ferons preuve de transparence quant au moment, à la manière et aux raisons pour lesquels nos principes de fonctionnement changent. À titre d’exemple concret, bien que nous soyons assez convaincus que la prospérité universelle demeurera vraiment importante, nous pouvons imaginer des périodes à l’avenir où nous devrons sacrifier une partie de l’autonomisation pour davantage de résilience.
Le développement de l’IA a apporté bien des surprises, et il y en a encore d’autres à venir. À mesure que la technologie progresse, ses comportements émergents deviendront de plus en plus difficiles à prévoir. Nous acceptons cette incertitude en faisant progresser les capacités avec prudence, en déployant les systèmes de façon itérative et en apprenant de leurs interactions avec le monde.
Il n’y a pas si longtemps, nous étions nerveux à l’idée de publier les poids de GPT‑2 parce que nous n’étions pas certains des répercussions que cela aurait sur la société. Avec le recul, c’était évidemment une inquiétude mal fondée, mais cela nous a amenés à découvrir la stratégie de déploiement itératif, qui a été l’une des choses les plus importantes que nous ayons trouvées.
__
Nous entrons dans une phase très importante à mesure que la technologie continue de s’améliorer. Il est tout à fait légitime de nous critiquer pour chacune de nos décisions; nous méritons un niveau énorme d’examen compte tenu de l’importance de ce que nous faisons. Nous n’aurons pas raison sur tout, mais nous apprendrons vite et corrigerons le tir.
Nous nous engageons à faire notre part pour rendre l’avenir meilleur que le passé; nous nous estimons chanceux de pouvoir entreprendre un travail aussi important.
