L’IA peut améliorer considérablement de nombreux aspects de la société.
Cette technologie, comme d’autres avant elle, donnera aux individus davantage de capacités et d’autonomie ; ce qu’ils pourront accomplir avec l’IA dépassera de loin ce qu’ils pouvaient faire avec les machines à vapeur ou l’électricité.
Nous imaginons un monde où la prospérité est largement partagée, à une échelle aujourd’hui difficile à concevoir, et où le potentiel individuel, la capacité d’agir et l’épanouissement progressent fortement. Nombre des choses que nous ne faisions jusqu’ici qu’imaginer dans la science-fiction pourraient devenir réalité, et la plupart des gens pourraient mener une vie plus riche de sens qu’il n’est aujourd’hui possible pour la majorité.
Mais cette issue n’est pas garantie. À l’avenir, le pouvoir pourra soit être détenu par une toute petite poignée d’entreprises utilisant et contrôlant la superintelligence, soit être détenu de manière décentralisée par les individus. Nous pensons que la seconde option est bien meilleure, et notre objectif est de mettre une IA véritablement générale entre les mains du plus grand nombre possible. Comme le présent, l’avenir ne sera ni entièrement mauvais ni entièrement bon, mais les décisions que nous prenons aujourd’hui peuvent aider à maximiser les bénéfices.
Notre mission est de faire en sorte que l’AGI profite à toute l’humanité. Voici les principes qui guident notre travail.
1. Démocratisation. Nous nous opposerons à toute concentration du pouvoir entre les mains d’un petit nombre.
Cela signifie qu’en plus de donner accès à l’IA à tous, nous devons veiller à ce que les décisions clés concernant l’IA soient prises par des processus démocratiques et selon des principes égalitaires, et pas seulement par les laboratoires d’IA.
2. Autonomie. Nous pensons que l’IA peut donner à chacun les moyens d’atteindre ses objectifs, d’apprendre davantage, d’être plus heureux et plus épanoui, et de poursuivre ses rêves, et que la société dans son ensemble en bénéficiera.
Pour y parvenir, il faut permettre à chacun d’explorer le potentiel considérable qui s’ouvre, et nous devons créer des produits qui le rendent possible. Les utilisateurs doivent pouvoir accomplir de manière fiable, avec nos services, des tâches à valeur de plus en plus élevée.
Le monde est diversifié et chacun a des besoins différents. Nous voulons donner à nos utilisateurs l’autonomie dont ils ont besoin et leur permettre autant que nous le pouvons raisonnablement.
Bien que nous voulions offrir à nos utilisateurs une très grande latitude dans la manière dont ils utilisent nos services et que nous soyons fermement convaincus que l’IA sera dans l’ensemble extrêmement bénéfique, nous avons la responsabilité de concevoir et de déployer l’IA de manière à limiter les risques. Cela inclut bien sûr la prévention des risques catastrophiques, mais aussi la réduction des impacts négatifs locaux et l’évitement d’effets délétères à l’échelle de la société. Cela impliquera de privilégier la prudence face à l’incertitude, puis d’assouplir les contraintes à mesure que les preuves s’accumulent.
3. Prospérité universelle. Nous voulons un avenir où chacun pourra avoir une vie de grande qualité.
En mettant entre les mains de tous des systèmes d’IA faciles à utiliser et disposant d’une grande puissance de calcul, nous pensons que les gens trouveront de nouvelles façons de créer de la valeur et d’améliorer considérablement la qualité de vie de chacun, en particulier grâce à la découverte scientifique.
Pour que cette prospérité se concrétise pleinement et soit largement partagée, nous pensons que 1) nos gouvernements devront peut-être envisager de nouveaux modèles économiques afin que chacun puisse participer à la création de valeur à venir et 2) nous devons déployer massivement des infrastructures d’IA et développer de nouvelles technologies pour faire fortement baisser les coûts de l’infrastructure IA.
Certaines de nos décisions peuvent sembler étranges, comme investir massivement dans la puissance de calcul alors que nos revenus restent relativement faibles, renforcer notre intégration verticale pour réduire les coûts et rendre notre technologie plus facile à utiliser, accélérer la construction de centres de données partout dans le monde, et bien plus encore. Toutes sont motivées par notre conviction profonde qu'un avenir de prospérité universelle est possible.
4. Résilience. L’IA introduira de nouveaux risques, et nous travaillerons avec d’autres entreprises, les écosystèmes concernés, les gouvernements et la société civile pour y faire face. Nous mobiliserons une part importante des ressources de notre fondation pour soutenir ce travail.
Aucun laboratoire d’IA ne peut, à lui seul, garantir un avenir positif. Un exemple évident : il pourrait exister des modèles extrêmement capables qui pourraient faciliter la création d’un nouveau pathogène, et nous avons besoin d’une approche à l’échelle de la société pour nous en protéger au moyen de contre-mesures indépendantes du pathogène. Autre exemple : à mesure que les capacités des modèles en cybersécurité augmentent, nous devons utiliser rapidement ces modèles pour aider à sécuriser les logiciels open source et les infrastructures critiques, tout en les entraînant à aider chacun à créer des logiciels plus sûrs.
C’est une extension de notre stratégie de longue date de déploiement itératif ; nous pensons que la société doit prendre en compte chaque nouveau niveau de capacité de l’IA, le comprendre, l’intégrer et définir collectivement la meilleure voie à suivre. Cela ne peut pas se faire en vase clos ; la société et la technologie coévoluent, et cela demande du temps.
Nous n’entendons pas par là notre seule stratégie de sécurité ; nous devons aussi créer des systèmes sûrs et continuer à poursuivre des travaux de haut niveau sur l’alignement technique.
Nous anticipons des périodes où nous devrons collaborer avec les gouvernements, les agences internationales et d’autres initiatives AGI afin de nous assurer que nous avons suffisamment résolu de graves enjeux d’alignement, de sécurité ou sociétaux avant d’aller plus loin dans notre travail.
5. Adaptabilité. Nous continuons de penser que la seule façon de relever les défis d’un avenir très imprévisible est d’être prêts à faire évoluer nos positions à mesure que nous en apprenons davantage. Nous reconnaissons également qu’OpenAI est une force bien plus importante dans le monde qu’il y a quelques années, et nous serons transparents sur le moment, la manière et les raisons pour lesquelles nos principes de fonctionnement changent. Concrètement, par exemple, même si nous sommes tout à fait convaincus que la prospérité universelle restera très importante, nous pouvons imaginer des périodes à l’avenir où nous devrons faire des compromis sur l’autonomie au profit d’une plus grande résilience.
Le développement de l’IA a apporté de nombreuses surprises, et d’autres restent à venir. À mesure que la technologie progresse, ses comportements émergents deviendront de plus en plus difficiles à prédire. Nous faisons nôtre cette incertitude en faisant progresser les capacités avec prudence, en déployant les systèmes de manière itérative et en apprenant de leurs interactions avec le monde.
Il n’y a pas si longtemps, nous étions inquiets à l’idée de publier les poids de GPT‑2 parce que nous n’étions pas sûrs de ses conséquences pour la société. Avec le recul, cette inquiétude était manifestement mal placée, mais elle nous a conduits à découvrir la stratégie du déploiement itératif, l’un des enseignements les plus importants que nous ayons tirés.
__
Nous entrons dans une phase décisive à mesure que la technologie continue de s’améliorer. Il est tout à fait légitime de nous critiquer sur chacune de nos décisions ; nous devons faire l’objet d’un niveau d’exigence extrêmement élevé compte tenu de l’importance de ce que nous faisons. Nous ne réussirons pas tout du premier coup, mais nous apprendrons vite et rectifierons le cap.
Nous sommes déterminés à faire notre part pour rendre l’avenir meilleur que par le passé ; nous avons la chance de mener un travail aussi important.
