Progrès de l'IA et orientations

Lorsque l'interprétation courante du test de Turing a été dépassée, beaucoup d'entre nous ont trouvé étrange à quel point la vie quotidienne continuait comme avant. Ce moment marquait pourtant une étape que l'on évoquait depuis des décennies. Il semblait d'abord inatteignable, puis soudain à portée de main ; et tout à coup, nous l'avions franchi. Nous avons obtenu d'excellents nouveaux produits, mais le monde n'a pas beaucoup changé, même si les ordinateurs savent désormais dialoguer et réfléchir à des problèmes complexes.

La plupart des gens perçoivent encore l'IA comme de simples chatbots ou comme un moteur de recherche amélioré, mais aujourd'hui, certains systèmes dépassent les humains les plus brillants dans nos compétitions intellectuelles les plus exigeantes. Même si les systèmes d'IA présentent encore de fortes incohérences et des faiblesses notables, ceux capables de résoudre de tels problèmes semblent avoir franchi 80 % du chemin vers un chercheur en IA, plutôt que seulement 20 %. L'écart entre la manière dont la plupart des gens utilisent l'IA et ce qu'elle est réellement capable de faire aujourd'hui est immense.

Les systèmes d'IA capables de découvrir de nouvelles connaissances, seuls ou en rendant les humains plus efficaces, auront probablement un impact majeur sur le monde.

En quelques années, l'IA est passée de tâches qu'une personne pouvait accomplir en quelques secondes (par exemple en ingénierie logicielle) à des tâches qui demanderaient plus d'une heure à un humain. Nous prévoyons bientôt des systèmes capables d'effectuer des tâches qui prendraient plusieurs jours ou semaines à un humain ; nous ne savons pas encore comment concevoir des systèmes capables de réaliser en quelques instants ce qui prendrait des siècles à une personne.

Parallèlement, le coût unitaire pour un niveau donné d'intelligence a chuté de façon spectaculaire — soit une division par environ 40 chaque année en moyenne sur les dernières années. 

D'ici 2026, nous croyons que l'IA sera en mesure de faire de petites découvertes. À partir de 2028, nous sommes assez confiants que certains systèmes pourront réaliser des découvertes plus importantes ; nos avancées de recherche semblent l'indiquer, même si nous pouvons nous tromper.

Nous avons toujours pensé que les progrès de l'IA se manifestent de manière inattendue, et que la société trouve des moyens d'évoluer en parallèle de la technologie. Même si nous anticipons des progrès rapides et importants des capacités de l'IA dans les prochaines années, la vie quotidienne devrait rester étonnamment stable ; nos modes de vie évoluent lentement, même avec des outils bien plus performants.

Nous pensons notamment que l'avenir offrira de nouvelles (et, espérons-le, meilleures) façons de mener une vie épanouie, accessible à un plus grand nombre qu'aujourd'hui. Il est vrai que le travail sera différent, que la transition économique pourrait être difficile sur certains plans, et qu'il est même possible que le contrat socio-économique fondamental doive évoluer. Mais dans un monde d'abondance largement partagée, la vie des gens pourrait être bien meilleure qu'aujourd'hui.

Les systèmes d'IA aideront les gens à mieux comprendre leur santé, à accélérer les progrès dans des domaines comme la science des matériaux, la recherche pharmaceutique ou la modélisation du climat, et à favoriser l'accès à une éducation personnalisée partout dans le monde. Mettre en évidence ces bénéfices concrets contribue à construire une vision commune d'un monde où l'IA améliore réellement la qualité de vie, et pas seulement la productivité.

OpenAI s'engage fermement en faveur de la sécurité⁠, que nous voyons comme la discipline visant à maximiser les effets positifs de l'IA tout en atténuant les risques. Même si les bénéfices potentiels sont immenses, nous considérons les risques liés aux systèmes superintelligents comme pouvant avoir des conséquences catastrophiques, et pensons qu'une étude⁠ empirique⁠ de la sécurité⁠ et de l'alignement⁠ peut aider à guider les décisions mondiales, par exemple concernant la nécessité de ralentir le développement pour mieux comprendre ces systèmes à mesure que nous nous rapprochons de l'autoamélioration récursive. Il va de soi que personne ne devrait déployer de systèmes superintelligents sans être en mesure de les aligner et de les contrôler de manière fiable ; cela suppose encore beaucoup de travail technique. 

Voici plusieurs leviers qui, selon nous, pourraient favoriser un avenir positif avec l'IA :

Nous pensons que les centres de recherche les plus avancés devraient s'accorder sur des principes communs de sécurité et partager leurs recherches⁠, leurs découvertes sur les nouveaux risques et leurs méthodes pour limiter la course à la performance, ainsi que d'autres enseignements utiles. Par exemple, il serait utile que ces centres s'entendent sur des normes communes concernant l'évaluation du contrôle des systèmes d'IA.

La société a déjà connu un processus similaire pour instaurer des normes de construction et de sécurité incendie, qui ont sauvé d'innombrables vies.

Deux grands courants de pensée s'affrontent aujourd’hui dans la manière de concevoir l'IA. Le premier considère que l'IA est une « technologie comme les autres », qui évoluera comme les précédentes révolutions technologiques — de l'imprimerie à Internet. Selon cette approche, les changements se produiront à un rythme permettant aux individus et à la société de s'adapter, et les outils habituels de la politique publique resteront efficaces. Il faudra alors privilégier des mesures comme la promotion de l'innovation, la protection de la vie privée et de la confidentialité des échanges avec les systèmes d'IA, et la prévention de l'usage malveillant des systèmes puissants, notamment en collaboration avec les autorités publiques.

Nous estimons que l'IA au niveau de capacité actuel correspond à cette première approche : elle devrait se diffuser largement, et la plupart des développeurs, modèles open source et déploiements technologiques actuels ne devraient pas être soumis à des contraintes supplémentaires par rapport au cadre actuel. Elle ne devrait en aucun cas faire face à une mosaïque réglementaire complexe et fragmentée.

L'autre courant envisage un scénario où la superintelligence se développe et se propage à une vitesse et d'une ampleur inédites pour l'humanité. Dans ce cas, il faudrait appliquer la plupart des principes précédents, tout en innovant davantage. Si l'on part du principe qu'une telle évolution sera difficile à absorber pour la société de manière « classique », il ne faut pas non plus s'attendre à ce que les cadres réglementaires traditionnels suffisent. Il faudra alors collaborer étroitement avec les pouvoirs exécutifs et les agences concernées dans plusieurs pays (comme les instituts de sécurité) pour coordonner les efforts, notamment en matière de prévention du bioterrorisme lié à l'IA et de gestion des risques liés à l'autoamélioration des systèmes.

La priorité absolue doit demeurer la responsabilité envers les institutions publiques, même si la manière d'y parvenir devra sans doute différer des approches passées.

Quel que soit le scénario, la création d'un écosystème de résilience pour l'IA sera essentielle. Lorsque l'Internet a émergé, il n'a pas été protégé par une seule politique ou entreprise : nous avons créé tout un domaine dédié à la cybersécurité (logiciels, protocoles de chiffrement, normes, systèmes de surveillance, équipes d'intervention d'urgence, etc.). Cet écosystème n'a pas supprimé le risque, mais l'a ramené à un niveau acceptable, permettant à la société de faire confiance aux infrastructures numériques et d'y fonder ses activités et son économie. Nous aurons besoin d'un dispositif analogue pour l'IA, et les gouvernements nationaux auront un rôle déterminant à jouer en soutenant des politiques industrielles qui favorisent cette approche.

Comprendre concrètement l'impact de l'IA sur le monde permettra de mieux orienter cette technologie vers des effets positifs. Les prévisions sont difficiles : par exemple, les effets de l'IA sur l'emploi restent complexes à anticiper, notamment parce que ses forces et ses faiblesses diffèrent profondément de celles des humains. Mesurer les effets concrets de l'IA sera sans doute une source d'enseignements précieuse.

Nous pensons que chaque adulte devrait pouvoir utiliser l'IA selon ses propres besoins, dans les limites fixées collectivement par la société. Nous anticipons que l'accès à l'IA avancée deviendra dans les prochaines années un service essentiel, au même titre que l'électricité, l'eau potable ou l'alimentation. En définitive, nous pensons que la société doit soutenir un accès large à ces outils, en gardant pour cap l'autonomisation des individus afin de leur permettre d'atteindre leurs objectifs.