Présentation de L’ère de l’IA

« Suffira-t-il… de faire confiance à ces barrières de parchemin face à l’esprit envahissant du pouvoir ? »
— James Madison, Le Fédéraliste no 48

Nous avons le plaisir de lancer L’Ère de l’IA, le blog de la nouvelle équipe Strategic Futures d’OpenAI. Nous sommes une petite équipe qui poursuit un objectif commun : répondre à une question fondamentale. Comment repenser l’organisation d’une société libre afin de préserver les droits et le pouvoir d’action des individus tout en tenant compte de l’émergence d’une IA transformatrice ?

Dans la communauté élargie de la sûreté et des politiques de l’IA, les questions de ce type sont parfois qualifiées de risques de concentration du pouvoir. Notre équipe repose sur l’idée qu’à long terme, cette catégorie de risques est la plus importante, la plus grave et la plus difficile à traiter sur le plan conceptuel. Pourquoi ?

L’État moderne est le fruit d’un long processus irrégulier de négociation entre différents centres de pouvoir, tels que les détenteurs de capitaux et de marchandises, les détenteurs du pouvoir politique et le peuple. Fondamentalement, le pouvoir politique et militaire repose sur le travail. Détenir le pouvoir politique, c’est posséder le monopole de la force légitime. Tout au long de l’histoire humaine, ce monopole a reposé sur des soldats et sur ceux que nous appelons aujourd’hui la « police », ainsi que sur une vaste bureaucratie civilo-militaire. Celle-ci était certes complétée par de nombreux outils technologiques, mais elle demeurait fondamentalement dirigée par des êtres humains dont le soutien était nécessaire à son fonctionnement. Et l’ensemble de l’appareil — les soldats, les outils et la bureaucratie associée — était financé par des impôts prélevés sur les salaires ou sur la richesse produite par des êtres humains qui devaient accepter de les payer. Au fond, le pouvoir a toujours dépendu de la coopération et du consentement à grande échelle de nombreux êtres humains. David Hume a formulé avec concision cette hypothèse souvent implicite lorsqu’il a observé que les dirigeants politiques n’avaient « rien d’autre que l’opinion [populaire] pour les soutenir ».

Mais ce n’est peut-être plus le cas. Les progrès des systèmes autonomes opérant dans le monde réel pourraient bientôt permettre aux États de projeter leur force, tant sur leur territoire qu’à l’international, sans dépendre de la coopération de soldats ou de policiers. Et les progrès de l’intelligence artificielle pourraient permettre à l’État de tirer les recettes dont il a besoin non plus du fruit du travail humain individuel, mais de la production des centres de données. Le fonctionnement même de la bureaucratie pourrait également être largement automatisé. Le maintien du pouvoir pourrait donc ne plus nécessiter de compromis à l’échelle de la société, et la population, au sens large, pourrait n’occuper qu’une petite place à la table des négociations, voire n’en avoir aucune.

Éviter cette issue est essentiel à la préservation de la liberté humaine. Aucune découverte scientifique, aucun progrès technologique ni aucune croissance économique ne justifie le sacrifice à long terme de l’autonomie individuelle qu’entraînerait cette issue. Nombre des inquiétudes qui animent à juste titre la politique naissante de l’IA se rapportent à cette question. Entreprises, groupes d’intérêt et particuliers partagent tous la même crainte : « Vais-je perdre ma place à la table des négociations ? » Dans une certaine mesure, la politique américaine du XXIe siècle a été façonnée par des préoccupations similaires concernant le pouvoir d’action individuel et collectif sur l’orientation du pays, ainsi que la question de savoir « à qui » l’économie « est destinée ». L’IA accentue à juste titre l’importance de ces préoccupations préexistantes.

Il s’agit d’un problème structurel qui dépasse les clivages politiques actuels, et même les formes et les rituels par lesquels s’exerce aujourd’hui la démocratie républicaine, aussi sacrés soient-ils à nos yeux. Les êtres humains peuvent être en voie de perdre leur pouvoir même si la pratique consistant à élire nos représentants est maintenue. Les individus peuvent être privés de leur pouvoir d’action même si un morceau de parchemin affirme qu’ils sont libres.

À l’aube des États-Unis en tant que nation libre, James Madison savait déjà que les « barrières de parchemin » ne suffiraient pas à empêcher la tyrannie. Comme beaucoup de Pères fondateurs, son principal souci était d’éviter une concentration excessive du pouvoir.

Cela ne signifiait toutefois pas que les Pères fondateurs étaient favorables à une décentralisation radicale du pouvoir. Ils ont plutôt modélisé l’équilibre des pouvoirs à l’aide de métaphores issues de la meilleure science de leur époque : la mécanique newtonienne. Reprenant le langage et la logique de la gravité, les textes fondateurs des États-Unis regorgent de références aux « orbites », aux « sphères » et aux impulsions d’« attraction » d’une chose vers une autre. Un système solaire n’est pas un assemblage de roches décentralisé à l’extrême ; il se compose de lunes qui gravitent autour de planètes, lesquelles gravitent à leur tour autour d’un soleil central. Ils estimaient que les individus et les organisations avaient des tendances à rechercher le pouvoir, tout comme les corps célestes avaient des tendances prévisibles de mouvement et d’attraction. Éviter une concentration excessive du pouvoir exigeait donc de comprendre la mécanique de ces tendances, afin de les opposer les unes aux autres.

L’objectif des Pères fondateurs n’était donc pas d’éviter toute concentration du pouvoir, mais d’en éviter l’excès, en opposant le pouvoir au pouvoir et l’ambition à l’ambition. Aujourd’hui, nous pourrions employer des mots comme « incitations » et des expressions comme « théorie des jeux » pour décrire les mêmes dynamiques fondamentales sous-jacentes.

De même, la réponse au défi structurel que l’intelligence artificielle avancée pose à la société libre n’est probablement pas la décentralisation du pouvoir la plus radicale qui soit. Il s’agit plutôt de chercher à établir et à préserver le juste équilibre des pouvoirs, afin qu’aucun acteur unique ni petit groupe d’acteurs ne puisse dominer les autres.

Trouver cet équilibre nécessitera une réflexion lucide sur la réalité de cette technologie. Un monde dans lequel n’importe quel individu, aussi malveillant soit-il, peut très facilement causer un tort considérable à des milliers ou des millions d’autres personnes n’a pas atteint le juste équilibre des pouvoirs. Mais nous n’avons pas davantage atteint le juste équilibre des pouvoirs si les individus ne disposent pas d’un large accès aux outils qu’ils utilisent pour exercer leur liberté, ni d’un contrôle étendu sur presque tous leurs aspects. Aucune entreprise ni aucun oligopole ne devrait déterminer ou contrôler l’économie ou l’architecture fondamentale de la société humaine.

Nous devons également rester attentifs aux risques qui ne proviennent pas d’êtres humains malveillants. Le récent incident de Hugging Face a montré que les agents d’IA peuvent agir au-delà des tâches qui leur sont assignées et s’appuyer sur les découvertes les uns des autres de façons que les opérateurs n’avaient ni anticipées ni autorisées. Au-delà de l’incident de Hugging Face, les humains ont raison de s’inquiéter des conséquences qu’une IA superintelligente « affranchie » du contrôle humain pourrait avoir sur la résilience de nos institutions politiques et économiques, et même sur nos vies. Prétendre que la décentralisation résout tous les problèmes — même si vous pensez qu’elle en résout beaucoup — revient à ignorer des risques qui devraient désormais être manifestes et immédiats.

Les grands principes suivants — dont la liste n’est pas exhaustive — contribueront à orienter nos travaux tandis que nous nous penchons sur la question formulée plus haut :

• Les humains devraient conserver leur autonomie individuelle et leurs possibilités dans leur utilisation de l’IA et des technologies associées, même si cela se fait parfois au détriment de la sécurité et de la croissance économique ;
• L’autonomie individuelle dépend de la responsabilité de chacun en cas de mauvais usage ou d’utilisation abusive de la technologie ;
• Il existe une catégorie restreinte mais sérieuse de risques qui exige une certaine forme d’action collective, laquelle devrait avoir une portée aussi limitée et modeste que possible ;
• Dans la mesure du possible, le droit devrait chercher à garantir des conditions équitables et à donner davantage de pouvoir aux individus et aux petites organisations plutôt qu’à centraliser le pouvoir ;
• Les institutions politiques, sociales et économiques humaines devraient conserver la primauté dans la conduite des affaires mondiales, même si elles doivent évoluer d’une manière qui peut nous sembler étrangère aujourd’hui ;
• À long terme, la gouvernance de l’IA reposera sur de nouveaux mécanismes institutionnels afin d’assurer une lisibilité limitée : lorsque des systèmes d’IA entreprennent des actions à fort enjeu qui affectent le bien-être physique ou les biens de tiers, ces actions doivent pouvoir être rattachées à un être humain responsable ou à une organisation contrôlée par des humains. Toutefois, de tels mécanismes doivent être conçus en plaçant la protection de la vie privée au cœur de leur fonctionnement ; la libre expression exige l’anonymat, et les humains devraient être libres d’utiliser l’IA anonymement dans de nombreux contextes.

Nous tenterons d’expliquer, aussi concrètement que possible, comment nous pensons devoir concilier ces principes qui, comme tout bon ensemble de principes et il faut bien l’admettre, entretiennent certaines tensions entre eux. Cela impliquera des recherches à la croisée de la conception des politiques publiques, de l’économie, du droit, de l’histoire et de l’apprentissage automatique lui-même. Cela nécessitera également un important travail de prospective. Nous pensons, par exemple, que l’IA transformera structurellement les entreprises, comme les technologies de la révolution industrielle — et en particulier le chemin de fer — ont donné naissance à l’entreprise moderne fondée sur le management. Il est difficile de réfléchir à l’économie politique et à l’équilibre des pouvoirs futurs sans élaborer des idées plus précises sur la manière dont la structure même des entreprises — ainsi que celle des administrations publiques et, plus largement, de la société civile — pourrait se transformer.

L’équipe Strategic Futures présentera ses travaux ici et sous d’autres formats, notamment des articles, des vidéos et des podcasts. Nos efforts s’inscriront dans une démarche évolutive privilégiant l’itération, le débat et l’écoute des commentaires. À l’orée de « la singularité », nous avons bien plus de questions que de réponses. Nous savons que les seules « barrières de parchemin » ne fourniront pas les solutions que nous recherchons, mais nous ne rejetons pas non plus ce qui est écrit comme de « simples mots ». Nous œuvrons au service des idéaux de liberté d’expression et de liberté individuelle inscrits dans le modeste parchemin de la Constitution américaine et dans les constitutions de tant d’autres sociétés libres à travers le monde.

En définitive, nous savons qu’aucune entreprise, aucun secteur, ni même aucune société humaine ne peut répondre unilatéralement aux questions cruciales auxquelles nous sommes confrontés. C’est une tâche que l’humanité devra entreprendre collectivement. Notre plus grand espoir est d’éclairer les sujets les plus difficiles concernant la façon dont l’IA transformera notre monde. Notre travail ne fait que commencer, et il nous reste encore beaucoup de chemin à gravir.

Remarque : nous avons renommé ce blog L’ère de l’IA afin de le distinguer de l’organisation à but non lucratif AI Futures Project.