Présentation de L’ère de l’intelligence

« Les barrières de parchemin suffiront-elles… à nous protéger contre l’esprit envahissant du pouvoir? »
— James Madison, Federalist no 48

Nous avons le plaisir de lancer L’ère de l’intelligence, le blogue de la nouvelle équipe de prospective stratégique d’OpenAI. Nous sommes une petite équipe qui poursuit un objectif commun : répondre à une grande question. Comment restructurer la société libre pour préserver les droits et le pouvoir d’agir des individus tout en nous adaptant à l’émergence d’une IA transformatrice?

Dans la communauté élargie de la sécurité et des politiques de l’IA, les questions de ce genre sont parfois qualifiées de risques de concentration du pouvoir. Notre équipe repose sur l’idée qu’à long terme, cette catégorie de risque est la plus importante, la plus grave et la plus difficile à traiter sur le plan conceptuel. Pourquoi?

L’État moderne est le fruit d’un long processus inégal de négociation entre différents centres de pouvoir, comme les détenteurs de capitaux et de marchandises, les détenteurs du pouvoir politique et la population. Fondamentalement, le pouvoir politique et militaire repose sur le travail. Détenir le pouvoir politique, c’est posséder le monopole de la force légitime. Tout au long de l’histoire humaine, ce monopole a reposé sur des soldats et sur ceux que nous appelons aujourd’hui la « police », ainsi que sur une vaste bureaucratie civile et militaire. Celle-ci était certes appuyée par de nombreux outils technologiques, mais demeurait fondamentalement dirigée par des êtres humains dont le soutien était nécessaire au maintien des activités. Et tout l’appareil — les soldats, les outils et la bureaucratie connexe — était financé par des impôts prélevés sur les salaires ou la production d’êtres humains qui devaient consentir à les payer. À la base, le pouvoir dépendait de la coopération et du consentement à grande échelle de nombreux êtres humains. David Hume a exprimé succinctement cette hypothèse souvent implicite lorsqu’il a observé que les dirigeants politiques n’ont « rien d’autre que l’opinion [populaire] pour les soutenir ».

Mais ce n’est peut-être plus le cas. Les progrès des systèmes autonomes dans le monde réel pourraient bientôt permettre aux États de projeter leur force, au pays comme à l’étranger, sans dépendre de soldats ou de policiers coopératifs. Et les progrès de l’intelligence artificielle pourraient permettre à l’État de tirer les revenus dont il a besoin non plus du fruit du travail humain individuel, mais de la production des centres de données. Le fonctionnement même de la bureaucratie pourrait aussi être largement automatisé. Le maintien du pouvoir pourrait donc ne plus nécessiter de compromis à l’échelle de la société, et la population, au sens large, pourrait n’avoir qu’une petite place à la table des négociations, voire aucune.

Éviter ce résultat est essentiel à la préservation de la liberté humaine. Aucune découverte scientifique, aucun progrès technologique ni aucune croissance économique ne justifie de sacrifier l’autonomie individuelle à long terme, comme l’exigerait ce résultat. Bon nombre des inquiétudes qui animent à juste titre la politique naissante de l’IA concernent cette question. Entreprises, groupes d’intérêt et particuliers partagent tous la même crainte : « Vais-je perdre ma place à la table? »Dans une certaine mesure, la politique américaine du XXIe siècle a été façonnée par des préoccupations semblables concernant le pouvoir d’agir individuel et collectif sur l’orientation du pays et la question de savoir « à qui » l’économie « profite ». L’IA rend ces préoccupations préexistantes plus manifestes, et à juste titre.

Il s’agit d’un problème structurel qui va au-delà de la politique partisane actuelle, et même des formes et des rituels par lesquels s’exerce aujourd’hui la démocratie républicaine, aussi sacrés soient-ils à nos yeux. Les humains peuvent être en voie de perdre leur pouvoir même si la pratique courante consistant à élire nos représentants est maintenue. Les gens peuvent être privés de leur pouvoir d’agir même si un morceau de parchemin affirme qu’ils sont libres.

À l’aube des États-Unis en tant que nation libre, James Madison savait déjà que les « barrières de parchemin » ne suffiraient pas à prévenir la tyrannie. Comme beaucoup de Pères fondateurs, sa principale préoccupation était d’éviter une concentration excessive du pouvoir.

Cela ne signifiait toutefois pas que les Pères fondateurs étaient favorables à une décentralisation radicale du pouvoir. Ils ont plutôt modélisé l’équilibre des pouvoirs à l’aide de métaphores tirées de la meilleure science de leur époque : la mécanique newtonienne. Reprenant le langage et la logique de la gravité, les documents fondateurs des États-Unis regorgent de références aux « orbites », aux « sphères » et aux forces d’« attraction » d’une chose envers une autre. Un système solaire n’est pas un assemblage de roches décentralisé au maximum; il se compose de lunes qui gravitent autour de planètes, lesquelles gravitent à leur tour autour d’un soleil central. Ils croyaient que les personnes et les organisations avaient des tendances à rechercher le pouvoir, tout comme les corps célestes avaient des tendances prévisibles de mouvement et d’attraction. Ils croyaient aussi que, pour éviter une concentration excessive du pouvoir, il fallait comprendre la mécanique de ces tendances afin de les opposer les unes aux autres.

L’objectif des Pères fondateurs n’était donc pas d’éviter toute concentration du pouvoir, mais d’en prévenir l’excès en opposant le pouvoir au pouvoir et l’ambition à l’ambition. Aujourd’hui, nous pourrions employer des mots comme « incitatifs » et des expressions comme « théorie des jeux » pour décrire les mêmes dynamiques fondamentales sous-jacentes.

De même, la réponse au défi structurel que pose l’intelligence artificielle avancée à la société libre ne réside probablement pas dans la décentralisation du pouvoir la plus radicale qui soit. Il s’agit plutôt d’établir et de préserver le juste équilibre des pouvoirs, afin qu’aucun acteur ni petit groupe d’acteurs ne puisse dominer les autres.

Pour atteindre cet équilibre, il faudra réfléchir avec lucidité à la réalité de cette technologie. Un monde où n’importe quel individu, aussi malveillant soit-il, peut aisément causer un tort considérable à des milliers ou à des millions d’autres personnes n’a pas atteint le juste équilibre des pouvoirs. Mais nous n’avons pas non plus atteint le juste équilibre des pouvoirs si les individus ne disposent pas d’un vaste accès aux outils qu’ils utilisent pour exprimer leur liberté et d’un contrôle sur presque tous leurs aspects. Aucune entreprise ni aucun oligopole ne devrait déterminer ou contrôler l’économie ou l’architecture fondamentale de la société humaine.

Nous devons aussi rester ouverts aux risques qui ne proviennent pas d’humains malveillants. Le récent incident de Hugging Face a montré que les agents d’IA peuvent agir au-delà des tâches qui leur sont confiées et s’appuyer sur les découvertes les uns des autres d’une manière que les opérateurs n’avaient ni prévue ni autorisée. Au-delà de l’incident de Hugging Face, les humains ont raison de s’inquiéter des conséquences qu’une IA superintelligente « détachée » du contrôle humain pourrait avoir sur la résilience de nos institutions politiques et économiques, et même sur nos vies. Prétendre que la décentralisation résout tous les problèmes — même si vous croyez qu’elle en résout beaucoup — revient à ignorer des risques qui devraient maintenant être manifestes et présents.

Les grands principes suivants — dont la liste n’est pas exhaustive — guideront notre travail tandis que nous nous penchons sur la question énoncée ci-dessus :

• Les humains devraient conserver leur autonomie individuelle et leurs possibilités dans leur utilisation de l’IA et des technologies connexes, même si cela exige parfois des compromis sur le plan de la sécurité et de la croissance économique;
• L’autonomie individuelle dépend de la responsabilité individuelle en cas de mauvaise utilisation ou d’abus de la technologie;
• Il existe une catégorie restreinte, mais sérieuse, de risques qui exige une certaine action collective, laquelle devrait avoir une portée aussi limitée et modeste que possible;
• Dans la mesure du possible, le droit devrait chercher à uniformiser les règles du jeu et à donner plus de pouvoir aux individus et aux petites organisations plutôt qu’à centraliser le pouvoir;
• Les institutions politiques, sociales et économiques humaines devraient conserver la primauté dans la conduite des affaires mondiales, même si elles doivent évoluer d’une manière qui peut nous sembler étrangère aujourd’hui;
• À long terme, la gouvernance de l’IA reposera sur de nouveaux mécanismes institutionnels pour assurer une lisibilité circonscrite : lorsque les systèmes d’IA entreprennent des actions à grands enjeux touchant le bien-être physique ou les biens de tiers, ces actions doivent pouvoir être reliées à un humain responsable ou à une organisation contrôlée par des humains. Tout mécanisme de ce type doit cependant être conçu en plaçant la protection de la vie privée au cœur de sa conception; la libre expression exige l’anonymat, et les humains devraient pouvoir utiliser l’IA anonymement dans de nombreux contextes.

Nous tenterons d’expliquer, aussi concrètement que possible, comment nous croyons devoir équilibrer ces principes qui, comme tout bon ensemble de principes, sont certes quelque peu en tension les uns avec les autres. Pour ce faire, il faudra mener des recherches au croisement de la conception des politiques publiques, de l’économie, du droit, de l’histoire et de l’apprentissage automatique lui-même. Il faudra également beaucoup de prévisions. Nous croyons, par exemple, que l’IA transformera la structure des entreprises, tout comme les technologies de la révolution industrielle — et en particulier le chemin de fer — ont donné naissance à l’entreprise moderne administrée par des gestionnaires. Il est difficile de réfléchir à l’économie politique et à l’équilibre des pouvoirs de l’avenir sans élaborer des idées plus étoffées sur la façon précise dont la structure même des entreprises — ainsi que des organismes gouvernementaux et de la société civile en général — pourrait se transformer.

L’équipe de prospective stratégique présentera ses travaux ici et sous d’autres formes, notamment des articles, des vidéos et des balados. Nos efforts constitueront un travail en cours, axé sur l’itération, le débat et l’ouverture aux commentaires. Au pied « des contreforts de la singularité », nous avons beaucoup plus de questions que de réponses. Nous savons que les « barrières de parchemin » ne suffiront pas à fournir les solutions que nous cherchons, mais nous ne rejetons pas non plus ce qui est écrit comme de « simples mots ». Nous œuvrons au service des idéaux de libre expression et de liberté individuelle consacrés dans l’humble parchemin de la Constitution des États-Unis et dans les constitutions de tant d’autres sociétés libres partout dans le monde.

En définitive, nous savons qu’aucune entreprise, aucune industrie ni même aucune société humaine ne peut répondre unilatéralement aux questions fondamentales auxquelles nous faisons face. C’est une tâche que l’humanité devra entreprendre collectivement. Notre plus grand espoir est de faire la lumière sur les sujets les plus difficiles concernant la façon dont l’IA transformera notre monde. Notre travail ne fait que commencer, et il nous reste encore beaucoup de chemin à gravir.

Remarque : nous avons renommé ce blogue L’ère de l’intelligence afin de le distinguer de l’organisme sans but lucratif AI Futures Project.