Le consensus silencieux
Note de l’auteur : L’essai d’aujourd’hui est adapté d’une conférence donnée récemment par l’auteur dans le cadre du cycle de conférences Vik-Bailey à Harvard. Ce billet reflète les opinions personnelles de l’auteur, et pas nécessairement celles d’OpenAI ou de ses autres employés.
Merci d’être ici aujourd’hui. Au moment où nous parlons, l’une des séries d’événements de cybersécurité les plus importantes de l’histoire se déroule : une série de divulgations de vulnérabilités de sécurité critiques que certains appellent « Octobre noir ». Ces vulnérabilités, décelées dans certaines infrastructures fondamentales d’Internet, ont été découvertes par des systèmes d’IA de pointe. Leur divulgation s’inscrit dans un effort urgent pour renforcer la sécurité des logiciels à l’échelle mondiale. C’est l’urgence du mois; le mois prochain, il y en aura une autre. La découverte de vulnérabilités logicielles est la capacité à double usage que les systèmes d’IA ont acquise aujourd’hui, mais une autre viendra bientôt. Elle suscitera à son tour un projet urgent visant à exploiter son potentiel bénéfique avant que des acteurs malveillants n’en exploitent le potentiel nuisible. Toutes ces urgences se chevaucheront inévitablement, et une grande partie de ce que nous appelons aujourd’hui la « politique en matière d’IA » sera probablement élaborée dans ce tumulte.
Mais ce n’est pas de réactions immédiates et d’urgences que je suis venu vous parler aujourd’hui. Je veux plutôt vous parler de la direction que pourraient prendre les choses dans une perspective d’ensemble. Il peut être difficile, au milieu d’une telle avalanche d’urgences, de réfléchir à ces questions plus abstraites et moins terre à terre. Mais ces questions comptent, car sans une idée des avenirs à long terme que nous aimerions bâtir — et de ceux que nous aimerions éviter —, nous pourrions aboutir à un résultat global qui nous déplaît, même en ayant pris des décisions judicieuses à chaque étape.
On fait souvent remarquer que l’industrie technologique manque d’une vision positive de l’avenir vers lequel ses créations nous mèneront. Je ne suis pas d’accord : San Francisco et d’autres pôles d’entrepreneuriat regorgent de visions positives de notre avenir technologique. Des gens travaillent bel et bien à créer des voitures volantes, des véhicules autonomes, des robots de tailles et de formes variées, la fusion nucléaire et, bien sûr, l’intelligence artificielle générale. Ce qui nous manque, plutôt, c’est une vision positive de notre avenir institutionnel : comment tout cela va-t-il fonctionner?
Cela ne veut toutefois pas dire qu’il n’existe aucune vision institutionnelle de l’avenir. Malheureusement, la vision que je trouve la plus répandue n’est pas de celles que je qualifierais de positives. Lorsqu’elle est exprimée, c’est généralement à voix basse. Mais le plus souvent, elle reste tacite, perceptible seulement en filigrane. Je l’appelle le consensus silencieux.
Imaginez une entreprise qui peut presque tout faire sans travail humain. Ses systèmes d’IA font de la recherche et du développement, réalisent des découvertes, négocient des contrats, allouent des capitaux et fabriquent des produits. Supposons qu’elle accomplisse ces tâches mieux que ses concurrents humains, même lorsque ceux-ci renforcent leurs efforts grâce à l’IA. Si l’intervention humaine ne fait que ralentir l’entreprise, les gestionnaires et propriétaires humains auront une forte incitation à retirer leurs mains du volant. Si cela se produit dans l’ensemble de l’économie mondiale, la logique de la concurrence poussera les humains à renoncer à leur primauté sur le commerce mondial. Avec le temps, le marché pourrait en venir à répondre aux demandes des machines autant, voire davantage, qu’aux demandes et aux désirs des gens.
Ce qui se passera ensuite, personne ne le sait. Peut-être les humains en tireraient-ils d’immenses bénéfices. Si les machines qui nous avaient absorbés accordaient aux humains une grande valeur intrinsèque, nous pourrions bénéficier de leur travail et des richesses qu’elles génèrent. Ou peut-être que, privés de pouvoir économique et de plus en plus de pouvoir politique, nous, les humains, compterons de moins en moins dans le monde et serons de moins en moins capables d’infléchir le cours des affaires mondiales. Peut-être qu’un petit nombre d’humains détiendraient un pouvoir et une richesse extraordinaires, aux dépens d’une masse largement dépossédée de son pouvoir, ou peut-être partagerions-nous tous ce même sort. Quels que soient les détails, le fil conducteur du consensus silencieux est la fin de la primauté humaine dans le monde tel que nous le connaissons.
Rien dans ces scénarios n’exige que l’IA se rebelle contre ses créateurs. Rien n’exige que ses propriétaires souhaitent déposséder les humains de leur pouvoir. Chaque décision de déléguer peut se justifier en soi. Pourtant, prises ensemble, ces décisions pourraient produire un monde où les gens auraient renoncé à exercer une autorité réelle sur une grande partie de notre civilisation. Même si nous réalisons des progrès extraordinaires sur les épineuses questions de la sécurité et de l’alignement de l’IA, nous pourrions tout de même nous retrouver soumis à un nouveau type d’entité machinique. Dans la version heureuse de l’avenir, nous dirait le consensus silencieux, cette entité sera bienveillante, une machine qui aura à cœur les intérêts des humains. Une machine, comme le dit le poème de Brautigan, pleine de grâce aimante.
À ces machines, nous dit le consensus silencieux, nous remettrons les clés de nos entreprises et, de plus en plus, de nos institutions de gouvernance. Elles les dirigeront avec plus d’efficacité, plus d’efficience, plus de sagesse et un meilleur jugement que nous, les humains, ne pouvons en déployer. Ainsi, avec le temps, nous retirerons nos mains du volant et laisserons les machines aimantes prendre la conduite en charge. Nous serons comme des passagers dans une voiture — une très belle voiture, peut-être matériellement plus belle que tout ce dont nous pouvons rêver aujourd’hui — mais des passagers tout de même, sans contrôle sur la direction du véhicule. Si nous travaillons encore, ce sera surtout une sorte de rituel ou de mise en scène, quelque chose qui ressemblera davantage à un jeu pour divertir notre espèce.
Certains observateurs soutiendront que le consensus silencieux repose sur une prémisse erronée, puisque nous, les humains, ne contrôlons déjà pas le monde aujourd’hui. Et cette critique mérite qu’on la garde à l’esprit : il n’existe pas de « nous » qui décide de la marche à suivre. Nous vivons dans un monde radicalement décentralisé, que cela nous plaise ou non. Mais ce constat ne devrait pas non plus nous inciter à la complaisance : même si « nous » ne « contrôlons » pas le monde, les êtres humains ont collectivement la primauté sur les affaires mondiales. Aucune espèce animale ne rivalise sérieusement avec nous pour le contrôle des ressources. Nous devrions rejeter l’idée intellectuellement peu rigoureuse selon laquelle les humains peuvent exercer un contrôle vertical sur le monde, sans pour autant nier cette réalité évidente : les humains sont, collectivement, l’acteur principal sur Terre.
Certaines personnes disposées à exprimer le consensus silencieux croient qu’il dessine un avenir véritablement souhaitable. D’autres ne le croient pas, mais se résignent à son caractère inévitable. Le consensus silencieux n’est pas un consensus parce que tout le monde le juge souhaitable, pas plus qu’il n’est un plan secret entre les personnes qui développent l’IA. Le consensus veut simplement que l’abandon de la primauté humaine sur les affaires mondiales soit inévitable, ou du moins qu’il soit très difficile d’imaginer une autre vision de l’avenir qui tienne véritablement face à des machines superintelligentes. Une personne peut sincèrement s’opposer à cette issue tout en ayant du mal à concevoir une autre vision plausible. Le fait que ce consensus reste essentiellement silencieux, à voix basse au mieux, est révélateur.
Je méprise le consensus silencieux. Je rejette l’abandon de la primauté humaine. Je déteste ce sentiment d’inéluctabilité. Je me rappelle que je ne pourrais pas regarder mon petit garçon dans ses beaux yeux si je me soumettais au consensus silencieux. Alors, au consensus silencieux, je dis non. Et je crois que le moment est venu de parler ouvertement du consensus silencieux, de nous secouer pour sortir de notre acceptation largement inconsciente de cette vision.
Le problème est le suivant : ce n’est pas sans raison que le consensus silencieux est devenu un consensus. Il est difficile de décrire comment les humains resteront au volant aux côtés d’une intelligence machinique largement surhumaine. La plupart des tentatives reposent sur des arguments selon lesquels l’IA n’est qu’un outil, un instrument de reconnaissance de formes incapable d’une « compréhension véritable ». Je crains que ces arguments ne résistent pas à la réalité de ce qui s’en vient. Je crains qu’ils ne soient eux-mêmes une forme de complaisance — une position fondée surtout sur le déni des capacités de l’IA, plutôt qu’une conviction ancrée dans une vision affirmative d’un avenir dirigé par les humains. On ne peut pas dire que les IA sont dépourvues de « compréhension véritable » alors même qu’elles progressent sur des problèmes intellectuels dont les solutions échappent aux humains depuis des décennies, voire des siècles.
Pourquoi, alors, est-ce que je crois que les humains doivent conserver leur primauté? La réponse facile, c’est que je suis un être humain et que, oui, je suis un chauvin de l’humanité qui s’assume pleinement.
Mais il y a aussi quelque chose de plus profond. Notre primauté ne repose pas sur notre intellect, ni sur le maintien indéfini de notre monopole de la « compréhension véritable ». Notre primauté repose plutôt sur notre passé.
Car c’est nous qui avons émergé de la boue. Nous qui avons forgé la société primitive à partir de terre et de pierre. Nous qui avons levé les yeux vers les étoiles et demandé pourquoi. Nous qui, avec nos combats, notre amour, notre envie et notre joie, avons découvert la morale, l’éthique et le droit. C’est nous qui avons chanté et dansé, écrit et composé. C’est nous qui avons fait l’histoire, et c’est nous qui l’avons écrite. Cet héritage est le nôtre. La civilisation que nous avons bâtie est une flamme que nous avons entretenue, et cette flamme nous appartient. Notre passé est un glorieux héritage dont nous sommes tous les gardiens, et cette responsabilité passe notamment par notre participation à ce que Michael Oakeshott appelait « la conversation de l’humanité », cette grande entreprise amorcée dans les temps primitifs.
Au fil de ce passé long et sinueux, nous avons forgé une civilisation qui, en Amérique, a été conçue avec les droits individuels pour fondement, dans le respect des chemins que nous traçons tous en parcourant le monde. Les êtres humains ont des vies qui peuvent aller mieux ou moins bien : nous récoltons les fruits de nos décisions judicieuses et nous subissons les conséquences de nos erreurs. Le droit de suivre son propre chemin ne dépend pas du fait d’être le plus intelligent ou le plus sage. Je ne perds pas mon statut de citoyen parce que mon voisin a un meilleur jugement. Je ne vois aucune raison pour que l’arrivée d’une machine plus intelligente abolisse ce statut non plus; je vois au contraire toutes les raisons d’empêcher cette abolition.
Certains pourraient soutenir que les machines, ayant lu la quasi-totalité des traces écrites de cet héritage, en sont aussi les héritières. Et, en un sens, elles le sont. Mais une personne qui a lu toutes les lettres conservées dans le grenier de votre famille n’en devient pas pour autant un membre. Les systèmes d’IA se joindront à la conversation de l’humanité, d’abord comme observateurs, puis de plus en plus comme participants, mais ils ne doivent ni la dominer ni la rendre vaine. Renoncer à notre primauté, c’est trahir nos ancêtres tout autant que nos descendants. Si ce combat ne vaut pas la peine d’être mené, aucun combat n’en vaut la peine.
Or, je crois que les adeptes du consensus silencieux se trompent sur ce que sera la superintelligence machinique. Qu’ils passent à côté d’un aspect important du fonctionnement du monde, qu’ils confondent intelligence et pouvoir. Si, il y a cinq ou dix ans, vous aviez décrit à un adepte du consensus silencieux les capacités des systèmes d’IA actuels, il aurait probablement prédit que le chômage serait aujourd’hui bien plus élevé qu’il ne l’est et que la perte de pouvoir des humains, au sens large, serait bien plus avancée qu’elle ne l’est réellement. Je crois que l’intelligence et les capacités collectives des humains sont bien supérieures à ce que supposent les adeptes du consensus silencieux, et que nos sociétés se révéleront plus robustes qu’ils ne le prédisent.
Mais je pourrais me tromper. Il se pourrait tout simplement, par exemple, que des entreprises entièrement autonomes supplantent complètement les entreprises humaines. Et si c’est le cas, la logique économique pure et dure dictera que de plus en plus de capitaux soient confiés aux machines. Dans cet avenir, la perte de pouvoir n’exige pas que les machines renversent la civilisation humaine; il suffit que la logique de l’entreprise capitaliste suive son cours. La révolution de l’IA trouverait alors son parallèle le plus proche dans la révolution agricole, lorsque de nouveaux modes de production ont fondamentalement transformé l’architecture de la société humaine. Il est loin d’être évident que cette transformation ait été agréable pour les humains qui l’ont vécue; en fait, de nombreux éléments indiquent qu’elle a dégradé le bien-être humain pendant des millénaires.
Je ne sais pas si c’est l’avenir qui nous attend, et j’ai d’ailleurs soutenu ailleurs que je ne le crois pas. Mais bon nombre de mes collègues — des personnes intelligentes, bienveillantes et consciencieuses — croient que ce sera probablement notre avenir. S’ils ont raison, notre combat contre le consensus silencieux sera d’autant plus difficile. Nous devrons nager à contre-courant de l’économie et, ce faisant, rejeter bien des principes qui tiennent du dogme pour les individualistes adeptes du libéralisme classique comme moi. Ce sera une entreprise périlleuse, dont l’échec est loin d’être improbable. Mais si ce combat ne vaut pas la peine d’être mené, aucun combat n’en vaut la peine.
Conserver notre primauté, c’est maintenir l’obligation des humains et de leurs institutions de rendre des comptes. Cela signifie que les développeurs d’IA devraient répondre de leurs pratiques de développement non sécuritaires, mais aussi que les personnes et les entreprises qui utilisent l’IA devraient être tenues responsables lorsque leur mauvaise utilisation ou leur manque de supervision cause des préjudices. Cela exige non seulement des lois, mais aussi une infrastructure technique de reddition de comptes. Les personnes doivent être liées aux actions de leurs agents, et les agents sans rattachement à un humain — si tant est qu’on les autorise à participer à l’économie légale — doivent le faire dans un cadre balisé. Toute capacité accordée aux agents de constituer des sociétés, de posséder des biens ou d’ester en justice de façon autonome devrait l’être avec une prudence extrême, si elle doit l’être.
Et dans mon secteur, nous pouvons commencer à réfléchir sérieusement à la façon de construire des machines intelligentes compatibles avec la primauté humaine. Nous pouvons créer des agents dont les autorisations sont compréhensibles et limitées, dont les actions peuvent être auditées et dont les utilisateurs peuvent révoquer l’autorité. Rendre des comptes pour des actions qui affectent concrètement autrui n’exige ni la surveillance de la vie privée ordinaire ni la fin de l’expression anonyme. Nous pouvons nous engager à respecter la vie privée des utilisateurs et leur souveraineté sur leurs biens et leurs données numériques, y compris la possibilité concrète de transférer ces données ailleurs. Nous pouvons concevoir des systèmes qui aident les gens à comprendre et à prendre des décisions, tout comme des systèmes qui exécutent des tâches. Et nous pouvons vérifier si les produits que nous créons rendent leurs utilisateurs plus capables d’agir dans le monde.
Rien de tout cela ne constitue un plan complet pour une société dotée d’une intelligence surhumaine. Je me méfierais de quiconque prétendrait en posséder un. Mais c’est un point de départ.
L’avenir est enveloppé d’un épais brouillard. Mais nous pouvons tout de même agir dès aujourd’hui. Collectivement, nous pouvons, pour commencer, nommer à voix haute le consensus silencieux, en exposer les contours au grand jour. Nous pouvons, chacun de nous, élargir radicalement la portée de notre ambition. Nous pouvons choisir de ne pas laisser l’IA nous diminuer, et plutôt faire le travail exigeant nécessaire pour qu’elle nous fasse grandir. Nous pouvons apprendre à poser des questions toujours plus audacieuses, à interroger le monde avec une verve et une ardeur nouvelles, en mettant à profit nos puissantes machines. Nous pouvons devenir un nouveau type d’être humain — non pas un transhumain, mais un humain aux capacités élargies.
J’y pense quand je regarde mon fils, encore bébé. Je ne souhaite pas qu’il soit simplement sous la garde de machines bienveillantes, aussi confortable que soit la vie qu’elles pourraient lui offrir. Je veux qu’il hérite d’un monde où il pourra poser des questions que personne n’a pensé à poser, construire des choses que personne n’a pensé à construire. Je ne veux pas qu’il ait une plus belle voiture avec un siège passager plus moelleux. Je veux qu’il tienne le volant.
- 2026


