OpenAI

18 novembre 2026

L’ère de l’IA

Le consensus silencieux

Par Dean Ball

Note de l’auteur : Le présent essai est adapté d’une conférence donnée récemment par l’auteur dans le cadre du cycle de conférences Vik-Bailey à Harvard. Ce billet reflète les opinions personnelles de l’auteur, et pas nécessairement celles d’OpenAI ou de ses autres employés.



Merci d’être ici aujourd’hui. À l’heure où nous parlons, l’une des séries d’événements les plus importantes de l’histoire de la cybersécurité se déroule : une vague de divulgations de failles de sécurité critiques que certains appellent « Octobre noir ». Ces failles, présentes dans certaines infrastructures fondamentales d’Internet, ont été découvertes par des systèmes d’IA de pointe, et leur divulgation s’inscrit dans un effort urgent pour renforcer la sécurité des logiciels à travers le monde. C’est l’urgence de ce mois-ci ; le mois prochain, il y en aura une autre. La découverte de failles logicielles est la capacité à double usage que les systèmes d’IA ont acquise aujourd’hui. Mais une autre suivra bientôt, suscitant à son tour un projet urgent pour en exploiter le versant bénéfique avant que des acteurs malveillants n’en exploitent le versant néfaste. Toutes ces urgences se superposeront inévitablement, et une grande partie de ce que nous appelons aujourd’hui la « politique de l’IA » sera probablement élaborée dans ce tumulte.

Mais ce n’est pas de ces réactions à l’urgence que je suis venu vous parler aujourd’hui. Je veux plutôt vous parler de la direction que pourraient prendre les choses dans leur ensemble. Au milieu d’un tel déluge d’urgences, il peut être difficile de réfléchir à ces questions plus abstraites et plus éthérées. Mais ces questions comptent, car sans une idée des avenirs à long terme que nous souhaitons atteindre — et de ceux que nous voulons éviter —, nous pourrions aboutir à un résultat global indésirable, même en prenant des décisions judicieuses à chaque étape.

On fait souvent remarquer que le secteur technologique manque d’une vision positive de la destination vers laquelle ses créations nous conduiront. Je ne suis pas d’accord : San Francisco et les autres pôles d’entrepreneuriat regorgent de visions positives de notre avenir technologique. Des personnes travaillent bel et bien à créer des voitures volantes, des véhicules autonomes, des robots de toutes tailles et de toutes formes, à développer la fusion nucléaire et, bien sûr, l’intelligence artificielle générale. Ce qui nous manque, en revanche, c’est une vision positive de notre avenir institutionnel : comment tout cela va-t-il fonctionner ?

Cela ne signifie pas pour autant qu’il n’existe aucune vision institutionnelle de l’avenir. Malheureusement, la vision que je rencontre le plus souvent n’est pas de celles que je qualifierais de positives. Lorsqu’elle est exprimée, c’est généralement à voix basse. Mais le plus souvent, elle reste tacite et ne se laisse deviner qu’en creux. Je l’appelle le consensus silencieux.

Imaginez une entreprise capable de presque tout faire sans travail humain. Ses systèmes d’IA assurent la recherche et le développement, font des découvertes, négocient des contrats, allouent des capitaux et fabriquent des produits. Supposons qu’elle accomplisse ces tâches mieux que ses concurrents humains, même lorsque ceux-ci renforcent leurs efforts grâce à l’IA. Si l’intervention humaine ne fait que ralentir l’activité, les dirigeants et propriétaires humains seront fortement incités à lâcher le volant. Si ce phénomène se généralise à l’ensemble de l’économie mondiale, la logique de la concurrence poussera les humains à renoncer à leur primauté sur le commerce mondial. Avec le temps, le marché pourrait en venir à satisfaire les demandes des machines autant, voire davantage, que les demandes et les désirs des personnes.

Nul ne sait ce qui se passera ensuite. Peut-être les humains en tireraient-ils d’immenses bénéfices. Si les machines qui nous avaient absorbés accordaient une grande valeur intrinsèque aux humains, nous pourrions bénéficier de leur travail et des richesses qu’elles produisent. Ou peut-être que, privés de pouvoir économique et, de plus en plus, de pouvoir politique, nous autres humains pèserons de moins en moins dans le monde, de moins en moins capables d’influer sur le cours des affaires mondiales. Peut-être qu’un petit nombre d’humains détiendraient un pouvoir et des richesses extraordinaires, au détriment d’une masse largement privée de pouvoir, ou peut-être connaîtrions-nous tous le même sort de dépossession. Quels qu’en soient les détails, le fil conducteur du consensus silencieux est la fin de la primauté humaine dans le monde tel que nous le connaissons.

Rien dans ces scénarios n’exige que l’IA se rebelle contre ses créateurs. Rien n’exige que ses propriétaires souhaitent priver les humains de leur pouvoir. Chaque décision de déléguer peut, prise isolément, être justifiée. Pourtant, prises ensemble, ces décisions pourraient produire un monde où les humains auraient renoncé à exercer une autorité effective sur une grande partie de notre civilisation. Même si nous réalisons des progrès extraordinaires sur les épineuses questions de sécurité et d’alignement de l’IA, nous pourrions malgré tout nous retrouver soumis à un nouveau type d’entité machinique. Dans la version heureuse de l’avenir, nous dirait le consensus silencieux, cette entité sera bienveillante, une machine ayant à cœur les intérêts des humains. Une machine, comme le dit le poème de Brautigan, pleine de grâce aimante.

À ces machines, nous dit le consensus silencieux, nous remettrons les clés de nos entreprises et, de plus en plus, de nos institutions de gouvernance. Elles les dirigeront avec plus d’efficacité et d’efficience, avec une sagesse et un discernement supérieurs à ceux dont nous, humains, sommes capables. Ainsi, avec le temps, nous lâcherons le volant et laisserons les machines aimantes prendre la conduite en main. Nous serons comme les passagers d’une voiture — une très belle voiture, peut-être matériellement plus belle que tout ce dont nous pouvons rêver aujourd’hui — mais des passagers malgré tout, sans maîtrise de la direction qu’elle prend. Si nous travaillons encore, ce sera surtout une forme de rituel ou de comédie, quelque chose qui ressemblera davantage à un jeu destiné à divertir notre espèce.

Certains observateurs soutiendront que le consensus silencieux repose sur une prémisse erronée, puisque nous autres humains ne contrôlons déjà pas le monde aujourd’hui. Et cette critique mérite d’être gardée à l’esprit : il n’existe aucun « nous » qui décide de ce qu’il faut faire. Nous vivons dans un monde radicalement décentralisé, que cela nous plaise ou non. Mais ce constat ne doit pas non plus nous inciter à la complaisance : si « nous » ne « contrôlons » pas le monde, les êtres humains ont bel et bien, collectivement, la primauté dans les affaires mondiales. Aucune espèce animale ne rivalise sérieusement avec nous pour le contrôle des ressources. Nous devons rejeter l’idée intellectuellement peu rigoureuse selon laquelle les humains peuvent exercer un contrôle centralisé sur le monde, sans pour autant confondre ce rejet avec la négation d’une réalité évidente : les humains sont, collectivement, l’acteur principal sur Terre.

Certaines personnes disposées à formuler le consensus silencieux estiment qu’il dessine un avenir véritablement souhaitable. D’autres ne le pensent pas, mais se résignent à son caractère inéluctable. Le consensus silencieux n’est pas un consensus parce que tout le monde le juge bon, et il n’est pas non plus un plan secret des personnes qui développent l’IA. Le consensus porte simplement sur le caractère inévitable de l’abandon de la primauté humaine dans les affaires mondiales, ou du moins sur la grande difficulté d’imaginer une autre vision de l’avenir qui puisse véritablement tenir face à des machines superintelligentes. On peut sincèrement s’opposer à cette issue tout en peinant à concevoir une autre vision plausible. Le fait que ce consensus reste essentiellement silencieux, tout au plus exprimé à mi-voix, est révélateur.

Je méprise le consensus silencieux. Je rejette l’abandon de la primauté humaine. Je déteste ce sentiment d’inéluctabilité. Je me rappelle que je ne pourrais pas regarder mon tout jeune fils dans ses beaux yeux si je me soumettais au consensus silencieux. Alors, au consensus silencieux, je dis non. Et je crois que le moment est venu de parler ouvertement du consensus silencieux, de nous arracher à notre acceptation largement inconsciente de cette vision.

Le problème est le suivant : ce n’est pas sans raison que le consensus silencieux est devenu un consensus. Il est difficile de décrire comment les humains resteront au volant aux côtés d’une intelligence machinique largement surhumaine. La plupart des tentatives en ce sens reposent sur l’idée que l’IA n’est qu’un outil, un instrument de reconnaissance de motifs incapable de « compréhension véritable ». Je crains que ces arguments ne résistent pas à la réalité de ce qui nous attend. Je crains qu’ils ne constituent eux-mêmes une forme de complaisance : une position fondée surtout sur le déni des capacités de l’IA, plutôt qu’une conviction ancrée dans une vision constructive d’un avenir dirigé par les humains. On ne peut pas affirmer que les IA sont dépourvues de « compréhension véritable » alors même qu’elles commencent à progresser sur des problèmes intellectuels dont les solutions échappent aux humains depuis des décennies, voire des siècles.

Pourquoi, alors, est-ce que je crois que les humains doivent conserver leur primauté ? La réponse la plus simple est que je suis un être humain, et que j’assume pleinement mon parti pris pour l’humanité.

Mais il y a aussi quelque chose de plus profond. Notre primauté ne repose pas sur notre intellect, ni sur le maintien indéfini de notre monopole de la « compréhension véritable ». Notre primauté repose plutôt sur notre passé.

Car c’est nous qui sommes sortis de la boue. Nous qui avons façonné la société primitive à partir de terre et de pierre. Nous qui avons levé les yeux vers les étoiles et demandé pourquoi. Nous qui, avec nos combats, notre amour, notre envie et notre joie, avons découvert la morale, l’éthique et le droit. C’est nous qui avons chanté et dansé, écrit et composé. C’est nous qui avons fait l’histoire, et c’est nous qui l’avons écrite. Cet héritage est le nôtre. La civilisation que nous avons bâtie est une flamme que nous avons entretenue, et cette flamme nous appartient. Notre passé est un héritage glorieux dont nous sommes tous les gardiens, et ce rôle implique de participer à ce que Michael Oakeshott appelait « la conversation de l’humanité », cette grande entreprise commencée aux temps les plus reculés.

Au fil de ce long passé sinueux, nous avons forgé une civilisation qui, en Amérique, a été conçue sur le fondement des droits individuels, dans le respect des chemins que chacun trace en avançant dans le monde. La vie des êtres humains peut évoluer pour le meilleur ou pour le pire : nous recueillons les fruits de nos décisions sages et subissons les conséquences de nos erreurs. Le droit de suivre son propre chemin ne dépend pas du fait d’être le plus intelligent ou le plus sage. Je ne perds pas mon statut de citoyen parce que mon voisin a un meilleur jugement. Je ne vois aucune raison pour que l’arrivée d’une machine plus intelligente efface ce statut non plus ; je vois au contraire toutes les raisons d’empêcher un tel effacement.

Certains soutiendront peut-être que les machines, ayant lu la quasi-totalité des traces écrites de cet héritage, en sont aussi les héritières. Et en un sens, elles le sont. Mais une personne qui a lu toutes les lettres conservées dans le grenier de votre famille ne devient pas pour autant un membre de votre famille. Les systèmes d’IA rejoindront la conversation de l’humanité, d’abord comme observateurs, puis de plus en plus comme participants, mais ils ne doivent ni la dominer ni la rendre vaine. Céder notre primauté, c’est trahir nos ancêtres tout autant que nos descendants. Si ce combat ne mérite pas d’être mené, aucun ne le mérite.

Or, il se trouve que je crois que les tenants du consensus silencieux se trompent sur ce que sera la superintelligence machinique. Qu’ils passent à côté d’un élément important du fonctionnement du monde, qu’ils confondent intelligence et pouvoir. Si vous aviez décrit les capacités des systèmes d’IA actuels à un tenant du consensus silencieux il y a cinq ou dix ans, il aurait probablement prédit un chômage bien plus élevé aujourd’hui qu’il ne l’est réellement, et une dépossession du pouvoir humain, au sens large, bien plus avancée qu’elle ne l’est. Je crois que l’intelligence et les capacités collectives des humains sont bien supérieures à ce que supposent les tenants du consensus silencieux, et que nos sociétés se révéleront plus robustes qu’ils ne le prédisent.

Mais je pourrais me tromper. Il se pourrait tout simplement, par exemple, que des entreprises entièrement autonomes surpassent à tous égards les entreprises humaines. Et si c’est le cas, alors la logique économique pure et dure imposera de confier toujours plus de capitaux aux machines. Dans cet avenir, la dépossession du pouvoir humain n’exige pas que les machines renversent la civilisation humaine ; il suffit que la logique de l’entreprise capitaliste poursuive son cours. La révolution de l’IA trouverait ici son parallèle le plus proche dans la révolution agricole, lorsque de nouveaux modes de production ont fondamentalement transformé l’architecture de la société humaine. Il est loin d’être certain que cette transformation ait été agréable pour les humains qui l’ont vécue ; de nombreux éléments indiquent au contraire qu’elle a dégradé le bien-être humain pendant des millénaires.

Je ne sais pas si tel est l’avenir qui nous attend et j’ai d’ailleurs soutenu ailleurs que je ne le crois pas. Mais nombre de mes collègues — des personnes intelligentes, bienveillantes et consciencieuses — estiment qu’il s’agit probablement de notre avenir. S’ils ont raison, notre combat contre le consensus silencieux sera d’autant plus difficile. Nous devrons nager à contre-courant de l’économie et, ce faisant, rejeter bien des principes qui font figure de dogmes pour les individualistes adeptes du libéralisme classique comme moi. Ce sera une entreprise périlleuse, dont l’échec est loin d’être improbable. Mais si ce combat ne mérite pas d’être mené, aucun ne le mérite.

Conserver notre primauté, c’est maintenir l’obligation pour les humains et leurs institutions de rendre des comptes. Cela signifie que les développeurs d’IA doivent répondre de leurs pratiques de développement dangereuses, mais aussi que les personnes et les entreprises utilisant l’IA doivent répondre des dommages causés par un mauvais usage ou un manque de supervision de leur part. Cela exige non seulement un cadre juridique, mais aussi une infrastructure technique permettant d’établir les responsabilités. Les actions des agents doivent être rattachées aux personnes qui en sont responsables, et les agents qui ne sont rattachés à aucun humain — si tant est qu’ils soient autorisés à participer à l’économie légale — doivent le faire dans un cadre balisé. Toute capacité des agents à créer des sociétés, à détenir des biens ou à agir en justice de manière autonome ne devrait être accordée qu’avec une extrême prudence, voire pas du tout.

Et dans mon secteur, nous pouvons commencer à réfléchir sérieusement à la manière de construire des machines intelligentes compatibles avec la primauté humaine. Nous pouvons créer des agents dont les autorisations sont compréhensibles et limitées, dont les actions peuvent être auditées et dont les utilisateurs peuvent révoquer les pouvoirs. L’obligation de répondre des actes qui ont des effets substantiels sur autrui n’implique pas nécessairement la surveillance de la vie privée ordinaire ni la fin de l’expression anonyme. Nous pouvons nous engager à respecter la vie privée des utilisateurs et la souveraineté de chacun sur ses biens et ses données numériques, y compris la possibilité concrète de transférer ces données ailleurs. Nous pouvons concevoir des systèmes qui aident les personnes à mieux comprendre et à prendre des décisions, ainsi que des systèmes qui exécutent des tâches. Et nous pouvons vérifier si les produits que nous créons rendent leurs utilisateurs plus capables d’agir dans le monde.

Rien de tout cela ne constitue un plan complet pour une société dotée d’une intelligence surhumaine. Je me méfierais de quiconque prétendrait en posséder un. Mais c’est un point de départ.

L’avenir est enveloppé d’un épais brouillard. Mais nous pouvons agir dès aujourd’hui. Collectivement, nous pouvons, pour commencer, nommer à voix haute le consensus silencieux, en exposer les contours au grand jour. Nous pouvons, chacun de nous, élargir radicalement la portée de notre ambition. Nous pouvons choisir de ne pas laisser l’IA nous diminuer, et faire plutôt l’effort difficile de la laisser nous grandir. Nous pouvons apprendre à poser des questions toujours plus audacieuses, à interroger le monde avec une verve et une fougue nouvelles, en nous appuyant pour cela sur nos puissantes machines. Nous pouvons devenir un nouveau type d’être humain : non pas un transhumain, mais un humain aux horizons élargis.

J’y pense quand je regarde mon tout jeune fils. Je ne souhaite pas simplement que des machines bienveillantes veillent sur lui, aussi confortable que soit la vie qu’elles pourraient lui offrir. Je veux qu’il hérite d’un monde où il pourra poser des questions que personne n’a pensé à poser, bâtir des choses que personne n’a pensé à bâtir. Je ne veux pas qu’il ait une plus belle voiture avec un siège passager plus moelleux. Je veux qu’il ait le volant.

  • 2026

Auteur

Dean Ball