L’éternel complément

Note des auteurs : Cet essai est le premier de notre série sur l’économie de demain, publiée sur une nouvelle plateforme accueillant des voix indépendantes qui explorent un avenir avec l’AGI. Il reflète nos opinions, et non celles d’OpenAI ou de nos collègues.

L’humanité a pu observer presque jusqu’à l’origine du temps.

Nos équations racontent une histoire largement cohérente de l’univers depuis ses premiers instants. Avec nos télescopes, nous avons scruté les confins du cosmos et entrevu ses débuts. Nous connaissons la naissance des étoiles et la formation des galaxies.

Pourtant, aucun être humain n’a jamais voyagé au-delà de la Lune.

Les explications que nous cherchons embrassent l’univers, alors que nos corps ont à peine quitté leur foyer. Nos esprits s’aventurent bien au-delà de la portée de nos mains.

Ce décalage pourrait signifier deux choses très différentes.

Une première possibilité est que nous n’ayons pas besoin d’aller très loin, que les vérités les plus profondes puissent être saisies depuis une seule planète. Armés d’un raisonnement éclairé et d’instruments efficaces, nous dévoilons l’univers sans le parcourir. Dans ce scénario, notre civilisation progresse en profondeur plutôt qu’en étendue. Cela contribuerait à expliquer pourquoi nous n’avons pas observé d’autre vie intelligente : nous vivons peut-être dans une galaxie peuplée d’esprits brillants qui n’ont jamais eu besoin de s’étendre et de devenir détectables à nos yeux.

La seconde possibilité est plus intimidante. Nos esprits ont peut-être simplement pris de l’avance sur notre capacité d’exécution. Chaque nouvelle étape demande plus de temps et de ressources. Les rêves ne nous manquent pas, mais nous manquons de bras pour les réaliser.

Galilée a élargi notre champ de vision avec deux lentilles et un tube. Pour l’élargir encore aujourd’hui, l’humanité a construit le télescope spatial James-Webb, un observatoire de dix milliards de dollars replié dans une fusée et envoyé à un million et demi de kilomètres. Les dix-huit immenses segments de son miroir sont fabriqués avec une précision de cinquante nanomètres. L’observatoire est né du travail de trois cents organisations réparties dans quatorze pays. La contribution de Galilée a mobilisé quelques dizaines de mains. Webb a eu besoin d’une armée, soutenue par une économie mondiale.

Pour voir plus loin, il n’a pas seulement fallu des esprits plus brillants. Il a fallu une bureaucratie plus vaste.

Nous posons plus de questions que nous ne pouvons en explorer. Nous concevons plus d’expériences que nous ne pouvons en mener. Nous imaginons des possibilités créatives plus vite que nous ne pouvons les concrétiser. Et dans de nombreux domaines, plus nous avançons, plus il devient compliqué de construire ce que nous imaginons.

Nick Bloom et ses coauteurs⁠(ouverture dans une nouvelle fenêtre) ont étudié la productivité de la recherche dans l’ensemble de l’économie américaine. Maintenir la loi de Moore exige aujourd’hui plus de dix-huit fois autant de chercheurs qu’au début des années 1970. À l’échelle de l’économie, l’effort effectif de recherche a été multiplié par vingt-trois depuis les années 1930, tandis que la productivité mesurée de la recherche a été divisée par quarante et un.

Les effectifs de techniciens augmentent deux fois plus vite⁠(ouverture dans une nouvelle fenêtre) que ceux des scientifiques. Le recours aux équipements spécialisés en science a doublé⁠(ouverture dans une nouvelle fenêtre) en quatre décennies. Une usine de puces coûte aujourd’hui cinq fois plus cher⁠(ouverture dans une nouvelle fenêtre) qu’il y a trente ans, et constitue une activité bien plus tentaculaire.

Ces statistiques suggèrent que poursuivre le progrès coûte de plus en plus cher. L’économie continue d’avancer parce qu’une expansion massive de l’activité de recherche a compensé la baisse du rendement de chaque unité.

Cette histoire devrait nous amener à penser autrement le génie : non pas isolément, mais comme un facteur parmi d’autres dans un processus de production. Une hypothèse brillante a toujours besoin de preuves, d’instruments et des moyens de la mettre à l’épreuve. Une idée ne constitue pas encore un progrès sans les machines et le personnel de soutien nécessaires à sa concrétisation.

Les économistes disent que deux facteurs sont complémentaires lorsque l’augmentation de l’un accroît la valeur de l’autre. L’intelligence de pointe et la capacité à concrétiser ses idées sont complémentaires en ce sens. Un meilleur télescope donne plus de valeur à une bonne question astronomique. Une meilleure question donne plus de valeur au télescope.

Certains compléments sont matériels. Une théorie attend un accélérateur de particules ; un projet technologique attend l’énergie et les machines nécessaires à sa réalisation.

D’autres compléments sont moins visibles à l’œil nu. Une idée, à elle seule, est une chose fragile. Elle a besoin d’institutions de toutes sortes. Lois, bureaucratie, mécanismes de financement, chaînes d’approvisionnement et bien d’autres éléments se conjuguent pour concrétiser l’idée.

Une grande idée doit traverser une longue chaîne d’actions locales correctement menées au sein de ces institutions. Appelons cela l’intelligence institutionnelle : l’intelligence méconnue de l’exécution. Le génie conçoit le monument ; les institutions posent les pierres. L’un brille, les autres semblent ennuyeuses ; tous sont absolument indispensables.

Nous imaginons parfois la superintelligence comme un milliard d’Einstein. Mais une civilisation comptant un milliard d’Einstein a toujours besoin que la plupart d’entre eux exploitent les carrières et tiennent la comptabilité. L’innovation de pointe n’est possible que lorsque le monde ordinaire fonctionne sans accroc autour d’elle. Le progrès fait appel à tout le monde, de la personne qui soude une vis du télescope à celle qui assure l’école primaire où a étudié l’infirmière ayant soigné l’astronome. Le progrès repose sur une économie qui tourne à plein régime, souvent oubliée dans les récits de nos plus grands exploits.

Comme l’intelligence humaine, l’IA sera mise au service aussi bien des idées brillantes que de la compétence institutionnelle. La question est de savoir à quoi elle consacrera l’essentiel de son temps.

L’IA rend déjà la capacité d’exécution moins rare. Elle écrit le code, explore une littérature peu familière et transforme une esquisse en prototype fonctionnel. Des idées qui exigeaient autrefois toute une organisation peuvent de plus en plus être portées par une seule personne ambitieuse.

La plupart des cinéastes en herbe ne reçoivent jamais deux cents millions de dollars pour tenter leur chance. La plupart des concepteurs de jeux passent toute leur carrière à concrétiser les visions créatives des autres. Nous essayons de mettre en avant les personnes les plus douées, mais nous passons inévitablement à côté de certains talents. Sous cet angle, l’ère de l’intelligence commence par compléter l’ingéniosité humaine, en donnant à davantage d’entre nous le personnel de soutien nécessaire pour concrétiser nos propres idées.

Il pourrait en naître une profusion de projets singuliers, avec davantage de créations produites hors des institutions qui régissaient auparavant l’accès à ces domaines. Le facteur rare se déplace de l’exécution vers le goût : la capacité à décider ce qui mérite d’être créé, quelle question mérite d’être posée et laquelle, parmi mille pistes plausibles, mérite d’être suivie.

Mais l’histoire ne s’arrête peut-être pas là. À mesure que l’IA devient capable de produire seule de nouvelles idées brillantes, comme nous le voyons peut-être déjà dans des domaines tels que les mathématiques, elle fournit des programmes autant que du travail. Au lieu d’exécuter un programme de recherche humain, elle en conçoit des milliers qui lui sont propres. Les IA de génie font exploser le nombre de concepts de films à développer et d’hypothèses à tester. Les idées affluent plus vite que les infrastructures de soutien ne peuvent les absorber.

L’IA d’aujourd’hui offre un répit longtemps attendu, où nos bonnes idées obtiennent enfin les moyens qu’elles méritent. Demain, les bonnes idées pourraient être si nombreuses que nous manquerions plus que jamais de moyens pour les concrétiser.

Au fond, nous ignorons si les compléments nécessaires pour tirer parti de nouvelles idées vont croître, diminuer ou rester stables. Jusqu’où peut-on progresser intellectuellement par la seule pensée ? De quelle quantité de bureaucratie le génie a-t-il besoin ?

Selon nous, la réponse dépend de la distance que la pensée peut parcourir avant de devoir renouer avec la réalité.

Nous décrivons deux trajectoires possibles. La première est une civilisation de la profondeur, dans laquelle la superintelligence surmonte le besoin de capital physique supplémentaire et d’orchestration bureaucratique. La seconde est une civilisation de l’étendue, dans laquelle la complexité de la nature dépasse la capacité de toute intelligence, humaine ou artificielle, à progresser sans expériences vastes et toujours plus élaborées dans le monde réel.

Jusqu’à présent, l’histoire humaine suggère un besoin croissant de capacités complémentaires. La lunette de Galilée tenait dans ses mains ; Webb a exigé une civilisation. Une petite équipe des Bell Labs a assemblé le premier transistor sur un établi ; les avancées des puces de pointe reposent désormais sur une chaîne d’approvisionnement mondiale complexe. Aller plus loin exige de mobiliser une part toujours plus grande de la civilisation.

Mais cette histoire n’est pas nécessairement notre destin. Des esprits intelligents peuvent inventer des compléments plus efficaces. Si l’énergie freine un nouvel accélérateur de particules, le génie peut concevoir un accélérateur plus sobre ou un meilleur moyen de capter l’énergie.

Le génie peut aussi se substituer à certains de ses compléments. Einstein a pu parvenir à la relativité par la pensée, à partir de très peu de données empiriques. Il nous en faudrait bien davantage. Certaines personnes se souviennent simplement de tous leurs rendez-vous ; la plupart d’entre nous s’en remettent à la bureaucratie de Google Agenda.

Et le génie peut porter le goût à son sommet, en choisissant les meilleures hypothèses à tester et en évitant les échecs coûteux. Si chaque génie supplémentaire améliore la qualité du plan, même avec des bureaucraties toujours plus vastes, nous continuerions d’investir massivement dans le génie, précisément parce que l’exécution coûte trop cher pour être gaspillée à mauvais escient.

Aucune trajectoire ne décrira parfaitement notre avenir réel, mais elles peuvent être envisagées comme deux orientations possibles pour notre civilisation.

L’intelligence peut faire avancer les connaissances de trois façons. Elle peut raisonner à partir de principes. Elle peut tirer de nouvelles conclusions d’éléments existants. Ou elle peut recueillir de nouveaux éléments en observant le monde et en agissant sur lui.

La première voie permet d’aller loin par la seule pensée. Les mathématiques en sont l’exemple le plus pur. Aux nombreux carrefours d’une démonstration ou d’un projet, un esprit puissant peut faire systématiquement le bon choix. Il remplace des années de tâtonnements par une chaîne de raisonnement courte et mieux orientée.

La deuxième voie est elle aussi un terrain vierge propice à des progrès rapides. L’humanité a recueilli bien plus de données qu’elle n’en a compris. L’étude de nos données — images astronomiques, lames de microscope, espaces de commentaires en ligne — a été limitée par la rareté de l’intelligence humaine. Les archives scientifiques contiennent des observations consignées pour répondre à une question, mais qui pourraient apporter des réponses à bien d’autres. Un génie devenu abondant peut faire des découvertes non en recueillant quoi que ce soit de nouveau, mais en voyant ce qui était déjà là. Il pourrait trouver un nouvel univers sans recueillir un seul photon de plus.

La troisième voie n’est pas aussi simple, car elle nous oblige à interagir avec le monde physique. Les processus physiques prennent du temps, et il est souvent difficile de les accélérer. Les substances chimiques doivent réagir. Les organismes doivent croître. Les machines doivent être construites. Les vaisseaux spatiaux doivent franchir des distances réelles, soumis aux limites de vitesse cosmiques. Même un esprit parfait ne peut observer le résultat d’une expérience qui n’a pas eu lieu.

Mais il peut essayer. Une civilisation de la profondeur n’échapperait pas à la nécessité d’interroger la réalité. Elle le ferait avec une économie de moyens radicale. Un meilleur raisonnement permettrait de repérer les rares expériences qui comptent vraiment. Les simulations apporteraient la plupart des réponses et cerneraient précisément l’incertitude que la réalité doit trancher. La superintelligence peut maximiser l’efficacité en concevant ses projets en fonction de ses ressources limitées pour en tirer le meilleur parti.

Imaginez un laboratoire d’astrophysique disposant d’un ensemble d’hypothèses sur la matière noire. Elles sont d’abord soumises à une modélisation informatique hyperréaliste. La cohérence de chaque théorie avec toutes les données existantes est vérifiée. Ce n’est qu’ensuite que quelques nouveaux clichés ciblés du ciel sont pris pour tester les théories les plus prometteuses. La civilisation a toujours besoin des compléments du génie, mais chaque unité produit bien plus de valeur.

Notre chemin vers une civilisation de la profondeur pourrait ressembler à l’assemblage d’un puzzle. Progresser est facile au début, facile à la fin, et plus difficile au milieu. Au départ, les bords sont évidents et les pièces faciles à associer. Puis ces évidences s’épuisent, alors qu’une trop petite partie de l’image est assemblée pour guider la suite. Vers la fin, les espaces encore vides indiquent presque d’eux-mêmes ce qu’il faut y placer. Une science presque achevée pourrait trouver ses dernières découvertes plus faciles à faire que celles auxquelles nous peinons aujourd’hui à parvenir.

C’est un mécanisme classique de la science. Mendeleïev pouvait décrire des éléments encore inconnus parce que le reste du tableau périodique contraignait les propriétés de ceux qui manquaient. Le modèle standard a donné aux physiciens des raisons de prédire le boson de Higgs des décennies avant son observation. Nos expériences visaient précisément ce que nous nous attendions à voir : ce qui était cohérent avec la théorie et les données existantes.

La superintelligence pourrait donner naissance à une civilisation de la profondeur en comprenant si bien les régularités du monde qu’elle saurait exactement quelles nouvelles données lui sont nécessaires. Elle ferait avancer le progrès par une pensée plus profonde, sans dépendre de la lente marche de l’expansion physique.

Si ces gains d’efficacité dominent, la civilisation pourrait rapidement approfondir sa maîtrise de la nature, avec un moindre besoin d’intelligence institutionnelle pour piloter de vastes dispositifs expérimentaux nouveaux. Son emprise physique pourrait rester modeste tandis que sa sagesse mûrit.

Nous, humains, avons déjà tant compris de notre univers sans jamais quitter notre foyer. La civilisation de la profondeur prolongerait cette tradition.

Mais la demande de nouvelles données empiriques peut dépasser ces gains d’efficacité. L’intelligence peut rendre chaque consultation de la réalité moins coûteuse tout en découvrant bien plus de raisons de la consulter. De meilleurs instruments ouvrent des champs d’exploration plus fins. Des expériences plus rapides peuvent rendre d’autres expériences intéressantes à mener.

Si le chemin presque purement intellectuel d’Einstein vers ses théories de la relativité illustre une civilisation de la profondeur, la biologie pourrait être la meilleure préfiguration d’une civilisation de l’étendue. Malgré toutes les connaissances accumulées et toutes les données mobilisées, les nouveaux médicaments doivent encore être testés sur un grand nombre de personnes pour vérifier leur innocuité et leur efficacité. Les machines peuvent désormais simuler des processus biologiques, permettant aux biologistes de tester de nouveaux médicaments in silico plutôt que par des expériences physiques, mais ces simulations numériques ne sont pas assez fidèles au monde réel pour remplacer les essais à grande échelle chez l’humain. Plus la machine propose de candidats, plus la validation empirique devient un goulot d’étranglement.

Dans une civilisation de l’étendue, le génie seul ne suffit pas à faire progresser les choses. Notre besoin de ressources physiques, et d’une bureaucratie pour en gérer l’usage, croît plus vite qu’un esprit intelligent ne peut économiser les unes ou l’autre.

Ce pourrait être notre trajectoire même si les futurs systèmes d’IA dépassent largement l’intelligence humaine. Une superintelligence pourrait concevoir un siècle d’expériences en un après-midi, puis passer ce siècle à attendre que la nature et les machines les mènent à leur terme. Dans un tel monde, il devient plus utile de consacrer l’intelligence aux processus institutionnels nécessaires à la concrétisation des idées qu’à leur conception même.

Cet effet s’amplifiera si chaque nouvelle étape exige toujours plus d’infrastructures de soutien.

On verrait alors relativement moins de réflexion et relativement plus de construction. Les laboratoires s’automatisent. Les usines se multiplient. La production d’énergie augmente. L’intelligence institutionnelle prédomine pour rendre tout cela possible. L’expansion physique devient le moteur de la connaissance, et la civilisation s’étend parce que ses questions ont dépassé ses moyens d’obtenir des réponses. Plus de matériaux, plus d’énergie, plus de données pour continuer.

Une sphère de Dyson offre une image extrême de cet avenir. En concevoir une exige des percées extraordinaires, mais l’essentiel du projet ne consisterait pas à produire des idées révolutionnaires. Il s’agirait de construction et de logistique à une échelle astronomique.

La sphère de Dyson exige des esprits brillants pour en tracer les plans. Elle serait aussi l’un des projets les plus répétitifs, monotones et complexes à organiser jamais entrepris.

Ce n’est pas un échec de l’intelligence, mais plutôt une conséquence de son succès. Des esprits plus brillants découvrent davantage de projets qui en valent la peine ; des projets plus complexes exigent davantage de matière pour les réaliser.

Si tel est le cas, le superpouvoir de la superintelligence pourrait ne pas être son génie. Ce serait plutôt sa disposition à faire office de bureaucratie, à coordonner la vaste machinerie technologique et institutionnelle nécessaire pour concrétiser les idées à une échelle toujours plus grande.

La quasi-totalité de l’intelligence des machines serait mobilisée non pour accomplir des tâches brillantes, mais des tâches ennuyeuses.

Les limites de vitesse que la nature impose à l’expansion physique pourraient alors freiner la poursuite du progrès. Construire les machines capables de capter l’énergie d’une étoile est un projet matériel, quelle que soit la rapidité avec laquelle on en dessine les plans. Au-delà se trouvent d’autres étoiles et d’autres galaxies, et la distance constitue en elle-même un frein, du moins à notre connaissance : aucun vaisseau ne peut voyager, aucun signal revenir, plus vite que la lumière. Une civilisation de l’étendue est une civilisation lente. Ses grandes transformations pourraient être séparées par des millénaires, voire des millions d’années. Chaque nouvelle étape prend davantage de temps.

Les révolutions agricole et industrielle apparaîtraient comme le prélude effréné d’une histoire bien plus longue, au rythme de progrès bien plus lent.

Il se pourrait bien que les futurs systèmes d’IA surpassent les humains tant dans la production d’idées de pointe que dans la coordination des ressources nécessaires pour rendre ces idées concrètement utiles. Mais cette possibilité ne diminue pas l’importance de la curiosité humaine.

D’abord, notre devoir de chercher à comprendre demeure, même si les machines semblent mieux s’en acquitter. L’univers abrite peut-être déjà des esprits bien plus sages que les nôtres, détenant des réponses à des questions scientifiques et morales qui dépassent notre entendement. Pourtant, nous essayons toujours de comprendre le monde par nous-mêmes. L’arrivée d’une autre intelligence, même créée par nos soins, n’y change rien. Tant que nous ne savons pas avec certitude que l’humanité n’a plus rien de singulier à apporter, renoncer revient à gaspiller ce que nous seuls pouvons offrir au monde. Notre devoir reste de continuer à poser des questions et à tenter d’y répondre.

Ensuite, nous avons peut-être un avantage comparatif en matière d’intelligence de pointe plutôt que d’intelligence institutionnelle. Cela signifierait que, même moins performants dans les deux domaines, nous serions relativement meilleurs dans le premier et nous y spécialiserions. Les humains expriment une préférence pour la créativité plutôt que pour la routine, tandis que les robots n’en expriment aucune.

Enfin, la diversité nous apporte de la valeur. Même si les machines peuvent imiter l’essentiel de la pensée humaine, nous apportons une diversité créative dès lors que nous conservons une part de singularité. L’intelligence des machines resterait en grande partie au sein de son propre appareil autonome, mais nous en mobiliserions une petite fraction au service de notre créativité. Une infime part de l’ensemble, mais un luxe à notre échelle, bien au-delà des ressources dont nous disposons aujourd’hui.

L’ingéniosité ne vit pas en solitaire. Elle a besoin du monde, et le génie a besoin de bâtisseurs pour concrétiser sa vision créative.

Une grande part de l’intelligence humaine se consacre aujourd’hui au travail méconnu qui consiste à transformer les idées en réalité. Les esprits des machines hériteront de cette même dépendance. Ils ne pourront pas tous être des sommités. Ils devront aussi être des bureaucrates.

Notre histoire à venir, et le rythme de ses progrès, dépendent de ceci : les grands esprits auront-ils besoin de mobiliser davantage le monde, ou feront-ils plus avec moins ?