El complement etern

Nota dels autors: Aquest és el primer assaig de la nostra sèrie sobre l'economia del futur, que forma part d'una nova plataforma que dona veu a autors independents que exploren un futur amb AGI. Reflecteix les nostres opinions, no les d'OpenAI ni les dels nostres col·legues.

La humanitat ha arribat a veure gairebé fins al principi dels temps.

Les nostres equacions ofereixen un relat força coherent de l'univers des dels seus primers instants. Amb els nostres telescopis, hem observat els confins del cosmos i n'hem albirat els inicis. Coneixem el naixement de les estrelles i la formació de les galàxies.

I, tanmateix, cap ésser humà no ha viatjat mai més enllà de la Lluna.

Les explicacions que busquem abasten l'univers, mentre que els nostres cossos amb prou feines han sortit de casa. Les nostres ments s'aventuren molt més enllà d'on arriben les nostres mans.

Aquest desajust podria significar dues coses molt diferents.

Una possibilitat és que no ens calgui anar gaire lluny, que les veritats més profundes es puguin comprendre des d'un sol planeta. Amb un raonament lúcid i instruments eficients, desvelem l'univers sense recórrer-lo. En aquest relat, la nostra civilització avança en profunditat i no pas en extensió. Això ajudaria a explicar per què no hem vist altres formes de vida intel·ligent: potser vivim en una galàxia plena de ments brillants que mai no han necessitat expandir-se ni fer-se visibles per a nosaltres.

La segona possibilitat és més intimidant. Potser les nostres ments simplement han avançat més de pressa que la nostra capacitat d'execució. Cada pas següent demana més temps i més recursos. No ens falten somnis, però ens falta mà d'obra per fer-los realitat.

Galileu va ampliar el nostre camp de visió amb dues lents i un tub. Per tornar-lo a ampliar avui, la humanitat ha construït el telescopi espacial James Webb, un observatori de deu mil milions de dòlars plegat dins d'un coet i enviat a un milió de milles de distància. Els divuit segments enormes del seu mirall estan fabricats amb una precisió de cinquanta nanòmetres. L'observatori va néixer del treball de tres-centes organitzacions de catorze països. L'aportació de Galileu va requerir unes quantes desenes de mans. El Webb va necessitar un exèrcit, amb tota una economia global al darrere.

Per veure més lluny no van caldre només ments més brillants. Va caldre una burocràcia més gran.

Ens fem més preguntes de les que podem investigar. Dissenyem més experiments dels que podem dur a terme. Imaginem possibilitats creatives més de pressa del que les podem fer realitat. I en molts àmbits, com més avancem, més complicat esdevé construir allò que imaginem.

Nick Bloom i els seus coautors⁠(s'obre en una finestra nova) van estudiar la productivitat de la recerca en el conjunt de l'economia nord-americana. Mantenir la llei de Moore exigeix ara més de divuit vegades el nombre d'investigadors que calien a principis dels anys setanta. Des dels anys trenta, l'esforç efectiu de recerca en el conjunt de l'economia es va multiplicar per vint-i-tres, mentre que la productivitat mesurada de la recerca es va dividir per quaranta-u.

El nombre de tècnics creix al doble de ritme⁠(s'obre en una finestra nova) que el de científics. L'ús d'equipament especialitzat en ciència s'ha duplicat⁠(s'obre en una finestra nova) en quatre dècades. Avui una fàbrica de xips costa cinc vegades més⁠(s'obre en una finestra nova) que fa trenta anys i és una operació de dimensions molt més grans.

Aquestes estadístiques apunten a un cost creixent per continuar avançant. L'economia continua avançant perquè un enorme augment de l'activitat de recerca ha compensat la disminució del rendiment de cada unitat.

Aquesta història ens hauria de fer veure la genialitat d'una altra manera: no com una cosa aïllada, sinó com un factor més d'un procés de producció. Una hipòtesi brillant continua necessitant proves, instruments i mitjans per posar-la a prova. Una idea encara no és progrés si no hi ha la maquinària i el personal de suport per fer-la realitat.

Els economistes diuen que dos factors són complementaris quan un augment de l'un incrementa el valor de l'altre. La intel·ligència d'avantguarda i la capacitat de materialitzar-ne les idees són complementàries en aquest sentit. Un telescopi millor fa que una bona pregunta astronòmica tingui més valor. Una pregunta millor fa que el telescopi tingui més valor.

Alguns complements són físics. Una teoria espera un accelerador de partícules; un disseny tecnològic espera l'energia i la maquinària per construir-lo.

Altres complements són més difícils de veure a simple vista. Una idea, tota sola, és fràgil. Necessita institucions de tota mena. Lleis, burocràcia, mecanismes de finançament, cadenes de subministrament i molts altres elements es combinen per fer realitat la idea.

Una gran idea ha de superar una llarga cadena d'actuacions correctes en cadascun dels àmbits d'aquestes institucions. Anomenem-ho intel·ligència institucional: la intel·ligència poc reconeguda de l'execució. La genialitat dissenya el monument; les institucions en col·loquen les pedres. L'una és brillant, les altres semblen avorrides; totes dues són absolutament essencials.

De vegades imaginem la superintel·ligència com mil milions d'Einsteins. Però una civilització de mil milions d'Einsteins continua necessitant que la majoria treballin a les pedreres i portin la comptabilitat. La innovació d'avantguarda només és possible quan el món quotidià funciona sense entrebancs al seu voltant. El progrés necessita tothom: des de qui solda un cargol del telescopi fins a qui assegura l'escola de primària on va estudiar la infermera que va tractar l'astrònom. El progrés es fonamenta en una economia que funciona a ple rendiment i que sovint ignorem en els relats de les nostres grans proeses.

Com la intel·ligència humana, la IA s'orientarà tant a les idees brillants com a la competència institucional. La pregunta és a què dedicarà la major part del temps.

La IA ja està fent que la capacitat d'execució sigui menys escassa. Escriu el codi, explora bibliografia desconeguda i converteix un esbós en un prototip funcional. Cada cop és més possible que una sola persona ambiciosa tiri endavant idees que abans requerien tota una organització.

La majoria dels aspirants a cineastes no reben mai dos-cents milions de dòlars per demostrar què poden fer. La majoria dels dissenyadors de videojocs passen tota la seva carrera materialitzant les visions creatives d'altres persones. Intentem impulsar les persones més dotades, però inevitablement deixem escapar talent. Des d'aquesta perspectiva, l'era de la intel·ligència comença complementant l'enginy humà i posant a l'abast de més persones el personal de suport necessari per fer realitat idees pròpies.

Això podria donar lloc a una profusió de projectes singulars, amb més creacions fetes fora de les institucions que abans controlaven l'accés a aquests àmbits. El factor escàs deixa de ser l'execució i passa a ser el criteri: la capacitat de decidir què val la pena crear, quina pregunta val la pena fer i quin de mil camins plausibles mereix ser explorat.

Però potser la història no s'acaba aquí. A mesura que la IA esdevé capaç d'arribar tota sola a idees noves i brillants —cosa que potser ja estem veient en àmbits com les matemàtiques—, aporta tant línies de treball com mà d'obra. En lloc d'executar un programa de recerca humà, en dissenya milers de propis. Els genis de la IA disparen el nombre d'idees cinematogràfiques que val la pena desenvolupar i d'hipòtesis que val la pena posar a prova. Les idees proliferen més de pressa del que la infraestructura de suport les pot absorbir.

La IA d'avui ofereix un respir llargament esperat: les nostres bones idees reben, per fi, l'atenció que mereixen. Demà potser hi haurà tantes bones idees que ens faltarà capacitat d'execució més que mai.

En definitiva, no sabem si els complements necessaris per aprofitar de manera productiva els nous coneixements augmentaran, disminuiran o es mantindran estables. Fins on es pot avançar intel·lectualment només pensant? Quanta burocràcia necessita la genialitat?

Al nostre parer, la resposta depèn de fins on pot arribar el pensament abans d'haver de tornar a entrar en contacte amb la realitat.

Descrivim dos camins possibles. El primer és una civilització en profunditat, en què la superintel·ligència supera la necessitat de més capital físic i de més coordinació burocràtica. El segon és una civilització en extensió, en què la complexitat de la natura supera la capacitat de qualsevol intel·ligència, humana o artificial, de progressar sense experiments de gran abast i cada cop més elaborats en el món real.

Fins ara, la història humana apunta a una necessitat creixent de capacitat complementària. El telescopi de Galileu li cabia a les mans; el Webb va requerir una civilització. Un petit equip dels Bell Labs va muntar el primer transistor en un banc de treball; avui, els avenços d'avantguarda en xips provenen d'una intricada cadena de subministrament global. Arribar més lluny continua requerint la implicació d'una part cada cop més gran de la civilització.

Però aquesta història no ha de determinar necessàriament el nostre destí. Les ments intel·ligents poden inventar complements més eficients. Si l'energia limita un nou accelerador de partícules, la genialitat pot idear un accelerador que en consumeixi menys o una manera millor d'obtenir-ne.

La genialitat també pot substituir alguns dels seus complements. Einstein va ser capaç d'arribar a la relativitat mitjançant el pensament, a partir de molt poques dades empíriques. Nosaltres en necessitaríem moltes més. Algunes persones senzillament recorden tots els seus compromisos; la majoria depenem de la burocràcia de Google Calendar.

I la genialitat pot afinar al màxim el criteri, triant les millors hipòtesis per posar a prova i evitant fracassos que malbaraten recursos. Si cada geni addicional millora la qualitat del pla, encara que calguin burocràcies cada cop més grans, continuaríem invertint molt en genialitat precisament perquè l'execució és massa costosa per malbaratar-la en una direcció equivocada.

Cap dels dos camins no descriurà perfectament el nostre futur real, però els podem entendre com dues direccions possibles per a la nostra civilització.

La intel·ligència pot fer avançar el coneixement de tres maneres. Pot raonar a partir de principis. Pot extreure nous coneixements de les proves existents. O pot recollir noves proves observant el món i intervenint-hi.

La primera via pot arribar lluny només amb el pensament. Les matemàtiques en són l'exemple més pur. En les nombroses cruïlles d'una demostració o d'un projecte, una ment poderosa pot prendre la decisió encertada de manera sistemàtica. Substitueix anys de cerca a les palpentes per una cadena de raonament breu i més ben orientada.

La segona via també és un terreny verge per avançar de pressa. La humanitat ha recollit moltes més proves de les que ha arribat a comprendre. L'estudi de les nostres dades —imatges astronòmiques, preparacions microscòpiques, seccions de comentaris en línia— s'ha vist limitat per l'escassetat d'intel·ligència humana. Els arxius científics contenen observacions registrades per respondre una pregunta que poden amagar respostes a moltes altres. Una abundància de genialitat pot fer descobriments no pas recollint res de nou, sinó veient allò que ja hi era. Podria descobrir un nou univers sense captar ni un sol fotó nou.

La tercera via no és tan fàcil perquè ens obliga a interactuar amb el món físic. Els processos físics necessiten temps, i sovint podem fer ben poca cosa per accelerar-los. Les substàncies químiques han de reaccionar. Els organismes han de créixer. Les màquines s'han de construir. Les naus espacials han de recórrer distàncies reals, subjectes als límits de velocitat del cosmos. Ni tan sols una ment perfecta no pot observar el resultat d'un experiment que encara no s'ha fet.

Però pot intentar-ho. Una civilització en profunditat no s'estalviaria la necessitat de consultar la realitat. Ho faria, però, amb una economia de recursos radical. Un raonament millor identificaria els pocs experiments que realment importen. Les simulacions en resoldrien la majoria i localitzarien la incertesa concreta que la realitat ha de resoldre. La superintel·ligència pot maximitzar l'eficiència, adaptant els dissenys als recursos escassos de què disposa per treure'n el màxim profit.

Imaginem un laboratori d'astrofísica amb un conjunt d'hipòtesis sobre la matèria fosca. Primer, aquestes hipòtesis es processen mitjançant una modelització informàtica hiperrealista. Es comprova que cada teoria sigui coherent amb totes les dades existents. Només després de tot això es prenen unes quantes imatges noves de zones concretes del cel per posar a prova les teories més prometedores. La civilització continua necessitant els complements de la genialitat, però cada unitat aporta molt més valor.

El nostre camí cap a una civilització en profunditat podria funcionar com un trencaclosques. Avançar és fàcil al principi i al final, i més difícil a mig camí. Al començament hi ha vores evidents i peces fàcils d'encaixar. Després aquestes s'esgoten, i la part de la imatge que ja està muntada és massa petita per orientar la resta. Cap al final, els buits que queden gairebé ens diuen quines peces hi van. A una ciència gairebé completa, els últims descobriments li podrien resultar més fàcils que els que avui ens costen tant d'assolir.

Això és habitual en ciència. Mendeléiev podia descriure elements encara no descoberts perquè la resta de la taula periòdica delimitava les característiques dels que hi faltaven. El model estàndard va donar als físics motius per preveure l'existència del bosó de Higgs dècades abans que l'observéssim. Els nostres experiments es van orientar a buscar allò que esperàvem veure: allò que era coherent amb les teories i les dades existents.

La superintel·ligència podria fer possible una civilització en profunditat si comprengués tan bé els patrons del món que sabés exactament quines dades noves necessita. Impulsaria el progrés mitjançant un pensament més profund, sense dependre del ritme lent de l'expansió física.

Si aquests guanys d'eficiència predominen, la civilització podria aprofundir ràpidament en el seu domini de la natura, amb menys necessitat d'intel·ligència institucional per gestionar nous aparells experimentals de grans dimensions. La seva presència física podria continuar sent reduïda mentre la seva saviesa madura.

Els humans ja hem arribat a comprendre molt sobre el nostre univers sense haver sortit mai de casa. La civilització en profunditat seria una continuació d'aquesta tradició.

Però la demanda de noves proves pot superar aquests guanys d'eficiència. La intel·ligència pot abaratir cada consulta a la realitat i, alhora, descobrir molts més motius per consultar-la. Uns instruments millors obren nous camps d'exploració amb més detall. Uns experiments més ràpids poden fer que valgui la pena fer-ne més.

Si el camí gairebé purament cognitiu d'Einstein cap a les seves teories de la relativitat exemplifica una civilització en profunditat, la biologia potser és el millor avançament d'una civilització en extensió. Malgrat tot el coneixement que hem acumulat i totes les dades que hem aprofitat, els nous medicaments encara s'han de provar en moltes persones per saber si són segurs i eficaços. Les màquines ja poden simular processos biològics, cosa que permet als biòlegs provar nous fàrmacs in silico en lloc de fer experiments físics, però aquestes simulacions digitals no són prou fidels al món real per substituir els assajos a gran escala amb humans. Com més candidats genera la màquina, més gran esdevé el coll d'ampolla de la comprovació empírica.

En una civilització en extensió, la genialitat, tota sola, no és suficient per progressar. La nostra necessitat de recursos físics, i d'una burocràcia que en gestioni l'ús, creix més de pressa del que una ment intel·ligent pot estalviar en l'un o l'altre.

Aquest podria ser el nostre camí encara que els futurs sistemes d'IA superin de molt la intel·ligència humana. Una superintel·ligència podria dissenyar un segle d'experiments en una tarda i passar-se després tot el segle esperant que la natura i la maquinària els duguessin a terme. En un món així, és més valuós invertir intel·ligència en els processos institucionals necessaris per executar les idees que no pas en la mateixa generació d'idees.

L'efecte s'amplificarà si cada nou pas requereix cada cop més infraestructura de suport.

Aquí veuríem, en termes relatius, menys pensament i més construcció. Els laboratoris s'automatitzen. Les fàbriques es multipliquen. La producció d'energia augmenta. La intel·ligència institucional pren el protagonisme per fer possible tot això. L'expansió física esdevé el motor del coneixement, i la civilització s'estén perquè les seves preguntes han superat els mitjans de què disposa per obtenir respostes. Més materials, més energia, més dades per continuar avançant.

Una esfera de Dyson és una imatge extrema d'aquest futur. Dissenyar-ne una exigeix avenços extraordinaris, però la major part del projecte no consistiria a concebre idees revolucionàries. Seria construcció i logística a una escala astronòmica.

L'esfera de Dyson necessita ments brillants que en traçin els plànols. També seria un dels projectes més repetitius, monòtons i difícils d'organitzar que s'hagin emprès mai.

Això no és un fracàs de la intel·ligència, sinó una conseqüència del seu èxit. Les ments més brillants descobreixen més projectes que val la pena fer; els projectes més complexos necessiten més matèria per dur-se a terme.

Si és així, el superpoder de la superintel·ligència potser no és la seva genialitat. Seria, en canvi, la seva disposició a fer de burocràcia, a coordinar la immensa maquinària tecnològica i institucional necessària per convertir les idees en realitat a una escala cada cop més gran.

Gairebé tota la intel·ligència de les màquines es destinaria no pas a fer allò que és brillant, sinó allò que és avorrit.

Els límits de velocitat que la natura imposa a l'expansió física podrien aleshores frenar el progrés. Construir la maquinària per aprofitar l'energia d'una estrella és un projecte material, per molt de pressa que se'n dibuixin els plànols. Més enllà hi ha altres estrelles i altres galàxies, i la distància, pel que sabem, és un fre en si mateixa: cap nau no pot viatjar ni cap senyal no pot tornar més de pressa que la llum. Una civilització en extensió és una civilització lenta. Entre els seus grans canvis podrien passar mil·lennis, potser milions d'anys. Cada pas següent demana més temps.

Les revolucions agrícola i industrial semblarien l'inici frenètic d'una història molt més llarga, amb un ritme de progrés molt més lent.

És ben possible que els futurs sistemes d'IA superin els humans tant en la generació de coneixements d'avantguarda com en la coordinació dels recursos necessaris per donar-los una utilitat pràctica. Però aquesta possibilitat no resta importància a la curiositat humana.

En primer lloc, el nostre deure de cercar el coneixement es manté, encara que les màquines semblin fer-ho millor. Potser a l'univers ja hi ha ments molt més sàvies que les nostres, amb respostes a preguntes científiques i morals que escapen a la nostra comprensió. Tot i així, continuem intentant entendre el món per nosaltres mateixos. L'arribada d'una altra intel·ligència, encara que l'hàgim construïda nosaltres, no ho canvia. Mentre no sapiguem del cert que a la humanitat ja no li queda res de propi per aportar, renunciar-hi seria malbaratar tot allò que només nosaltres podem donar al món. El nostre deure continua sent fer preguntes i intentar respondre-les.

En segon lloc, potser tenim un avantatge comparatiu en intel·ligència d'avantguarda respecte de la intel·ligència institucional. Això voldria dir que, encara que siguem pitjors en totes dues, som relativament millors en la primera i ens hi especialitzem. Els humans manifestem una preferència per la creativitat en lloc de la rutina, mentre que els robots no mostren cap preferència d'aquesta mena.

En tercer lloc, la varietat ens aporta valor. Encara que les màquines puguin emular la major part del pensament humà, si conservem certa singularitat, aportem diversitat creativa. Gran part de la intel·ligència de les màquines romandria dins del seu propi aparell autosuficient, però nosaltres en destinaríem una petita fracció als nostres propòsits creatius. Una fracció ínfima del conjunt, però un luxe a la nostra escala i molt superior als recursos de què disposem avui.

L'enginy no viu aïllat. Necessita el món, i la genialitat necessita constructors per fer realitat la seva visió creativa.

Avui, gran part de la intel·ligència humana es dedica a la feina poc reconeguda de convertir idees en realitat. Les ments de les màquines heretaran aquesta mateixa dependència. No totes poden ser eminències. També han de ser buròcrates.

La nostra història futura, i el ritme del seu progrés, depenen de si les grans ments necessiten més recursos del món o si fan més amb menys.