L’eterno complemento

Nota degli autori: Questo è il primo saggio della nostra serie sull’economia del futuro, parte di una nuova piattaforma che ospita voci indipendenti per esplorare un futuro con l’AGI. Esprime le nostre opinioni, non quelle di OpenAI o dei nostri colleghi.

L’umanità ha spinto lo sguardo fin quasi all’inizio del tempo.

Le nostre equazioni offrono un racconto in gran parte coerente dell’universo fin dai suoi primi istanti. Con i nostri telescopi abbiamo scrutato le profondità del cosmo e intravisto la sua storia primordiale. Conosciamo la nascita delle stelle e la formazione delle galassie.

Eppure nessun essere umano ha mai viaggiato oltre la Luna.

Le spiegazioni che cerchiamo abbracciano l’universo, mentre i nostri corpi hanno appena varcato la soglia di casa. Le nostre menti si avventurano ben oltre la portata delle nostre mani.

Questo divario potrebbe significare due cose molto diverse.

Una possibilità è che non occorra andare molto lontano, che le verità più profonde si possano comprendere da un solo pianeta. Grazie a un ragionamento illuminato e a strumenti efficienti, sveliamo l’universo senza attraversarlo. In questo scenario, la nostra civiltà avanza in profondità anziché in estensione. Questo aiuterebbe a spiegare perché non abbiamo osservato altre forme di vita intelligente: potremmo vivere in una galassia piena di menti brillanti che non hanno mai avuto bisogno di espandersi e diventare visibili ai nostri occhi.

La seconda possibilità è più inquietante. Le nostre menti potrebbero semplicemente aver superato la nostra capacità di realizzare ciò che concepiamo. Ogni passo successivo richiede più tempo e più risorse. Non ci mancano i sogni, ma la forza lavoro per realizzarli.

Galileo ampliò il nostro sguardo con due lenti e un tubo. Per ampliarlo di nuovo, oggi l’umanità ha costruito il telescopio spaziale James Webb, un osservatorio da dieci miliardi di dollari ripiegato dentro un razzo e inviato a un milione e mezzo di chilometri di distanza. I diciotto enormi segmenti del suo specchio sono realizzati con una precisione di cinquanta nanometri. L’osservatorio è nato dal lavoro di trecento organizzazioni in quattordici paesi. L’impresa di Galileo richiese qualche decina di mani. Webb ha avuto bisogno di un esercito, e di un’economia globale alle sue spalle.

Per vedere più lontano non sono bastate menti più brillanti. È servita una burocrazia più grande.

Ci poniamo più domande di quante riusciamo a indagare. Progettiamo più esperimenti di quanti riusciamo a condurre. Immaginiamo possibilità creative più rapidamente di quanto riusciamo a realizzarle. E in molti campi, più avanziamo, più diventa complicato costruire ciò che immaginiamo.

Nick Bloom e i suoi coautori⁠(si apre in una nuova finestra) hanno studiato la produttività della ricerca nell’intera economia statunitense. Per mantenere il ritmo previsto dalla legge di Moore oggi occorrono oltre diciotto volte i ricercatori necessari all’inizio degli anni Settanta. Dagli anni Trenta, lo sforzo effettivo di ricerca nell’intera economia è aumentato di ventitré volte, mentre la produttività misurata della ricerca è scesa a un quarantunesimo.

Il numero dei tecnici cresce al doppio della velocità⁠(si apre in una nuova finestra) di quello degli scienziati. L’uso di attrezzature specializzate nella scienza è raddoppiato⁠(si apre in una nuova finestra) in quattro decenni. Oggi una fabbrica di chip costa cinque volte di più⁠(si apre in una nuova finestra) rispetto a trent’anni fa ed è una realtà molto più vasta e articolata.

Queste statistiche suggeriscono che il costo di ulteriori progressi stia aumentando. L’economia continua ad avanzare perché un’enorme espansione dell’attività di ricerca ha compensato il calo del rendimento di ogni singola unità.

Questa storia dovrebbe farci ripensare il genio: non come qualcosa da considerare nel vuoto, ma come un fattore di un processo produttivo. Anche un’ipotesi brillante ha bisogno di prove, strumenti e mezzi per essere messa alla prova. Un’idea non è ancora progresso senza i macchinari e il personale di supporto necessari a concretizzarla.

Gli economisti definiscono complementari due fattori produttivi quando l’aumento dell’uno accresce il valore dell’altro. L’intelligenza di frontiera e la capacità di realizzarne le idee sono complementari in questo senso. Un telescopio migliore rende più preziosa una buona domanda di astronomia. Una domanda migliore rende più prezioso il telescopio.

Alcuni fattori complementari sono materiali. Una teoria attende un acceleratore di particelle; un progetto tecnologico attende l’energia e i macchinari per essere realizzato.

Altri fattori complementari sono meno visibili. Un’idea, da sola, è una cosa fragile. Ha bisogno di istituzioni di ogni tipo. Leggi, burocrazia, meccanismi di finanziamento, filiere e molto altro concorrono a realizzare l’idea.

Una grande idea deve sopravvivere a una lunga catena di azioni corrette, compiute a livello locale all’interno di queste istituzioni. Chiamiamola intelligenza istituzionale: l’intelligenza poco celebrata del fare. Il genio progetta il monumento; le istituzioni posano le pietre. L’uno brilla, le altre sembrano noiose; entrambi sono assolutamente cruciali.

A volte immaginiamo la superintelligenza come un miliardo di Einstein. Ma anche una civiltà composta da un miliardo di Einstein avrebbe bisogno che la maggior parte di loro lavorasse nelle cave e gestisse la contabilità. L’innovazione di frontiera può avvenire solo quando il mondo ordinario che la circonda funziona senza intoppi. Il progresso chiama in causa tutti: da chi salda una vite destinata al telescopio a chi assicura la scuola elementare frequentata dall’infermiere che ha curato l’astronomo. Il progresso si fonda su un’economia operosa che spesso ignoriamo nei racconti delle nostre più grandi imprese.

Come l’intelligenza umana, l’IA sarà indirizzata sia verso intuizioni brillanti sia verso le competenze istituzionali. La domanda è a quale delle due dedicherà la maggior parte del tempo.

L’IA sta già rendendo meno scarsa la capacità di realizzare le idee. Scrive codice, esplora la letteratura di un campo sconosciuto e trasforma uno schizzo in un prototipo funzionante. Sempre più spesso, una sola persona ambiziosa può portare avanti idee che un tempo richiedevano un’intera organizzazione.

Alla maggior parte degli aspiranti registi non vengono mai concessi duecento milioni di dollari per mettersi alla prova. La maggior parte dei progettisti di videogiochi trascorre l’intera carriera a realizzare le visioni creative altrui. Cerchiamo di valorizzare le persone più dotate, ma inevitabilmente ci lasciamo sfuggire del talento. Vista in questa luce, l’era dell’intelligenza inizia affiancando l’ingegno umano e dando a più persone il personale di supporto necessario a realizzare le proprie idee.

Potrebbe nascerne una fioritura di progetti originali e personali, con più opere creative prodotte al di fuori delle istituzioni che prima decidevano chi potesse lavorare in quei campi. La risorsa scarsa si sposta dalla capacità esecutiva al gusto: la capacità di decidere cosa valga la pena realizzare, quale domanda valga la pena porre e quale, tra mille direzioni plausibili, meriti di essere seguita.

Ma la storia potrebbe non finire qui. Man mano che l’IA diventa capace di giungere da sola a nuove intuizioni brillanti, come potremmo già osservare in campi quali la matematica, fornisce non solo lavoro, ma anche programmi da perseguire. Anziché attuare un programma di ricerca umano, ne progetta migliaia di propri. Le IA geniali fanno esplodere il numero di idee per film che vale la pena sviluppare e di ipotesi che vale la pena verificare. Le idee si moltiplicano più rapidamente di quanto le infrastrutture di supporto riescano ad assorbirle.

L’IA di oggi offre un sollievo atteso da tempo: le nostre buone idee ricevono finalmente lo spazio che meritano. Domani le buone idee potrebbero essere così numerose da farci sentire la carenza di capacità esecutiva più che mai.

In definitiva, non sappiamo se i fattori complementari necessari a sfruttare in modo produttivo le nuove intuizioni aumenteranno, diminuiranno o resteranno stabili. Quanto progresso intellettuale si può ottenere con il solo pensiero? Di quanta burocrazia ha bisogno la genialità?

A nostro avviso, la risposta dipende da quanto lontano può spingersi il pensiero prima di dover tornare a confrontarsi con la realtà.

Descriviamo due percorsi possibili. Il primo è una civiltà della profondità, in cui la superintelligenza supera la necessità di ulteriore capitale fisico e coordinamento burocratico. Il secondo è una civiltà dell’espansione, in cui la complessità della natura supera la capacità di qualsiasi intelligenza, umana o artificiale, di progredire senza esperimenti su larga scala e sempre più elaborati nel mondo reale.

Finora la storia umana suggerisce un bisogno crescente di capacità complementari. Il telescopio di Galileo stava nelle sue mani; per Webb è servita una civiltà. Un piccolo gruppo dei Bell Labs assemblò il primo transistor su un banco da lavoro; oggi i progressi nei chip di frontiera nascono da un’intricata filiera globale. Spingersi più lontano continua a richiedere il sostegno di una porzione sempre maggiore della civiltà.

Ma questa storia non deve necessariamente diventare il nostro destino. Menti intelligenti possono inventare fattori complementari più efficienti. Se l’energia è il collo di bottiglia di un nuovo acceleratore di particelle, la genialità può ideare un acceleratore che consumi meno o un modo migliore per raccogliere energia.

Il genio può anche sostituire alcuni dei propri fattori complementari. Einstein riuscì ad arrivare alla relatività con il ragionamento, partendo da pochissimi dati empirici. A noi ne servirebbero molti di più. Alcune persone ricordano semplicemente tutti i propri impegni; la maggior parte di noi si affida alla burocrazia di Google Calendar.

E il genio può affinare al massimo il gusto, scegliendo le ipotesi migliori da verificare ed evitando fallimenti che sprecano risorse. Se ogni genio in più migliora la qualità del piano, anche qualora servissero burocrazie sempre più grandi continueremmo a investire molto nel genio, proprio perché la realizzazione è troppo costosa per sprecarla sull’idea sbagliata.

Nessuno dei due percorsi descriverà perfettamente il nostro futuro reale, ma possiamo considerarli due possibili direzioni per la nostra civiltà.

L’intelligenza può far avanzare la conoscenza in tre modi. Può ragionare a partire dai principi. Può ricavare nuove intuizioni dalle evidenze esistenti. Oppure può raccogliere nuove evidenze osservando il mondo e intervenendo su di esso.

Il primo modo può portare lontano con il solo pensiero. La matematica ne è l’esempio più puro. Di fronte ai molti bivi di una dimostrazione o di un progetto, una mente potente può scegliere sistematicamente la strada giusta. Sostituisce anni di ricerche a tentoni con una catena di ragionamento breve e più mirata.

Anche il secondo modo è un terreno inesplorato che si presta a rapidi progressi. L’umanità ha raccolto molte più evidenze di quante sia riuscita a comprendere. Lo studio dei nostri dati, dalle immagini astronomiche ai vetrini per microscopio fino alle sezioni dei commenti online, è stato limitato dalla scarsità di intelligenza umana. Gli archivi scientifici contengono osservazioni registrate per rispondere a una domanda che potrebbero racchiudere risposte a molte altre. Una grande abbondanza di genio può portare a scoperte non raccogliendo qualcosa di nuovo, ma vedendo ciò che era già lì. Potrebbe scoprire un nuovo universo senza raccogliere un solo nuovo fotone.

Il terzo modo non è altrettanto semplice, perché ci impone di interagire con il mondo fisico. I processi fisici richiedono tempo e spesso si può fare ben poco per accelerarli. Le sostanze chimiche devono reagire. Gli organismi devono crescere. Le macchine devono essere costruite. I veicoli spaziali devono percorrere distanze reali, nel rispetto dei limiti di velocità cosmici. Nemmeno una mente perfetta può osservare il risultato di un esperimento che non è avvenuto.

Ma può provarci. Una civiltà della profondità non sfuggirebbe alla necessità di interrogare la realtà. Diventerebbe radicalmente più parsimoniosa nel farlo. Un ragionamento migliore individuerebbe i pochi esperimenti che contano davvero. Le simulazioni risolverebbero la maggior parte delle questioni e isolerebbero l’esatta incertezza che solo la realtà può sciogliere. La superintelligenza può massimizzare l’efficienza, adattando i progetti alle risorse scarse di cui dispone per sfruttarle al meglio.

Immaginiamo un laboratorio di astrofisica con una serie di ipotesi sulla materia oscura. Queste vengono dapprima sottoposte a simulazioni informatiche iperrealistiche. Per ogni teoria si verifica la coerenza con tutti i dati esistenti. Solo al termine di questo lavoro si acquisiscono poche nuove immagini mirate del cielo per verificare le teorie più promettenti. La civiltà ha ancora bisogno dei fattori complementari al genio, ma ogni unità produce molto più valore.

Il nostro cammino verso una civiltà della profondità potrebbe funzionare come un puzzle. Progredire è facile all’inizio, facile alla fine e più difficile nel mezzo. All’inizio ci sono bordi evidenti e incastri facili. Poi questi si esauriscono, ma la porzione di immagine già assemblata è ancora troppo piccola per guidare il resto. Verso la fine, gli spazi rimasti vuoti indicano quasi da soli cosa debba riempirli. Una scienza quasi completa potrebbe trovare le ultime scoperte più facili di quelle a cui oggi arriviamo con tanta fatica.

È un meccanismo ricorrente nella scienza. Mendeleev riusciva a descrivere elementi ancora sconosciuti perché il resto della tavola periodica imponeva vincoli a ciò che mancava. Il Modello standard diede ai fisici motivo di prevedere l’esistenza del bosone di Higgs decenni prima che lo osservassimo. I nostri esperimenti erano mirati a cercare ciò che ci aspettavamo di vedere: ciò che era coerente con la teoria e i dati esistenti.

La superintelligenza potrebbe dare vita a una civiltà della profondità comprendendo così bene le regolarità del mondo da sapere esattamente di quali nuovi dati ha bisogno. Guiderebbe il progresso attraverso un pensiero più profondo, senza dipendere dal lento cammino dell’espansione fisica.

Se questi guadagni di efficienza fossero predominanti, la civiltà potrebbe accrescere rapidamente il proprio dominio sulla natura, con meno bisogno di intelligenza istituzionale per gestire nuovi e vasti apparati sperimentali. La sua estensione fisica potrebbe restare contenuta mentre la sua saggezza matura.

Noi esseri umani abbiamo già compreso moltissimo del nostro universo senza mai allontanarci da casa. La civiltà della profondità proseguirebbe questa tradizione.

Ma la domanda di nuove evidenze può superare questi guadagni di efficienza. L’intelligenza può rendere meno costosa ogni consultazione della realtà e, al tempo stesso, scoprire molti più motivi per interrogarla. Strumenti migliori aprono frontiere sempre più sottili. Esperimenti più rapidi possono rendere conveniente condurne altri.

Se il percorso quasi puramente cognitivo di Einstein verso le sue teorie della relatività esemplifica una civiltà della profondità, la biologia potrebbe essere la migliore anticipazione di una civiltà dell’espansione. Nonostante tutte le conoscenze accumulate e tutti i dati utilizzati, per sapere se i nuovi farmaci sono sicuri ed efficaci dobbiamo ancora testarli su un gran numero di persone. Oggi le macchine possono simulare processi biologici, permettendo ai biologi di testare nuovi farmaci in silico anziché con esperimenti fisici, ma queste simulazioni digitali non sono abbastanza fedeli al mondo reale da sostituire le sperimentazioni su larga scala sugli esseri umani. Più farmaci candidati proposti dalle macchine rendono la verifica empirica un collo di bottiglia ancora più stretto.

In una civiltà dell’espansione, la genialità da sola non basta a progredire. Il nostro bisogno di risorse fisiche, e di una burocrazia che ne gestisca l’uso, cresce più rapidamente di quanto una mente intelligente riesca a risparmiare sulle une e sull’altra.

Questo potrebbe essere il nostro percorso anche se i futuri sistemi di IA superassero di gran lunga l’intelligenza umana. Una superintelligenza potrebbe progettare un secolo di esperimenti in un pomeriggio, per poi passare quel secolo ad aspettare che la natura e i macchinari facciano il loro corso. In un mondo simile, diventa più utile investire intelligenza nei processi istituzionali necessari a realizzare le idee che nell’ideazione stessa.

L’effetto si amplificherà se ogni passo ulteriore richiederà infrastrutture di supporto sempre più vaste.

In questo scenario vedremmo, in proporzione, meno pensiero e più costruzione. I laboratori si automatizzano. Le fabbriche si moltiplicano. La produzione di energia aumenta. L’intelligenza istituzionale assume un ruolo dominante per rendere possibile tutto questo. L’espansione fisica diventa il motore della conoscenza e la civiltà si estende perché le sue domande hanno superato i mezzi disponibili per ottenere risposte. Più materiali, più energia, più dati per andare avanti.

Una sfera di Dyson è un’immagine estrema di questo futuro. Progettarne una richiede scoperte straordinarie, eppure la maggior parte del progetto non consisterebbe nel concepire idee rivoluzionarie. Si tratterebbe di costruzione e logistica su scala astronomica.

Per progettare una sfera di Dyson servono menti brillanti. Ma sarebbe anche uno dei progetti più ripetitivi, monotoni e complessi da organizzare mai intrapresi.

Non è un fallimento dell’intelligenza, ma una conseguenza del suo successo. Menti più brillanti scoprono più progetti che vale la pena realizzare; progetti più complessi richiedono più materia per essere attuati.

Se è così, il superpotere della superintelligenza potrebbe non essere la sua genialità. Sarebbe invece la sua disponibilità a farsi burocrazia, a coordinare l’immenso apparato tecnologico e istituzionale necessario per trasformare le idee in realtà su scala sempre più ampia.

Quasi tutta l’intelligenza delle macchine verrebbe impiegata non per svolgere compiti brillanti, ma compiti noiosi.

I limiti di velocità che la natura impone all’espansione fisica potrebbero allora frenare ulteriori progressi. Costruire i macchinari per raccogliere l’energia di una stella è un’impresa materiale, per quanto rapidamente se ne possano disegnare i progetti. Al di là ci sono altre stelle e altre galassie, e la distanza, per quanto ne sappiamo, è di per sé un freno: nessuna astronave può viaggiare e nessun segnale può tornare indietro più velocemente della luce. Una civiltà dell’espansione è una civiltà lenta. Le sue grandi trasformazioni potrebbero avvenire a distanza di millenni, forse di milioni di anni. Ogni passo successivo richiede più tempo.

Le rivoluzioni agricola e industriale apparirebbero come l’inizio frenetico di una storia molto più lunga, con un ritmo di progresso molto più lento.

È del tutto possibile che i futuri sistemi di IA superino gli esseri umani sia nel generare intuizioni di frontiera sia nel coordinare le risorse necessarie a renderle utili nella pratica. Ma questa possibilità non diminuisce l’importanza della curiosità umana.

In primo luogo, resta il nostro dovere di cercare la conoscenza, anche se le macchine sembrano più brave a farlo. L’universo potrebbe già ospitare menti molto più sagge delle nostre, capaci di rispondere a domande scientifiche e morali che vanno oltre la nostra comprensione. Eppure cerchiamo comunque di capire il mondo con le nostre forze. L’arrivo di un’altra intelligenza, anche se costruita da noi, non cambia le cose. Finché non sapremo con certezza che l’umanità non ha più nulla di unico da offrire, rinunciare significherebbe sprecare tutto ciò che solo noi possiamo dare al mondo. Resta nostro dovere continuare a porre domande e a cercare risposte.

In secondo luogo, potremmo avere un vantaggio comparato nell’intelligenza di frontiera rispetto a quella istituzionale. Questo significherebbe che, anche se fossimo meno capaci in entrambe, saremmo relativamente migliori nella prima e ci specializzeremmo in quella. Gli esseri umani esprimono una preferenza per la creatività rispetto alla routine, mentre i robot non mostrano una simile preferenza.

In terzo luogo, la varietà è per noi una fonte di valore. Anche se le macchine riuscissero a emulare gran parte del pensiero umano, mantenendo una nostra unicità offriremmo diversità creativa. Gran parte dell’intelligenza delle macchine resterebbe all’interno di un apparato capace di sostenersi da solo, ma una piccola quota verrebbe impiegata da noi al servizio della nostra creatività. Una frazione del totale, ma più che abbondante per la nostra scala e molto superiore alle risorse di cui disponiamo oggi.

L’ingegno non vive in solitudine. Ha bisogno del mondo, e il genio ha bisogno di costruttori per realizzare la propria visione creativa.

Oggi gran parte dell’intelligenza umana è dedicata al lavoro poco celebrato di trasformare le idee in realtà. Le menti artificiali erediteranno la stessa dipendenza. Non potranno essere tutte luminari. Dovranno essere anche burocrati.

La nostra storia futura, e il ritmo del suo progresso, dipendono da questo: se le grandi menti avranno bisogno di una porzione sempre maggiore del mondo o se riusciranno a fare di più con meno.