De eeuwige aanvulling

Noot van de auteurs: Dit is het eerste essay in onze reeks over de economie van de toekomst, onderdeel van een nieuw platform voor onafhankelijke stemmen die een toekomst met AGI verkennen. Het weerspiegelt onze opvattingen, niet die van OpenAI of onze collega's.

De mensheid heeft bijna tot aan het begin der tijden teruggekeken.

Onze vergelijkingen vertellen een grotendeels samenhangend verhaal over het heelal vanaf zijn eerste momenten. Met onze telescopen hebben we tot in de uithoeken van de kosmos gekeken en een glimp van zijn vroege geschiedenis opgevangen. We weten hoe sterren worden geboren en sterrenstelsels ontstaan.

Toch is geen mens ooit verder gereisd dan de maan.

De verklaringen die we zoeken bestrijken het hele heelal, terwijl we lichamelijk nauwelijks van huis zijn geweest. Onze geest waagt zich ver buiten het bereik van onze handen.

Die discrepantie kan twee heel verschillende dingen betekenen.

Eén mogelijkheid is dat we helemaal niet ver hoeven te gaan, dat de diepste waarheden vanaf één planeet te doorgronden zijn. Gewapend met scherpzinnige redenering en efficiënte instrumenten ontrafelen we het heelal zonder het te doorkruisen. In dit verhaal boekt onze beschaving vooruitgang door verdieping in plaats van uitbreiding. Dat zou mede verklaren waarom we nog geen ander intelligent leven hebben gezien: misschien leven we in een sterrenstelsel vol briljante geesten die nooit hoefden uit te breiden en daardoor voor ons onopgemerkt bleven.

De tweede mogelijkheid is onheilspellender. Misschien loopt ons denkvermogen simpelweg vooruit op wat we kunnen uitvoeren. Elke volgende stap kost meer tijd en meer middelen. Aan dromen geen gebrek, maar het ontbreekt ons aan de menskracht om ze waar te maken.

Galileo verruimde onze blik met twee lenzen en een buis. Om die blik in onze tijd opnieuw te verruimen, bouwde de mensheid de James Webb-ruimtetelescoop: een observatorium van tien miljard dollar, opgevouwen in een raket en anderhalf miljoen kilometer de ruimte in gestuurd. De achttien enorme spiegelsegmenten zijn gemaakt met een nauwkeurigheid van vijftig nanometer. Het observatorium kwam tot stand dankzij driehonderd organisaties in veertien landen. Voor Galileo's bijdrage waren enkele tientallen handen nodig. Webb had een leger nodig, met een wereldeconomie erachter.

Om verder te kijken waren niet alleen briljantere geesten nodig. Er was ook een grotere bureaucratie nodig.

We stellen meer vragen dan we kunnen onderzoeken. We ontwerpen meer experimenten dan we kunnen uitvoeren. We bedenken sneller creatieve mogelijkheden dan we ze kunnen verwezenlijken. En op veel terreinen geldt: hoe verder we komen, hoe ingewikkelder het wordt om te bouwen wat we ons voorstellen.

Nick Bloom en zijn medeauteurs⁠(opent in een nieuw venster) onderzochten de onderzoeksproductiviteit in de Amerikaanse economie. Om de wet van Moore in stand te houden zijn nu ruim achttien keer zoveel onderzoekers nodig als begin jaren zeventig. Sinds de jaren dertig is de effectieve onderzoeksinspanning in de hele economie met een factor drieëntwintig toegenomen, terwijl de gemeten onderzoeksproductiviteit met een factor eenenveertig is gedaald.

Het aantal technici groeit twee keer zo snel⁠(opent in een nieuw venster) als het aantal wetenschappers. Het gebruik van gespecialiseerde apparatuur in de wetenschap is in vier decennia verdubbeld⁠(opent in een nieuw venster). Een chipfabriek is tegenwoordig vijf keer zo duur⁠(opent in een nieuw venster) als dertig jaar geleden, en een veel omvangrijkere onderneming.

Deze cijfers wijzen erop dat verdere vooruitgang steeds meer kost. De economie blijft vooruitgaan doordat een enorme uitbreiding van het onderzoeksapparaat de dalende opbrengst per eenheid heeft gecompenseerd.

Die geschiedenis zou ons anders naar genialiteit moeten laten kijken: niet als iets wat op zichzelf staat, maar als één factor in een productieproces. Een briljante hypothese heeft nog altijd bewijs, instrumenten en middelen nodig om haar te toetsen. Een idee is nog geen vooruitgang zonder de apparatuur en het ondersteunende personeel om het te verwezenlijken.

Economen noemen twee productiefactoren complementair als meer van de ene de waarde van de andere verhoogt. Grensverleggende intelligentie en het vermogen om haar ideeën te verwezenlijken zijn in die zin complementair. Een betere telescoop maakt een goede astronomische vraag waardevoller. Een betere vraag maakt de telescoop waardevoller.

Sommige complementaire factoren zijn fysiek. Een theorie wacht op een deeltjesversneller; een technologisch ontwerp wacht op de energie en machines om het te bouwen.

Andere complementaire factoren zijn minder zichtbaar. Een idee op zichzelf is kwetsbaar. Het heeft allerlei instituties nodig. Wetten, bureaucratie, financieringsmechanismen, toeleveringsketens en nog veel meer komen samen om het idee uit te voeren.

Een geweldig idee moet een lange keten doorstaan waarin op allerlei plekken binnen die instituties steeds de juiste handelingen nodig zijn. Noem dit institutionele intelligentie: de ondergewaardeerde intelligentie van de uitvoering. Genialiteit ontwerpt het monument; instituties leggen de stenen. Het ene is briljant, het andere lijkt saai; beide zijn onmisbaar.

We stellen ons superintelligentie soms voor als een miljard Einsteins. Maar ook in een beschaving van een miljard Einsteins moet de meerderheid in de steengroeven werken en de boekhouding bijhouden. Grensverleggende innovatie is alleen mogelijk als de gewone wereld eromheen soepel draait. Vooruitgang doet een beroep op iedereen: van de lasser van een schroef in de telescoop tot de verzekeraar van de basisschool waar een verpleegkundige les kreeg die de astronoom behandelde. Vooruitgang rust op een soepel draaiende economie die we in de verhalen over onze grootste prestaties vaak over het hoofd zien.

Net als menselijke intelligentie zal AI worden ingezet voor zowel briljante inzichten als institutionele slagkracht. De vraag is waaraan ze het overgrote deel van haar tijd zal besteden.

AI maakt uitvoeringscapaciteit nu al minder schaars. Ze schrijft code, doorzoekt onbekende vakliteratuur en zet een schets om in een werkend prototype. Ideeën waarvoor ooit een hele organisatie nodig was, kan één ambitieus persoon steeds vaker zelf uitwerken.

De meeste aspirant-filmmakers krijgen nooit tweehonderd miljoen dollar om hun kans te wagen. De meeste gameontwerpers werken hun hele loopbaan aan de creatieve visies van anderen. We proberen de meest begaafde mensen vooruit te helpen, maar zien onvermijdelijk talent over het hoofd. Zo bezien begint het tijdperk van intelligentie met een aanvulling op de menselijke vindingrijkheid: meer mensen krijgen de ondersteuning om hun eigen ideeën te verwezenlijken.

Dat kan een weelde aan eigenzinnige projecten opleveren, met meer creatief werk buiten de instellingen die voorheen bepaalden wie op die terreinen aan de slag kon. De schaarse factor verschuift van uitvoering naar smaak: het vermogen om te bepalen wat het maken waard is, welke vraag het stellen waard is en welke van duizend kansrijke richtingen het verdient om te worden verkend.

Maar daarmee is het verhaal misschien niet af. Naarmate AI zelfstandig tot briljante nieuwe inzichten kan komen, wat we misschien al zien op terreinen als de wiskunde, levert ze niet alleen de arbeidskracht, maar bepaalt ze ook wat er moet gebeuren. In plaats van één door mensen opgesteld onderzoeksprogramma uit te voeren, ontwerpt ze er zelf duizenden. Geniale AI-systemen laten het aantal filmconcepten dat uitwerking verdient en hypothesen dat toetsing verdient explosief groeien. Ideeën ontstaan sneller dan de ondersteunende infrastructuur ze aankan.

De AI van vandaag biedt de langverwachte adempauze waarin onze goede ideeën eindelijk tot hun recht komen. Morgen zijn er misschien zo veel goede ideeën dat we meer dan ooit om uitvoeringscapaciteit verlegen zitten.

Uiteindelijk weten we niet of er meer, minder of evenveel complementaire capaciteit nodig zal zijn om nieuwe inzichten productief te benutten. Hoeveel intellectuele vooruitgang is mogelijk door alleen na te denken? Hoeveel bureaucratie heeft genialiteit nodig?

Volgens ons hangt het antwoord af van hoe ver het denken kan komen voordat het opnieuw contact met de werkelijkheid moet maken.

We beschrijven twee mogelijke routes. De eerste is een beschaving gericht op verdieping, waarin superintelligentie de behoefte aan meer fysiek kapitaal en bureaucratische coördinatie weet te overwinnen. De tweede is een beschaving gericht op uitbreiding, waarin de natuur te complex is voor welke intelligentie dan ook, menselijk of machinaal, om vooruitgang te boeken zonder grote en steeds ingewikkeldere experimenten in de echte wereld.

De menselijke geschiedenis wijst tot nu toe op een groeiende behoefte aan complementaire capaciteit. Galileo's telescoop paste in zijn handen; Webb had een beschaving nodig. Een klein team van Bell Labs bouwde de eerste transistor op een werkbank; grensverleggende ontwikkelingen in chiptechnologie komen nu voort uit een complexe wereldwijde toeleveringsketen. Om verder te reiken is telkens een groter deel van de beschaving nodig.

Maar die geschiedenis hoeft onze toekomst niet vast te leggen. Slimme geesten kunnen efficiëntere complementaire middelen uitvinden. Als energie de bottleneck vormt voor een nieuwe deeltjesversneller, kan genialiteit een zuinigere versneller bedenken of een betere manier om energie te winnen.

Genialiteit kan ook sommige van haar complementaire factoren vervangen. Einstein kon met heel weinig empirische gegevens via denkwerk tot de relativiteitstheorie komen. Wij zouden er veel meer nodig hebben. Sommige mensen onthouden al hun afspraken gewoon; de meesten van ons vertrouwen op de bureaucratie van Google Agenda.

En genialiteit kan het beoordelingsvermogen aanscherpen: de beste hypothesen kiezen om te toetsen en kostbare mislukkingen vermijden. Als elk extra genie het plan beter maakt, zouden we ook bij een steeds grotere behoefte aan bureaucratie fors in genialiteit blijven investeren. Juist omdat uitvoering zo duur is, kunnen we het ons niet veroorloven die aan het verkeerde te verspillen.

Geen van beide routes zal onze werkelijke toekomst precies beschrijven, maar ze geven twee mogelijke richtingen aan voor onze beschaving.

Intelligentie kan kennis op drie manieren vergroten. Ze kan redeneren vanuit principes. Ze kan nieuwe inzichten uit bestaand bewijsmateriaal halen. Of ze kan nieuw bewijsmateriaal verzamelen door de wereld te observeren en erin in te grijpen.

Met de eerste aanpak kun je door denken alleen al ver komen. Wiskunde is daarvan het zuiverste voorbeeld. Op de vele keuzemomenten in een bewijs of project kan een krachtige geest steeds de juiste beslissing nemen. Die vervangt jarenlang moeizaam zoeken door een korte, gerichtere redenering.

Ook de tweede aanpak biedt een onontgonnen terrein voor snelle vooruitgang. De mensheid heeft veel meer bewijsmateriaal verzameld dan ze heeft begrepen. Het bestuderen van onze gegevens, van astronomische beelden en microscooppreparaten tot online reacties, wordt begrensd door de schaarste aan menselijke intelligentie. Wetenschappelijke archieven bevatten waarnemingen die zijn vastgelegd om één vraag te beantwoorden, maar mogelijk antwoorden op veel andere vragen bevatten. Met een overvloed aan genialiteit zijn ontdekkingen mogelijk zonder iets nieuws te verzamelen, simpelweg door te zien wat er al was. Zo zou ze een nieuw heelal kunnen ontdekken zonder één nieuw foton op te vangen.

De derde aanpak is minder eenvoudig, omdat we daarvoor met de fysieke wereld moeten interageren. Fysieke processen kosten tijd en zijn vaak nauwelijks te versnellen. Chemische stoffen moeten reageren. Organismen moeten groeien. Machines moeten worden gebouwd. Ruimtevaartuigen moeten echte afstanden afleggen, gebonden aan kosmische snelheidslimieten. Zelfs een volmaakte geest kan de uitkomst van een nog niet uitgevoerd experiment niet waarnemen.

Maar hij kan het proberen. Een beschaving gericht op verdieping zou niet ontkomen aan de noodzaak om de werkelijkheid te raadplegen. Ze zou daar wel radicaal zuiniger mee omgaan. Betere redenering zou de weinige experimenten aanwijzen die er echt toe doen. Simulaties zouden de meeste vragen beantwoorden en precies de onzekerheid blootleggen waarover de werkelijkheid uitsluitsel moet geven. Superintelligentie kan de efficiëntie maximaliseren door haar ontwerpen af te stemmen op schaarse middelen en daar zo veel mogelijk uit te halen.

Stel je een astrofysisch laboratorium voor met een reeks hypothesen over donkere materie. Die worden eerst doorgerekend met hyperrealistische computermodellen. Voor elke theorie wordt nagegaan of ze strookt met alle bestaande gegevens. Pas daarna worden gericht enkele nieuwe opnamen van de hemel gemaakt om de kansrijkste theorieën te toetsen. De beschaving heeft nog steeds complementaire factoren nodig naast genialiteit, maar elke eenheid levert veel meer waarde op.

Onze weg naar een beschaving gericht op verdieping zou op het leggen van een puzzel kunnen lijken. Vooruitgang is eenvoudig aan het begin, eenvoudig aan het einde en het moeilijkst in het midden. Eerst zijn er duidelijke randstukken en stukjes die gemakkelijk bij elkaar passen. Dan raken die op, terwijl er nog te weinig van de afbeelding ligt om houvast te bieden voor de rest. Tegen het einde vertellen de overgebleven gaten je bijna zelf wat erin hoort. Een bijna voltooide wetenschap zou haar laatste ontdekkingen gemakkelijker kunnen doen dan de ontdekkingen waarvoor wij nu zo hard moeten werken.

Dit is een vertrouwd patroon in de wetenschap. Mendelejev kon nog onontdekte elementen beschrijven doordat de rest van het periodiek systeem de mogelijkheden voor de ontbrekende elementen beperkte. Het standaardmodel gaf natuurkundigen reden om het higgsboson te verwachten, tientallen jaren voordat we het waarnamen. Onze experimenten waren gericht op wat we verwachtten te zien: wat strookte met de bestaande theorie en gegevens.

Superintelligentie zou een beschaving gericht op verdieping mogelijk kunnen maken door de patronen van de wereld zo goed te begrijpen dat ze precies weet welke nieuwe gegevens nodig zijn. Ze zou vooruitgang aandrijven door dieper te denken, zonder afhankelijk te zijn van de trage gang van fysieke uitbreiding.

Als die efficiëntiewinsten de doorslag geven, zou de beschaving haar beheersing van de natuur snel kunnen verdiepen, met minder behoefte aan institutionele intelligentie om enorme nieuwe experimentele installaties te beheren. Haar fysieke omvang kan klein blijven terwijl haar wijsheid groeit.

Wij mensen hebben al zo veel van ons heelal begrepen zonder ooit van huis te gaan. Een beschaving gericht op verdieping zou die traditie voortzetten.

Maar de vraag naar nieuw bewijsmateriaal kan groter zijn dan die efficiëntiewinsten kunnen opvangen. Intelligentie kan elke raadpleging van de werkelijkheid goedkoper maken en tegelijk veel meer redenen ontdekken om die te raadplegen. Betere instrumenten ontsluiten steeds fijnmazigere onderzoeksgebieden. Snellere experimenten kunnen extra experimenten de moeite waard maken.

Als Einsteins vrijwel zuiver intellectuele weg naar zijn relativiteitstheorieën kenmerkend is voor een beschaving gericht op verdieping, biedt de biologie misschien het beste voorproefje van een beschaving gericht op uitbreiding. Ondanks alle kennis die we hebben vergaard en alle gegevens die we hebben benut, moeten nieuwe medicijnen nog steeds op grote aantallen mensen worden getest om te weten of ze veilig en effectief zijn. Machines kunnen inmiddels biologische processen simuleren, waardoor biologen nieuwe medicijnen in silico kunnen testen in plaats van met fysieke experimenten. Maar die digitale simulaties benaderen de echte wereld niet nauwkeurig genoeg om grootschalige proeven op mensen te vervangen. Hoe meer kandidaat-medicijnen de machine oplevert, hoe groter de bottleneck van empirische toetsing wordt.

In een beschaving gericht op uitbreiding is genialiteit alleen niet genoeg om vooruitgang te boeken. Onze behoefte aan fysieke middelen, en aan een bureaucratie om het gebruik ervan te beheren, groeit sneller dan een slimme geest op beide kan besparen.

Dit kan ons pad zijn, ook als toekomstige AI-systemen de menselijke intelligentie ver overtreffen. Een superintelligentie zou in één middag een eeuw aan experimenten kunnen ontwerpen, om vervolgens die hele eeuw te wachten tot de natuur en de machines ze hebben voltooid. In zo'n wereld wordt het waardevoller om intelligentie te investeren in de institutionele processen die nodig zijn om ideeën uit te voeren dan in het bedenken van die ideeën zelf.

Dat effect versterkt zichzelf als elke volgende stap steeds meer ondersteunende infrastructuur vereist.

Hier zouden we naar verhouding minder denken en meer bouwen. Laboratoria automatiseren. Het aantal fabrieken groeit. De energieproductie stijgt. Institutionele intelligentie voert de boventoon om dit alles mogelijk te maken. Fysieke uitbreiding wordt de motor van kennis, en de beschaving breidt zich uit omdat haar vragen de beschikbare middelen om antwoorden te vinden zijn ontgroeid. Meer materialen, meer energie, meer gegevens om verder te komen.

Een dysonsfeer is een extreem beeld van deze toekomst. Om er een te ontwerpen zijn uitzonderlijke doorbraken nodig, maar het grootste deel van het project zou niet uit baanbrekend denkwerk bestaan. Het zou gaan om bouw en logistiek op astronomische schaal.

Voor de blauwdruk van een dysonsfeer zijn briljante geesten nodig. Het zou ook een van de meest repetitieve, eentonige en organisatorisch veeleisende projecten ooit zijn.

Dat is geen tekortkoming van intelligentie, maar juist een gevolg van haar succes. Briljantere geesten ontdekken meer projecten die de moeite waard zijn; complexere projecten vergen meer materie om ze uit te voeren.

Als dat zo is, schuilt de superkracht van superintelligentie misschien niet in haar genialiteit. Die zou dan juist liggen in haar bereidheid om de bureaucratie te vormen: om het enorme technologische en institutionele apparaat te coördineren dat ideeën op steeds grotere schaal werkelijkheid maakt.

Bijna alle machine-intelligentie zou niet worden ingezet voor het briljante werk, maar voor het saaie.

De natuurlijke snelheidslimieten voor fysieke uitbreiding kunnen dan verdere vooruitgang afremmen. De apparatuur bouwen om de energie van een ster te oogsten blijft een materiële onderneming, hoe snel de plannen ook worden getekend. Daarachter liggen andere sterren en sterrenstelsels, en afstand vormt, voor zover we weten, op zichzelf een rem: geen schip kan sneller reizen en geen signaal sneller terugkeren dan het licht. Een beschaving gericht op uitbreiding is een trage beschaving. Tussen haar grote veranderingen kunnen duizenden, misschien wel miljoenen jaren liggen. Elke volgende stap duurt langer.

De landbouwrevolutie en de industriële revolutie zouden dan de koortsachtige aanloop lijken tot een veel langere geschiedenis, met een veel trager tempo van vooruitgang.

Het is goed mogelijk dat toekomstige AI-systemen mensen overtreffen in zowel het voortbrengen van grensverleggende inzichten als het coördineren van de middelen om die inzichten praktisch bruikbaar te maken. Maar die mogelijkheid maakt menselijke nieuwsgierigheid niet minder belangrijk.

Ten eerste blijft het onze plicht om naar inzicht te streven, ook als machines daar beter in lijken te zijn. Het heelal herbergt misschien al geesten die veel wijzer zijn dan wij, met antwoorden op wetenschappelijke en morele vragen die ons bevattingsvermogen te boven gaan. Toch proberen we de wereld nog steeds zelf te begrijpen. De komst van een andere intelligentie, zelfs een die we zelf bouwen, verandert daar niets aan. Zolang we niet zeker weten dat de mensheid niets eigens meer kan bijdragen, zou opgeven betekenen dat we verspillen wat alleen wij aan de wereld kunnen toevoegen. Het blijft onze plicht om vragen te stellen en naar antwoorden te zoeken.

Ten tweede hebben we mogelijk een comparatief voordeel in grensverleggende intelligentie ten opzichte van institutionele intelligentie. Dat zou betekenen dat we, ook als we in beide slechter zijn, relatief beter zijn in het eerste en ons daarin specialiseren. Mensen geven aan liever creatief bezig te zijn dan routinewerk te doen; robots spreken zo'n voorkeur niet uit.

Ten derde is verscheidenheid waardevol voor ons. Zelfs als machines het grootste deel van het menselijke denken kunnen nabootsen, bieden wij creatieve diversiteit zolang we iets unieks behouden. Een groot deel van de machine-intelligentie zou binnen haar eigen, zichzelf in stand houdende apparaat blijven, maar een klein deel zouden wij inzetten voor onze creatieve wensen. Een fractie van het geheel, maar naar onze maatstaven een ongekende luxe, en veel meer dan de middelen waarover we nu beschikken.

Vindingrijkheid staat niet op zichzelf. Ze heeft de wereld nodig, en genialiteit heeft bouwers nodig om haar creatieve visie te verwezenlijken.

Veel menselijke intelligentie gaat nu naar het ondergewaardeerde werk om ideeën werkelijkheid te maken. Machinegeesten zullen diezelfde afhankelijkheid erven. Ze kunnen niet allemaal grote denkers zijn. Ze moeten ook bureaucraten zijn.

Onze toekomstige geschiedenis, en het tempo van onze vooruitgang, hangen af van de vraag of grote geesten steeds meer van de wereld nodig hebben, of juist meer kunnen doen met minder.