Det eviga komplementet

Författarnas anmärkning: Detta är den första essän i vår serie om nästa ekonomi, som ingår i en ny plattform för oberoende röster som utforskar en framtid med AGI. Den återspeglar våra åsikter, inte OpenAI:s eller våra kollegors.

Mänskligheten har blickat nästan ända tillbaka till tidens början.

Våra ekvationer ger en till stora delar sammanhängande bild av universum från dess första ögonblick. Med våra teleskop har vi blickat ut mot kosmos ytterkanter och fått en glimt av dess tidiga historia. Vi vet hur stjärnor föds och galaxer bildas.

Ändå har ingen människa någonsin färdats längre än till månen.

Förklaringarna vi söker omfattar hela universum, medan våra kroppar knappt har lämnat hemmet. Våra tankar sträcker sig långt bortom våra händers räckvidd.

Den skillnaden kan betyda två helt olika saker.

En möjlighet är att vi inte behöver resa särskilt långt, att de djupaste sanningarna kan förstås från en enda planet. Med upplysta resonemang och effektiva instrument blottlägger vi universum utan att färdas genom det. I den här berättelsen utvecklas vår civilisation på djupet i stället för på bredden. Det skulle bidra till att förklara varför vi inte har sett annat intelligent liv: vi kanske lever i en galax full av briljanta intellekt som aldrig har behövt expandera och bli synliga för oss.

Den andra möjligheten är mer skrämmande. Våra tankar kan helt enkelt ha sprungit ifrån vår förmåga att genomföra dem. Varje nytt steg tar mer tid och mer resurser. Vi har ingen brist på drömmar, men saknar arbetskraft för att förverkliga dem.

Galileo vidgade vår syn med två linser och ett rör. För att vidga den ytterligare i vår tid byggde mänskligheten rymdteleskopet James Webb, ett observatorium för tio miljarder dollar som veks ihop inuti en raket och skickades 1,6 miljoner kilometer bort. Dess arton enorma spegelsegment är tillverkade med en precision på femtio nanometer. Observatoriet skapades av trehundra organisationer i fjorton länder. Galileos bidrag krävde några dussin händer. Webb behövde en armé, med en global ekonomi bakom sig.

För att se längre krävdes inte bara skarpare hjärnor. Det krävdes en större byråkrati.

Vi ställer fler frågor än vi kan undersöka. Vi utformar fler experiment än vi kan genomföra. Vi föreställer oss kreativa möjligheter snabbare än vi kan förverkliga dem. Och inom många områden gäller att ju längre vi kommer, desto mer komplicerat blir det att bygga det vi föreställer oss.

Nick Bloom och hans medförfattare⁠(öppnas i ett nytt fönster) studerade forskningens produktivitet i hela den amerikanska ekonomin. Att upprätthålla Moores lag kräver nu mer än arton gånger så många forskare som i början av 1970-talet. Sedan 1930-talet har den effektiva forskningsinsatsen i hela ekonomin ökat tjugotre gånger, medan den uppmätta forskningsproduktiviteten har sjunkit till en fyrtioendel.

Antalet tekniker växer dubbelt så snabbt⁠(öppnas i ett nytt fönster) som antalet forskare. Användningen av specialutrustning inom vetenskapen har fördubblats⁠(öppnas i ett nytt fönster) på fyra decennier. En halvledarfabrik är i dag fem gånger så dyr⁠(öppnas i ett nytt fönster) – och en mycket mer omfattande verksamhet – som för trettio år sedan.

Siffrorna tyder på att fortsatta framsteg blir allt dyrare. Ekonomin går ändå framåt eftersom en enorm ökning av forskningsverksamheten har kompenserat för den minskande avkastningen per insatsenhet.

Den historien borde få oss att se annorlunda på genialitet: inte som något isolerat, utan som en insatsfaktor i en produktionsprocess. En briljant hypotes behöver fortfarande belägg, instrument och resurser för att prövas. En idé är ännu inget framsteg utan maskineriet och stödpersonalen som kan förverkliga den.

Ekonomer kallar två insatsfaktorer komplement när mer av den ena ökar värdet av den andra. Banbrytande intelligens och förmågan att förverkliga dess idéer är komplement i den bemärkelsen. Ett bättre teleskop gör en bra astronomisk fråga mer värdefull. En bättre fråga gör teleskopet mer värdefullt.

Vissa komplement är fysiska. En teori väntar på en partikelaccelerator; en teknisk konstruktion väntar på energin och maskinerna som krävs för att bygga den.

Andra komplement är svårare att se med blotta ögat. En idé är i sig något bräckligt. Den behöver institutioner av alla slag. Lagar, byråkrati, finansieringsmekanismer, leveranskedjor och mycket annat samverkar för att förverkliga idén.

En stor idé måste klara sig genom en lång kedja där rätt handlingar utförs lokalt i dessa institutioner. Vi kan kalla det institutionell intelligens: genomförandets förbisedda intelligens. Genialiteten ritar monumentet; institutionerna lägger stenen. Det ena är briljant, det andra verkar tråkigt; båda är helt avgörande.

Ibland föreställer vi oss superintelligens som en miljard Einstein. Men i en civilisation med en miljard Einstein behövs fortfarande de flesta av dem för att bryta sten och sköta bokföringen. Banbrytande innovation är bara möjlig när den vanliga världen runt omkring fungerar friktionsfritt. Framsteg behöver alla – från den som svetsar en skruv till teleskopet till försäkringsgivaren för grundskolan där sjuksköterskan som vårdade astronomen en gång gick. Framsteg bygger på en välfungerande ekonomi som vi ofta förbiser i berättelserna om våra största bedrifter.

Liksom mänsklig intelligens kommer AI att användas både till briljanta insikter och till institutionell kompetens. Frågan är vad den kommer att ägna merparten av sin tid åt.

AI minskar redan bristen på genomförandekapacitet. Den skriver kod, söker igenom obekant litteratur och förvandlar en skiss till en fungerande prototyp. Idéer som en gång krävde en hel organisation kan i allt högre grad förverkligas av en enda ambitiös person.

De flesta blivande filmskapare får aldrig tvåhundra miljoner dollar för att pröva sina vingar. De flesta speldesigner ägnar hela sin karriär åt att förverkliga andras kreativa visioner. Vi försöker lyfta fram de mest begåvade, men går oundvikligen miste om talanger. Ur det perspektivet börjar intelligensens tidsålder med att komplettera mänsklig uppfinningsrikedom och ge fler av oss stödpersonal som hjälper oss att förverkliga egna idéer.

Det skulle kunna ge en mångfald av särpräglade projekt, där mer kreativt arbete sker utanför de institutioner som tidigare avgjorde vem som fick verka inom dessa områden. Bristvaran förskjuts från genomförande till omdöme – förmågan att avgöra vad som är värt att skapa, vilken fråga som är värd att ställa och vilken av tusen tänkbara riktningar som förtjänar att följas.

Men det behöver inte vara slutet på historien. När AI blir kapabel att nå briljanta nya insikter på egen hand – något vi kanske redan ser inom områden som matematik – bidrar den med såväl inriktning som arbetskraft. I stället för att genomföra ett mänskligt forskningsprogram utformar den tusentals egna. AI-genier får antalet filmidéer värda att utveckla och hypoteser värda att testa att explodera. Idéerna blir fler snabbare än den stödjande infrastrukturen kan ta hand om dem.

Dagens AI ger oss en efterlängtad respit, där våra goda idéer äntligen får den uppmärksamhet de förtjänar. I morgon kan de goda idéerna vara så många att vi lider större brist på genomförandekapacitet än någonsin.

I slutändan vet vi inte om behovet av komplement för att dra produktiv nytta av nya insikter kommer att växa, krympa eller förbli oförändrat. Hur stora intellektuella framsteg kan man göra enbart genom att tänka? Hur mycket byråkrati behöver genialiteten?

Vi menar att svaret beror på hur långt tanken kan nå innan den måste söka ny kontakt med verkligheten.

Vi beskriver två möjliga vägar. Den första är en civilisation på djupet, där superintelligens övervinner behovet av mer fysiskt kapital och byråkratisk samordning. Den andra är en civilisation på bredden, där naturens komplexitet överstiger varje intelligens förmåga – mänsklig som maskinell – att göra framsteg utan stora och alltmer avancerade experiment i den verkliga världen.

Mänsklighetens historia tyder hittills på ett växande behov av kompletterande kapacitet. Galileos teleskop rymdes i hans händer; Webb krävde en civilisation. Ett litet team på Bell Labs satte ihop den första transistorn på en arbetsbänk; dagens banbrytande framsteg inom halvledare kommer från en invecklad global leveranskedja. Att nå längre kräver ständigt stöd från en allt större del av civilisationen.

Men historien behöver inte bestämma framtiden. Smarta hjärnor kan uppfinna effektivare komplement. Om energin är flaskhalsen för en ny partikelaccelerator kan genialitet ge oss en resurssnålare accelerator eller ett bättre sätt att utvinna energi.

Genialitet kan också ersätta vissa av sina komplement. Einstein kunde tänka sig fram till relativitetsteorin med mycket lite empiriska data. Vi skulle behöva betydligt mer. Vissa människor kommer helt enkelt ihåg allt de har inbokat – de flesta av oss förlitar sig på byråkratin i Google Kalender.

Och genialitet kan vässa omdömet till det yttersta, välja de bästa hypoteserna att testa och undvika slösaktiga misslyckanden. Om varje ytterligare geni höjer planens kvalitet skulle vi fortsätta att satsa stort på genialitet även om det krävs allt större byråkratier, just för att det är så dyrt att slösa genomförandekapacitet på fel sak.

Ingen av vägarna kommer att beskriva vår faktiska framtid helt, men de kan ses som två möjliga riktningar för vår civilisation.

Intelligens kan föra kunskapen framåt på tre sätt. Den kan resonera utifrån principer. Den kan dra nya slutsatser ur befintliga belägg. Eller så kan den samla in nya belägg genom att observera och ingripa i världen.

Med det första sättet kan man komma långt enbart genom tanken. Matematiken är det renaste exemplet. Vid de många vägvalen i ett bevis eller projekt kan ett skarpt intellekt konsekvent välja rätt. Det ersätter år av famlande sökande med en kort, mer målinriktad kedja av resonemang.

Även det andra sättet rymmer outnyttjade möjligheter till snabba framsteg. Mänskligheten har samlat in långt mer belägg än den har förstått. Studiet av våra data – astronomiska bilder, mikroskoppreparat, kommentarsfält på nätet – har begränsats av bristen på mänsklig intelligens. Vetenskapliga arkiv innehåller observationer som gjorts för att besvara en fråga men som kan rymma svar på många andra. Med riklig tillgång till genialitet kan upptäckter göras utan att något nytt samlas in, bara genom att se det som redan fanns där. Ett nytt universum skulle kunna upptäckas utan att en enda ny foton fångas in.

Det tredje sättet är inte lika enkelt, eftersom det kräver att vi samspelar med den fysiska världen. Fysiska processer tar tid, och ofta går det inte att göra särskilt mycket för att skynda på dem. Kemikalier måste reagera. Organismer måste växa. Maskiner måste byggas. Rymdfarkoster måste tillryggalägga verkliga avstånd, underkastade kosmiska hastighetsgränser. Inte ens ett perfekt intellekt kan observera resultatet av ett experiment som inte har ägt rum.

Men det kan försöka. En civilisation på djupet skulle inte slippa behovet av att rådfråga verkligheten. Den skulle göra det på ett radikalt mer resurssnålt sätt. Bättre resonemang skulle identifiera de få experiment som verkligen spelar roll. Simuleringar skulle besvara de flesta frågorna och ringa in exakt vilken osäkerhet som verkligheten måste avgöra. Superintelligens kan maximera effektiviteten genom att anpassa sina lösningar efter knappa resurser och få ut mesta möjliga av dem.

Föreställ dig ett astrofysiklabb med ett antal hypoteser om mörk materia. De prövas först genom hyperrealistisk datormodellering. Varje teori kontrolleras mot alla befintliga data. Först därefter tas några få riktade nya bilder av himlen för att testa de mest lovande teorierna. Civilisationen behöver fortfarande komplementen till genialiteten, men varje enhet ger långt mer värde.

Vår väg till en civilisation på djupet skulle kunna fungera som ett pussel. Det är lätt att komma framåt i början, lätt i slutet och svårast i mitten. Till en början finns tydliga kanter och bitar som lätt hittar sin plats. Sedan tar de slut, samtidigt som för lite av bilden är lagd för att vägleda resten. Mot slutet avslöjar de återstående luckorna nästan själva vilka bitar som hör hemma där. En nästan fullständig vetenskap skulle kunna nå sina sista upptäckter lättare än dem vi kämpar för i dag.

Det är ett välbekant mönster inom vetenskapen. Mendelejev kunde beskriva oupptäckta grundämnen eftersom resten av det periodiska systemet satte ramarna för det som saknades. Standardmodellen gav fysiker anledning att förvänta sig Higgsbosonen flera decennier innan vi observerade den. Våra experiment var inriktade på att leta efter det vi förväntade oss att se – det som stämde med befintlig teori och data.

Superintelligens skulle kunna skapa en civilisation på djupet genom att förstå världens mönster så väl att den vet exakt vilka nya data den behöver. Den skulle driva framstegen genom djupare tänkande, utan att vara beroende av den fysiska expansionens långsamma gång.

Om dessa effektivitetsvinster väger tyngst skulle civilisationen snabbt kunna fördjupa sin förmåga att bemästra naturen, med mindre behov av institutionell intelligens för att styra väldiga nya experimentanläggningar. Dess fysiska utbredning kan förbli liten medan dess visdom mognar.

Vi människor har redan förstått så mycket om vårt universum utan att någonsin lämna hemmet. Civilisationen på djupet skulle föra den traditionen vidare.

Men behovet av nya belägg kan överstiga dessa effektivitetsvinster. Intelligens kan göra varje avstämning mot verkligheten billigare och samtidigt upptäcka många fler skäl att stämma av mot den. Bättre instrument öppnar nya möjligheter att utforska allt finare detaljer. Snabbare experiment kan göra det mödan värt att genomföra fler experiment.

Om Einsteins nästan helt tankebaserade väg till relativitetsteorierna är typisk för en civilisation på djupet, kanske biologin ger den bästa föraningen om en civilisation på bredden. Trots all kunskap vi har samlat och alla data vi har använt måste nya läkemedel fortfarande testas på ett stort antal människor för att vi ska veta att de är säkra och effektiva. Maskiner kan nu simulera biologiska processer, vilket gör att biologer kan testa nya läkemedel in silico i stället för i fysiska experiment, men dessa digitala simuleringar återger inte verkligheten tillräckligt väl för att ersätta storskaliga studier på människor. Fler läkemedelskandidater från maskinerna gör empirisk prövning till en större flaskhals.

I en civilisation på bredden räcker inte genialitet i sig för att göra framsteg. Vårt behov av fysiska resurser – och en byråkrati som hanterar användningen av dem – växer snabbare än ett skarpt intellekt kan minska behovet av någondera.

Det kan bli vår väg även om framtidens AI-system vida överträffar mänsklig intelligens. En superintelligens skulle kunna planera ett sekels experiment på en eftermiddag och sedan tillbringa seklet med att vänta på att naturen och maskinerna ska göra sitt. I en sådan värld blir det mer värdefullt att lägga intelligens på de institutionella processer som behövs för att förverkliga idéer än på själva idéskapandet.

Effekten förstärks om varje nytt steg kräver allt mer stödjande infrastruktur.

Här skulle vi se relativt mindre tänkande och relativt mer byggande. Laboratorier automatiseras. Fabrikerna blir fler. Energiproduktionen ökar. Den institutionella intelligensen dominerar för att få allt detta att hända. Fysisk expansion blir kunskapens motor, och civilisationen breder ut sig eftersom dess frågor har vuxit ifrån möjligheterna att besvara dem. Mer material, mer energi, mer data för att fortsätta framåt.

En Dysonsfär är en extrem bild av denna framtid. Att utforma en sådan kräver enastående genombrott, men större delen av projektet skulle inte bestå av nyskapande tänkande. Det skulle handla om byggarbete och logistik i astronomisk skala.

Det krävs briljanta hjärnor för att rita en Dysonsfär. Den skulle också vara ett av de mest repetitiva, monotona och organisatoriskt krävande projekt som någonsin genomförts.

Det är inte ett misslyckande för intelligensen, utan snarare en följd av dess framgång. Skarpare hjärnor upptäcker fler värdefulla projekt; mer komplexa projekt kräver mer materia för att genomföras.

Om det är så kanske superintelligensens superkraft inte är dess genialitet. Den skulle i stället vara dess vilja att utgöra byråkratin, att samordna det väldiga tekniska och institutionella maskineri som krävs för att förverkliga idéer i allt större skala.

Nästan all maskinintelligens skulle användas inte till det briljanta, utan till det tråkiga.

Naturens hastighetsgränser för fysisk expansion kan då bli en flaskhals för fortsatta framsteg. Att bygga maskineriet för att utvinna en stjärnas energi är ett projekt i materia, oavsett hur snabbt planerna tar form. Bortom den finns andra stjärnor och andra galaxer, och avståndet är (såvitt vi vet) en broms i sig: inget rymdskepp kan färdas och ingen signal återvända snabbare än ljuset. En civilisation på bredden är en långsam civilisation. Dess stora förändringar kan komma med tusentals, kanske miljontals års mellanrum. Varje nytt steg tar längre tid.

Jordbruksrevolutionen och den industriella revolutionen skulle framstå som den febrila inledningen till en mycket längre historia, där framstegen går mycket långsammare.

Framtidens AI-system kan mycket väl överträffa människan både i att nå banbrytande insikter och i att samordna de resurser som behövs för att göra insikterna praktiskt användbara. Men den möjligheten gör inte mänsklig nyfikenhet mindre viktig.

För det första kvarstår vår skyldighet att söka kunskap, även om maskiner verkar bättre på det. Universum kanske redan rymmer intellekt som är långt visare än våra, med svar på vetenskapliga och moraliska frågor bortom vår fattningsförmåga. Ändå försöker vi förstå världen själva. Att en annan intelligens gör entré – även en som vi själva bygger – ändrar inte på det. Innan vi med säkerhet vet att mänskligheten inte längre har något unikt att bidra med skulle vi genom att ge upp slösa bort allt det som bara vi kan tillföra världen. Vår plikt är fortfarande att fortsätta ställa frågor och försöka besvara dem.

För det andra kan vi ha en komparativ fördel inom banbrytande intelligens jämfört med institutionell intelligens. Det skulle innebära att vi, även om vi är sämre på båda, är relativt bättre på det förra och specialiserar oss på det. Människor uttrycker en önskan att vara kreativa snarare än att utföra rutinarbete, medan robotar inte uttrycker någon sådan preferens.

För det tredje har variation ett värde för oss. Även om maskiner kan efterlikna det mesta av mänskligt tänkande bidrar vi med kreativ mångfald så länge vi behåller något unikt. En stor del av maskinintelligensen skulle stanna i sitt eget självförsörjande maskineri, men en liten del skulle vi använda för våra kreativa syften. En bråkdel av helheten, men ett överflöd i vår skala och långt mer än de resurser vi har i dag.

Uppfinningsrikedom verkar inte i ett vakuum. Den behöver omvärlden, och genialitet behöver byggare för att förverkliga sin kreativa vision.

En stor del av människans intelligens går i dag till det oglamorösa arbetet med att omsätta idéer i verklighet. Maskinernas intellekt kommer att ärva samma beroende. Alla kan inte vara snillen. De måste vara byråkrater också.

Vår kommande historia – och framstegens takt – beror på om briljanta hjärnor behöver mer av världen eller om de kan göra mer med mindre.