Det evige komplement

Forfatternes note: Dette er det første essay i vores serie om den næste økonomi og en del af en ny platform for uafhængige stemmer, der udforsker en fremtid med AGI. Det afspejler vores synspunkter, ikke OpenAI's eller vores kollegers.

Menneskeheden har set næsten helt tilbage til tidernes begyndelse.

Vores ligninger giver en overvejende sammenhængende beskrivelse af universet fra dets første øjeblikke. Med vores teleskoper har vi skuet ud mod kosmos' yderste egne og fået et glimt af dets tidlige historie. Vi ved noget om stjerners fødsel og galaksers dannelse.

Alligevel har intet menneske nogensinde rejst længere end til Månen.

De forklaringer, vi søger, spænder over hele universet, mens vores kroppe knap nok har forladt hjemmet. Vores tanker bevæger sig langt uden for vores hænders rækkevidde.

Den forskel kan betyde to vidt forskellige ting.

Én mulighed er, at vi ikke behøver at rejse ret langt: at de dybeste sandheder kan begribes fra en enkelt planet. Med oplyst tænkning og effektive instrumenter afdækker vi universet uden at rejse igennem det. I denne fortælling udvikler vores civilisation sig i dybden frem for i bredden. Det ville være med til at forklare, hvorfor vi ikke har set andet intelligent liv: Vi lever måske i en galakse fuld af geniale hjerner, som aldrig har haft brug for at brede sig og blive synlige for os.

Den anden mulighed er mere skræmmende. Vores tanker er måske ganske enkelt løbet fra vores evne til at føre dem ud i livet. Hvert nyt skridt kræver mere tid og flere ressourcer. Vi mangler ikke drømme, men vi mangler arbejdskraften til at virkeliggøre dem.

Galilei udvidede vores udsyn med to linser og et rør. For at udvide det igen i dag byggede menneskeheden James Webb-rumteleskopet: et observatorium til ti milliarder dollars, der blev foldet sammen i en raket og sendt halvanden million kilometer væk. Dets atten enorme spejlsegmenter er fremstillet med en præcision på halvtreds nanometer. Observatoriet blev til gennem et samarbejde mellem tre hundrede organisationer i fjorten lande. Galileis bidrag krævede nogle få dusin hænder. Webb krævede en hær og en global økonomi i ryggen.

Det krævede ikke kun klogere hjerner at se længere. Det krævede et større bureaukrati.

Vi stiller flere spørgsmål, end vi kan undersøge. Vi udtænker flere forsøg, end vi kan gennemføre. Vi forestiller os kreative muligheder hurtigere, end vi kan realisere dem. Og på mange områder gælder det, at jo længere vi når, desto mere kompliceret bliver det at bygge det, vi forestiller os.

Nick Bloom og hans medforfattere⁠(åbner i et nyt vindue) undersøgte forskningsproduktiviteten på tværs af den amerikanske økonomi. At opretholde Moores lov kræver nu over atten gange så mange forskere som i begyndelsen af 1970'erne. Siden 1930'erne er den effektive forskningsindsats på tværs af økonomien vokset til det treogtyvedobbelte, mens den målte forskningsproduktivitet er faldet til en enogfyrretyvendedel.

Antallet af teknikere vokser dobbelt så hurtigt⁠(åbner i et nyt vindue) som antallet af forskere. Brugen af specialiseret udstyr i videnskaben er fordoblet⁠(åbner i et nyt vindue) over fire årtier. En chipfabrik er i dag fem gange så dyr⁠(åbner i et nyt vindue) – og en langt mere omfattende virksomhed – som for tredive år siden.

Disse tal tyder på, at yderligere fremskridt bliver stadig dyrere. Økonomien udvikler sig stadig, fordi en enorm udvidelse af forskningsaktiviteten har opvejet det faldende udbytte pr. enhed.

Den historie bør få os til at tænke anderledes om genialitet: ikke som noget isoleret, men som én indsatsfaktor i en produktionsproces. En genial hypotese har stadig brug for evidens, instrumenter og midlerne til at afprøve den. En idé er endnu ikke et fremskridt uden det maskineri og det støttepersonale, der kan gøre den til virkelighed.

Økonomer kalder to indsatsfaktorer komplementer, når mere af den ene øger værdien af den anden. Banebrydende intelligens og evnen til at realisere dens idéer er komplementer i den forstand. Et bedre teleskop gør et godt astronomisk spørgsmål mere værdifuldt. Et bedre spørgsmål gør teleskopet mere værdifuldt.

Nogle komplementer er fysiske. En teori venter på en partikelaccelerator; et teknologisk design venter på den energi og de maskiner, der skal bruges til at bygge det.

Andre komplementer er mindre håndgribelige. En idé er i sig selv en skrøbelig størrelse. Den har brug for institutioner af enhver slags. Lovgivning, bureaukrati, finansieringsmekanismer, forsyningskæder og meget andet spiller sammen om at føre idéen ud i livet.

En stor idé skal overleve en lang kæde af korrekte handlinger i de enkelte led på tværs af disse institutioner. Lad os kalde det institutionel intelligens: den upåagtede intelligens, der får ting til at ske. Genialiteten tegner monumentet; institutionerne lægger stenene. Den ene stråler, den anden virker kedelig; begge er helt afgørende.

Vi forestiller os somme tider superintelligens som en milliard Einsteiner. Men en civilisation med en milliard Einsteiner har stadig brug for, at de fleste af dem arbejder i stenbruddene og tager sig af regnskaberne. Banebrydende innovation er kun mulig, når den almindelige verden omkring den fungerer gnidningsfrit. Fremskridt kræver alles indsats – fra den, der svejser en skrue fast i teleskopet, til forsikringsselskabet for den folkeskole, hvor en sygeplejerske, som behandlede astronomen, gik. Fremskridt bygger på en velfungerende økonomi, som vi ofte overser i fortællingerne om vores største bedrifter.

Ligesom menneskelig intelligens vil AI blive rettet mod både geniale indsigter og institutionel kompetence. Spørgsmålet er, hvor den vil bruge størstedelen af sin tid.

AI er allerede ved at mindske manglen på kapacitet til at føre idéer ud i livet. Den skriver koden, gennemsøger ukendt faglitteratur og forvandler en skitse til en fungerende prototype. Idéer, der før krævede en hel organisation, kan i stigende grad realiseres af ét ambitiøst menneske.

De fleste håbefulde filmskabere får aldrig to hundrede millioner dollars til at vise, hvad de kan. De fleste spildesignere bruger hele deres karriere på at realisere andres kreative visioner. Vi prøver at fremme de mest begavede, men vi går uundgåeligt glip af talent. Set i det lys begynder intelligensens tidsalder med at supplere menneskets opfindsomhed og give flere af os støttepersonalet til at realisere vores egne idéer.

Det kan føre til et væld af særprægede projekter, hvor mere kreativt arbejde skabes uden for de institutioner, der tidligere kontrollerede adgangen til at arbejde på disse områder. Den knappe indsatsfaktor flytter sig fra gennemførelsesevne mod smag: evnen til at afgøre, hvad der er værd at skabe, hvilket spørgsmål der er værd at stille, og hvilken af tusind mulige retninger man bør forfølge.

Men historien slutter måske ikke der. Efterhånden som AI bliver i stand til selv at nå frem til geniale nye indsigter – hvilket vi måske allerede ser inden for eksempelvis matematik – bidrager den med både dagsordener og arbejdskraft. I stedet for at gennemføre ét menneskeskabt forskningsprogram udtænker den tusindvis af sine egne. AI-genier får antallet af filmkoncepter, der er værd at udvikle, og hypoteser, der er værd at afprøve, til at eksplodere. Idéerne myldrer frem hurtigere, end den understøttende infrastruktur kan håndtere dem.

Dagens AI giver os et længe ventet pusterum, hvor vores gode idéer endelig får den opmærksomhed, de fortjener. I morgen kan der være så mange gode idéer, at vi mangler kapacitet til at realisere dem mere end nogensinde før.

I sidste ende ved vi ikke, om behovet for komplementer til at udnytte nye indsigter produktivt vil vokse, falde eller forblive stabilt. Hvor store intellektuelle fremskridt kan man gøre ved at tænke alene? Hvor meget bureaukrati har genialitet brug for?

Efter vores opfattelse afhænger svaret af, hvor langt tanken kan nå, før den igen må i kontakt med virkeligheden.

Vi beskriver to mulige udviklingsveje. Den første er en civilisation i dybden, hvor superintelligens overvinder behovet for mere fysisk kapital og bureaukratisk koordinering. Den anden er en civilisation i bredden, hvor naturens kompleksitet overstiger enhver intelligens' evne – menneskets såvel som maskinens – til at gøre fremskridt uden store og stadig mere komplicerede forsøg i den virkelige verden.

Menneskets historie tyder på, at behovet for komplementær kapacitet hidtil er steget. Galilei kunne holde sit teleskop i hænderne; Webb krævede en civilisation. Et lille hold hos Bell Labs samlede den første transistor på et arbejdsbord; banebrydende fremskridt inden for chips kommer nu fra en kompleks global forsyningskæde. Hver gang vi vil nå længere, må en større del af civilisationen træde til.

Men historien behøver ikke at bestemme vores skæbne. Kloge hjerner kan opfinde mere effektive komplementer. Hvis energi er flaskehalsen for en ny partikelaccelerator, kan genialitet udtænke en mere energieffektiv accelerator eller en bedre måde at høste energi på.

Genialitet kan også erstatte nogle af sine komplementer. Einstein kunne tænke sig frem til relativitetsteorien ud fra meget få empiriske data. Vi ville have brug for langt flere. Nogle mennesker husker ganske enkelt alle deres aftaler – de fleste af os er afhængige af bureaukratiet i Google Kalender.

Og genialitet kan skærpe smagen til det yderste, vælge de bedste hypoteser at afprøve og undgå fejlslagne forsøg, der spilder ressourcer. Hvis hvert ekstra geni forbedrer planens kvalitet, ville vi stadig investere massivt i genialitet, selv hvis stadig større bureaukratier var nødvendige – netop fordi det er så dyrt at spilde gennemførelseskapacitet på det forkerte.

Ingen af vejene vil beskrive vores faktiske fremtid fuldt ud, men de kan ses som to mulige retninger for vores civilisation.

Intelligens kan udvide vores viden på tre måder. Den kan ræsonnere ud fra principper. Den kan udlede nye indsigter af eksisterende evidens. Eller den kan indsamle ny evidens ved at observere og gribe ind i verden.

Den første tilgang kan nå langt alene gennem tænkning. Matematik er det reneste eksempel. Ved de mange skilleveje i et bevis eller et projekt kan en skarp hjerne konsekvent træffe det rigtige valg. Den erstatter års famlende søgen med en kort, mere målrettet tankekæde.

Den anden tilgang rummer også et uudnyttet potentiale for hurtige fremskridt. Menneskeheden har indsamlet langt mere evidens, end den har forstået. Undersøgelsen af vores data – astronomiske billeder, mikroskoppræparater, kommentarspor på nettet – har været begrænset af knapheden på menneskelig intelligens. Videnskabelige arkiver rummer observationer, som blev registreret for at besvare ét spørgsmål, men som kan indeholde svar på mange andre. Med rigelig genialitet kan man gøre opdagelser uden at indsamle noget nyt, blot ved at se det, der allerede var der. Den kan måske finde et nyt univers uden at indfange en eneste ny foton.

Den tredje tilgang er ikke så let, fordi den kræver, at vi interagerer med den fysiske verden. Fysiske processer tager tid, og ofte kan vi ikke gøre meget for at fremskynde dem. Kemiske stoffer skal reagere. Organismer skal vokse. Maskiner skal bygges. Rumfartøjer skal tilbagelægge faktiske afstande og er underlagt kosmiske hastighedsgrænser. Selv en fuldkommen intelligens kan ikke observere resultatet af et forsøg, der ikke har fundet sted.

Men den kan prøve. En civilisation i dybden ville ikke slippe for at rådføre sig med virkeligheden. Den ville gøre det med et radikalt lavere ressourceforbrug. Bedre ræsonnering ville udpege de få forsøg, der virkelig betyder noget. Simuleringer ville afklare det meste og præcist lokalisere den usikkerhed, som virkeligheden må afgøre. Superintelligens kan maksimere effektiviteten ved at tilrettelægge arbejdet efter sine knappe ressourcer og få mest muligt ud af dem.

Forestil dig et astrofysisk laboratorium med en række hypoteser om mørkt stof. De bliver først kørt gennem hyperrealistiske computersimuleringer. Hver teori kontrolleres for overensstemmelse med alle eksisterende data. Først derefter tages nogle få målrettede nye billeder af himlen for at afprøve de mest lovende teorier. Civilisationen har stadig brug for komplementerne til genialitet, men hver enhed giver langt mere værdi.

Vores vej mod en civilisation i dybden kan minde om et puslespil. Det er let at gøre fremskridt i starten, let til sidst og sværest midtvejs. I begyndelsen er der tydelige kanter og brikker, der er lette at sætte sammen. Så slipper de op, mens for lidt af billedet er lagt til at vise vejen for resten. Mod slutningen fortæller de resterende huller næsten selv, hvad der hører til i dem. En næsten fuldendt videnskab vil måske have lettere ved sine sidste opdagelser end ved dem, vi kæmper os frem mod i dag.

Det er et velkendt mønster i videnskaben. Mendelejev kunne beskrive uopdagede grundstoffer, fordi resten af det periodiske system indsnævrede mulighederne for, hvad der manglede. Standardmodellen gav fysikere grund til at forvente Higgs-bosonen, årtier før vi observerede den. Vores forsøg var målrettet mod det, vi forventede at se: det, der stemte overens med eksisterende teori og data.

Superintelligens kan måske skabe en civilisation i dybden ved at forstå verdens mønstre så godt, at den ved præcis, hvilke nye data den har brug for. Den ville drive fremskridt gennem dybere tænkning frem for at være afhængig af den langsommelige fysiske ekspansion.

Hvis disse effektivitetsgevinster vejer tungest, kan civilisationen hurtigt uddybe sin beherskelse af naturen med mindre behov for institutionel intelligens til at styre enorme nye forsøgsapparater. Dens fysiske aftryk kan forblive lille, mens dens visdom modnes.

Vi mennesker har allerede forstået så meget om vores univers uden nogensinde at forlade hjemmet. Civilisationen i dybden ville videreføre den tradition.

Men behovet for ny evidens kan overstige disse effektivitetsgevinster. Intelligens kan gøre hver afprøvning i virkeligheden billigere og samtidig finde langt flere grunde til at foretage dem. Bedre instrumenter åbner for udforskning af finere detaljer. Hurtigere forsøg kan gøre yderligere forsøg umagen værd.

Hvis Einsteins næsten rent tankemæssige vej til sine relativitetsteorier er et billede på en civilisation i dybden, er biologien måske det bedste forvarsel om en civilisation i bredden. Trods al den viden, vi har samlet, og alle de data, vi har taget i brug, skal nye lægemidler stadig afprøves på et stort antal mennesker, før vi ved, om de er sikre og effektive. Maskiner kan nu simulere biologiske processer, så biologer kan afprøve nye lægemidler in silico frem for i fysiske forsøg, men de digitale simuleringer gengiver ikke virkeligheden præcist nok til at erstatte omfattende forsøg på mennesker. Flere lægemiddelkandidater fra maskinen gør empirisk afprøvning til en større flaskehals.

I en civilisation i bredden er genialitet alene ikke nok til at skabe fremskridt. Vores behov for fysiske ressourcer – og et bureaukrati til at styre brugen af dem – vokser hurtigere, end en klog hjerne kan spare på nogen af delene.

Det kan blive vores vej, selv hvis fremtidens AI-systemer langt overgår menneskelig intelligens. En superintelligens kunne planlægge et århundredes forsøg på en eftermiddag og derefter bruge århundredet på at vente på, at naturen og maskineriet gennemfører dem. I sådan en verden bliver det mere værdifuldt at investere intelligens i de institutionelle processer, der skal til for at realisere idéer, end i selve idéudviklingen.

Effekten vil forstærkes, hvis hvert nyt skridt kræver stadig mere understøttende infrastruktur.

Her ville vi se forholdsvis mindre tænkning og forholdsvis mere byggeri. Laboratorier automatiseres. Fabrikkerne bliver flere. Energiproduktionen stiger. Institutionel intelligens bliver dominerende for at få alt dette til at ske. Fysisk ekspansion bliver drivkraften for viden, og civilisationen breder sig, fordi dens spørgsmål er vokset ud over dens midler til at finde svar. Flere materialer, mere energi, flere data for at komme videre.

En Dyson-sfære er et ekstremt billede på denne fremtid. At designe en kræver ekstraordinære gennembrud, men det meste af projektet ville ikke bestå af banebrydende tænkning. Det ville være byggeri og logistik i astronomisk målestok.

Det kræver geniale hjerner at tegne en Dyson-sfære. Det ville også være et af de mest repetitive, monotone og organisatorisk krævende projekter nogensinde.

Det skyldes ikke, at intelligensen kommer til kort, men derimod at den lykkes. Klogere hjerner finder flere projekter, der er værd at gennemføre; mere komplekse projekter kræver mere materie for at blive realiseret.

Hvis det er tilfældet, er superintelligensens superkraft måske ikke dens genialitet. Den ville i stedet være dens villighed til at være bureaukratiet: at koordinere det enorme teknologiske og institutionelle maskineri, der skal omsætte idéer til virkelighed i stadig større målestok.

Næsten al maskinintelligens ville blive sat til at udføre det kedelige frem for det geniale.

Naturens hastighedsgrænser for fysisk ekspansion kan så blive en flaskehals for yderligere fremskridt. At bygge maskineriet til at høste en stjernes energi er et projekt i materie, uanset hvor hurtigt planerne tegnes. Længere ude ligger andre stjerner og galakser, og afstand sætter i sig selv en grænse for tempoet, så vidt vi ved: Intet rumskib kan rejse, og intet signal kan vende tilbage, hurtigere end lyset. En civilisation i bredden er en langsom civilisation. Dens store forandringer kan komme med årtusinders mellemrum, måske millioner af års mellemrum. Hvert nyt skridt tager længere tid.

Landbrugsrevolutionen og den industrielle revolution ville ligne den hektiske indledning til en langt længere historie med et langt langsommere fremskridtstempo.

Det kan sagtens være, at fremtidens AI-systemer overgår mennesker både i at skabe banebrydende indsigter og i at koordinere de ressourcer, der skal gøre indsigterne nyttige i praksis. Men den mulighed gør ikke menneskelig nysgerrighed mindre vigtig.

For det første har vi stadig en pligt til at søge erkendelse, selv hvis maskiner virker bedre til det. Universet rummer måske allerede intelligenser, der er langt visere end os, med svar på videnskabelige og moralske spørgsmål, som ligger uden for vores fatteevne. Alligevel prøver vi selv at forstå verden. Det ændrer sig ikke, fordi en anden intelligens kommer til – heller ikke en, vi selv bygger. Indtil vi med sikkerhed ved, at menneskeheden ikke længere har noget særligt at bidrage med, vil det at give op være at spilde alt det, som kun vi kan tilføre verden. Vi har stadig pligt til at stille spørgsmål og forsøge at besvare dem.

For det andet har vi måske en komparativ fordel inden for banebrydende intelligens frem for institutionel intelligens. Det ville betyde, at selv hvis vi er dårligere til begge dele, er vi relativt bedre til det første og specialiserer os i det. Mennesker giver udtryk for, at de foretrækker kreativitet frem for rutine, mens robotter ikke udtrykker en sådan præference.

For det tredje har variation værdi for os. Selv hvis maskiner kan efterligne det meste af menneskers tænkning, bidrager vi med kreativ mangfoldighed, så længe vi bevarer noget særegent. En stor del af maskinintelligensen ville forblive i sit eget selvopretholdende apparat, men en lille del ville stå til rådighed for vores kreative ønsker. En brøkdel af helheden, men overdådigt i vores målestok og langt mere end de ressourcer, vi har i dag.

Opfindsomhed findes ikke i et tomrum. Den har brug for verden, og genialitet har brug for nogen, der kan bygge og virkeliggøre dens kreative vision.

En stor del af menneskets intelligens bruges i dag på det upåagtede arbejde med at omsætte idéer til virkelighed. Maskinernes intelligenser vil arve den samme afhængighed. De kan ikke alle være lysende begavelser. De må også være bureaukrater.

Vores fremtidige historie – og tempoet i dens fremskridt – afhænger af, om store tænkere har brug for mere af verden, eller om de kan udrette mere med mindre.