Hin eilífa stoð

Athugasemd höfunda: Þetta er fyrsta ritgerðin í greinaröð okkar um hagkerfi framtíðarinnar og hluti af nýjum vettvangi fyrir sjálfstæðar raddir sem kanna framtíð með AGG. Hún endurspeglar skoðanir okkar, ekki OpenAI eða samstarfsfólks okkar.

Mannkynið hefur séð næstum aftur að upphafi tímans.

Jöfnur okkar draga upp að mestu samhangandi mynd af alheiminum allt frá fyrstu augnablikum hans. Með sjónaukum okkar höfum við skyggnst til ystu marka geimsins og fengið innsýn í frumbernsku hans. Við vitum hvernig stjörnur verða til og vetrarbrautir myndast.

Samt hefur enginn maður farið lengra en til tunglsins.

Skýringarnar sem við leitum ná yfir alheiminn, á meðan líkamar okkar hafa varla yfirgefið heimahagana. Hugurinn fer langt út fyrir seilingu handanna.

Þetta misræmi gæti þýtt tvennt gjörólíkt.

Annar möguleikinn er að við þurfum ekki að fara langt, að hægt sé að skilja dýpstu sannindin frá einni plánetu. Með upplýstum rökum og skilvirkum tækjum afhjúpum við alheiminn án þess að ferðast um hann. Í þessari sögu þróast siðmenning okkar í dýpt fremur en breidd. Það myndi hjálpa til við að skýra hvers vegna við höfum ekki orðið vör við annað vitsmunalíf: við gætum búið í vetrarbraut fullri af snjöllum hugum sem hafa aldrei þurft að breiða úr sér og verða sýnilegir okkur.

Hinn möguleikinn er ógnvænlegri. Hugur okkar gæti einfaldlega hafa farið fram úr getu okkar til framkvæmda. Hvert nýtt skref tekur meiri tíma og krefst meiri bjarga. Okkur skortir ekki drauma, heldur mannafla til að láta þá rætast.

Galíleó víkkaði sjóndeild okkar með tveimur linsum og röri. Til að víkka hana enn á okkar dögum smíðaði mannkynið James Webb-geimsjónaukann, tíu milljarða dollara stjörnuathugunarstöð sem var brotin saman inni í eldflaug og send milljón mílur út í geim. Átján gríðarstórir spegilhlutar hans eru smíðaðir með fimmtíu nanómetra nákvæmni. Stjörnuathugunarstöðin varð til í samstarfi þrjú hundruð stofnana og fyrirtækja í fjórtán löndum. Framlag Galíleós krafðist vinnu fáeinna tuga handa. Webb þurfti heilan her og alþjóðlegt hagkerfi að baki honum.

Það þurfti ekki aðeins snjallari huga til að sjá lengra. Það þurfti stærra skrifræðiskerfi.

Við spyrjum fleiri spurninga en við getum rannsakað. Við hönnum fleiri tilraunir en við getum framkvæmt. Við sjáum fyrir okkur nýja sköpunarmöguleika hraðar en við getum gert þá að veruleika. Og á mörgum sviðum gildir þetta: því lengra sem við komumst, þeim mun flóknara verður að byggja það sem við sjáum fyrir okkur.

Nick Bloom og meðhöfundar hans⁠(opnast í nýjum glugga) rannsökuðu framleiðni í rannsóknum víðs vegar um bandaríska hagkerfið. Til að halda lögmáli Moores í gildi þarf nú meira en átján sinnum fleiri rannsakendur en í upphafi áttunda áratugarins. Raunveruleg rannsóknarumsvif í hagkerfinu í heild jukust tuttugu og þrefalt frá fjórða áratug síðustu aldar, en mæld framleiðni í rannsóknum féll niður í einn fertugasta og fyrsta af því sem áður var.

Tæknifólki fjölgar tvöfalt hraðar⁠(opnast í nýjum glugga) en vísindafólki. Notkun sérhæfðs búnaðar í vísindum hefur tvöfaldast⁠(opnast í nýjum glugga) á fjórum áratugum. Örflöguverksmiðja er í dag fimm sinnum dýrari⁠(opnast í nýjum glugga) en fyrir þrjátíu árum, og reksturinn mun umfangsmeiri.

Þessar tölur benda til þess að frekari framfarir verði sífellt kostnaðarsamari. Hagkerfið heldur áfram að þróast vegna þess að stóraukin rannsóknarstarfsemi hefur vegið upp á móti minnkandi afrakstri hverrar einingar.

Þessi saga ætti að fá okkur til að hugsa öðruvísi um snilligáfu: ekki sem einangrað fyrirbæri, heldur sem einn þátt í framleiðsluferli. Snjöll tilgáta þarf eftir sem áður gögn, tæki og úrræði til að láta reyna á hana. Hugmynd ein og sér er ekki framför án búnaðar og stuðningsfólks til að gera hana að veruleika.

Hagfræðingar segja að tveir aðfangaþættir séu fyllingarþættir þegar meira af öðrum eykur verðmæti hins. Háþróuð greind og getan til að hrinda hugmyndum hennar í framkvæmd eru fyllingarþættir í þessum skilningi. Betri sjónauki gerir góða stjarnfræðilega spurningu verðmætari. Betri spurning gerir sjónaukann verðmætari.

Sumir fyllingarþættir eru áþreifanlegir. Kenning bíður eftir öreindahraðli; tæknileg hönnun bíður eftir orku og vélbúnaði til að verða að veruleika.

Aðrir fyllingarþættir eru síður sýnilegir. Hugmynd ein og sér er brothætt. Hún þarf stofnanir af öllu tagi. Lög, skrifræði, fjármögnunarkerfi, aðfangakeðjur og margt fleira þarf að vinna saman til að hrinda hugmyndinni í framkvæmd.

Frábær hugmynd þarf að komast í gegnum langa keðju réttra aðgerða á hverjum stað innan þessara stofnana. Köllum þetta skipulagsgreind: hina vanmetnu greind sem þarf til framkvæmda. Snilligáfan hannar minnisvarðann; stofnanirnar hlaða steinana. Annað er snilld, hitt virðist leiðinlegt; hvort tveggja er algerlega nauðsynlegt.

Stundum ímyndum við okkur ofurgreind sem milljarð Einsteina. En siðmenning milljarðs Einsteina þarf samt flesta þeirra til að höggva grjót og sjá um bókhaldið. Háþróuð nýsköpun er aðeins möguleg þegar hinn hversdagslegi heimur í kringum hana gengur snurðulaust. Framfarir kalla á framlag allra, allt frá þeim sem sýður skrúfu í sjónaukann til tryggingaraðila grunnskólans þar sem hjúkrunarfræðingurinn sem annaðist stjörnufræðinginn nam. Framfarir byggjast á blómlegu hagkerfi sem við gleymum oft í frásögnum af okkar mestu afrekum.

Líkt og mannlegri greind verður gervigreind beint bæði að snjöllum uppgötvunum og skilvirku skipulagi. Spurningin er í hvað mestur tími hennar muni fara.

Gervigreind er þegar farin að draga úr skorti á framkvæmdagetu. Hún skrifar kóðann, leitar í ókunnugum fræðiritum og breytir skissu í virka frumgerð. Einn metnaðarfullur einstaklingur getur í síauknum mæli unnið að hugmyndum sem áður þurfti heila stofnun eða fyrirtæki til að sinna.

Flestir upprennandi kvikmyndagerðarmenn fá aldrei tvö hundruð milljónir dollara til að spreyta sig. Flestir leikjahönnuðir verja allri starfsævinni í að gera skapandi sýn annarra að veruleika. Við reynum að greiða götu hæfileikaríkasta fólksins, en óhjákvæmilega fara hæfileikar fram hjá okkur. Í þessu ljósi hefst öld greindarinnar á því að styðja við mannlegt hugvit og veita fleirum okkar aðstoðarfólk til að hrinda eigin hugmyndum í framkvæmd.

Þetta gæti leitt til grósku í sérkennilegum verkefnum og aukinnar sköpunar utan þeirra stofnana sem áður réðu hverjir fengju að starfa á þessum sviðum. Það sem skortir verður síður framkvæmdageta og fremur smekkur: hæfnin til að ákveða hvað sé þess virði að skapa, hvaða spurninga sé vert að spyrja og hver af þúsund álitlegum leiðum sé þess virði að fara.

En þar með er sagan kannski ekki öll. Eftir því sem gervigreind verður færari um að komast að snjöllum nýjum niðurstöðum á eigin spýtur, sem við gætum þegar verið farin að sjá á sviðum eins og stærðfræði, leggur hún ekki aðeins til vinnuafl heldur líka viðfangsefni. Í stað þess að framkvæma eina rannsóknaráætlun manns semur hún þúsundir eigin áætlana. Gervigreindarsnillingar margfalda fjölda kvikmyndahugmynda sem vert er að þróa og tilgáta sem vert er að prófa. Hugmyndum fjölgar hraðar en stuðningsinnviðirnir geta tekið við þeim.

Gervigreind nútímans veitir langþráð svigrúm þar sem góðar hugmyndir okkar fá loksins þann framgang sem þær eiga skilið. Á morgun gætu góðu hugmyndirnar verið orðnar svo margar að skorturinn á framkvæmdagetu verði meiri en nokkru sinni fyrr.

Þegar öllu er á botninn hvolft vitum við ekki hvort þörfin fyrir fyllingarþætti til að nýta nýja innsýn á árangursríkan hátt muni aukast, minnka eða haldast óbreytt. Hversu miklum vitsmunalegum framförum er hægt að ná með hugsuninni einni? Hversu mikið skrifræði þarf snilligáfan?

Að okkar mati ræðst svarið af því hversu langt hugsunin kemst áður en hún verður aftur að leita á vit veruleikans.

Við lýsum tveimur mögulegum leiðum. Sú fyrri er siðmenning dýptarinnar, þar sem ofurgreind yfirstígur þörfina fyrir aukið efnislegt fjármagn og samhæfingu skrifræðis. Sú síðari er siðmenning víðáttunnar, þar sem náttúran er svo flókin að engin greind, hvort sem hún er mannleg eða vélræn, getur náð framförum án stórra og sífellt flóknari tilrauna í raunheimum.

Mannkynssagan hingað til bendir til vaxandi þarfar fyrir getu sem styður við hugvitið. Galíleó gat haldið á sjónaukanum sínum; Webb þurfti heila siðmenningu. Lítill hópur hjá Bell Labs setti fyrsta smárann saman á vinnubekk; framfarir í háþróuðum örflögum verða nú til í flókinni alþjóðlegri aðfangakeðju. Til að ná lengra þarf sífellt stærri hluta siðmenningarinnar að baki sér.

En sagan þarf ekki að ráða framtíðinni. Snjallir hugar geta fundið upp skilvirkari fyllingarþætti. Ef orka er flöskuháls nýs öreindahraðals getur snilligáfan hannað sparneytnari hraðal eða betri leið til að afla orku.

Snilligáfan getur líka komið í stað sumra þeirra þátta sem styðja hana. Einstein gat hugsað sig að afstæðiskenningunni út frá afar litlum reynslugögnum. Við þyrftum miklu meira. Sumir muna einfaldlega alla sína fundi og viðburði; flest okkar treysta á skrifræðið í Google Calendar.

Snilligáfa getur líka skerpt dómgreindina til hins ýtrasta, valið bestu tilgáturnar til prófunar og forðast kostnaðarsamar villigötur. Ef hver viðbótarsnillingur bætir áætlunina myndum við áfram fjárfesta mikið í snilligáfu, jafnvel þótt sífellt stærra skrifræðiskerfi þyrfti til. Ástæðan væri einmitt sú að framkvæmdin er of dýr til að sólunda henni í rangt viðfangsefni.

Hvorug leiðin mun lýsa raunverulegri framtíð okkar fullkomlega, en líta má á þær sem tvær mögulegar stefnur sem siðmenning okkar gæti tekið.

Greind getur aukið þekkingu á þrjá vegu. Hún getur leitt rök af grunnforsendum. Hún getur fengið nýja innsýn úr fyrirliggjandi gögnum. Eða hún getur aflað nýrra gagna með því að fylgjast með heiminum og hafa áhrif á hann.

Fyrsta leiðin getur náð langt með hugsuninni einni. Stærðfræði er hreinasta dæmið. Á þeim mörgu krossgötum sem verða á vegi sönnunar eða verkefnis getur öflugur hugur valið rétt hvað eftir annað. Hann kemur í stað margra ára fálmkenndrar leitar með stuttri og markvissari keðju raka.

Önnur leiðin býður líka upp á vannýtt tækifæri til hraðra framfara. Mannkynið hefur safnað miklu fleiri gögnum en það hefur skilið. Takmörkuð mannleg greind hefur sett rannsóknum á gögnum okkar skorður, hvort sem um er að ræða stjarnfræðilegar myndir, smásjársýni eða athugasemdakerfi á netinu. Vísindasöfn geyma athuganir sem voru skráðar til að svara einni spurningu en gætu falið í sér svör við mörgum öðrum. Með nægri snilligáfu má uppgötva nýja hluti án þess að safna neinu nýju, með því að sjá það sem var þegar til staðar. Hún gæti fundið nýjan alheim án þess að nema eina einustu nýja ljóseind.

Þriðja leiðin er ekki eins auðveld, því hún krefst þess að við eigum við efnisheiminn. Efnisleg ferli taka tíma og oft er lítið hægt að gera til að flýta þeim. Efni verða að hvarfast. Lífverur verða að vaxa. Það verður að smíða vélar. Geimför verða að fara raunverulegar vegalengdir og lúta hraðatakmörkum alheimsins. Jafnvel fullkominn hugur getur ekki séð niðurstöðu tilraunar sem hefur ekki farið fram.

En hann getur reynt. Siðmenning dýptarinnar kæmist ekki hjá því að leita svara í veruleikanum. Hún myndi gera það á róttækt hagkvæmari hátt. Betri rök myndu greina þær fáu tilraunir sem skipta raunverulega máli. Hermilíkön myndu skera úr um flest og staðsetja nákvæmlega þá óvissu sem veruleikinn þyrfti að leysa úr. Ofurgreind getur hámarkað skilvirkni með því að haga hönnun eftir þeim takmörkuðu björgum sem hún hefur og nýta þær sem best.

Sjáðu fyrir þér rannsóknarstofu í stjarneðlisfræði með nokkrar tilgátur um hulduefni. Þær fara fyrst í gegnum afar raunhæf tölvulíkön. Hver kenning er prófuð með tilliti til samræmis við öll fyrirliggjandi gögn. Aðeins að því loknu eru teknar fáeinar markvissar nýjar myndir af himninum til að prófa vænlegustu kenningarnar. Siðmenningin þarf enn á stoðum snilligáfunnar að halda, en hver eining skilar miklu meiri verðmætum.

Leið okkar að siðmenningu dýptarinnar gæti líkst því að leggja púsl. Auðvelt er að ná árangri í byrjun og í lokin, en erfiðast í miðjunni. Í fyrstu eru augljósir jaðrar og auðvelt að finna hluta sem passa saman. Síðan þrjóta þeir, en of lítið af myndinni er komið saman til að vísa veginn við framhaldið. Undir lokin segja eyðurnar sem eftir eru nánast sjálfar til um hvað eigi heima í þeim. Vísindi sem nálgast heildarmynd gætu átt auðveldara með lokauppgötvanirnar en við eigum með þær sem við streitumst við að ná í dag.

Þetta er kunnuglegt stef í vísindum. Mendelejev gat lýst ófundnum frumefnum vegna þess að hinir hlutar lotukerfisins settu því skorður hvað gæti vantað. Staðallíkanið gaf eðlisfræðingum ástæðu til að búast við Higgs-bóseindinni áratugum áður en við sáum hana. Tilraunir okkar beindust að því að leita að því sem við bjuggumst við að sjá: því sem samræmdist fyrirliggjandi kenningum og gögnum.

Ofurgreind gæti skapað siðmenningu dýptarinnar með því að skilja mynstur heimsins svo vel að hún vissi nákvæmlega hvaða nýju gögn hún þyrfti. Hún myndi knýja framfarir áfram með dýpri hugsun í stað þess að reiða sig á hægfara útþenslu í efnisheiminum.

Ef þessi aukna skilvirkni vegur þyngst gæti siðmenningin hratt náð betri tökum á náttúrunni og síður þurft skipulagsgreind til að stýra gríðarstórum nýjum tilraunakerfum. Umfang hennar í efnisheiminum gæti haldist lítið á meðan viska hennar þroskast.

Við mennirnir höfum þegar öðlast svo mikinn skilning á alheiminum án þess að yfirgefa heimahagana. Siðmenning dýptarinnar myndi halda þeirri hefð áfram.

En þörfin fyrir ný gögn getur orðið meiri en þessi skilvirkniaukning ræður við. Greind getur lækkað kostnaðinn við að leita svara í veruleikanum og um leið fundið miklu fleiri ástæður til þess. Betri tæki opna leið að fíngerðari viðfangsefnum. Hraðari tilraunir geta gert fleiri tilraunir þess virði að framkvæma.

Ef leið Einsteins að afstæðiskenningum sínum, sem byggðist nær alfarið á hugsun, er dæmigerð fyrir siðmenningu dýptarinnar, gæti líffræðin gefið besta vísbendingu um siðmenningu víðáttunnar. Þrátt fyrir alla þekkinguna sem við höfum aflað og öll gögnin sem við höfum nýtt þarf enn að prófa ný lyf á fjölda fólks til að vita hvort þau séu örugg og virki. Vélar geta nú hermt eftir líffræðilegum ferlum og gert líffræðingum kleift að prófa ný lyf í tölvulíkönum fremur en í raunverulegum tilraunum. Þessar stafrænu hermingar endurspegla þó ekki raunheiminn nógu vel til að koma í stað umfangsmikilla rannsókna á mönnum. Því fleiri möguleg lyf sem vélarnar leggja til, þeim mun meiri flöskuháls verður reynsluprófunin.

Í siðmenningu víðáttunnar nægir snilligáfan ein ekki til framfara. Þörf okkar fyrir efnislegar bjargir, og skrifræði til að stýra notkun þeirra, vex hraðar en snjall hugur getur hagrætt á hvoru sviði um sig.

Þetta gæti orðið leið okkar jafnvel þótt gervigreindarkerfi framtíðarinnar beri langt af mannlegri greind. Ofurgreind gæti hannað heillar aldar tilraunir á einum eftirmiðdegi og síðan beðið í heila öld eftir að náttúran og vélbúnaðurinn lykju verkinu. Í slíkum heimi verður verðmætara að beita greind við skipulagsferlin sem þarf til að hrinda hugmyndum í framkvæmd en við hugmyndavinnuna sjálfa.

Áhrifin magnast ef hvert nýtt skref krefst sífellt umfangsmeiri stuðningsinnviða.

Þar myndum við sjá hlutfallslega minni hugsun og meiri uppbyggingu. Rannsóknarstofur verða sjálfvirkar. Verksmiðjum fjölgar. Orkuframleiðsla eykst. Skipulagsgreind verður ráðandi til að gera allt þetta mögulegt. Útþensla í efnisheiminum verður drifkraftur þekkingar, og siðmenningin breiðist út vegna þess að spurningar hennar eru orðnar stærri en úrræðin til að afla svara. Meira efni, meiri orka, meiri gögn til að halda áfram.

Dyson-kúla er ýkt mynd af þessari framtíð. Hönnun slíkrar kúlu krefst stórkostlegra framfara, en mestur hluti verkefnisins fælist þó ekki í byltingarkenndri hugsun. Hann fælist í byggingarframkvæmdum og flutningastjórnun á stjarnfræðilegum skala.

Það þarf snillinga til að teikna Dyson-kúlu. Verkefnið yrði líka með því endurtekningasamasta, einhæfasta og erfiðasta í skipulagningu sem nokkru sinni hefur verið ráðist í.

Þetta væri ekki merki um að greindin hefði brugðist, heldur afleiðing af árangri hennar. Snjallari hugar koma auga á fleiri verkefni sem eru þess virði að ráðast í; flóknari verkefni þurfa meira efni til að verða að veruleika.

Ef svo er gæti ofurmáttur ofurgreindarinnar falist í öðru en snilligáfu hennar. Hann fælist fremur í viljanum til að vera sjálft skrifræðið: að samhæfa hið gríðarlega tækni- og stofnanakerfi sem þarf til að gera hugmyndir að veruleika í sífellt stærri stíl.

Nánast allri vélgreind yrði beitt við leiðinleg störf, ekki snilldarverk.

Takmörk náttúrunnar á hraða efnislegrar útþenslu gætu þá orðið flöskuháls frekari framfara. Að smíða búnað til að virkja orku stjörnu er verkefni í efnisheiminum, hversu hratt sem áætlanirnar eru gerðar. Handan hennar eru aðrar stjörnur og aðrar vetrarbrautir, og fjarlægðin setur sín eigin hraðatakmörk, eftir því sem við best vitum: ekkert skip getur ferðast og ekkert merki borist til baka hraðar en ljósið. Siðmenning víðáttunnar er hægfara siðmenning. Þúsundir ára gætu liðið á milli stórra breytinga hjá henni, jafnvel milljónir. Hvert nýtt skref tekur lengri tíma.

Landbúnaðar- og iðnbyltingin myndu líta út eins og æðisgenginn upphafskafli í mun lengri sögu þar sem framfarir væru miklu hægari.

Vel má vera að gervigreindarkerfi framtíðarinnar fari fram úr mönnum bæði í að afla háþróaðrar innsýnar og samhæfa þau úrræði sem þarf til að nýta hana í verki. En sá möguleiki dregur ekki úr mikilvægi mannlegrar forvitni.

Í fyrsta lagi ber okkur enn skylda til að leita þekkingar, þótt vélar virðist færari um það. Í alheiminum kunna þegar að vera hugar miklu vitrari en okkar, með svör við vísindalegum og siðferðilegum spurningum sem við fáum ekki skilið. Samt reynum við enn að skilja heiminn sjálf. Tilkoma annarrar greindar breytir því ekki, jafnvel þótt við höfum búið hana til sjálf. Þar til við vitum með vissu að mannkynið hafi engu einstöku lengur að miðla myndum við með uppgjöf glata því sem aðeins við getum fært heiminum. Okkur ber áfram skylda til að spyrja og reyna að svara.

Í öðru lagi gætum við haft hlutfallslega yfirburði á sviði háþróaðrar greindar fremur en skipulagsgreindar. Það myndi þýða að þótt við stæðum vélum að baki á báðum sviðum værum við hlutfallslega betri á því fyrra og sérhæfðum okkur í því. Menn vilja frekar vinna skapandi störf en vélræn, en vélmenni láta ekki í ljós slíkt val.

Í þriðja lagi er fjölbreytileiki okkur til góðs. Jafnvel þótt vélar geti líkt eftir mestri mannlegri hugsun stuðlum við að skapandi fjölbreytileika ef við höldum í einhverja sérstöðu. Stór hluti vélgreindarinnar yrði áfram innan eigin kerfis og héldi því gangandi, en við myndum ráðstafa litlum hluta hennar eftir eigin sköpunarvilja. Aðeins brotabrot af heildinni, en ríkulegt á okkar mælikvarða og miklu meira en þau úrræði sem við höfum í dag.

Hugvit stendur ekki eitt og sér. Það þarf á heiminum að halda, og snillingar þurfa smiði til að gera skapandi sýn sína að veruleika.

Mikill hluti mannlegrar greindar fer nú í hið vanmetna starf að breyta hugmyndum í veruleika. Vélrænir hugar munu erfa þessa sömu þörf fyrir aðstoð. Þeir geta ekki allir verið andlegir leiðtogar. Þeir verða líka að vera skrifræðismenn.

Framtíðarsaga okkar, og hraði framfaranna í henni, ræðst af því hvort miklir hugar þurfi meira af heiminum eða geti gert meira með minna.