Igavene täiendus

Autorite märkus: See on esimene essee meie sarjas, mis käsitleb tulevikumajandust ja kuulub uuele platvormile, kus sõltumatud autorid uurivad AGI-ga tulevikku. Essee kajastab meie, mitte OpenAI ega meie kolleegide seisukohti.

Inimkond on näinud peaaegu aegade alguseni.

Meie võrrandid jutustavad universumist alates selle esimestest hetkedest suuresti sidusa loo. Oleme teleskoopidega vaadanud kosmose kaugustesse ja heitnud pilgu selle varasesse ajalukku. Teame tähtede sünnist ja galaktikate kujunemisest.

Ometi pole ükski inimene kunagi Kuust kaugemale reisinud.

Otsime selgitusi kogu universumile, kuigi meie kehad on vaevu kodust lahkunud. Meie mõtted rändavad palju kaugemale, kui käed ulatuvad.

See vastuolu võib tähendada kaht väga erinevat asja.

Üks võimalus on, et meil polegi vaja kuigi kaugele minna: sügavaimate tõdedeni võib jõuda üheltainsalt planeedilt. Selge arutluse ja tõhusate instrumentide abil avame universumi saladused, ilma et peaksime selle läbi rändama. Selles loos areneb meie tsivilisatsioon süvitsi, mitte laiuti. See aitaks selgitada, miks me pole näinud muud intelligentset elu: võime elada galaktikas, mis on täis geniaalseid mõistusi, kel pole kunagi olnud vaja laieneda ja meile märgatavaks muutuda.

Teine võimalus on hirmutavam. Meie mõistus võib olla lihtsalt meie teostusvõimest ette jõudnud. Iga järgmine samm nõuab rohkem aega ja ressursse. Unistustest meil puudust pole, kuid nende teostamiseks napib tööjõudu.

Galilei avardas meie vaatevälja kahe läätse ja toruga. Et seda tänapäeval veelgi avardada, ehitas inimkond James Webbi kosmoseteleskoobi – kümme miljardit dollarit maksva observatooriumi, mis pakiti raketti ja saadeti miljoni miili kaugusele. Selle kaheksateist hiiglaslikku peeglisegmenti on valmistatud viiekümne nanomeetri täpsusega. Observatoorium sündis kolmesaja organisatsiooni koostöös neljateistkümnes riigis. Galilei töö valmimiseks piisas mõnekümnest abikäest. Webb vajas tervet armeed ja selle taga seisvat maailmamajandust.

Kaugemale nägemiseks ei piisanud üksnes võimekamatest mõtlejatest. Vaja oli suuremat bürokraatiat.

Meil on rohkem küsimusi, kui suudame uurida. Kavandame rohkem katseid, kui suudame teha. Mõtleme välja loomingulisi võimalusi kiiremini, kui jõuame neid teostada. Ja paljudes valdkondades kehtib sama: mida kaugemale jõuame, seda keerulisem on ehitada seda, mida ette kujutame.

Nick Bloom ja tema kaasautorid⁠(avaneb uues aknas) uurisid teadustöö tootlikkust kogu USA majanduses. Moore’i seaduse kehtimise jätkumiseks on praegu vaja üle kaheksateistkümne korra rohkem teadlasi kui 1970. aastate alguses. Alates 1930. aastatest kasvas tegelik teadustöö maht kogu majanduses 23 korda, samal ajal kui mõõdetud teadustöö tootlikkus langes 41 korda.

Tehnikute arv kasvab kaks korda kiiremini⁠(avaneb uues aknas) kui teadlaste oma. Eriseadmete kasutamine teaduses on nelja aastakümnega kahekordistunud⁠(avaneb uues aknas). Tänapäevane kiibitehas on kolmekümne aasta tagusega võrreldes viis korda kallim⁠(avaneb uues aknas) ja selle tegevus palju laiahaardelisem.

Need arvud viitavad sellele, et edasine areng muutub üha kulukamaks. Majandus areneb siiski edasi, sest teadustegevuse tohutu kasv on korvanud iga panustatud ühiku kahaneva tootluse.

See ajalugu peaks panema meid geniaalsusest teisiti mõtlema: mitte eraldiseisva nähtuse, vaid tootmisprotsessi ühe sisendina. Ka geniaalne hüpotees vajab tõendeid, instrumente ja vahendeid, et seda kontrollida. Idee ei tähenda veel edasiminekut, kui puuduvad selle teostamiseks vajalikud seadmed ja tugipersonal.

Majandusteadlased nimetavad kaht sisendit teineteist täiendavaks, kui ühe hulga kasv suurendab teise väärtust. Tipptasemel intelligentsus ja võime selle ideid teostada on selles mõttes teineteist täiendavad tegurid. Parem teleskoop muudab hea astronoomiaküsimuse väärtuslikumaks. Parem küsimus muudab teleskoobi väärtuslikumaks.

Mõned täiendavad tegurid on materiaalsed. Teooria ootab osakestekiirendi valmimist; tehnoloogiline kavand ootab teostamiseks vajalikku energiat ja seadmeid.

Teisi täiendavaid tegureid on raskem silmaga näha. Idee üksi on habras. See vajab kõikvõimalikke institutsioone. Idee teostamiseks peavad kokku saama seadused, bürokraatia, rahastusmehhanismid, tarneahelad ja palju muud.

Suurepärane idee peab neis institutsioonides läbima pika jada õigesti tehtud üksiktoiminguid. Nimetagem seda institutsiooniliseks intelligentsuseks: teostamise varju jäävaks mõttetööks. Geenius kavandab monumendi, institutsioonid laovad kivid. Üks on hiilgav, teine näib igav; mõlemad on täiesti asendamatud.

Mõnikord kujutame superintellekti ette miljardi Einsteinina. Ent miljardi Einsteini tsivilisatsioonis peab enamik neist ikkagi karjäärides kaevandama ja raamatupidamist korraldama. Tipptasemel innovatsioon on võimalik vaid siis, kui argine maailm selle ümber sujuvalt toimib. Edasiminek vajab kõigi panust – teleskoobi kruvi keevitajast kuni selle algkooli kindlustajani, kus õppis astronoomi ravinud õde. Edasiminek toetub ladusalt toimivale majandusele, mis meie suurimate saavutuste lugudes sageli tähelepanuta jääb.

Nagu inimeste vaimseid võimeid, suunatakse ka tehisintellekti nii geniaalsete avastuste tegemisse kui ka institutsioonilise pädevuse teenistusse. Küsimus on selles, millele kulub valdav osa selle ajast.

Tehisintellekt leevendab juba praegu teostusvõime nappust. See kirjutab koodi, otsib infot võõra valdkonna kirjandusest ja muudab visandi toimivaks prototüübiks. Ideid, mille teostamiseks oli varem vaja tervet organisatsiooni, saab üha sagedamini ellu viia üksainus ambitsioonikas inimene.

Enamik filmitegijaks pürgijaid ei saa kunagi kahtsada miljonit dollarit, et oma võimalus ära kasutada. Enamik mängudisainereid veedab kogu karjääri teiste loomingulisi visioone teostades. Püüame kõige andekamaid esile tõsta, kuid paratamatult jääb osa andest märkamata. Nii vaadates algab intelligentsuse ajastu inimese leidlikkuse täiendamisest, pakkudes üha rohkematele meist tugipersonali oma ideede teostamiseks.

See võib tuua kaasa hulgaliselt isikupäraseid projekte: rohkem loomingut sünniks väljaspool institutsioone, millest varem sõltus ligipääs nende valdkondade tööle. Napiks sisendiks pole enam niivõrd teostusvõime kui maitse – oskus otsustada, mida tasub luua, millist küsimust tasub küsida ja milline tuhandest võimalikust suunast väärib järgimist.

Ent lugu ei pruugi sellega lõppeda. Kui tehisintellekt suudab ise geniaalsete uute avastusteni jõuda – mida võime juba näha näiteks matemaatikas –, pakub see peale tööjõu ka tegevussuundi. Ühe inimese uurimisprogrammi elluviimise asemel kavandab see tuhandeid enda omi. Tehisintellektist geeniused kasvatavad arendamist väärt filmiideede ja kontrollimist väärt hüpoteeside hulka plahvatuslikult. Ideid tekib kiiremini, kui toetav taristu jõuab neid teostada.

Tänane tehisintellekt pakub kauaoodatud hingetõmbeaega, mil meie head ideed saavad lõpuks väärilise võimaluse. Homme võib häid ideid olla nii palju, et teostusvõimest on suurem puudus kui kunagi varem.

Lõppkokkuvõttes ei tea me, kas uute teadmiste tulemuslikuks rakendamiseks vajalike täiendavate tegurite maht kasvab, kahaneb või püsib muutumatuna. Kui kaugele saab teadmistes jõuda üksnes mõtlemisega? Kui palju bürokraatiat vajab geniaalsus?

Meie arvates sõltub vastus sellest, kui kaugele saab mõte liikuda, enne kui peab taas tegelikkusega kokku puutuma.

Kirjeldame kaht võimalikku arenguteed. Esimene on süvitsi arenev tsivilisatsioon, kus superintellekt saab üle vajadusest suurendada füüsilist kapitali ja bürokraatlikku koordineerimist. Teine on laienev tsivilisatsioon, kus loodus on liiga keerukas, et ükski intellekt – olgu inimese või masina oma – suudaks edasi liikuda ilma suurte ja üha keerukamate katseteta pärismaailmas.

Inimkonna senine ajalugu viitab kasvavale vajadusele täiendava suutlikkuse järele. Galilei teleskoop mahtus tema kätesse; Webb vajas tervet tsivilisatsiooni. Bell Labsi väike meeskond pani esimese transistori kokku töölaual; tipptasemel kiipide edasiarendused sünnivad nüüd keerukas ülemaailmses tarneahelas. Kaugemale jõudmiseks tuleb pidevalt kaasata üha suurem osa tsivilisatsioonist.

Kuid ajalugu ei pea määrama meie saatust. Nutikad mõtlejad võivad leiutada tõhusamaid täiendavaid vahendeid. Kui uue osakestekiirendi kitsaskohaks on energia, võib geniaalne mõistus välja mõelda säästlikuma kiirendi või parema viisi energia ammutamiseks.

Geniaalsus võib osa seda täiendavatest teguritest ka asendada. Einstein suutis jõuda relatiivsusteooriani mõttetööga, toetudes väga vähestele empiirilistele andmetele. Meil oleks vaja palju rohkem andmeid. Mõni inimene lihtsalt mäletab kõiki oma kokkulepitud tegemisi – enamik meist toetub Google’i kalendri bürokraatiale.

Geniaalsus võib ka maitse täiuseni viia: valida kontrollimiseks parimad hüpoteesid ja vältida ressursse raiskavaid läbikukkumisi. Kui iga lisanduv geenius parandab plaani kvaliteeti, investeeriksime geniaalsusse endiselt palju ka siis, kui bürokraatia peaks aina kasvama – just seetõttu, et teostus on liiga kallis, et seda valele asjale raisata.

Kumbki arengutee ei kirjelda meie tegelikku tulevikku täpselt, kuid neid võib käsitleda meie tsivilisatsiooni kahe võimaliku suunana.

Intelligentsus saab teadmisi avardada kolmel viisil. See saab arutleda põhimõtetest lähtudes. See saab leida olemasolevatest tõenditest uusi teadmisi. Või saab see koguda uusi tõendeid, maailma vaadeldes ja sellesse sekkudes.

Esimesel viisil saab kaugele jõuda üksnes mõttetööga. Kõige puhtam näide on matemaatika. Võimekas mõistus suudab tõestuse või projekti paljudes otsustuskohtades järjekindlalt õige valiku teha. See asendab aastatepikkused kobavad otsingud lühikese ja sihipärasema arutluskäiguga.

Ka teine viis pakub rohkelt kasutamata võimalusi kiireks arenguks. Inimkond on kogunud palju rohkem tõendeid, kui ta on suutnud mõista. Meie andmete – astronoomiliste piltide, mikroskoobipreparaatide, veebikommentaaride – uurimist on piiranud inimeste vaimsete ressursside nappus. Teadusarhiivid sisaldavad vaatlusi, mis tehti ühe küsimuse lahendamiseks, kuid võivad peita vastuseid paljudele teistele. Külluslik geniaalsus võib teha avastusi mitte midagi uut kogudes, vaid märgates seda, mis oli juba olemas. See võib leida uue universumi ainsatki uut footonit kogumata.

Kolmas viis pole nii lihtne, sest nõuab kokkupuudet füüsilise maailmaga. Füüsilised protsessid võtavad aega ja sageli ei saa nende kiirendamiseks kuigi palju teha. Kemikaalid peavad reageerima. Organismid peavad kasvama. Masinad tuleb valmis ehitada. Kosmoselaevad peavad läbima tegelikke vahemaid, alludes kosmilistele kiiruspiirangutele. Isegi täiuslik mõistus ei saa vaadelda sellise katse tulemust, mida pole toimunud.

Aga ta võib proovida. Süvitsi arenev tsivilisatsioon ei vabaneks vajadusest tegelikkuselt vastuseid küsida. Ta muutuks selles põhjalikult säästlikumaks. Parem arutlus aitaks välja valida need vähesed katsed, mis tõesti loevad. Simulatsioonid lahendaksid enamiku küsimusi ja määraksid täpselt kindlaks ebaselguse, mille peab lahendama tegelikkus. Superintellekt saab viia tõhususe maksimumini, kavandades lahendusi oma nappide ressursside järgi, et neist võimalikult palju kasu saada.

Kujutlege astrofüüsikalaborit, kus on hulk tumeainet puudutavaid hüpoteese. Esmalt kontrollitakse neid ülimalt realistlike arvutisimulatsioonidega. Iga teooria puhul kontrollitakse kooskõla kõigi olemasolevate andmetega. Alles seejärel tehakse kõige paljulubavamate teooriate kontrollimiseks mõned sihitud uued taevapildid. Tsivilisatsioon vajab endiselt geniaalsust täiendavaid tegureid, kuid iga ühik loob palju rohkem väärtust.

Meie tee süvitsi areneva tsivilisatsioonini võib sarnaneda pusle kokkupanekuga. Edeneda on lihtne alguses ja lõpus, kõige raskem aga keskel. Algul leidub selgeid servatükke ja kergesti sobituvaid paare. Siis saavad need otsa, kuid pildist on koos liiga vähe, et ülejäänut juhatada. Lõpu lähedal ütlevad allesjäänud tühimikud peaaegu ise, mis neisse kuulub. Peaaegu terviklikuks saanud teadusel võib olla lihtsam jõuda viimaste avastusteni kui meil nende leidudeni, mille poole praegu vaevaliselt liigume.

See on teaduses tavapärane. Mendelejev suutis kirjeldada avastamata elemente, sest ülejäänud perioodilisustabel piiras puuduva võimalikke omadusi. Standardmudel andis füüsikutele põhjust eeldada Higgsi bosoni olemasolu aastakümneid enne selle vaatlemist. Meie katsed olid suunatud otsima seda, mida eeldasime nägevat – seda, mis oli kooskõlas olemasoleva teooria ja andmetega.

Superintellekt võib luua süvitsi areneva tsivilisatsiooni, mõistes maailma mustreid nii hästi, et teab täpselt, milliseid uusi andmeid ta vajab. See viiks arengut edasi sügavama mõttetöö abil, sõltumata füüsilise laienemise aeglasest edenemisest.

Kui need tõhususvõidud jäävad ülekaalu, võiks tsivilisatsioon kiiresti süvendada oma võimet loodust suunata, vajades vähem institutsioonilist intelligentsust tohutute uute katseseadmete haldamiseks. Selle füüsiline jalajälg võib jääda väikeseks, samal ajal kui tarkus küpseb.

Meie, inimesed, oleme juba mõistnud oma universumi kohta nii palju, kordagi kodust lahkumata. Süvitsi arenev tsivilisatsioon jätkaks seda traditsiooni.

Ent vajadus uute tõendite järele võib need tõhususvõidud üles kaaluda. Intelligentsus võib muuta iga tegelikkusele esitatud päringu odavamaks, leides samal ajal palju rohkem põhjusi uute päringute esitamiseks. Paremad instrumendid avavad uurimiseks üha peenemaid üksikasju. Kiiremad katsed võivad muuta lisakatsete tegemise tasuvaks.

Kui Einsteini peaaegu puhtalt mõttetööl põhinev tee relatiivsusteooriateni iseloomustab süvitsi arenevat tsivilisatsiooni, võib bioloogia kõige paremini ennustada laienevat tsivilisatsiooni. Hoolimata kõigist kogutud teadmistest ja rakendatud andmetest tuleb uusi ravimeid endiselt paljudel inimestel katsetada, et teada saada, kas need on ohutud ja tõhusad. Masinad suudavad nüüd bioloogilisi protsesse simuleerida, võimaldades bioloogidel katsetada uusi ravimeid füüsiliste katsete asemel in silico , kuid need digitaalsed simulatsioonid ei vasta pärismaailmale piisavalt täpselt, et asendada ulatuslikke inimkatseid. Mida rohkem ravimikandidaate masin pakub, seda suuremaks kitsaskohaks muutub empiiriline kontroll.

Laienevas tsivilisatsioonis ei piisa edasiminekuks üksnes geniaalsusest. Meie vajadus füüsiliste ressursside ja nende kasutamist korraldava bürokraatia järele kasvab kiiremini, kui tark mõistus suudab kumbagi kokku hoida.

See võib olla meie arengutee ka siis, kui tulevased tehisintellektisüsteemid inimeste vaimseid võimeid suuresti ületavad. Superintellekt võiks kavandada ühe pärastlõunaga sajandi jagu katseid ning seejärel veeta sajandi, oodates, kuni loodus ja masinad need lõpule viivad. Sellises maailmas tasub rohkem suunata vaimseid ressursse ideede teostamiseks vajalikesse institutsioonilistesse protsessidesse kui ideede loomisse endasse.

See mõju võimendub, kui iga järgmine samm nõuab üha rohkem tugitaristut.

Siin näeksime suhteliselt vähem mõtlemist ja rohkem ehitamist. Laborid automatiseeruvad. Tehaste arv kasvab. Energiatootmine suureneb. Selle kõige teostamiseks tõuseb esiplaanile institutsiooniline intelligentsus. Füüsilisest laienemisest saab teadmiste mootor ning tsivilisatsioon levib, sest selle küsimused on kasvanud suuremaks kui vastuste leidmise vahendid. Et edasi liikuda, on vaja rohkem materjale, rohkem energiat ja rohkem andmeid.

Dysoni sfäär on selle tuleviku äärmuslik näide. Selle kavandamine nõuab erakordseid läbimurdeid, ent suurem osa projektist ei seisneks läbimurdelises mõttetöös. See oleks astronoomilise mastaabiga ehitus- ja logistikatöö.

Dysoni sfääri projekteerimiseks on vaja geniaalseid mõtlejaid. Samas oleks see üks korduvamaid, üksluisemaid ja korralduslikult keerukamaid projekte, mis eales ette võetud.

See poleks intelligentsuse läbikukkumine, vaid hoopis selle edu tagajärg. Võimekamad mõtlejad leiavad rohkem väärt projekte; keerukamate projektide teostamiseks on vaja rohkem ainet.

Kui nii, siis ei pruugi superintellekti supervõime olla tema geniaalsus. Selleks oleks hoopis valmisolek täita bürokraatia rolli: koordineerida tohutut tehnoloogilist ja institutsioonilist masinavärki, mida on vaja ideede teostamiseks üha suuremas mastaabis.

Peaaegu kogu masinintellekt rakendataks mitte geniaalse, vaid igava töö tegemiseks.

Edasist arengut võivad siis hakata piirama füüsilisele laienemisele looduse seatud kiiruspiirangud. Tähe energia ammutamiseks vajaliku masinavärgi ehitamine on materiaalne ettevõtmine, ükskõik kui kiiresti plaanid valmivad. Sellest kaugemal asuvad teised tähed ja galaktikad ning kaugus seab meile teadaolevalt omad piirid: ükski laev ei saa liikuda ega ükski signaal naasta valgusest kiiremini. Laienev tsivilisatsioon on aeglane tsivilisatsioon. Selle suuri muutusi võivad lahutada aastatuhanded, võib-olla miljonid aastad. Iga järgmine samm võtab rohkem aega.

Põllumajandus- ja tööstusrevolutsioon paistaksid siis palju pikema ja aeglasema arenguga ajaloo tormaka algusena.

Tulevased tehisintellektisüsteemid võivad tõepoolest ületada inimesi nii tipptasemel avastuste tegemises kui ka nende praktiliseks rakendamiseks vajalike ressursside koordineerimises. Kuid see võimalus ei vähenda inimese uudishimu tähtsust.

Esiteks jääb meile kohustus püüelda mõistmise poole, isegi kui masinad näivad selles paremad olevat. Universumis võib juba leiduda meist palju targemaid mõistusi, kellel on vastused meie arusaamist ületavatele teaduslikele ja moraalsetele küsimustele. Ometi püüame maailma endiselt ise mõista. Teise intellekti ilmumine – isegi kui oleme selle ise loonud – ei muuda seda. Kuni me ei tea kindlalt, et inimkonnal pole enam midagi ainulaadset anda, läheks loobudes raisku kõik see, mida vaid meie saame maailmale lisada. Meie kohus on endiselt küsida ja vastuseid otsida.

Teiseks võib meil olla suhteline eelis pigem tipptasemel mõttetöös kui institutsioonilises intelligentsuses. See tähendaks, et isegi kui oleme mõlemas kehvemad, tuleme esimesega suhteliselt paremini toime ja spetsialiseerume sellele. Inimesed eelistavad rutiinsele tööle loomingulist, robotid aga sellist eelistust ei väljenda.

Kolmandaks on mitmekesisus meile väärtuslik. Isegi kui masinad suudavad jäljendada enamikku inimese mõtlemisest, pakume loomingulist mitmekesisust seni, kuni meis säilib midagi ainulaadset. Suur osa masinintellektist jääks omaenda isetoimivasse süsteemi, kuid väikese osa rakendaksime oma loominguliste soovide teenistusse. See oleks vaid killuke tervikust, kuid meie mõõdupuu järgi rikkalikult palju ja kaugelt rohkem kui meie praegused ressursid.

Leidlikkus ei toimi üksi. See vajab maailma ning geenius vajab oma loomingulise nägemuse elluviimiseks ehitajaid.

Suur osa inimeste vaimsetest võimetest kulub tänapäeval ideede teostamise märkamatule tööle. Sama sõltuvus kandub üle ka masinmõistustele. Kõik neist ei saa olla suurvaimud. Nad peavad olema ka bürokraadid.

Meie tulevikulugu ja selle arengutempo sõltuvad sellest, kas suured mõtlejad vajavad üha rohkem maailma ressursse või suudavad vähemaga rohkem ära teha.