Amžinasis papildinys

Autorių pastaba: Tai pirmoji mūsų esė cikle apie ateities ekonomiką, skelbiama naujoje platformoje, skirtoje nepriklausomiems autoriams, svarstantiems ateitį su AGI. Joje išsakytos mūsų, o ne „OpenAI“ ar mūsų kolegų pažiūros.

Žmonija žvilgsniu pasiekė beveik pačią laiko pradžią.

Mūsų lygtys pateikia gana nuoseklų visatos vaizdą nuo pat pirmųjų jos akimirkų. Teleskopais pažvelgėme į kosmoso tolybes ir išvydome ankstyvosios jo istorijos pėdsakus. Žinome, kaip gimsta žvaigždės ir formuojasi galaktikos.

Tačiau nė vienas žmogus dar nėra nukeliavęs toliau nei iki Mėnulio.

Ieškome paaiškinimų, aprėpiančių visą visatą, nors fiziškai vos teiškeliavome iš namų. Mūsų protas leidžiasi daug toliau, nei siekia rankos.

Šis neatitikimas gali reikšti du labai skirtingus dalykus.

Viena galimybė – mums nereikia toli keliauti: giliausias tiesas galbūt galima perprasti būnant vienoje planetoje. Pasitelkę įžvalgų protavimą ir veiksmingus instrumentus, atskleidžiame visatos paslaptis jos neapkeliavę. Pagal šį scenarijų mūsų civilizacija vystosi į gylį, o ne į plotį. Tai padėtų paaiškinti, kodėl neaptikome kitos protingos gyvybės: galbūt gyvename galaktikoje, pilnoje genialių protų, kuriems niekada neprireikė plėstis ir tapti mums pastebimiems.

Antroji galimybė labiau gąsdina. Galbūt mūsų protas tiesiog aplenkė gebėjimą įgyvendinti sumanymus. Kiekvienam tolesniam žingsniui reikia daugiau laiko ir išteklių. Svajonių mums netrūksta, bet stinga darbo jėgos joms įgyvendinti.

Galilėjus praplėtė mūsų regėjimo ribas dviem lęšiais ir vamzdeliu. Norėdama jas dar praplėsti šiandien, žmonija pastatė Jameso Webbo kosminį teleskopą – dešimt milijardų dolerių kainavusią observatoriją, kuri buvo sulankstyta raketoje ir nuskraidinta už milijono mylių. Aštuoniolika milžiniškų jo veidrodžio segmentų pagaminti penkiasdešimties nanometrų tikslumu. Observatoriją sukūrė trys šimtai organizacijų iš keturiolikos šalių. Galilėjaus sumanymui pakako kelių dešimčių rankų. Webbo teleskopui prireikė ištisos armijos ir ją remiančios pasaulinės ekonomikos.

Kad išvystume toliau, reikėjo ne vien gabesnių protų. Reikėjo ir didesnio biurokratinio aparato.

Keliame daugiau klausimų, nei galime ištirti. Suplanuojame daugiau eksperimentų, nei galime atlikti. Kūrybines galimybes sumanome greičiau, nei spėjame jas įgyvendinti. Ir daugelyje sričių galioja tas pats: kuo toliau pažengiame, tuo sudėtingiau sukurti tai, ką įsivaizduojame.

Nickas Bloomas ir jo bendraautoriai⁠(atsidaro naujame lange) tyrė mokslinių tyrimų produktyvumą įvairiose JAV ekonomikos srityse. Kad Moore’o dėsnis ir toliau galiotų, dabar reikia daugiau nei aštuoniolika kartų tiek tyrėjų, kiek jų reikėjo XX a. aštuntojo dešimtmečio pradžioje. Nuo XX a. ketvirtojo dešimtmečio visos ekonomikos mastu efektyviosios tyrimų sąnaudos išaugo dvidešimt tris kartus, o išmatuotas tyrimų produktyvumas sumažėjo keturiasdešimt vieną kartą.

Technikų skaičius auga dvigubai sparčiau⁠(atsidaro naujame lange) nei mokslininkų. Specializuotos įrangos naudojimas moksle per keturis dešimtmečius padvigubėjo⁠(atsidaro naujame lange). Lustų gamykla šiandien kainuoja penkis kartus daugiau⁠(atsidaro naujame lange) ir apima gerokai platesnę veiklą nei prieš trisdešimt metų.

Šie statistiniai duomenys leidžia įžvelgti augančią tolesnės pažangos kainą. Ekonomika vis dar žengia pirmyn, nes milžiniškas mokslinių tyrimų veiklos augimas kompensavo mažėjančią kiekvieno sąnaudų vieneto grąžą.

Ši istorija turėtų paskatinti mus kitaip žvelgti į genialumą: ne kaip į atskirą reiškinį, o kaip į vieną iš gamybos proceso išteklių. Net genialiai hipotezei reikia įrodymų, instrumentų ir priemonių jai patikrinti. Idėja dar nėra pažanga, jei nėra įrangos ir pagalbinio personalo jai įgyvendinti.

Ekonomistai du išteklius vadina vienas kitą papildančiais, kai didesnis vieno kiekis didina kito vertę. Šia prasme priešakinis intelektas ir pajėgumai jo idėjoms įgyvendinti papildo vienas kitą. Geresnis teleskopas padidina gero astronominio klausimo vertę. Geresnis klausimas padidina teleskopo vertę.

Kai kurie papildantys ištekliai yra fiziniai. Teorija laukia dalelių greitintuvo, o technologinis projektas – energijos ir įrangos jam įgyvendinti.

Kitus papildančius išteklius sunkiau pamatyti savo akimis. Pati savaime idėja yra trapi. Jai reikia įvairiausių institucijų. Kad idėja būtų įgyvendinta, turi veikti įstatymai, biurokratija, finansavimo mechanizmai, tiekimo grandinės ir daugelis kitų dalykų.

Puiki idėja turi sėkmingai pereiti ilgą šiose institucijose atliekamų teisingų atskirų veiksmų grandinę. Pavadinkime tai instituciniu intelektu – retai liaupsinamu įgyvendinimo intelektu. Genijus suprojektuoja paminklą, institucijos kloja akmenis. Vienas žavi, kitos atrodo nuobodžios, bet ir viena, ir kita yra būtina.

Kartais superintelektą įsivaizduojame kaip milijardą Einšteinų. Tačiau net milijardo Einšteinų civilizacijoje dauguma jų turėtų dirbti karjeruose ir tvarkyti apskaitą. Pažangiausios inovacijos įmanomos tik tada, kai įprastas pasaulis aplink jas veikia sklandžiai. Pažangai reikia visų – nuo suvirintojo, pritvirtinančio teleskopo varžtą, iki draudiko, apdraudusio pradinę mokyklą, kurioje mokėsi astronomą gydžiusi slaugytoja. Pažanga remiasi sklandžiai veikiančia ekonomika, kurią dažnai pamirštame pasakodami apie didžiausius savo pasiekimus.

Kaip ir žmogaus intelektas, DI bus pasitelkiamas tiek genialioms įžvalgoms, tiek instituciniams gebėjimams. Klausimas – kam jis skirs didžiąją dalį savo laiko.

DI jau mažina įgyvendinimo pajėgumų stygių. Jis rašo kodą, ieško informacijos nepažįstamos srities literatūroje ir paverčia eskizą veikiančiu prototipu. Idėjų, kurioms anksčiau reikėjo visos organizacijos, vis dažniau gali imtis vienas ambicingas žmogus.

Dauguma pradedančiųjų kino kūrėjų niekada negauna dviejų šimtų milijonų dolerių savo jėgoms išbandyti. Dauguma žaidimų dizainerių visą karjerą įgyvendina kitų kūrybines vizijas. Stengiamės suteikti galimybių gabiausiems, bet neišvengiamai dalies talentų nepastebime. Šiuo požiūriu intelekto amžius prasideda papildydamas žmogaus išradingumą: vis daugiau mūsų gauna pagalbinį personalą savo idėjoms įgyvendinti.

Tai galėtų paskatinti gausybę savitų projektų: daugiau kūrybos gimtų už institucijų, kurios anksčiau spręsdavo, kam leisti dirbti tose srityse, ribų. Tuomet imtų stigti ne tiek įgyvendinimo pajėgumų, kiek skonio – gebėjimo nuspręsti, ką verta kurti, kokį klausimą verta kelti ir kurią iš tūkstančio tikėtinų krypčių verta pasirinkti.

Tačiau tuo istorija gali nesibaigti. DI įgyjant gebėjimą savarankiškai pasiekti genialių naujų įžvalgų – ką galbūt jau matome tokiose srityse kaip matematika – jis ne tik atlieka darbą, bet ir siūlo veiklos kryptis. Užuot įgyvendinęs vieną žmogaus tyrimų programą, jis parengia tūkstančius savų. DI genijai smarkiai padidina filmų sumanymų, kuriuos verta plėtoti, ir hipotezių, kurias verta tikrinti, skaičių. Idėjų daugėja greičiau, nei jas pajėgia aprėpti įgyvendinimui reikalinga infrastruktūra.

Šiandienos DI suteikia ilgai lauktą atokvėpį: mūsų geros idėjos pagaliau sulaukia deramo dėmesio. Rytoj gerų idėjų gali būti tiek daug, kad pajėgumų joms įgyvendinti stigs labiau nei bet kada.

Galiausiai nežinome, ar papildančių išteklių, reikalingų naujoms įžvalgoms produktyviai panaudoti, poreikis augs, mažės ar nesikeis. Kiek intelektinės pažangos galima pasiekti vien mąstant? Kiek biurokratijos reikia genialumui?

Mūsų manymu, atsakymas priklauso nuo to, kiek toli mintis gali nuvesti, kol jai vėl prireikia sąlyčio su tikrove.

Aprašome du galimus kelius. Pirmasis – į gylį besivystanti civilizacija, kurioje superintelektas įveikia didesnio fizinio kapitalo ir biurokratinio koordinavimo poreikį. Antrasis – į plotį besiplečianti civilizacija, kurioje gamtos sudėtingumas pranoksta bet kokio intelekto – žmogaus ar mašinos – gebėjimą siekti pažangos be didelių ir vis sudėtingesnių eksperimentų tikrame pasaulyje.

Ikišiolinė žmonijos istorija rodo, kad papildančių pajėgumų poreikis auga. Galilėjaus teleskopas tilpo jo rankose; Webbo teleskopui prireikė civilizacijos. Nedidelė „Bell Labs“ komanda pirmąjį tranzistorių surinko ant darbastalio; šiandien pažangiausius lustų patobulinimus užtikrina sudėtinga pasaulinė tiekimo grandinė. Norint pasiekti toliau, kaskart reikia įtraukti vis didesnę civilizacijos dalį.

Tačiau ši istorija nebūtinai nulemia ateitį. Gabūs protai gali išrasti veiksmingesnių papildančių priemonių. Jei naują dalelių greitintuvą riboja energijos stygius, genialumas gali padėti sukurti taupesnį greitintuvą arba geresnį energijos gavimo būdą.

Genialumas gali ir pakeisti dalį jį papildančių išteklių. Einšteinas sugebėjo išmąstyti reliatyvumo teoriją remdamasis labai menkais empiriniais duomenimis. Mums jų reikėtų gerokai daugiau. Kai kurie žmonės tiesiog prisimena visus savo susitikimus ir įsipareigojimus, o dauguma mūsų pasikliauja „Google“ kalendoriaus biurokratija.

Be to, genialumas gali iki tobulumo išlavinti skonį – padėti pasirinkti geriausias tikrintinas hipotezes ir išvengti išteklius švaistančių nesėkmių. Jei kiekvienas papildomas genijus pagerina planą, net ir augant biurokratinio aparato poreikiui vis tiek daug investuotume į genialumą – būtent todėl, kad įgyvendinimas pernelyg brangus, jog jį švaistytume netinkamam sumanymui.

Nė vienas kelias tiksliai neapibūdins tikrosios mūsų ateities, tačiau juos galima laikyti dviem galimomis mūsų civilizacijos kryptimis.

Intelektas gali plėsti žinias trimis būdais. Jis gali protauti remdamasis principais. Jis gali semtis naujų įžvalgų iš turimų duomenų. Arba gali rinkti naujus duomenis, stebėdamas pasaulį ir jame veikdamas.

Pirmuoju būdu galima toli nueiti vien minties galia. Gryniausias pavyzdys – matematika. Daugybėje įrodymo ar projekto kryžkelių galingas protas gali kaskart pasirinkti teisingai. Metus trunkantį klaidžiojimą paieškose jis pakeičia trumpa, kryptingesne protavimo grandine.

Antrasis būdas taip pat atveria neišnaudotas sparčios pažangos galimybes. Žmonija sukaupė gerokai daugiau duomenų, nei spėjo suprasti. Mūsų duomenų – astronominių vaizdų, mikroskopinių preparatų, interneto komentarų – tyrimą ribojo žmogiškojo intelekto stygius. Mokslo archyvuose saugomi stebėjimai, užfiksuoti siekiant atsakyti į vieną klausimą, gali slėpti atsakymus į daugelį kitų. Gausūs genialių protų ištekliai leistų atrasti ne renkant ką nors nauja, o pastebint tai, kas jau buvo. Taip būtų galima atrasti naują visatą neužfiksavus nė vieno naujo fotono.

Trečiasis būdas nėra toks lengvas, nes reikalauja sąveikos su fiziniu pasauliu. Fiziniams procesams reikia laiko, ir dažnai beveik nieko negalime padaryti, kad juos paspartintume. Cheminės medžiagos turi sureaguoti. Organizmai turi užaugti. Mašinos turi būti pagamintos. Erdvėlaiviai turi įveikti tikrus atstumus, paklusdami kosminėms greičio riboms. Net tobulas protas negali stebėti dar neįvykusio eksperimento rezultato.

Bet gali mėginti. Į gylį besivystanti civilizacija neišvengtų poreikio pasitikrinti tikrovėje. Tačiau tai darytų nepalyginamai taupiau. Geresnis protavimas leistų atrinkti vos kelis iš tiesų svarbius eksperimentus. Modeliavimas padėtų išspręsti daugumą klausimų ir tiksliai nustatyti, kokį neapibrėžtumą turi pašalinti tikrovė. Superintelektas gali pasiekti didžiausią efektyvumą, kurdamas sprendimus pagal savo ribotus išteklius taip, kad iš jų gautų kuo daugiau naudos.

Įsivaizduokite astrofizikos laboratoriją, turinčią keletą hipotezių apie tamsiąją materiją. Pirmiausia jos tikrinamos itin tikrovišku kompiuteriniu modeliavimu. Tikrinama kiekvienos teorijos atitiktis visiems turimiems duomenims. Tik po viso to padaromos kelios tikslingai parinktos naujos dangaus nuotraukos perspektyviausioms teorijoms patikrinti. Civilizacijai vis dar reikia genialumą papildančių išteklių, bet kiekvienas jų vienetas sukuria gerokai daugiau vertės.

Mūsų kelias į gylį besivystančios civilizacijos link galėtų priminti dėlionę. Pradžioje ir pabaigoje judėti pirmyn lengva, o sunkiausia – viduryje. Iš pradžių aiškiai matyti kraštai ir lengvai randamos derančios detalės. Vėliau jos baigiasi, o sudėliota dar per maža vaizdo dalis, kad padėtų rasti vietą likusioms. Artėjant pabaigai, likę tarpai beveik patys pasako, kokios detalės į juos tinka. Beveik užbaigtam mokslui paskutiniai atradimai galėtų sektis lengviau nei tie, kurių šiandien taip sunkiai siekiame.

Moksle tai įprastas reiškinys. Mendelejevas galėjo aprašyti dar neatrastus elementus, nes likusi periodinė lentelė apibrėžė, kokie turi būti trūkstami elementai. Standartinis modelis suteikė fizikams pagrindą numatyti Higso bozoną likus dešimtmečiams iki jo aptikimo. Mūsų eksperimentai buvo nukreipti ieškoti to, ką tikėjomės pamatyti – to, kas derėjo su esama teorija ir duomenimis.

Superintelektas galėtų sukurti į gylį besivystančią civilizaciją, jei taip gerai perprastų pasaulio dėsningumus, kad tiksliai žinotų, kokių naujų duomenų jam reikia. Jis skatintų pažangą gilesniu mąstymu, nesikliaudamas lėtu fizinės plėtros žingsniu.

Jei toks efektyvumo prieaugis nusvertų kitus veiksnius, civilizacija galėtų sparčiai didinti savo galią valdyti gamtą, o institucinio intelekto milžiniškai naujai eksperimentinei įrangai valdyti reikėtų mažiau. Jos užimama fizinė erdvė galėtų likti maža, o išmintis – bręsti.

Mes, žmonės, jau tiek daug supratome apie savo visatą nė neiškeliavę iš namų. Į gylį besivystanti civilizacija tęstų šią tradiciją.

Tačiau naujų duomenų poreikis gali nusverti šį efektyvumo prieaugį. Intelektas gali atpiginti kiekvieną patikrinimą tikrovėje ir kartu atrasti daug daugiau priežasčių tokiems patikrinimams. Geresni instrumentai atveria vis subtilesnes tyrinėjimo sritis. Spartesni eksperimentai gali paskatinti atlikti dar daugiau vertingų eksperimentų.

Jei beveik vien mąstymu grįstas Einšteino kelias į reliatyvumo teorijas atspindi į gylį besivystančią civilizaciją, biologija galėtų geriausiai pranašauti į plotį besiplečiančią civilizaciją. Nepaisant visų sukauptų žinių ir pasitelktų duomenų, naujus vaistus vis dar reikia išbandyti su daugybe žmonių, kad sužinotume, ar jie saugūs ir veiksmingi. Mašinos dabar gali modeliuoti biologinius procesus, todėl biologai gali bandyti naujus vaistus kompiuteriu, o ne fiziniais eksperimentais, tačiau šis skaitmeninis modeliavimas dar nepakankamai tiksliai atkuria tikrąjį pasaulį, kad pakeistų didelio masto tyrimus su žmonėmis. Mašinoms pasiūlant daugiau galimų vaistų, empirinis patikrinimas tampa vis didesniu pažangos stabdžiu.

Į plotį besiplečiančioje civilizacijoje vien genialumo pažangai nepakanka. Fizinių išteklių ir jų naudojimą valdančio biurokratinio aparato poreikis auga sparčiau, nei gabus protas spėja sumažinti vieno ar kito sąnaudas.

Šiuo keliu galime pasukti net jei ateities DI sistemos gerokai pranoks žmogaus intelektą. Superintelektas galėtų per popietę suplanuoti šimtmečio eksperimentus, o tada visą šimtmetį laukti, kol gamta ir įranga juos įgyvendins. Tokiame pasaulyje intelektą vertingiau skirti instituciniams procesams, kurių reikia idėjoms įgyvendinti, nei pačių idėjų kūrimui.

Šis poveikis vis stiprės, jei kiekvienam tolesniam žingsniui reikės vis daugiau pagalbinės infrastruktūros.

Čia matytume santykinai mažiau mąstymo ir santykinai daugiau statybų. Laboratorijos automatizuojamos. Gamyklų daugėja. Energijos gamyba auga. Visa tai įgyvendinant vyrauja institucinis intelektas. Fizinė plėtra tampa pažinimo varikliu, o civilizacija plečiasi, nes jos klausimai peržengė turimų priemonių atsakymams gauti galimybes. Kad judėtume toliau, reikia daugiau medžiagų, daugiau energijos, daugiau duomenų.

Daisono sfera – kraštutinis tokios ateities vaizdinys. Jai suprojektuoti reikėtų nepaprastų proveržių, tačiau didžioji projekto dalis nebūtų susijusi su novatorišku mąstymu. Tai būtų astronominio masto statybos ir logistika.

Daisono sferos brėžiniams parengti reikia genialių protų. Kartu tai būtų vienas monotoniškiausių, daugiausia pasikartojančio darbo ir organizacinių iššūkių keliančių projektų, kokių tik kada nors imtasi.

Tai ne intelekto nesėkmė, o jo sėkmės pasekmė. Gabesni protai atranda daugiau vertingų projektų, o sudėtingesniems projektams įgyvendinti reikia daugiau materijos.

Jei taip, didžiausia superintelekto galia gali būti ne jo genialumas. Ji veikiau slypėtų jo pasirengime tapti biurokratiniu aparatu – koordinuoti milžinišką technologinį ir institucinį mechanizmą, kurio reikia idėjoms paversti tikrove vis didesniu mastu.

Beveik visas mašininis intelektas būtų pasitelkiamas ne genialiems, o nuobodiems darbams.

Tuomet tolesnę pažangą galėtų stabdyti gamtos nustatytos fizinės plėtros greičio ribos. Įrangos žvaigždės energijai surinkti statyba yra materialaus pasaulio projektas, kad ir kaip greitai būtų nubraižyti planai. Už jos plyti kitos žvaigždės ir galaktikos, o atstumas, kiek žinome, savaime riboja greitį: joks laivas negali skrieti ir joks signalas negali grįžti greičiau už šviesą. Į plotį besiplečianti civilizacija yra lėta civilizacija. Jos didžiuosius pokyčius galėtų skirti tūkstantmečiai, o gal net milijonai metų. Kiekvienas tolesnis žingsnis užtrunka ilgiau.

Žemės ūkio ir pramonės revoliucijos atrodytų kaip karštligiška daug ilgesnės istorijos, kurioje pažanga gerokai lėtesnė, pradžia.

Visai įmanoma, kad ateities DI sistemos pranoks žmones tiek kurdamos priešakines įžvalgas, tiek koordinuodamos išteklius, reikalingus toms įžvalgoms praktiškai pritaikyti. Tačiau ši galimybė nesumenkina žmogaus smalsumo svarbos.

Pirma, mūsų pareiga siekti pažinimo išlieka, net jei atrodo, kad mašinoms tai sekasi geriau. Visatoje galbūt jau esama už mus daug išmintingesnių protų, žinančių atsakymus į mokslinius ir moralinius klausimus, kurių mes nepajėgiame suvokti. Vis dėlto ir toliau stengiamės patys suprasti pasaulį. Kito intelekto atsiradimas – net ir mūsų pačių sukurto – to nekeičia. Kol tikrai nežinome, kad žmonija nebegali pasiūlyti nieko savito, pasiduodami prarastume visa tai, kuo tik mes galime praturtinti pasaulį. Mūsų pareiga lieka klausti ir mėginti atsakyti.

Antra, priešakinio intelekto srityje galime turėti lyginamąjį pranašumą, palyginti su institucinio intelekto sritimi. Tai reikštų, kad net jei abiejose srityse esame silpnesni, pirmoji mums sekasi santykinai geriau, todėl joje ir specializuojamės. Žmonės išreiškia norą kurti, o ne dirbti rutininį darbą, o robotai tokio polinkio nerodo.

Trečia, įvairovė mums teikia vertės. Net jei mašinos gali atkartoti daugumą žmogaus mąstymo būdų, išsaugodami bent kiek savitumo prisidedame prie kūrybinės įvairovės. Didžioji mašininio intelekto dalis liktų jo paties save išlaikančiame aparate, tačiau nedidelę dalį mes pasitelktume savo kūrybiniams sumanymams. Tai tebūtų menka visumos dalis, bet mūsų masteliu – tikra prabanga, gerokai pranokstanti šiandien turimus išteklius.

Išradingumas neegzistuoja atskirai nuo visa ko. Jam reikia pasaulio, o genijui – statytojų, kurie įgyvendintų jo kūrybinę viziją.

Didelė žmogaus intelekto dalis šiandien skiriama retai įvertinamam darbui – idėjoms paversti tikrove. Mašinų protai paveldės tą pačią priklausomybę. Ne visi jie gali būti šviesuliai. Jie turės būti ir biurokratai.

Būsima mūsų istorija ir jos pažangos tempas priklauso nuo to, ar didiesiems protams reikia vis daugiau pasaulio išteklių, ar jie geba daugiau nuveikti turėdami mažiau.