Vječni komplement

Napomena autora: Ovo je prvi esej u našem serijalu o ekonomiji budućnosti, u okviru nove platforme koja okuplja nezavisne glasove koji istražuju budućnost uz AGI. Odražava naše stavove, a ne stavove kompanije OpenAI ili naših kolega.

Čovječanstvo je pogledom doprlo gotovo do početka vremena.

Naše jednačine daju uglavnom dosljednu sliku svemira od njegovih prvih trenutaka. Teleskopima smo zavirili u daleke krajeve kosmosa i nazreli njegovu ranu historiju. Znamo kako se rađaju zvijezde i nastaju galaksije.

Ipak, nijedan čovjek nikada nije otputovao dalje od Mjeseca.

Objašnjenja koja tražimo obuhvataju svemir, dok su naša tijela jedva napustila dom. Naši umovi zalaze daleko izvan dosega naših ruku.

Taj nesklad mogao bi značiti dvije vrlo različite stvari.

Jedna mogućnost je da ne moramo ići daleko, da se najdublje istine mogu dokučiti s jedne planete. Uz pronicljivo rezonovanje i efikasne instrumente otkrivamo svemir, a da njime ne putujemo. U toj priči naša civilizacija napreduje u dubinu, a ne u širinu. To bi pomoglo objasniti zašto nismo vidjeli drugi inteligentni život: možda živimo u galaksiji punoj briljantnih umova koji nikada nisu imali potrebu da se šire i postanu nam uočljivi.

Druga mogućnost je zastrašujuća. Naši umovi možda su jednostavno pretekli naše sposobnosti da zamisli provedemo u djelo. Svaki naredni korak traži više vremena i više resursa. Snova nam ne nedostaje, ali nam nedostaje ljudi da ih ostvarimo.

Galileo je proširio naš pogled pomoću dvije leće i cijevi. Da bi ga danas ponovo proširilo, čovječanstvo je izgradilo svemirski teleskop James Webb, opservatoriju vrijednu deset milijardi dolara, sklopljenu unutar rakete i poslanu milion milja daleko. Njegovih osamnaest ogromnih segmenata ogledala izrađeno je s preciznošću od pedeset nanometara. Opservatorija je nastala zajedničkim radom tristo organizacija iz četrnaest zemalja. Za Galileov doprinos bilo je potrebno nekoliko desetina ruku. Webbu je trebala čitava vojska ljudi, a iza nje globalna ekonomija.

Da bismo vidjeli dalje, nisu bili potrebni samo bistriji umovi. Bila je potrebna i veća birokratija.

Postavljamo više pitanja nego što ih možemo istražiti. Osmišljavamo više eksperimenata nego što ih možemo provesti. Smišljamo kreativne mogućnosti brže nego što ih možemo ostvariti. A u mnogim oblastima, što dalje napredujemo, sve je složenije izgraditi ono što zamislimo.

Nick Bloom i njegovi koautori⁠(otvara se u novom prozoru) proučavali su produktivnost istraživanja u američkoj ekonomiji. Za održavanje Mooreovog zakona danas je potrebno više od osamnaest puta više istraživača nego početkom 1970-ih. Efektivni istraživački napor u cjelokupnoj ekonomiji porastao je dvadeset tri puta od 1930-ih, dok je izmjerena produktivnost istraživanja pala na četrdeset prvi dio tadašnje vrijednosti.

Broj tehničara raste dvostruko brže⁠(otvara se u novom prozoru) od broja naučnika. Upotreba specijalizovane opreme u nauci udvostručila se⁠(otvara se u novom prozoru) tokom četiri decenije. Fabrika čipova danas je pet puta skuplja⁠(otvara se u novom prozoru) — i znatno obimniji poduhvat — nego prije trideset godina.

Ovi podaci ukazuju na rastuću cijenu daljnjeg napretka. Ekonomija i dalje napreduje jer je ogromno širenje istraživačke djelatnosti nadoknadilo sve manji prinos po jedinici uloženog napora.

Ta historija trebala bi nas navesti da drugačije razmišljamo o genijalnosti: ne izolovano, nego kao o jednom od faktora proizvodnog procesa. Briljantnoj hipotezi i dalje su potrebni dokazi, instrumenti i sredstva da se provjeri. Ideja još nije napredak bez mašinerije i pomoćnog osoblja koji će je ostvariti.

Ekonomisti dva proizvodna faktora nazivaju komplementima kada veća količina jednog povećava vrijednost drugog. Granična inteligencija i sposobnost da se njene ideje ostvare komplementi su u tom smislu. Bolji teleskop povećava vrijednost dobrog astronomskog pitanja. Bolje pitanje povećava vrijednost teleskopa.

Neki komplementi su materijalni. Teorija čeka akcelerator čestica; tehnološko rješenje čeka energiju i mašineriju potrebnu za njegovu izradu.

Druge komplemente teže je vidjeti golim okom. Ideja je sama po sebi krhka. Potrebne su joj institucije svih vrsta. Zakoni, birokratija, mehanizmi finansiranja, lanci snabdijevanja i mnogo toga drugog udružuju se da bi ideja bila ostvarena.

Velika ideja mora opstati kroz dug niz ispravnih postupaka na pojedinačnim tačkama u tim institucijama. Nazovimo to institucionalnom inteligencijom: nezapaženom inteligencijom provedbe. Genijalnost projektuje spomenik; institucije polažu kamen. Jedno blista, drugo djeluje dosadno; oboje je apsolutno ključno.

Ponekad superinteligenciju zamišljamo kao milijardu Einsteina. Ali i u civilizaciji s milijardu Einsteina većina bi i dalje morala vaditi kamen u kamenolomima i voditi računovodstvo. Granične inovacije moguće su samo kada svakodnevni svijet oko njih funkcioniše bez zastoja. Napredak zahtijeva doprinos svih — od zavarivača vijka koji se ugrađuje u teleskop do osiguravatelja osnovne škole koju je pohađala medicinska sestra koja je liječila astronoma. Napredak počiva na ekonomiji koja radi punom parom, a koju često zanemarujemo u pričama o svojim najvećim podvizima.

Poput ljudske inteligencije, AI će biti usmjeren i na briljantne spoznaje i na institucionalnu sposobnost. Pitanje je čemu će posvetiti najveći dio vremena.

AI već ublažava manjak kapaciteta za provedbu ideja. Piše kôd, pretražuje nepoznatu literaturu i pretvara skicu u funkcionalan prototip. Ideje za koje je nekada bila potrebna cijela organizacija sve češće može razvijati jedna ambiciozna osoba.

Većina filmskih stvaralaca u usponu nikada ne dobije dvjesto miliona dolara da ostvari svoju zamisao. Većina dizajnera igara provede cijelu karijeru ostvarujući tuđe kreativne vizije. Nastojimo pružiti priliku najdarovitijima, ali neizbježno propuštamo neke talente. Gledano iz tog ugla, doba inteligencije počinje nadopunjavanjem ljudske domišljatosti, pružajući većem broju nas pomoćno osoblje za ostvarenje vlastitih ideja.

To bi moglo dovesti do obilja osebujnih projekata, uz više kreativnog rada izvan institucija koje su ranije određivale ko može raditi u tim oblastima. Oskudni resurs više nije provedba, nego ukus — sposobnost da se odluči šta vrijedi stvarati, koje pitanje vrijedi postaviti i kojim od hiljadu mogućih pravaca vrijedi krenuti.

Ali tu možda nije kraj priče. Kako AI postaje sposoban da samostalno dolazi do briljantnih novih spoznaja — što možda već vidimo u oblastima poput matematike — on ne nudi samo rad nego i planove. Umjesto da provodi jedan ljudski istraživački program, osmišljava hiljade vlastitih. AI geniji višestruko povećavaju broj filmskih koncepata vrijednih razvoja i hipoteza vrijednih provjere. Ideje se množe brže nego što ih prateća infrastruktura može prihvatiti.

Današnji AI pruža dugo očekivano olakšanje: naše dobre ideje konačno dobijaju priliku koju zaslužuju. Sutra bi dobrih ideja moglo biti toliko da nam kapaciteti za njihovu provedbu budu potrebniji nego ikad prije.

U konačnici ne znamo hoće li potreba za komplementima koji omogućavaju produktivnu primjenu novih spoznaja rasti, opadati ili ostati nepromijenjena. Koliko se intelektualno može napredovati samo razmišljanjem? Koliko je birokratije potrebno genijalnosti?

Smatramo da odgovor zavisi od toga koliko daleko misao može otići prije nego što ponovo mora doći u dodir sa stvarnošću.

Opisujemo dva moguća puta. Prvi je civilizacija dubine, u kojoj superinteligencija prevazilazi potrebu za dodatnim fizičkim kapitalom i birokratskom koordinacijom. Drugi je civilizacija širine, u kojoj složenost prirode nadilazi sposobnost bilo koje inteligencije — ljudske ili mašinske — da napreduje bez velikih i sve složenijih eksperimenata u stvarnom svijetu.

Ljudska historija ukazuje na to da je potreba za komplementarnim kapacitetima dosad rasla. Galileov teleskop stao mu je u ruke; za Webb je bila potrebna čitava civilizacija. Mali tim iz Bell Labsa sastavio je prvi tranzistor na radnom stolu; granični napredak u razvoju čipova danas proizlazi iz složenog globalnog lanca snabdijevanja. Svaki novi domet zahtijeva podršku sve većeg dijela civilizacije.

Ali ta historija ne mora odrediti našu sudbinu. Bistri umovi mogu osmisliti efikasnije komplemente. Ako je energija usko grlo novog akceleratora čestica, genijalnost može osmisliti štedljiviji akcelerator ili bolji način prikupljanja energije.

Genijalnost može i zamijeniti neke od svojih komplemenata. Einstein je uspio razmišljanjem doći do relativnosti na osnovu vrlo malo empirijskih podataka. Nama bi ih trebalo mnogo više. Neki ljudi jednostavno pamte sve svoje obaveze — većina nas oslanja se na birokratiju Google kalendara.

A genijalnost može i izoštriti ukus do maksimuma, birajući najbolje hipoteze za provjeru i izbjegavajući skupe promašaje. Ako svaki dodatni genij poboljšava kvalitet plana, čak i uz potrebu za sve većom birokratijom, i dalje bismo mnogo ulagali u genijalnost upravo zato što je provedba preskupa da bismo je trošili na pogrešne stvari.

Nijedan put neće savršeno opisati našu stvarnu budućnost, ali ih možemo posmatrati kao dva moguća pravca razvoja naše civilizacije.

Inteligencija može unaprijediti znanje na tri načina. Može rezonovati polazeći od principa. Može izvući nove spoznaje iz postojećih dokaza. Ili može prikupljati nove dokaze posmatrajući svijet i djelujući u njemu.

Prvim načinom može se daleko stići samo razmišljanjem. Matematika je najčistiji primjer. Na brojnim raskrsnicama u dokazu ili projektu snažan um može dosljedno birati pravi put. Godine lutanja u potrazi zamjenjuje kratkim, usmjerenijim nizom koraka rezonovanja.

I drugi način nudi neistražen prostor za brz napredak. Čovječanstvo je prikupilo daleko više dokaza nego što ih je razumjelo. Proučavanje naših podataka — astronomskih snimaka, mikroskopskih preparata, komentara na internetu — bilo je ograničeno oskudnošću ljudske inteligencije. Naučne arhive sadrže opažanja zabilježena radi odgovora na jedno pitanje, a koja možda kriju odgovore na mnoga druga. Obilje genijalnosti može dovesti do otkrića ne prikupljanjem nečeg novog, nego uočavanjem onoga što je već tu. Moglo bi otkriti novi svemir, a da ne prikupi nijedan novi foton.

Treći način nije tako jednostavan jer zahtijeva interakciju s fizičkim svijetom. Fizički procesi zahtijevaju vrijeme i često se malo toga može učiniti da se ubrzaju. Hemikalije moraju reagovati. Organizmi moraju rasti. Mašine se moraju izgraditi. Svemirske letjelice moraju preći stvarne udaljenosti, podložne kosmičkim ograničenjima brzine. Čak ni savršen um ne može posmatrati rezultat eksperimenta koji se nije dogodio.

Ali može pokušati. Civilizacija dubine ne bi izbjegla potrebu da svoje ideje provjerava u stvarnosti. Samo bi to činila uz radikalno manje troškove. Bolje rezonovanje izdvojilo bi nekolicinu eksperimenata koji su zaista važni. Simulacije bi dale većinu odgovora i precizno utvrdile neizvjesnost koju mora razriješiti stvarnost. Superinteligencija može maksimalno povećati efikasnost, prilagođavajući rješenja svojim oskudnim resursima kako bi ih što bolje iskoristila.

Zamislite astrofizički laboratorij sa skupom hipoteza o tamnoj materiji. One se prvo provjeravaju hiperrealističnim računarskim modeliranjem. Za svaku teoriju provjerava se usklađenost sa svim postojećim podacima. Tek nakon svega toga pravi se nekoliko ciljanih novih snimaka neba kako bi se provjerile teorije koje najviše obećavaju. Civilizaciji su i dalje potrebni komplementi genijalnosti, ali svaka jedinica donosi mnogo veću vrijednost.

Naš put do civilizacije dubine mogao bi ličiti na sastavljanje slagalice. Napredak je lak na početku, lak na kraju, a najteži u sredini. U početku su rubovi očigledni, a dijelovi se lako uklapaju. Zatim takvih dijelova ponestane, a sastavljen je premalen dio slike da bi nam pokazao kako dalje. Pred kraj, preostale praznine gotovo same govore šta u njih ide. Gotovo zaokružena nauka mogla bi do svojih posljednjih otkrića doći lakše nego što mi dolazimo do onih kojima danas mukotrpno težimo.

To je uobičajen obrazac u nauci. Mendeljejev je mogao opisati neotkrivene elemente jer je ostatak periodnog sistema ograničavao mogućnosti za ono što nedostaje. Standardni model dao je fizičarima razlog da očekuju Higgsov bozon decenijama prije nego što smo ga opazili. Naši eksperimenti bili su usmjereni na traženje onoga što smo očekivali vidjeti — onoga što je bilo u skladu s postojećom teorijom i podacima.

Superinteligencija bi mogla ostvariti civilizaciju dubine tako što bi obrasce svijeta razumjela toliko dobro da tačno zna koji su joj novi podaci potrebni. Pokretala bi napredak dubljim razmišljanjem, ne oslanjajući se na spori tok fizičkog širenja.

Ako takva povećanja efikasnosti prevladaju, civilizacija bi mogla brzo produbiti svoje ovladavanje prirodom, uz manju potrebu za institucionalnom inteligencijom koja upravlja ogromnim novim eksperimentalnim postrojenjima. Mogla bi i dalje zauzimati malo prostora dok njena mudrost sazrijeva.

Mi ljudi već smo toliko toga razumjeli o svom svemiru, a da nikada nismo napustili dom. Civilizacija dubine bila bi nastavak te tradicije.

Ali potreba za novim dokazima može nadmašiti ta povećanja efikasnosti. Inteligencija može pojeftiniti svaku provjeru u stvarnosti, a istovremeno otkriti mnogo više razloga da je provedemo. Bolji instrumenti otvaraju nove granice istraživanja sve sitnijih detalja. Brži eksperimenti mogu učiniti dodatne eksperimente vrijednim truda.

Ako Einsteinov gotovo isključivo misaoni put do teorija relativnosti predstavlja civilizaciju dubine, biologija možda najbolje nagovještava civilizaciju širine. Uprkos svom znanju koje smo prikupili i svim podacima koje smo upotrijebili, novi lijekovi i dalje se moraju ispitati na velikom broju ljudi kako bismo znali da su sigurni i djelotvorni. Mašine sada mogu simulirati biološke procese, omogućavajući biolozima da nove lijekove ispituju in silico umjesto u fizičkim eksperimentima, ali te digitalne simulacije nisu dovoljno vjerne stvarnom svijetu da bi zamijenile obimna ispitivanja na ljudima. Što mašine predlože više kandidata, to empirijska provjera postaje veće usko grlo.

U civilizaciji širine sama genijalnost nije dovoljna za napredak. Naša potreba za fizičkim resursima — i birokratijom koja upravlja njihovom upotrebom — raste brže nego što bistar um može smanjiti potrebu za jednim ili drugim.

To bi mogao biti naš put čak i ako budući AI sistemi daleko nadmaše ljudsku inteligenciju. Superinteligencija bi za jedno poslijepodne mogla osmisliti stoljeće eksperimenata, a zatim to stoljeće provesti čekajući da ih priroda i mašinerija provedu do kraja. U takvom svijetu postaje vrednije ulagati inteligenciju u institucionalne procese potrebne za ostvarivanje ideja nego u samo njihovo osmišljavanje.

Taj učinak dodatno će se pojačavati ako svaki naredni korak bude zahtijevao sve više prateće infrastrukture.

Tada bismo vidjeli relativno manje razmišljanja i relativno više gradnje. Laboratoriji se automatizuju. Fabrike se umnožavaju. Proizvodnja energije raste. Institucionalna inteligencija preuzima glavnu ulogu kako bi sve to omogućila. Fizičko širenje postaje pokretač znanja, a civilizacija se širi jer su njena pitanja prerasla sredstva kojima dolazi do odgovora. Više materijala, više energije, više podataka da bi se išlo dalje.

Dysonova sfera je krajnji prikaz takve budućnosti. Njeno projektovanje zahtijeva izvanredna otkrića, ali veći dio projekta ne bi se sastojao od revolucionarnog razmišljanja. To bi bili građevinski i logistički radovi astronomskih razmjera.

Za izradu nacrta Dysonove sfere potrebni su briljantni umovi. Ujedno bi to bio jedan od najrepetitivnijih, najmonotonijih i organizacijski najzahtjevnijih projekata ikad poduzetih.

To nije neuspjeh inteligencije, već posljedica njenog uspjeha. Bistriji umovi otkrivaju više projekata vrijednih truda; složeniji projekti zahtijevaju više materije za realizaciju.

Ako je tako, supermoć superinteligencije možda neće biti njena genijalnost. Umjesto toga, bila bi to njena spremnost da preuzme ulogu birokratije i koordinira ogromnu tehnološku i institucionalnu mašineriju potrebnu da se ideje pretvore u stvarnost u sve većim razmjerama.

Gotovo sva mašinska inteligencija bila bi angažovana ne na briljantnim, nego na dosadnim poslovima.

Prirodna ograničenja brzine fizičkog širenja tada bi mogla postati usko grlo daljnjeg napretka. Izgradnja postrojenja za prikupljanje energije zvijezde poduhvat je u materijalnom svijetu, koliko god brzo nacrti bili gotovi. Dalje se nalaze druge zvijezde i druge galaksije, a udaljenost je, koliko znamo, ograničenje za sebe: nijedna letjelica ne može putovati niti se ijedan signal vratiti brže od svjetlosti. Civilizacija širine je spora civilizacija. Između njenih velikih promjena mogle bi proći hiljade, a možda i milioni godina. Svaki naredni korak traje duže.

Poljoprivredna i industrijska revolucija izgledale bi kao grozničav početak mnogo duže historije, s mnogo sporijim tempom napretka.

Sasvim je moguće da će budući AI sistemi nadmašiti ljude i u stvaranju graničnih spoznaja i u koordinaciji resursa potrebnih da te spoznaje postanu korisne u praksi. Ali ta mogućnost ne umanjuje važnost ljudske radoznalosti.

Prvo, naša obaveza da težimo spoznaji ostaje, čak i ako se čini da su mašine u tome bolje. U svemiru možda već postoje umovi daleko mudriji od naših, s odgovorima na naučna i moralna pitanja izvan našeg poimanja. Ipak, mi i dalje pokušavamo sami razumjeti svijet. Pojava druge inteligencije — čak i one koju sami stvorimo — to ne mijenja. Dok sa sigurnošću ne budemo znali da čovječanstvo više nema ništa jedinstveno čime može doprinijeti, odustajanjem gubimo sve ono što samo mi možemo dati svijetu. Naša je dužnost i dalje da postavljamo pitanja i pokušavamo odgovoriti na njih.

Drugo, možda imamo komparativnu prednost u graničnoj inteligenciji u odnosu na institucionalnu inteligenciju. To bi značilo da smo, čak i ako smo lošiji u obje, relativno bolji u prvoj i da se za nju specijalizujemo. Ljudi radije biraju kreativnost nego rutinu, dok roboti ne pokazuju takvu sklonost.

Treće, raznolikost nam donosi vrijednost. Čak i ako mašine mogu oponašati većinu ljudskog razmišljanja, zadržimo li određenu jedinstvenost, doprinosimo kreativnoj raznolikosti. Veliki dio mašinske inteligencije ostao bi unutar vlastitog samoodrživog sistema, ali bismo mali dio angažovali prema svojim kreativnim zamislima. Tek djelić cjeline, ali raskošan za naše potrebe i daleko veći od resursa koje imamo danas.

Domišljatost ne postoji sama za sebe. Potreban joj je svijet, a genijalnosti su potrebni graditelji koji će ostvariti njenu kreativnu viziju.

Veliki dio ljudske inteligencije danas je posvećen nezapaženom radu na pretvaranju ideja u stvarnost. Mašinski umovi naslijedit će istu zavisnost. Ne mogu svi biti velikani. Moraju biti i birokrate.

Naša buduća priča — i tempo njenog napretka — zavise od toga trebaju li veliki umovi više onoga što svijet nudi ili mogu postići više s manje.