Vječni komplement

Napomena autora: Ovo je prvi esej u našem serijalu o gospodarstvu budućnosti, u sklopu nove platforme koja okuplja neovisne glasove posvećene istraživanju budućnosti uz AGI. U njemu iznosimo vlastita stajališta, a ne stajališta tvrtke OpenAI ili naših kolega.

Čovječanstvo je uspjelo zaviriti gotovo do samog početka vremena.

Naše jednadžbe daju uglavnom dosljedan prikaz svemira od njegovih prvih trenutaka. Teleskopima smo pogledali u daleke predjele svemira i nazreli njegovu ranu povijest. Znamo kako se rađaju zvijezde i nastaju galaksije.

Ipak, nijedan čovjek nikad nije otputovao dalje od Mjeseca.

Objašnjenja koja tražimo obuhvaćaju cijeli svemir, dok su naša tijela jedva napustila dom. Naši umovi sežu daleko izvan dosega naših ruku.

Taj nesrazmjer mogao bi značiti dvije vrlo različite stvari.

Jedna je mogućnost da ne moramo ići jako daleko, da se najdublje istine možda mogu dokučiti s jednog jedinog planeta. Uz pronicljivo rasuđivanje i učinkovite instrumente otkrivamo svemir ne putujući njime. U toj priči naša civilizacija napreduje u dubinu, a ne u širinu. To bi pomoglo objasniti zašto nismo vidjeli druge oblike inteligentnog života: možda živimo u galaksiji punoj briljantnih umova koji nikad nisu imali potrebu širiti se i postati nam vidljivi.

Druga mogućnost više zastrašuje. Naši su umovi možda jednostavno pretekli našu sposobnost provedbe. Svaki sljedeći korak zahtijeva više vremena i više resursa. Snova nam ne nedostaje, ali nedostaje nam ljudi da ih ostvarimo.

Galileo je proširio naš vidokrug s pomoću dviju leća i cijevi. Da bi ga danas ponovno proširilo, čovječanstvo je izgradilo svemirski teleskop James Webb, zvjezdarnicu vrijednu deset milijardi dolara, sklopljenu unutar rakete i poslanu milijun milja daleko. Njegovih osamnaest golemih segmenata zrcala izrađeno je s preciznošću od pedeset nanometara. Zvjezdarnica je nastala suradnjom tristo organizacija iz četrnaest zemalja. Za Galileov pothvat bilo je dovoljno nekoliko desetaka ruku. Webbu je trebala čitava vojska ljudi i globalno gospodarstvo koje stoji iza nje.

Da bismo vidjeli dalje, nisu nam trebali samo bistriji umovi. Trebala nam je i veća birokracija.

Postavljamo više pitanja nego što ih možemo istražiti. Osmišljavamo više eksperimenata nego što ih možemo provesti. Kreativne mogućnosti zamišljamo brže nego što ih možemo ostvariti. A u mnogim područjima vrijedi isto: što više napredujemo, to je složenije izgraditi ono što zamišljamo.

Nick Bloom i njegovi koautori⁠(otvara se u novom prozoru) proučavali su istraživačku produktivnost u američkom gospodarstvu. Za održavanje Mooreova zakona danas je potrebno više od osamnaest puta više istraživača nego početkom 1970-ih. Efektivni istraživački napori u cjelokupnom gospodarstvu od 1930-ih su porasli dvadeset tri puta, dok se izmjerena istraživačka produktivnost smanjila četrdeset jedan put.

Broj tehničara raste dvostruko brže⁠(otvara se u novom prozoru) od broja znanstvenika. Upotreba specijalizirane opreme u znanosti udvostručila se⁠(otvara se u novom prozoru) tijekom četiri desetljeća. Tvornica čipova danas je pet puta skuplja⁠(otvara se u novom prozoru), a njezino je poslovanje mnogo razgranatije nego prije trideset godina.

Ti statistički podaci upućuju na sve veću cijenu daljnjeg napretka. Gospodarstvo i dalje napreduje jer je golemo širenje istraživačke djelatnosti nadoknadilo sve manji učinak po jedinici uloženog.

Ta bi nas povijest trebala potaknuti da drukčije razmišljamo o genijalnosti: ne kao o nečemu izdvojenom, nego kao o jednom od čimbenika proizvodnog procesa. Briljantnoj hipotezi i dalje su potrebni dokazi, instrumenti i sredstva za njezinu provjeru. Sama ideja još nije napredak bez opreme i pomoćnog osoblja koji će je ostvariti.

Ekonomisti dva proizvodna čimbenika nazivaju komplementima kada veća količina jednoga povećava vrijednost drugoga. Granična inteligencija i sposobnost ostvarivanja njezinih ideja komplementi su u tom smislu. Bolji teleskop povećava vrijednost dobrog astronomskog pitanja. Bolje pitanje povećava vrijednost teleskopa.

Neki su komplementi materijalni. Teorija čeka akcelerator čestica; tehnološki nacrt čeka energiju i strojeve potrebne za njegovu izvedbu.

Drugi su komplementi manje vidljivi. Ideja je sama po sebi krhka. Potrebne su joj institucije svih vrsta. Zakoni, birokracija, mehanizmi financiranja, opskrbni lanci i još mnogo toga moraju djelovati zajedno da bi se ideja ostvarila.

Velika ideja mora proći dug lanac ispravnih pojedinačnih postupaka u tim institucijama. Nazovimo to institucionalnom inteligencijom: nezapaženom inteligencijom provedbe. Genijalnost osmišljava spomenik, a institucije polažu kamen. Jedno je briljantno, drugo se čini dosadnim, a oboje je apsolutno ključno.

Superinteligenciju ponekad zamišljamo kao milijardu Einsteina. No i civilizaciji od milijardu Einsteina većina njih i dalje treba za rad u kamenolomima i vođenje računovodstva. Inovacije koje pomiču granice moguće su samo kad svakodnevni svijet oko njih funkcionira besprijekorno. Napredak traži doprinos svih: od zavarivača koji zavaruje vijak za teleskop do osiguravatelja osnovne škole koju je pohađala medicinska sestra koja je liječila astronoma. Napredak počiva na gospodarstvu koje radi punom parom, a koje često zanemarujemo u pričama o svojim najvećim pothvatima.

Poput ljudske inteligencije, i umjetna inteligencija bit će usmjerena i na briljantne spoznaje i na institucionalnu sposobnost. Pitanje je čemu će posvetiti najveći dio svojeg vremena.

Umjetna inteligencija već ublažava manjak kapaciteta za provedbu. Piše kôd, pretražuje nepoznatu literaturu i pretvara skicu u funkcionalni prototip. Ideje za koje je nekad bila potrebna cijela organizacija sve češće može ostvarivati jedna ambiciozna osoba.

Većina filmskih autora u usponu nikad ne dobije dvjesto milijuna dolara da pokaže što može. Većina dizajnera igara cijelu karijeru provede ostvarujući tuđe kreativne vizije. Nastojimo pružiti priliku najdarovitijima, ali dio talenta neizbježno previdimo. Iz te perspektive, doba inteligencije počinje nadopunjavanjem ljudske domišljatosti: sve većem broju nas daje pomoćno osoblje za ostvarivanje vlastitih ideja.

To bi moglo donijeti obilje osebujnih projekata i više kreativnih djela nastalih izvan institucija koje su prije odlučivale tko može raditi u tim područjima. Oskudan čimbenik više nije provedba, nego ukus: sposobnost procjene što vrijedi stvoriti, koje pitanje vrijedi postaviti i kojim od tisuću mogućih smjerova vrijedi krenuti.

No to možda nije kraj priče. Kako umjetna inteligencija postaje sposobna samostalno dolaziti do briljantnih novih spoznaja, što možda već vidimo u područjima poput matematike, ona ne nudi samo rad nego i planove. Umjesto da provodi jedan ljudski istraživački program, osmišljava tisuće vlastitih. Genijalni sustavi umjetne inteligencije vrtoglavo povećavaju broj filmskih zamisli koje vrijedi razviti i hipoteza koje vrijedi provjeriti. Ideje se množe brže nego što ih prateća infrastruktura može prihvatiti.

Današnja umjetna inteligencija donosi dugo iščekivano olakšanje: naše dobre ideje napokon dobivaju priliku koju zaslužuju. Sutra bi dobrih ideja moglo biti toliko da nam kapaciteta za provedbu nedostaje više nego ikad.

U konačnici ne znamo hoće li potreba za komplementima koji omogućuju produktivnu primjenu novih spoznaja rasti, padati ili ostati nepromijenjena. Koliko se intelektualno može napredovati samo razmišljanjem? Koliko je birokracije potrebno genijalnosti?

Po našem mišljenju, odgovor ovisi o tome koliko daleko misao može stići prije nego što ponovno mora doći u dodir sa stvarnošću.

Opisujemo dva moguća puta. Prvi je civilizacija dubine, u kojoj superinteligencija nadilazi potrebu za dodatnim fizičkim kapitalom i birokratskom koordinacijom. Drugi je civilizacija širine, u kojoj složenost prirode nadilazi sposobnost bilo koje inteligencije, ljudske ili strojne, da napreduje bez velikih i sve složenijih eksperimenata u stvarnom svijetu.

Dosadašnja ljudska povijest upućuje na sve veću potrebu za komplementarnim kapacitetima. Galileov teleskop stao mu je u ruke; Webbu je bila potrebna civilizacija. Mali tim iz Bell Labsa sastavio je prvi tranzistor na radnom stolu; današnji pomaci na samoj granici tehnologije čipova proizlaze iz složenog globalnog opskrbnog lanca. Veći doseg stalno zahtijeva angažman sve većeg dijela civilizacije.

No ta povijest ne mora odrediti našu sudbinu. Bistri umovi mogu izumiti učinkovitije komplemente. Ako je energija usko grlo novog akceleratora čestica, genijalan um može osmisliti štedljiviji akcelerator ili bolji način dobivanja energije.

Genijalnost može i zamijeniti neke od svojih komplemenata. Einstein je razmišljanjem uspio doći do teorije relativnosti na temelju vrlo malo empirijskih podataka. Nama bi ih trebalo mnogo više. Neki ljudi jednostavno pamte sve svoje obveze, dok se većina nas oslanja na birokraciju Google kalendara.

Genijalnost može i izoštriti prosudbu do krajnjih granica, odabirući najbolje hipoteze za provjeru i izbjegavajući promašaje koji rasipaju resurse. Ako svaki dodatni genij poboljšava kvalitetu plana, čak i uz potrebu za sve većom birokracijom, i dalje bismo mnogo ulagali u genijalnost upravo zato što je provedba preskupa da bismo je trošili na pogrešne stvari.

Nijedan put neće savršeno opisati našu stvarnu budućnost, ali možemo ih shvatiti kao dva moguća smjera razvoja naše civilizacije.

Inteligencija može unaprijediti znanje na tri načina. Može rasuđivati polazeći od načela. Može izvoditi nove spoznaje iz postojećih dokaza. Ili može prikupljati nove dokaze promatrajući svijet i djelujući u njemu.

Prvi način može daleko stići samim razmišljanjem. Matematika je najčišći primjer. Na brojnim raskrižjima u dokazu ili projektu snažan um može dosljedno donositi ispravne odluke. Godine nesigurnog traganja zamjenjuje kratkim, usmjerenijim slijedom rasuđivanja.

I drugi način otvara golem, neiskorišten prostor za brz napredak. Čovječanstvo je prikupilo daleko više dokaza nego što ih je razumjelo. Proučavanje naših podataka, od astronomskih snimki i mikroskopskih preparata do internetskih komentara, ograničeno je nedostatkom ljudske inteligencije. Znanstveni arhivi sadrže opažanja zabilježena radi odgovora na jedno pitanje, a u njima se možda kriju odgovori na mnoga druga. Obilje genijalnosti može donijeti otkrića ne prikupljanjem ičega novog, nego uočavanjem onoga što je već bilo tu. Možda će otkriti novi svemir bez prikupljanja ijednog novog fotona.

Treći način nije tako jednostavan jer zahtijeva interakciju s fizičkim svijetom. Fizički procesi zahtijevaju vrijeme i često malo toga možemo učiniti da ih ubrzamo. Kemijske tvari moraju reagirati. Organizmi moraju rasti. Strojevi se moraju izgraditi. Svemirske letjelice moraju prijeći stvarne udaljenosti, podložne kozmičkim ograničenjima brzine. Čak ni savršen um ne može opaziti rezultat eksperimenta koji se nije dogodio.

Ali može pokušati. Civilizacija dubine ne bi izbjegla potrebu za provjerom u stvarnosti. Postala bi radikalno štedljiva u tome. Boljim rasuđivanjem izdvojila bi malobrojne eksperimente koji su doista važni. Simulacije bi razriješile većinu pitanja i točno odredile neizvjesnost koju treba razriješiti u stvarnosti. Superinteligencija može postići najveću moguću učinkovitost, prilagođavajući rješenja svojim ograničenim resursima kako bi ih što bolje iskoristila.

Zamislite astrofizički laboratorij s nizom hipoteza o tamnoj tvari. One najprije prolaze kroz hiperrealistično računalno modeliranje. Svaka se teorija provjerava radi usklađenosti sa svim postojećim podacima. Tek nakon svega toga izrađuje se nekoliko ciljanih novih snimki neba kako bi se provjerile teorije koje najviše obećavaju. Civilizaciji su i dalje potrebni komplementi genijalnosti, ali svaka njihova jedinica donosi mnogo veću vrijednost.

Naš put prema civilizaciji dubine mogao bi nalikovati sastavljanju slagalice. Napredovati je lako na početku i na kraju, a najteže u sredini. Isprva postoje očiti rubovi i dijelovi koje je lako spojiti. Zatim ih ponestane, a premalo je slike sastavljeno da bi nam pomoglo s ostatkom. Pred kraj preostale praznine gotovo same govore što u njih pripada. Gotovo zaokružena znanost možda bi do svojih posljednjih otkrića dolazila lakše nego mi do onih za koja se danas mukotrpno trudimo.

To je ustaljen obrazac u znanosti. Mendeljejev je mogao opisati neotkrivene elemente jer je ostatak periodnog sustava ograničavao mogućnosti onoga što nedostaje. Standardni model dao je fizičarima razlog da očekuju Higgsov bozon desetljećima prije nego što smo ga opazili. Naši eksperimenti bili su usmjereni na traženje onoga što smo očekivali vidjeti, onoga što je bilo u skladu s postojećom teorijom i podacima.

Superinteligencija bi mogla ostvariti civilizaciju dubine tako što bi obrasce svijeta razumjela toliko dobro da točno zna koji su joj novi podaci potrebni. Pokretala bi napredak dubljim promišljanjem, ne oslanjajući se na sporo fizičko širenje.

Ako takvi dobici u učinkovitosti prevladaju, civilizacija bi mogla brzo produbiti svoje ovladavanje prirodom, uz manju potrebu za institucionalnom inteligencijom koja upravlja golemim novim eksperimentalnim sustavima. Mogla bi ostati fizički malena dok njezina mudrost sazrijeva.

Mi ljudi već smo toliko toga razumjeli o svojem svemiru, a da nikad nismo napustili dom. Civilizacija dubine bila bi nastavak te tradicije.

No potreba za novim dokazima može nadmašiti te dobitke u učinkovitosti. Inteligencija može pojeftiniti svaku provjeru u stvarnosti, a istodobno otkriti mnogo više razloga za takve provjere. Bolji instrumenti otvaraju mogućnosti za sve istančanija istraživanja. Brži eksperimenti mogu učiniti dodatne eksperimente isplativima.

Ako je Einsteinov gotovo isključivo misaoni put do teorija relativnosti tipičan primjer civilizacije dubine, biologija možda najbolje nagovješćuje civilizaciju širine. Unatoč svom znanju koje smo prikupili i svim podacima koje smo upotrijebili, nove lijekove i dalje moramo ispitivati na velikom broju ljudi kako bismo znali da su sigurni i učinkoviti. Strojevi danas mogu simulirati biološke procese, što biolozima omogućuje ispitivanje novih lijekova in silico umjesto u fizičkim eksperimentima, ali te digitalne simulacije nisu dovoljno vjerne stvarnom svijetu da bi zamijenile opsežna ispitivanja na ljudima. Što više kandidata stroj predloži, to empirijska provjera postaje veće usko grlo.

U civilizaciji širine sama genijalnost nije dovoljna za napredak. Naša potreba za fizičkim resursima i birokracijom koja upravlja njihovom upotrebom raste brže nego što bistar um može ostvariti uštede u jednom i drugom.

To bi mogao biti naš put čak i ako budući sustavi umjetne inteligencije daleko nadmaše ljudsku inteligenciju. Superinteligencija bi u jednom poslijepodnevu mogla osmisliti eksperimente za cijelo stoljeće, a zatim to stoljeće provesti čekajući da priroda i strojevi odrade svoje. U takvom svijetu postaje vrednije ulagati inteligenciju u institucionalne procese potrebne za provedbu ideja nego u samo njihovo osmišljavanje.

Taj će se učinak dodatno pojačavati ako svaki sljedeći korak bude zahtijevao sve više prateće infrastrukture.

U takvom bismo svijetu vidjeli razmjerno manje razmišljanja, a razmjerno više izgradnje. Laboratoriji se automatiziraju. Tvornice se množe. Proizvodnja energije raste. Institucionalna inteligencija preuzima glavnu ulogu kako bi se sve to ostvarilo. Fizičko širenje postaje pokretač znanja, a civilizacija se širi jer su njezina pitanja prerasla sredstva kojima može doći do odgovora. Više materijala, više energije i više podataka za nastavak napretka.

Dysonova sfera krajnji je prikaz takve budućnosti. Za njezino projektiranje potrebni su iznimni znanstveni pomaci, no najveći dio projekta ne bi se sastojao od revolucionarnog promišljanja. Bili bi to izgradnja i logistika astronomskih razmjera.

Za izradu nacrta Dysonove sfere potrebni su briljantni umovi. Ujedno bi to bio jedan od najjednoličnijih, najmonotonijih i organizacijski najzahtjevnijih projekata ikad poduzetih.

To nije neuspjeh inteligencije, nego posljedica njezina uspjeha. Bistriji umovi otkrivaju više projekata vrijednih truda, a složeniji projekti za provedbu zahtijevaju više materijalnih resursa.

Ako je tako, supermoć superinteligencije možda neće biti njezina genijalnost. Bit će to njezina spremnost da preuzme ulogu birokracije i koordinira golemi tehnološki i institucionalni aparat potreban za pretvaranje ideja u stvarnost u sve većim razmjerima.

Gotovo sva strojna inteligencija bila bi angažirana ne za genijalne, nego za dosadne poslove.

Prirodna ograničenja brzine fizičkog širenja tada bi mogla postati usko grlo daljnjeg napretka. Izgradnja postrojenja za iskorištavanje energije zvijezde projekt je u materijalnom svijetu, ma koliko brzo njegovi nacrti bili izrađeni. Iza njega nalaze se druge zvijezde i druge galaksije, a udaljenost je, koliko znamo, ograničenje sama po sebi: nijedna letjelica ne može putovati niti se ijedan signal može vratiti brže od svjetlosti. Civilizacija širine spora je civilizacija. Između njezinih velikih promjena mogle bi prolaziti tisuće, možda i milijuni godina. Svaki sljedeći korak traje dulje.

Poljoprivredna i industrijska revolucija izgledale bi kao vrtoglav početak mnogo dulje povijesti, s mnogo sporijim tempom napretka.

Sasvim je moguće da će budući sustavi umjetne inteligencije nadmašiti ljude i u stvaranju graničnih spoznaja i u koordinaciji resursa potrebnih da te spoznaje postanu praktično korisne. No ta mogućnost ne umanjuje važnost ljudske znatiželje.

Prvo, naša obveza da težimo spoznaji ostaje, čak i ako se čini da su strojevi u tome bolji. U svemiru možda već postoje umovi daleko mudriji od naših, s odgovorima na znanstvena i moralna pitanja koja nadilaze naše razumijevanje. Ipak, i dalje sami pokušavamo razumjeti svijet. Pojava neke druge inteligencije, čak i one koju sami izgradimo, to ne mijenja. Dok ne budemo sigurni da čovječanstvo više nema ništa jedinstveno čime bi moglo pridonijeti, odustajanjem bismo protratili sve ono što samo mi možemo dati svijetu. Naša je dužnost i dalje postavljati pitanja i pokušavati na njih odgovoriti.

Drugo, možda imamo komparativnu prednost u graničnoj inteligenciji u odnosu na institucionalnu inteligenciju. To bi značilo da smo, čak i ako smo lošiji u objema, relativno bolji u prvoj te se za nju specijaliziramo. Ljudi radije biraju kreativnost nego rutinu, dok roboti ne iskazuju takvu sklonost.

Treće, raznolikost nam donosi vrijednost. Čak i ako strojevi mogu oponašati većinu ljudskog razmišljanja, zadržimo li određenu jedinstvenost, pridonosimo kreativnoj raznolikosti. Velik dio strojne inteligencije ostao bi unutar vlastitog samoodrživog aparata, no mali bismo dio usmjeravali prema svojim kreativnim zamislima. Tek djelić cjeline, ali za naše potrebe raskošan i daleko veći od resursa kojima danas raspolažemo.

Domišljatost ne postoji u izolaciji. Potreban joj je svijet, a genijalnosti su potrebni graditelji da ostvare njezinu kreativnu viziju.

Velik dio ljudske inteligencije danas je usmjeren na nezapažen posao pretvaranja ideja u stvarnost. Strojni umovi naslijedit će istu ovisnost. Ne mogu svi biti velikani. Moraju biti i birokrati.

Naša buduća priča, kao i tempo njezina napretka, ovise o tome trebaju li veliki umovi sve više resursa iz svijeta ili postižu više s manje.