Вечна допуна

Напомена аутора: Ово је први есеј у нашем серијалу о економији будућности, у оквиру нове платформе за независне гласове који истражују будућност са AGI. У њему износимо своје ставове, а не ставове компаније OpenAI или наших колега.

Човечанство је погледом допрло готово до самог почетка времена.

Наше једначине дају углавном доследну слику свемира од његових првих тренутака. Телескопима смо завирили у далеке крајеве космоса и назрели његову рану историју. Знамо како се рађају звезде и настају галаксије.

Ипак, ниједно људско биће никада није отпутовало даље од Месеца.

Објашњења за којима трагамо обухватају свемир, док су наша тела једва напустила дом. Наши умови одлазе далеко изван домашаја наших руку.

Тај несклад могао би да значи две веома различите ствари.

Једна могућност је да не морамо да идемо далеко, да најдубље истине можемо да докучимо са једне једине планете. Уз проницљиво резоновање и ефикасне инструменте, откривамо свемир а да не путујемо кроз њега. У тој причи, наша цивилизација напредује у дубину, а не у ширину. То би помогло да се објасни зашто нисмо видели друге облике интелигентног живота: можда живимо у галаксији пуној бриљантних умова којима никада није било потребно да се шире и тако постану уочљиви за нас.

Друга могућност је застрашујућа. Можда су наши умови једноставно одмакли даље од наших способности да замисли спроведемо у дело. Сваки наредни корак захтева више времена и више ресурса. Снова нам не недостаје, али немамо довољно људи да их остваримо.

Галилеј је проширио наш видик помоћу два сочива и једне цеви. Да би га данас поново проширило, човечанство је изградило свемирски телескоп „Џејмс Веб“, опсерваторију вредну десет милијарди долара, склопљену унутар ракете и послату милион миља далеко. Његових осамнаест огромних сегмената огледала израђено је са прецизношћу од педесет нанометара. Опсерваторија је настала радом три стотине организација из четрнаест земаља. За Галилејев допринос било је довољно неколико десетина руку. Вебу је била потребна читава војска, а иза ње и глобална економија.

Да бисмо видели даље, нису нам били потребни само бистрији умови. Била нам је потребна већа бирократија.

Постављамо више питања него што можемо да истражимо. Осмишљавамо више експеримената него што можемо да спроведемо. Смишљамо креативне могућности брже него што можемо да их остваримо. А у многим областима важи исто: што више напредујемо, то је сложеније изградити оно што замислимо.

Ник Блум и његови коаутори⁠(отвара се у новом прозору) проучавали су продуктивност истраживања у америчкој привреди. За одржавање Муровог закона сада је потребно више од осамнаест пута више истраживача него почетком седамдесетих година прошлог века. Ефективни истраживачки напори у целој привреди порасли су двадесет три пута од тридесетих година прошлог века, док је измерена продуктивност истраживања опала четрдесет један пут.

Број техничара расте двоструко брже⁠(отвара се у новом прозору) од броја научника. Употреба специјализоване опреме у науци удвостручила се⁠(отвара се у новом прозору) за четири деценије. Фабрика чипова данас је пет пута скупља⁠(отвара се у новом прозору) — и захтева знатно разгранатије пословање — него пре тридесет година.

Ови подаци наговештавају да цена даљег напретка расте. Привреда и даље напредује јер је огромно ширење истраживачке делатности надокнадило све мањи учинак по јединици улагања.

Та историја требало би да нас наведе да другачије размишљамо о генијалности: не као о нечему изолованом, већ као о једном чиниоцу производног процеса. Бриљантној хипотези и даље су потребни докази, инструменти и средства да се провери. Идеја још није напредак ако нема опреме и помоћног особља који ће је остварити.

Економисти два чиниоца називају комплементима када повећање једног подиже вредност другог. Гранична интелигенција и способност да се њене идеје остваре у том смислу су комплементи. Бољи телескоп чини добро астрономско питање вреднијим. Боље питање чини телескоп вреднијим.

Неки комплементи су материјални. Теорија чека акцелератор честица; технолошко решење чека енергију и машине потребне за његову израду.

Други комплементи нису тако лако видљиви. Сама за себе, идеја је крхка. Потребне су јој институције свих врста. Закони, бирократија, механизми финансирања, ланци снабдевања и још много тога удружују се да би се идеја остварила.

Велика идеја мора да прође кроз дуг ланац исправних појединачних поступака у тим институцијама. Назовимо то институционалном интелигенцијом: непрослављеном интелигенцијом спровођења у дело. Генијалност пројектује споменик; институције полажу камен. Једно је бриљантно, друго делује досадно; оба су апсолутно неопходна.

Понекад суперинтелигенцију замишљамо као милијарду Ајнштајна. Али и цивилизацији од милијарду Ајнштајна потребно је да већина њих вади камен у каменоломима и води књиговодство. Иновације на границама могућег настају само када обичан свет око њих беспрекорно функционише. Напредак захтева учешће свих — од заваривача завртња који се уграђује у телескоп до осигуравача основне школе у којој се школовала медицинска сестра која је лечила астронома. Напредак почива на живој привреди коју често занемарујемо у причама о својим највећим подвизима.

Као и људска интелигенција, ВИ ће бити усмерена и на бриљантне увиде и на институционалну способност. Питање је чему ће посветити највећи део свог времена.

ВИ већ ублажава оскудицу капацитета за спровођење идеја. Пише кôд, претражује непознату литературу и претвара скицу у функционалан прототип. Идеје за које је некада била потребна читава организација све чешће може да спроведе једна амбициозна особа.

Већина будућих филмских стваралаца никада не добије двеста милиона долара да окуша срећу. Већина дизајнера игара проведе читав радни век остварујући туђе креативне визије. Покушавамо да подржимо најдаровитије, али неизбежно нам неки таленти промакну. Из тог угла, доба интелигенције почиње као допуна људској домишљатости, пружајући већем броју нас помоћно особље за остваривање сопствених идеја.

То би могло да донесе обиље особитих пројеката, уз више креативног рада изван институција које су раније одлучивале ко може да се бави тим областима. Оскудни чинилац више није извођење, већ укус — способност да се процени шта вреди створити, које питање вреди поставити и који од хиљаду могућих праваца заслужује да га следимо.

Али то можда није крај приче. Како ВИ постаје способна да самостално долази до бриљантних нових увида — што можда већ видимо у областима попут математике — она не нуди само рад већ и планове. Уместо да спроводи један људски истраживачки програм, осмишљава хиљаде сопствених. Генији међу системима ВИ вишеструко увећавају број филмских замисли вредних разраде и хипотеза вредних провере. Идеје се множе брже него што пратећа инфраструктура може да их прихвати.

Данашња ВИ нуди дуго очекивано олакшање: наше добре идеје коначно добијају прилику коју заслужују. Сутра би добрих идеја могло бити толико да нам капацитети за њихово остваривање недостају више него икада.

На крају, не знамо да ли ће се обим комплемената потребних за продуктивну примену нових увида повећавати, смањивати или остати исти. Колико се интелектуално може напредовати само размишљањем? Колико је бирократије потребно генијалности?

По нашем мишљењу, одговор зависи од тога колико далеко мисао може да стигне пре него што мора поново да се суочи са стварношћу.

Описујемо два могућа пута. Први је цивилизација дубине, у којој суперинтелигенција превазилази потребу за додатним физичким капиталом и бирократском координацијом. Други је цивилизација ширине, у којој сложеност природе превазилази способност било које интелигенције — људске или машинске — да напредује без великих и све сложенијих експеримената у стварном свету.

Досадашња људска историја указује на растућу потребу за комплементарним капацитетима. Галилејев телескоп стајао је у његовим рукама; Вебу је била потребна цивилизација. Мали тим из Белових лабораторија саставио је први транзистор на радном столу; најнапреднија достигнућа у развоју чипова сада долазе из сложеног глобалног ланца снабдевања. Сваки даљи домет захтева подршку све већег дела цивилизације.

Али та историја не мора да буде наша судбина. Бистри умови могу да осмисле ефикасније комплементе. Ако је енергија уско грло за нови акцелератор честица, генијалност може да осмисли штедљивији акцелератор или бољи начин прикупљања енергије.

Генијалност може и да замени неке од својих комплемената. Ајнштајн је успео да размишљањем стигне до релативности на основу врло мало емпиријских података. Нама би било потребно много више. Неки људи једноставно памте све своје обавезе — већина нас се ослања на бирократију Google календара.

А генијалност може и да изоштри укус до крајњих граница, бирајући најбоље хипотезе за проверу и избегавајући неуспехе који расипају ресурсе. Ако сваки додатни геније побољшава квалитет плана, чак и уз потребу за све већом бирократијом, и даље бисмо много улагали у генијалност управо зато што је извођење прескупо да бисмо га трошили на погрешне ствари.

Ниједан пут неће савршено описати нашу стварну будућност, али можемо их посматрати као два могућа правца за нашу цивилизацију.

Интелигенција може да унапреди знање на три начина. Може да закључује на основу начела. Може да извлачи нове увиде из постојећих доказа. Или може да прикупља нове доказе посматрањем света и деловањем у њему.

Првим путем може се далеко стићи само размишљањем. Математика је најчистији пример. На бројним раскрсницама у доказу или пројекту, моћан ум може доследно да донесе исправну одлуку. Године лутања у потрази за решењем замењује кратким, усмеренијим низом закључака.

И други пут је неискоришћено поље за брз напредак. Човечанство је прикупило далеко више доказа него што је успело да разуме. Проучавање наших података — астрономских снимака, микроскопских препарата, одељака са коментарима на интернету — било је ограничено оскудицом људске интелигенције. Научне архиве садрже запажања забележена ради одговора на једно питање, а у њима се можда крију одговори на многа друга. Обиље генијалности може донети открића не прикупљањем нечег новог, већ уочавањем онога што је већ ту. Можда би открило нови свемир без прикупљања иједног новог фотона.

Трећи пут није тако лак јер захтева да ступимо у додир са физичким светом. Физички процеси траже време, а често мало шта можемо да учинимо да их убрзамо. Хемијске супстанце морају да реагују. Организми морају да расту. Машине морају да се изграде. Свемирске летелице морају да пређу стварна растојања, поштујући космичка ограничења брзине. Чак ни савршен ум не може да посматра резултат експеримента који се није догодио.

Али може да покуша. Цивилизација дубине не би избегла потребу да своје идеје проверава у стварности. Само би то чинила радикално штедљивије. Боље резоновање издвојило би малобројне експерименте који су заиста важни. Симулације би разрешиле већину питања и прецизно утврдиле коју неизвесност мора да разреши стварност. Суперинтелигенција може да повећа ефикасност до крајњих граница, прилагођавајући решења оскудним ресурсима како би из њих извукла што више.

Замислите астрофизичку лабораторију са низом хипотеза о тамној материји. Оне се најпре проверавају хиперреалистичним рачунарским моделирањем. За сваку теорију проверава се усклађеност са свим постојећим подацима. Тек након свега тога прави се неколико циљаних нових снимака неба како би се провериле теорије које највише обећавају. Цивилизацији су и даље потребни комплементи генијалности, али свака јединица доноси далеко више вредности.

Наш пут ка цивилизацији дубине могао би да личи на састављање слагалице. Лако се напредује на почетку и на крају, а најтеже у средини. Најпре су ту очигледне ивице и делови који се лако уклапају. Затим њих понестане, а састављено је премало слике да би нас усмерила ка остатку. Пред крај, преостале празнине готово саме говоре шта у њих припада. Готово заокружена наука могла би лакше да дође до својих последњих открића него до оних ка којима се данас с муком пробијамо.

То је уобичајен образац у науци. Мендељејев је могао да опише неоткривене елементе јер је остатак периодног система ограничавао могућности за оно што недостаје. Стандардни модел дао је физичарима разлог да очекују Хигсов бозон деценијама пре него што смо га опазили. Наши експерименти били су усмерени на тражење онога што смо очекивали да видимо — онога што је било у складу са постојећом теоријом и подацима.

Суперинтелигенција би могла да оствари цивилизацију дубине тако што би обрасце света разумела толико добро да тачно зна који су јој нови подаци потребни. Покретала би напредак дубљим размишљањем, без ослањања на споро физичко ширење.

Ако те уштеде превагну, цивилизација би могла брзо да овлада природом у већој мери, уз мању потребу за институционалном интелигенцијом која би управљала огромним новим експерименталним постројењима. Могла би да остане просторно мала док њена мудрост сазрева.

Ми људи већ смо толико тога разумели о свом свемиру а да никада нисмо напустили дом. Цивилизација дубине била би наставак те традиције.

Али потреба за новим доказима може да надвлада те уштеде. Интелигенција може да појефтини сваку проверу у стварности, а да истовремено открије много више разлога за такве провере. Бољи инструменти отварају пут истраживању све финијих детаља. Бржи експерименти могу да учине додатне експерименте исплативим.

Ако Ајнштајнов готово чисто мисаони пут до теорија релативности осликава цивилизацију дубине, биологија можда најбоље наговештава цивилизацију ширине. Упркос свем знању које смо стекли и свим подацима које смо употребили, нови лекови и даље морају да се испитују на великом броју људи да бисмо знали да су безбедни и делотворни. Машине сада могу да симулирају биолошке процесе, па биолози могу да испитују нове лекове рачунарским симулацијама уместо физичким експериментима, али те дигиталне симулације нису довољно верне стварном свету да би замениле обимна испитивања на људима. Што више кандидата машине предложе, то емпиријска провера постаје веће уско грло.

У цивилизацији ширине, сама генијалност није довољна за напредак. Наша потреба за физичким ресурсима — и бирократијом која управља њиховом употребом — расте брже него што бистар ум може да уштеди на једном или другом.

То би могао да буде наш пут чак и ако будући системи ВИ далеко надмаше људску интелигенцију. Суперинтелигенција би за једно поподне могла да осмисли читав век експеримената, а затим да тај век проведе чекајући да природа и машине обаве своје. У таквом свету постаје вредније улагати интелигенцију у институционалне процесе потребне за спровођење идеја него у само њихово осмишљавање.

Тај ефекат ће се појачавати ако сваки наредни корак захтева све више пратеће инфраструктуре.

Ту бисмо видели сразмерно мање размишљања и сразмерно више изградње. Лабораторије се аутоматизују. Фабрике се множе. Производња енергије расте. Институционална интелигенција преузима главну улогу како би све то остварила. Физичко ширење постаје покретач знања, а цивилизација се шири јер су њена питања прерасла средства за добијање одговора. Више материјала, више енергије, више података да би се ишло даље.

Дајсонова сфера је крајњи приказ такве будућности. За њено пројектовање потребна су изузетна открића, али највећи део пројекта не би се састојао од револуционарног размишљања. Била би то изградња и логистика астрономских размера.

За нацрт Дајсонове сфере потребни су бриљантни умови. Уједно би то био један од најмонотонијих и организационо најзахтевнијих подухвата икада, са огромном количином послова који се понављају.

То није неуспех интелигенције, већ последица њеног успеха. Бистрији умови откривају више пројеката вредних труда; сложенији пројекти захтевају више материје за реализацију.

Ако је тако, супермоћ суперинтелигенције можда није њена генијалност. Била би то, уместо тога, њена спремност да буде бирократија: да координише огромну технолошку и институционалну машинерију потребну за претварање идеја у стварност у све већим размерама.

Готово сва машинска интелигенција била би ангажована не на бриљантним, већ на досадним пословима.

Природна ограничења брзине физичког ширења могла би тада да постану уско грло даљег напретка. Изградња постројења за прикупљање енергије звезде јесте подухват у материјалном свету, ма колико брзо планови били нацртани. Даље од ње леже друге звезде и друге галаксије, а удаљеност је, колико знамо, сама по себи кочница: ниједан брод не може да путује нити сигнал да се врати брже од светлости. Цивилизација ширине је спора цивилизација. Њене велике промене можда би раздвајале хиљаде, па и милиони година. Сваки наредни корак траје дуже.

Пољопривредна и индустријска револуција изгледале би као вртоглав почетак много дуже историје, са много споријим темпом напретка.

Сасвим је могуће да будући системи ВИ надмаше људе и у долажењу до граничних увида и у координацији ресурса потребних да ти увиди постану практично корисни. Али та могућност не умањује значај људске радозналости.

Прво, и даље смо дужни да тежимо сазнању, чак и ако машине делују успешније у томе. У свемиру можда већ постоје умови далеко мудрији од наших, са одговорима на научна и морална питања који превазилазе наше разумевање. Ипак, и даље покушавамо да сами разумемо свет. Појава друге интелигенције — чак и оне коју сами створимо — то не мења. Док не будемо сигурни да човечанство више нема никакав особен допринос да пружи, одустајањем бисмо протраћили све оно што само ми можемо да додамо свету. Наша дужност остаје да постављамо питања и покушавамо да на њих одговоримо.

Друго, можда имамо компаративну предност у граничној интелигенцији у односу на институционалну. То би значило да смо, чак и ако смо слабији у обе, релативно бољи у првој и да се за њу специјализујемо. Људи радије бирају креативност него рутину, док роботи не показују такву склоност.

Треће, разноврсност нам доноси вредност. Чак и ако машине могу да опонашају већину људског размишљања, задржимо ли нешто јединствено, допринећемо креативној разноврсности. Велики део машинске интелигенције остао би у сопственом самоодрживом систему, али бисмо један мали део ангажовали по својим креативним замислима. Тек делић целине, али обиље за наше размере и далеко више ресурса него што имамо данас.

Домишљатост не постоји у изолацији. Потребан јој је свет, а генијалности су потребни градитељи да би остварила своју стваралачку визију.

Велики део људске интелигенције данас се троши на непрослављен рад претварања идеја у стварност. Машински умови наследиће исту зависност. Не могу сви бити великани. Морају бити и бирократе.

Наша будућа прича — и темпо њеног напретка — зависи од тога да ли великим умовима треба све више онога што свет нуди или могу да постигну више са мање.