Вечното надополнување

Белешка од авторите: Ова е првиот есеј во нашата серија за идната економија, дел од нова платформа за независни гласови што ја истражуваат иднината со AGI. Тој ги одразува нашите ставови, а не ставовите на OpenAI или на нашите колеги.

Човештвото погледна речиси до почетокот на времето.

Нашите равенки даваат главно доследна слика за вселената од нејзините први мигови. Со нашите телескопи погледнавме до далечните краишта на космосот и ѕирнавме во неговата рана историја. Знаеме за раѓањето на ѕвездите и формирањето на галаксиите.

Сепак, ниту еден човек досега не отпатувал подалеку од Месечината.

Објаснувањата што ги бараме ја опфаќаат целата вселена, а нашите тела одвај го напуштиле домот. Нашите умови се впуштаат многу подалеку од досегот на нашите раце.

Овој несовпад може да значи две многу различни нешта.

Една можност е дека не мора да одиме многу далеку, дека најдлабоките вистини можат да се спознаат од една единствена планета. Со проникливо расудување и ефикасни инструменти, ја откриваме вселената без да патуваме низ неа. Во оваа приказна, нашата цивилизација напредува во длабочина наместо во широчина. Тоа би помогнало да се објасни зошто не сме забележале друг интелигентен живот: можеби живееме во галаксија полна со брилијантни умови што никогаш немале потреба да се шират и да станат забележливи за нас.

Втората можност е позастрашувачка. Можеби нашите умови едноставно ја престигнале нашата способност за спроведување. Секој следен чекор бара повеќе време и повеќе ресурси. Соништа не ни недостигаат, но ни недостига работна сила за да ги оствариме.

Галилео ни го прошири видикот со две леќи и една цевка. За денес повторно да го прошири, човештвото го изгради вселенскиот телескоп „Џејмс Веб“ — опсерваторија вредна десет милијарди долари, склопена во ракета и испратена милион милји далеку. Неговите осумнаесет огромни огледални сегменти се изработени со прецизност од педесет нанометри. Опсерваторијата е плод на работата на триста организации од четиринаесет земји. За придонесот на Галилео биле потребни неколку десетици раце. За „Веб“ била потребна цела армија, со глобалната економија зад неа.

За да видиме подалеку, не биле потребни само поостри умови. Била потребна и поголема бирократија.

Поставуваме повеќе прашања отколку што можеме да истражиме. Осмислуваме повеќе експерименти отколку што можеме да спроведеме. Замислуваме креативни можности побрзо отколку што можеме да ги оствариме. А во многу области, колку повеќе напредуваме, толку посложено станува да го изградиме она што го замислуваме.

Ник Блум и неговите коавтори⁠(се отвора во нов прозорец) ја проучувале истражувачката продуктивност низ американската економија. За да продолжи да важи Муровиот закон, сега се потребни над осумнаесет пати повеќе истражувачи отколку во раните 1970-ти. Од 1930-тите наваму, ефективниот истражувачки напор во целата економија се зголемил дваесет и три пати, додека измерената истражувачка продуктивност опаднала четириесет и еден пат.

Бројот на техничари расте двојно побрзо⁠(се отвора во нов прозорец) од бројот на научници. Употребата на специјализирана опрема во науката се удвоила⁠(се отвора во нов прозорец) за четири децении. Фабрика за чипови денес е пет пати поскапа⁠(се отвора во нов прозорец) — и многу пообемен погон — отколку пред триесет години.

Овие статистики укажуваат на растечка цена на понатамошниот напредок. Економијата и понатаму напредува затоа што огромното проширување на истражувачката дејност го надоместува опаѓањето на приносот од секоја вложена единица.

Оваа историја треба да нѐ поттикне поинаку да размислуваме за генијалноста: не изолирано, туку како еден од факторите во производниот процес. И на брилијантна хипотеза ѝ требаат докази, инструменти и средства за да се провери. Една идеја сѐ уште не е напредок без машинеријата и помошниот персонал што ќе ја остварат.

Економистите нарекуваат два фактора комплементарни кога зголемувањето на едниот ја зголемува вредноста на другиот. Граничната интелигенција и способноста за остварување на нејзините идеи се комплементарни во оваа смисла. Подобар телескоп ја зголемува вредноста на едно добро астрономско прашање. Подобро прашање ја зголемува вредноста на телескопот.

Некои комплементарни фактори се физички. Една теорија чека акцелератор на честички; еден технолошки нацрт ги чека енергијата и машинеријата потребни за неговата изработка.

Други комплементарни фактори потешко се гледаат со голо око. Сама по себе, идејата е кревка. Ѝ требаат секакви институции. Закони, бирократија, механизми за финансирање, синџири на снабдување и многу друго се здружуваат за да ја спроведат идејата.

Една голема идеја мора да опстои низ долг синџир од правилни поединечни постапки во сите овие институции. Да го наречеме ова институционална интелигенција: непрославената интелигенција на спроведувањето. Генијалноста го проектира споменикот; институциите го редат каменот. Едното е брилијантно, другото изгледа здодевно; и двете се апсолутно неопходни.

Понекогаш ја замислуваме суперинтелигенцијата како милијарда Ајнштајни. Но и во цивилизација од милијарда Ајнштајни, повеќето од нив ќе треба да вадат камен во каменоломите и да го водат сметководството. Граничните иновации се можни само кога секојдневниот свет околу нив функционира беспрекорно. Напредокот ги ангажира сите — од заварувачот на завртка што се вградува во телескопот до осигурителот на основното училиште во кое учела медицинската сестра што го лекувала астрономот. Напредокот се потпира на економија што работи беспрекорно, а која често ја занемаруваме во приказните за нашите најголеми подвизи.

Како и човечката интелигенција, ВИ ќе биде насочена и кон брилијантни сознанија и кон институционална компетентност. Прашањето е на што ќе го посветува најголемиот дел од своето време.

ВИ веќе го намалува недостигот од капацитет за спроведување. Пишува код, пребарува непозната литература и претвора скица во функционален прототип. Идеите за кои некогаш била потребна цела организација сѐ почесто може да ги остварува еден амбициозен човек.

Повеќето луѓе што сакаат да снимаат филмови никогаш не добиваат двесте милиони долари за да се обидат да успеат. Повеќето дизајнери на игри ја поминуваат целата кариера остварувајќи туѓи креативни визии. Се обидуваме да им дадеме шанса на најнадарените, но неизбежно пропуштаме дел од талентот. Гледано вака, ерата на интелигенцијата започнува со надополнување на човечката досетливост, давајќи им на повеќе луѓе помошен персонал за остварување на сопствените идеи.

Ова би можело да донесе изобилство од самосвојни проекти, со повеќе креативни дела создадени надвор од институциите што претходно одлучувале кој може да работи во тие области. Оскудниот фактор се поместува од спроведувањето кон вкусот — способноста да се одлучи што вреди да се создаде, кое прашање вреди да се постави и која од илјада можни насоки заслужува да се следи.

Но тука можеби не завршува приказната. Како што ВИ станува способна самостојно да доаѓа до брилијантни нови сознанија — нешто што можеби веќе го гледаме во области како математиката — таа нуди и насоки за работа, а не само работна сила. Наместо да спроведува една човечка истражувачка програма, осмислува илјадници свои. Генијалните системи со ВИ нагло го зголемуваат бројот на филмски концепти што вреди да се развијат и хипотези што вреди да се проверат. Идеите се множат побрзо отколку што придружната инфраструктура може да ги прифати.

Денешната ВИ носи долгоочекувано олеснување: нашите добри идеи конечно ја добиваат шансата што ја заслужуваат. Утре можеби ќе има толку многу добри идеи што повеќе од кога било ќе ни недостига капацитет да ги спроведеме.

На крајот, не знаеме дали комплементарните капацитети потребни за продуктивно користење на новите сознанија ќе растат, ќе се намалуваат или ќе останат стабилни. Колкав интелектуален напредок може да се постигне само со размислување? Колкава бирократија ѝ треба на генијалноста?

Според нас, одговорот зависи од тоа колку далеку може да стигне мислата пред повторно да мора да се соочи со стварноста.

Опишуваме две можни патеки. Првата е цивилизација на длабочината, во која суперинтелигенцијата ја надминува потребата од повеќе физички капитал и бирократска координација. Втората е цивилизација на широчината, во која сложеноста на природата ја надминува способноста на која било интелигенција — човечка или машинска — да напредува без големи и сѐ посложени експерименти во реалниот свет.

Човечката историја досега укажува на сѐ поголема потреба од комплементарни капацитети. Телескопот на Галилео го собирало во неговите раце; за „Веб“ била потребна цела цивилизација. Мал тим од „Бел лабс“ го составил првиот транзистор на работна маса; граничните унапредувања на чиповите денес произлегуваат од сложен глобален синџир на снабдување. Секое проширување на досегот ангажира сѐ поголем дел од цивилизацијата.

Но таа историја не мора да ни ја одреди судбината. Паметните умови можат да измислат поефикасни комплементарни средства. Ако енергијата е тесно грло за нов акцелератор на честички, генијалноста може да осмисли поштедлив акцелератор или подобар начин за добивање енергија.

Генијалноста може и да замени некои од факторите што ја надополнуваат. Ајнштајн успеал со размислување да дојде до релативноста врз основа на многу малку емпириски податоци. Нам би ни требале многу повеќе. Некои луѓе едноставно ги паметат сите свои обврски — повеќето од нас се потпираат на бирократијата на Google Calendar.

А генијалноста може да го изостри вкусот до максимум, избирајќи ги најдобрите хипотези за проверка и избегнувајќи неуспеси што трошат ресурси. Ако секој дополнителен гениј го подобрува квалитетот на планот, дури и кога се потребни сѐ поголеми бирократии, и понатаму би вложувале многу во генијалноста токму затоа што спроведувањето е прескапо за да го потрошиме на погрешна цел.

Ниту една патека нема совршено да ја опише нашата вистинска иднина, но можеме да ги гледаме како две можни насоки за нашата цивилизација.

Интелигенцијата може да го унапреди знаењето на три начини. Може да расудува поаѓајќи од принципи. Може да извлекува нови сознанија од постојните докази. Или може да собира нови докази преку набљудување и интервенирање во светот.

Со првиот начин може да се стигне далеку само преку мислата. Математиката е најчистиот пример. На многубројните раскрсници во еден доказ или проект, моќен ум може доследно да ја донесува правилната одлука. Ги заменува годините залудно талкање со кратка, понасочена низа на расудување.

И вториот начин нуди неискористен простор за брз напредок. Човештвото има собрано многу повеќе докази отколку што успеало да разбере. Проучувањето на нашите податоци — астрономски снимки, микроскопски препарати, онлајн коментари — е ограничено од недостигот на човечка интелигенција. Научните архиви содржат набљудувања забележани за да одговорат на едно прашање, а кои можеби кријат одговори на многу други. Изобилството од генијалност може да донесе откритија не преку собирање нешто ново, туку преку согледување на она што веќе било тука. Би можело да открие нова вселена без да собере ниту еден нов фотон.

Третиот начин не е толку лесен бидејќи бара да стапиме во интеракција со физичкиот свет. Физичките процеси бараат време, а често малку што може да се направи за да се забрзаат. Хемикалиите мора да реагираат. Организмите мора да растат. Машините мора да се изградат. Вселенските летала мора да преминат вистински растојанија, почитувајќи ги космичките ограничувања на брзината. Ниту совршен ум не може да го набљудува резултатот од експеримент што не се случил.

Но може да се обиде. Една цивилизација на длабочината не би ја избегнала потребата да ги проверува своите идеи во стварноста. Би станала радикално поекономична во тоа. Подоброто расудување би ги издвоило малкуте експерименти што навистина се важни. Симулациите би разрешиле најголем дел од прашањата и точно би ја утврдиле неизвесноста што мора да се разреши во стварноста. Суперинтелигенцијата може да ја доведе ефикасноста до максимум, приспособувајќи ги решенијата кон своите оскудни ресурси за да извлече најмногу од нив.

Замислете астрофизичка лабораторија со збир од хипотези за темната материја. Тие најпрво се проверуваат преку хиперреалистично компјутерско моделирање. За секоја теорија се проверува дали е усогласена со сите постојни податоци. Дури потоа се прават неколку насочени нови снимки на небото за да се проверат најперспективните теории. На цивилизацијата и понатаму ѝ требаат факторите што ја надополнуваат генијалноста, но секоја единица носи многу поголема вредност.

Нашиот пат кон цивилизација на длабочината би можел да наликува на составување сложувалка. Напредувањето е лесно на почетокот, лесно на крајот и најтешко во средината. Најпрво има очигледни рабови и делчиња што лесно се спојуваат. Потоа тие се исцрпуваат, а составениот дел од сликата е премал за да нѐ води низ остатокот. При крајот, преостанатите празнини речиси самите кажуваат што припаѓа во нив. Наука што е речиси целосна можеби полесно би дошла до своите последни откритија отколку ние до оние кон кои денес се мачиме да стигнеме.

Ова е вообичаена појава во науката. Менделеев можел да опише неоткриени елементи бидејќи остатокот од периодниот систем ги ограничувал можностите за она што недостасува. Стандардниот модел им дал на физичарите причина да го очекуваат Хигсовиот бозон децении пред да го набљудуваме. Нашите експерименти биле насочени кон барање на она што сме очекувале да го видиме — она што било во согласност со постојната теорија и податоци.

Суперинтелигенцијата би можела да создаде цивилизација на длабочината така што толку добро ќе ги разбира закономерностите на светот што ќе знае точно кои нови податоци ѝ требаат. Би го движела напредокот преку подлабоко размислување, без да се потпира на бавниот од на физичкото ширење.

Ако овие придобивки од ефикасноста преовладуваат, цивилизацијата би можела брзо да го продлабочи своето владеење со природата, со помала потреба од институционална интелигенција за управување со огромни нови експериментални постројки. Нејзиниот физички опсег може да остане мал додека нејзината мудрост созрева.

Ние луѓето веќе разбравме толку многу за нашата вселена без воопшто да го напуштиме домот. Цивилизацијата на длабочината би била продолжение на таа традиција.

Но потребата од нови докази може да ги надмине овие придобивки од ефикасноста. Интелигенцијата може да ја поевтини секоја проверка во стварноста, а истовремено да открие многу повеќе причини за такви проверки. Подобрите инструменти отвораат посуптилни области за истражување. Побрзите експерименти можат да направат дополнителните експерименти да вредат за трудот.

Ако речиси чисто мисловниот пат на Ајнштајн до неговите теории на релативноста е пример за цивилизација на длабочината, биологијата можеби најдобро навестува цивилизација на широчината. И покрај сето насобрано знаење и сите податоци што ги користиме, новите лекови сѐ уште мора да се испитуваат врз голем број луѓе за да знаеме дека се безбедни и ефикасни. Машините сега можат да симулираат биолошки процеси, овозможувајќи им на биолозите да испитуваат нови лекови in silico наместо во физички експерименти, но тие дигитални симулации не го отсликуваат реалниот свет доволно верно за да ги заменат обемните испитувања врз луѓе. Колку повеќе кандидати предлага машината, толку поголемо тесно грло станува емпириската проверка.

Во цивилизација на широчината, генијалноста сама по себе не е доволна за напредок. Нашата потреба од физички ресурси — и од бирократија што ќе управува со нивната употреба — расте побрзо отколку што еден паметен ум може да заштеди од едното или од другото.

Ова би можело да биде нашиот пат дури и ако идните системи со ВИ далеку ја надминат човечката интелигенција. Суперинтелигенција би можела за едно попладне да осмисли експерименти за цел век, а потоа да го помине тој век чекајќи природата и машинеријата да ги спроведат. Во таков свет, повредно станува интелигенцијата да се вложува во институционалните процеси потребни за спроведување на идеите отколку во самото нивно создавање.

Ефектот ќе се засилува ако секој следен чекор бара сѐ повеќе придружна инфраструктура.

Тука би виделе релативно помалку размислување и релативно повеќе градење. Лабораториите се автоматизираат. Фабриките се множат. Производството на енергија расте. Институционалната интелигенција преовладува за да го овозможи сето ова. Физичкото ширење станува двигател на знаењето, а цивилизацијата се шири бидејќи нејзините прашања ги надраснале средствата за добивање одговори. Повеќе материјали, повеќе енергија, повеќе податоци за да се продолжи понатаму.

Дајсоновата сфера е крајна слика за оваа иднина. Нејзиното проектирање бара извонредни откритија, но поголемиот дел од проектот не би се состоел од револуционерно размислување. Тоа би биле градежништво и логистика од астрономски размери.

За да се изработат нацртите за Дајсоновата сфера, потребни се брилијантни умови. Воедно, тоа би бил еден од најповторливите, најмонотоните и организациски најсложените проекти што некогаш биле преземени.

Ова не е неуспех на интелигенцијата, туку последица од нејзиниот успех. Поострите умови откриваат повеќе проекти што вреди да се остварат; посложените проекти бараат повеќе материја за да се спроведат.

Ако е така, супермоќта на суперинтелигенцијата можеби не е нејзината генијалност. Наместо тоа, таа би била во нејзината подготвеност да ја преземе улогата на бирократија, да ја координира огромната технолошка и институционална машинерија потребна за претворање на идеите во стварност во сѐ поголеми размери.

Речиси целата машинска интелигенција би била ангажирана не за брилијантни, туку за здодевни задачи.

Тогаш природните ограничувања на брзината на физичкото ширење би можеле да станат тесно грло за понатамошниот напредок. Изградбата на машинеријата за искористување на енергијата на една ѕвезда е потфат во материјалниот свет, без оглед колку брзо се изработуваат плановите. Зад неа се други ѕвезди и други галаксии, а растојанието, колку што знаеме, само по себе ја ограничува брзината: ниту еден брод не може да патува и ниту еден сигнал не може да се врати побрзо од светлината. Цивилизацијата на широчината е бавна цивилизација. Меѓу нејзините големи промени би можеле да минуваат милениуми, можеби и милиони години. Секој следен чекор трае подолго.

Земјоделската и индустриската револуција би изгледале како бурен почеток на многу подолга историја, со многу побавно темпо на напредок.

Сосема е можно идните системи со ВИ да ги надминат луѓето и во создавањето гранични сознанија и во координацијата на ресурсите потребни за тие сознанија да станат практично корисни. Но оваа можност не ја намалува важноста на човечката љубопитност.

Прво, нашата обврска да го продлабочуваме разбирањето останува, дури и ако машините изгледаат подобри во тоа. Во вселената можеби веќе постојат умови многу помудри од нашите, со одговори на научни и морални прашања што се надвор од нашето разбирање. Сепак, и понатаму се обидуваме самите да го разбереме светот. Појавата на друга интелигенција — дури и таква што самите ќе ја создадеме — не го менува тоа. Сѐ додека не знаеме со сигурност дека човештвото веќе нема со што единствено да придонесе, со откажувањето го губиме сето она што само ние можеме да му го дадеме на светот. Наша должност останува да поставуваме прашања и да се обидуваме да одговориме на нив.

Второ, можеби имаме компаративна предност во граничната интелигенција во однос на институционалната интелигенција. Тоа би значело дека, дури и ако сме полоши во двете, релативно сме подобри во првата и се специјализираме за неа. Луѓето претпочитаат креативност наместо рутина, додека роботите не покажуваат таква склоност.

Трето, разновидноста ни носи вредност. Дури и ако машините можат да го имитираат најголемиот дел од човечкото размислување, ако зачуваме нешто единствено, ќе придонесуваме за креативната разновидност. Голем дел од машинската интелигенција би останал во сопствениот самоодржлив систем, но мал дел би го ангажирале ние, според нашите креативни желби. Само делче од целината, но изобилство за нашите размери и многу повеќе од ресурсите што ги имаме денес.

Досетливоста не постои сама за себе. Ѝ треба светот, а на генијалноста ѝ требаат градители за да ја оствари својата креативна визија.

Голем дел од човечката интелигенција денес се вложува во непрославената работа на претворање на идеите во стварност. Машинските умови ќе ја наследат истата зависност. Не можат сите да бидат великани. Мора да бидат и бирократи.

Нашата идна приказна — и темпото на нејзиниот напредок — зависат од тоа дали на големите умови им треба повеќе од светот или можат да направат повеќе со помалку.