Вечното допълнение

Бележка от авторите: Това е първото есе от поредицата ни за следващата икономика, част от нова платформа за независими гласове, които изследват бъдещето с AGI. То отразява нашите възгледи, а не тези на OpenAI или на колегите ни.

Човечеството е надникнало почти до началото на времето.

Нашите уравнения дават до голяма степен съгласувано описание на Вселената от първите ѝ мигове. С телескопите си сме погледнали към далечните предели на космоса и сме зърнали ранната му история. Знаем за раждането на звездите и образуването на галактиките.

И все пак никой човек не е пътувал отвъд Луната.

Обясненията, които търсим, обхващат Вселената, а телата ни едва са напуснали дома. Умовете ни се отправят далеч отвъд обсега на ръцете ни.

Това несъответствие може да означава две много различни неща.

Едната възможност е, че не е нужно да стигаме много далеч — че най-дълбоките истини могат да бъдат разбрани от една-единствена планета. Въоръжени с просветено мислене и ефективни инструменти, разкриваме Вселената, без да я прекосяваме. В този сценарий цивилизацията ни напредва в дълбочина, а не в ширина. Това би помогнало да обясним защо не сме срещнали друг разумен живот: може би живеем в галактика, пълна с блестящи умове, които никога не са имали нужда да се разрастват и да стават забележими за нас.

Втората възможност е по-плашеща. Може би умовете ни просто са изпреварили способността ни да осъществяваме замислите си. Всяка следваща стъпка изисква повече време и повече ресурси. Мечти не ни липсват, но ни липсват хора, които да ги осъществят.

Галилей разшири хоризонта ни с две лещи и една тръба. За да го разшири отново днес, човечеството построи космическия телескоп „Джеймс Уеб“ — обсерватория за десет милиарда долара, сгъната в ракета и изпратена на милион мили разстояние. Осемнадесетте му огромни огледални сегмента са изработени с точност до петдесет нанометра. Обсерваторията е плод на работата на триста организации от четиринадесет държави. За приноса на Галилей бяха нужни няколко десетки чифта ръце. За „Уеб“ беше нужна цяла армия, подкрепена от световната икономика.

За да виждаме по-далеч, не бяха достатъчни само по-блестящи умове. Беше нужна и по-голяма бюрокрация.

Задаваме повече въпроси, отколкото можем да проучим. Замисляме повече експерименти, отколкото можем да проведем. Измисляме творчески възможности по-бързо, отколкото успяваме да ги осъществим. И в много области колкото повече напредваме, толкова по-сложно става да изградим онова, което си представяме.

Ник Блум и неговите съавтори⁠(отваря се в нов прозорец) изследват производителността на научните изследвания в американската икономика. Поддържането на закона на Мур сега изисква над осемнадесет пъти повече изследователи, отколкото в началото на 70-те години на XX век. От 30-те години на XX век насам ефективният обем на изследователските усилия в цялата икономика е нараснал двадесет и три пъти, докато измерената им производителност е спаднала четиридесет и един пъти.

Броят на техническите специалисти расте два пъти по-бързо⁠(отваря се в нов прозорец) от броя на учените. Използването на специализирано оборудване в науката се е удвоило⁠(отваря се в нов прозорец) за четири десетилетия. Днес един завод за чипове е пет пъти по-скъп⁠(отваря се в нов прозорец) — и много по-мащабен като дейност — отколкото преди тридесет години.

Тези данни подсказват, че цената на по-нататъшния напредък расте. Икономиката продължава да напредва, защото огромното разрастване на изследователската дейност е компенсирало намаляващата възвръщаемост на всяка вложена единица.

Тази история трябва да промени начина, по който мислим за гениалността: не изолирано, а като един от факторите в производствен процес. Дори блестящата хипотеза се нуждае от доказателства, инструменти и средства, за да бъде проверена. Една идея още не е напредък без техниката и помощния персонал, които да я осъществят.

Икономистите наричат два фактора допълващи се, когато увеличаването на единия повишава стойността на другия. В този смисъл авангардният интелект и способността да се осъществяват неговите идеи са допълващи се фактори. По-добрият телескоп прави добрия астрономически въпрос по-ценен. По-добрият въпрос прави телескопа по-ценен.

Някои допълващи фактори са материални. Една теория чака ускорител на частици; един технологичен проект чака енергията и машините, с които да бъде изграден.

Други допълващи фактори са по-трудни за виждане с просто око. Сама по себе си идеята е нещо крехко. Тя се нуждае от всякакви институции. Закони, бюрокрация, механизми за финансиране, вериги на доставки и много други неща се съчетават, за да осъществят идеята.

Една велика идея трябва да премине през дълга верига от правилни действия на място в тези институции. Нека наречем това институционален интелект: непрославеният интелект на изпълнението. Геният проектира паметника; институциите полагат камъните. Едното е блестящо, другото изглежда скучно; и двете са абсолютно необходими.

Понякога си представяме свръхинтелекта като милиард Айнщайновци. Но дори в цивилизация от милиард Айнщайновци повечето пак ще трябва да работят в кариерите и да водят счетоводството. Авангардните иновации са възможни само когато обикновеният свят около тях работи безпроблемно. Напредъкът изисква участието на всеки — от заварчика на винт за телескопа до застрахователя на началното училище, в което е учила медицинската сестра, лекувала астронома. Напредъкът стъпва върху добре работеща икономика, която често пренебрегваме в разказите за най-великите си постижения.

Подобно на човешкия интелект, ИИ ще бъде насочен както към блестящи прозрения, така и към институционална компетентност. Въпросът е на кое ще посвещава по-голямата част от времето си.

ИИ вече облекчава недостига на капацитет за изпълнение. Той пише код, проучва непозната литература и превръща скица в работещ прототип. Все повече идеи, които някога са изисквали цяла организация, могат да бъдат осъществявани от един амбициозен човек.

Повечето начинаещи режисьори никога не получават двеста милиона долара, за да опитат да осъществят мечтата си. Повечето дизайнери на игри прекарват цялата си кариера в осъществяване на чужди творчески замисли. Опитваме се да даваме път на най-надарените, но неизбежно пропускаме таланти. Погледната така, епохата на интелекта започва като допълнение към човешката изобретателност, като дава на повече от нас помощния екип, нужен за осъществяване на собствени идеи.

Това може да доведе до изобилие от самобитни проекти и повече творчество извън институциите, които преди са решавали кой получава достъп до работа в тези области. Оскъдният ресурс вече не е толкова изпълнението, колкото усетът — способността да решиш какво си струва да създадеш, кой въпрос си струва да зададеш и коя от хиляда възможни посоки заслужава да поемеш.

Но историята може да не свършва дотук. С нарастването на способността на ИИ сам да достига до блестящи нови прозрения — нещо, което може би вече наблюдаваме в области като математиката — той осигурява не само труд, но и насоки за работа. Вместо да изпълнява една човешка изследователска програма, той създава хиляди свои. Гениите с ИИ рязко увеличават броя на филмовите замисли, които си струва да се развият, и хипотезите, които си струва да се проверят. Идеите се множат по-бързо, отколкото поддържащата инфраструктура може да поеме.

Днешният ИИ ни дава дългоочаквана глътка въздух, при която добрите ни идеи най-сетне получават своя шанс. Утре добрите идеи може да са толкова много, че недостигът на капацитет за изпълнението им да стане по-остър от всякога.

В крайна сметка не знаем дали допълващите фактори, нужни за ползотворното използване на новите прозрения, ще нарастват, ще намаляват или ще останат на същото ниво. Колко интелектуален напредък може да се постигне само с мислене? От колко бюрокрация се нуждае гениалността?

Според нас отговорът зависи от това докъде може да стигне мисълта, преди отново да ѝ се наложи да се допре до реалността.

Описваме два възможни пътя. Първият е цивилизация на дълбочината, в която свръхинтелектът преодолява нуждата от повече физически капитал и бюрократична координация. Вторият е цивилизация на размаха, в която природата е твърде сложна, за да може който и да е интелект — човешки или машинен — да напредва без големи и все по-сложни експерименти в реалния свят.

Досегашната човешка история подсказва, че нуждата от допълващ капацитет расте. Телескопът на Галилей се побирал в ръцете му; за „Уеб“ беше нужна цяла цивилизация. Малък екип в Bell Labs сглобил първия транзистор на работна маса; днес авангардните постижения при чиповете идват от сложна глобална верига на доставки. Колкото по-далеч стигаме, толкова по-голяма част от цивилизацията трябва да стои зад нас.

Но тази история не е непременно съдба. Умните хора могат да изобретят по-ефективни допълващи средства. Ако енергията е пречка пред нов ускорител на частици, гениалността може да предложи по-икономичен ускорител или по-добър начин за добив на енергия.

Гениалността може и да замести някои от допълващите я фактори. Айнщайн успява да достигне до теорията на относителността чрез мислене, стъпвайки на съвсем малко емпирични данни. На нас биха ни трябвали много повече. Някои хора просто помнят всичките си ангажименти — повечето от нас разчитат на бюрокрацията на Google Календар.

А гениалността може да изостри усета до крайност, като избира най-добрите хипотези за проверка и избягва провали, които прахосват ресурси. Ако всеки допълнителен гений подобрява плана, бихме продължили да инвестираме значително в гениалност дори при нужда от все по-голяма бюрокрация — именно защото изпълнението е твърде скъпо, за да го пилеем за погрешната цел.

Нито един от двата пътя няма да опише точно действителното ни бъдеще, но можем да ги разглеждаме като две възможни посоки за нашата цивилизация.

Интелектът може да разширява познанието по три начина. Може да разсъждава въз основа на принципи. Може да извлича нови прозрения от наличните данни. Или може да събира нови данни, като наблюдава света и се намесва в него.

Първият подход може да стигне далеч само чрез мисълта. Математиката е най-чистият пример. В многобройните моменти на избор при едно доказателство или проект могъщият ум може неизменно да взема правилното решение. Той заменя години лутане с кратко, по-целенасочено структурирано анализиране.

Вторият подход също е широко отворено поле за бърз напредък. Човечеството е събрало много повече данни, отколкото е успяло да осмисли. Изучаването на нашите данни — астрономически изображения, микроскопски препарати, коментари онлайн — е ограничено от недостига на човешки интелект. Научните архиви съдържат наблюдения, записани в търсене на отговор на един въпрос, които може да крият отговори на много други. Изобилието от гениалност може да носи открития не чрез събиране на нещо ново, а чрез забелязване на онова, което вече е било пред нас. То може да открие нова вселена, без да улови нито един нов фотон.

Третият подход не е толкова лесен, защото изисква да взаимодействаме с физическия свят. Физическите процеси отнемат време и често почти нищо не може да се направи, за да бъдат ускорени. Химичните вещества трябва да реагират. Организмите трябва да растат. Машините трябва да бъдат построени. Космическите апарати трябва да преодоляват реални разстояния, подчинени на космическите ограничения на скоростта. Дори съвършен ум не може да наблюдава резултата от експеримент, който не се е състоял.

Но може да опита. Една цивилизация на дълбочината не би избегнала нуждата да сверява идеите си с реалността. Тя би станала радикално по-икономична в това. По-доброто структурирано анализиране би откроило малкото експерименти, които наистина имат значение. Симулациите биха дали отговор на повечето въпроси и биха посочили точно коя неизвестна трябва да се изясни чрез проверка в реалността. Свръхинтелектът може да постигне максимална ефективност, като съобразява замислите си с оскъдните ресурси, за да извлече възможно най-много от тях.

Представете си астрофизична лаборатория с набор от хипотези за тъмната материя. Те първо преминават през свръхреалистично компютърно моделиране. Всяка теория се проверява за съгласуваност с всички налични данни. Едва след всичко това се правят няколко целеви нови снимки на небето, за да се проверят най-обещаващите теории. Цивилизацията все още се нуждае от факторите, които допълват гениалността, но всяка вложена единица носи много повече стойност.

Пътят ни към цивилизация на дълбочината може да прилича на подреждане на пъзел. Напредъкът е лесен в началото, лесен в края и най-труден по средата. Отначало има ясно разпознаваеми крайни части и лесни съвпадения. После те се изчерпват, а твърде малка част от картината е подредена, за да ни насочи за останалото. Към края останалите празни места почти сами подсказват какво трябва да се постави в тях. Една почти завършена наука може да стига до последните си открития по-лесно, отколкото ние днес стигаме до своите.

Това е обичаен похват в науката. Менделеев е можел да опише неоткрити елементи, защото останалата част от периодичната таблица е ограничавала възможностите за липсващите. Стандартният модел даде на физиците основание да очакват Хигс бозона десетилетия преди да го наблюдаваме. Експериментите ни бяха насочени към онова, което очаквахме да видим — онова, което съответстваше на съществуващата теория и данни.

Свръхинтелектът може да създаде цивилизация на дълбочината, като разбира закономерностите на света толкова добре, че да знае точно от какви нови данни се нуждае. Той би движил напредъка чрез по-задълбочено мислене, без да разчита на бавния ход на физическото разрастване.

Ако тези ползи от ефективността надделеят, цивилизацията би могла бързо да задълбочи властта си над природата, с по-малка нужда от институционален интелект за управление на огромни нови експериментални съоръжения. Тя може да остане физически малка, докато мъдростта ѝ расте.

Ние, хората, вече сме разбрали толкова много за нашата Вселена, без изобщо да напускаме дома си. Цивилизацията на дълбочината би продължила тази традиция.

Но нуждата от нови данни може да надхвърли ползите от тази ефективност. Интелектът може да прави всяка проверка в реалността по-евтина, като същевременно открива много повече причини за такива проверки. По-добрите инструменти разкриват все по-фини неизследвани области. По-бързите експерименти могат да направят допълнителните експерименти целесъобразни.

Ако почти изцяло мисловният път на Айнщайн към теориите му за относителността е образец за цивилизация на дълбочината, биологията може би най-добре предвещава цивилизация на размаха. Въпреки всички натрупани знания и използвани данни, новите лекарства все още трябва да бъдат изпитвани върху голям брой хора, за да знаем, че са безопасни и ефективни. Машините вече могат да симулират биологични процеси, което позволява на биолозите да изпитват нови лекарства in silico вместо чрез физически експерименти, но тези цифрови симулации не възпроизвеждат реалния свят достатъчно точно, за да заменят мащабните изпитвания върху хора. Колкото повече кандидати за лекарства предлага машината, толкова по-силно емпиричната проверка ограничава напредъка.

В една цивилизация на размаха гениалността сама по себе си не е достатъчна за напредък. Нуждата ни от физически ресурси — и от бюрокрация, която да управлява използването им — расте по-бързо, отколкото един умен разум може да пести от което и да е от двете.

Това може да е нашият път дори ако бъдещите системи с ИИ далеч надминат човешкия интелект. Един свръхинтелект би могъл за един следобед да планира експерименти за цял век, а после да прекара този век в чакане природата и машините да ги осъществят. В такъв свят е по-ценно интелектът да се влага в институционалните процеси, необходими за осъществяването на идеи, отколкото в самото им създаване.

Ефектът ще се усилва, ако всяка следваща стъпка изисква все повече поддържаща инфраструктура.

Тук бихме видели относително по-малко мислене и относително повече строителство. Лабораториите се автоматизират. Заводите се множат. Производството на енергия расте. Институционалният интелект заема водеща роля, за да направи всичко това възможно. Физическото разрастване се превръща в двигател на познанието, а цивилизацията се разпростира, защото въпросите ѝ са надхвърлили средствата за намиране на отговори. Повече материали, повече енергия, повече данни, за да продължим напред.

Сферата на Дайсън е краен образ на това бъдеще. Проектирането ѝ изисква изключителни пробиви, но по-голямата част от проекта не би се състояла в новаторско мислене. Тя би била строителство и логистика в астрономически мащаб.

За да се начертаят плановете на сферата на Дайсън, са нужни блестящи умове. Но тя би била и сред най-повтаряемите, монотонни и организационно сложни проекти, предприемани някога.

Това не е провал на интелекта, а последица от неговия успех. По-блестящите умове откриват повече проекти, които си струват; по-сложните проекти изискват повече материални ресурси за осъществяването си.

Ако това е така, суперсилата на свръхинтелекта може да не е неговата гениалност. Вместо това тя би била готовността му да поеме ролята на бюрокрацията — да координира огромния технологичен и институционален механизъм, нужен за превръщането на идеите в реалност във все по-голям мащаб.

Почти целият машинен интелект би се използвал не за блестящата, а за скучната работа.

Тогава естествените ограничения върху скоростта на физическото разрастване може да се превърнат в спирачка за по-нататъшния напредък. Изграждането на съоръжения, които да улавят енергията на звезда, е начинание в материалния свят, колкото и бързо да бъдат начертани плановете. Отвъд нея има други звезди и галактики, а разстоянието, доколкото знаем, само по себе си ограничава темпото: никой кораб не може да пътува и никой сигнал не може да се върне по-бързо от светлината. Цивилизацията на размаха е бавна цивилизация. Големите промени в нея може да настъпват през хилядолетия, а може би и през милиони години. Всяка следваща стъпка отнема повече време.

Земеделската и индустриалната революция биха изглеждали като трескавото начало на една много по-дълга история с много по-бавен напредък.

Напълно възможно е бъдещите системи с ИИ да надминат хората както в достигането до авангардни прозрения, така и в координирането на ресурсите, необходими за практическото им приложение. Но тази възможност не намалява значението на човешкото любопитство.

Първо, дългът ни да търсим познание остава, дори машините да изглеждат по-добри в това. Във Вселената може вече да има умове, далеч по-мъдри от нашите, с отговори на научни и морални въпроси отвъд нашето разбиране. И все пак ние продължаваме да се опитваме сами да разберем света. Появата на друг интелект — дори такъв, който сами сме създали — не променя това. Докато не знаем със сигурност, че човечеството няма повече с какво уникално да допринесе, отказът би пропилял всичко, което само ние можем да дадем на света. Наш дълг остава да продължаваме да задаваме въпроси и да търсим отговори.

Второ, може да имаме сравнително предимство в авангардния интелект спрямо институционалния. Това би означавало, че дори да отстъпваме и в двете области, сме относително по-добри в първата и се специализираме в нея. Хората предпочитат да творят, вместо да вършат рутинна работа, докато роботите не проявяват такова предпочитание.

Трето, разнообразието ни носи полза. Дори машините да могат да възпроизвеждат повечето форми на човешко мислене, ако запазим нещо уникално, ще допринасяме за творческото разнообразие. Голяма част от машинния интелект би останала в собствената си самоподдържаща се система, но малка част бихме използвали ние за своите творчески замисли. Нищожен дял от цялото, но изобилие според нашите мащаби и много повече от ресурсите, с които разполагаме днес.

Изобретателността не съществува в изолация. Тя се нуждае от света, а геният се нуждае от строители, за да осъществи творческия си замисъл.

Голяма част от човешкия интелект днес е насочена към незабележимата работа по превръщането на идеите в реалност. Машинните умове ще наследят същата зависимост. Не всички могат да бъдат светила. Трябва да бъдат и бюрократи.

Бъдещата ни история — и темпът на напредъка ѝ — зависят от това дали великите умове се нуждаят от все повече ресурси на света, или постигат повече с по-малко.