Вічне доповнення

Примітка авторів: Це перше есе в нашій серії про економіку майбутнього, що виходить на новій платформі для незалежних авторів, які досліджують майбутнє зі штучним загальним інтелектом (AGI). Воно відображає наші погляди, а не погляди OpenAI чи наших колег.

Людство зазирнуло майже до самого початку часу.

Наші рівняння дають переважно узгоджену картину Всесвіту від перших митей його існування. За допомогою телескопів ми побачили далекі простори космосу й зазирнули в його ранню історію. Ми знаємо про народження зір і формування галактик.

Проте жодна людина ще не подорожувала далі за Місяць.

Пояснення, яких ми шукаємо, охоплюють увесь Всесвіт, тоді як фізично ми ледве покинули домівку. Наш розум сягає далеко за межі досяжності наших рук.

Ця невідповідність може означати дві дуже різні речі.

Можливо, нам і не потрібно далеко вирушати: найглибші істини можна осягнути, залишаючись на одній планеті. Озброївшись обґрунтованими міркуваннями й ефективними інструментами, ми розкриваємо таємниці Всесвіту, не подорожуючи ним. За такого сценарію наша цивілізація розвивається вглиб, а не вшир. Це допомогло б пояснити, чому ми не виявили іншого розумного життя: можливо, наша галактика сповнена геніальних умів, яким ніколи не було потреби розширювати свої володіння й ставати помітними для нас.

Друга можливість лякає більше. Можливо, наш розум просто випередив нашу здатність утілювати задуми. Кожен наступний крок потребує більше часу й ресурсів. Нам не бракує мрій — нам бракує робочих рук, щоб їх здійснити.

Галілей розширив наші обрії двома лінзами й трубою. Щоб розширити їх знову сьогодні, людство побудувало космічний телескоп «Джеймс Вебб» — обсерваторію вартістю десять мільярдів доларів, яку склали всередині ракети й відправили на понад півтора мільйона кілометрів від Землі. Його вісімнадцять величезних дзеркальних сегментів виготовлено з точністю до п’ятдесяти нанометрів. Обсерваторію створили триста організацій із чотирнадцяти країн. Для досягнення Галілея вистачило кількох десятків рук. Для «Вебба» знадобилася ціла армія людей, а за нею — світова економіка.

Щоб побачити далі, потрібні були не лише світліші голови. Потрібна була й більша бюрократія.

Ми ставимо більше запитань, ніж можемо дослідити. Ми плануємо більше експериментів, ніж можемо провести. Ми вигадуємо нові творчі задуми швидше, ніж устигаємо їх утілювати. І в багатьох сферах що далі ми просуваємося, то складніше створити те, що уявляємо.

Нік Блум і його співавтори⁠(відкривається у новому вікні) дослідили продуктивність наукової роботи в американській економіці. Щоб підтримувати дію закону Мура, нині потрібно більш ніж у вісімнадцять разів більше дослідників, ніж на початку 1970-х років. З 1930-х років ефективний обсяг дослідницьких зусиль у всій економіці зріс у двадцять три рази, тоді як виміряна продуктивність досліджень упала в сорок один раз.

Чисельність технічного персоналу зростає вдвічі швидше⁠(відкривається у новому вікні), ніж чисельність науковців. Використання спеціалізованого обладнання в науці за чотири десятиліття подвоїлося⁠(відкривається у новому вікні). Сучасна фабрика мікросхем уп’ятеро дорожча⁠(відкривається у новому вікні) й набагато масштабніша, ніж тридцять років тому.

Ці цифри свідчать про зростання ціни подальшого прогресу. Економіка й далі розвивається, бо величезне розширення дослідницької діяльності компенсує зниження віддачі від кожної одиниці вкладених зусиль.

Ця історія спонукає нас інакше поглянути на геніальність: не розглядати її у відриві від усього, а бачити в ній один із ресурсів виробничого процесу. Навіть блискуча гіпотеза потребує доказів, інструментів і засобів для перевірки. Без техніки й допоміжного персоналу, які її втілять, ідея ще не є прогресом.

Економісти називають два ресурси взаємодоповнювальними, коли збільшення одного підвищує цінність іншого. Передовий інтелект і спроможність утілювати його ідеї саме в цьому сенсі доповнюють одне одного. Кращий телескоп робить влучне астрономічне запитання ціннішим. Краще запитання робить ціннішим телескоп.

Деякі з цих доповнень матеріальні. Теорія чекає на прискорювач частинок, а технічний проєкт — на енергію й обладнання для його реалізації.

Інші доповнення важче побачити на власні очі. Сама собою ідея — річ крихка. Їй потрібні найрізноманітніші інституції. Закони, бюрократія, механізми фінансування, ланцюги постачання та багато іншого об’єднуються, щоб утілити ідею.

Велика ідея має пройти довгий ланцюг правильних дій на місцях у всіх цих інституціях. Назвімо це інституційним інтелектом — інтелектом утілення, якому рідко віддають належне. Геній проєктує монумент; інституції кладуть камінь. Одне вражає, інше здається нудним; і те й те вкрай необхідне.

Іноді ми уявляємо суперінтелект як мільярд Ейнштейнів. Але навіть у цивілізації з мільярда Ейнштейнів більшість із них муситиме працювати в каменоломнях і вести бухгалтерію. Передові інновації можливі лише тоді, коли звичайний світ навколо працює злагоджено. Прогрес потребує всіх — від зварювальника, який приварює гвинт до телескопа, до страховика початкової школи, де вчилася медсестра, яка доглядала астронома. Прогрес спирається на злагоджену роботу економіки, яку ми часто оминаємо увагою в розповідях про наші найбільші досягнення.

Як і людський інтелект, ШІ спрямовуватимуть і на блискучі відкриття, і на ефективну роботу інституцій. Питання в тому, чому він приділятиме переважну частину часу.

ШІ вже зменшує брак спроможностей для втілення ідей. Він пише код, шукає інформацію в незнайомій літературі й перетворює ескіз на робочий прототип. Ідеї, для яких колись була потрібна ціла організація, дедалі частіше може втілити одна амбітна людина.

Більшості режисерів-початківців ніколи не дають двісті мільйонів доларів на шанс проявити себе. Більшість геймдизайнерів усе професійне життя втілюють чужі творчі задуми. Ми намагаємося підтримувати найобдарованіших, але неминуче залишаємо частину талантів поза увагою. Із цього погляду епоха інтелекту починається з доповнення людської винахідливості: дедалі більше з нас отримують помічників для втілення власних ідей.

Це може породити безліч самобутніх проєктів: більше творчих робіт з’являтиметься поза інституціями, які раніше визначали, хто міг працювати в цих сферах. Дефіцитним ресурсом стає вже не спроможність утілювати, а смак — уміння вирішити, що варто створити, яке запитання варто поставити та який із тисячі можливих напрямів заслуговує на увагу.

Але на цьому історія може не закінчитися. Коли ШІ набуває здатності самостійно знаходити блискучі нові ідеї — що ми, можливо, вже бачимо в таких сферах, як математика, — він пропонує не лише робочу силу, а й напрями роботи. Замість виконувати одну дослідницьку програму, розроблену людиною, він створює тисячі власних. ШІ-генії різко примножують кількість задумів фільмів, вартих розробки, і гіпотез, вартих перевірки. Ідеї множаться швидше, ніж інфраструктура підтримки встигає їх освоювати.

Сьогоднішній ШІ дає довгоочікуваний перепочинок: наші добрі ідеї нарешті отримують належну увагу. Завтра ж добрих ідей може стати так багато, що можливостей для їх утілення бракуватиме гостріше, ніж будь-коли.

Зрештою, ми не знаємо, чи зростатиме, зменшуватиметься або залишатиметься сталою потреба в додаткових ресурсах для продуктивного використання нових ідей. Як далеко можна просунутися в пізнанні лише завдяки мисленню? Скільки геніальності потрібно для бюрократії?

На нашу думку, відповідь залежить від того, як далеко може зайти думка, перш ніж їй знову знадобиться контакт із реальністю.

Ми опишемо два можливі шляхи. Перший — цивілізація розвитку вглиб, у якій суперінтелект долає потребу в нарощуванні фізичного капіталу й бюрократичної координації. Другий — цивілізація розвитку вшир, у якій природа настільки складна, що жоден інтелект — людський чи машинний — не може просуватися вперед без масштабних і дедалі складніших експериментів у реальному світі.

Досі історія людства вказувала на зростання потреби в допоміжних спроможностях. Телескоп Галілея вміщався в його руках; «Веббу» знадобилася ціла цивілізація. Невелика команда Bell Labs зібрала перший транзистор на робочому столі; нині передові досягнення у виробництві мікросхем забезпечує складний глобальний ланцюг постачання. Що далі ми сягаємо, то більшу частину цивілізації доводиться залучати.

Але минуле не обов’язково визначає майбутнє. Світлі голови можуть винайти ефективніші допоміжні засоби. Якщо новому прискорювачу частинок бракує енергії, геніальність може дати ощадніший прискорювач або кращий спосіб добувати енергію.

Геніальність також може замінити частину ресурсів, які її доповнюють. Ейнштейн зміг дійти до теорії відносності силою думки, маючи зовсім небагато емпіричних даних. Нам знадобилося б значно більше. Дехто просто пам’ятає всі свої справи й зустрічі — більшість із нас покладається на бюрократію Google Календаря.

А ще геніальність може довести смак до досконалості: обирати найкращі гіпотези для перевірки й уникати марнотратних невдач. Якщо кожен додатковий геній поліпшує план, то навіть за потреби в дедалі більшій бюрократії ми все одно багато вкладатимемо в геніальність — саме тому, що втілення надто дороге, аби витрачати його ресурси не на те.

Жоден із цих шляхів не опише наше реальне майбутнє досконало, але їх можна розглядати як два можливі напрями розвитку цивілізації.

Інтелект може розширювати знання трьома способами. Він може міркувати, виходячи з базових принципів. Він може робити нові висновки з наявних даних. Або ж збирати нові дані, спостерігаючи за світом і впливаючи на нього.

Перший спосіб дає змогу далеко просунутися лише силою думки. Найчистіший приклад — математика. На численних роздоріжжях доведення чи проєкту потужний розум здатен раз у раз обирати правильний шлях. Він замінює роки безладних пошуків коротким і цілеспрямованішим ланцюгом міркувань.

Другий спосіб також відкриває широкі можливості для швидкого прогресу. Людство зібрало значно більше даних, ніж устигло осмислити. Вивчення наших даних — астрономічних знімків, мікропрепаратів, коментарів в інтернеті — обмежувалося браком людського інтелекту. У наукових архівах зберігаються спостереження, зроблені для відповіді на одне запитання, які можуть містити відповіді на багато інших. За достатку геніальних умів відкриття можна робити, не збираючи нічого нового, а помічаючи те, що вже було перед очима. Можливо, так вдасться відкрити новий всесвіт, не вловивши жодного нового фотона.

Третій спосіб не такий простий, бо вимагає взаємодії з фізичним світом. Фізичні процеси потребують часу, і часто ми мало що можемо зробити, аби їх прискорити. Хімічні речовини мають прореагувати. Організми мають вирости. Машини потрібно побудувати. Космічні апарати мають долати реальні відстані, підкоряючись космічним обмеженням швидкості. Навіть досконалий розум не може спостерігати результат експерименту, який ще не відбувся.

Але може спробувати. Цивілізація розвитку вглиб не позбулася б потреби звірятися з реальністю. Вона навчилася б робити це радикально ощадніше. Кращі міркування допомогли б визначити ті нечисленні експерименти, які справді важливі. Симуляції дали б відповіді на більшість питань і точно вказали б, яку невизначеність може усунути лише реальність. Суперінтелект може довести ефективність до максимуму, плануючи роботу з урахуванням дефіцитних ресурсів, щоб отримати від них найбільшу віддачу.

Уявімо астрофізичну лабораторію з низкою гіпотез про темну матерію. Спершу їх перевіряють за допомогою надреалістичного комп’ютерного моделювання. Кожну теорію перевіряють на узгодженість з усіма наявними даними. Лише після цього роблять кілька прицільних нових знімків неба, щоб перевірити найперспективніші теорії. Цивілізація й далі потребує ресурсів, що доповнюють геніальність, але кожна їхня одиниця дає значно більшу віддачу.

Наш шлях до цивілізації розвитку вглиб може нагадувати складання пазла. Прогрес легкий на початку, легкий наприкінці й найважчий посередині. Спершу є очевидні недоліки й прості збіги. Потім вони закінчуються, тоді як зібраної частини картини ще замало, щоб скеровувати решту роботи. Ближче до кінця рештки прогалин майже самі підказують, що мало б у них бути. Майже завершена наука могла б виявити, що її останні відкриття даються легше за ті, до яких ми прокладаємо шлях сьогодні.

Для науки це звичний підхід. Менделєєв міг описувати ще не відкриті елементи, бо решта періодичної таблиці обмежувала можливі властивості відсутніх. Стандартна модель дала фізикам підстави очікувати існування бозона Гіггса за десятиліття до його спостереження. Наші експерименти були спрямовані на пошук того, що ми очікували побачити, — того, що узгоджувалося з наявною теорією та даними.

Суперінтелект міг би створити цивілізацію розвитку вглиб, настільки добре зрозумівши закономірності світу, що точно знав би, які нові дані йому потрібні. Він рухав би прогрес глибшим мисленням, не покладаючись на повільне фізичне розширення.

Якщо така ефективність переважатиме, цивілізація зможе швидко поглиблювати своє володіння силами природи, менше потребуючи інституційного інтелекту для керування новими величезними експериментальними комплексами. Її фізичні масштаби можуть залишатися невеликими, тоді як її мудрість зростатиме.

Ми, люди, вже так багато зрозуміли про наш Всесвіт, навіть не полишаючи домівки. Цивілізація розвитку вглиб продовжила б цю традицію.

Але потреба в нових даних може звести нанівець переваги такої ефективності. Інтелект може здешевлювати кожне звернення до реальності й водночас знаходити набагато більше приводів до неї звернутися. Кращі інструменти відкривають доступ до дедалі тонших явищ. Швидші експерименти можуть робити доцільними додаткові експерименти.

Якщо шлях Ейнштейна до його теорій відносності майже самою лише силою думки уособлює цивілізацію розвитку вглиб, то біологія, можливо, найкраще передвіщає цивілізацію розвитку вшир. Попри всі накопичені знання й залучені дані, нові ліки й досі потрібно випробовувати на великій кількості людей, щоб знати, чи вони безпечні та ефективні. Машини вже можуть моделювати біологічні процеси, даючи біологам змогу випробовувати нові препарати in silico замість фізичних експериментів, але ці цифрові симуляції ще недостатньо точно відтворюють реальний світ, щоб замінити масштабні випробування за участю людей. Що більше потенційних препаратів пропонує машина, то сильніше емпірична перевірка стримує поступ.

У цивілізації розвитку вшир самої геніальності для прогресу замало. Наша потреба у фізичних ресурсах — і в бюрократії, що керуватиме їх використанням, — зростає швидше, ніж розум здатен заощаджувати те й інше.

Це може бути нашим шляхом, навіть якщо майбутні системи ШІ значно перевершать людський інтелект. Суперінтелект міг би за пів дня спланувати експерименти на століття, а потім ціле століття чекати, поки природа й техніка дадуть результати. У такому світі вигідніше спрямовувати інтелект на інституційні процеси, потрібні для втілення ідей, ніж на саме їх генерування.

Цей ефект посилюватиметься, якщо кожен наступний крок потребуватиме дедалі більше допоміжної інфраструктури.

Тут частка мислення буде відносно меншою, а частка будівництва — більшою. Лабораторії автоматизуються. Фабрики множаться. Виробництво енергії зростає. Провідну роль відіграє інституційний інтелект, який все це забезпечує. Фізична експансія стає рушієм пізнання, а цивілізація поширюється, бо її запитання переросли наявні засоби пошуку відповідей. Щоб рухатися далі, потрібно більше матеріалів, більше енергії, більше даних.

Сфера Дайсона — граничне втілення такого майбутнього. Її проєктування потребує надзвичайних проривів, проте більша частина роботи над проєктом не полягатиме в пошуку проривних ідей. Це будуть будівництво й логістика астрономічного масштабу.

Щоб розробити креслення сфери Дайсона, потрібні геніальні уми. Водночас це буде один із наймонотонніших, найскладніших в організації проєктів із найбільшою кількістю повторюваних операцій за всю історію.

Це не поразка інтелекту, а наслідок його успіху. Розумніші уми знаходять більше проєктів, вартих зусиль; складніші проєкти потребують більше матеріальних ресурсів для втілення.

Якщо це так, то суперздатність суперінтелекту полягатиме не в його геніальності. Натомість вона полягатиме в його готовності стати бюрократичним — координувати величезну технологічну й інституційну машинерію, потрібну для перетворення ідей на реальність у дедалі більшому масштабі.

Майже весь машинний інтелект буде спрямований не на геніальну, а на нудну роботу.

Тоді природні обмеження швидкості фізичного розширення можуть стати перепоною для подальшого прогресу. Будівництво обладнання для збирання енергії зорі — це робота з матерією, хоч би як швидко були готові креслення. За нею — інші зорі та галактики, а відстань, наскільки нам відомо, сама собою обмежує швидкість: жоден корабель не може летіти, а жоден сигнал — повертатися швидше за світло. Цивілізація розвитку вшир — це повільна цивілізація. Між великими змінами в ній можуть минати тисячоліття, а можливо, й мільйони років. Кожен наступний крок потребує більше часу.

Аграрна та промислова революції здавалися б бурхливим початком набагато довшої історії зі значно повільнішим темпом прогресу.

Цілком можливо, що майбутні системи ШІ перевершать людей і в пошуку передових ідей, і в координації ресурсів, потрібних для їх практичного застосування. Але ця можливість не применшує важливості людської допитливості.

По-перше, наш обов’язок прагнути пізнання залишається, навіть якщо машини, схоже, справляються з цим краще. У Всесвіті вже можуть існувати уми, набагато мудріші за наші, з відповідями на наукові й моральні питання, які ми не здатні осягнути. Проте ми все одно намагаємося зрозуміти світ самі. Поява іншого інтелекту — навіть створеного нами — цього не змінює. Поки ми не знаємо напевно, що людство вже не може зробити жодного унікального внеску, відмова від спроб позбавляє світ усього, що можемо дати лише ми. Наш обов’язок — і далі ставити запитання та шукати відповіді.

По-друге, ми можемо мати порівняльну перевагу в передовому інтелекті, а не в інституційному. Тобто, навіть поступаючись в обох сферах, ми можемо бути відносно кращими в першій і спеціалізуватися саме на ній. Люди воліють творити, а не виконувати рутинну роботу, тоді як роботи таких уподобань не мають.

По-третє, різноманіття приносить нам користь. Навіть якщо машини зможуть відтворювати більшість людських розумових процесів, зберігаючи певну унікальність, ми забезпечуватимемо творче різноманіття. Більша частина машинного інтелекту залишатиметься всередині власної самопідтримуваної системи, але невелику частку ми залучатимемо для своїх творчих задумів. Крихта від цілого, але за нашими мірками — розкіш, незрівнянно більша за ресурси, які ми маємо сьогодні.

Винахідливість не існує сама собою. Їй потрібен світ, а генію — будівничі, які втілять його творчий задум.

Сьогодні значна частина людського інтелекту спрямована на непомітну роботу з перетворення ідей на реальність. Машинні уми успадкують ту саму залежність. Не всі вони зможуть бути світилами. Їм доведеться бути й бюрократами.

Наша майбутня історія — і темп прогресу в ній — залежать від того, чи потребуватимуть видатні уми дедалі більше ресурсів світу, чи робитимуть більше, маючи менше.