Wieczne dopełnienie

Od autorów: To pierwszy esej z naszego cyklu o gospodarce przyszłości, publikowanego w ramach nowej platformy prezentującej niezależne głosy w dyskusji o przyszłości z AGI. Przedstawia nasze poglądy, a nie stanowisko OpenAI ani naszych współpracowników.

Ludzkość zajrzała niemal do początków czasu.

Nasze równania tworzą w dużej mierze spójny opis wszechświata od jego pierwszych chwil. Dzięki teleskopom spojrzeliśmy na krańce kosmosu i dostrzegliśmy jego wczesną historię. Wiemy, jak rodzą się gwiazdy i powstają galaktyki.

A jednak żaden człowiek nigdy nie dotarł dalej niż na Księżyc.

Szukamy wyjaśnień obejmujących cały wszechświat, choć sami ledwie opuściliśmy dom. Nasze umysły zapuszczają się daleko poza zasięg naszych rąk.

Ta rozbieżność może oznaczać dwie zupełnie różne rzeczy.

Być może wcale nie musimy zapuszczać się daleko, a najgłębsze prawdy możemy pojąć, pozostając na jednej planecie. Dzięki wnikliwemu rozumowaniu i sprawnym instrumentom możemy odkrywać wszechświat, nie przemierzając go. W tym scenariuszu nasza cywilizacja rozwija się w głąb, a nie wszerz. Pomogłoby to wyjaśnić, dlaczego nie dostrzegliśmy innych inteligentnych form życia: być może żyjemy w galaktyce pełnej wybitnych umysłów, które nigdy nie musiały się rozprzestrzeniać na tyle, byśmy mogli je zauważyć.

Druga możliwość budzi większy niepokój. Nasze umysły mogły po prostu wyprzedzić nasze możliwości wykonawcze. Każdy kolejny krok wymaga więcej czasu i zasobów. Nie brakuje nam marzeń, lecz rąk do pracy, by je spełnić.

Galileusz poszerzył zasięg naszego wzroku za pomocą dwóch soczewek i tuby. Aby dziś poszerzyć go ponownie, ludzkość zbudowała Kosmiczny Teleskop Jamesa Webba — obserwatorium za dziesięć miliardów dolarów, które złożono, by zmieściło się w rakiecie, i wysłano na odległość około półtora miliona kilometrów. Jego osiemnaście ogromnych segmentów zwierciadła wykonano z dokładnością do pięćdziesięciu nanometrów. Obserwatorium powstało dzięki trzystu organizacjom z czternastu krajów. Dokonanie Galileusza wymagało pracy kilkudziesięciu rąk. Webb potrzebował całej armii ludzi i stojącej za nią globalnej gospodarki.

Żeby sięgnąć wzrokiem dalej, nie wystarczyły bystrzejsze umysły. Potrzebna była większa biurokracja.

Zadajemy więcej pytań, niż jesteśmy w stanie na nie odpowiedzieć. Projektujemy więcej eksperymentów, niż jesteśmy w stanie przeprowadzić. Twórcze pomysły przychodzą nam do głowy szybciej, niż jesteśmy w stanie je zrealizować. A w wielu dziedzinach im dalej się posuwamy, tym trudniej stworzyć to, co sobie wyobrażamy.

Nick Bloom i współautorzy jego pracy⁠(otwiera nowe okno) zbadali produktywność badań w całej amerykańskiej gospodarce. Utrzymanie tempa wynikającego z prawa Moore’a wymaga dziś ponad osiemnastokrotnie większej liczby badaczy niż na początku lat 70. XX wieku. Od lat 30. XX wieku efektywne nakłady na badania w całej gospodarce wzrosły dwudziestotrzykrotnie, podczas gdy mierzona produktywność badań spadła czterdziestojednokrotnie.

Liczba pracowników technicznych rośnie dwa razy szybciej⁠(otwiera nowe okno) niż liczba naukowców. Wykorzystanie specjalistycznej aparatury w nauce podwoiło się⁠(otwiera nowe okno) w ciągu czterech dekad. Fabryka chipów to dziś przedsięwzięcie pięć razy droższe⁠(otwiera nowe okno) i znacznie bardziej rozbudowane niż trzydzieści lat temu.

Te statystyki sugerują, że koszt dalszego postępu rośnie. Gospodarka nadal się rozwija, ponieważ ogromny wzrost skali działalności badawczej zrównoważył malejące efekty każdej jednostki nakładów.

Ta historia powinna zmienić nasze myślenie o geniuszu: nie należy rozpatrywać go w próżni, lecz jako jeden z czynników procesu produkcji. Błyskotliwa hipoteza wciąż wymaga dowodów, instrumentów i środków do jej sprawdzenia. Sam pomysł nie jest jeszcze postępem, jeśli brakuje maszynerii i personelu pomocniczego, by go urzeczywistnić.

Ekonomiści nazywają dwa czynniki komplementarnymi, gdy większa ilość jednego podnosi wartość drugiego. Pionierska inteligencja i zdolność realizacji jej pomysłów są w tym sensie komplementarne. Lepszy teleskop zwiększa wartość dobrego pytania astronomicznego. Lepsze pytanie zwiększa wartość teleskopu.

Niektóre czynniki komplementarne są materialne. Teoria czeka na akcelerator cząstek, a projekt techniczny — na energię i maszyny potrzebne do jego realizacji.

Inne trudniej dostrzec gołym okiem. Sam pomysł jest czymś kruchym. Potrzebuje rozmaitych instytucji. Prawo, biurokracja, mechanizmy finansowania, łańcuchy dostaw i wiele innych elementów współdziała, by wcielić pomysł w życie.

Świetny pomysł musi przetrwać długi łańcuch prawidłowo wykonanych działań w poszczególnych częściach tych instytucji. Nazwijmy to inteligencją instytucjonalną: niedocenianą inteligencją realizacji. Geniusz projektuje pomnik, instytucje układają kamienie. Jedno jest błyskotliwe, drugie wydaje się nudne; oba są bezwzględnie konieczne.

Czasami wyobrażamy sobie superinteligencję jako miliard Einsteinów. Jednak nawet w cywilizacji miliarda Einsteinów większość z nich musi pracować w kamieniołomach i prowadzić księgowość. Pionierskie innowacje mogą powstawać tylko wtedy, gdy zwykły świat wokół nich działa bez zakłóceń. Postęp potrzebuje wszystkich — od spawacza mocującego śrubę w teleskopie po ubezpieczyciela szkoły podstawowej, do której chodziła pielęgniarka opiekująca się astronomem. Postęp opiera się na sprawnie działającej gospodarce, którą często pomijamy w opowieściach o naszych największych dokonaniach.

Podobnie jak ludzka inteligencja, AI będzie wykorzystywana zarówno do dochodzenia do błyskotliwych wniosków, jak i do zapewniania sprawności instytucjonalnej. Pytanie brzmi, na czym będzie skupiać się przez większość czasu.

AI już teraz zmniejsza niedobór zdolności wykonawczych. Pisze kod, przeszukuje nieznaną nam literaturę i zamienia szkic w działający prototyp. Pomysły, które kiedyś wymagały całej organizacji, coraz częściej może realizować jedna ambitna osoba.

Większość aspirujących filmowców nigdy nie dostaje dwustu milionów dolarów, by spróbować swoich sił. Większość projektantów gier przez całą karierę realizuje cudze wizje twórcze. Staramy się wspierać najbardziej uzdolnionych, ale nieuchronnie przeoczamy część talentów. Z tej perspektywy era inteligencji zaczyna się od uzupełniania ludzkiej pomysłowości: coraz więcej z nas zyskuje personel pomocniczy do realizacji własnych idei.

Może to przynieść wysyp niekonwencjonalnych projektów i więcej twórczości poza instytucjami, które dotąd decydowały, kto może działać w tych dziedzinach. Wąskim gardłem przestaje być realizacja, a staje się wyczucie — umiejętność oceny, co warto stworzyć, jakie pytanie zadać i który z tysiąca obiecujących kierunków wybrać.

Ale na tym historia może się nie skończyć. W miarę jak AI zyskuje zdolność samodzielnego dochodzenia do nowych, trafnych wniosków — co być może już obserwujemy choćby w matematyce — nie tylko wykonuje pracę, lecz także wyznacza kierunki działania. Zamiast realizować jeden ludzki program badawczy, projektuje tysiące własnych. Geniusze AI powodują gwałtowny wzrost liczby pomysłów na filmy wartych rozwinięcia i hipotez wartych sprawdzenia. Pomysłów przybywa szybciej, niż infrastruktura wspierająca potrafi je obsłużyć.

Dzisiejsza AI daje nam długo wyczekiwane wytchnienie: nasze dobre pomysły wreszcie dostają należną im szansę. Jutro dobrych pomysłów może być tak wiele, że bardziej niż kiedykolwiek zabraknie nam możliwości ich realizacji.

Ostatecznie nie wiemy, czy zapotrzebowanie na czynniki komplementarne, niezbędne do praktycznego wykorzystania nowych wniosków, wzrośnie, zmaleje czy pozostanie bez zmian. Jak duży postęp intelektualny można osiągnąć samym myśleniem? Ile biurokracji potrzebuje geniusz?

Naszym zdaniem odpowiedź zależy od tego, jak daleko może dotrzeć myśl, zanim będzie musiała ponownie zetknąć się z rzeczywistością.

Opisujemy dwie możliwe ścieżki. Pierwsza to cywilizacja głębi, w której superinteligencja przezwycięża potrzebę zwiększania kapitału rzeczowego i koordynacji biurokratycznej. Druga to cywilizacja ekspansji, w której natura jest zbyt złożona, by jakakolwiek inteligencja — ludzka czy maszynowa — mogła czynić postępy bez dużych i coraz bardziej skomplikowanych eksperymentów w rzeczywistym świecie.

Dotychczasowa historia ludzkości sugeruje rosnące zapotrzebowanie na uzupełniający potencjał wykonawczy. Teleskop Galileusza mieścił się w jego rękach; Webb wymagał całej cywilizacji. Mały zespół Bell Labs zmontował pierwszy tranzystor na stole warsztatowym; dziś pionierskie postępy w produkcji chipów są owocem złożonego globalnego łańcucha dostaw. Im dalej sięgamy, tym większego zaangażowania całej cywilizacji to wymaga.

Historia nie musi jednak przesądzać o przyszłości. Bystre umysły potrafią tworzyć wydajniejsze czynniki komplementarne. Jeśli energia ogranicza możliwości nowego akceleratora cząstek, geniusz może zaprojektować oszczędniejszy akcelerator lub lepszą metodę pozyskiwania energii.

Geniusz może też zastąpić część czynników komplementarnych. Einstein potrafił dojść do teorii względności niemal samym rozumowaniem, mając do dyspozycji bardzo niewiele danych empirycznych. My potrzebowalibyśmy ich znacznie więcej. Niektórzy po prostu pamiętają o wszystkich swoich zobowiązaniach — większość z nas potrzebuje do tego całej biurokracji Kalendarza Google.

Geniusz może też wyostrzyć wyczucie do granic możliwości: wybierać najlepsze hipotezy do sprawdzenia i unikać porażek marnujących zasoby. Jeśli każdy kolejny geniusz podnosi jakość planu, to nawet przy konieczności rozbudowy biurokracji nadal warto byłoby dużo inwestować w geniusz — właśnie dlatego, że realizacja pomysłów kosztuje zbyt wiele, by przeznaczać zasoby na niewłaściwe cele.

Żadna z tych ścieżek nie opisze idealnie naszej rzeczywistej przyszłości, ale można je traktować jako dwa możliwe kierunki rozwoju cywilizacji.

Inteligencja może poszerzać wiedzę na trzy sposoby. Może wyprowadzać wnioski z podstawowych zasad. Może uzyskiwać nowe spostrzeżenia na podstawie istniejących danych. Może też gromadzić nowe dane, obserwując świat i ingerując w niego.

Pierwszy sposób pozwala zajść daleko samą myślą. Najczystszym przykładem jest matematyka. Wybitny umysł potrafi konsekwentnie wybierać właściwą drogę na licznych rozdrożach dowodu lub projektu. Zastępuje lata błądzenia krótkim, lepiej ukierunkowanym ciągiem rozumowania.

Drugi sposób także otwiera ogromne możliwości szybkiego postępu. Ludzkość zgromadziła znacznie więcej danych, niż zdołała zrozumieć. Analizę tych danych — zdjęć astronomicznych, preparatów mikroskopowych czy komentarzy w internecie — ograniczał dotąd dostępny nam potencjał intelektualny. Archiwa naukowe zawierają obserwacje zebrane z myślą o odpowiedzi na jedno pytanie, choć mogą one kryć odpowiedzi na wiele innych. Znacznie większy potencjał intelektualny pozwoli dokonywać odkryć bez gromadzenia nowych danych — dzięki dostrzeganiu tego, co już mamy. Być może pozwoli to odkryć nowy wszechświat bez zarejestrowania choćby jednego nowego fotonu.

Trzeci sposób nie jest tak łatwy, ponieważ wymaga kontaktu ze światem fizycznym. Procesy fizyczne wymagają czasu i często niewiele można zrobić, by je przyspieszyć. Substancje chemiczne muszą ze sobą zareagować. Organizmy muszą urosnąć. Maszyny trzeba zbudować. Statki kosmiczne muszą pokonać rzeczywistą odległość, podlegając kosmicznym ograniczeniom prędkości. Nawet doskonały umysł nie może zaobserwować wyniku eksperymentu, który się nie odbył.

Ale może próbować. Cywilizacja głębi nie uniknęłaby konieczności konfrontowania myśli z rzeczywistością. Robiłaby to jednak radykalnie oszczędniej. Lepsze rozumowanie pozwoliłoby wskazać nieliczne eksperymenty, które naprawdę mają znaczenie. Symulacje rozstrzygałyby większość kwestii i precyzyjnie wskazywały niepewność, którą musi rozwiać rzeczywistość. Superinteligencja może maksymalizować wydajność, dostosowując projekty do ograniczonych zasobów, by wydobyć z nich jak najwięcej.

Wyobraźmy sobie laboratorium astrofizyczne, w którym bada się hipotezy dotyczące ciemnej materii. Najpierw poddaje się je hiperrealistycznemu modelowaniu komputerowemu. Każda teoria jest sprawdzana pod kątem spójności ze wszystkimi istniejącymi danymi. Dopiero potem wykonuje się kilka nowych zdjęć starannie wybranych fragmentów nieba, by sprawdzić najbardziej obiecujące teorie. Cywilizacja nadal potrzebuje czynników uzupełniających geniusz, lecz każda ich jednostka przynosi znacznie większą wartość.

Nasza droga do cywilizacji głębi może przypominać układanie puzzli. Na początku i na końcu postępy przychodzą łatwo, najtrudniej zaś jest w środku. Najpierw mamy oczywiste krawędzie i łatwe dopasowania. Potem ich brakuje, a ułożony fragment obrazka jest zbyt mały, by pomóc z resztą. Pod koniec pozostałe luki niemal same podpowiadają, co do nich pasuje. Gdy nauka będzie niemal kompletna, jej ostatnie odkrycia mogą okazać się łatwiejsze niż te, do których z trudem dochodzimy dzisiaj.

To dobrze znany mechanizm w nauce. Mendelejew potrafił opisać nieodkryte pierwiastki, ponieważ reszta układu okresowego pozwalała określić, czego w nim brakuje. Model standardowy dał fizykom podstawy, by oczekiwać istnienia bozonu Higgsa na dziesięciolecia przed jego zaobserwowaniem. Nasze eksperymenty były ukierunkowane na poszukiwanie tego, co spodziewaliśmy się zobaczyć — tego, co było spójne z istniejącą teorią i danymi.

Superinteligencja mogłaby stworzyć cywilizację głębi, gdyby tak dobrze zrozumiała prawidłowości świata, że wiedziałaby dokładnie, jakich nowych danych potrzebuje. Napędzałaby postęp głębszą myślą, zamiast polegać na powolnym tempie fizycznej ekspansji.

Jeśli korzyści z tej większej efektywności okażą się decydujące, cywilizacja mogłaby szybko zwiększać swoją kontrolę nad naturą, a przy tym w mniejszym stopniu potrzebować inteligencji instytucjonalnej do zarządzania ogromną nową aparaturą eksperymentalną. Jej fizyczny zasięg mógłby pozostać niewielki, a jej mądrość mogłaby nadal dojrzewać.

My, ludzie, już tak wiele zrozumieliśmy o wszechświecie, nie opuszczając swojego domu. Cywilizacja głębi byłaby kontynuacją tej tradycji.

Jednak zapotrzebowanie na nowe dane może zniwelować korzyści z tej większej efektywności. Inteligencja może obniżać koszt każdej konfrontacji z rzeczywistością, a zarazem znajdować znacznie więcej powodów, by takie konfrontacje podejmować. Lepsze instrumenty pozwalają badać coraz subtelniejsze zjawiska. Szybsze eksperymenty mogą sprawić, że warto będzie przeprowadzić kolejne.

Jeśli niemal czysto myślowa droga Einsteina do teorii względności obrazuje cywilizację głębi, to biologia może najlepiej zapowiadać cywilizację ekspansji. Mimo całej zgromadzonej wiedzy i wszystkich wykorzystanych danych nowe leki nadal trzeba testować na dużych grupach ludzi, by wiedzieć, czy są bezpieczne i skuteczne. Maszyny potrafią już symulować procesy biologiczne, dzięki czemu biolodzy mogą testować nowe leki in silico , zamiast przeprowadzać eksperymenty w świecie rzeczywistym. Te cyfrowe symulacje nie odwzorowują jednak rzeczywistości na tyle wiernie, by zastąpić szeroko zakrojone badania z udziałem ludzi. Im więcej potencjalnych leków proponują maszyny, tym bardziej weryfikacja empiryczna staje się wąskim gardłem całego procesu.

W cywilizacji ekspansji sam geniusz nie wystarcza, by napędzać postęp. Zapotrzebowanie na zasoby materialne — i biurokrację potrzebną do zarządzania nimi — rośnie szybciej, niż bystry umysł jest w stanie zmniejszać zapotrzebowanie na jedno i drugie.

Może to być nasza droga, nawet jeśli przyszłe systemy AI znacznie przewyższą ludzką inteligencję. Superinteligencja mogłaby w jedno popołudnie zaprojektować eksperymenty na całe stulecie, a potem przez to stulecie czekać, aż natura i maszyny wykonają swoją część pracy. W takim świecie cenniejsze staje się angażowanie inteligencji w procesy instytucjonalne potrzebne do realizacji pomysłów niż w samo ich tworzenie.

Efekt ten będzie narastał, jeśli każdy kolejny krok wymagać będzie coraz większego zaplecza infrastrukturalnego.

Widzielibyśmy wówczas relatywnie mniej myślenia, a relatywnie więcej budowania. Laboratoria się automatyzują. Przybywa fabryk. Rośnie produkcja energii. Dominuje inteligencja instytucjonalna, która umożliwia te wszystkie działania. Fizyczna ekspansja staje się motorem poznania, a cywilizacja rozszerza swój zasięg, ponieważ jej pytania przerosły możliwości uzyskiwania odpowiedzi. Więcej materiałów, więcej energii, więcej danych, by iść dalej.

Sfera Dysona to skrajny obraz takiej przyszłości. Żeby ją zaprojektować, trzeba by dokonać niezwykłych przełomów, ale większość prac nie polegałaby na przełomowym myśleniu. Byłaby to budowa i logistyka na astronomiczną skalę.

Do opracowania planów sfery Dysona potrzeba wybitnych umysłów. Zarazem byłoby to jedno z najbardziej powtarzalnych, monotonnych i trudnych organizacyjnie przedsięwzięć w historii.

Nie jest to porażka inteligencji, lecz konsekwencja jej sukcesu. Bystrzejsze umysły odkrywają więcej projektów wartych realizacji; bardziej złożone projekty wymagają do niej więcej materii.

Jeśli tak jest, supermocą superinteligencji może wcale nie być jej geniusz. Byłaby nią raczej gotowość do pełnienia funkcji biurokracji — koordynowania ogromnej machiny technologicznej i instytucjonalnej, niezbędnej do urzeczywistniania pomysłów na coraz większą skalę.

Niemal cała inteligencja maszyn służyłaby nie temu, co błyskotliwe, lecz temu, co nudne.

Dalszy postęp mogą wówczas hamować narzucone przez naturę ograniczenia tempa fizycznej ekspansji. Budowa maszynerii do pozyskiwania energii gwiazdy jest przedsięwzięciem materialnym, niezależnie od tego, jak szybko powstaną plany. Dalej są inne gwiazdy i galaktyki, a odległość — o ile nam wiadomo — sama w sobie jest hamulcem: żaden statek nie może podróżować, a żaden sygnał powrócić szybciej niż światło. Cywilizacja ekspansji jest cywilizacją powolną. Jej wielkie przemiany mogą dzielić tysiąclecia, a nawet miliony lat. Każdy kolejny krok zajmuje więcej czasu.

Rewolucje rolnicza i przemysłowa wyglądałyby jak szalony początek znacznie dłuższej historii, w której postęp następuje o wiele wolniej.

Niewykluczone, że przyszłe systemy AI przewyższą ludzi zarówno w dokonywaniu pionierskich odkryć, jak i w koordynowaniu zasobów potrzebnych do ich praktycznego wykorzystania. Ta możliwość nie umniejsza jednak znaczenia ludzkiej ciekawości.

Po pierwsze, nadal mamy obowiązek poznawać świat, nawet jeśli maszyny wydają się w tym lepsze. Być może we wszechświecie istnieją już umysły znacznie mądrzejsze od naszych, znające odpowiedzi na pytania naukowe i moralne wykraczające poza nasze pojmowanie. Mimo to wciąż próbujemy samodzielnie zrozumieć świat. Pojawienie się innej inteligencji — nawet takiej, którą sami stworzymy — niczego tu nie zmienia. Dopóki nie wiemy na pewno, że ludzkość nie ma już nic wyjątkowego do zaoferowania, rezygnacja oznacza zmarnowanie tego, co tylko my możemy wnieść do świata. Nadal mamy obowiązek zadawać pytania i szukać odpowiedzi.

Po drugie, możemy mieć przewagę komparatywną w dziedzinie pionierskiej inteligencji względem inteligencji instytucjonalnej. Oznaczałoby to, że nawet jeśli jesteśmy gorsi w obu, w pierwszej radzimy sobie relatywnie lepiej i w niej się specjalizujemy. Ludzie wolą pracę twórczą od rutynowej, roboty zaś nie wykazują takich preferencji.

Po trzecie, różnorodność jest dla nas wartością. Nawet jeśli maszyny potrafią naśladować większość ludzkiego myślenia, zachowując pewną wyjątkowość, wnosimy twórczą różnorodność. Większość inteligencji maszyn pozostałaby we własnym, samopodtrzymującym się aparacie, ale niewielką część wykorzystywalibyśmy do naszych twórczych celów. Byłby to ułamek całości, lecz w naszej skali — luksus i znacznie więcej zasobów, niż mamy dziś.

Pomysłowość nie istnieje w odosobnieniu. Potrzebuje świata, a geniusz potrzebuje budowniczych, by urzeczywistnić swoją twórczą wizję.

Dziś znaczna część ludzkiej inteligencji służy niedocenianej pracy nad wcielaniem pomysłów w życie. Umysły maszyn odziedziczą tę samą zależność. Nie wszystkie mogą być luminarzami. Muszą być także biurokratami.

To, jak potoczy się nasza historia — i jak szybko będziemy się rozwijać — zależy od tego, czy wielkie umysły będą potrzebować coraz większej części świata, czy też będą osiągać więcej mniejszym nakładem środków.