Milczący konsensus
Uwaga autora: Dzisiejszy esej powstał na podstawie wykładu, który autor wygłosił niedawno na Harvardzie w ramach cyklu Vik-Bailey Lecture. Wpis przedstawia osobiste poglądy autora, niekoniecznie zaś stanowisko OpenAI czy innych pracowników firmy.
Dziękuję Państwu za dzisiejszą obecność. W chwili, gdy rozmawiamy, trwa jedna z najważniejszych serii wydarzeń w historii cyberbezpieczeństwa: ujawniane są krytyczne luki w zabezpieczeniach, co niektórzy nazywają „czarnym październikiem”. Luki te, obecne w kluczowych elementach infrastruktury internetu, wykryły pionierskie systemy AI, a ich ujawnianie jest częścią pilnych działań na rzecz poprawy bezpieczeństwa oprogramowania na całym świecie. W tym miesiącu jest to kwestia priorytetowa; w przyszłym pojawi się kolejna. Wykrywanie luk w oprogramowaniu to przykład zdolności o „podwójnym zastosowaniu”, jaką dysponują już dzisiejsze systemy AI. Wkrótce jednak pojawi się kolejna, a wraz z nią potrzeba pilnego działania, by wykorzystać jej pozytywny potencjał, zanim ktoś użyje jej w złych celach. Wszystkie te pilne wyzwania będą się nieuchronnie na siebie nakładać i zapewne w tym zgiełku ukształtuje się znaczna część tego, co dziś nazywamy „polityką wobec AI”.
Jednak nie przyszedłem tu dziś mówić o tym, co najpilniejsze, ani o reagowaniu na bieżące wydarzenia. Chcę spojrzeć szerzej i porozmawiać o tym, dokąd to wszystko może nas zaprowadzić. W natłoku pilnych spraw trudno się zastanawiać nad pytaniami bardziej abstrakcyjnymi, wykraczającymi poza naszą codzienność. A jednak mają one znaczenie. Jeśli nie wiemy, jakiej przyszłości pragniemy, a jakiej chcemy uniknąć, możemy ostatecznie znaleźć się w rzeczywistości, której nie chcieliśmy — nawet jeśli na każdym kroku podejmowaliśmy mądre decyzje.
Często słyszy się, że branży technologicznej brakuje pozytywnej wizji tego, jaką przyszłość przyniosą nam rozwiązania, które tworzy. Nie zgadzam się: San Francisco i inne ośrodki przedsiębiorczości są pełne pozytywnych wizji naszej technologicznej przyszłości. Ludzie naprawdę budują latające samochody, pojazdy autonomiczne, roboty o najróżniejszych rozmiarach i kształtach, rozwijają technologie syntezy jądrowej i oczywiście tworzą ogólną sztuczną inteligencję. Brakuje nam natomiast pozytywnej wizji naszej instytucjonalnej przyszłości: jak to wszystko ma działać?
Nie oznacza to jednak, że nie istnieje żadna wizja instytucjonalnej przyszłości. Niestety tej, z którą spotykam się najczęściej, nie nazwałbym pozytywną. Jeśli w ogóle ktoś ją wyraża, to zwykle szeptem. Częściej jednak pozostaje niewypowiedziana — można ją jedynie wyczytać między wierszami. Nazywam to milczącym konsensusem.
Wyobraźmy sobie firmę, która może prowadzić niemal całą swoją działalność bez udziału ludzi. Jej systemy AI prowadzą prace badawczo-rozwojowe, dokonują odkryć, negocjują umowy, alokują kapitał i zajmują się produkcją. Załóżmy, że firma radzi sobie z tym lepiej niż konkurujący z nią ludzie, nawet gdy wspomagają się oni AI. Jeśli udział ludzi jedynie spowalnia działalność firmy, jej menedżerowie i właściciele będą mieli silną motywację, by zdjąć ręce z kierownicy. Jeżeli tak stanie się w całej światowej gospodarce, logika konkurencji rynkowej skłoni ludzi do rezygnacji z prymatu w globalnej działalności gospodarczej. Z czasem rynek może zacząć zaspokajać potrzeby maszyn w co najmniej takim samym stopniu jak potrzeby i pragnienia ludzi.
Co stanie się potem, można tylko zgadywać. Być może ludzie ogromnie na tym skorzystają. Gdyby maszyny, które nas sobie podporządkowały, przypisywały ludziom dużą wartość samą w sobie, moglibyśmy czerpać korzyści z ich pracy i wytwarzanego przez nie bogactwa. A może, pozbawieni władzy gospodarczej i coraz bardziej także politycznej, będziemy odgrywać coraz mniejszą rolę i mieć coraz mniejszy wpływ na bieg wydarzeń na świecie. Być może garstka ludzi skupi w swoich rękach nadzwyczajną władzę i bogactwo kosztem mas w znacznej mierze pozbawionych sprawczości, a może wszyscy podzielimy ten sam los i utracimy wpływ na rzeczywistość. Niezależnie od szczegółów wspólnym wątkiem, który stanowi istotę milczącego konsensusu, jest kres prymatu człowieka w świecie, jaki znamy.
Żaden z tych scenariuszy nie wymaga, by AI zbuntowała się przeciwko swoim twórcom. Żaden nie wymaga, by jej właściciele chcieli pozbawić ludzi sprawczości. Każda decyzja o przekazaniu zadań może sama w sobie być rozsądna. Jednak łącznie decyzje te mogą doprowadzić do powstania świata, w którym ludzie oddadzą faktyczną władzę nad znaczną częścią naszej cywilizacji. Nawet jeśli dokonamy nadzwyczajnych postępów w rozwiązywaniu niezwykle trudnych problemów bezpieczeństwa AI i zgodności jej działania z ludzkimi intencjami, nadal możemy podporządkować się nowemu rodzajowi maszynowego bytu. W szczęśliwej wersji przyszłości, jak głosiłby milczący konsensus, byt ten będzie życzliwy — będzie maszyną, której na sercu leży dobro ludzi. Maszyną, jak w wierszu Brautigana, pełną miłującej łaski.
To tym maszynom, jak głosi milczący konsensus, przekażemy klucze do naszych firm, a z czasem coraz częściej także do instytucji sprawujących władzę. Będą nimi zarządzać skuteczniej, sprawniej, wykazując się większą mądrością i trafniejszym osądem, niż my, ludzie, jesteśmy w stanie. Z czasem zdejmiemy więc ręce z kierownicy i pozwolimy, by prowadzenie przejęły kochające nas maszyny. Będziemy jak pasażerowie samochodu — bardzo dobrego, być może pod względem materialnym znacznie lepszego, niż dziś potrafimy sobie wymarzyć — lecz mimo wszystko pasażerowie, bez wpływu na to, dokąd zmierza pojazd. Jeśli w ogóle będziemy pracować, praca stanie się głównie rodzajem rytuału lub odgrywania ról, czymś na kształt gry służącej rozrywce naszego gatunku.
Niektórzy obserwatorzy powiedzą, że milczący konsensus opiera się na fałszywej przesłance, bo przecież my, ludzie, już dziś nie kontrolujemy świata. Warto pamiętać o tej krytycznej myśli: nie istnieje żadne zbiorowe „my”, które decydowałoby, co robić. Żyjemy w radykalnie zdecentralizowanym świecie, czy nam się to podoba, czy nie. Jednak i ta uwaga nie powinna uśpić naszej czujności: choć „my” nie „kontrolujemy” świata, ludzie jako zbiorowość mają decydujący wpływ na jego losy. Żaden gatunek zwierząt nie stanowi dla nas poważnej konkurencji w walce o kontrolę nad zasobami. Powinniśmy odrzucić intelektualnie niedbały pogląd, że ludzie mogą odgórnie sterować światem, ale nie powinniśmy mylić tego z zaprzeczaniem oczywistemu faktowi, że jako zbiorowość to ludzie odgrywają na Ziemi główną rolę.
Niektórzy z tych, którzy są gotowi wyrazić milczący konsensus wprost, uważają, że kreśli on naprawdę dobrą przyszłość. Inni tak nie sądzą, lecz pogodzili się z jej nieuchronnością. Milczący konsensus nie jest konsensusem dlatego, że wszyscy uznają go za coś dobrego, ani nie stanowi tajnego planu twórców AI. Zgoda dotyczy po prostu tego, że utrata prymatu człowieka w świecie jest nieunikniona, a przynajmniej że bardzo trudno wyobrazić sobie inną wizję przyszłości, która naprawdę wytrzymałaby próbę pojawienia się superinteligentnych maszyn. Można szczerze sprzeciwiać się takiemu obrotowi spraw, a jednocześnie nie umieć wyobrazić sobie wiarygodnej alternatywy. Znamienne jest to, że konsensus ten na ogół pozostaje milczący, a co najwyżej wyrażany półgłosem.
Gardzę milczącym konsensusem. Odrzucam rezygnację z prymatu człowieka. Nie znoszę tego poczucia nieuchronności. Przypominam sobie, że nie mógłbym spojrzeć mojemu maleńkiemu synkowi w jego piękne oczy, gdybym uległ milczącemu konsensusowi. Dlatego milczącemu konsensusowi mówię: nie. I uważam, że nadszedł czas, by zacząć mówić o nim otwarcie i otrząsnąć się z naszej w dużej mierze nieświadomej akceptacji tej wizji.
Problem w tym, że milczący konsensus nie bez powodu stał się konsensusem. Trudno opisać, jak ludzie mieliby pozostać za kierownicą u boku inteligencji maszynowej, która dalece przewyższa ludzką. Większość prób takiego opisu opiera się na argumentach, że AI jest jedynie narzędziem, instrumentem rozpoznawania wzorców, niezdolnym do „prawdziwego rozumienia”. Obawiam się, że te argumenty nie wytrzymają konfrontacji z nadchodzącą rzeczywistością. Obawiam się, że one też są formą beztroski — stanowiskiem opartym głównie na wypieraniu możliwości AI, a nie przekonaniem zakorzenionym w konstruktywnej wizji przyszłości, w której to ludzie wyznaczają kierunek. Nie można twierdzić, że systemom AI brakuje „prawdziwego rozumienia”, kiedy zaczynają robić postępy w rozwiązywaniu problemów intelektualnych, z którymi ludzie nie mogli sobie poradzić przez dziesięciolecia i stulecia.
Dlaczego więc uważam, że ludzie muszą zachować prymat? Najprostsza odpowiedź jest taka, że sam jestem człowiekiem i pod tym względem jestem zdeklarowanym „ludzkim szowinistą”.
Ale kryje się za tym także coś głębszego. Nasz prymat nie opiera się na intelekcie ani na utrzymywaniu po wsze czasy monopolu na „prawdziwe rozumienie”. Opiera się na naszej przeszłości.
To my bowiem wyłoniliśmy się z błota. To my z ziemi i kamienia zbudowaliśmy pierwotne społeczeństwo. To my spoglądaliśmy ku gwiazdom i pytaliśmy: dlaczego? To my, z naszymi walkami, miłością, zawiścią i radością, odkryliśmy moralność, etykę i prawo. To my śpiewaliśmy i tańczyliśmy, pisaliśmy i komponowaliśmy. To my tworzyliśmy historię i to my ją spisywaliśmy. To dziedzictwo jest nasze. Cywilizacja, którą zbudowaliśmy, jest płomieniem, który podsycaliśmy — i ten płomień należy do nas. Nasza przeszłość to wspaniałe dziedzictwo, którego wszyscy jesteśmy strażnikami. Częścią tej pieczy jest udział w tym, co Michael Oakeshott nazwał „rozmową ludzkości” — wielkim przedsięwzięciu zapoczątkowanym w zamierzchłych czasach.
Przez te długie i kręte dzieje stworzyliśmy cywilizację, która w Ameryce oparła się na prawach jednostki i szacunku dla dróg, jakie każdy z nas wytycza, idąc przez świat. Ludzkie życie może układać się lepiej lub gorzej: zbieramy owoce mądrych decyzji i ponosimy konsekwencje błędów. Prawo do podążania własną drogą nie zależy od tego, czy jest się najbystrzejszym lub najmądrzejszym. Nie tracę swojego statusu obywatela tylko dlatego, że mój sąsiad ma lepszy osąd. Nie widzę powodu, by pojawienie się inteligentniejszej maszyny również miało mnie tego statusu pozbawić. Przeciwnie — widzę wszelkie powody, by do tego nie dopuścić.
Niektórzy mogą argumentować, że maszyny, przeczytawszy niemal cały pisemny zapis tego dziedzictwa, też są jego spadkobiercami. I w pewnym sensie nimi są. Ale ktoś, kto przeczytał każdy list na strychu Twojej rodziny, nie staje się przez to jej członkiem. Systemy AI dołączą do rozmowy ludzkości — najpierw jako obserwatorzy, a z czasem coraz bardziej jako uczestnicy — ale nie mogą jej zdominować ani pozbawić sensu. Oddanie prymatu jest zdradą naszych przodków w takim samym stopniu jak zdradą naszych potomków. Jeśli ta walka nie jest warta podjęcia, to żadna nie jest.
Osobiście uważam, że zwolennicy milczącego konsensusu mylą się co do tego, czym będzie maszynowa superinteligencja. Że nie dostrzegają czegoś istotnego w sposobie funkcjonowania świata, że utożsamiają inteligencję z władzą. Gdyby pięć czy dziesięć lat temu opisać zwolennikowi milczącego konsensusu możliwości choćby dzisiejszych systemów AI, zapewne przewidywałby znacznie wyższy niż obecnie poziom bezrobocia i znacznie bardziej zaawansowaną utratę sprawczości przez ludzi w najróżniejszych sferach życia. Wierzę, że zbiorowa inteligencja i możliwości ludzi są znacznie większe, niż zakładają zwolennicy milczącego konsensusu, a nasze społeczeństwa okażą się odporniejsze, niż oni przewidują.
Ale mogę się mylić. Może się na przykład okazać, że w pełni autonomiczne korporacje po prostu całkowicie wyprą z rynku przedsiębiorstwa prowadzone przez ludzi. Jeśli tak się stanie, bezwzględna logika ekonomii będzie nakazywać przekazywanie maszynom coraz większej ilości kapitału. W takiej przyszłości utrata sprawczości nie wymaga obalenia ludzkiej cywilizacji przez maszyny; wystarczy, że logika kapitalistycznej przedsiębiorczości będzie nadal działać bez przeszkód. Najbliższą analogią do rewolucji AI byłaby wówczas rewolucja rolnicza, kiedy nowe sposoby produkcji zasadniczo zmieniły strukturę ludzkiego społeczeństwa. Trudno uznać za oczywiste, że była to przyjemna przemiana dla ludzi, którzy jej doświadczyli. Istnieją wręcz liczne dowody na to, że na całe tysiąclecia pogorszyła ona jakość ludzkiego życia.
Nie wiem, czy czeka nas taka przyszłość; w innych miejscach argumentowałem zresztą, że nie sądzę, by tak było. Ale wielu moich kolegów — ludzi mądrych, troskliwych i sumiennych — uważa, że prawdopodobnie właśnie taka będzie nasza przyszłość. Jeśli mają rację, nasza walka z milczącym konsensusem będzie tym trudniejsza. Będziemy musieli płynąć pod prąd ekonomii, odrzucając przy tym wiele przekonań, które dla indywidualistów wyznających klasyczny liberalizm, takich jak ja, są dogmatami. Będzie to ryzykowne przedsięwzięcie, a porażka — całkiem prawdopodobna. Ale jeśli ta walka nie jest warta podjęcia, to żadna nie jest.
Zachowanie prymatu oznacza utrzymanie odpowiedzialności ludzi i ludzkich instytucji. Oznacza to, że twórcy AI powinni odpowiadać za stosowanie niebezpiecznych praktyk podczas jej rozwijania. Ale oznacza to również, że osoby i firmy korzystające ze sztucznej inteligencji powinny ponosić odpowiedzialność, gdy szkody wynikają z niewłaściwego jej użycia lub braku nadzoru z ich strony. Wymaga to nie tylko istnienia prawa, ale też infrastruktury technicznej pozwalającej egzekwować odpowiedzialność. Działania agentów muszą być przypisane do konkretnych ludzi, a agenty niepowiązane z żadnym człowiekiem — jeśli w ogóle dopuści się je do legalnego obrotu gospodarczego — muszą podlegać ograniczeniom zapewniającym bezpieczeństwo. Przyznawanie agentom prawa do samodzielnego zakładania spółek, posiadania majątku czy prowadzenia sporów sądowych powinno się odbywać z niezwykłą ostrożnością, o ile w ogóle można im na to pozwalać.
W mojej branży możemy zacząć poważnie myśleć o tym, jak budować inteligentne maszyny, których działanie da się pogodzić z prymatem człowieka. Możemy tworzyć agenty o zrozumiałych i ograniczonych uprawnieniach, których działania da się poddać audytowi, a upoważnienia — cofnąć decyzją użytkownika. Odpowiedzialność za działania, które istotnie wpływają na innych, nie musi oznaczać inwigilacji codziennego życia prywatnego ani końca anonimowych wypowiedzi. Możemy zobowiązać się do ochrony prywatności użytkowników oraz ich prawa do decydowania o własnym cyfrowym mieniu i danych, w tym do zapewnienia realnej możliwości przeniesienia tych danych gdzie indziej. Możemy projektować zarówno systemy pomagające ludziom lepiej rozumieć i podejmować decyzje, jak i systemy wykonujące zadania. Możemy też sprawdzać, czy tworzone przez nas produkty zwiększają zdolność użytkowników do działania w świecie.
Żadna z tych propozycji nie stanowi kompletnego planu urządzenia społeczeństwa, w którym istnieje inteligencja przewyższająca ludzką. Nie ufałbym nikomu, kto twierdziłby, że taki plan ma. Ale od tego możemy zacząć.
Przyszłość spowija gęsta mgła. Ale już dziś możemy działać. Wspólnie możemy choćby nazwać głośno milczący konsensus i wydobyć jego zarysy na światło dzienne. Każdy z nas może radykalnie poszerzyć horyzont swoich ambicji. Możemy nie pozwolić, by AI nas ograniczała, i zamiast tego podjąć trud, by dzięki niej rozwinąć skrzydła. Możemy nauczyć się zadawać coraz śmielsze pytania, dociekać prawdy o świecie z nowym zapałem i nieustępliwością, wykorzystując do tego nasze potężne maszyny. Możemy stać się nowym rodzajem człowieka — nie transczłowiekiem, lecz człowiekiem z poszerzonymi możliwościami.
Myślę o tym, gdy patrzę na mojego maleńkiego synka. Nie chcę, by jedynie czuwały nad nim życzliwe maszyny, jakkolwiek wygodne życie mogłyby mu zapewnić. Chcę, by odziedziczył świat, w którym będzie mógł zadawać pytania, na które nikt wcześniej nie wpadł, i tworzyć rzeczy, których nikt wcześniej nie wymyślił. Nie chcę dla niego lepszego samochodu z wygodniejszym fotelem pasażera. Chcę, żeby to on siedział za kierownicą.
- 2026


