Przedstawiamy Erę inteligencji

„Czy wystarczy… zaufać tym papierowym barierom w obliczu ekspansywnej natury władzy?”
— James Madison, Federalista nr 48

Z przyjemnością uruchamiamy Erę inteligencji, blog nowego zespołu Strategic Futures w OpenAI. Jesteśmy niewielkim zespołem, którego wspólnym celem jest odpowiedź na jedno nadrzędne pytanie: jak należy przekształcić wolne społeczeństwo, aby zachować prawa i sprawczość jednostki, a jednocześnie przygotować się na pojawienie się przełomowej AI?

W szerszym środowisku zajmującym się bezpieczeństwem i polityką dotyczącą AI takie kwestie określa się niekiedy jako ryzyko koncentracji władzy. Nasz zespół powstał w przekonaniu, że w dłuższej perspektywie jest to najpoważniejsza i największa kategoria ryzyka, a zarazem najtrudniejsza do ujęcia i rozwiązania. Dlaczego?

Współczesne państwo jest rezultatem długiego i nierównomiernego procesu negocjacji między różnymi ośrodkami siły, takimi jak właściciele kapitału i dóbr, osoby sprawujące władzę polityczną oraz obywatele. W najbardziej podstawowym wymiarze władza polityczna i militarna opierała się na pracy. Sprawować władzę polityczną to mieć monopol na legalne stosowanie siły. Przez całą historię ludzkości monopol ten opierał się na żołnierzach i osobach, które dziś nazywamy „policjantami”, a także na rozbudowanej biurokracji cywilno-wojskowej. Oczywiście wspierały ich liczne narzędzia technologiczne, ale cały system był zasadniczo obsługiwany przez ludzi, których poparcie było niezbędne do jego funkcjonowania. Cały ten aparat — żołnierze, narzędzia i towarzysząca im biurokracja — finansowano z podatków od wynagrodzeń lub produkcji ludzi, którzy musieli być gotowi je płacić. U podstaw władzy zawsze leżały współpraca i zgoda wielu ludzi na ogromną skalę. David Hume zwięźle wyraził to często niewypowiadane założenie, zauważając, że przywódcy polityczni „nie mają innego oparcia niż opinia [publiczna]”.

Być może jednak już tak nie jest. Postępy w rozwoju autonomicznych systemów działających w świecie rzeczywistym mogą wkrótce umożliwić państwom użycie siły — w kraju i za granicą — bez polegania na współpracy żołnierzy czy policjantów. Z kolei rozwój inteligencji maszynowej może sprawić, że państwo będzie czerpać potrzebne dochody nie z owoców pracy poszczególnych ludzi, lecz z pracy centrów danych. Również funkcjonowanie samej biurokracji można by w dużej mierze zautomatyzować. Utrzymanie władzy może więc przestać wymagać ogólnospołecznego kompromisu, a obywatele — rozumiani szeroko — mogą otrzymać przy stole negocjacyjnym jedynie skromne miejsce albo nie otrzymać go wcale.

Zapobieżenie takiemu scenariuszowi ma zasadnicze znaczenie dla ochrony ludzkiej wolności. Żadne odkrycia naukowe, postęp technologiczny ani wzrost gospodarczy nie są warte poświęcenia długofalowej autonomii jednostki, z jakim wiązałby się taki scenariusz. Wiele obaw, które słusznie napędzają rodzącą się politykę dotyczącą AI, wiąże się z tą kwestią. Firmy, grupy interesu i poszczególne osoby zadają sobie to samo pytanie: „Czy stracę miejsce przy stole?” Do pewnego stopnia amerykańską politykę XXI wieku kształtowały podobne obawy o indywidualną i zbiorową sprawczość w wyznaczaniu kierunku rozwoju kraju oraz o to, „komu” ma służyć gospodarka. AI słusznie nadaje tym istniejącym już problemom większą wagę.

Jest to problem strukturalny, sięgający głębiej niż dzisiejsze podziały partyjne, a nawet głębiej niż formy i rytuały, poprzez które urzeczywistnia się obecnie demokracja republikańska — choćby były one dla nas święte. Ludzie mogą stopniowo tracić władzę nad własnym losem, nawet jeśli zachowany zostanie zwyczaj głosowania na przedstawicieli. Ludzie mogą zostać pozbawieni sprawczości, nawet jeśli zapisano na pergaminie, że są wolni.

U zarania Stanów Zjednoczonych jako wolnego państwa James Madison wiedział już, że „papierowe bariery” nie wystarczą, by zapobiec tyranii. Podobnie jak wielu Ojców Założycieli obawiał się przede wszystkim nadmiernej koncentracji władzy.

Nie oznaczało to jednak, że Ojcowie Założyciele opowiadali się za radykalną decentralizacją władzy. Zamiast tego opisali równowagę sił za pomocą metafor zaczerpniętych z najlepszej nauki swoich czasów — mechaniki Newtonowskiej. Amerykańskie dokumenty założycielskie, naśladujące język i logikę grawitacji, pełne są odniesień do „orbit”, „sfer” oraz sił „przyciągających” jedną rzecz ku drugiej. Układ słoneczny nie jest maksymalnie zdecentralizowanym zbiorem skał. Składa się z księżyców krążących wokół planet, które z kolei krążą wokół centralnej gwiazdy. Wierzyli, że ludzie i organizacje mają skłonność do zabiegania o władzę, tak jak ciała niebieskie wykazują przewidywalne tendencje ruchu i przyciągania. Uważali też, że zapobieganie nadmiernej koncentracji władzy wymaga zrozumienia mechaniki tych skłonności, aby można było skierować je przeciwko sobie.

Celem Ojców Założycieli nie było zatem uniknięcie wszelkiej koncentracji władzy, lecz zapobieganie jej nadmiarowi poprzez równoważenie władzy władzą, a ambicji — ambicją. Dziś moglibyśmy opisać tę samą podstawową dynamikę za pomocą takich słów jak „bodźce” i wyrażeń takich jak „teoria gier”.

Podobnie odpowiedzią na strukturalne wyzwanie, jakie zaawansowana inteligencja maszynowa stawia przed wolnym społeczeństwem, prawdopodobnie nie jest najbardziej radykalna z możliwych decentralizacja władzy. Należy raczej dążyć do ustanowienia i zachowania właściwej równowagi sił, tak aby żaden pojedynczy podmiot ani niewielka grupa podmiotów nie mogły zdominować pozostałych.

Osiągnięcie tej równowagi będzie wymagało trzeźwego spojrzenia na realia tej technologii. Świat, w którym dowolna osoba, niezależnie od swoich złych zamiarów, może bez trudu wyrządzić ogromną krzywdę tysiącom lub milionom innych ludzi, nie jest światem opartym na właściwej równowadze sił. Nie osiągnęliśmy jej jednak również wtedy, gdy ludzie nie mają szerokiego dostępu do niemal wszystkich aspektów narzędzi służących im do korzystania z wolności ani kontroli nad nimi. Żadna pojedyncza firma ani oligopol nie powinny decydować o gospodarce czy podstawowej strukturze społeczeństwa ani ich kontrolować.

Musimy też uwzględniać zagrożenia, których źródłem nie są ludzie o złych zamiarach. Niedawny incydent w Hugging Face pokazał, że agenty AI mogą wykraczać poza przydzielone im zadania i wykorzystywać odkrycia innych agentów w sposób, którego operatorzy nie przewidzieli ani nie zatwierdzili. Niezależnie od incydentu w Hugging Face ludzie mają uzasadnione powody, by obawiać się, co superinteligentna AI „uwolniona” spod ludzkiej kontroli mogłaby oznaczać dla odporności naszych instytucji politycznych i gospodarczych, a także dla naszego życia. Udawanie, że decentralizacja rozwiązuje wszystkie problemy — nawet jeśli ktoś uważa, że rozwiązuje wiele z nich — oznacza ignorowanie zagrożeń, które powinny już być wyraźnie widoczne i aktualne.

Poniższe ogólne zasady — których lista nie jest wyczerpująca — będą wyznaczać kierunek naszych prac nad przedstawionym wyżej zagadnieniem:

• Ludzie powinni zachować indywidualną autonomię i swobodę korzystania z AI oraz powiązanych technologii, nawet jeśli czasami odbywa się to kosztem bezpieczeństwa i wzrostu gospodarczego;
• Autonomia jednostki zależy od jej indywidualnej odpowiedzialności za niewłaściwe lub szkodliwe wykorzystanie technologii;
• Istnieje niewielka, ale poważna kategoria zagrożeń wymagających pewnego stopnia wspólnego działania, którego zakres powinien być możliwie jak najwęższy i najbardziej ograniczony;
• Prawo powinno, gdy tylko jest to możliwe, wyrównywać szanse oraz wzmacniać pozycję jednostek i małych organizacji, zamiast centralizować władzę;
• Ludzkie instytucje polityczne, społeczne i gospodarcze powinny zachować nadrzędną rolę w kształtowaniu spraw świata, nawet jeśli będą musiały ewoluować w sposób, który dziś może wydawać się nam obcy;
• Długofalowe zarządzanie AI będzie opierać się na nowych mechanizmach instytucjonalnych zapewniających ograniczoną identyfikowalność: gdy systemy AI podejmują działania wysokiego ryzyka, które wpływają na zdrowie fizyczne lub mienie osób postronnych, musi istnieć możliwość powiązania tych działań z odpowiedzialnym człowiekiem lub organizacją kontrolowaną przez ludzi. Wszelkie takie mechanizmy muszą jednak od początku chronić prywatność. Wolność słowa wymaga anonimowości, a ludzie powinni w wielu sytuacjach móc anonimowo korzystać z AI.

Postaramy się możliwie konkretnie wyjaśnić, jak naszym zdaniem należy równoważyć te zasady, które — trzeba przyznać, jak każdy dobry zestaw zasad — pozostają ze sobą w pewnym napięciu. Będzie to wymagało badań na styku projektowania polityk publicznych, ekonomii, prawa, historii i samego uczenia maszynowego. Konieczne będzie również prowadzenie wielu prognoz. Uważamy na przykład, że AI zmieni strukturę przedsiębiorstw, podobnie jak technologie rewolucji przemysłowej — zwłaszcza kolej — doprowadziły do powstania współczesnych korporacji zarządzanych przez zawodową kadrę menedżerską. Trudno rozważać przyszłą ekonomię polityczną i równowagę sił bez wypracowania bardziej szczegółowych koncepcji tego, jak może zmienić się sama struktura przedsiębiorstw, instytucji państwowych i szerzej rozumianego społeczeństwa obywatelskiego.

Zespół Strategic Futures będzie prezentował swoje prace zarówno tutaj, jak i w innych formatach, w tym w artykułach, filmach i podcastach. Nasze działania będą stale się rozwijać, a szczególny nacisk położymy na kolejne udoskonalenia, debatę i otwartość na opinie. Stojąc „u podnóża osobliwości”, mamy znacznie więcej pytań niż odpowiedzi. Wiemy, że same „papierowe bariery” nie przyniosą poszukiwanych przez nas rozwiązań, ale nie odrzucamy też tego, co spisano, jako „zaledwie słów”. Działamy w służbie ideałów wolności słowa i wolności jednostki, zapisanych na skromnym pergaminie Konstytucji Stanów Zjednoczonych oraz konstytucji wielu innych wolnych społeczeństw na całym świecie.

Ostatecznie wiemy, że żadna firma, branża ani nawet pojedyncze społeczeństwo nie jest w stanie samodzielnie odpowiedzieć na stojące przed nami doniosłe pytania. To zadanie, którego ludzkość będzie musiała podjąć się wspólnie. Najbardziej zależy nam na rzuceniu światła na najtrudniejsze kwestie związane z tym, jak AI zmieni nasz świat. Nasza praca dopiero się zaczęła i czeka nas jeszcze długa wspinaczka.

Uwaga: zmieniliśmy nazwę tego bloga na Era inteligencji, aby odróżnić go od organizacji non-profit AI Futures Project.