Wystąpienie Sama Altmana przed Radą Bezpieczeństwa ONZ

Dziś dyrektor generalny OpenAI Sam Altman przemawiał przed Radą Bezpieczeństwa ONZ na temat sztucznej inteligencji. Omówił potencjał AI do stwarzania ludziom większych możliwości, znaczenie utrzymania potężnych systemów pod kontrolą człowieka oraz potrzebę międzynarodowej współpracy na rzecz bezpieczeństwa AI.

Dziękuję, Panie Przewodniczący, Wasze Ekscelencje. To dla mnie zaszczyt, że mogę tu być i przemawiać do Państwa w tak ważnym momencie.

Od lat rozmawiamy o sztucznej inteligencji, ale w ostatnich tygodniach i miesiącach sytuacja zaczęła wyglądać inaczej. Szybki rozwój modeli sprawił, że perspektywa czasowa wydaje się krótsza, korzyści — bardziej namacalne, a stawka i ryzyko — bardziej bezpośrednie.

Stoimy przed wyborem. AI może przynieść nowy renesans kreatywności i odkryć albo nową rewolucję przemysłową pełną wstrząsów i chaosu.

Renesans był epoką, w której nowe narzędzia, idee i instytucje poszerzały granice tego, co ludzie uważali za możliwe. AI może odegrać taką rolę w naszych czasach. Uważam, że ludzie potrafią znacznie więcej, niż sądzą, lecz ograniczała ich technologia, która miała ich wspierać, a zamiast tego rozprasza i często pochłania ich uwagę.

Najlepsza wersja AI nie polega na robieniu z ludzi trybików w ogromnej maszynie ani na optymalizowaniu każdej sfery życia, aż zniknie z niej to, co ludzkie. Chodzi o zapewnienie ludziom większej sprawczości w coraz bardziej złożonym świecie: większych możliwości uczenia się, tworzenia, odkrywania, budowania i uczestniczenia. Jest wiele rzeczy, których AI nie może — i nie powinna — automatyzować.

AI należy budować dla ludzi, a nie tylko po to, by coraz szybciej napędzać maszyny. Niektóre wypowiedzi osób pracujących nad AI są tak dystopijne, że brzmią jak fabuła kiepskiego filmu science fiction.

Wszystko, co ma tak wielką moc, budzi również obawy. To skomplikowany moment, ponieważ jednocześnie dostrzegamy ogromny potencjał i odczuwamy całkowicie zrozumiały niepokój.

Modele te mogą pomagać ludziom dokonywać nowych odkryć — opracowywać nowe leki, poprawiać opiekę zdrowotną i edukację oraz budować bardziej produktywne gospodarki. Mogą stać się nowymi narzędziami umożliwiającymi ludziom realizację marzeń i ambicji, które dziś wydają się nieosiągalne. Życie przeciętnego człowieka stało się nieporównanie bardziej złożone. AI może zarówno pomagać nam radzić sobie z tą złożonością, jak i stać się narzędziem bezprecedensowych odkryć i innowacji.

Z drugiej strony, w miarę jak systemy AI stają się bardziej zaawansowane i autonomiczne, mogą rozwijać się szybciej niż nasze instytucje, skupiać władzę w zbyt nielicznych rękach lub podejmować decyzje, które ludzie przestaną rozumieć i kontrolować.

Obawy te nabierają szczególnego znaczenia, gdy zbliżamy się do stworzenia systemów zdolnych ulepszać siebie i swoje przyszłe wersje, co często nazywa się rekurencyjnym samodoskonaleniem. W miarę automatyzacji procesu tworzenia AI tempo jej rozwoju może gwałtownie wzrosnąć. Ta chwila wymaga najwyższej ostrożności.

W dużej mierze zgadzam się z profesorem Bengio. Wymienię jednak dwa zagrożenia zamiast trzech — uważam, że rozwój AI może przybrać dwa bardzo złe kierunki, których musimy uniknąć.

Po pierwsze, możemy oddać AI kontrolę nad przyszłością. Ryzyko polega na tym, że rozwój będzie tak szybki, iż ludzie przestaną nadążać za wydarzeniami i nie będą mogli interweniować w razie potrzeby. Byłoby to oczywiście czymś strasznym.

Branża nie może akceptować nadmiernego ryzyka technologicznego tylko dlatego, że potencjalne korzyści są ogromne, a postęp wydaje się zbyt ważny, by go spowalniać. Chęć wyprzedzenia konkurencji nie usprawiedliwia pochopnych decyzji. Nie uważamy też, że tkwimy w wyścigu, który uniemożliwia nam zwolnienie tempa. W przeszłości z własnej inicjatywy zwalnialiśmy tempo prac. Będziemy tak postępować również w przyszłości. Nie chcemy budować systemów — i uważamy, że wszyscy powinni tego unikać — jeśli nie możemy zapewnić niezbędnych gwarancji dotyczących ich dostosowania do ludzkich celów, możliwości monitorowania i bezpieczeństwa.

Musimy rozumieć działania tych systemów i mieć mocne dowody, że będą postępować zgodnie z ludzkimi intencjami, nawet gdy staną się bardzo, bardzo inteligentne. A właściwie — zwłaszcza gdy staną się bardzo, bardzo inteligentne. Nie ma znaczenia, czy ktoś ocenia ryzyko katastrofy na 10%, 1%, 12% czy 0,1%. Żaden z tych poziomów nie jest choćby w najmniejszym stopniu akceptowalny. Nie powinniśmy też trenować modeli, jeśli nie mamy wyjątkowo mocnych podstaw, by twierdzić, że zdołamy utrzymać je pod kontrolą człowieka.

To jeden ze sposobów, w jaki sytuacja może wymknąć się spod kontroli. Drugim zagrożeniem jest skupienie przez te systemy zbyt wielkiej władzy w zbyt nielicznych rękach. Żadna osoba, firma ani państwo nie powinny móc wykorzystywać najpotężniejszych modeli AI do narzucania wszystkim innym własnej wizji świata. Firmy lub państwa przekonane, że tylko im można powierzyć tę technologię, mogą wykorzystać to przeświadczenie do uzasadnienia niemal wszystkiego. Musimy odrzucić tę logikę, nawet jeśli jest wygodna dla któregoś z uczestników.

Wierzę, że istnieje pragmatyczna droga pozwalająca uniknąć obu tych skrajności. W OpenAI podchodzimy do tych kwestii z jasno określonym celem: AI powinna dawać ludziom większą kontrolę nad własnym życiem. Więcej swobody, by żyć tak, jak chcą. Większe możliwości rozwiązywania dużych i małych problemów oraz poprawiania sytuacji w swoich społecznościach. Nie chcemy wpaść w pułapkę ślepego optymizmu. Nie chcemy też ulec skrajnemu pesymizmowi. Popadnięcie w którąkolwiek ze skrajności nie pomoże nam sprostać stojącym przed nami wyzwaniom — zwłaszcza dziś, gdy świat i jego mieszkańcy zmagają się z ogromnymi problemami, w których rozwiązaniu ta technologia może pomóc. Dlatego staramy się podążać środkową drogą między tymi dwiema skrajnościami.

Dla nas oznacza to trzy zasady.

Po pierwsze, w miarę rozwoju możliwości AI ludzie muszą pozostać w centrum jej procesów decyzyjnych. Dostosowanie AI do ludzkich celów nie jest abstrakcyjnym problemem badawczym. To praca nad zapewnieniem, by systemy te niezawodnie pozostawały pod kontrolą człowieka, odzwierciedlały ludzkie wartości i pomagały ludziom wyznaczać kierunek kolejnych etapów rozwoju. Nie próbujemy i nie wolno nam automatyzować ludzkiego osądu ani ludzkich wartości.

Po drugie, postęp naukowy i wzrost gospodarczy muszą być dziełem ludzi i służyć ludziom. AI powinna pomagać naukowcom dokonywać odkryć, lekarzom leczyć pacjentów, nauczycielom uczyć, przedsiębiorcom zakładać firmy, a społecznościom rozwiązywać problemy, które dotąd wydawały się nieosiągalne — i wspierać wiele innych działań. Historia nieustannego postępu ludzkości nie polega na tym, że narzędzia odbierają ludziom sprawczość. Polega na tym, że właściwe narzędzia zwiększają ludzkie możliwości. Wierzę, że zajdziemy pod tym względem znacznie dalej, niż dziś potrafimy sobie wyobrazić.

Po trzecie, technologia ta musi wzmacniać pozycję każdego człowieka. Wspaniała przyszłość nadejdzie dzięki ludziom, którzy realizują swój potencjał i tworzą wartość dla siebie, swoich społeczności, państw i całego świata. Możemy być jednymi z twórców tej technologii, ale nie jesteśmy bohaterami tej historii. Naszą rolą jest otwieranie możliwości przed ludźmi na całym świecie i zaufanie niezwykłej sile ludzkich umiejętności i zdolności.

Dysponujemy już modelami zdolnymi odkrywać wiedzę, do której nigdy wcześniej nie mieliśmy dostępu. Spójrzmy na postępy w matematyce. Trzy lata temu nasze modele radziły sobie przyzwoicie z matematyką na poziomie szkoły podstawowej. Dwa lata temu całkiem dobrze radziły sobie w konkursach matematycznych dla uczniów szkół średnich. Ubiegłego lata osiągnęliśmy poziom złotego medalu w najbardziej prestiżowym międzynarodowym konkursie matematycznym. A zaledwie kilka tygodni temu, tego lata, jeden z naszych modeli rozwiązał jeden z problemów milenijnych — problem równań Naviera-Stokesa.

Równania te wykorzystuje się w projektowaniu samolotów, prognozowaniu pogody i badaniach przepływu krwi. Nie rozwiązujemy problemów matematycznych dla samej matematyki. Chcemy dać ludziom możliwość odkrywania nowej wiedzy i wykorzystywania jej do poprawy opieki zdrowotnej i poziomu życia oraz rozwijania potencjału każdego człowieka na świecie. Wciąż tak wiele pozostaje do odkrycia.

Bardzo ważne jest jednak, aby firmy nie zastępowały procesu demokratycznego.

Jeśli AI ma być demokratyczna, najważniejsze decyzje nie mogą zapadać wyłącznie w laboratoriach w San Francisco. Muszą być kształtowane w ramach procesów demokratycznych i przez rządy odpowiadające przed obywatelami, którym służą.

Na szczeblu międzynarodowym będzie to wymagało współpracy. W historii zdarzało się, że w obliczu potężnej nowej technologii rywalizujące ze sobą i nie zawsze darzące się sympatią państwa jednoczyły się we wspólnym interesie i dla wspólnego dobra. Uważamy, że teraz musi wydarzyć się to samo.

Potrzebujemy mechanizmu uzupełniających się krajowych i międzynarodowych standardów dla pionierskiej AI: standardów pomiaru możliwości, oceny ryzyka, ustalania, czy zabezpieczenia są wystarczające, oraz zachowania realnego nadzoru człowieka w miarę wzrostu autonomii systemów.

Potrzebujemy wspólnych standardów, aby państwa mogły porównywać dowody, weryfikować zgodność oraz wypracować wspólny język i wspólne rozumienie zachodzących zmian.

Potrzebujemy rzetelnego i szybkiego zgłaszania incydentów oraz protokołów ich klasyfikacji i raportowania, aby świat mógł wyciągać wnioski z niepowodzeń, zanim przerodzą się one w katastrofy.

Potrzebujemy też bezpiecznych kanałów, za pośrednictwem których rządy, operatorzy infrastruktury krytycznej i eksperci techniczni będą mogli wymieniać informacje o nowych podatnościach i zagrożeniach.

Oczywiście standardy te nie powinny umacniać pozycji obecnych liderów ani faworyzować jednego modelu biznesowego kosztem innych. Muszą wspierać twórców modeli otwartych i zamkniętych, nowych uczestników rynku i uznane laboratoria, suwerenność państw i współpracę międzynarodową. Każdy rząd powinien sam zdecydować, jak włączyć te standardy do własnego systemu prawnego. Wszystkim nam będzie jednak lepiej, jeśli zdołamy uzgodnić na arenie międzynarodowej, czym są wiarygodne dowody, skuteczne zabezpieczenia i właściwy nadzór.

Nie znamy wszystkich odpowiedzi i jesteśmy bardzo otwarci na wszelkie lepsze pomysły. Jesteśmy gotowi współpracować z Państwem i dołożyć wszelkich starań, by wytyczyć dalszą drogę.

Stoimy na rozdrożu. Jedna droga prowadzi do świata, w którym władza skupia się w nielicznych rękach, decyzje są nieprzejrzyste, a ludzie czują, że najważniejsza technologia ich życia jest im narzucana. Druga droga prowadzi do świata, w którym AI służy ludziom, ponieważ za pośrednictwem demokratycznych instytucji współdecydują oni o jej rozwoju i kierunku; w którym postęp naukowy naprawdę poprawia jakość życia; więcej osób może uczestniczyć w kształtowaniu przyszłości; a technologia ta nadal daje jednostkom i społecznościom większą swobodę życia na własnych zasadach. To przyszłość, w której realizujemy swój potencjał, pełna emocji i zachwytu.

I właśnie taką przyszłość warto naszym zdaniem budować. Bardzo dziękuję.