AI ma potencjał, by znacząco poprawić wiele aspektów życia.
Technologia ta, podobnie jak inne przed nią, zapewni społeczeństwu większe możliwości i sprawczość; zakres możliwości AI przyćmi osiągnięcia, które stały się możliwe dzięki odkryciu silników parowych czy elektryczności.
Chcemy, aby świat się rozwinął w sposób, który dziś trudno sobie nawet wyobrazić, aby potencjał ludzi, sprawczość i ich poziom szczęścia znacząco wzrosły. Wiele kwestii, które były wyłącznie domeną science fiction, może stać się urealnić, a jakość życia może być nieproporcjonalnie wyższa dla wszystkich.
Jednak taki scenariusz zdarzeń nie jest pewny. W przyszłości władza może trafić w ręce niewielkiej grupy firm wykorzystujących i kontrolujących superinteligencję, albo może być sprawowana w zdecentralizowany sposób przez ludzi. Uważamy, że to drugie rozwiązanie jest znacznie lepsze, a naszym celem jest przekazanie prawdziwej ogólnej AI w ręce jak największej liczby osób. Tak jak i teraźniejszość nie jest, tak i przyszłość nie będzie ani wyłącznie czarna, ani biała, jednak decyzje, które podejmujemy aktualnie, mogą pomóc nakreślić ją w jaśniejszych barwach.
Naszą misją jest zapewnienie, by AGI służyła całej ludzkości. Oto zasady, którymi kierujemy się w naszej pracy.
1. Demokratyzacja. Będziemy przeciwstawiać się wykorzystywaniu tej technologii do skupiania władzy w rękach wąskiej grupy.
Oznacza to, że oprócz zapewnienia wszystkim dostępu do AI, musimy zadbać o to, by kluczowe decyzje dotyczące sztucznej inteligencji były podejmowane w ramach procesów demokratycznych i zgodnie z zasadami równości, a nie wyłącznie w laboratoriach AI.
2. Wzmacnianie. Wierzymy, że AI może dać każdemu możliwość osiągania celów, zdobywania wiedzy, prowadzenia szczęśliwego życia oraz realizowania marzeń, a skorzysta na tym całe społeczeństwo.
Osiągnięcie tych celów wymaga zapewnienia społeczeństwu możliwości odkrywania ogromnego potencjału, który czeka na nas, więc musimy tworzyć produkty, które umożliwią dotarcie do niego. Użytkownicy powinni móc wykonywać za pomocą naszych usług coraz bardziej wartościowe zadania.
Świat jest różnorodny, a potrzeby każdego z nas mogą być inne. Chcemy dać naszym użytkownikom niezbędną autonomię i pozwolić im na tak szerokie korzystanie z naszych rozwiązań, jak to tylko jest rozsądnie możliwe.
Choć chcemy zapewnić naszym użytkownikom bardzo dużą swobodę w korzystaniu z naszych usług i mocno wierzymy, że z AI mogą korzystać wszyscy, mamy jednak też obowiązek tworzyć i wdrażać sztuczną inteligencję w sposób minimalizujący szkody. Obejmuje to oczywiście zapobieganie katastrofom ogólnym, ale także ograniczanie szkód lokalnych i unikanie potencjalnie destrukcyjnych skutków społecznych. Oznacza to, że będziemy ostrożnie działać w obliczu niepewności oraz łagodzić ograniczenia wraz z pojawianiem się większej ilości przesłanek.
3. Powszechny dobrobyt. Chcemy przyszłości, w której każdy może wieść wspaniałe życie.
Wierzymy, że dostarczając wszystkim łatwe w użyciu systemy AI dysponujące dużą mocą obliczeniową, użytkownicy znajdą nowe sposoby tworzenia wartościowych rozwiązań i znacząco poprawią jakość życia wszystkich, zwłaszcza dotyczy to zdobywania nowej wiedzy naukowej.
Aby w pełni korzystać z tego dobrobytu i móc dzielić się nim, uważamy, że: 1) nasze rządy powinny rozważyć opracowanie nowych modeli gospodarczych, aby zapewnić wszystkim możliwość uczestnictwa w tworzeniu wartości, która pojawi się w przyszłości, oraz 2) musimy zbudować ogromną infrastrukturę AI i opracować nowe technologie, aby znacznie obniżyć koszty tej infrastruktury.
Wiele z naszych działań może być uznawanych za dziwne – np. kupowanie ogromnych zasobów mocy obliczeniowej przy stosunkowo niewielkich przychodach, integracja pionowa w celu obniżenia kosztów i ułatwienia korzystania z naszej technologii, dążenie do budowy centrów danych na całym świecie – jednak wynikają one z naszego dogłębnego przekonania o możliwości osiągnięcia powszechnego dobrobytu w przyszłości.
4. Odporność. AI wywoła nowe zagrożenia, jednak wraz z innymi firmami, ekosystemami, rządami i społeczeństwem, będziemy je usuwać. W celu w znacznym stopniu wykorzystamy zasoby naszej Fundacji.
Żadne laboratorium AI nie jest w stanie samodzielnie zapewnić przyszłości malującej się w jasnych barwach. Oczywistym przykładem są modele o skrajnie wysokich możliwościach, które mogą ułatwić stworzenie nowego patogenu, dlatego potrzebujemy podejścia zrzeszającego cało społeczeństwo, by bronić się przed tym zagrożeniem za pomocą środków niezależnych od konkretnego patogenu. Innym przykładem jest to, że wraz ze wzrostem zdolności modeli w zakresie cyberbezpieczeństwa musimy szybko wykorzystywać te modele do zabezpieczania oprogramowania open source i infrastruktury krytycznej, jednocześnie trenując modele tak, by pomagały wszystkim tworzyć bezpieczniejsze oprogramowanie.
Niniejszy opis stanowi rozwinięcie naszej od dawna stosowanej strategii wdrażania iteracyjnego: uważamy, że społeczeństwo musi konfrontować się z każdym kolejnym poziomem możliwości AI, zrozumieć go, zintegrować i wspólnie wypracowywać drogę, która wiedzie dalej w najlepszym z kierunków. Nie da się tego zrobić w próżni; społeczeństwo i technologia ewoluują wspólnie, a taka ewolucja wymaga czasu.
Nie uznajemy tego podejścia jako naszej jedynej strategii bezpieczeństwa; musimy także tworzyć bezpieczne systemy i nadal prowadzić prace nad technicznym zestrojeniem.
Podejrzewamy, że niekiedy będziemy musieli współdziałać z rządami, agencjami międzynarodowymi i innymi podmiotami opracowującymi AGI, aby upewnić się, że w wystarczającym stopniu rozwiązaliśmy poważne problemy związane z zestrojeniem, bezpieczeństwem lub wpływem społecznym, zanim przejdziemy do kolejnych etapów rozwoju.
5. Zdolność adaptacji. Uważamy, że jedynym sposobem sprostania wyzwaniom czyhającym w bardzo nieprzewidywalnej przyszłości jest gotowość do modyfikowania naszych podejść w miarę zdobywania nowej wiedzy. Uznajemy też, że OpenAI jest dziś znacznie ważniejszą siłą światową niż jeszcze kilka lat temu i będziemy nadal otwarcie informować o tym, kiedy, jak i dlaczego zmieniają się nasze zasady działania. Przykład: choć jesteśmy dość pewni, że powszechny dobrobyt pozostanie ważną kwestią, jesteśmy w stanie wyobrazić sobie sytuacje w przyszłości, kiedy to będziemy musieli zrezygnować z pewnych aspektów wzmacniania sprawczości na rzecz rozwijania odporności.
Rozwój AI przyniósł dotychczas wiele zaskoczeń, a kolejne wciąż przed nami. Wraz z postępem technologii jej kolejne zawirowania będą coraz trudniejsze do przewidzenia. Akceptujemy tę niepewność, ostrożnie rozbudowujemy możliwości, iteracyjnie wdrażamy systemy i wyciągamy wnioski z ich interakcji ze światem.
Nie tak dawno temu obawialiśmy się udostępnienia wag GPT‑2, ponieważ nie byliśmy pewni, jak te informacje wpłyną na społeczeństwo. Z perspektywy czasu było to oczywiście niepotrzebne zamartwianie się, ale doprowadziło nas to do opracowania strategii iteracyjnego wdrażania, co okazało się jednym z najważniejszych naszych odkryć.
__
Wchodzimy w kluczową fazę rozwoju technologii i w pełni zasadne jest krytyczne podchodzenie do podejmowanych przez nas decyzji; w obliczu naszych działań oczekujemy ogromnego poziomu kontroli. Pewnie popełnimy błędy, ale będziemy szybko się uczyć i naprawiać je.
Jesteśmy zobowiązani do realizacji naszych zadań, aby przyszłość była lepsza niż przeszłość; czujemy dumę, że możemy podejmować się tak istotnej misji.
