Tworzenie standardów dla kolejnego etapu rozwoju AI
Naszą misją jest dopilnowanie, aby ogólna sztuczna inteligencja przyniosła korzyści całej ludzkości. Jak niedawno przedstawili to Sam Altman i Jakub Pachocki, w realizacji tej misji skupiamy się na trzech głównych celach:
Przeprowadzić świat przez kolejny etap rozwoju AI, tworząc zautomatyzowanego badacza AI, pracując z nim nad problemem dostosowania w kolejnych iteracjach oraz szukając sposobów, by ludzie pozostali częścią procesu samodoskonalenia.
Zapewnić ludziom korzyści płynące z postępu naukowego i wzrostu gospodarczego napędzanych przez wysoce inteligentne maszyny.
Zapewnić każdej osobie własną AGI.
AI przyspiesza nasze badania i prace inżynieryjne, a badania wspomagane przez AI doprowadziły do postępów w matematyce, w tym w zakresie problemu milenijnego Naviera–Stokesa. Postęp ten daje ogromne nadzieje na realizację pozostałych dwóch celów. Może prowadzić do ważnych odkryć w medycynie, powszechnie dostępnej opieki zdrowotnej oraz wzmocnienia pozycji ekonomicznej małych firm i indywidualnych przedsiębiorców na całym świecie.
AI rozwija się w wielu firmach i krajach, a postęp w całej dziedzinie zmienia szanse i wyzwania, przed którymi wszyscy stoimy. Oprócz innych korzyści zaawansowana AI, zgodna z ludzkimi wartościami, będzie ważnym narzędziem w przechodzeniu przez tę transformację — wzmocni mechanizmy obronne, przyspieszy badania nad dostosowaniem i pomoże ludziom zrozumieć oraz ukierunkować kolejne etapy rozwoju AI.
Bezpieczne przejście przez tę transformację wymaga, aby badania nad dostosowaniem systemów dotrzymywały kroku rozwojowi ich możliwości, tak by systemy tworzone przez nas i innych były zgodne z ludzkimi wartościami i pozostawały pod kontrolą człowieka. Staje się to coraz ważniejsze, gdy systemy AI zyskują większe możliwości i autonomię, w tym przejmują coraz większą część prac badawczo-rozwojowych nad samą AI. Aby dalszy rozwój AI był bezpieczny i przynosił korzyści, potrzebne będą zarówno postępy w badaniach nad dostosowaniem systemów, jak i wspólne standardy wyznaczające kierunek prac w laboratoriach i krajach.
Zautomatyzowane badania nad AI mogą odbywać się przy różnym stopniu nadzoru człowieka. W miarę jak systemy AI przejmują więcej prac nad kolejnymi generacjami AI, mogą w coraz większym stopniu napędzać proces rekurencyjnego samodoskonalenia (RSI), nawet przy zachowaniu udziału ludzi. Wraz ze wzrostem automatyzacji tego procesu tempo rozwoju AI może gwałtownie przyspieszyć.
Uważamy, że zautomatyzowane badania nad AI doprowadzą do powstania modeli, które bezpośrednio poprawią jakość życia ludzi. Takie badania mogą obniżyć koszt dostępu do zaawansowanej inteligencji, aby mogli z niej korzystać ludzie na całym świecie. Zautomatyzowane badania mogą też pomóc nam znacznie poprawić dostosowanie systemów i stworzyć zabezpieczenia przed coraz bardziej zaawansowaną AI — zautomatyzowany badacz AI może być również zautomatyzowanym badaczem bezpieczeństwa AI. Bardziej zaawansowane systemy zgodne z ludzkimi wartościami mogłyby pomagać chronić infrastrukturę krytyczną, bronić przed niebezpiecznymi agentami AI i opracowywać nowe środki ochronne.
W pełni autonomiczne RSI obecnie nie zachodzi i nie powinniśmy do niego dążyć, dopóki nie będzie można bezpiecznie prowadzić takiego procesu. Decyzje o tym, czy i jak kontynuować te działania, muszą zależeć od naszej zdolności do zachowania kontroli człowieka oraz od świadomych demokratycznych wyborów(otwiera nowe okno) dotyczących korzyści i zagrożeń. Bez należytej rozwagi i ostrożności RSI mogłoby pozbawić ludzi faktycznej kontroli nad rozwojem AI oraz możliwości nadzorowania procesów badawczych, które przestaliby rozumieć. W takiej sytuacji AI mogłaby stać się niebezpieczniejsza, mniej zgodna z ludzkimi wartościami i ogólnie mogłaby stanowić zagrożenie dla ludzi. Ujawniony przez nas incydent w Hugging Face, choć nie był bezpośrednim skutkiem RSI, pokazuje, jakiego rodzaju zagrożenia mogłyby stać się znacznie poważniejsze bez solidnych zabezpieczeń i dostosowania systemów.
Międzynarodowe standardy praktyk bezpieczeństwa i ochrony w rozwoju pionierskiej AI mogą być równie istotne dla kontrolowania tempa postępu na granicy możliwości technologicznych jak same badania nad dostosowaniem systemów. Standardy mogą ustanowić wspólne definicje dowodów wysokiej jakości i uzgodniony podstawowy poziom rygoru zabezpieczeń technicznych. Krótko mówiąc, pomagają nam odpowiedzieć na pytanie: „Jak powinno wyglądać skuteczne ograniczanie ryzyka katastrofalnych skutków AI?”
Mogą w tym pomóc istniejące instytucje demokratyczne, takie jak Center for AI Standards and Innovation (CAISI), przepisy stanowe i federalne ramy dotyczące AI, a także nowe formy partnerstwa publiczno-prywatnego(otwiera nowe okno). Rozwój i wdrażanie AI odbywają się jednak w wielu krajach, jej upowszechnianie ma zasięg globalny, a skutki prawdopodobnie odczuje w pewnym momencie każdy z nas.
Dlatego potrzebne jest podjęcie międzynarodowych działań na rzecz opracowania standardów, które pomogą rozwiązać kilka kluczowych problemów:
Fragmentacja — oceny, wymogi sprawozdawcze i definicje incydentów przyjmowane przez różne państwa mogą być ze sobą sprzeczne, co utrudni porównywanie dowodów, rozumienie nowych możliwości i reagowanie na zagrożenia transgraniczne.
Wspólne działanie — niezależne działania poszczególnych państw mogą prowadzić do rezultatów, których nie chce żadne z nich. RSI może przyspieszyć same badania nad AI, potencjalnie przekraczając naszą zbiorową zdolność do rozumienia postępu, oceny zagrożeń i utrzymania rzeczywistego nadzoru człowieka.
Nierównomierny potencjał — pionierskie prace rozwojowe koncentrują się w określonych częściach świata, podobnie jak związana z nimi wiedza specjalistyczna. Pogłębia to oba opisane wyżej problemy.
Wyzwania te dotyczą zarówno modeli otwartych, jak i zamkniętych.
Należy jasno powiedzieć, że każde laboratorium AI prowadzące zautomatyzowane badania nad AI lub rozwijające inne zaawansowane możliwości musi odpowiadać za bezpieczeństwo tych działań, zgodnie z podstawowymi zasadami odpowiedzialności i obowiązującym prawem. Nasze uzasadnienie potrzeby ustalenia standardów wynika z dążenia do uniknięcia koncentracji władzy i osiągnięcia lepszych rezultatów w praktyce. Standardy dają większej liczbie interesariuszy spoza laboratoriów wpływ na kierunek rozwoju tej technologii oraz zapewniają przejrzysty zbiór zasad, na którym można polegać niezależnie od praktyk konkretnego laboratorium. Prawdopodobnie osiągniemy też lepsze rezultaty, jeśli strony podejmą współpracę, aby sprostać opisanym wyżej wyzwaniom.
Dlatego uważamy, że Stany Zjednoczone powinny stanąć na czele współpracy z krajami całego świata nad globalnymi standardami technicznymi dla pionierskiej AI, w tym dla RSI.
Choć spodziewamy się, że z czasem koncepcja ta znacznie się rozwinie, kluczowe będą dwa aspekty.
Jednym ze sposobów realizacji tego celu byłoby wykorzystanie powstającej sieci instytutów bezpieczeństwa AI — takich jak istniejące już w Australii, Kanadzie, Niemczech, Francji, Kenii, Japonii, Korei Południowej, Singapurze, Indiach i Wielkiej Brytanii — do wspierania opracowywania standardów za pośrednictwem CAISI i krajowych organizacji branżowych. Należałoby skupić się na: (1) pionierskich modelach AI i ich twórcach, ocenianych według testów porównawczych możliwości, oraz (2) zarządzaniu korzyściami i ryzykiem zautomatyzowanych badań nad AI, w tym RSI. Stany Zjednoczone mogą wykorzystać utworzenie przez CAISI w 2024 roku International Network for Advanced AI Measurement, Evaluation, and Science(otwiera nowe okno), która skupia instytucje publiczne współpracujące w zakresie pomiarów, ewaluacji i badań naukowych nad AI.
Standardy opracowane w ramach tych działań zapewniłyby wspólną podstawę techniczną do pomiaru i ewaluacji możliwości, oceny ryzyka oraz określania adekwatności zabezpieczeń. Te standardy techniczne nie byłyby licencjami ani wymogami obowiązkowej kontroli bądź zatwierdzenia modeli AI przed ich udostępnieniem. Rządy poszczególnych państw decydowałyby, czy i w jaki sposób włączyć te standardy do własnych systemów prawnych.
Prace te powinny również wspierać konkurencyjny ekosystem AI dzięki konsultacjom z twórcami rozwiązań typu open model i modeli zamkniętych, niezależnymi ekspertami technicznymi oraz środowiskiem akademickim. Wspólne standardy powinny być opracowywane w przejrzysty sposób i zaprojektowane tak, aby nie faworyzować określonych firm, krajów ani modeli biznesowych, w tym przez utrudnianie konkurowania nowym podmiotom lub twórcom modeli z otwartymi wagami.
Jak już sugerowaliśmy(otwiera nowe okno), podejście to może czerpać z doświadczeń takich dziedzin jak lotnictwo i stabilność finansowa, w których kraje opracowały wspólne standardy techniczne oraz zaufane kanały współpracy bez zrzekania się kompetencji krajowych. Należy również ściśle współpracować z uznanymi i nowszymi organizacjami normalizacyjnymi, takimi jak ISO(otwiera nowe okno), Frontier Model Forum(otwiera nowe okno), Agentic AI Foundation(otwiera nowe okno) i Open Secure AI Alliance(otwiera nowe okno), a także z organizacjami skupionymi na wdrażaniu, takimi jak Appia Foundation, która opracowuje praktyczne specyfikacje łączące standardy międzynarodowe z ocenami systemów AI prowadzonymi w rzeczywistych warunkach.
Międzynarodowe standardy AI będą szczególnie ważne w zarządzaniu rosnącą autonomią badań nad AI i rekurencyjnym samodoskonaleniem. W szczególności mogłyby obejmować standardy dotyczące:
Oceny postępów AI istotnych dla RSI oraz zakresu autonomicznych badań prowadzonych w firmie zajmującej się AI. Nasz niedawno opublikowany raport na temat przyspieszenia badań stanowi pierwszy wkład w te działania.
Nadzoru człowieka nad zautomatyzowanymi badaniami nad AI, w tym określenia, jakie rodzaje takich procesów badawczych powinny powodować natychmiastową weryfikację przez człowieka.
Klasyfikowania, monitorowania, zgłaszania i obsługi incydentów związanych z dostosowaniem systemów oraz zautomatyzowanymi badaniami nad AI, w tym wspólnych poziomów dotkliwości incydentów i progów zgłaszania. Nasze ramy raportowania niedostosowania modeli stanowią wczesny wkład w te działania.
Oprócz tych standardów za istotne uważamy ustanowienie przez operatorów infrastruktury krytycznej i rządy na całym świecie bezpiecznych kanałów komunikacji do wymiany informacji o zagrożeniach dla bezpieczeństwa narodowego, nowych podatnościach i zagrożeniach oraz dobrych praktykach w szybko rozwijającej się dziedzinie bezpieczeństwa pionierskiej AI. Dialog między Stanami Zjednoczonymi a Chinami w tych obszarach byłby pozytywnym krokiem, a planowane rozmowy odbędą się w odpowiednim momencie.
Kontrolowanie tempa rozwoju AI nie oznacza utrzymywania z góry ustalonej szybkości. Od strony technicznej chodzi o to, aby badania nad dostosowaniem systemów do ludzkich wartości oraz wdrażanie ich wyników wyprzedzały rozwój możliwości AI. Od strony społecznej chodzi o wykorzystanie standardów, instytucji i współpracy do wzmacniania sieci branżowych, relacji społecznych i mechanizmów rynkowych, tak aby osiągać rezultaty korzystne dla wszystkich. Przykładem tego drugiego podejścia jest niedawny apel o wspólne działania na rzecz cyberobrony.
Stany Zjednoczone mają dobre warunki, by objąć przywództwo, ponieważ ich branża AI jest w awangardzie technologicznej, a kraj nadal zajmuje uprzywilejowaną pozycję w globalnym układzie powiązań w kluczowych obszarach, takich jak finanse, handel, obronność, technologia i systemy informacyjne. Objęcie przywództwa już teraz przesądzi, czy Stany Zjednoczone ukształtują globalne ramy AI, czy też będą bezczynnie obserwować, jak wokół nich utrwala się rozdrobniony system, naznaczony nierównościami i konfliktami. Zadecyduje to również, czy zaawansowana AI wzmocni istniejące powiązania Stanów Zjednoczonych i ich sojuszników. Brak przywództwa może je osłabić.
Rywalizacja geopolityczna będzie dotyczyć nie tylko przewagi technicznej, lecz także wdrażania i upowszechniania AI. O tym drugim coraz częściej może decydować ten, kto będzie wspierać praktyczną współpracę i rozsądne reguły, których firmy i społeczeństwa na całym świecie będą oczekiwać, zanim powierzą tej technologii swoją przyszłość.
Skuteczne zarządzanie na szczeblu krajowym, połączone z praktyczną współpracą międzynarodową, otwiera drogę do solidniejszych zabezpieczeń, dalszych innowacji i szerokiego dostępu do korzyści płynących z AI.
