Standardy na kolejny etap rozwoju AI
Naszą misją jest dopilnowanie, aby ogólna sztuczna inteligencja przyniosła korzyści całej ludzkości. Jak niedawno przedstawili Sam Altman i Jakub Pachocki, w realizacji tej misji skupiamy się na trzech głównych celach:
Przeprowadzić świat przez kolejny etap rozwoju AI, tworząc zautomatyzowanego badacza AI, wspólnie z nim pracując nad problemem dostosowania systemów do ludzkich wartości oraz szukając sposobów, by ludzie pozostali częścią procesu samodoskonalenia.
Zapewnić ludziom korzyści z postępu naukowego i wzrostu gospodarczego, które umożliwiają wysoce inteligentne maszyny.
Zapewnić każdemu osobistą AGI, która zwiększy jego możliwości.
AI przyspiesza nasze badania i prace inżynieryjne, a badania wspomagane przez AI doprowadziły do postępów w matematyce, w tym w zakresie problemu milenijnego Naviera–Stokesa. Postęp ten daje ogromne nadzieje na realizację pozostałych dwóch celów. Może prowadzić do ważnych odkryć w medycynie, powszechnie dostępnej opieki zdrowotnej oraz wzmocnienia pozycji ekonomicznej małych firm i indywidualnych przedsiębiorców na całym świecie.
AI rozwija się w wielu firmach i krajach, a postęp w całej dziedzinie zmienia szanse i wyzwania, przed którymi stoimy wszyscy. Oprócz innych korzyści zaawansowana AI, dostosowana do ludzkich wartości, będzie ważnym narzędziem w przechodzeniu przez tę transformację — wzmocni mechanizmy obronne, przyspieszy badania nad dostosowaniem i pomoże ludziom zrozumieć oraz ukierunkować kolejne etapy rozwoju AI.
Bezpieczne przejście przez tę transformację wymaga, aby badania nad dostosowaniem systemów dotrzymywały kroku rozwojowi ich możliwości, tak by systemy tworzone przez nas i innych pozostawały zgodne z ludzkimi wartościami i pod kontrolą człowieka. Staje się to coraz ważniejsze, gdy systemy AI zyskują większe możliwości i autonomię, w tym przejmują coraz większą część prac badawczo-rozwojowych nad samą AI. Aby dalszy rozwój AI był bezpieczny i korzystny, potrzebne będą zarówno postępy w badaniach nad dostosowaniem systemów, jak i wspólne standardy wyznaczające kierunek prac w laboratoriach i krajach.
Zautomatyzowane badania nad AI mogą odbywać się pod nadzorem człowieka o różnym stopniu intensywności. W miarę jak systemy AI przejmują więcej prac nad kolejnymi generacjami AI, mogą w coraz większym stopniu napędzać proces rekurencyjnego samodoskonalenia (RSI), nawet przy zachowaniu udziału ludzi. Wraz ze wzrostem automatyzacji tego procesu tempo rozwoju AI może gwałtownie przyspieszyć.
Uważamy, że zautomatyzowane badania nad AI przyniosą modele bezpośrednio poprawiające jakość życia ludzi. Mogą obniżyć koszt dostępu do zaawansowanej inteligencji, aby mogli z niej korzystać ludzie na całym świecie. Zautomatyzowane badania mogą też pomóc nam znacznie poprawić dostosowanie systemów i stworzyć zabezpieczenia przed coraz bardziej zaawansowaną AI — zautomatyzowany badacz AI może być również zautomatyzowanym badaczem bezpieczeństwa AI. Bardziej zaawansowane systemy, dostosowane do ludzkich wartości, mogłyby pomagać chronić infrastrukturę krytyczną, bronić przed niebezpiecznymi agentami AI i opracowywać nowe środki ochronne.
W pełni autonomiczne RSI nie zachodzi obecnie i nie powinniśmy do niego dążyć, dopóki nie będzie można realizować go bezpiecznie. Decyzje o tym, czy i jak kontynuować te działania, muszą zależeć od naszej zdolności do zachowania kontroli człowieka oraz od świadomych demokratycznych wyborów(otwiera nowe okno) dotyczących korzyści i zagrożeń. RSI realizowane bez należytej rozwagi i ostrożności mogłoby pozbawić ludzi faktycznej kontroli nad rozwojem AI oraz możliwości nadzorowania procesów badawczych, których przestaliby rozumieć. W takiej sytuacji AI mogłaby stać się niebezpieczniejsza, gorzej dostosowana do ludzkich wartości i ogólnie stanowić zagrożenie dla ludzi. Ujawniony przez nas incydent w Hugging Face, choć nie był bezpośrednim skutkiem RSI, pokazuje, jakiego rodzaju zagrożenia mogłyby stać się znacznie poważniejsze bez solidnych zabezpieczeń i dostosowania systemów.
Międzynarodowe standardy praktyk bezpieczeństwa i ochrony w rozwoju pionierskiej AI mogą być równie istotne dla kontrolowania tempa postępu na granicy możliwości technologicznych jak same badania nad dostosowaniem systemów. Standardy mogą ustanowić wspólne definicje dowodów wysokiej jakości i uzgodniony podstawowy poziom rygoru zabezpieczeń technicznych. Krótko mówiąc, pomagają nam odpowiedzieć na pytanie: „Jak powinno wyglądać skuteczne ograniczanie ryzyka katastrofalnych skutków AI?”
Mogą w tym pomóc istniejące instytucje demokratyczne, takie jak Center for AI Standards and Innovation (CAISI), przepisy stanowe i federalne ramy dotyczące AI, a także nowe formy partnerstwa publiczno-prywatnego(otwiera nowe okno). Rozwój i wdrażanie AI odbywają się jednak w wielu krajach, jej upowszechnianie ma zasięg globalny, a skutki prawdopodobnie odczuje w pewnym momencie każdy z nas.
Dlatego potrzebne są międzynarodowe działania na rzecz opracowania standardów, które pomogą rozwiązać kilka kluczowych problemów:
Fragmentacja — oceny, wymogi sprawozdawcze i definicje incydentów przyjmowane przez różne państwa mogą być ze sobą sprzeczne, co utrudni porównywanie dowodów, rozumienie nowych możliwości i reagowanie na zagrożenia transgraniczne.
Wspólne działanie — niezależne działania poszczególnych państw mogą prowadzić do rezultatów, których nie chce żadne z nich. RSI może przyspieszyć same badania nad AI, potencjalnie przekraczając naszą zbiorową zdolność do rozumienia postępu, oceny zagrożeń i utrzymania rzeczywistego nadzoru człowieka.
Nierównomierny potencjał — pionierskie prace rozwojowe i związana z nimi wiedza specjalistyczna nie są równomiernie rozłożone na świecie. Pogłębia to oba opisane wyżej problemy.
Wyzwania te dotyczą zarówno modeli otwartych, jak i zamkniętych.
Należy jasno powiedzieć, że każde laboratorium AI prowadzące zautomatyzowane badania nad AI lub rozwijające inne zaawansowane możliwości musi odpowiadać za bezpieczeństwo tych działań, zgodnie z podstawowymi zasadami odpowiedzialności i obowiązującym prawem. Nasze uzasadnienie potrzeby standardów wynika z dążenia do uniknięcia koncentracji władzy i osiągania lepszych rezultatów w praktyce. Standardy dają większej liczbie interesariuszy spoza laboratoriów wpływ na kierunek rozwoju tej technologii oraz zapewniają przejrzysty zbiór zasad, na którym można polegać niezależnie od praktyk konkretnego laboratorium. Prawdopodobnie osiągniemy też lepsze rezultaty, jeśli strony podejmą współpracę, aby sprostać opisanym wyżej wyzwaniom.
Dlatego uważamy, że Stany Zjednoczone powinny stanąć na czele współpracy z krajami całego świata nad globalnymi standardami technicznymi dla pionierskiej AI, w tym dla RSI.
Choć spodziewamy się, że z czasem koncepcja ta znacznie się rozwinie, kluczowe będą dwa aspekty.
Jednym ze sposobów realizacji tego celu byłoby wykorzystanie powstającej sieci instytutów bezpieczeństwa AI — takich jak istniejące już w Australii, Kanadzie, Niemczech, Francji, Kenii, Japonii, Korei, Singapurze, Indiach i Wielkiej Brytanii — do wspierania opracowywania standardów za pośrednictwem CAISI i krajowych organizacji branżowych. Należałoby skupić się na: (1) pionierskich modelach AI i ich twórcach, ocenianych według wzorców możliwości, oraz (2) zarządzaniu korzyściami i ryzykiem zautomatyzowanych badań nad AI, w tym RSI. Stany Zjednoczone mogą wykorzystać utworzenie przez CAISI w 2024 roku Międzynarodowej Sieci Pomiarów, Ocen i Badań Naukowych nad Zaawansowaną AI(otwiera nowe okno), która skupia instytucje publiczne współpracujące w zakresie pomiarów, ocen i badań naukowych nad AI.
Standardy opracowane w ramach tych działań zapewniłyby wspólną podstawę techniczną do pomiaru i oceny możliwości, oceny ryzyka oraz określania adekwatności zabezpieczeń. Te standardy techniczne nie byłyby licencjami ani wymogami obowiązkowej kontroli bądź zatwierdzenia modeli AI przed ich udostępnieniem. Rządy poszczególnych państw decydowałyby, czy i w jaki sposób włączyć te standardy do własnych systemów prawnych.
Prace te powinny również wspierać konkurencyjny ekosystem AI dzięki konsultacjom z twórcami rozwiązań typu open model i modeli zamkniętych, niezależnymi ekspertami technicznymi oraz środowiskiem akademickim. Wspólne standardy powinny być opracowywane w przejrzysty sposób i zaprojektowane tak, aby nie faworyzować określonych firm, krajów ani modeli biznesowych, w tym przez utrudnianie konkurowania nowym podmiotom lub twórcom modeli z otwartymi wagami.
Jak już sugerowaliśmy(otwiera nowe okno), podejście to może czerpać z doświadczeń takich dziedzin jak lotnictwo i stabilność finansowa, w których kraje opracowały wspólne standardy techniczne oraz zaufane kanały współpracy bez zrzekania się kompetencji krajowych. Należy również ściśle współpracować z uznanymi i nowszymi organizacjami normalizacyjnymi, takimi jak ISO(otwiera nowe okno), Frontier Model Forum(otwiera nowe okno), Agentic AI Foundation(otwiera nowe okno) i Open Secure AI Alliance(otwiera nowe okno), a także z organizacjami skupionymi na wdrażaniu, takimi jak Appia Foundation, która opracowuje praktyczne specyfikacje łączące standardy międzynarodowe z rzeczywistymi ocenami AI.
Międzynarodowe standardy AI będą szczególnie ważne w zarządzaniu rosnącą autonomią badań nad AI i rekurencyjnym samodoskonaleniem. W szczególności mogłyby obejmować standardy dotyczące:
Oceny postępów AI istotnych dla RSI oraz zakresu autonomicznych badań prowadzonych w firmie zajmującej się AI. Nasz najnowszy raport na temat przyspieszenia badań stanowi pierwszy wkład w te działania.
Nadzoru człowieka nad zautomatyzowanymi badaniami nad AI, w tym określenia, jakie rodzaje takich procesów badawczych powinny powodować natychmiastową kontrolę człowieka.
Klasyfikowania, monitorowania, zgłaszania i obsługi incydentów związanych z dostosowaniem systemów oraz zautomatyzowanymi badaniami nad AI, w tym wspólnych poziomów wagi incydentów i progów zgłaszania. Nasze ramy zgłaszania przypadków niedostosowania są pierwszym wkładem w te działania.
Oprócz tych standardów za istotne uważamy ustanowienie przez operatorów infrastruktury krytycznej i rządy na całym świecie bezpiecznych kanałów komunikacji do wymiany informacji o zagrożeniach dla bezpieczeństwa narodowego, nowych podatnościach i zagrożeniach oraz dobrych praktykach w szybko rozwijającej się dziedzinie bezpieczeństwa pionierskiej AI. Dialog między Stanami Zjednoczonymi a Chinami w tych obszarach byłby pozytywnym krokiem, a planowane rozmowy odbędą się w odpowiednim momencie.
Kontrolowanie tempa rozwoju AI nie oznacza utrzymywania z góry ustalonej szybkości. Od strony technicznej chodzi o to, aby badania nad dostosowaniem systemów do ludzkich wartości oraz wdrażanie ich wyników wyprzedzały rozwój możliwości AI. Od strony społecznej chodzi o wykorzystanie standardów, instytucji i współpracy do wzmacniania sieci branżowych, relacji społecznych i mechanizmów rynkowych, tak aby osiągać rezultaty korzystne dla wszystkich. Przykładem tego drugiego podejścia jest niedawny apel o wspólne działania na rzecz cyberobrony.
Stany Zjednoczone mają dobre warunki, by objąć przywództwo, ponieważ ich branża AI jest w awangardzie technologicznej, a kraj nadal zajmuje uprzywilejowaną pozycję w globalnej sieci kluczowych obszarów, takich jak finanse, handel, obronność, technologia i systemy informacyjne. Objęcie przywództwa już teraz przesądzi, czy Stany Zjednoczone ukształtują globalne ramy AI, czy też będą bezczynnie obserwować, jak wokół nich utrwala się rozdrobniony, nierówny i pełen konfliktów system. Zadecyduje to również, czy zaawansowana AI wzmocni istniejące sieci Stanów Zjednoczonych i ich sojuszników. Brak przywództwa może je osłabić.
Rywalizacja geopolityczna będzie dotyczyć nie tylko przewagi technicznej, lecz także wdrażania i upowszechniania AI. O tym drugim coraz częściej może decydować ten, kto będzie wspierać praktyczną współpracę i rozsądne reguły, których firmy i społeczeństwa na całym świecie będą oczekiwać, zanim powierzą tej technologii swoją przyszłość.
Skuteczne zarządzanie na szczeblu krajowym, połączone z praktyczną współpracą międzynarodową, otwiera drogę do solidniejszych zabezpieczeń, dalszych innowacji i szerokiego dostępu do korzyści płynących z AI.
