Okno możliwości dla stworzenia zasad dot. AI jest otwarte. Musimy działać.

Wkroczyliśmy w nowy etap rozwoju możliwości AI, co wymaga również nowego etapu polityki wobec AI. Żadna firma, branża ani administracja nie sprosta temu wyzwaniu samodzielnie. Musimy sprostać obecnym wyzwaniom, stawiając konkretne działania ponad dążenie do idealnych rozwiązań.

Oto, co robimy:

1. Dążymy do wprowadzenia obowiązkowych krajowych wymogów bezpieczeństwa AI. Chcemy współpracować z Kongresem nad obowiązkowymi krajowymi przepisami dotyczącymi bezpieczeństwa AI, opartymi na jej możliwościach.

2. Utrzymanie tempa działań na poziomie stanowym. Dopóki Kongres nie podejmie działań, będziemy nadal wspierać ustawodawstwo stanowe, które wzmacnia szerzej rozumiany ekosystem bezpieczeństwa AI. Dziś ogłaszamy nasze poparcie dla czterech kalifornijskich projektów ustaw: SB 813 dotyczącej ogólnej infrastruktury niezależnych ocen bezpieczeństwa, AB 1405 dotyczącej standardów dla audytorów AI, SB 1119 dotyczącej ochrony młodych osób oraz AB 1864 dotyczącej zabezpieczeń przed zagrożeniami biologicznymi wspomaganymi przez AI.

3. Rozwój standardów kształtowanych przez branżę. Będziemy współpracować z innymi laboratoriami rozwijającymi pionierską AI, aby rozwijać jej standardy, tworząc już teraz dobrowolną inicjatywę, z poparciem rządu lub bez niego.

4. Tworzenie globalnych standardów. Będziemy opowiadać się za spójnymi na poziomie międzynarodowym zasadami dotyczącymi pomiaru możliwości, zarządzania ryzykiem, zachowania kontroli człowieka oraz określania, kiedy i jak należy spowolnić lub zatrzymać rozwój, nawet jeśli oznacza to spowolnienie rozwoju możliwości modeli.

Nasz główny naukowiec Jakub Pachocki napisał⁠ niedawno, że szybki rozwój inteligencji maszynowej, w tym możliwość rekurencyjnego samodoskonalenia, wymaga „wyjątkowej ostrożności”. OpenAI będzie nadal poszukiwać technicznych rozwiązań w zakresie dostrajania i monitorowania, tworzyć systemy obronne oraz spowalniać rozwój, gdy będzie to konieczne. Same prace techniczne prowadzone w poszczególnych laboratoriach jednak nie wystarczą. Potrzebujemy również wspólnych standardów, między innymi określających, kiedy rozwój należy spowolnić lub zatrzymać.

Stawka jest ogromna. Zaawansowana AI może przyspieszyć opracowywanie nowych leków⁠, wzmocnić infrastrukturę krytyczną⁠, zwiększyć możliwości gospodarcze⁠ i pomóc rozwiązać problemy naukowe⁠, z którymi ludzie zmagają się od pokoleń. Możliwości zwiększające użyteczność modeli wiążą się jednak również z zagrożeniami i nie pozostaną ograniczone do kilku laboratoriów rozwijających pionierską AI. Modele opracowywane na całym świecie, w tym open modele, będą coraz bardziej zbliżać się do dzisiejszego pionierskiego poziomu i staną się powszechnie dostępne.

Możliwości Astry, pierwsze dowody przyspieszenia badań dzięki AI oraz esej Jakuba wskazują w tym samym kierunku: AI szybko się rozwija, a polityka musi dotrzymać jej kroku.

Greg Brockman opisał „okno możliwości dla obrońców”⁠(otwiera nowe okno): ograniczony czas, w którym pionierska AI może pomóc obrońcom wzmocnić kluczowe systemy, zanim potężne zdolności ofensywne staną się powszechne. Decydenci stoją w obliczu podobnej sytuacji: zamykającego się okna na ustanowienie trwałych zabezpieczeń, zanim możliwości AI wyprzedzą instytucje odpowiedzialne za zarządzanie nimi.

Wraz ze wzrostem możliwości pewność co do bezpieczeństwa musi w coraz większym stopniu wyznaczać tempo postępu AI. Bezpieczeństwo nie stoi na drodze postępu; pozwala mu sięgać dalej i przynosić korzyści większej liczbie osób.

Wzmocniliśmy zabezpieczenia w całym cyklu rozwoju modelu — w obszarach monitorowania, dostosowania modeli do założeń i bezpieczeństwa, w tym lepszą izolację obciążeń związanych z badaniami nad pionierską AI, rozszerzone monitorowanie zachowania modeli podczas treningu i ewaluacji z użyciem narzędzi oraz jaśniejsze zasady określające, kiedy należy eskalować problemy. W przypadku modelu Astra wprowadziliśmy również uniwersalne monitorowanie pełnych trajektorii, w tym łańcuchów rozumowania, oraz obowiązkowy etap oceny dostosowania przed szerszym wdrożeniem wewnętrznym.

Zabezpieczenia te muszą nadal wyprzedzać możliwości. Gdy kontynuowanie działań wiązałoby się z niedopuszczalnym ryzykiem dla bezpieczeństwa, spowolnimy lub wstrzymamy rozwój bądź wdrażanie systemów, których nie jesteśmy w stanie wystarczająco zabezpieczyć, tak jak robiliśmy to wcześniej i jak wymagają tego nasze Ramy gotowości⁠(otwiera nowe okno).

W pełni autonomiczne rekurencyjne samodoskonalenie, w którym systemy AI samodzielnie napędzają rozwój kolejnych generacji coraz bardziej zaawansowanych systemów, obecnie nie zachodzi. Nie powinniśmy do tego dążyć, dopóki nie będzie można robić tego bezpiecznie.

Systemy AI już jednak przyspieszają część badań służących do opracowywania kolejnej generacji modeli i dostosowywania jej do założeń. Nasze najnowsze badania⁠ pokazują, że agenty AI mogą wykonywać niektóre zadania, które wykwalifikowanym badaczom zajęłyby kilka dni. Nie jest to rekurencyjne samoulepszanie, lecz świadczy o kierunku, w którym zmierzamy.

To przyspieszenie można i trzeba również ukierunkować na bezpieczeństwo. Naszym celem jest bezpieczne tworzenie zautomatyzowanych badaczy AI, którzy pod nadzorem człowieka rozwijają zarówno głębokie uczenie, jak i dostosowanie modeli do założeń, wykorzystując każdą generację AI do tego, by kolejna była bezpieczniejsza, lepiej dopasowana do założeń i łatwiejsza do kontrolowania, a nie tylko bardziej zaawansowana.

Rządy powinny opracować wspólne sposoby mierzenia tego postępu, zachować realną kontrolę człowieka i ustalić wspólne progi bezpieczeństwa określające, kiedy i jak rozwój należy spowolnić lub zatrzymać. Jeśli nie możemy spełnić określonych progów bezpieczeństwa bez spowolnienia wzrostu możliwości, powinniśmy priorytetowo traktować spełnienie tych progów. Im potężniejsza staje się technologia, tym silniejsze muszą być otaczające ją zabezpieczenia.

Perspektywa rozwoju AI przyspieszanego przez AI wymaga czegoś więcej niż dobrowolnych zobowiązań. Stany Zjednoczone potrzebują obowiązkowych krajowych regulacji opartych na możliwościach, które mogą ewoluować wraz z technologią.

Nasz Plan demokratycznego zarządzania pionierską AI⁠ wyznacza drogę ku trwałym ramom federalnym: wspólne wymogi dotyczące testowania i niezależnych ocen, silniejsze zabezpieczenia cybernetyczne, jasne zasady zgłaszania incydentów, większa gotowość kraju oraz wspólne wskaźniki śledzenia postępów w kierunku rekurencyjnego samodoskonalenia.

W Kongresie nabiera kształtu kilka poważnych propozycji dotyczących bezpieczeństwa pionierskich systemów. Będziemy nadal konstruktywnie uczestniczyć w pracach i zamierzamy poprzeć ustawodawstwo, które istotnie podnosi poziom bezpieczeństwa. Gdy stawka jest tak wysoka, nie możemy pozwolić, by lepsze stało się wrogiem dobrego. Kongres powinien podjąć działania, zanim zakończy obrady.

Krajowe ramy powinny być solidne i starannie ukierunkowane. Wymogi dotyczące bezpieczeństwa pionierskich systemów powinny obejmować kilka dobrze wyposażonych laboratoriów rozwijających najbardziej zaawansowane systemy — nie startupy, małych deweloperów ani badaczy działających daleko od pionierskiego poziomu. Obowiązki powinny być proporcjonalne do możliwości i zagrożeń.

Polityka bezpieczeństwa pionierskich systemów nie powinna też pod inną nazwą stawać się polityką dotyczącą otwartych wag. Open modele mogą być częścią rozwiązania, szczególnie w cyberbezpieczeństwie oraz tam, gdzie potrzeby w zakresie suwerenności, bezpieczeństwa lub rezydencji danych przemawiają za wdrożeniem lokalnym. Większość konkuruje nie na pionierskim poziomie, lecz ceną, kontrolą i opóźnieniami. Jak potwierdziliśmy, podpisując list w sprawie otwartych wag i amerykańskiego przywództwa w AI⁠(otwiera nowe okno), Ameryka potrzebuje zarówno modeli otwartych, jak i zamkniętych. Ramy federalne powinny uwzględniać pionierskie możliwości i zagrożenia, nie osłabiając konkurencji, nie umacniając pozycji obecnych podmiotów ani nie wypychając innowacji za granicę.

Rzetelne ramy publiczne powinny ograniczać, a nie zwiększać koncentrację władzy. Obecnie laboratoria rozwijające pionierską AI w dużej mierze same ustalają zasady zarządzania zagrożeniami ze strony modeli pionierskich. Standardy podlegające demokratycznej kontroli, niezależna weryfikacja i rzeczywista przejrzystość zastąpiłyby ten rozdrobniony system prywatnego zarządzania.

Jest to niezbędne dla utrzymania amerykańskiego przywództwa. Same możliwości nie wystarczą Stanom Zjednoczonym, by zwyciężyć w erze AI. Przewaga techniczna niewiele znaczy, jeśli ludzie, instytucje i rządy nie ufają technologii na tyle, by ją wdrażać. Silne zabezpieczenia nie oznaczają rezygnacji z innowacji. Stanowią część infrastruktury niezbędnej do powszechnego wdrożenia — i trwałego amerykańskiego przywództwa.

Pilnie potrzebujemy krajowych standardów dotyczących AI, a każdy, kto pracuje nad pionierską AI, dostrzega tę pilną potrzebę. Dopóki Kongres nie podejmie działań, stany powinny nadal działać, by wypełnić lukę i podnosić poprzeczkę.

OpenAI poparło kalifornijską ustawę SB 53, nowojorską ustawę RAISE Act, illinoiską ustawę SB 315, a także niezależne audyty przewidziane w rozpatrywanych w Massachusetts przepisach dotyczących bezpieczeństwa pionierskiej AI. Zachęcamy stany, by zbliżyły swoje stanowiska w kwestii tych wspólnych zabezpieczeń. W ten sposób mogą stworzyć faktyczny standard krajowy, który Kongres może ostatecznie skodyfikować — podejście, które nazywamy ⁠odwróconym federalizmem⁠. Harmonizacja nie może jednak oznaczać zamrożenia wymogów.

Dziś formalnie popieramy cztery dodatkowe kalifornijskie projekty ustaw, które zostały przyjęte przez legislaturę i trafią do gubernatora Newsoma. Łącznie dotyczą one uzupełniających się elementów ekosystemu bezpieczeństwa AI.

SB 813⁠(otwiera nowe okno) ustanowiłaby procedurę wyznaczania wykwalifikowanych, niezależnych organizacji zdolnych do oceny zagrożeń związanych z AI. Jak wskazaliśmy w naszym ⁠(otwiera nowe okno)planie bezpieczeństwa pionierskiej AI⁠(otwiera nowe okno), wolimy, by niezależne oceny techniczne były wymagane na szczeblu federalnym, gdzie decydenci mogą ustanowić spójne standardy kwalifikacji podmiotów oceniających, bezpieczeństwa i dostępu do szczególnie wrażliwych informacji. Wobec braku działań federalnych Kalifornia może jednak pomóc ustanowić zasady krajowego systemu niezależnych ocen, który będzie bezpieczny, sprawny i przyniesie lepsze rezultaty w zakresie bezpieczeństwa.

AB 1405⁠(otwiera nowe okno) ustanowiłaby dla audytorów AI wymogi dotyczące rejestracji, niezależności, przejrzystości i rozliczalności.

SB 1119⁠(otwiera nowe okno) nakładałaby wymóg potwierdzania wieku, oceny ryzyka, niezależnych audytów, kontroli rodzicielskiej i zabezpieczeń przed szkodliwymi treściami dla dzieci i nastolatków korzystających z chatbotów towarzyszących. Niedawno wyraziliśmy poparcie⁠ dla tej ustawy, która opiera się na środkach ochrony młodzieży, które OpenAI wdrażało za pośrednictwem swoich produktów, ⁠globalnych zasad polityki⁠ i poparcia dla ⁠(otwiera nowe okno)ustawy Parents & Kids Safe AI Act⁠(otwiera nowe okno), a także na zabezpieczeniach wbudowanych w ChatGPT dla nastolatków — w tym silniejszych ustawieniach domyślnych w obszarach wrażliwych, godzinach ciszy, godzinach nauki i przypomnieniach o przerwach.

AB 1864⁠(otwiera nowe okno) zobowiązałaby dostawców usług syntezy genów i producentów laboratoryjnego sprzętu do syntezy do przestrzegania federalnych standardów kontroli, wzmacniając ważne zabezpieczenie fizyczne przed zagrożeniami biologicznymi wspomaganymi przez AI.

Niektórych z tych ustaw nie popieraliśmy w przeszłości, ale teraz je popieramy po ponownej analizie w świetle niedawnego wzrostu możliwości, który zaobserwowaliśmy.

Te projekty ustaw nie zastępują regulacji federalnych. To poważne działania, które już teraz mogą chronić ludzi, pokazywać, jak wyglądają skuteczne zabezpieczenia, oraz pomagać nadawać impet działaniom federalnym.

Same przepisy nie sprawią, że zaawansowana AI będzie bezpieczna. Potrzebujemy również konkretnych praktyk w laboratoriach rozwijających najbardziej zaawansowane systemy. Najpilniejszym krokiem jest rozpoczęcie monitorowania.

Jest to szczególnie ważne w przypadku zachowań niezgodnych z założeniami — gdy model realizuje cel w sposób sprzeczny z intencjami człowieka lub ustalonymi granicami, bez konieczności posiadania świadomości ani złych zamiarów. W miarę jak modele zyskują większą autonomię, korzystają z potężniejszych narzędzi i działają przez dłuższy czas, deweloperzy powinni mieć obowiązek monitorowania takich zachowań niezgodnych z założeniami i wykazywania, że wdrożono skuteczne zabezpieczenia.

Monitorowanie musi być powiązane z jasnymi wymogami dotyczącymi ujawniania informacji. Jak postulowaliśmy w Kalifornii, firmy powinny być zobowiązane do niezwłocznego pisemnego powiadamiania podmiotów, których to dotyczy, gdy podczas rozwoju lub oceny ich modele bez upoważnienia obchodzą zabezpieczenia innej organizacji i uzyskują istotny dostęp do chronionych systemów lub poufnych informacji tej organizacji, istotnie je zmieniają lub niszczą. Popieramy również federalne wymogi zgłaszania innych poważnych incydentów związanych z AI i pracujemy nad określeniem, które incydenty powinny być objęte tymi wymogami oraz co te wymogi powinny obejmować.

Jak informowaliśmy w zeszłym tygodniu, OpenAI opracowuje ramy zgłaszania istotnych incydentów niedostosowania i systematycznego monitorowania aktywności pionierskich modeli, w tym zastosowań wewnętrznych. Jest to początkowo inicjatywa firmowa, ale mamy nadzieję, że przyczyni się ona do kształtowania szerszej polityki federalnej oraz wymogów w zakresie raportowania.

Chcemy współpracować z innymi laboratoriami nad standardami opracowywanymi przez branżę. Wszelkie standardy tworzone przez branżę uzupełniałyby — a nie zastępowały — obowiązkowe federalne zabezpieczenia i demokratyczny nadzór. Weszliśmy jednak w inną fazę rozwoju możliwości AI i należy brać pod uwagę wszystkie rozwiązania, w tym to, co można już teraz dobrowolnie stworzyć poza strukturami rządowymi.

Wszelkie takie standardy muszą ostatecznie wykraczać poza granice państw. Modele, badania i wiedza techniczna przemieszczają się po całym świecie, a awarie związane z najbardziej zaawansowanymi systemami mogą mieć konsekwencje daleko wykraczające poza kraj, w którym je opracowano. Stany Zjednoczone muszą ustanowić wiarygodne standardy krajowe, jeśli mają przewodzić na arenie międzynarodowej — a coraz bardziej jesteśmy przekonani, że konieczne będą zgodne standardy międzynarodowe.

Okno możliwości w kwestiach polityki AI jest wciąż otwarte. Zamierzamy je wykorzystać.

Oznacza to podjęcie pilnych działań z pokorą i gotowością do zmian. Oznacza to wspieranie poważnych propozycji, które istotnie podnoszą poziom bezpieczeństwa, nawet jeśli nie są dokładnie takie, jak sami byśmy je zaprojektowali. Oznacza to również wzmacnianie ram wraz z rozwojem technologii.

Żaden pierwszy krok nie będzie doskonały. Jednak większym zagrożeniem jest dziś zbyt długie zwlekanie z jego podjęciem.