USA wzmacniają bezpieczeństwo AI przez działania stanowe i federalne

Autor: Chris Lehane, dyrektor ds. relacji globalnych

Od stolic stanowych w całym kraju, przez Waszyngton, po fora międzynarodowe kształtują się poważne podejścia do zarządzania pionierską AI. Wspólnie rozwijają one demokratyczną wizję AI.

Kalifornia, Nowy Jork, a ostatnio Illinois, przyjęły prace nad ustawodawstwem dotyczącym bezpieczeństwa pionierskiej AI, które pomaga zbliżyć kraj do wspólnej podstawy zarządzania najpotężniejszymi systemami AI.

Działania te odzwierciedlają rosnące poparcie dla tego, co OpenAI nazywa odwróconym federalizmem: stanów pomagających wyznaczyć wspólny kierunek poprzez wspólne ramy. W miarę jak prace prowadzone przez stany zbiegają się z działaniami na poziomie federalnym, zaczyna powstawać krajowy standard, który kładzie fundament pod globalne ramy AI pod przewodnictwem USA. Wierzymy, że najlepszym sposobem na zapewnienie, by AI służyła wielu, a nie tylko nielicznym, jest powierzanie kluczowych decyzji — począwszy od bezpieczeństwa pionierskiej AI — demokratycznym rządom, a nie wyłącznie laboratoriom pionierskiej AI.

Ostatecznie Stanom Zjednoczonym najlepiej służyłyby krajowe ramy oparte na tej zasadzie. Jednak wobec ich braku stany mogą nas do nich przybliżyć, uchwalając wzajemnie podobne przepisy. Krok po kroku mogą stworzyć faktyczny standard krajowy.

A jeśli priorytetem jest bezpieczeństwo, taki standard krajowy jest najlepszym podejściem politycznym, aby zapewnić, że (a) USA nadal będą liderem innowacji i nie zostaną osłabione przez mozaikę regulacji, która spowolniłaby budowę globalnego demokratycznego stosu AI, nastawionego na to, by dobrzy aktorzy mieli narzędzia potrzebne do obrony przed złymi aktorami próbującymi nadużywać AI w obszarach takich jak cyberbezpieczeństwo; oraz (b) USA znajdą się w najlepszej pozycji, by oprzeć na krajowym standardzie globalne podejście do bezpiecznego wdrażania AI, zbudowane na wartościach demokratycznych. Jeśli chcemy stworzyć ramy bezpieczeństwa, które naprawdę nadadzą priorytet ustanowieniu standardu krajowego i międzynarodowego — a to najlepiej wesprze bezpieczne wdrażanie AI — potrzebne będą ciężka praca, poważne podejście do celu oraz strategia łącząca stany, rząd federalny i debatę międzynarodową. Podejście na pokaz lub sygnalizowanie cnót nie wystarczy — chaos na poziomie stanowym nie leży w interesie trwałego podejścia do bezpieczeństwa; doprowadzi jedynie do większego chaosu.

Aby to podejście się powiodło, stany powinny nadal uzgadniać kluczowe elementy, tak jak zrobiły to Kalifornia, Nowy Jork i Illinois. Ogólnie rzecz biorąc, elementy te to:

• Udokumentowane ramy bezpieczeństwa z ocenami ryzyka dla pionierskich modeli oraz publicznym ujawnianiem tych ocen i ich wyników.
• Zgłaszanie poważnych incydentów bezpieczeństwa.
• Zarządzanie i rozliczalność poprzez niezależne, obiektywne audyty.

Łącznie te trzy stany wbudowały demokratyczny nadzór w wdrażanie pionierskiej AI. Kalifornia ustanowiła podstawowe ramy ujawniania informacji. Nowy Jork pokazał, że to podejście można przyjmować w różnych jurysdykcjach. Illinois uzupełniło je, wymagając niezależnej weryfikacji kluczowych ujawnień.

Rozumiemy, że ustawy często zawierają dodatkowe przepisy mające zapewnić głosy potrzebne do ich przyjęcia. Uważamy jednak, że są to niezbędne elementy potrzebne do stworzenia faktycznego standardu krajowego poprzez odwrócony federalizm. Bez tej dyscypliny ryzykujemy rozrost polityki i mozaikę przepisów stanowych, które regulatorom trudno egzekwować, konsumentom trudno zrozumieć, a które odciągają firmy programistyczne — zwłaszcza start-upy i małe firm — od inwestycji, które lepiej byłoby przeznaczyć na bezpieczeństwo. W szczególności, jak pokazały ostatnie tygodnie, wraz ze wzrostem możliwości modeli AI potrzebujemy spójnego systemu, który pozwoli przekazać narzędzia rządowi, infrastrukturze krytycznej, sojusznikom i zaufanym partnerom.

Decydenci powinni także zapobiegać rozszerzaniu zakresu misji. Od stanów nie powinno się oczekiwać zarządzania istotnymi ryzykami dla bezpieczeństwa narodowego (ani faktycznego podejmowania decyzji w sprawach bezpieczeństwa narodowego w imieniu całego kraju) czy prowadzenia wysoce technicznych przeglądów, które lepiej powierzyć ekspertom federalnym dysponującym zasobami, wiedzą, dostępem do systemów niejawnych i możliwością ścisłej współpracy z naszymi zespołami.

Na poziomie federalnym administracja Trumpa nadal współpracuje z ekspertami technicznymi i ds. bezpieczeństwa narodowego nad ramami testowania przez rząd USA najbardziej zaawansowanych modeli AI pod kątem cyberbezpieczeństwa. Ramy te określą standardy, harmonogramy i procesy testowania. OpenAI prowadzi konstruktywne rozmowy z administracją, firmami z branży, organizacjami biznesowymi i innymi interesariuszami, którzy pomagają kształtować te działania.

Trwające prace nad ocenami cyberbezpieczeństwa pokazują, dlaczego spójność ma znaczenie. Obecnie, co zrozumiałe, modele są testowane, zanim federalne ramy zostaną ukończone. W toku tych prac laboratoria doszły do jasnego wniosku: potrzebujemy spójnego i powtarzalnego podejścia zarówno na poziomie stanowym, jak i federalnym. To niezbędne, jeśli chcemy, by najbardziej zaawansowane modele trafiły do rządu, obrońców infrastruktury krytycznej, sojuszników i innych zaufanych partnerów. Doceniamy cel administracji, by wprowadzić te ramy do początku sierpnia.

Federalne ramy testowania pomogą przekazać zaawansowane narzędzia AI rządowi, obrońcom infrastruktury krytycznej, sojusznikom i innym zaufanym partnerom. W ten sposób wzmocnią instytucje demokratyczne i pomogą zbudować demokratyczny stos AI pod przewodnictwem USA. Teraz jest czas, by wykorzystać przewagę innowacyjną Ameryki na rzecz demokratycznej AI.

Ani nieokreślony proces federalny, ani mozaika przepisów stanowych nie stworzą spójnego systemu bezpieczeństwa pionierskiej AI. Potrzebujemy podejścia, które zapewni, że najlepsi testerzy będą oceniać najbardziej zaawansowane modele, a zaufani obrońcy uzyskają dostęp do tych narzędzi wystarczająco szybko, by wyprzedzać sprawców działających w złej wierze.

Kongres również podejmuje działania. Ustawodawcy w obu izbach i po obu stronach sceny politycznej — w tym ostatnio reprezentanci Jay Obernolte i Lori Trahan — odnotowali rozwój sytuacji w stanach i władzy wykonawczej oraz przedstawili propozycje ram federalnych. Żaden projekt do dyskusji, który ma realną szansę na przyjęcie, nie będzie doskonały. Uważamy jednak te prace za produktywny krok naprzód i sądzimy, że wiele ich postanowień jest przemyślanych i zasługuje na poparcie.

Cieszy nas również, że liderzy Senatu i Izby Reprezentantów wkładają poważny wysiłek w propozycje dotyczące krajowego zarządzania i bezpieczeństwa pionierskiej AI; z wieloma z nich odbyliśmy konstruktywne rozmowy. Biorąc pod uwagę skalę i wpływ stanów, które już uchwaliły zasadniczo zgodne przepisy, włączenie tych podejść do ustawodawstwa federalnego powinno ułatwić ustanowienie jednego krajowego systemu bezpieczeństwa pionierskiej AI.

Plan OpenAI dotyczący bezpieczeństwa pionierskiej AI przedstawia elementy, które uważamy za niezbędne w tych ramach.

Po pierwsze, rząd federalny powinien kierować testowaniem i oceną najbardziej zaawansowanych systemów. Pionierska AI rodzi pytania dotyczące bezpieczeństwa narodowego i publicznego, które wymagają wiedzy technicznej, zasobów i dostępu, jakich żaden stan nie jest w stanie w pełni odtworzyć.

Prace te powinny wzmocnić Center for AI Standards and Innovation (CAISI), utworzone za prezydentury Bidena i wzmocnione za prezydentury Trumpa. CAISI może zapewnić trwałe zdolności federalne potrzebne do oceny zaawansowanych modeli i przesunąć bezpieczeństwo pionierskiej AI w stronę zapobiegania szkodom, zanim do nich dojdzie, zamiast opierać się głównie na rozliczalności po fakcie. Każda ustawa federalna powinna starannie rozważyć, jak CAISI ma współpracować z resztą rządu i jaką rolę powinno odgrywać w centrum testowania.

Po drugie, firmy opracowujące najbardziej zaawansowane systemy powinny spełniać jasne wymagania, w tym dotyczące niezależnych audytów, zgłaszania incydentów, silnych standardów bezpieczeństwa i ochrony sygnalistów.

Po trzecie, działania federalne i stanowe powinny wzajemnie się wzmacniać. Przepisy stanowe nie będą identyczne, a my z niecierpliwością czekamy na współpracę z decydentami w całym kraju, aby wzmacniać bezpieczeństwo, jednocześnie maksymalizując korzyści gospodarcze zapewniane przez AI.

Stany powinny także nadal pełnić rolę laboratoriów demokracji w obszarach wykraczających poza bezpieczeństwo pionierskiej AI, takich jak ochrona młodzieży, polityka energetyczna i środowiskowa oraz edukacja i kompetencje w zakresie AI.

Ramy federalne pozostają niezbędne. Pionierska AI rodzi pytania dotyczące bezpieczeństwa narodowego, konkurencyjności gospodarczej i bezpieczeństwa publicznego, które ostatecznie wymagają krajowych standardów, krajowych zdolności i krajowych instytucji wspierających demokratyczną AI.

Ustawodawstwo krajowe ma także kluczowe znaczenie dla międzynarodowych ram standardów AI pod przewodnictwem USA. Kilka tygodni temu koncepcję tę omawiano na forum G7, wraz z Brazylią, Egiptem, Indiami, Kenią i Koreą, gdzie dyrektorzy generalni wiodących laboratoriów pionierskiej AI rozmawiali o potrzebie takich ram. Po tym spotkaniu dyrektor generalny OpenAI Sam Altman zaproponował na łamach Financial Times⁠(otwiera nowe okno) „międzynarodowe forum pod przewodnictwem USA, które ustanawia akceptowane standardy, zapewnia ekspercką i bezstronną analizę możliwości oraz ryzyk, a także udostępnia technologię państwom i firmom, które uczestniczą w nim i przestrzegają zasad”. W tym tygodniu dyrektor generalny Google DeepMind Demis Hassabis również przedstawił przemyślane pomysły w nowym artykule. Ustawodawstwo federalne — z konieczności ponadpartyjne — zapewniłoby solidny fundament dla tych działań międzynarodowych.

Impuls jest teraz widoczny na każdym poziomie. Stany ustanawiają wspólne podejścia. Kongres i władza wykonawcza pracują nad ramami krajowymi. A globalni liderzy zaczynają rozmawiać o standardach międzynarodowych. Jeśli każde z tych działań będzie opierać się na pozostałych, USA mogą przewodzić tworzeniu globalnych ram zakorzenionych w demokratycznej wizji AI. I to właśnie to podejście demokratycznego uzgodnienia w sprawie AI naprawdę stawia bezpieczeństwo na pierwszym miejscu.