Pomagamy tworzyć wspólne standardy zaawansowanej AI
Coraz bardziej zaawansowane modele mogą wzmacniać cyberobronę, przyspieszać odkrycia naukowe i poszerzać dostęp do wiedzy eksperckiej. Mogą jednak także stwarzać zagrożenia dla bezpieczeństwa, jeśli ich możliwości są błędnie rozumiane, zabezpieczenia niewystarczające albo rządy nie mają informacji potrzebnych do reakcji. Aby bezpiecznie i z pełnym zaufaniem korzystać z tych korzyści, społeczeństwa będą potrzebować instytucji o kompetencjach technicznych i zarządczych pozwalających oceniać, zabezpieczać i nadzorować coraz bardziej zaawansowane systemy.
To jeden z powodów, dla których OpenAI pomogło założyć Appia Foundation(otwiera nowe okno), działającą pod auspicjami Linux Foundation. Appia będzie opracowywać otwarte, modułowe specyfikacje, które mają przekładać międzynarodowe standardy i uznane ramy działań na praktyczne kryteria oceny w całym łańcuchu wartości AI. Prace w ramach tej fundacji mogą pomóc stworzyć ważną, brakującą warstwę zaufania, dzięki której podmioty zewnętrzne mogą sprawdzać zgodność ze standardami, tworząc jaśniejsze i łatwiejsze do ponownego wykorzystania dowody, gdy modele, infrastruktura i aplikacje są rozwijane przez różne organizacje. Działania Appia pomogą stworzyć wspólny język techniczny, który pozwoli instytucjom krajowym i międzynarodowym wzajemnie ufać wynikom swoich działań.
Postrzegamy tę inicjatywę jako ważny kolejny krok w szerszych działaniach na rzecz wzmacniania instytucji, standardów i praktyk oceny potrzebnych dla zaawansowanych systemów AI.
Nasz niedawny plan demokratycznego zarządzania pionierską AI przedstawia mapę tych działań. Wzywa on do stworzenia trwałych ram w USA, wzmocnionej inicjatywy Center for AI Standards and Innovation (CAISI) oraz szerszej strategii odporności w całej administracji. Uznaje również, że zagrożenia ze strony modeli pionierskich mają zasięg międzynarodowy. Państwa powinny współpracować nad tworzeniem zgodnych ram bezpieczeństwa, zaufanych kanałów wymiany informacji dotyczących zagrożeń oraz skoordynowanych reakcji na incydenty.
Potencjał krajowy i współpraca międzynarodowa powinny się wzajemnie wzmacniać. Silne instytucje, takie jak CAISI, mogą rozwijać wiedzę techniczną, oceniać systemy pionierskie i wspierać ekosystem niezależnych ocen. Sieć kompetentnych instytucji krajowych może następnie ustanawiać wspólne metody, uznawać wiarygodne dowody i dawać rządom wiedzę techniczną potrzebną do wspólnego działania.
Standardy są kluczowe dla tych działań i muszą opierać się na wiarygodnej praktyce ewaluacyjnej oraz rygorze technicznym. W naszym wspólnym podręczniku wiarygodnych ocen prowadzonych przez podmioty zewnętrzne wskazujemy obszary, które oceny systemów pionierskich powinny coraz częściej ujawniać: testowany system, jego dostęp do narzędzi i ewaluacyjne otoczenie operacyjne, metody użyte do uzyskania możliwości, dostępne zasoby oraz kontrole przeprowadzone w celu walidacji wyników. Wdrożyliśmy te zasady w praktyce także poprzez partnerstwa testowe z amerykańską organizacją CAISI i brytyjską AISI, których prace nad ocenami zdolności modeli pionierskich i zabezpieczeniami przed niewłaściwym wykorzystaniem biologicznym doprowadziły do konkretnych ulepszeń naszych systemów. Te operacje pełnią ważną funkcję: tworzą podstawę praktyk, które można standaryzować, aby sprawdzać działania w porównywalny sposób.
Te praktyki uzupełniają szerszą infrastrukturę bezpieczeństwa OpenAI. Nasze Ramy gotowości stanowią podstawę tego, jak definiujemy i wdrażamy nasze podejście do zarządzania najpoważniejszymi zagrożeniami związanymi z zaawansowanymi systemami AI, w tym naszymi praktykami wewnętrznymi. Nasze Ramy zarządzania działaniami pionierskimi przenoszą odpowiednie elementy tego podejścia do publicznego dokumentu dotyczącego zarządzania, skoncentrowanego na konkretnych obowiązkach regulacyjnych, w tym na ocenie ryzyka, raportowaniu modeli, kontrolach bezpieczeństwa, reagowaniu na incydenty i uwzględnianiu opinii zewnętrznych ekspertów. Łącznie te dokumenty pomagają przekładać ogólne zobowiązania na praktyki operacyjne, które można weryfikować i ulepszać.
Działania Appia są ukierunkowane na kolejne wyzwanie: zapewnienie interoperacyjności tych praktyk między organizacjami, jurysdykcjami i w całym łańcuchu dostaw.
OpenAI już wnosi wkład w szerszy ekosystem standardów oraz działań poprzedzających standaryzację. Uczestniczymy w pracach International Organization for Standardization and International Electrotechnical Commission Joint Technical Committee 1, Subcommittee 42 on Artificial Intelligence(otwiera nowe okno) oraz National Institute of Standards and Technology-led Artificial Intelligence Consortium(otwiera nowe okno); pomogliśmy założyć Frontier Model Forum oraz Agentic Artificial Intelligence Foundation(otwiera nowe okno) w ramach Linux Foundation; uczestniczymy w Coalition for Secure Artificial Intelligence(otwiera nowe okno); zasiadamy w komitecie sterującym Coalition for Content Provenance and Authenticity(otwiera nowe okno); a także angażujemy się w procesy Internet Engineering Task Force(otwiera nowe okno) i Fast Identity Online Alliance(otwiera nowe okno), aby rozwijać interoperacyjne standardy techniczne.
Na tych forach, w tym teraz także poprzez Appia, naszym celem jest przekładanie doświadczeń z rozwoju modeli pionierskich na otwarte, solidnie techniczne praktyki, które rządy, firmy i niezależni eksperci oceniający mogą stosować w różnych jurysdykcjach.
