Wzmacnianie demokratycznego nadzoru nad bezpieczeństwem narodowym

AI zmienia sposób, w jaki demokratyczne państwa chronią swoich obywateli. Może pomagać w powstrzymywaniu cyberataków, zabezpieczaniu infrastruktury krytycznej, wcześniejszym wykrywaniu zagrożeń i zapewnianiu urzędnikom pełniejszego obrazu sytuacji kryzysowej. Właściwie wykorzystywane narzędzia te mogą wzmacniać bezpieczeństwo narodowe.

Demokratyczny nadzór pomaga zapewnić, by sprawujący władzę publiczną odpowiadali przed obywatelami, którym służą. AI zapewnia przyspieszenie działań i zwiększenie możliwości jednostek z obszaru bezpieczeństwa narodowego, dlatego też instytucje odpowiedzialne za nadzorowanie tej technologii również muszą dotrzymywać jej kroku. AI może szybko i na dużą skalę działać na podstawie brakujących lub nieaktualnych informacji, błędnie skonfigurowanych celów albo nietrafnych założeń, przez co trudniej ręcznie wykryć błędy, zanim się rozprzestrzenią. Nadzór jest szczególnie ważny w przypadku wykorzystania AI do celów bezpieczeństwa narodowego, ponieważ decyzje mogą wymagać zachowania tajemnicy i mieć doniosłe konsekwencje.

Kierując się naszymi Zasadami bezpieczeństwa narodowego, wdrażamy rozwiązania w tej dziedzinie z odpowiednimi zabezpieczeniami, z uwzględnieniem istotnej roli ludzkiego osądu i właściwego nadzoru — zwłaszcza w sytuacjach o dużej wadze. Zasady te nadają również priorytet wspieraniu instytucji nadzorczych w rozwijaniu zdolności do kontrolowania wykorzystania AI równie szybko i na równie dużą skalę.

Instytucje państwowe mają już określone uprawnienia i obowiązki w zakresie nadzorowania działań związanych z bezpieczeństwem narodowym. Gdy AI wspiera takie działania, nadzór może wymagać dostosowania. Tradycyjny nadzór wymaga dużego nakładu pracy i staje się niemal niemożliwy, gdy niewielkie zespoły stosujące metody z epoki dokumentów papierowych mają kontrolować systemy działające z prędkością maszynową.

OpenAI uważa, że systemy o większych możliwościach wymagają ściślejszego nadzoru, i stosuje tę zasadę również wobec siebie. Zgodnie z naszymi Ramami gotowości zaawansowane modele przed wdrożeniem przechodzą rygorystyczną ocenę, która pozwala poznać ich możliwości i ustalić, czy zabezpieczenia są wystarczające. Kontrola trwa również po wdrożeniu i obejmuje stałe monitorowanie oraz analizę incydentów, a zdobyta wiedza służy wzmacnianiu zabezpieczeń i rozwijaniu przyszłych modeli.

OpenAI nie sprawuje nadzoru nad rządem — i nie powinno tego robić. Odpowiedzialność ta spoczywa na wybranych przedstawicielach oraz powołanych w tym celu instytucjach publicznych. Możemy natomiast wspierać instytucje nadzorcze naszą technologią w realizacji ich obecnych zadań.

Pracami tymi będą kierować trzy zasady.

Po pierwsze, AI powinna wzmacniać, a nie zastępować osąd ludzi i instytucji. Decyzje o tym, czy działania władz są zgodne z prawem, właściwe oraz spójne z obowiązującymi przepisami i zasadami, należą do uprawnionych organów i prawnie ustanowionych instytucji nadzorczych.

Po drugie, wykorzystanie AI przez władze powinno być możliwe do prześledzenia i zrozumiałe dla uprawnionych organów nadzoru. Kontrolerzy powinni móc zrozumieć wpływ AI na decyzję przy jednoczesnej ochronie informacji niejawnych, prywatnych i wrażliwych ze względów bezpieczeństwa.

Po trzecie, AI należy wykorzystywać do wzmacniania demokratycznych instytucji nadzorczych. Ręcznego nadzoru nad wykorzystaniem AI przez władze nie da się prowadzić na dużą skalę. W miarę wdrażania AI w obszarze bezpieczeństwa narodowego i innych działaniach państwa o dużej wadze organy nadzoru również powinny korzystać z niej odpowiedzialnie, w sposób przejrzysty i zgodny ze swoimi mandatami.

W ciągu najbliższego roku zamierzamy rozwijać tę inicjatywę w następujący sposób:

• Będziemy współpracować z uprawnionymi urzędnikami, aby wskazać praktyczne obszary, w których narzędzia AI lub wsparcie techniczne mogą zwiększyć skuteczność nadzoru.

• Przeznaczymy 5 mln USD na szkolenia, wsparcie techniczne i środki OpenAI dla demokratycznych organów nadzorujących władze, aby wspierać odpowiedzialne wdrażanie i ocenę narzędzi AI.

• Wspólnie z instytucjami nadzorczymi przeprowadzimy pilotaże narzędzi, które pomogą uprawnionym kontrolerom analizować dokumentację dotyczącą decyzji władz wspomaganych przez AI — w tym istotne dane wejściowe, wyniki i użycie narzędzi — aby lepiej zrozumieć wpływ AI na rezultaty. Tam, gdzie będzie to możliwe, narzędzia będą interoperacyjne lub niezależne od modelu. To uczestniczące instytucje, a nie OpenAI, zachowają kontrolę nad materiałami dowodowymi, wynikami i ustaleniami, które będą dostępne wyłącznie dla uprawnionych urzędników państwowych.

• Zaangażujemy organizacje społeczeństwa obywatelskiego i ekspertów technicznych, aby ich perspektywa wpływała na sposób, w jaki OpenAI rozwija te narzędzia i podchodzi do związanej z nimi odpowiedzialności.

AI może skupiać władzę albo pomagać demokratycznym instytucjom skuteczniej ją sprawować i kontrolować. Sama technologia nie przesądzi o tym, jaka czeka nas przyszłość. Zdecydują o niej jednak wybory dokonywane dziś przez instytucje i firmy kierowane przez ludzi.

Postępy tej inicjatywy będziemy oceniać na podstawie tego, czy uprawnieni kontrolerzy mogą lepiej wypełniać swoje obowiązki oraz czy obywatele mają mocniejsze podstawy, by ufać, że państwowe systemy AI są wykorzystywane zgodnie z przeznaczeniem.

Wraz z rozwojem zastosowań AI przez władze OpenAI będzie nadal wspierać instytucje odpowiedzialne za ich nadzorowanie.