Nasza umowa z Departamentem Wojny

Wczoraj osiągnęliśmy porozumienie z Pentagonem w sprawie wdrażania zaawansowanych systemów AI w środowiskach objętych klauzulą tajności. Poprosiliśmy również, aby zostały one udostępnione wszystkim firmom zajmującym się AI.

Uważamy, że nasza umowa zawiera więcej mechanizmów zabezpieczeń niż jakakolwiek wcześniejsza umowa dotycząca wdrożeń AI objętych klauzulą tajności, w tym umowa firmy Anthropic. Oto dlaczego.

Mamy trzy główne nienaruszalne granice bezpieczeństwa wyznaczające kierunek naszej pracy z Departamentem Wojny, które są ogólnie stosowane przez kilka innych laboratoriów pionierskich.

• Zakaz wykorzystywania technologii OpenAI do masowej inwigilacji wewnętrznej w kraju.
• Zakaz wykorzystywania technologii OpenAI do kierowania autonomicznymi systemami uzbrojenia. 
• Zakaz korzystania z technologii OpenAI do zautomatyzowanego podejmowania decyzji o wysokim znaczeniu (np. systemy takie jak „kredyt społeczny”).

Inne laboratoria AI ograniczyły lub usunęły swoje zabezpieczenia i w dużej mierze polegały na zasadach użytkowania jako głównych środkach ochrony w przypadku wdrożeń związanych z bezpieczeństwem narodowym. Uważamy, że nasze podejście lepiej chroni przed nieakceptowalnym wykorzystaniem.

W naszej umowie chronimy nienaruszalne zasady poprzez zastosowanie bardziej rozbudowanego, wielowarstwowego podejścia. Zachowujemy pełną swobodę decyzyjną w zakresie naszej struktury zabezpieczeń, wdrażamy za pośrednictwem chmury, upoważniony personel OpenAI jest zaangażowany w proces, a także mamy silne zabezpieczenia umowne. Wszystkie te aspekty uzupełniają mocne zabezpieczenia obowiązujące w prawie USA. 

Głęboko wierzymy w demokrację. Znając istotność tej technologii, wierzymy, że jedyna właściwa droga rozwoju wymaga ścisłej współpracy między działaniami w zakresie AI a procesem demokratycznym. Uważamy również, że nasza technologia wprowadzi na świecie nowe zagrożenia, i chcemy, aby obrońcy Stanów Zjednoczonych dysponowali najlepszymi narzędziami.

Nasza umowa obejmuje następujące obszary:

1. Architektura wdrażania. Niniejsze wdrożenie jest dostępne wyłącznie w chmurze i jest wyposażone w szereg zabezpieczeń obsługiwany przez nas, który obejmuje między innymi niniejsze zasady. Nie udostępniamy Departamentowi Wojny modeli z „wyłączonymi zabezpieczeniami”, nie zapewniamy modeli nietrenowanych pod kątem bezpieczeństwa ani nie wdrażamy naszych modeli na urządzeniach brzegowych (gdzie mogłaby zaistnieć możliwość użycia ich jako autonomicznej śmiercionośnej broni). 

Nasza architektura wdrożeniowa umożliwi nam niezależną weryfikację, że te nienaruszalne granice nie są w rzeczywistości przekraczane, co obejmuje także uruchamianie i aktualizowanie klasyfikatorów.

2. Nasza umowa. Oto właściwa treść:

Departament Wojny może wykorzystywać system AI do wszelkich prawnie dozwolonych celów, zgodnie z obowiązującym prawem, wymogami operacyjnymi oraz ugruntowanymi protokołami bezpieczeństwa i nadzoru. System AI nie będzie wykorzystywany do samodzielnego kierowania autonomiczną bronią w żadnym przypadku, w którym prawo, regulacje lub polityka Departamentu Wojny wymagają kontroli człowieka, ani nie będzie wykorzystywany do podejmowania innych decyzji o wysokiej wadze, które wymagają zatwierdzenia przez człowieka na podstawie tych samych uprawnień. Zgodnie z dyrektywą Departamentu Sprawiedliwości 3000.09 (z dnia 25 stycznia 2023 r.) każde wykorzystanie AI w systemach autonomicznych i półautonomicznych musi przejść rygorystyczną weryfikację, walidację oraz testy, które muszą przed wdrożeniem zapewnić, że system działa zgodnie z przeznaczeniem w realistycznych środowiskach.

W przypadku działań wywiadowczych wszelkie przetwarzanie informacji prywatnych będzie zgodne z Czwartą Poprawką, ustawą National Security Act z 1947 r. oraz ustawą Foreign Intelligence and Surveillance Act z 1978 r., rozporządzeniem wykonawczym Executive Order 12333 oraz właściwymi dyrektywami Departamentu Sprawiedliwości wymagającymi określonego celu w zakresie wywiadu zagranicznego. Zgodnie z tymi uprawnieniami system AI nie może być wykorzystywany do nieograniczonego monitorowania informacji dotyczących życia prywatnego osób z USA. System nie może być również wykorzystywany do krajowych działań organów ścigania, z wyjątkiem przypadków dozwolonych na mocy Posse Comitatus Act oraz innych obowiązujących przepisów.

3. Zaangażowanie ekspertów ds. AI. Dopuszczeni do pracy w terenie inżynierowie OpenAI z odpowiednimi uprawnieniami będą pomagać instytucjom rządowym, przy jednoczesnym udziale dopuszczonych do pracy badaczy ds. bezpieczeństwa i zgodności. 

Dlaczego to robicie? 

Po pierwsze: uważamy, że armia USA bezwzględnie potrzebuje sprawnych modeli AI, aby wspierać realizację swojej misji, zwłaszcza w obliczu rosnących zagrożeń ze strony potencjalnych wrogów, którzy coraz częściej stosują technologie AI w swoich systemach. Początkowo nie zdecydowaliśmy się na zawarcie umowy dotyczącej wdrożenia w środowisku niejawnym, ponieważ nie uważaliśmy, że nasze zabezpieczenia oraz systemy są gotowe i intensywnie pracowaliśmy nad tym, aby takie wdrożenie mogło się odbyć przy zastosowaniu zabezpieczeń gwarantujących, że sztywne granice nie zostaną przekroczone. 

Nie byliśmy i nadal nie jesteśmy skłonni usuwać kluczowych zabezpieczeń technicznych w celu zwiększenia wydajności w działaniach związanych z bezpieczeństwem narodowym. Nie tak powinno wyglądać właściwe wsparcie armii USA. 

Po drugie: chcieliśmy też złagodzić napięcia między Departamentem Wojny a amerykańskimi laboratoriami AI. Spokojna przyszłość będzie wymagała realnej i głębokiej współpracy między rządem a laboratoriami AI. W ramach naszej umowy poprosiliśmy, aby te same warunki były dostępne dla wszystkich laboratoriów AI, a w szczególności aby rząd spróbował rozwiązać sytuację z Anthropic; obecny stan rzeczy nie sprzyja rozpoczęciu kolejnej fazy współpracy między rządem a laboratoriami AI.

Jak udało wam się zawrzeć porozumienie, skoro Anthropic się to nie powiodło? Czy podpisaliście umowę, której oni nie chcieli podpisać?

Na bazie wiedzy, którą dysponujemy, uważamy, że nasza umowa zapewnia lepsze gwarancje i bardziej odpowiedzialne zabezpieczenia niż wcześniejsze porozumienia, w tym pierwotna umowa Anthropic. Uważamy, że nasze nienaruszalne granice bezpieczeństwa są lepiej egzekwowalne, ponieważ wdrożenie jest ograniczone wyłącznie do chmury (nie do systemów brzegowych), pozwala utrzymać działanie naszej struktury zabezpieczeń w sposób, który uważamy za najlepszy, oraz zapewnia udział w procesie zweryfikowanemu personelowi OpenAI.

Nie wiemy, dlaczego porozumienie z Anthropic nie zostało nawiązane. Mamy nadzieję, że Anthropic oraz inne laboratoria wezmą to pod uwagę.

Czy uważacie, że Anthropic powinni zostać uznani za „ryzyko dla łańcucha dostaw”?

Nie i jasno przedstawiliśmy nasze stanowisko w tej sprawie rządowi.

Czy ta umowa umożliwi Departamentowi Wojny wykorzystanie modeli OpenAI do obsługi autonomicznej broni? 

Nie. W oparciu o naszą strukturę zabezpieczeń, wdrożenie wyłącznie w chmurze, postanowienia umowy oraz obowiązujące przepisy prawa, regulacje i zasady jesteśmy przekonani, że nie może do tego dojść. W celu zapewnienia dodatkowych zabezpieczeń w procesie uczestniczy też personel OpenAI.  

Czy ta umowa umożliwi Departamentowi Wojny korzystanie z modeli OpenAI do prowadzenia masowej inwigilacji osób w Stanach Zjednoczonych?

Nie. W oparciu o naszą strukturę zabezpieczeń, zapisy umowy oraz obowiązujące przepisy, które w znacznym stopniu ograniczają krajowy nadzór realizowany przez Departament Wojny, jesteśmy przekonani, że nie może do tego dojść. W celu zapewnienia dodatkowych zabezpieczeń w procesie uczestniczy też personel OpenAI.  

Czy musicie wdrażać modele bez struktury zabezpieczeń?

Nie, zachowujemy pełną kontrolę nad strukturą zabezpieczeń, którą wdrażamy, i wdrożenie nie odbędzie się bez odpowiednich zabezpieczeń. Ponadto nasi specjaliści ds. bezpieczeństwa i zgodności będą na bieżąco informowani i pomogą z czasem udoskonalać systemy. Wiemy, że inne laboratoria AI ograniczyły zabezpieczenia modelu i polegały na zasadach użytkowania jako podstawowym zabezpieczeniu, ale uważamy, że nasze podejście wielowarstwowe lepiej chroni przed niedopuszczalnym użyciem.

Co się stanie, jeśli rząd naruszy warunki umowy?

Jak w przypadku każdej umowy, moglibyśmy ją wypowiedzieć, jeśli druga strona naruszyłaby warunki. Nie spodziewamy się, że taka sytuacja nastąpi.

A co, jeśli rząd po prostu zmieni prawo lub zasady obowiązujące Departament Wojny?

Nasza umowa wprost odwołuje się do przepisów i zasad dotyczących nadzoru oraz autonomicznej broni w brzmieniu obowiązującym dzisiaj, więc jeśli nawet te przepisy lub zasady ulegną zmianie w przyszłości, korzystanie z naszych systemów nadal będzie musiało być zgodne z aktualnymi standardami przedstawionymi w umowie. 

Jak odnosicie się do argumentów przedstawionych przez Anthropic w ich wpisie na blogu⁠(otwiera nowe okno) na temat ich rozmowy z Departamentem Wojny?

We wpisie Anthropic przestawiają swoje dwie nieprzekraczalne granice (są one zgodne z naszymi, a my ponadto dodajemy trzecią: zautomatyzowane podejmowanie decyzji o wysokiej wadze) oraz powody, dla których nie wierzą, że te nieprzekraczalne granice byłyby przestrzegane w umowach, które wtedy przedstawił Departament Wojny. Poniżej argumentujemy, dlaczego uważamy, że te same nieprzekraczalne granice będą obowiązywać w naszej umowie:

• Masowa krajowa inwigilacja. W trakcie naszych rozmów Departament Wojny jasno określił, że uznaje masową inwigilację krajową za nielegalną i nie planował wykorzystywać naszych rozwiązań do tego celu. Zadbaliśmy o to, aby fakt, że działania tego typu nie są objęte dozwolonym użytkiem, został wyraźnie wskazany w naszej umowie.
• W pełni autonomiczna broń. Zakres wdrożenia w chmurze objęty naszą umową nie pozwala na obsługę w pełni autonomicznej broni, ponieważ wymagałoby to wdrożenia brzegowego. 

Oprócz tych zabezpieczeń nasza umowa obejmuje dodatkowe wielopoziomowe zabezpieczenia, w tym nasz system bezpieczeństwa oraz wsparcie ekspertów technicznych OpenAI uczestniczących w procesie decyzyjnym.