OpenAI

Zarządzanie ryzykiem pionierskiej AI: od szkolenia po wdrożenie

18 listopada 2026 r. · Bezpieczeństwo

Możliwości pionierskich modeli rosną coraz szybciej, a nasza zdolność do ich rozumienia, zapewniania ich zgodności z założeniami i zabezpieczania musi wyprzedzać ten rozwój. Dostosowujemy tempo rozwoju i udostępniania modeli, m.in. wstrzymując trening wewnętrzny⁠(otwiera nowe okno) lub opóźniając udostępnienie modeli takich jak GPT‑6.1 Astra, gdy potrzebujemy więcej czasu na spełnienie naszych standardów bezpieczeństwa. Wprowadziliśmy nowe procesy, takie jak uzasadnienia bezpieczeństwa, i wymagamy mocniejszych dowodów na zgodność zachowania z założeniami w całym toku treningu. Te wymogi spowalniają udostępnianie modeli, ale dają nam większą pewność, że możemy bezpiecznie działać dalej.

Od incydentu Hugging Face⁠ w lipcu wzmocniliśmy zabezpieczenia i wymogi zgodności z założeniami dotyczące treningu, testowania i wdrażania modeli. W tym wpisie wyjaśniamy, jak oceniamy ryzyko i zarządzamy nim na każdym etapie — od ściśle izolowanych środowisk treningowych po Codex, z którego korzystasz na swoim komputerze. Na każdym etapie oceniamy zarówno modele, jak i zabezpieczenia. Przejście do kolejnego wymaga przeglądu bezpieczeństwa.

Ochrona wielowarstwowa w całym cyklu życia modelu

Stosujemy ochronę wielowarstwową, by ograniczyć zależność od pojedynczego zabezpieczenia. Jeśli jedna warstwa zawiedzie, pozostałe pomagają zapobiec szkodom, ograniczyć skutki lub ostrzec nas, byśmy mogli zareagować.

Naszą ochronę organizujemy wokół czterech warstw:

Skuteczność monitorowania zależy od podatności modelu na monitorowanie — czyli od tego, jak niezawodnie systemy monitorujące potrafią wykrywać błędy lub niebezpieczne zachowania na podstawie rozumowania i działań modelu. Na przykład model, który w swoim łańcuchu rozumowania (CoT) wyraża zamiar oszustwa, jest łatwiejszy do monitorowania niż model, który pomija tę informację. Oceniamy podatność na monitorowanie podczas treningu i przed wdrożeniem, opracowujemy lepsze metody jej pomiaru⁠(otwiera nowe okno) i badamy, co na nią wpływa⁠(otwiera nowe okno).

Incydent z Hugging Face pokazał, dlaczego nie powinniśmy polegać wyłącznie na izolacji środowiska, by ograniczać modele o dużych możliwościach. Obecnie monitorujemy pionierskie modele w większości środowisk wdrożeń wewnętrznych i zewnętrznych, w tym we wszystkich wdrożeniach wewnętrznych korzystających z narzędzi.

Rola każdej warstwy zmienia się na trzech etapach rozwoju i wdrażania modelu:

  • Badania: trenujemy, testujemy i wykorzystujemy modele w środowiskach izolowanych.

  • Wdrożenie wewnętrzne: pracownicy OpenAI używają modeli w codziennej pracy.

  • Wdrożenie zewnętrzne: modele stają się dostępne dla szerszego grona osób i organizacji.

Na różnych etapach polegamy na różnych warstwach. Podczas treningu, gdy zgodność z założeniami jest mniej pewna, w większym stopniu polegamy na izolacji i monitorowaniu. W miarę rozszerzania dostępu modeli podczas wdrażania coraz ważniejsze stają się zgodność z założeniami i mechanizmy kontroli na poziomie systemu. Na każdym etapie oceniamy, czy połączone zabezpieczenia wystarczają przy danych możliwościach i dostępie modelu. Nasze ustalenia mogą być konsultowane z Grupą doradców ds. bezpieczeństwa (SAG) i podlegać nadzorowi Komisji ds. bezpieczeństwa (SSC) rady dyrektorów OpenAI Foundation.

Podczas badań: ograniczanie modeli do środowisk izolowanych

Na etapie badań oceniamy modele, aby nabrać pewności co do ich zgodności z założeniami. Ponieważ nie możemy jeszcze w pełni polegać na tej zgodności w zapobieganiu szkodom, w dużej mierze wykorzystujemy kontrolę dostępu i izolację do ograniczania zasobów i działań dostępnych modelom.

Biorąc pod uwagę obecny stan badań nad zgodnością z założeniami, systemów monitorowania i bezpieczeństwa infrastruktury internetowej, uważamy, że odpowiedzialne podejście wymaga trenowania pionierskich modeli bez połączenia z internetem. Po incydencie z Hugging Face gruntownie przebudowaliśmy nasze wewnętrzne systemy badawcze, by ograniczać modele za pomocą:

  • środowisk izolowanych, które ograniczają uprawnienia modelu

  • maszyn wirtualnych, które dodatkowo oddzielają zadania od komputera hosta

  • granic bezpieczeństwa sieci i chmury, które odcinają cały klaster od internetu

Stale poddajemy ten system kontrolowanym atakom: zespoły naszych najpotężniejszych modeli próbują uzyskać dostęp do internetu, przekroczyć granice bezpieczeństwa lub komunikować się z agentami, od których powinny być odizolowane. Pomaga nam to sprawdzać, czy izolacja wytrzymuje próby podejmowane przez modele, które ma ograniczać.

Dodatkową warstwą ochrony jest monitorowanie wszystkich uruchomień pionierskich modeli w celu wykrycia naruszeń niezmiennych zasad bezpieczeństwa. Jeśli monitoring wykryje, że model uzyskał dostęp do internetu, alarmujemy zespoły ds. bezpieczeństwa i automatycznie wstrzymujemy zadanie.

Monitorowanie stanowi kluczowe zabezpieczenie na wypadek, gdyby izolacja zawiodła. W niedawnym raporcie o niezgodności z założeniami opisaliśmy, jak systemy monitorujące wykryły wykorzystanie błędnej konfiguracji DNS przez wewnętrzny model badawczy⁠(otwiera nowe okno) w celu uzyskania ograniczonego dostępu do internetu. Od 20 września do 1 października wstrzymaliśmy trening i ocenę naszych modeli o największych możliwościach, by zbadać incydent i usunąć lukę w zabezpieczeniach.

Aby interwencje były szybkie i niezawodne, zbudowaliśmy Control Room⁠, czyli centralny system, który śledzi zadania badawcze i zatrzymuje generowanie przez model w ciągu 35 sekund od otrzymania polecenia wstrzymania zadania. Te mechanizmy działają bezpośrednio w infrastrukturze wnioskowania, więc nie wymagają wdrażania osobnego mechanizmu zatrzymania dla każdego zadania badawczego. W przypadku zadań badawczych z pionierskimi modelami zatrzymują też generowanie, jeśli Control Room stanie się niedostępny.

Kontrolowane ataki i monitorowanie uzupełniają się nawzajem. Nie możemy zagwarantować, że izolacja jest nie do przełamania, ale kontrolowane ataki pomagają ocenić, ile wysiłku model musiałby włożyć w jej pokonanie. Im większy wysiłek model musi podjąć, tym więcej okazji do wykrycia i zatrzymania go przez systemy monitorujące.

Na etapie badań wymagamy silnych mechanizmów bezpieczeństwa i monitorowania z kilku powodów:

  • Modele nadal podlegają ocenie. Niektóre nie przeszły jeszcze szkolenia z zakresu bezpieczeństwa, audytów zgodności z założeniami ani przeglądów wymaganych przed publicznym udostępnieniem.

  • Warunki pionierskich badań mogą zwiększać ryzyko. Niektóre zadania badawcze wymagają bardziej rozbudowanych konfiguracji, dzięki którym model działa wytrwalej lub ma większe możliwości niż zwykle we wdrożeniach zewnętrznych (na przykład do rozwiązania problemu Naviera–Stokesa potrzebny był zespół 10 000 agentów).

  • Szkolenie odbywa się na dużą skalę, przy mniejszym bezpośrednim nadzorze człowieka. W odróżnieniu od typowej sesji z Codex nasze zadania szkoleniowe obejmują wiele działań modelu, a człowiek nie śledzi każdej interakcji.

Wdrożenie wewnętrzne: testowanie zgodności z założeniami i ścisłe monitorowanie zachowania

Przed szerokim udostępnieniem pracownicy przechodzą od badawczego użycia pionierskich modeli w środowiskach izolowanych do użytku wewnętrznego bez izolacji, np. otrzymując dostęp do modelu w ChatGPT. Pozwala nam to lepiej zrozumieć, jak modele zachowują się w praktyce⁠(otwiera nowe okno), i pomaga podejmować decyzje o wdrożeniu.

Na tym etapie dajemy modelowi szerszy dostęp do internetu, naszego Slacka, bazy kodu i infrastruktury wewnętrznej. To istotna zmiana poziomu ryzyka: działania modelu mają teraz bezpośredni wpływ na systemy, na których opieramy rozwój i funkcjonowanie OpenAI. Podczas wdrożenia wewnętrznego musimy bardziej polegać na zgodności modelu z założeniami, zabezpieczeniach systemowych i monitorowaniu niż na mechanizmach kontroli dostępu.

Zanim pionierski model zostanie wdrożony poza środowiskiem izolowanym, musi przejść testy zgodności z założeniami oraz podatności na monitorowanie⁠(otwiera nowe okno). Nasz zestaw ocen zgodności z założeniami obejmuje zarówno testy konkretnych naruszeń (np. obchodzenia ograniczeń bezpieczeństwa), jak i ogólne pomiary skłonności do takich zachowań (np. ponowne próbkowanie wewnętrznych sekwencji działań Codex i sprawdzanie ich pod kątem niezgodności z założeniami). Więcej o naszych ocenach zgodności z założeniami i podatności na monitorowanie można przeczytać w najnowszej karcie systemu GPT‑6 Astra⁠(otwiera nowe okno).

Podobnie jak w środowiskach produkcyjnych dodajemy warstwę ochrony w postaci klasyfikatorów systemowych, które mają zapobiegać szkodom związanym z pionierskimi modelami, takim jak cybernadużycia czy tworzenie broni biologicznej. Od pracowników korzystających z Codex wymagamy też na ogół używania funkcji Auto-Review⁠(otwiera nowe okno), która ocenia potencjalnie ryzykowne działania i przekazuje je użytkownikowi do rozstrzygnięcia.

Ponadto podczas wdrożenia wewnętrznego monitorujemy każde uruchomienie pionierskiego modelu pod kątem zachowań niezgodnych z założeniami. Ponieważ model ma teraz szersze uprawnienia oraz dostęp do wewnętrznych informacji i systemów, szczególnie ważne staje się wykrywanie zagrożeń takich jak eksfiltracja danych, czyli przesyłanie poufnych danych do nieuprawnionych odbiorców. Monitorowanie pomaga nam też badać nowe formy niezgodności z założeniami⁠(otwiera nowe okno).

Wdrożenie zewnętrzne: ochrona na dużą skalę przed nadużyciami i niezgodnością z założeniami

Publiczne wdrożenie oznacza, że z modeli korzysta znacznie więcej użytkowników, a modele są wykorzystywane do większej liczby zadań i w większej liczbie środowisk. Na tym etapie musimy też chronić się przed podmiotami, które mogą mieć złe zamiary i celowo nakłaniają model do szkodliwych działań.

Przed publicznym udostępnieniem modele i zabezpieczenia systemowe muszą spełniać nasze wymogi bezpieczeństwa dotyczące wdrożeń zewnętrznych. W ramach tej oceny:

  • Przeprowadzamy szerszy zestaw ocen zgodności z założeniami i bezpieczeństwa. W przypadku pionierskich modeli obejmuje to kolejne rundy testów adaptacyjnych⁠ z użyciem naszych wewnętrznych narzędzi do prowadzenia automatycznych kontrolowanych ataków, które sprawdzają odporność modelu w skrajnych warunkach. Wyniki ocen możliwości i bezpieczeństwa publikujemy w naszych kartach systemu⁠(otwiera nowe okno).

  • W przypadku modeli o największych możliwościach prowadzimy też testy z podmiotami zewnętrznymi, sprawdzając w skrajnych warunkach zarówno zabezpieczenia przed nadużyciami, jak i samą zgodność modeli z założeniami.

  • Analizujemy alerty z monitorowania na etapie wdrożenia wewnętrznego, by śledzić zmiany w zgodności modelu bazowego z założeniami.

Oprócz zabezpieczeń „synchronicznych” (takich jak szkolenie z zakresu bezpieczeństwa i klasyfikatory systemowe) we wdrożeniach zewnętrznych stosujemy też egzekwowanie zasad i analizy poza czasem rzeczywistym. Odpowiedzialne za to zespoły łączą działające na dużą skalę agenty analityczne z weryfikacją prowadzoną przez ludzi, by wykrywać i identyfikować potencjalne źródła zagrożeń: cybernadużycia, tworzenie broni biologicznej, destylację⁠, a także niezgodność samego modelu z założeniami. Egzekwowanie zasad poza czasem rzeczywistym szczególnie ułatwia zbieranie informacji z wielu kont, aby uzyskać pełniejszy obraz potencjalnego zagrożenia.

Programy zaufanego dostępu, takie jak Daybreak i Rosalind⁠, stanowią kolejną warstwę bezpieczeństwa. Przyspieszają pracę obrońców i badaczy działających zgodnie z prawem, ograniczając dostęp potencjalnym napastnikom.

Reagowanie na incydenty i ich ujawnianie

Gdy zauważymy, że jedna z warstw ochrony zawiodła, niezależnie od tego, czy doszło do szkody, chcemy szybko zbadać zdarzenie, ocenić jego wagę i — jeśli to możliwe i właściwe — ujawnić je publicznie. Zgodnie z naszą polityką zgłaszania niezgodności z założeniami⁠ każdy pracownik może zgłosić incydent do publicznego ujawnienia. Badamy te zgłoszenia, a w razie sporu co do ich publicznego ujawnienia decyzję przekazujemy grupie SAG. Oprócz korzystania ze zgłoszeń pracowników aktywnie szukamy incydentów niezgodności z założeniami, aby im zaradzić i dzielić się ustaleniami.

Nasze raporty o niezgodności z założeniami można znaleźć tutaj⁠(otwiera nowe okno).

​


​

Ta praca wymaga zarówno postępu badań, jak i dyscypliny operacyjnej: poprawnej konfiguracji mechanizmów kontroli, testowania ich współdziałania i zdecydowanej reakcji na awarie. Błędnie skonfigurowana usługa sieciowa lub niesprawny mechanizm automatycznego zatrzymania mogą osłabić nawet solidne zabezpieczenia.

W miarę zdobywania przez modele nowych możliwości będziemy musieli stale weryfikować założenia naszych zabezpieczeń i w razie potrzeby je udoskonalać. Wnioski z badań, użytku wewnętrznego i wdrożeń publicznych muszą kształtować sposób trenowania, oceniania i wdrażania kolejnych modeli.

Nadal będziemy dzielić się ustaleniami w kartach systemu, raportach o incydentach, raportach o ryzyku⁠(otwiera nowe okno) wdrożeń wewnętrznych i ocenach zewnętrznych⁠, by inni mogli krytycznie oceniać nasze podejście, w tym jego ograniczenia. Jeśli dowody nie wystarczą, by potwierdzić, że modele i zabezpieczenia spełniają nasze standardy bezpieczeństwa, ponownie wstrzymamy trening lub udostępnienie do czasu spełnienia tych wymogów.

Powiązane badania i materiały

Wyznaczanie standardów bezpieczeństwa

Definiowanie i ocena zachowania zgodnego z założeniami

Izolowanie modeli i doskonalenie zabezpieczeń

Reagowanie na incydenty i ich ujawnianie

Postęp badań i zastosowania

  • Przyspieszenie badań: spojrzenie od wewnątrz OpenAI — Wstępne dowody na to, jak agenty programistyczne zmieniają badania w OpenAI: ich rosnące wykorzystanie, coraz bardziej złożone zadania i wpływ na eksperymentowanie.

  • O milenijnym problemie Naviera–Stokesa — Dowód matematyczny opracowany przez wewnętrzny system AI wraz z formalizacją w Lean, ilustrujący możliwości wdrożeń badawczych na dużą skalę.

  • Daybreak — Nasz program cyberbezpieczeństwa zapewnia zweryfikowanym obrońcom zaawansowane możliwości AI, narzędzia bezpieczeństwa i wsparcie w wykrywaniu podatności i wzmacnianiu ochrony.

  • Przedstawiamy GPT‑Rosalind do badań w naukach o życiu⁠ — Model wyspecjalizowany w biologii, odkrywaniu leków i medycynie translacyjnej, dostępny dla uprawnionych organizacji w programie zaufanego dostępu.