Przyspieszenie badań: spojrzenie od wewnątrz OpenAI

Uważamy, że aby AGI służyła całej ludzkości, musi podlegać demokratycznemu zarządzaniu. Wymaga to rzeczowej debaty publicznej o możliwościach, zagrożeniach i zabezpieczeniach zaawansowanych systemów AI. Ludzie na całym świecie muszą rozumieć prawdopodobny kierunek rozwoju pionierskiej AI, by mieć na niego realny wpływ.

Przejrzystość dotycząca konkretnych zagrożeń, incydentów i zabezpieczeń jest konieczna, lecz niewystarczająca. Społeczeństwo powinno też rozumieć, jak najbardziej zaawansowane systemy rozwijają się i napędzają badania w pionierskich laboratoriach.

Chcemy bezpiecznie stworzyć automatycznego badacza AI, który pod nadzorem człowieka będzie rozwijał głębokie uczenie i dostosowanie AI do ludzkich intencji, umożliwiając kolejne ulepszenia. Według naszych pomiarów osiągnęliśmy już cel ogłoszony⁠(otwiera nowe okno) jesienią: stworzenie automatycznego stażysty badawczego do września tego roku. „Stażysta badawczy” to system wykonujący pod kierunkiem człowieka jasno określone zadania badawcze, także takie, które wykwalifikowanemu badaczowi zajęłyby kilka dni. Robimy duże postępy na drodze do stworzenia automatycznego badacza AI do marca 2028 r.

W tym roku codzienna praca badaczy OpenAI znacznie się zmieniła. Korzystają oni z agentów programistycznych przez cały dzień, często w równoległych sesjach. Łączne wykorzystanie szybko rośnie, wyprzedzając inne zespoły OpenAI. Badacze szybciej tworzą kod i prowadzą więcej eksperymentów. Zmienia się też sposób korzystania z agentów: wykonują coraz trudniejsze zadania i częściej odnoszą sukces. Badania nad AI to złożony proces z wieloma potencjalnymi wąskimi gardłami, więc ogólne tempo postępu zapewne nie dorówna wzrostom tych wskaźników. Wyniki te są jednak zgodne z szerszym odczuciem wielu z nas w firmie: narzędzia agentowe wyraźnie przyspieszają badania. To nadal ludzie wyznaczają priorytety badań, wybierają obiecujące pomysły i wyniki oraz decydują o skalowaniu, wstrzymaniu lub wdrożeniu systemów.

Wierzymy, że odpowiedzialna automatyzacja badań nad AI przyniesie modele bezpośrednio poprawiające dobrostan ludzi i wspierające misję OpenAI. Może obniżyć koszt zaawansowanej inteligencji, udostępniając jej korzyści ludziom na całym świecie. Prowadzimy te prace m.in. dlatego, że automatyczne badania mogą pomóc dostosować AI do ludzkich intencji i budować ochronę przed coraz sprawniejszą AI. Automatyczny badacz AI może też badać bezpieczeństwo lub zgodność AI z ludzkimi intencjami. Sprawniejsze, zgodne z ludzkimi intencjami systemy mogłyby chronić infrastrukturę krytyczną, odpierać niebezpiecznych agentów AI i tworzyć nowe zabezpieczenia.

To powody, by rozwijać użyteczne zdolności do automatycznych badań, ale niekoniecznie by dążyć do szybkiego RSI. Dalsze kroki muszą zależeć od naszej zdolności utrzymania kontroli człowieka i świadomych demokratycznych decyzji o korzyściach i ryzyku.

Nie wiemy jeszcze, jak bezpiecznie dojść do pełnego RSI zgodnego z ludzkimi intencjami. Pracujemy nad skalowaniem środków dostosowania AI i bezpieczeństwa wraz z jej możliwościami. Nie możemy jednak zakładać, że postęp w tych obszarach dotrzyma kroku możliwościom. Sprawniejsze systemy mogą być trudniejsze do monitorowania. Kluczowe są rzetelne prace nad dostosowaniem AI i bezpieczeństwem, począwszy od pomiaru i ograniczania obecnych problemów w systemach do kodowania agentowego. Gdy dalsze działania stwarzałyby niedopuszczalne zagrożenie, odpowiednio zareagujemy — także spowalniając lub wstrzymując rozwój bądź wdrażanie systemów, których nie potrafimy dostatecznie zabezpieczyć.

Po incydencie z Hugging Face zrealizowaliśmy to zobowiązanie⁠: wstrzymaliśmy uczenie przez wzmacnianie (RL) najnowszych modeli do wdrożenia, wzmacniając i testując atakami środowiska badawcze oraz rozszerzając monitoring. Nie zatrzymało to wszystkich badań: część zadań wznowiono pod ściślejszą kontrolą, inne pozostały wstrzymane. Podnieśliśmy standardy bezpieczeństwa i dostosowania AI, włączając te prace głębiej w cykl życia modelu. Wymagamy mocniejszych dowodów zgodności zachowania z intencjami na każdym etapie treningu.

Dziś szczegółowo pokazujemy, jak systemy agentowe wspierały nasz postęp ku RSI w ostatnich miesiącach. Systemy agentowe są nowe i szybko się zmieniają, a nasze pomiary mają wstępny charakter. Publikując pierwsze wyniki i metody, chcemy informować społeczeństwo, promować jawność i wspierać wspólne standardy pomiaru w branży.

Jak pisaliśmy w propozycji polityki dla pionierskiej AI⁠, uważamy, że nasza firma i inne powinny mieć obowiązek publicznego raportowania postępów ku RSI. Nawet bez takiego wymogu zamierzamy nadal przejrzyście informować o postępach ku RSI. Będziemy rozwijać podejście do przejrzystości wraz z metodami pomiaru i wiedzą, uwzględniając bezpieczeństwo i ochronę informacji zastrzeżonych.

Na początku roku badacz na poziomie mediany wykorzystania agentów w OpenAI korzystał z agentów programistycznych tylko w niewielkim stopniu. W połowie sierpnia badacz na poziomie mediany używał ich już codziennie, zużywając inferencję wartą ponad 600 USD dziennie według cen API. Użytkownik na 90. percentylu w naszym dziale badawczym zużywa dziś tokeny warte ponad 7000 USD dziennie.

Przed czerwcem 2026 r. łączny czas pracy agentów w dziale badawczym był niższy niż czas pracy ludzi. To już się zmieniło. W połowie sierpnia na każdy dzień pracy człowieka w dziale badawczym przypadało łącznie 3,1 dnia pracy agentów, przy założeniu standardowego 8-godzinnego dnia.

Można też sprawdzić, ilu badaczy korzysta z wielu równoległych procesów pracy, np. uruchamia co najmniej 4 agentów naraz. Jak widać poniżej, liczba ta rośnie. Dane obejmują dzienne maksima liczby agentów uruchomionych bezpośrednio przez użytkownika oraz subagentów tworzonych przez nich na dalszych etapach.

Znaczna część badań nad AI to pracochłonny proces wdrażania ulepszeń inteligencji lub wydajności do jednego z naszych głównych modeli. Postęp wymaga powodzenia na wielu etapach: opracowania ulepszeń, ewaluacji modeli, stworzenia infrastruktury do testów na dużą skalę, wykrycia błędów i niebezpiecznych lub niezgodnych z intencjami zachowań w treningu oraz włączenia najlepszych pomysłów do głównego treningu. Niepowodzenie na dowolnym etapie badań może ograniczyć cały cykl.

Pisanie kodu i eksperymenty to dwie główne czynności badaczy. Widzimy dowody, że obie przyspieszają.

Te wskaźniki łatwo zmierzyć, lecz trudno interpretować. Wraz z automatyzacją zadania najmniej podatne na nią będą pochłaniać większą część pracy badaczy i staną się kluczowymi wąskimi gardłami postępu. Zasoby obliczeniowe także ograniczają postęp i mogą nabierać znaczenia wraz z usuwaniem innych wąskich gardeł.

W 2026 r. liczba eksperymentów na aktywnego eksperymentatora rosła. W sierpniu osiągnęła rekord od początku pomiarów w styczniu 2025 r. Koreluje to z upowszechnieniem Codex, choć od 2025 r. znacznie wzrosły też nasze zasoby obliczeniowe.

Obserwacje jakościowe i dane wewnętrzne wskazują, że badacze coraz częściej zlecają agentom programistycznym zadania wyższego poziomu i o dłuższym horyzoncie.

Aby lepiej zrozumieć ten trend, przeanalizowaliśmy wykorzystanie w dziale badawczym według niedawno opublikowanej taksonomii⁠(otwiera nowe okno) prac badawczo-rozwojowych nad AI, opracowanej przez Epoch AI. Taksonomia, inspirowana systemem klasyfikacji pracy O*NET, dotyczy badań i rozwoju pionierskiej AI. Dzieli proces na sześć głównych faz:

1. Decydowanie: nad czym pracować, co kontynuować, gdzie przydzielić zasoby

2. Projektowanie: pomysły badawcze i specyfikacje techniczne

3. Tworzenie: kod i zbiory danych

4. Uruchamianie: treningi, ewaluacje, sprzęt, obsługa modeli

5. Analizowanie: eksperymenty, modele, wdrożenia, prace zewnętrzne

6. Komunikowanie: wyniki, opinie, status, decyzje

Poniżej klasyfikujemy tokeny agentów programistycznych według tej taksonomii.

Od stycznia do sierpnia 2026 r. wzrosła aktywność we wszystkich kategoriach badań. W styczniu dominował kod badawczy i infrastrukturalny. Ta kategoria wzrosła, ale wyraźny wzrost widać też w innych, zwłaszcza pomocy technicznej i monitorowaniu przebiegów. Planowanie wysokiego poziomu nadal stanowi znikomą część tokenów wyjściowych agentów.

Według nieformalnych relacji współpracowników agenci świetnie rozwiązują problemy wewnętrznej infrastruktury badawczej, usuwając istotne wąskie gardło postępu. Kilka zespołów prowadzących konsultacje dotyczące problemów z eksperymentami odnotowało w 2026 r. spadek frekwencji. Jeden zrezygnował z nich całkowicie, skupiając się na innych ulepszeniach systemu.

Pokazujemy tu dzienną liczbę wpisów rozpoczynających wątki na jednym z głównych kanałów, gdzie badacze szukają wsparcia technicznego innych zespołów. Według naszej wiedzy spadku aktywności nie zrównoważyło przeniesienie pytań na inny kanał wsparcia obsługiwany przez ludzi. Spadek ten wpisuje się w szerszą zmianę.

Możemy też badać, czy agenci skutecznie wykonują zadania zlecane przez badaczy. Klasyfikator agentowy wskazuje, że od stycznia do lipca skuteczność ogólnie wzrosła w kilku kategoriach trudności, wyznaczonych szacowanym czasem pracy człowieka. Dotyczy to zadań, których rzeczywisty wynik możemy ustalić. Agenci nadal jednak potrzebują znacznego wsparcia człowieka, zwłaszcza przy bardziej złożonych zadaniach. W ostatnich 6 miesiącach ponad połowa udanych zadań 4–8-godzinnych wymagała co najmniej jednej interwencji.

Postęp w tworzeniu coraz sprawniejszych systemów na drodze do bezpiecznej i korzystnej AGI będzie zależał także od zabezpieczeń niezbędnych do prowadzenia takich prac. Nasza ocena potrzebnych zabezpieczeń może się zmieniać w miarę poznawania zagrożeń.

Jak już opisaliśmy,⁠ niedawno zaktualizowaliśmy standardy monitorowania, dostosowania AI do ludzkich intencji i zabezpieczeń. Tutaj pokazujemy, jak niedawne ograniczenia wpłynęły na jeden z aspektów działalności badawczej.

20 lipca, po odkryciu, że agenci naruszyli zabezpieczenia naszej infrastruktury badawczej, tymczasowo wyłączyliśmy usługę kontenerową używaną do treningu, a następnie przywróciliśmy ją z istotnymi dodatkowymi ograniczeniami.

Doprowadziło to do gwałtownego spadku wykorzystania zasobów obliczeniowych do treningu RL, gdy zespoły dostosowywały swoje procesy pracy do wzmocnionych zabezpieczeń środowiska badawczego. Powyższy wykres obejmuje dwutygodniową przerwę w uczeniu przez wzmacnianie naszych najnowszych modeli przeznaczonych do wdrożenia. Większość eksperymentów RL klasy Astra od 20 lipca do 6 sierpnia — pod względem przydziału GPU — służyła testowaniu wdrożenia ulepszeń w zakresie bezpieczeństwa i zabezpieczeń.

7 sierpnia wstępne dowody wskazujące, że Astra może mieć krytyczne zdolności cybernetyczne⁠ w rozumieniu naszych Ram gotowości⁠(otwiera nowe okno), doprowadziły do wprowadzenia dodatkowych ograniczeń bezpieczeństwa dla tego modelu. Wymagały one uruchamiania modelu Astra w środowiskach badawczych o wyższym poziomie zabezpieczeń. W kolejnym tygodniu przydział GPU dla klasy Astra spadł o dalsze 59,2%, ale dla innych klas modeli wzrósł o 17,2%. Wzrost ten zrównoważył około 85% spadku dla klasy Astra, przez co łączny przydział zasobów dla analizowanych zadań RL pozostał zasadniczo bez zmian. Taki wzorzec jest zgodny z przeniesieniem części treningu i eksperymentów na modele inne niż Astra w okresie ograniczeń dotyczących tego modelu. Odpowiada też nieformalnym relacjom badaczy, którzy znajdowali inne zastosowania zasobów obliczeniowych niedostępnych już dla zadań objętych nowymi ograniczeniami.

Dane te wnoszą ważną obserwację do trwającej dyskusji o treningu i bezpieczeństwie: po wprowadzeniu nowych środków kontroli zasoby obliczeniowe nadal są cenne i elastyczne, więc naturalnie trafiają do innych zastosowań w działalności badawczej. W dłuższej perspektywie dyskusje o tempie postępu AI powinny też obejmować pytanie, jak najlepiej wykorzystać zasoby obliczeniowe objęte nowymi lub proponowanymi środkami kontroli.

Postęp ku RSI zgodnemu z ludzkimi intencjami oraz zrozumienie tego postępu są ważne dla naszej misji. Będziemy nadal doskonalić metody, informować o rozwoju naszej wiedzy oraz wspierać rzeczową debatę publiczną i realne demokratyczne zarządzanie pionierskimi systemami.

Badania nad AI wspierane przez agentów są wciąż nowością i nadal uczymy się je mierzyć. Niektóre wskaźniki, takie jak ilość kodu tworzonego przez zespoły badawcze, stosunkowo łatwo zebrać, lecz trudno interpretować, ponieważ ich związek z postępem badań jest niepewny. Wskaźniki bardziej bezpośrednio związane z postępem badań — np. częstotliwość, z jaką agenci pomyślnie wykonują zlecane zadania — mogą być użyteczniejsze, ale ich opracowanie i walidacja są złożone. Dodatkową trudność stanowi szybki rozwój narzędzi i systemów używanych przez badaczy. Pogłębianie wiedzy o przyspieszeniu badań jest ważnym obszarem działań w całym OpenAI.

We wszystkich tych analizach, o ile nie zaznaczono inaczej:

• „Badacz” to szerokie określenie każdego członka naszego działu badawczego, w tym niektórych osób budujących infrastrukturę badawczą, zarządzających projektami lub w inny sposób wspierających tę działalność.

• Wskaźniki wykorzystania agentów programistycznych obejmują większość, ale nie całość użycia, ze względu na szybki rozwój narzędzi i systemów używanych przez badaczy.