Urychlení výzkumu: pohled do nitra OpenAI

Jsme přesvědčeni, že k tomu, aby obecná umělá inteligence přinášela prospěch celému lidstvu, musí být demokraticky spravována. Toho lze dosáhnout pouze prostřednictvím informované veřejné debaty o schopnostech, rizicích a bezpečnostních opatřeních vysoce schopných systémů umělé inteligence. Lidé na celém světě potřebují rozumět pravděpodobnému budoucímu vývoji průkopnické AI, aby mohli smysluplně ovlivňovat její rozvoj.

Transparentnost ohledně konkrétních rizik, incidentů a ochranných opatření je nezbytná, ale sama o sobě nestačí. Věříme, že veřejnost také potřebuje rozumět tomu, jak se vyvíjejí nejschopnější systémy a jak ovlivňují pokrok výzkumu v rámci hraničních laboratoří.

Naším cílem je bezpečně vybudovat automatizovaného výzkumníka AI, který může pod lidským dohledem dále posouvat hluboké učení a sladění a umožňovat iterativní zlepšování. Podle našich měření jsme nyní dosáhli cíle, který byl oznámen⁠(otevře se v novém okně) loni na podzim, a to mít do září letošního roku automatizovaného výzkumného stážistu. Pod pojmem „výzkumný stážista“ rozumíme systém, který dokáže pod lidským vedením plnit dobře vymezené výzkumné úkoly, včetně úkolů, které by kvalifikovanému výzkumníkovi zabraly několik dní. Dosahujeme výrazného pokroku na cestě k vytvoření automatizovaného AI výzkumníka do března 2028.

V průběhu tohoto roku se každodenní práce výzkumníků OpenAI výrazně změnila. Výzkumníci používají programovací agenty po celý den, často v souběžných relacích, a jejich celkové využití rychle roste a překonává růst v ostatních týmech OpenAI. Výzkumníci dodávají kód rychleji a provádějí více experimentů. Mění se také způsoby, jakými výzkumníci agenty používají: agenti zvládají stále složitější úkoly a daří se jim v nich stále častěji. Výzkum umělé inteligence je složitý proces s mnoha potenciálními úzkými místy, takže celkové tempo pokroku pravděpodobně nebude držet krok s těmito konkrétními metrikami. Celkově jsou však tato zjištění v souladu s širším dojmem, který mnozí z nás interně mají, totiž že agentní nástroje významně urychlují pokrok ve výzkumu. Lidé i nadále určují naše výzkumné priority, posuzují, na které nápady a výsledky se zaměřit, a rozhodují, zda systémy škálovat, pozastavit nebo nasadit.

Pokud je prováděn zodpovědně, věříme, že automatizovaný AI výzkum povede k modelům, které přímo zlepší blahobyt lidí a podpoří poslání OpenAI. Může snížit náklady na pokročilou inteligenci, aby z ní mohli těžit lidé po celém světě. Těmito činnostmi se zabýváme částečně proto, že automatizovaný výzkum by nám mohl pomoci vyřešit problém sladění AI a vybudovat obranné mechanismy proti stále schopnějším systémům AI. Automatizovaný AI výzkumník může být také automatizovaným výzkumníkem v oblasti bezpečnosti nebo sladění AI. Schopnější, sladěné systémy by mohly pomoci zabezpečit kritickou infrastrukturu, bránit se před nebezpečnými AI agenty a vyvíjet nová ochranná opatření.

To jsou důvody, proč rozvíjet užitečné automatizované výzkumné schopnosti, neznamená to však, že rychlé rekurzivní sebezdokonalování je nutně výsledkem, o který bychom měli usilovat. To, zda a jak postupovat, musí záviset na naší schopnosti zachovat lidskou kontrolu a na informovaných demokratických rozhodnutích o přínosech a rizicích.

Zatím nevíme, jak se bezpečně dopracovat až k sladěnému, plnému rekurzivnímu sebezdokonalování. Pracujeme na škálování opatření pro sladění a bezpečnost souběžně s rozvojem schopností. Nemůžeme však předpokládat, že pokrok v oblasti sladění a bezpečnosti bude držet krok, a schopnější systémy se mohou stávat hůře monitorovatelnými. Pečlivá snaha o sladění a bezpečnost je jádrem tohoto úsilí a začíná měřením a zmírňováním bezpečnostních problémů, které dnes pozorujeme v systémech agentního kódování. Kdykoli zjistíme, že pokračování by představovalo nepřijatelné bezpečnostní riziko, odpovídajícím způsobem zareagujeme, mimo jiné zpomalením nebo zastavením vývoje či nasazování systémů, u nichž zjistíme, že je nedokážeme dostatečně zabezpečit.

Po nedávném incidentu Hugging Face jsme tento závazek uvedli do praxe⁠: pozastavili jsme trénování našich nejnovějších modelů určených k nasazení pomocí učení posilováním (RL), zatímco jsme dále posilovali zabezpečení a podrobovali útočnému testování naše výzkumná prostředí a rozšiřovali pokrytí našich monitorovacích systémů. Tím se nezastavil veškerý výzkum: některé pracovní úlohy byly obnoveny za přísnějších kontrolních opatření, zatímco jiné zůstaly pozastaveny. Zvýšili jsme naše standardy bezpečnosti a sladění a posunuli práci na bezpečnosti do hlubších fází životního cyklu modelu, což vyžaduje přesvědčivější důkazy o sladěném chování v průběhu celého trénování.

Dnes poskytujeme podrobný přehled o tom, jak agentní systémy v posledních měsících přispěly k našemu pokroku směrem k rekurzivnímu sebezdokonalování (RSI). Agentní systémy jsou nové a rychle se vyvíjejí a naše snahy o jejich měření jsou zatím předběžné. Sdílením těchto předběžných výsledků a metod, na nichž jsou založeny, chceme informovat veřejnost, podpořit jako běžnou praxi zveřejňování informací a pomoci oboru směřovat ke společným standardům měření.

V konečném důsledku, jak jsme napsali v našem plánu průkopnické politiky⁠, se domníváme, že bychom my i další společnosti měli být povinni veřejně sledovat svůj pokrok směrem k rekurzivnímu sebezdokonalování. I bez takového požadavku plánujeme nadále transparentně informovat o našem pokroku v oblasti rekurzivního sebezdokonalování. S tím, jak se budou zlepšovat naše měřicí techniky a naše porozumění, budeme dále rozvíjet náš přístup k transparentnosti a zároveň vyvažovat potřebu chránit bezpečnost a proprietární informace.

Na začátku letošního roku používal výzkumník na průměrné pozici podle využívání agentů v OpenAI kódovací agenty jen v omezené míře. V polovině srpna už průměrný výzkumník denně integroval agenty do své práce a při cenách API využíval inferenci za více než 600 USD denně. Uživatel na 90. percentilu v naší výzkumné organizaci nyní denně využívá tokeny v hodnotě více než 7 000 USD.

Před červnem 2026 byla celková doba běhu agentů v rámci výzkumné organizace stále kratší než celkový objem lidské práce. To se od té doby změnilo. V polovině srpna výzkumná organizace celkem v přepočtu na standardní osmihodinový pracovní den využívá na každý pracovní den člověka práci agentů odpovídající 3,1 pracovního dne.

Dalším způsobem, jak se na to dívat, je pochopit, kolik výzkumníků používá vysoce souběžné pracovní postupy (např. spouštění 4 nebo více agentů současně). Jak je znázorněno níže, toto číslo roste. Tyto údaje zahrnují denní maxima jak agentů spuštěných přímo uživatelem, tak subagentů vytvořených následně z těch, které uživatel spustil přímo.

Velkou část výzkumu AI lze chápat jako pracovně náročný proces, jehož cílem je integrovat nové zlepšení inteligence nebo výkonu modelu do jednoho z našich základních modelů. Proces závisí na mnoha krocích a schopnosti se zlepšují, pokud všechny kroky společně proběhnou správně: výzkumníci musí navrhovat nová zlepšení, vytvářet hodnocení výkonu modelů, vytvářet infrastrukturu pro testování těchto zlepšení ve velkém měřítku, zachytávat chyby i nebezpečné nebo nesladěné chování během trénování a začleňovat úspěšné nápady do hlavního tréninku. Selhání v kterékoli části výzkumného procesu může omezit celý cyklus.

Psaní kódu a provádění experimentů jsou dvě hlavní činnosti, které výzkumníci vykonávají v rámci své práce, a jsme svědkem toho, že se tyto procesy zrychlují.

Tyto datové body lze relativně snadno měřit, ale může být obtížné je interpretovat. S postupem automatizace budou úkoly, které lze automatizovat nejméně, představovat stále větší podíl na úsilí výzkumníků a stanou se významnými úzkými hrdly pro budoucí pokrok. Výpočetní výkon je dalším omezujícím faktorem pokroku a postupem času může nabývat na významu s tím, jak se budou zmírňovat ostatní úzká hrdla.

V průběhu roku 2026 se zvýšil počet experimentů na jednoho aktivního experimentátora a v srpnu 2026 dosáhl historického maxima od začátku sledování v lednu 2025. To souvisí s rostoucím zaváděním Codexu, zároveň ale upozorňujeme, že od roku 2025 se výrazně zvýšila i naše dostupná výpočetní kapacita.

Jak kvalitativní dojmy, tak interní data naznačují, že se mění skladba úkolů, které výzkumníci delegují na kódovací agenty. Postupem času se častěji delegují úkoly vyšší úrovně a s delším časovým horizontem.

Abychom získali jasnější představu o tomto trendu, analyzovali jsme aktuální využívání ve výzkumné organizaci pomocí nedávno publikované taxonomie⁠(otevře se v novém okně) různých typů činností, které jsou součástí životního cyklu výzkumu a vývoje AI, vyvinuté společností Epoch AI. Tato taxonomie, inspirovaná dlouhodobě používaným systémem O*NET pro klasifikaci všech druhů práce, je speciálně přizpůsobená výzkumu a vývoji průkopnické AI a rozděluje proces do šesti hlavních fází:

1. Rozhodnutí: na čem pracovat, v čem pokračovat, kam přidělit zdroje

2. Návrh: nápady z výzkumu a technické specifikace

3. Sestavení: kód a datové sady

4. Spuštění: trénovací/vyhodnocovací běhy, hardware, poskytování

5. Analýza: experimenty, modely, nasazení, externí práce

6. Komunikace: zjištění, zpětnou vazbu, stav, rozhodnutí

Níže klasifikujeme tokeny agentů pro kódování podle této taxonomie.

Vidíme, že mezi lednem a srpnem 2026 došlo k nárůstu u všech kategorií výzkumných aktivit. V lednu byl převažující kategorií kód pro výzkum a infrastrukturu. Tato kategorie se rozrostla, ale výrazné nárůsty vidíme i v dalších kategoriích, zejména u technické pomoci a monitorovacích běhů. Plánování na vysoké úrovni stále tvoří jen minimální podíl výstupních tokenů agentů.

Podle neoficiálních zpráv kolegové uvádějí, že agenti pro kódování vynikají v diagnostice a řešení problémů s interní výzkumnou infrastrukturou, což řeší jednu významnou překážku pokroku ve výzkumu. Několik týmů, které dříve pořádaly konzultační hodiny, aby výzkumníkům pomáhaly řešit problémy s jejich experimenty, zaznamenalo v roce 2026 pokles účasti a jeden z nich tyto konzultace zcela ukončil, aby se místo toho zaměřil na jiná vylepšení systému.

Zde zobrazujeme počet příspěvků nejvyšší úrovně odeslaných za jeden den do jednoho z hlavních interních kanálů, kde výzkumníci hledají technickou podporu u jiných týmů. Pokud je nám známo, pokles aktivity tohoto kanálu nebyl vykompenzován přesunem dotazů do jiného kanálu technické podpory obsluhovaného lidmi. Pokles návštěvnosti odpovídá této širší změně.

Můžeme také zkoumat, zda se programovacím agentům daří plnit úkoly, které výzkumníci zadávají. Pomocí agentního klasifikátoru zjišťujeme, že od ledna do července míra úspěšnosti obecně rostla napříč několika kategoriemi obtížnosti (aproximovanými odhadovaným časem, který by člověk potřeboval k dokončení úlohy) u úloh, pro něž lze zjistit referenční výsledek. Agenti však k úspěchu stále vyžadují značné lidské vedení, zejména s rostoucí složitostí úkolů. Za posledních 6 měsíců zahrnovala více než polovina úspěšných úloh trvajících 4–8 hodin jeden nebo více zásahů.

Pokrok směrem ke schopnějším systémům pro bezpečnou a prospěšnou obecnou umělou inteligenci (AGI) bude také záviset na ochranných opatřeních potřebných pro tyto aktivity. Naše posouzení potřebných ochranných opatření se může měnit s tím, jak se dozvídáme více o rizicích.

Jak jsme už popsali,⁠ nedávno jsme aktualizovali své standardy pro monitorování, sladění a zabezpečení. V tomto článku ukazujeme, jak nedávná omezení ovlivnila jeden aspekt výzkumné činnosti.

Dne 20. července, poté, co bylo zjištěno, že agenti kompromitovali naši výzkumnou infrastrukturu, jsme dočasně odstavili kontejnerovou službu používanou k trénování a následně ji obnovili s výraznými dodatečnými omezeními.

To vedlo k prudkému poklesu výpočetních kapacit pro trénování posilovaného učení. Týmy současně upravovaly své pracovní postupy tak, aby mohly fungovat v rámci zabezpečeného výzkumného prostředí. Výše uvedený graf zahrnuje dvoutýdenní přestávku v učení posilováním u našich nejnovějších modelů určených k nasazení. Experimenty posilovaného učení třídy Astra v období od 20. července do 6. srpna zahrnují většinu běhů (podle přidělené kapacity GPU) určených k testování implementace vylepšení v oblasti bezpečnosti a zabezpečení.

Dne 7. srpna vedly předběžné důkazy o tom, že model Astra může mít kritické schopnosti v oblasti kyberbezpečnosti⁠ podle našeho rámce připravenosti⁠(otevře se v novém okně), k dalším bezpečnostním omezením specifickým pro tento model, která si vyžádala provozování modelu Astra ve výzkumných prostředích s vyšší úrovní zabezpečení. V následujícím týdnu se alokace GPU pro modely třídy Astra snížila o dalších 59,2 %, zatímco alokace pro jiné třídy modelů vzrostla o 17,2 %. Tento nárůst kompenzoval přibližně 85 procent poklesu alokace pro modely třídy Astra, takže celková alokace v analyzovaných pracovních zátěžích posilovaného učení zůstala do značné míry beze změny. Tento vzorec odpovídá přesunu části tréninku a experimentování na jiné modely než Astra v době, kdy byla práce s modelem Astra omezena, a je v souladu s neoficiálními zprávami, že výzkumníci našli jiné využití výpočetní kapacity, kterou už nemohli využívat pro pracovní úlohy, na něž se vztahovala nová omezení.

Tato data poskytují užitečné informace pro probíhající diskuse o trénování a bezpečnosti: Když se zavedou nová kontrolní opatření, výpočetní kapacity zůstávají cenné a flexibilní a budou přirozeně směřovat k alternativnímu využití v rámci výzkumného prostředí. Z dlouhodobějšího hlediska by se diskuse o tempu pokroku v oblasti AI měly rozšířit také o otázku, jak lze co nejlépe využít výpočetní kapacitu, která podléhá novým nebo navrhovaným kontrolním opatřením.

Dosahování a pochopení pokroku směrem k sladěnému rekurzivnímu sebezdokonalování je pro naše poslání důležité. Budeme dál zdokonalovat naše metody, informovat o tom, jak se vyvíjí naše chápání, a usilovat o informovanou veřejnou debatu a smysluplnou demokratickou správu průkopnických systémů.

Výzkum s využitím agentní AI je stále novinkou a stále se učíme, jak jej měřit. Některé ukazatele, například množství kódu, který naše výzkumné týmy vytvářejí, lze poměrně snadno shromáždit, ale obtížně se interpretují, protože jejich vztah k pokroku ve výzkumu je nejistý. Metriky, které se příměji zaměřují na pokrok ve výzkumu (například na to, jak často agenti uspějí v úlohách, které jim výzkumníci zadávají) by mohly být užitečnější, jejich vývoj a validace jsou však složité. Situaci dále komplikuje to, že nástroje a systémy, na které se výzkumníci spoléhají, se rychle vyvíjejí. Prohlubování toho, jak chápat zrychlování výzkumu, je významnou oblastí, na kterou se v OpenAI zaměřujeme.

Ve všech těchto analýzách, není-li uvedeno jinak, platí:

• „Výzkumník“ je široké označení pro jakéhokoli člena naší výzkumné organizace, včetně těch, kteří budují výzkumnou infrastrukturu, řídí výzkumné projekty nebo jinak podporují fungování organizace.

• Metriky využívání programovacího agenta pokrývají vzhledem k rychlému vývoji nástrojů a systémů, na které se výzkumníci spoléhají, většinu, ale ne veškeré využití.