Urýchlenie výskumu: pohľad do zákulisia OpenAI

Veríme, že aby všeobecná umelá inteligencia (AGI) prospievala celému ľudstvu, musí byť demokraticky riadená. To sa môže uskutočniť iba prostredníctvom informovanej verejnej diskusie o schopnostiach, rizikách a ochranných opatreniach veľmi schopných systémov umelej inteligencie. Ľudia na celom svete musia rozumieť pravdepodobnému budúcemu smerovaniu prelomovej AI, aby mohli zmysluplne ovplyvniť jej vývoj.

Transparentnosť v súvislosti s konkrétnymi rizikami, incidentmi a bezpečnostnými opatreniami je nevyhnutná, ale nie postačujúca. Veríme, že verejnosť tiež potrebuje pochopiť, ako sa vyvíjajú najvýkonnejšie systémy a ako v prelomových laboratóriách poháňajú pokrok vo výskume.

Naším cieľom je bezpečne vybudovať automatizovaného výskumníka AI, ktorý môže pracovať pod ľudským dohľadom a ďalej posúvať hlboké učenie a zosúladenie, čím umožní iteratívne zlepšovanie. Podľa našich meraní sme teraz dosiahli cieľ, oznámený⁠(otvorí sa v novom okne) minulú jeseň, ktorým bolo mať do septembra tohto roka automatizovaného výskumného stážistu. Pod pojmom „výskumný stážista“ máme na mysli systém, ktorý dokáže pod ľudským vedením vykonávať presne vymedzené výskumné úlohy vrátane úloh, ktoré by kvalifikovanému výskumníkovi zabrali niekoľko dní. Dosahujeme výrazný pokrok pri vytváraní automatizovaného AI výskumníka do marca 2028.

V priebehu tohto roka sa každodenná práca výskumníkov OpenAI výrazne zmenila. Výskumníci počas dňa používajú agentov na programovanie (často v súbežných reláciách) a ich celkové využívanie rýchlo rastie, pričom prekonáva rast v ostatných tímoch OpenAI. Výskumníci prispievajú kódom rýchlejšie a spúšťajú viac experimentov. Menia sa aj spôsoby, akými výskumníci používajú agentov: agenti zvládajú čoraz zložitejšie úlohy a častejšie v nich uspejú. Výskum umelej inteligencie je zložitý proces s mnohými potenciálnymi úzkymi miestami, takže celkové tempo pokroku pravdepodobne nebude držať krok s týmito konkrétnymi metrikami. Celkovo sú však tieto zistenia v súlade so širším dojmom, ktorý mnohí z nás interne máme, že agentické nástroje významne urýchľujú pokrok vo výskume. Naďalej sú to ľudia, ktorí určujú naše výskumné priority, posudzujú, ktorým nápadom a výsledkom sa venovať, a rozhodujú, či systémy škálovať, pozastaviť alebo nasadiť.

Veríme, že ak sa automatizovaný výskum umelej inteligencie vykonáva zodpovedne, prinesie modely, ktoré priamo zlepšia ľudský blahobyt a podporia poslanie OpenAI. Môže znížiť náklady na pokročilú inteligenciu, aby z nej mohli mať úžitok ľudia na celom svete. Tejto práci sa venujeme sčasti preto, lebo automatizovaný výskum by nám mohol pomôcť vyriešiť problém zosúladenia a vybudovať obranné mechanizmy proti čoraz schopnejšej umelej inteligencii. Automatizovaný výskumník v oblasti AI môže byť zároveň automatizovaným výskumníkom v oblasti bezpečnosti alebo zosúladenia. Schopnejšie, zosúladené systémy by mohli pomôcť zabezpečiť kritickú infraštruktúru, brániť sa proti nebezpečným agentom AI a vyvíjať nové ochranné opatrenia.

Toto sú dôvody na rozvíjanie užitočných automatizovaných výskumných schopností, neznamenajú však, že rýchle RSI je nevyhnutne výsledkom, o ktorý by sme sa mali usilovať. To, či a ako budeme postupovať, musí závisieť od našej schopnosti zachovať ľudskú kontrolu a od informovaných demokratických rozhodnutí o prínosoch a rizikách.

Zatiaľ nevieme, ako sa bezpečne dostať až k zosúladenej, plnohodnotnej RSI. Pracujeme na tom, aby sme opatrenia na zosúladenie a bezpečnosť škálovali súbežne so schopnosťami. Nemôžeme však predpokladať, že pokrok v zosúlaďovaní a bezpečnosti udrží tempo, a schopnejšie systémy sa môžu stať ťažšie monitorovateľnými. Starostlivá práca na zosúladení a bezpečnosti je jadrom tohto úsilia a začína sa meraním a zmierňovaním bezpečnostných problémov, ktoré dnes vidíme v systémoch agentického programovania. Vždy, keď zistíme, že ďalší postup by predstavoval neprijateľné riziko pre bezpečnosť, primerane zareagujeme, a to aj spomalením alebo zastavením vývoja či nasadzovania systémov, pri ktorých zistíme, že ich nedokážeme dostatočne zabezpečiť.

Po nedávnom incidente Hugging Face sme tento záväzok uviedli do praxe⁠ a pozastavili tréning pomocou učenia posilňovaním (RL) pri našich najnovších modeloch určených na nasadenie. Zároveň sme ďalej posilňovali zabezpečenie a vykonávali red-teamové testovanie našich výskumných prostredí a rozširovali pokrytie monitorovacích systémov. To nezastavilo celý výskum: niektoré pracovné činnosti sa obnovili za prísnejších kontrolných opatrení, zatiaľ čo iné zostali pozastavené. Zvýšili sme naše normy bezpečnosti a zosúladenia a prácu na bezpečnosti sme presunuli hlbšie do životného cyklu modelu, pričom počas celého tréningu vyžadujeme silnejšie dôkazy zosúladeného správania.

Dnes poskytujeme podrobný prehľad o tom, ako agentické systémy v posledných mesiacoch prispeli k nášmu pokroku smerom k RSI. Agentické systémy sú nové a rýchlo sa vyvíjajú a naše úsilie o ich meranie je zatiaľ len predbežné. Zdieľaním týchto predbežných výsledkov a metód, ktoré za nimi stoja, chceme informovať verejnosť, podporiť normu verejného zverejňovania a pomôcť danej oblasti smerovať k spoločným štandardom merania.

Napokon, ako sme napísali v našom pláne politiky pre prelomovú AI⁠, veríme, že by sme my aj ďalšie spoločnosti mali mať povinnosť verejne sledovať náš pokrok smerom k RSI. Aj bez takejto požiadavky plánujeme naďalej transparentne informovať o našom pokroku v oblasti RSI. Budeme ďalej rozvíjať náš prístup k transparentnosti s tým, ako sa budú zlepšovať naše techniky merania a naše porozumenie, pričom budeme vyvažovať potrebu chrániť bezpečnosť a proprietárne informácie.

Na začiatku tohto roka mediánový výskumník v OpenAI zoradený podľa používania agentov využíval programovacích agentov len v obmedzenej miere. Do polovice augusta už mediánový výskumník denne začleňoval agentov do svojej práce a využíval inferenciu v hodnote viac ako 600 USD denne pri cenách API. Používateľ na 90. percentile v našej výskumnej organizácii teraz využíva tokeny v hodnote viac ako 7 000 USD denne.

Pred júnom 2026 bol celkový čas behu agentov vo výskumnej organizácii stále nižší než celkový objem ľudskej práce. To sa odvtedy zmenilo. V prepočte na štandardný 8-hodinový pracovný deň výskumná organizácia v polovici augusta celkovo využíva 3,1 pracovného dňa práce agentov na každý pracovný deň ľudskej práce.

Iný spôsob, ako sa na to pozrieť, je zistiť, koľko výskumníkov používa pracovné postupy s vysokou mierou súbežnosti (napr. súčasne spúšťajú 4 alebo viac agentov). Ako vidno nižšie, tento počet rastie. Tieto hodnoty zahŕňajú denné maximá agentov spustených priamo používateľom aj subagentov vytvorených v nadväznosti na agentov, ktorých používateľ spustil priamo.

Veľkú časť výskumu AI možno vnímať ako pracovne náročný proces, ktorého cieľom je integrovať nové zlepšenie inteligencie alebo výkonnosti modelu do jedného z našich základných modelov. Proces závisí od mnohých krokov a schopnosti napredujú, keď všetky kroky správne fungujú zároveň: výskumníci musia navrhovať nové zlepšenia, vytvárať hodnotenia na posúdenie výkonnosti modelu, budovať infraštruktúru na testovanie týchto zlepšení vo veľkom rozsahu, odhaľovať chyby aj nebezpečné alebo nezosúladené správanie počas tréningu a integrovať úspešné nápady do hlavného tréningového behu. Zlyhanie v ktorejkoľvek časti výskumného procesu môže obmedziť celý cyklus.

Písanie kódu a realizácia experimentov sú dve hlavné činnosti, ktorým sa výskumníci venujú v rámci svojej práce, a vidíme dôkazy, že tieto procesy sa zrýchľujú.

Tieto dátové body sa dajú pomerne ľahko merať, no ich interpretácia môže byť náročná. S postupujúcou automatizáciou budú úlohy, ktoré sú najmenej automatizovateľné, predstavovať väčší podiel úsilia výskumníkov a stanú sa dôležitými úzkymi miestami ďalšieho pokroku. Výpočtová kapacita je ďalším limitujúcim faktorom pokroku a časom môže nadobúdať väčší význam, keďže ostatné úzke miesta sa zmierňujú.

Počas roka 2026 sa počet experimentov na aktívneho experimentátora zvýšil, pričom v auguste 2026 bola zaznamenaná historicky vysoká hodnota od začiatku sledovania v januári 2025. Súvisí to s rastúcim prijatím Codex, hoci treba poznamenať, že od roku 2025 sa výrazne zvýšila aj naša dostupná výpočtová kapacita.

Kvalitatívne dojmy aj interné údaje naznačujú, že sa mení skladba úloh, ktoré výskumníci delegujú na programátorských agentov, pričom delegovanie úloh na vyššej úrovni a s dlhším časovým horizontom sa postupom času stáva bežnejším.

Aby sme získali jasnejší obraz o tomto trende, analyzovali sme nedávne využívanie vo výskumnej organizácii pomocou nedávno publikovanej taxonómie⁠(otvorí sa v novom okne) rôznych druhov práce, ktoré sú súčasťou životného cyklu výskumu a vývoja AI, vypracovanej organizáciou Epoch AI. Táto taxonómia, inšpirovaná dlhodobo používaným systémom O*NET na klasifikáciu všetkých druhov práce, je prispôsobená prelomovému výskumu a vývoju AI a rozdeľuje proces na šesť hlavných fáz:

1. Rozhodni sa: na čom pracovať, v čom pokračovať, kam prideľovať

2. Dizajn: výskumné nápady a technické špecifikácie

3. Zostavenie: kód a dátové množiny

4. Spustenie: tréningové/vyhodnocovacie spustenia, hardvér, poskytovanie

5. Analyzuj: experimenty, modely, nasadenie, externú prácu

6. Komunikuj: zistenia, spätnú väzbu, stav, rozhodnutia

Nižšie klasifikujeme tokeny kódovacích agentov podľa tejto taxonómie.

Vidíme, že všetky kategórie výskumných aktivít sa medzi januárom a augustom 2026 zvýšili. V januári bol dominantnou kategóriou výskumný a infraštruktúrny kód. Táto kategória sa rozšírila, no výrazný nárast vidíme aj v ďalších kategóriách, najmä pri technickej podpore a monitorovacích behoch. Plánovanie na vysokej úrovni stále tvorí len minimálny podiel výstupných tokenov agentov.

Podľa neoficiálnych skúseností kolegovia uvádzajú, že programátorskí agenti vynikajú pri riešení problémov s internou výskumnou infraštruktúrou, čím riešia jednu významnú prekážku pokroku vo výskume. Viaceré tímy, ktoré predtým organizovali konzultačné hodiny, aby pomáhali výskumníkom riešiť problémy s ich experimentmi, zaznamenali v roku 2026 klesajúcu účasť a jeden tím ich úplne prestal organizovať, aby sa namiesto toho sústredil na ďalšie vylepšenia systému.

Tu vykresľujeme počet príspevkov najvyššej úrovne za deň v jednom z hlavných interných kanálov, kde výskumníci vyhľadávajú technickú podporu od iných tímov. Pokiaľ vieme, nebol pokles aktivity tohto kanála vyvážený presunom požiadaviek na iný kanál technickej podpory obsluhovaný ľuďmi. Pokles návštevnosti je v súlade s týmto širším posunom.

Môžeme tiež skúmať, či programovací agenti úspešne plnia úlohy, ktoré im výskumníci zadávajú. Pomocou agentného klasifikátora sme zistili, že od januára do júla sa miery úspešnosti vo všeobecnosti zvýšili vo viacerých kategóriách náročnosti (aproximovaných ako odhadovaný čas, ktorý by človek potreboval na dokončenie úlohy) pri úlohách, pre ktoré vieme nájsť referenčný výsledok. Agenti však naďalej vyžadujú výrazné ľudské usmerňovanie, aby boli úspešní, najmä s rastúcou zložitosťou úloh. Za posledných 6 mesiacov zahŕňala viac než polovica úspešných úloh trvajúcich 4 až 8 hodín 1 alebo viac zásahov.

Pokrok smerom k schopnejším systémom pre bezpečnú a prospešnú všeobecnú umelú inteligenciu (AGI) bude závisieť aj od ochranných opatrení potrebných na takúto prácu. Naše posúdenie potrebných ochranných opatrení sa môže meniť, keď získame viac informácií o rizikách.

Ako sme už opísali,⁠ nedávno sme aktualizovali naše štandardy pre monitorovanie, zosúladenie a bezpečnosť. Tu ukazujeme, ako nedávne obmedzenia ovplyvnili jeden aspekt výskumnej činnosti.

20. júla, po zistení, že agenti kompromitovali našu výskumnú infraštruktúru, sme dočasne vypli kontajnerovú službu používanú na trénovanie a následne sme ju obnovili s výraznými dodatočnými obmedzeniami.

To viedlo k prudkému poklesu výpočtovej kapacity na trénovanie RL, zatiaľ čo tímy prekonfigurovali svoje pracovné postupy tak, aby mohli pracovať v rámci zabezpečeného výskumného prostredia. Graf vyššie zahŕňa dvojtýždňovú prestávku v učení posilňovaním pri našich najnovších modeloch určených na nasadenie. Experimenty RL triedy Astra v období od 20. júla do 6. augusta zahŕňajú väčšinu behov (podľa alokácie GPU) určených na testovanie implementácie vylepšení v oblasti bezpečnosti a zabezpečenia.

Predbežné dôkazy z 7. augusta, že Astra môže mať kritické kybernetické schopnosti⁠ podľa nášho Rámca pripravenosti⁠(otvorí sa v novom okne), viedli k dodatočným bezpečnostným obmedzeniam špecifickým pre model, ktoré vyžadovali spúšťanie modelu Astra vo výskumných prostrediach s vyššou úrovňou zabezpečenia. V nasledujúcom týždni sa pridelenie GPU modelom triedy Astra ďalej znížilo o 59,2 %, no pridelenie ostatným triedam modelov vzrástlo o 17,2 %. Tento nárast kompenzoval približne 85 % poklesu triedy Astra, v dôsledku čoho zostala celková alokácia v analyzovaných pracovných zaťaženiach RL do veľkej miery nezmenená. Tento vzorec zodpovedá presunu časti tréningu a experimentovania na modely iné než Astra, kým práca zahŕňajúca Astru bola obmedzená, a je v súlade s neoficiálnymi správami výskumníkov, ktorí našli iné využitie pre výpočtové kapacity, ktoré už nebolo možné využiť na pracovné záťaže zahrnuté do nových obmedzení.

Tieto údaje poskytujú užitočný signál pre prebiehajúce diskusie o trénovaní a bezpečnosti: Keď sa zavedú nové kontrolné opatrenia, výpočtová kapacita zostáva hodnotná a flexibilná a prirodzene sa presmeruje na alternatívne využitia v rámci výskumného prostredia. Z dlhodobého hľadiska by sa diskusie o tempe pokroku v oblasti AI mali rozšíriť aj o otázku, ako možno čo najlepšie využiť výpočtové zdroje, ktoré podliehajú novým alebo navrhovaným kontrolným opatreniam.

Dosahovanie a chápanie pokroku smerom k zosúladenej RSI je dôležité pre naše poslanie. Budeme naďalej zdokonaľovať naše metódy, informovať o našom vyvíjajúcom sa chápaní a usilovať sa o informovanú verejnú diskusiu a zmysluplné demokratické riadenie prelomových systémov.

Výskum umelej inteligencie poháňaný agentmi je stále novou oblasťou a stále sa učíme, ako ho merať. Niektoré ukazovatele, napríklad množstvo kódu, ktoré naše výskumné tímy vytvárajú, sa dajú pomerne ľahko zhromažďovať, ale ťažko interpretovať, pretože ich vzťah k pokroku vo výskume je neistý. Metriky, ktoré sa priamejšie zameriavajú na pokrok vo výskume, napríklad na to, ako často agenti uspejú pri plnení úloh, ktoré im zadajú výskumníci, by mohli byť užitočnejšie, no je zložité ich vyvinúť a validovať. Situáciu ďalej komplikuje to, že nástroje a systémy, na ktoré sa výskumníci spoliehajú, sa rýchlo vyvíjajú. Prehlbovanie nášho porozumenia zrýchľovaniu výskumu je významnou oblasťou, na ktorú sa v rámci OpenAI zameriavame.

Vo všetkých týchto analýzach, pokiaľ nie je uvedené inak:

• „Výskumník“ je široký pojem označujúci ktoréhokoľvek člena našej výskumnej organizácie vrátane niektorých, ktorí budujú výskumnú infraštruktúru, riadia výskumné projekty alebo inak podporujú organizáciu.

• Metriky používania kódovacieho agenta pokrývajú väčšinu používania, no nie všetko, vzhľadom na rýchly vývoj nástrojov a systémov, na ktoré sa výskumníci spoliehajú.