Забрзување на истражувањето: Поглед од OpenAI

Веруваме дека AGI мора да се управува демократски за да му користи на целото човештво. За тоа е нужна информирана јавна дебата за способностите, ризиците и заштитните мерки на високоспособните системи со ВИ. Луѓето насекаде треба да ја разберат веројатната насока на граничната ВИ за да имаат реален глас во нејзиниот развој.

Транспарентноста за конкретните ризици, инциденти и заштитни мерки е нужна, но недоволна. Јавноста треба да разбере и како се развиваат најспособните системи и како го поттикнуваат истражувањето во граничните лаборатории.

Целта ни е безбедно да создадеме автоматизиран истражувач за ВИ што, под човечки надзор, ќе го унапредува длабокото учење и усогласувањето преку итеративни подобрувања. Според нашите мерења, ја постигнавме целта најавена⁠(се отвора во нов прозорец) минатата есен: автоматизиран истражувач-практикант до септември годинава. Под „истражувач-практикант“ мислиме на систем што, по човечки насоки, извршува јасно дефинирани задачи, дури и такви за кои на вешт истражувач му требаат неколку дена. Значително напредуваме кон создавање автоматизиран истражувач за ВИ до март 2028 година.

Годинава секојдневната работа на истражувачите во OpenAI значително се промени. Тие користат агенти за кодирање цел ден, често во паралелни сесии. Употребата брзо расте, побрзо отколку во другите тимови на OpenAI. Истражувачите побрзо додаваат код и изведуваат повеќе експерименти. Се менува и начинот на употреба: агентите преземаат сè посложени задачи и почесто успеваат. Истражувањето на ВИ има многу можни тесни грла, па вкупниот напредок веројатно нема да го следи растот на овие конкретни показатели. Сепак, наодите се во согласност со нашиот поширок внатрешен впечаток дека агентските алатки значително го забрзуваат истражувањето. Луѓето сè уште ги одредуваат приоритетите, избираат кои идеи и резултати да ги следат и одлучуваат за зголемување, паузирање или пуштање на системите во употреба.

Веруваме дека одговорното автоматизирано истражување на ВИ ќе даде модели што ја подобруваат човечката благосостојба и ја унапредуваат мисијата на OpenAI. Тоа може да ја намали цената на напредната интелигенција, во корист на луѓето ширум светот. Работиме на ова и затоа што автоматизираното истражување може да помогне да го решиме усогласувањето и да изградиме одбрана од сè поспособна ВИ. Автоматизиран истражувач за ВИ може да истражува и безбедност или усогласување. Поспособни, усогласени системи би можеле да ја заштитат критичната инфраструктура, да се бранат од опасни агенти со ВИ и да развиваат нови заштитни мерки.

Ова се причини за развој на корисно автоматизирано истражување, но не значи дека нужно треба да се стремиме кон брзо RSI. Дали и како ќе продолжиме мора да зависи од зачувувањето на човечката контрола и од информирани демократски одлуки за придобивките и ризиците.

Сè уште не знаеме како безбедно да стигнеме до целосно, усогласено RSI. Работиме на проширување на мерките за усогласување и безбедност паралелно со способностите. Но не можеме да претпоставиме дека ќе напредуваат со исто темпо, а поспособните системи може потешко да се следат. Во средиштето е внимателна работа на усогласувањето и безбедноста, почнувајќи со мерење и ублажување на денешните проблеми во системите за кодирање со агент. При неприфатлив безбедносен ризик ќе реагираме соодветно, вклучително и со забавување или запирање на развојот или пуштањето системи што не можеме доволно да ги заштитиме.

По инцидентот со Hugging Face, ја спроведовме оваа заложба⁠: го паузиравме зајакнувањето на учењето (RL) на најновите модели за употреба, дополнително ги заштитивме и тестиравме истражувачките средини со симулирани напади и го проширивме следењето. Не запре целото истражување: дел од работата продолжи под посилни контроли, а дел остана паузиран. Ги подигнавме стандардите за безбедност и усогласување и ги вградивме подлабоко во животниот циклус на моделот, барајќи посилни докази за усогласено однесување низ целата обука.

Денес детално прикажуваме како агентските системи придонесоа за нашиот напредок кон RSI во последните месеци. Агентските системи се нови и брзо се менуваат, а нашите мерења сè уште се прелиминарни. Со споделување на раните резултати и методи сакаме да ја информираме јавноста, да поттикнеме јавно објавување и заеднички стандарди за мерење.

Како што напишавме во нашиот нацрт за политики за гранична ВИ⁠, веруваме дека компаниите, вклучително и ние, треба задолжително јавно да го следат својот напредок кон RSI. И без таква обврска, планираме да останеме транспарентни за напредокот кон RSI. Ќе го приспособуваме пристапот кон транспарентноста со подобрувањето на мерењата и разбирањето, притоа штитејќи ги безбедноста и сопственичките информации.

На почетокот на годинава, истражувачот на медијаната според употребата на агенти во OpenAI ги користеше агентите за кодирање само умерено. До средината на август, тој ги користеше секојдневно, со инференција вредна над 600 долари дневно според цените на API. Корисникот на 90-тиот перцентил во истражувачката организација сега користи токени вредни над 7.000 долари дневно.

Пред јуни 2026, вкупното време на работа на агентите во истражувачката организација беше помало од вкупниот човечки труд. Тоа веќе се промени. Од средината на август, пресметано во осумчасовни работни денови, организацијата користи 3,1 агентски работни дена за секој ден човечки труд.

Друг показател е колку истражувачи користат високо паралелни работни текови, на пример, 4 или повеќе агенти истовремено. Како што се гледа подолу, тој број расте. Бројките ги опфаќаат дневните максимуми и на агентите стартувани од корисникот и на подагентите што тие ги создаваат.

Голем дел од истражувањето на ВИ е трудоинтензивен процес за вградување ново подобрување на интелигенцијата или перформансите во основен модел. Напредокот бара сите чекори да успеат заедно: осмислување подобрувања, пишување евалуации и инфраструктура за тестирање во голем обем, откривање грешки и небезбедно или неусогласено однесување при обуката и вградување успешни идеи во основната обука. Неуспех во кој било дел може да го ограничи целиот циклус.

Пишувањето код и експериментирањето се две главни истражувачки активности, а доказите укажуваат дека се забрзуваат.

Овие показатели лесно се мерат, но тешко се толкуваат. Со напредокот на автоматизацијата, задачите што најмалку се подложни на автоматизирање ќе заземаат поголем дел од трудот и ќе станат клучни тесни грла. Пресметковните ресурси се уште едно ограничување, кое може да стане поважно со намалувањето на другите тесни грла.

Во 2026 растеше бројот експерименти по активен експериментатор. Август го достигна максимумот од почетокот на мерењата во јануари 2025. Ова корелира со пошироката употреба на Codex, но и расположливите ресурси значително пораснаа од 2025.

Впечатоците и интерните податоци покажуваат дека се менува изборот на делегирани задачи: сè почести се задачите на повисоко ниво и со подолг временски хоризонт.

За појасна слика ја анализиравме неодамнешната употреба со неодамна објавена таксономија⁠(се отвора во нов прозорец) на Epoch AI за видовите работа во истражувањето и развојот на ВИ. Таксономијата, инспирирана од системот O*NET за класификација на работата, е приспособена за истражување и развој на гранична ВИ и има шест главни фази:

1. Одлучување: на што да се работи, што да продолжи, каде да се доделат ресурси

2. Осмислување: истражувачки идеи и инженерски спецификации

3. Изработка: код и податочни множества

4. Извршување: обука/евалуација, хардвер, опслужување

5. Анализа: експерименти, модели, пуштање во употреба, надворешна работа

6. Комуникација: наоди, повратни информации, статус, одлуки

Подолу ги класифицираме токените на агентите за кодирање според оваа таксономија.

Сите категории активности пораснаа меѓу јануари и август 2026. Во јануари доминираше кодот за истражување и инфраструктура. Таа категорија порасна, но значително пораснаа и други, особено техничката помош и следењето извршувања. Планирањето на високо ниво сè уште зафаќа минимален удел од излезните токени на агентите.

Според неформални извештаи од колеги, агентите одлично решаваат проблеми во интерната истражувачка инфраструктура, надминувајќи важно тесно грло. Повеќе тимови бележат помала посетеност на консултациите за проблеми со експерименти во 2026. Еден целосно ги укина за да се посвети на други системски подобрувања.

Тука го прикажуваме дневниот број почетни објави во еден од главните интерни канали за техничка поддршка од други тимови. Колку што знаеме, намалената активност не е надоместена со префрлање прашања во друг канал за поддршка од луѓе. Падот на сообраќајот се вклопува во оваа поширока промена.

Можеме да испитаме и дали агентите успеваат во задачите што им ги задаваат истражувачите. Агентски класификатор покажува дека од јануари до јули успешноста генерално растела во повеќе категории тежина, мерена преку проценетото време за човек, кај задачите со проверлив исход. Сепак, на агентите им треба значително човечко насочување, особено кај посложени задачи. Во последните 6 месеци, над половина од успешните задачи од 4–8 часа вклучуваа барем една интервенција.

Напредокот кон поспособни системи за безбедна и корисна AGI ќе зависи и од заштитните мерки потребни за таа работа. Нашата процена на потребните заштитни мерки може да се менува додека дознаваме повеќе за ризиците.

Како што веќе опишавме,⁠ неодамна ги ажуриравме нашите стандарди за следење, усогласување и заштита. Тука покажуваме како неодамнешните ограничувања влијаеја врз еден аспект на истражувачката дејност.

На 20 јули, откако откривме дека агенти ја компромитирале нашата истражувачка инфраструктура, привремено ја исклучивме услугата за контејнери што се користи за обука, а потоа ја вративме со значителни дополнителни ограничувања.

Ова доведе до нагло намалување на пресметковните ресурси за обука со RL додека тимовите ги приспособуваа работните текови за работа во позаштитената истражувачка средина. Горниот графикон ја опфаќа двонеделната пауза во зајакнувањето на учењето на нашите најнови модели наменети за пуштање во употреба. Повеќето извршувања во експериментите со RL од класата Astra меѓу 20 јули и 6 август, според доделените GPU ресурси, беа наменети за тестирање на спроведените подобрувања на безбедноста и заштитата.

На 7 август, првичните докази дека Astra можеби има критични киберспособности⁠ според нашата Рамка за подготвеност⁠(се отвора во нов прозорец) доведоа до дополнителни заштитни ограничувања специфични за моделот, кои бараа Astra да се извршува во истражувачки средини со повисоко ниво на заштита. Следната недела, доделените GPU ресурси за класата Astra се намалија за дополнителни 59,2 проценти, но ресурсите за другите класи модели се зголемија за 17,2 проценти. Тоа зголемување надомести околу 85 проценти од падот кај класата Astra, па вкупните ресурси за анализираните работни оптоварувања со RL останаа речиси непроменети. Овој образец е во согласност со пренасочување на дел од обуката и експериментирањето кон модели надвор од Astra додека работата со Astra беше ограничена. Тој се совпаѓа и со неформалните извештаи дека истражувачите наоѓале други намени за ресурсите што веќе не можеле да се користат за работни оптоварувања опфатени со новите ограничувања.

Овие податоци се корисен показател за тековните дискусии за обуката и безбедноста: кога се воведуваат нови контроли, пресметковните ресурси остануваат вредни и флексибилни и природно се пренасочуваат кон други намени во истражувачката работа. Долгорочно, дискусиите за темпото на напредок на ВИ треба да го опфатат и прашањето како најдобро да се користат пресметковните ресурси што подлежат на нови или предложени контроли.

Постигнувањето и разбирањето на напредокот кон усогласено RSI се важни за нашата мисија. Ќе продолжиме да ги усовршуваме методите, да известуваме за нашите нови сознанија и да работиме за информирана јавна дебата и суштинско демократско управување со граничните системи.

Истражувањето на ВИ со помош на агенти е сè уште ново и сè уште учиме како да го мериме. Некои показатели, како количината код што ја создаваат нашите истражувачки тимови, релативно лесно се собираат, но тешко се толкуваат бидејќи нивната врска со истражувачкиот напредок е неизвесна. Показателите што подиректно го мерат истражувачкиот напредок, како зачестеноста со која агентите успеваат во зададените задачи, би можеле да бидат покорисни, но нивниот развој и валидација се сложени. Дополнителна тешкотија е брзиот развој на алатките и системите на кои се потпираат истражувачите. Продлабочувањето на нашето разбирање за забрзувањето на истражувањето е важен приоритет низ целиот OpenAI.

Во сите овие анализи, освен ако не е наведено поинаку:

• „Истражувач“ е широк поим за секој член на нашата истражувачка организација, вклучувајќи и луѓе што градат истражувачка инфраструктура, управуваат со истражувачки проекти или на друг начин ја поддржуваат работата.

• Показателите за употребата на агенти за кодирање го опфаќаат најголемиот, но не целиот обем на употреба, поради брзиот развој на алатките и системите што ги користат истражувачите.