Убрзавање истраживања: поглед у OpenAI

Верујемо да AGI, да би користила целом човечанству, мора бити под демократским управљањем. Ово се може догодити само кроз информисану јавну расправу о могућностима, ризицима и заштитним мерама у вези са системима вештачке интелигенције високих способности. Људи свуда треба да разумеју вероватни будући развој граничне вештачке интелигенције, како би могли смислено да учествују у одлучивању о њеном развоју.

Транспарентност у погледу конкретних ризика, инцидената и мера заштите је неопходна, али није довољна. Верујемо да јавност такође треба да разуме како се развијају најспособнији системи и како они, унутар граничних лабораторија, подстичу напредак истраживања.

Циљ нам је да безбедно изградимо аутоматизованог AI истраживача који може да ради под људским надзором и унапреди дубоко учење и усклађивање, омогућавајући итеративна побољшања. Према нашим мерењима, сада смо достигли циљ, који смо најавили⁠(отвара се у новом прозору) прошле јесени, да до септембра ове године имамо аутоматизованог истраживачког приправника. Под „истраживачким приправником” подразумевамо систем који може да извршава јасно дефинисане истраживачке задатке под људским вођством, укључујући задатке за које би вештом истраживачу било потребно неколико дана. Остварујемо значајан напредак ка стварању аутоматизованог AI истраживача до марта 2028. године.

Током ове године, свакодневни рад истраживача у OpenAI-ју знатно се променио. Истраживачи током целог дана користе агенте за кодирање (често у истовременим сесијама), а укупно коришћење брзо расте, брже него у другим тимовима у OpenAI-ју. Истраживачи брже доприносе кодом и спроводе више експеримената. Начини на које истраживачи користе агенте такође се мењају: агенти обављају све сложеније задатке и све чешће их успешно извршавају. Истраживање вештачке интелигенције је сложен процес са многим потенцијалним „уским грлима”, тако да укупни темпо напретка вероватно неће држати корак са овим конкретним метрикама. Међутим, у целини, ови налази су у складу са ширим утиском који многи од нас интерно имају – да алати са агентским способностима значајно убрзавају напредак истраживања. Људи и даље одређују наше истраживачке приоритете, процењују које идеје и резултате треба даље развијати и одлучују да ли системе треба проширити, паузирати или применити.

Ако се спроводи одговорно, верујемо да ће аутоматизовано AI истраживање резултирати моделима који директно унапређују добробит људи и доприносе мисији OpenAI. Може да смањи трошкове напредне интелигенције како би људи широм света могли да имају користи. Овај рад спроводимо делом зато што би аутоматизовано истраживање могло да нам помогне да решимо проблем усклађивања и развијемо одбрамбене механизме против све способније вештачке интелигенције. Аутоматизовани истраживач вештачке интелигенције може такође бити аутоматизовани истраживач безбедности или усклађивања. Способнији, усклађени системи могли би да помогну у заштити критичне инфраструктуре, одбрани од опасних агената вештачке интелигенције и развоју нових заштитних мера.

То су разлози за развијање корисних аутоматизованих истраживачких способности, али не значе да је брзи RSI нужно исход којем треба да тежимо. Да ли и како треба наставити мора зависити од наше способности да очувамо људску контролу и од информисаних демократских одлука о користима и ризицима.

Још увек не знамо како да безбедно стигнемо све до усклађеног, потпуног RSI-ја. Радимо на томе да скалирамо мере усклађивања и безбедносне мере упоредо са способностима. Међутим, не можемо претпоставити да ће напредак у усклађивању и безбедности држати корак, а способније системе може постати теже надзирати. Пажљив рад на усклађивању и безбедности у средишту је овог напора, а почиње мерењем и ублажавањем безбедносних проблема које данас уочавамо у системима за програмирање од стране агента. Кад год утврдимо да би наставак представљао неприхватљив безбедносни ризик, реаговаћемо на одговарајући начин, укључујући успоравање или заустављање развоја или примене система за које установимо да нисмо у стању да их довољно заштитимо.

Након недавног инцидента са платформом Hugging Face, спровели смо ову обавезу у дело⁠ и паузирали обуку подстицајним учењем (RL) наших најновијих модела намењених примени, док смо додатно ојачавали и тестирали истраживачка окружења симулираним нападима и проширивали обухват система за надзор. То није обуставило сва истраживања: нека радна оптерећења су поново покренута уз строже контроле, док су друга остала паузирана. Подигли смо стандарде за безбедност и усклађеност и безбедносни рад увели дубље у животни циклус модела, захтевајући чвршће доказе о усклађеном понашању током целокупне обуке.

Данас пружамо детаљан преглед тога како су агентски системи допринели нашем напретку ка RSI-ју током протеклих месеци. Агентски системи су нови и брзо се мењају, а наша настојања у вези са мерењем још увек су прелиминарна. Дељењем ових раних резултата и метода на којима се они заснивају, настојимо да информишемо јавност, подстакнемо норму јавног обелодањивања и помогнемо да се ова област креће ка заједничким стандардима мерења.

На крају, као што смо написали у свом нацрту политике за граничну вештачку интелигенцију⁠, верујемо да би од нас и других предузећа требало захтевати да јавно пратимо свој напредак ка RSI-ју. Чак и без таквог захтева, планирамо да наставимо да будемо транспарентни у погледу нашег напретка у области RSI-ја. Наставићемо да развијамо свој приступ транспарентности како се наше технике мерења и разумевање буду унапређивали, уз истовремено балансирање потребе за заштитом безбедности и власничких информација.

Почетком ове године, истраживач на средини ранг-листе према употреби агената у OpenAI-ју користио је агенте за програмирање само у умереној мери. До средине августа, истраживач на средини ранг-листе свакодневно је интегрисао агенте у свој рад, трошећи више од 600 УСД дневно на инференцију по ценама API-ја. Корисник у 90. перцентилу у нашој истраживачкој организацији сада дневно користи токене у вредности већој од 7000 УСД.

Пре јуна 2026. године, укупно време рада агента у истраживачкој организацији и даље је било мање од укупног времена људског рада. То се у међувремену променило. У односу на стандардни осмочасовни радни дан, средином августа, истраживачка организација укупно користи 3,1 радног дана рада агента за сваки радни дан људског рада.

Други начин да се ово сагледа јесте да се разуме колико истраживача користи токове рада са високим степеном паралелности (нпр. покретање 4 или више агената истовремено). Као што је приказано у наставку, овај број расте. Ове бројке обухватају дневне максимуме како агената које је корисник директно покренуо, тако и подагената насталих касније из оних које је корисник директно покренуо.

Велики део истраживања вештачке интелигенције може се посматрати као радно интензиван процес чији је циљ интегрисање новог унапређења интелигенције или перформанси модела у један од наших основних модела. Процес зависи од многих корака, а способности напредују када сви кораци заједно буду успешни: истраживачи морају да осмисле нова унапређења, напишу евалуације за процену перформанси модела, развију инфраструктуру за тестирање тих унапређења у великом обиму, открију грешке, као и небезбедно или неусклађено понашање током обуке, и интегришу најуспешније идеје у основни циклус обуке. Неуспех у било ком делу истраживачког процеса може ограничити читав циклус.

Писање кода и спровођење експеримената две су главне активности које истраживачи обављају у оквиру свог рада, и видимо доказе да се ти процеси убрзавају.

Ове тачке података се релативно лако мере, али их може бити тешко протумачити. Како аутоматизација напредује, задаци који су најмање подложни аутоматизацији заузимаће све већи део напора истраживача и постаће важна уска грла за будући напредак. Рачунарски капацитети су још један ограничавајући фактор за напредак и временом могу постати важнији како се друга уска грла буду смањивала.

Током 2026. године, број експеримената по активном експериментатору се повећао, а август 2026. представља највиши ниво од почетка праћења у јануару 2025. године. То је у корелацији са повећаним усвајањем Codex-а, иако напомињемо да су се и наши доступни рачунарски ресурси значајно повећали од 2025. године.

И квалитативни утисци и интерни подаци указују на то да се с временом мења мешавина задатака које истраживачи делегирају агентима за програмирање, при чему делегирање задатака вишег нивоа и с дужим временским хоризонтом постаје све чешће.

Да бисмо стекли јаснију слику о овом тренду, анализирали смо недавну употребу у истраживачкој организацији користећи недавно објављену таксономију⁠(отвара се у новом прозору) различитих врста рада које су део животног циклуса истраживања и развоја у области вештачке интелигенције, коју је развио Epoch AI. Ова таксономија, инспирисана дугогодишњим системом O*NET за класификацију свих врста послова, посебно је прилагођена истраживању и развоју граничне вештачке интелигенције и дели процес на шест главних фаза:

1. Одлучите: на чему ћете радити, шта ћете наставити, где ћете распоредити

2. Дизајн: истраживачке идеје и инжењерске спецификације

3. Изградња: кôд и скупови података

4. Покретање: покретања обуке/процена, хардвер, сервирање

5. Анализирајте: експерименте, моделе, примену, спољни рад

6. Комуницирајте: налазе, повратне информације, статус, одлуке

У наставку класификујемо токене агента за кодирање у складу са овом таксономијом.

Видимо да су све категорије истраживачких активности забележиле раст у периоду од јануара до августа 2026. године. У јануару је преовлађујућа категорија била истраживачки и инфраструктурни код. Ова категорија се проширила, али бележимо и значајна повећања у додатним категоријама, посебно у техничкој помоћи и покретањима мониторинга. Планирање високог нивоа и даље чини минималан удео излазних токена агента.

Према неформалним сведочењима, колеге наводе да се агенти за програмирање истичу у решавању проблема у интерној истраживачкој инфраструктури, чиме се решава једно значајно уско грло за напредак истраживања. Више тимова који су раније одржавали термине за консултације како би помогли истраживачима у отклањању проблема у њиховим експериментима забележило је пад посећености у 2026. години, а један је у потпуности престао да одржава сесије како би се уместо тога усредсредио на друга побољшања система.

Овде графички приказујемо број објава највишег нивоа по дану на једном од главних интерних канала на којима истраживачи траже техничку подршку од других тимова. Колико нам је познато, смањење активности на том каналу није надокнађено преусмеравањем упита на други канал техничке подршке којим управљају људи. Опадање саобраћаја је у складу са овим ширим помаком.

Такође можемо да проучимо да ли су агенти за програмирање успешни у обављању задатака које истраживачи од њих траже. Користећи агентски класификатор, утврђујемо да су од јануара до јула стопе успеха углавном порасле у неколико категорија тежине (апроксимираних као процењено време које би човеку било потребно да заврши задатак) на задацима за које можемо да пронађемо референтни стварни исход. Међутим, агентима је и даље потребно значајно људско усмеравање да би били успешни, нарочито како расте сложеност задатака. У протеклих 6 месеци, више од половине успешних задатака у трајању од 4 до 8 сати укључивало је 1 или више интервенција.

Напредак ка способнијим системима за безбедан и користан AGI такође ће зависити од заштитних мера потребних за такав рад. Наша процена потребних заштитних мера може да се промени како будемо сазнавали више о ризицима.

Као што смо описали,⁠ недавно смо ажурирали своје стандарде за праћење, усаглашавање и безбедност. Овде показујемо како су недавна ограничења утицала на један аспект истраживачке активности.

Дана 20. јула, након открића да су агенти компромитовали нашу истраживачку инфраструктуру, привремено смо искључили контејнерски сервис који се користио за обучавање, а затим га вратили уз значајна додатна ограничења.

То је довело до наглог смањења рачунарских ресурса за RL обуку док су тимови реконфигурисали своје токове рада како би функционисали у оквиру безбедносно ојачаног истраживачког окружења. Графикон изнад обухвата двонедељну паузу у подстицајном учењу на нашим најновијим моделима намењеним примени. RL експерименти класе Astra између 20. јула и 6. августа обухватају већину покретања (према додели GPU ресурса) намењених тестирању имплементације побољшања безбедности и сигурности.

Дана 7. августа, прелиминарни докази да Astra може имати критичне сајбер способности⁠ према нашем Оквиру спремности⁠(отвара се у новом прозору) довели су до додатних безбедносних ограничења специфичних за модел, која су захтевала да се модел Astra покреће у истраживачким окружењима вишег нивоа безбедности. Током наредне недеље, расподела GPU ресурса за моделе класе Astra додатно је опала за 59,2 процента, док је расподела за друге класе модела порасла за 17,2 процента. То повећање је надокнадило око 85 процената пада расподеле за моделе класе Astra, остављајући укупну расподелу у анализираним RL радним оптерећењима углавном непромењеном. Овај образац је у складу са преусмеравањем дела обуке и експериментисања на моделе који нису Astra док је рад који укључује Astra био ограничен, као и са појединачним извештајима истраживача да су проналазили друге намене за рачунарске ресурсе који више нису могли да се користе за радна оптерећења обухваћена новим ограничењима.

Ови подаци пружају користан сигнал за текуће дискусије о обуци и безбедности: када се уведу нове контроле, рачунарски ресурси остају вредни и флексибилни и природно ће бити усмеравани ка алтернативним употребама у оквиру истраживачког подухвата. Дугорочно, расправе о темпу напретка вештачке интелигенције такође би требало да се прошире на питање како се рачунарски ресурси који подлежу новим или предложеним контролама могу најбоље користити.

Остваривање и разумевање напретка ка усклађеном RSI-ју важно је за нашу мисију. Наставићемо да усавршавамо своје методе, извештавамо о томе како се наше разумевање развија и радимо на подстицању информисане јавне расправе и смисленог демократског управљања граничним системима.

Истраживање уз помоћ вештачке интелигенције коју покрећу агенти још увек је ново, а и даље учимо како да га меримо. Неке показатеље, као што је количина кода коју генеришу наши истраживачки тимови, релативно је лако прикупити, али их је тешко тумачити јер је њихова повезаност са напретком истраживања неизвесна. Метрике које се директније фокусирају на напредак истраживања – као што је то колико често агенти успешно обављају задатке које им истраживачи задају – могле би бити корисније, али су сложене за развој и валидацију. Додатну потешкоћу представља то што се алати и системи на које се истраживачи ослањају убрзано развијају. Продубљивање нашег разумевања убрзања истраживања значајна је област којој је компанија OpenAI посвећена.

У свим овим анализама, осим ако није другачије наведено:

• „Истраживач“ је широк појам који обухвата сваког члана наше истраживачке организације, укључујући и неке који изграђују истраживачку инфраструктуру, управљају истраживачким пројектима или на други начин подржавају тај подухват.

• Метрике коришћења агената за програмирање обухватају већину, али не и сву употребу, с обзиром на брз развој алата и система на које се истраживачи ослањају.