Ускоряване на изследванията: поглед отвътре в OpenAI

Вярваме, че за да е от полза за цялото човечество, AGI трябва да се управлява демократично. Това изисква информиран обществен дебат за способностите, рисковете и предпазните мерки при мощните ИИ системи. Хората навсякъде трябва да разбират вероятната посока на авангардния ИИ, за да имат реален глас в развитието му.

Прозрачността относно конкретни рискове, инциденти и предпазни мерки е необходима, но не е достатъчна. Смятаме, че обществото трябва да разбира и как се развиват най-способните системи и как те допринасят за изследователския напредък във водещите лаборатории за ИИ.

Целим безопасно да създадем автоматизиран ИИ изследовател, който под човешки надзор да развива дълбокото обучение и съгласуваността с човешките цели чрез последователни подобрения. Според измерванията ни вече постигнахме обявената⁠(отваря се в нов прозорец) миналата есен цел: автоматизиран изследователски стажант до септември тази година. Под „изследователски стажант“ разбираме система, изпълняваща ясно определени задачи под човешко ръководство, включително такива за няколко дни работа на опитен изследовател. Напредваме значително към създаването на автоматизиран ИИ изследовател до март 2028 г.

През тази година ежедневната работа на изследователите в OpenAI се промени съществено. Изследователите използват агенти за кодиране през целия ден, често в паралелни сесии, а общото използване нараства бързо, с по-висок темп, отколкото при другите екипи в OpenAI. Изследователите добавят код по-бързо и провеждат повече експерименти. Начините, по които използват агентите, също се променят: агентите поемат все по-сложни задачи и по-често ги изпълняват успешно. Изследванията на ИИ са сложен процес с много потенциални ограничения, затова общият темп на напредък вероятно няма да следва темпа на тези конкретни показатели. Като цяло обаче тези резултати съответстват на по-общото впечатление на мнозина от нас в компанията, че агентните инструменти осезаемо ускоряват изследователския напредък. Хората продължават да определят изследователските ни приоритети, да преценяват кои идеи и резултати да развиват и да решават дали да увеличат мащаба на системите, временно да ги спрат или да ги внедрят.

Вярваме, че ако се провеждат отговорно, автоматизираните изследвания на ИИ ще доведат до модели, които пряко подобряват благосъстоянието на хората и допринасят за мисията на OpenAI. Те могат да понижат цената на усъвършенствания интелект, така че хората по целия свят да се възползват от него. Работим в тази посока отчасти защото автоматизираните изследвания биха могли да ни помогнат да решим проблема със съгласуването на ИИ с човешките цели и да изградим защити срещу все по-способен ИИ. Автоматизираният ИИ изследовател може да бъде и автоматизиран изследовател на безопасността или съгласуването с човешките цели. По-способните системи, съгласувани с тези цели, биха могли да помагат за защитата на критичната инфраструктура, за противодействието на опасни ИИ агенти и за разработването на нови защитни мерки.

Това са основания да развиваме полезни автоматизирани изследвания, но не означава, че непременно трябва да преследваме бързо RSI. Дали и как да продължим зависи от запазването на човешкия контрол и от информиран демократичен избор за ползите и рисковете.

Все още не знаем как безопасно да достигнем до пълно RSI, съгласувано с човешките цели. Работим за разширяване на мерките за съгласуване и безопасност успоредно с нарастването на способностите. Не можем обаче да приемем, че напредъкът в съгласуването и безопасността ще върви в крак с тях, а по-способните системи могат да станат по-трудни за наблюдение. Внимателната работа по съгласуването и безопасността е в основата на тези усилия и започва с измерването и ограничаването на проблемите с безопасността, които наблюдаваме днес в системите за агентно кодиране. Винаги когато установим, че продължаването на работата би създало неприемлив риск за безопасността, ще предприемаме подходящи действия, включително забавяне или спиране на разработването или внедряването на системи, за които не можем да осигурим достатъчни защитни мерки.

След инцидента с Hugging Face изпълнихме този ангажимент⁠, като временно спряхме обучението с утвърждение (RL) на най-новите ни модели, предназначени за внедряване, докато допълнително укрепвахме защитата на изследователските си среди, тествахме ги чрез симулирани атаки и разширявахме обхвата на системите си за наблюдение. Това не спря всички изследвания: някои натоварвания бяха възобновени при по-строги мерки за контрол, а други останаха спрени. Повишихме стандартите си за безопасност и съгласуваност с човешките цели и интегрирахме по-задълбочено работата по безопасността в жизнения цикъл на модела, като изискваме по-убедителни доказателства за поведение, съответстващо на човешките цели, през целия процес на обучение.

Днес представяме подробна картина на приноса на агентните системи към напредъка ни към RSI през последните месеци. Агентните системи са нови и бързо се променят, а измерванията ни още са предварителни. Споделяме ранните резултати и методите, за да информираме обществото, да насърчим публичното оповестяване и общите стандарти за измерване.

Както писахме в плана ни за политики за авангарден ИИ⁠, смятаме, че ние и другите компании трябва да сме задължени публично да отчитаме напредъка си към RSI. И без такова изискване планираме да останем прозрачни за напредъка си към RSI. Ще развиваме прозрачността с подобряването на измерванията и разбирането си, като пазим сигурността и фирмената поверителна информация.

В началото на годината изследователят на медианата по използване на агенти в OpenAI ги използваше съвсем умерено. Към средата на август той вече работеше с тях ежедневно, с изчисления за над 600 щ.д. на ден по API цени. Потребителят на 90-ия персентил в изследователското ни звено вече използва токени за над 7000 щ.д. дневно.

Преди юни 2026 г. общото време на работа на агентите в звеното още беше под общото време на човешкия труд. Това вече се промени. Към средата на август, при стандартен 8-часов работен ден, звеното използва общо 3,1 агентни работни дни за всеки човешки работен ден.

Друг поглед е броят изследователи с интензивно паралелни процеси — например 4 или повече агенти едновременно. Както се вижда по-долу, този брой нараства. Данните включват дневните пикове както на пряко стартираните от потребителя агенти, така и на създадените впоследствие подагенти.

Голяма част от изследванията на ИИ могат да се разглеждат като трудоемък процес, чиято цел е да се внедри ново подобрение на интелекта или ефективността в някой от основните ни модели. Процесът зависи от множество стъпки, а способностите се развиват, когато всички те бъдат изпълнени успешно: изследователите трябва да проектират нови подобрения, да разработват тестове за оценяване на представянето на моделите, да изграждат софтуерна инфраструктура за мащабно тестване на тези подобрения, да откриват грешки и опасно или несъответстващо на човешките цели поведение по време на обучението и да включват успешните идеи в процеса на обучение на основен модел. Неуспех във всяка част от изследователския процес може да ограничи целия цикъл.

Писането на код и експериментите са две основни изследователски дейности и виждаме данни, че се ускоряват.

Тези показатели се измерват сравнително лесно, но тълкуването им е трудно. С автоматизацията задачите, които най-трудно се автоматизират, ще поглъщат по-голям дял от усилията и ще станат основни пречки пред напредъка. Изчислителните ресурси също ограничават напредъка и значението им може да расте с отслабването на другите пречки.

През 2026 г. броят на експериментите на активен експериментатор се е увеличил, като през август 2026 г. е достигнал най-високата си стойност от началото на проследяването през януари 2025 г. Това корелира с по-широкото използване на Codex, но отбелязваме, че наличните ни изчислителни ресурси също са нараснали значително от 2025 г.

Впечатленията и вътрешните данни показват промяна във възлаганите на агентите за кодиране задачи: все по-често те са от по-високо ниво и с по-дълъг хоризонт.

За да получим по-ясна представа за тази тенденция, анализирахме скорошното използване на агентите в изследователското ни звено чрез наскоро публикувана таксономия⁠(отваря се в нов прозорец), разработена от Epoch AI, която обхваща различните видове работа в жизнения цикъл на научноизследователската и развойната дейност в областта на ИИ. Тази таксономия, вдъхновена от утвърдената система O*NET за класифициране на различни видове труд, е специално адаптирана за изследването и разработването на авангарден ИИ и разделя процеса на шест основни фази:

1. Решения: по какво да се работи, какво да продължи, къде да се насочат ресурси

2. Проектиране: изследователски идеи и технически спецификации

3. Изграждане: код и набори от данни

4. Изпълнение: обучение, оценяване, хардуер, обслужване

5. Анализ: експерименти, модели, внедряване, външни изследвания

6. Комуникация: резултати, обратна връзка, напредък, решения

По-долу класифицираме токените на агентите за кодиране по тази таксономия.

Всички категории изследователска дейност нарастват между януари и август 2026 г. През януари води кодът за изследвания и инфраструктура. Тази категория се разширява, но нарастват и други, особено техническата помощ и наблюдението на изпълненията. Планирането на високо ниво остава минимален дял от изходните токени на агентите.

По неофициални сведения от колеги агентите за кодиране се справят отлично с отстраняването на проблеми във вътрешната изследователска инфраструктура, което помага за преодоляването на една съществена пречка пред изследователския напредък. Няколко екипа, които преди организираха консултации, за да помагат на изследователите да отстраняват проблеми с експериментите си, отчитат спад в посещаемостта през 2026 г. Един от тях изцяло прекрати тези консултации, за да се съсредоточи върху други подобрения на системите.

Тук показваме дневния брой начални публикации в основен вътрешен канал, където изследователите търсят техническа помощ от други екипи. Доколкото знаем, спадът не е компенсиран от пренасочване към друг канал за техническа помощ от хора. Намалелият трафик съответства на тази по-обща промяна.

Можем също да проучим дали агентите за кодиране успешно изпълняват задачите, които изследователите им възлагат. С помощта на агентен класификатор установяваме, че от януари до юли успеваемостта като цяло се е повишила в няколко категории на трудност при задачите, чийто действителен резултат можем да установим. Като косвена мярка за трудността използваме прогнозното време, необходимо на човек да изпълни задачата. Агентите обаче все още се нуждаят от значително човешко насочване, за да постигнат успех, особено с нарастването на сложността на задачите. През последните шест месеца над половината от успешно изпълнените задачи, които биха отнели на човек 4–8 часа, са изисквали поне една човешка намеса.

Напредъкът към по-способни системи за безопасен и полезен AGI ще зависи и от предпазните мерки, необходими за тази работа. Оценката ни за необходимите предпазни мерки може да се променя с по-доброто разбиране на рисковете.

Както вече описахме,⁠ наскоро актуализирахме стандартите си за наблюдение, съгласуваност с човешките цели и сигурност. Тук показваме как последните ограничения се отразиха на един аспект от изследователската дейност.

На 20 юли, след като установихме, че агенти са компрометирали изследователската ни инфраструктура, временно спряхме контейнерната услуга за обучение, а след това я възстановихме със значителни допълнителни ограничения.

Това доведе до рязък спад в изчислителните ресурси за RL, докато екипите пренастройваха работните си процеси за средата с повишена защита. Горната графика включва двуседмичното прекъсване на обучението с утвърждение на най-новите ни модели, предназначени за внедряване. При RL експериментите с модели от клас Astra между 20 юли и 6 август повечето изпълнения, измерени по заделени GPU ресурси, са за тестване на внедрените подобрения в безопасността и сигурността.

На 7 август предварителните данни, че Astra може да има критични киберспособности⁠ според нашата Рамка за готовност⁠(отваря се в нов прозорец), доведоха до допълнителни ограничения за сигурност, специфични за модела. Те изискваха Astra да се изпълнява в изследователски среди с по-висока сигурност. През следващата седмица GPU ресурсите за клас Astra намаляха с още 59,2%, но тези за другите класове модели нараснаха със 17,2%. Това увеличение компенсира около 85% от спада при клас Astra, така че общите ресурси за анализираните RL натоварвания останаха почти непроменени. Тази картина е съвместима с пренасочване на част от обучението и експериментите към модели извън Astra, докато работата с Astra беше ограничена. Тя съответства и на неофициалните сведения, че изследователите са намерили други приложения за ресурсите, които вече не са могли да използват за натоварванията, обхванати от новите ограничения.

Тези данни дават полезна насока за текущите дискусии за обучението и безопасността: при въвеждане на нови мерки за контрол изчислителните ресурси остават ценни и гъвкави и естествено се насочват към други приложения в изследователската дейност. В дългосрочен план дискусиите за темпа на напредък на ИИ трябва да обхванат и въпроса как най-добре да се използват изчислителните ресурси, подлежащи на нови или предложени мерки за контрол.

За мисията ни е важно да напредваме към RSI, съгласувано с човешките цели, и да разбираме този напредък. Ще продължим да усъвършенстваме методите си, да споделяме как се развива разбирането ни и да работим за информиран обществен дебат и ефективно демократично управление на авангардните системи.

Изследванията на ИИ с помощта на агенти са все още новост и продължаваме да се учим как да ги измерваме. Някои показатели, като количеството код, създавано от изследователските ни екипи, се събират сравнително лесно, но се тълкуват трудно, защото връзката им с изследователския напредък е неясна. Показатели, насочени по-пряко към изследователския напредък — например колко често агентите изпълняват успешно възложените задачи — може да са по-полезни, но са сложни за разработване и валидиране. Допълнително затруднение е бързото развитие на инструментите и системите, на които разчитат изследователите. Задълбочаването на разбирането ни за ускоряването на изследванията е важен приоритет в цялата OpenAI.

Във всички тези анализи, освен ако не е посочено друго:

• „Изследовател“ е общо понятие за всеки член на изследователското ни звено, включително хора, които изграждат инфраструктура, управляват проекти или подпомагат дейността по друг начин.

• Показателите за използване на агенти за кодиране обхващат по-голямата част, но не цялото използване поради бързото развитие на инструментите и системите.