Ускоряване на изследванията: поглед отвътре в OpenAI

Вярваме, че за да е от полза за цялото човечество, AGI трябва да се управлява демократично. Това изисква информиран обществен дебат за способностите, рисковете и предпазните мерки при мощните ИИ системи. Хората навсякъде трябва да разбират вероятната посока на авангардния ИИ, за да имат реален глас в развитието му.

Прозрачността за конкретни рискове, инциденти и предпазни мерки е необходима, но недостатъчна. Обществото трябва да разбира и как се развиват най-способните системи и как ускоряват изследванията във водещите лаборатории.

Целим безопасно да създадем автоматизиран ИИ изследовател, който под човешки надзор да развива дълбокото обучение и съгласуваността с човешките цели чрез последователни подобрения. Според измерванията ни вече постигнахме обявената⁠(отваря се в нов прозорец) миналата есен цел: автоматизиран изследователски стажант до септември тази година. Под „изследователски стажант“ разбираме система, изпълняваща ясно определени задачи под човешко ръководство, включително такива за няколко дни работа на опитен изследовател. Напредваме значително към създаването на автоматизиран ИИ изследовател до март 2028 г.

Тази година ежедневната работа на изследователите в OpenAI се промени съществено. Те използват агенти за кодиране през целия ден, често в паралелни сесии. Използването расте бързо, изпреварвайки останалите екипи в OpenAI. Изследователите добавят код по-бързо и провеждат повече експерименти. Променят се и приложенията на агентите: те поемат все по-сложни задачи и по-често ги изпълняват успешно. Изследванията на ИИ имат много потенциални пречки, затова общият напредък вероятно няма да следва темпа на тези конкретни показатели. Като цяло обаче резултатите подкрепят впечатлението на мнозина от нас, че агентните инструменти осезаемо ускоряват изследванията. Хората все още определят приоритетите, избират кои идеи и резултати да развиват и решават дали да разширят, спрат или внедрят системите.

Вярваме, че отговорно автоматизираните изследвания на ИИ ще създадат модели, подобряващи човешкото благосъстояние и подпомагащи мисията на OpenAI. Те могат да понижат цената на усъвършенствания интелект в полза на хората по света. Работим по това и защото автоматизираните изследвания могат да решат проблема със съгласуваността и да изградят защити срещу все по-способен ИИ. Автоматизираният ИИ изследовател може да изследва и безопасността или съгласуваността с човешките цели. По-способните, съгласувани системи биха могли да защитават критична инфраструктура, да противодействат на опасни ИИ агенти и да разработват нови защити.

Това са основания да развиваме полезни автоматизирани изследвания, но не означава, че непременно трябва да преследваме бързо RSI. Дали и как да продължим зависи от запазването на човешкия контрол и от информиран демократичен избор за ползите и рисковете.

Още не знаем как безопасно да достигнем пълно RSI, съгласувано с човешките цели. Работим за разширяване на мерките за съгласуваност и безопасност успоредно със способностите. Но не можем да приемем, че напредъкът им ще върви в крак; по-способните системи може да са по-трудни за наблюдение. В центъра е внимателната работа по съгласуваността и безопасността, започваща с измерване и ограничаване на днешните проблеми в системите за агентно кодиране. При неприемлив риск ще реагираме адекватно, включително като забавим или спрем разработването или внедряването на системи, за които не можем да осигурим достатъчни защити.

След инцидента с Hugging Face изпълнихме този ангажимент⁠: спряхме обучението с утвърждение (RL) на най-новите модели за внедряване, укрепихме средите, тествахме ги с adversarial атаки и разширихме наблюдението. Не спряхме всички изследвания: някои натоварвания бяха възобновени при засилен контрол, други останаха спрени. Повишихме стандартите за безопасност и съгласуваност и ги интегрирахме по-дълбоко в жизнения цикъл на модела, изисквайки по-силни доказателства за съгласувано поведение през цялото обучение.

Днес представяме подробна картина на приноса на агентните системи към напредъка ни към RSI през последните месеци. Агентните системи са нови и бързо се променят, а измерванията ни още са предварителни. Споделяме ранните резултати и методите, за да информираме обществото, да насърчим публичното оповестяване и общите стандарти за измерване.

Както писахме в плана ни за политики за авангарден ИИ⁠, смятаме, че ние и другите компании трябва да сме задължени публично да отчитаме напредъка си към RSI. И без такова изискване планираме да останем прозрачни за напредъка си към RSI. Ще развиваме прозрачността с подобряването на измерванията и разбирането си, като пазим сигурността и фирмената поверителна информация.

В началото на годината изследователят на медианата по използване на агенти в OpenAI ги използваше съвсем умерено. Към средата на август той вече работеше с тях ежедневно, с изчисления за над 600 щ.д. на ден по API цени. Потребителят на 90-ия персентил в изследователското ни звено вече използва токени за над 7000 щ.д. дневно.

Преди юни 2026 г. общото време на работа на агентите в звеното още беше под общото време на човешкия труд. Това вече се промени. Към средата на август, при стандартен 8-часов работен ден, звеното използва общо 3,1 агентни работни дни за всеки човешки работен ден.

Друг поглед е броят изследователи с интензивно паралелни процеси — например 4 или повече агенти едновременно. Както се вижда по-долу, този брой нараства. Данните включват дневните пикове както на пряко стартираните от потребителя агенти, така и на създадените впоследствие подагенти.

Голяма част от изследванията на ИИ са трудоемък процес за внедряване на подобрение в интелекта или ефективността в наш основен модел. Напредъкът изисква успех на всички стъпки: проектиране на подобрения, оценки на моделите, инфраструктура за мащабни тестове, откриване на грешки и опасно или несъгласувано поведение при обучение и включване на успешните идеи в основното обучение. Провал във всяка част от процеса може да ограничи целия цикъл.

Писането на код и експериментите са две основни изследователски дейности и виждаме данни, че се ускоряват.

Тези показатели се измерват сравнително лесно, но тълкуването им е трудно. С автоматизацията задачите, които най-трудно се автоматизират, ще поглъщат по-голям дял от усилията и ще станат основни пречки пред напредъка. Изчислителните ресурси също ограничават напредъка и значението им може да расте с отслабването на другите пречки.

През 2026 г. експериментите на активен експериментатор нарастват. Август е рекорден от началото на проследяването през януари 2025 г. Това корелира с по-широкото използване на Codex, но и ресурсите ни са нараснали значително от 2025 г.

Впечатленията и вътрешните данни показват промяна във възлаганите на агентите за кодиране задачи: все по-често те са от по-високо ниво и с по-дълъг хоризонт.

За по-ясна картина анализирахме скорошното използване в звеното чрез наскоро публикувана таксономия⁠(отваря се в нов прозорец) на Epoch AI за дейностите в изследването и разработването на ИИ. Вдъхновена от утвърдената система O*NET за класифициране на труда, тя е адаптирана за авангарден ИИ и разделя процеса на шест фази:

1. Решения: по какво да се работи, какво да продължи, къде да се насочат ресурси

2. Проектиране: изследователски идеи и технически спецификации

3. Изграждане: код и набори от данни

4. Изпълнение: обучение, оценяване, хардуер, обслужване

5. Анализ: експерименти, модели, внедряване, външни изследвания

6. Комуникация: резултати, обратна връзка, напредък, решения

По-долу класифицираме токените на агентите за кодиране по тази таксономия.

Всички категории изследователска дейност нарастват между януари и август 2026 г. През януари води кодът за изследвания и инфраструктура. Тази категория се разширява, но нарастват и други, особено техническата помощ и наблюдението на изпълненията. Планирането на високо ниво остава минимален дял от изходните токени на агентите.

Колеги споделят, че агентите отлично отстраняват проблеми във вътрешната изследователска инфраструктура — значима пречка пред напредъка. Няколко екипа с консултации за проблеми при експерименти отчитат спад на посещаемостта през 2026 г. Един изцяло ги прекрати, за да подобрява системите по други начини.

Тук показваме дневния брой начални публикации в основен вътрешен канал, където изследователите търсят техническа помощ от други екипи. Доколкото знаем, спадът не е компенсиран от пренасочване към друг канал за техническа помощ от хора. Намалелият трафик съответства на тази по-обща промяна.

Можем да проверим и дали агентите успешно изпълняват възложените задачи. Агентен класификатор показва общ ръст на успеваемостта от януари до юли в няколко нива на трудност, оценена чрез нужното на човек време, при задачи с установим действителен резултат. Но успехът още изисква значително човешко насочване, особено при по-сложни задачи. През последните 6 месеца над половината успешни задачи с продължителност 4–8 часа включват поне една намеса.

Напредъкът към по-способни системи за безопасен и полезен AGI ще зависи и от предпазните мерки, необходими за тази работа. Оценката ни за необходимите предпазни мерки може да се променя с по-доброто разбиране на рисковете.

Както вече описахме,⁠ наскоро актуализирахме стандартите си за наблюдение, съгласуваност с човешките цели и сигурност. Тук показваме как последните ограничения се отразиха на един аспект от изследователската дейност.

На 20 юли, след като установихме, че агенти са компрометирали изследователската ни инфраструктура, временно спряхме контейнерната услуга за обучение, а след това я възстановихме със значителни допълнителни ограничения.

Това доведе до рязък спад в изчислителните ресурси за RL, докато екипите пренастройваха работните си процеси за средата с повишена защита. Горната графика включва двуседмичното прекъсване на обучението с утвърждение на най-новите ни модели, предназначени за внедряване. При RL експериментите с модели от клас Astra между 20 юли и 6 август повечето изпълнения, измерени по заделени GPU ресурси, са за тестване на внедрените подобрения в безопасността и сигурността.

На 7 август предварителните данни, че Astra може да има критични киберспособности⁠ според нашата Рамка за готовност⁠(отваря се в нов прозорец), доведоха до допълнителни ограничения за сигурност, специфични за модела. Те изискваха Astra да се изпълнява в изследователски среди с по-висока сигурност. През следващата седмица GPU ресурсите за клас Astra намаляха с още 59,2%, но тези за другите класове модели нараснаха със 17,2%. Това увеличение компенсира около 85% от спада при клас Astra, така че общите ресурси за анализираните RL натоварвания останаха почти непроменени. Тази картина е съвместима с пренасочване на част от обучението и експериментите към модели извън Astra, докато работата с Astra беше ограничена. Тя съответства и на неофициалните сведения, че изследователите са намерили други приложения за ресурсите, които вече не са могли да използват за натоварванията, обхванати от новите ограничения.

Тези данни дават полезна насока за текущите дискусии за обучението и безопасността: при въвеждане на нови мерки за контрол изчислителните ресурси остават ценни и гъвкави и естествено се насочват към други приложения в изследователската дейност. В дългосрочен план дискусиите за темпа на напредък на ИИ трябва да обхванат и въпроса как най-добре да се използват изчислителните ресурси, подлежащи на нови или предложени мерки за контрол.

За мисията ни е важно да напредваме към RSI, съгласувано с човешките цели, и да разбираме този напредък. Ще продължим да усъвършенстваме методите си, да споделяме как се развива разбирането ни и да работим за информиран обществен дебат и ефективно демократично управление на авангардните системи.

Изследванията на ИИ с помощта на агенти са все още новост и продължаваме да се учим как да ги измерваме. Някои показатели, като количеството код, създавано от изследователските ни екипи, се събират сравнително лесно, но се тълкуват трудно, защото връзката им с изследователския напредък е неясна. Показатели, насочени по-пряко към изследователския напредък — например колко често агентите изпълняват успешно възложените задачи — може да са по-полезни, но са сложни за разработване и валидиране. Допълнително затруднение е бързото развитие на инструментите и системите, на които разчитат изследователите. Задълбочаването на разбирането ни за ускоряването на изследванията е важен приоритет в цялата OpenAI.

Във всички тези анализи, освен ако не е посочено друго:

• „Изследовател“ е общо понятие за всеки член на изследователското ни звено, включително хора, които изграждат инфраструктура, управляват проекти или подпомагат дейността по друг начин.

• Показателите за използване на агенти за кодиране обхващат по-голямата част, но не цялото използване поради бързото развитие на инструментите и системите.