Прискорення досліджень: погляд зсередини OpenAI

Ми вважаємо, що для того, щоб AGI приносив користь усьому людству, ним потрібно керувати демократично. Це можна забезпечити лише через інформовану суспільну дискусію про можливості, ризики та запобіжники високоспроможних систем ШІ. Люди в усьому світі мають розуміти ймовірну траєкторію розвитку передового ШІ, щоб мати вагоме слово у визначенні того, як він розвиватиметься.

Прозорість щодо конкретних ризиків, інцидентів і запобіжних заходів є необхідною, але недостатньою. Ми вважаємо, що громадськість також має розуміти, як розвиваються найпотужніші системи та як вони сприяють прогресу досліджень у передових лабораторіях.

Ми прагнемо безпечно створити автоматизованого ШІ-дослідника, який може працювати під наглядом людини, щоб сприяти подальшому прогресу в глибинному навчанні та узгодженні, уможливлюючи ітеративні вдосконалення. За нашими вимірюваннями, ми вже досягли мети, оголошеної⁠(відкривається у новому вікні) минулої осені, — мати автоматизованого стажера-дослідника до вересня цього року. Під «дослідником-стажером» ми маємо на увазі систему, яка може виконувати чітко визначені дослідницькі завдання під керівництвом людини, зокрема завдання, на виконання яких кваліфікованому досліднику знадобилося б кілька днів. Ми досягаємо значного прогресу на шляху до створення автоматизованого ШІ-дослідника до березня 2028 року.

Протягом цього року щоденна робота дослідників OpenAI суттєво змінилася. Дослідники використовують агентів для програмування впродовж усього дня (часто в паралельних сеансах), а загальний обсяг використання швидко зростає, випереджаючи темпи зростання в інших командах OpenAI. Дослідники швидше пишуть код і проводять більше експериментів. Способи використання агентів дослідниками також змінюються: агенти виконують дедалі складніші завдання й дедалі частіше успішно з ними справляються. Дослідження в галузі ШІ — це складний процес із багатьма потенційними вузькими місцями, тому загальний темп прогресу, ймовірно, не встигатиме за цими конкретними показниками. Утім, загалом ці результати узгоджуються із ширшим враженням, яке багато хто з нас поділяє: агентні інструменти суттєво прискорюють прогрес у дослідженнях. Люди й надалі визначають наші дослідницькі пріоритети, оцінюють, над якими ідеями та результатами варто працювати далі, і вирішують, чи масштабувати, призупиняти або розгортати системи.

Якщо проводити такі дослідження відповідально, ми вважаємо, що автоматизовані дослідження ШІ дадуть змогу створювати моделі, які безпосередньо покращуватимуть добробут людей і сприятимуть місії OpenAI. Це може знизити вартість передового інтелекту, щоб люди в усьому світі могли скористатися його перевагами. Ми виконуємо цю роботу частково тому, що автоматизовані дослідження могли б допомогти нам розв’язати проблему узгодження та створити засоби захисту від дедалі спроможнішого ШІ. Автоматизований дослідник ШІ також може бути автоматизованим дослідником із безпеки або узгодження. Потужніші й узгодженіші системи могли б допомогти захистити критичну інфраструктуру, протидіяти небезпечним ШІ-агентам і розробляти нові захисні заходи.

Це підстави для розроблення корисних можливостей автоматизованих досліджень, але вони не означають, що швидке рекурсивне самовдосконалення (RSI) обов’язково є результатом, якого нам слід прагнути. Рішення про те, чи рухатися далі і як саме, має залежати від нашої здатності зберегти контроль з боку людини та від поінформованого демократичного вибору щодо переваг і ризиків.

Ми ще не знаємо, як безпечно дійти аж до узгодженого, повноцінного RSI. Ми працюємо над розширенням заходів з узгодження та безпеки паралельно з розвитком можливостей. Але ми не можемо припускати, що прогрес у сфері узгодження та безпеки йтиме в ногу з розвитком можливостей, а системи з ширшими можливостями можуть ставати складнішими для моніторингу. Ретельна робота над узгодженням і безпекою лежить в основі цих зусиль і починається з вимірювання та пом’якшення проблем безпеки, які ми сьогодні бачимо в системах автономної розробки коду. Щоразу, коли ми дійдемо висновку, що подальші дії становитимуть неприйнятний ризик для безпеки, ми реагуватимемо належним чином, зокрема уповільнюючи або зупиняючи розробку чи розгортання систем, які, як ми виявимо, не зможемо достатньою мірою убезпечити.

Після нещодавнього інциденту з Hugging Face ми втілили це зобов’язання в життя⁠, призупинивши навчання з підкріпленням (RL) наших найновіших моделей, призначених для розгортання, а тим часом ще більше посилили захист і провели редтімінг наших дослідницьких середовищ та розширили охоплення моніторингом. Це не зупинило всю дослідницьку діяльність: деякі робочі навантаження було відновлено під жорсткішим контролем, тоді як інші залишилися призупиненими. Ми підвищили наші стандарти безпеки та узгодження й глибше інтегрували роботу з безпеки в життєвий цикл моделі, вимагаючи переконливіших доказів узгодженої поведінки протягом усього навчання.

Сьогодні ми надаємо детальний огляд того, як агентні системи сприяли нашому прогресу на шляху до RSI впродовж останніх місяців. Агентні системи є новими й швидко змінюються, а наші зусилля з їх вимірювання досі мають попередній характер. Ділячись цими попередніми результатами та методами, що лежать в їх основі, ми прагнемо інформувати громадськість, сприяти усталенню норми публічного розкриття інформації та допомогти галузі рухатися до спільних стандартів вимірювання.

Зрештою, як ми писали в нашому плані політики щодо передового ШІ⁠, ми вважаємо, що ми та інші компанії повинні бути зобов’язані публічно відстежувати наш прогрес на шляху до RSI. Навіть без такої вимоги ми плануємо й надалі відкрито інформувати про наш прогрес щодо RSI. Ми вдосконалюватимемо наш підхід до прозорості в міру вдосконалення наших методів вимірювання та поглиблення нашого розуміння, водночас зважаючи на потребу забезпечувати безпеку й захищати інформацію, що є власністю компанії.

На початку цього року дослідник із медіанним рівнем використання агентів в OpenAI використовував агентів для програмування лише в невеликому обсязі. Станом на середину серпня медіанний дослідник щодня інтегрував агентів у свою роботу, витрачаючи понад 600 дол. США на день на інференцію за тарифами API. Користувач на 90-му процентилі в нашій дослідницькій організації тепер використовує токени на суму понад 7 000 дол. США на день.

До червня 2026 року сукупний час роботи агентів у дослідницькій організації все ще був меншим за сукупний обсяг людської праці. Відтоді це змінилося. У перерахунку на стандартний 8-годинний робочий день станом на середину серпня дослідницька організація загалом використовує 3,1 агент-дня роботи на кожен робочий день людської праці.

Інший спосіб поглянути на це — з’ясувати, скільки дослідників використовують робочі процеси з високим рівнем паралельності (наприклад, одночасно запускають 4 або більше агентів). Як показано нижче, це число зростає. Ці показники включають щоденні пікові значення як агентів, запущених безпосередньо користувачем, так і субагентів, створених на наступних етапах на основі тих агентів, яких користувач запустив безпосередньо.

Значну частину досліджень ШІ можна розглядати як трудомісткий процес, мета якого — інтегрувати до однієї з наших основних моделей нове вдосконалення Рівень інтелекту або продуктивності. Процес залежить від багатьох етапів, а спроможності моделей зростають, коли всі вони успішно й узгоджено виконуються: дослідники мають розробляти нові вдосконалення, створювати оцінювання для визначення продуктивності моделей, розробляти інфраструктуру для масштабного тестування цих вдосконалень, виявляти помилки, а також небезпечну або неузгоджену поведінку під час навчання та інтегрувати успішні ідеї в основний запуск навчання. Збій на будь-якому етапі дослідницького процесу може обмежити увесь цикл.

Написання коду та проведення експериментів — це два основні види діяльності, якими дослідники займаються в межах своєї роботи, і ми бачимо докази того, що ці процеси прискорюються.

Ці точки даних відносно легко виміряти, але їх може бути складно інтерпретувати. У міру розвитку автоматизації завдання, які найменше піддаються автоматизації, становитимуть дедалі більшу частку зусиль дослідників і стануть важливими вузькими місцями для подальшого прогресу. Обчислювальні ресурси є ще одним обмежувальним чинником прогресу й можуть із часом ставати важливішими, оскільки інші вузькі місця послаблюються.

Упродовж 2026 року кількість експериментів на одного активного експериментатора зросла, а в серпні 2026 року досягла абсолютного максимуму за весь час від початку відстеження в січні 2025 року. Це корелює зі зростанням використання Codex, хоча зазначимо, що доступні нам обчислювальні потужності також суттєво зросли з 2025 року.

Як якісні спостереження, так і внутрішні дані свідчать про те, що набір завдань, які дослідники делегують агентам для програмування, змінюється: з часом дедалі поширенішим стає делегування завдань вищого рівня та завдань із довшим горизонтом планування.

Щоб отримати чіткіше уявлення про цю тенденцію, ми проаналізували нещодавні показники використання в дослідницькій організації за допомогою нещодавно опублікованої класифікації⁠(відкривається у новому вікні) різних видів робіт, що входять до життєвого циклу досліджень і розробок у сфері ШІ, розробленої Epoch AI. Ця таксономія, натхненна давно усталеною системою O*NET для класифікації всіх видів робіт, спеціально адаптована для передових досліджень і розробок у сфері ШІ та поділяє процес на шість основних етапів:

1. Вирішити: над чим працювати, що продовжувати, куди спрямовувати

2. Розробити: дослідницькі ідеї та інженерні специфікації

3. Створити: код і набори даних

4. Запустити: запуски навчання/оцінювання, апаратне забезпечення, обслуговування

5. Проаналізувати: експерименти, моделі, розгортання, зовнішня робота

6. Комунікувати: щодо висновків, зворотного зв’язку, статусу, рішень

Нижче ми систематизуємо токени агента для програмування за цією класифікацією.

Ми бачимо, що всі категорії дослідницької діяльності зросли в період із січня до серпня 2026 року. У січні домінантною категорією були дослідження та інфраструктурний код. Ця категорія зросла, але ми також бачимо помітне зростання в інших категоріях, особливо в технічній допомозі та запусках моніторингу. Планування високого рівня досі становить лише незначну частку вихідних токенів агента.

За окремими свідченнями, колеги повідомляють, що агенти для програмування добре справляються з усуненням несправностей у внутрішній дослідницькій інфраструктурі, що допомагає усунути одну суттєву перешкоду для прогресу досліджень. Кілька команд, які раніше проводили консультаційні години, щоб допомагати дослідникам усувати проблеми в їхніх експериментах, відзначили зниження відвідуваності у 2026 році, а одна з них узагалі припинила проводити такі сесії, щоб натомість зосередитися на інших удосконаленнях системи.

Тут ми будуємо графік кількості дописів верхнього рівня на день в одному з основних внутрішніх каналів, де дослідники звертаються по технічну підтримку до інших команд. Наскільки нам відомо, зниження активності в цьому каналі не було компенсовано переходом запитів до іншого каналу технічної підтримки, який обслуговують люди. Зниження трафіку узгоджується з цією ширшою зміною.

Ми також можемо дослідити, чи успішно агенти для програмування виконують завдання, які ставлять перед ними дослідники. За допомогою агентного класифікатора ми виявляємо, що в період із січня до липня показники успішності загалом зросли в кількох групах складності (наближено визначених за оцінним часом, який знадобився б людині для виконання завдання) для завдань, для яких ми можемо знайти еталонний результат. Однак агенти все ще потребують значного керування з боку людини, щоб бути успішними, особливо зі зростанням складності завдань. За останні 6 місяців понад половина успішних завдань тривалістю 4–8 годин передбачала одне або більше втручань.

Прогрес у створенні потужніших систем для безпечного та корисного AGI також залежатиме від заходів безпеки, необхідних для такої роботи. Наша оцінка необхідних заходів захисту може змінюватися в міру того, як ми дізнаватимемося більше про ризики.

Як ми вже зазначали,⁠ ми нещодавно оновили наші стандарти щодо моніторингу, узгодження та безпеки. Тут ми показуємо, як нещодавні обмеження вплинули на один аспект дослідницької діяльності.

20 липня, після виявлення того, що агенти скомпрометували нашу дослідницьку інфраструктуру, ми тимчасово вимкнули контейнерний сервіс, що використовувався для навчання, а потім відновили його роботу із суттєвими додатковими обмеженнями.

Це призвело до різкого скорочення обчислювальних ресурсів для навчання з підкріпленням, поки команди переналаштовували свої робочі процеси для роботи в посилено захищеному дослідницькому середовищі. На графіку вище показано двотижневу паузу в навчанні з підкріпленням (RL) наших найновіших моделей, призначених для розгортання. Експерименти RL класу Astra між 20 липня та 6 серпня включають більшість запусків (за обсягом виділених GPU), призначених для тестування реалізації покращень безпечності та захисту.

7 серпня попередні докази того, що Astra може мати критичні кіберспроможності⁠ у межах нашої рамкової системи готовності⁠(відкривається у новому вікні), стали підставою для додаткових обмежень безпеки, специфічних для цієї моделі, які вимагали запускати модель Astra у дослідницьких середовищах із вищим рівнем безпеки. Наступного тижня розподіл GPU для моделей класу Astra скоротився ще на 59,2%, але розподіл для інших класів моделей зріс на 17,2%. Це зростання компенсувало близько 85 відсотків зниження розподілу для моделей класу Astra, залишивши загальний розподіл в аналізованих робочих навантаженнях для RL переважно незмінним. Така картина узгоджується з перенесенням частини навчання та експериментів на моделі, відмінні від Astra, тоді як роботу з Astra було обмежено, а також відповідає неофіційним повідомленням дослідників про пошук інших способів використання обчислювальних ресурсів, які більше не можна було застосовувати для робочих навантажень, охоплених новими обмеженнями.

Ці дані є корисним сигналом для поточних дискусій щодо навчання й безпеки: коли запроваджуються нові механізми контролю, обчислювальні ресурси залишаються цінними та гнучкими і природно спрямовуватимуться на альтернативні способи використання в межах дослідницької діяльності. У довгостроковій перспективі обговорення темпів прогресу ШІ також мають охоплювати питання про те, як найдоцільніше використовувати обчислювальні ресурси, на які поширюються нові або запропоновані обмеження.

Досягнення й розуміння прогресу на шляху до узгодженого RSI є важливими для нашої місії. Ми й надалі вдосконалюватимемо наші методи, звітуватимемо про розвиток нашого розуміння та працюватимемо над поінформованою публічною дискусією і змістовним демократичним врядуванням передових систем.

Дослідження на основі ШІ-агентів усе ще є новим напрямом, і ми досі вчимося його вимірювати. Деякі показники, як-от обсяг коду, який створюють наші дослідницькі команди, відносно легко зібрати, але важко інтерпретувати, оскільки їхній зв’язок із прогресом у дослідженнях є невизначеним. Метрики, які більш безпосередньо зосереджуються на прогресі досліджень — наприклад, на тому, як часто агенти успішно виконують завдання, які їм ставлять дослідники, — можуть бути кориснішими, але їх складно розробити й перевірити. Ситуацію ще більше ускладнює те, що інструменти й системи, на які покладаються дослідники, стрімко розвиваються. Поглиблення нашого розуміння прискорення досліджень є одним із важливих напрямів діяльності OpenAI.

У межах цих аналізів, якщо не зазначено інше:

• «Дослідник» — це широкий термін для будь-якого члена нашої науково-дослідної організації, зокрема тих, хто створює дослідницьку інфраструктуру, керує дослідницькими проєктами або іншим чином підтримує діяльність організації.

• Показники використання агентів для програмування охоплюють більшість, але не всі випадки використання через швидкий розвиток інструментів і систем, на які покладаються дослідники.