Ускорение исследований: взгляд изнутри OpenAI

Мы считаем: чтобы AGI приносил пользу всему человечеству, управление им должно быть демократическим. Для этого нужна информированная общественная дискуссия о возможностях, рисках и мерах защиты мощных систем ИИ. Людям во всём мире важно понимать вероятный путь развития передового ИИ, чтобы влиять на него.

Открытость в отношении конкретных рисков, инцидентов и мер защиты необходима, но недостаточна. Обществу также важно понимать, как в передовых лабораториях развиваются мощнейшие системы и как они ускоряют исследования.

Мы стремимся безопасно создать автоматизированного ИИ-исследователя, который под надзором человека будет развивать глубокое обучение и согласование ИИ с целями человека, обеспечивая поэтапные улучшения. По нашим измерениям, цель, объявленная⁠(открывается в новом окне) прошлой осенью, уже достигнута: к сентябрю этого года у нас появился автоматизированный стажёр-исследователь. Под «стажёром-исследователем» мы понимаем систему, выполняющую чётко заданные исследовательские задачи под руководством человека, в том числе задачи на несколько дней работы квалифицированного исследователя. Мы уверенно продвигаемся к созданию автоматизированного ИИ-исследователя к марту 2028 года.

За этот год повседневная работа исследователей OpenAI заметно изменилась. Они используют агентов для программирования весь день, часто в параллельных сессиях. Объём использования быстро растёт, опережая другие команды OpenAI. Исследователи быстрее вносят изменения в код и проводят больше экспериментов. Меняются и способы работы с агентами: им поручают всё более сложные задачи, и они чаще справляются. Исследования ИИ — сложный процесс со многими узкими местами, поэтому общий прогресс, вероятно, не будет столь же быстрым, как рост этих метрик. Но в целом данные подтверждают впечатление многих наших сотрудников: агентные инструменты ощутимо ускоряют исследования. Люди по-прежнему задают приоритеты, выбирают перспективные идеи и результаты, решают, масштабировать ли системы, приостановить работу или развернуть их.

При ответственном подходе автоматизированные исследования ИИ, по нашему мнению, дадут модели, улучшающие жизнь людей и приближающие нас к миссии OpenAI. Они могут сделать передовой ИИ дешевле и доступнее людям во всём мире. Одна из причин этой работы — возможность решить проблему согласования ИИ с целями человека и создать защиту от всё более мощного ИИ. Автоматизированный ИИ-исследователь может исследовать и безопасность, и согласование с целями человека. Более мощные и согласованные системы могут защищать критическую инфраструктуру, противостоять опасным ИИ-агентам и создавать новые меры защиты.

Это доводы в пользу автоматизации исследований, но не обязательно в пользу быстрого рекурсивного самосовершенствования (RSI). Продолжать ли этот путь и как именно — должно зависеть от сохранения контроля человека и информированного демократического выбора с учётом пользы и рисков.

Мы пока не знаем, как безопасно достичь полного RSI, согласованного с целями человека. Мы развиваем меры согласования и безопасности вместе с возможностями систем. Но нельзя считать, что эти меры всегда будут успевать за прогрессом: более мощные системы труднее отслеживать. В основе этой работы — тщательное согласование и обеспечение безопасности, начиная с оценки и снижения уже видимых рисков систем агентного программирования. При неприемлемом риске мы примем меры, вплоть до замедления или остановки разработки либо развёртывания систем, безопасность которых не сможем обеспечить.

После инцидента с Hugging Face мы выполнили это обязательство⁠: приостановили обучение с подкреплением (RL) новейших моделей для развёртывания, усилили защиту исследовательских сред, проверили их атаками и расширили мониторинг. Не все исследования остановились: часть задач возобновилась под усиленным контролем, остальные остались на паузе. Мы повысили стандарты безопасности и согласования, глубже встроив эту работу в жизненный цикл моделей: теперь нужны более убедительные подтверждения согласованного поведения на всех этапах обучения.

Сегодня мы подробно показываем вклад агентных систем в наше продвижение к RSI за последние месяцы. Агентные системы появились недавно и быстро меняются; наши измерения пока предварительные. Публикуя первые результаты и методы, мы хотим информировать общество, поддержать норму открытого раскрытия данных и выработку общих стандартов измерения.

Как мы писали в плане регулирования передового ИИ⁠, мы считаем, что нас и другие компании следует обязать публично отслеживать прогресс на пути к RSI. Даже без такого требования мы намерены открыто рассказывать о нашем продвижении к RSI. Мы будем совершенствовать подход к прозрачности по мере улучшения методов и понимания, учитывая безопасность и защиту закрытой информации.

В начале года исследователь с медианным уровнем использования агентов в OpenAI обращался к ним лишь изредка. К середине августа он уже использовал их ежедневно, расходуя на инференс более 600 долларов в день по ценам API. Исследователь на 90-м процентиле использования теперь расходует токены более чем на 7 000 долларов в день.

До июня 2026 года суммарное время работы агентов в исследовательском подразделении было меньше времени работы людей. Теперь это изменилось. К середине августа на каждый рабочий день человека в подразделении приходилось 3,1 рабочего дня агентов в пересчёте на стандартный 8-часовой день.

Другой показатель — число исследователей, работающих с несколькими агентами параллельно, например с четырьмя и более. Как показано ниже, это число растёт. Здесь учитываются суточные пики числа агентов, запущенных пользователем, и субагентов, созданных в ходе их работы.

Значительная часть исследований ИИ — трудоёмкий процесс внедрения улучшений интеллекта или производительности в одну из наших основных моделей. Прогресс требует успеха на всех этапах: разработать улучшения и оценки качества, создать инфраструктуру для масштабных тестов, выявить ошибки и небезопасное или несогласованное поведение при обучении, включить удачные идеи в основной цикл обучения. Сбой на любом этапе может затормозить весь цикл.

Написание кода и проведение экспериментов — две ключевые задачи исследователей. По нашим данным, обе выполняются всё быстрее.

Эти показатели легко измерить, но трудно интерпретировать. По мере автоматизации задачи, которые хуже всего ей поддаются, будут занимать всё больше сил исследователей и станут ключевыми ограничителями прогресса. Ещё один ограничитель — вычислительные ресурсы. Их роль может расти по мере устранения других узких мест.

В 2026 году число экспериментов на активного экспериментатора росло, а в августе достигло максимума с начала наблюдений в январе 2025-го. Это коррелирует с внедрением Codex, хотя с 2025 года заметно выросли и вычислительные ресурсы.

Наблюдения и внутренние данные показывают: исследователи всё чаще поручают агентам для программирования более высокоуровневые и длительные задачи.

Чтобы изучить эту тенденцию, мы проанализировали недавнее использование агентов в подразделении по новой классификации⁠(открывается в новом окне) работ в цикле исследований и разработки ИИ от Epoch AI. Эта классификация опирается на систему O*NET, адаптирована к исследованиям и разработке передового ИИ и выделяет шесть этапов:

1. Решения: над чем работать, что продолжать, куда направлять ресурсы

2. Проектирование: исследовательские идеи и технические спецификации

3. Создание: код и датасеты

4. Выполнение: обучение, оценка, оборудование, обслуживание запросов

5. Анализ: эксперименты, модели, развёртывание, внешние работы

6. Коммуникация: результаты, обратная связь, ход работ, решения

Ниже токены агентов для программирования разбиты по этим категориям.

С января по август 2026 года выросли все категории исследовательской работы. В январе преобладал код для исследований и инфраструктуры. Эта категория выросла, но заметно выросли и другие, особенно техническая помощь и мониторинг прогонов. На высокоуровневое планирование по-прежнему приходится малая доля выходных токенов агентов.

Коллеги отмечают: агенты отлично устраняют неполадки внутренней исследовательской инфраструктуры, снимая одно из существенных ограничений прогресса. Несколько команд, проводивших консультации по отладке экспериментов, отметили снижение посещаемости в 2026 году. Одна вовсе прекратила встречи, сосредоточившись на улучшении систем.

Здесь показано число новых сообщений в день в одном из основных внутренних каналов, где исследователи обращаются за технической помощью к другим командам. Насколько нам известно, снижение активности не компенсировалось переносом запросов в другой канал поддержки, где отвечают люди. Снижение числа обращений согласуется с общим сдвигом.

Мы также можем оценить, справляются ли агенты с задачами исследователей. Агентный классификатор показал: с января по июль успешность в целом росла в нескольких группах сложности, определяемых оценкой времени работы человека. Учтены задачи с установленным исходом. Но для успеха агентам всё ещё нужна существенная помощь человека, особенно в сложных задачах. За последние 6 месяцев более половины успешно решённых задач на 4–8 часов потребовали хотя бы одного вмешательства.

Продвижение к более мощным системам на пути к безопасному и полезному AGI также будет зависеть от мер защиты, необходимых для этой работы. Наша оценка необходимых мер защиты может меняться по мере того, как мы узнаём больше о рисках.

Как мы уже сообщали,⁠ недавно мы обновили стандарты мониторинга, согласования ИИ с целями человека и защиты. Здесь мы показываем, как недавние ограничения повлияли на один из аспектов исследовательской деятельности.

20 июля, обнаружив, что агенты скомпрометировали нашу исследовательскую инфраструктуру, мы временно отключили сервис контейнеров для обучения, а затем восстановили его со значительными дополнительными ограничениями.

Это привело к резкому снижению объёма вычислений для RL, пока команды перестраивали рабочие процессы для работы в усиленно защищённой исследовательской среде. График выше охватывает двухнедельную приостановку обучения с подкреплением наших новейших моделей, предназначенных для развёртывания. В RL-экспериментах с моделями класса Astra с 20 июля по 6 августа большинство прогонов по объёму выделенных GPU предназначалось для проверки внедрённых улучшений безопасности и защиты.

7 августа предварительные данные о том, что Astra может обладать критическими кибервозможностями⁠ согласно нашей Программе готовности⁠(открывается в новом окне), привели к дополнительным ограничениям безопасности для этой модели: запускать Astra стало необходимо в исследовательских средах с повышенной защитой. На следующей неделе объём GPU, выделенных моделям класса Astra, снизился ещё на 59,2%, а для других классов моделей вырос на 17,2%. Этот рост компенсировал около 85% снижения по классу Astra, поэтому общий объём выделенных ресурсов в анализируемых RL-задачах почти не изменился. Такая картина согласуется с переносом части обучения и экспериментов на другие модели, пока работа с Astra была ограничена. Она также соответствует отдельным сообщениям исследователей о том, что они находили иные применения вычислительным ресурсам, которые больше нельзя было использовать для задач, подпавших под новые ограничения.

Эти данные полезны для обсуждения обучения и безопасности: при введении новых мер контроля вычислительные ресурсы сохраняют ценность и гибкость и естественным образом перенаправляются на другие исследовательские задачи. В долгосрочной перспективе обсуждение темпов развития ИИ должно также включать вопрос о том, как лучше использовать вычислительные ресурсы, на которые распространяются новые или предлагаемые меры контроля.

Для нашей миссии важно продвигаться к RSI, согласованному с целями человека, и понимать этот прогресс. Мы продолжим совершенствовать методы, рассказывать о том, как меняется наше понимание, и содействовать информированной общественной дискуссии и действенному демократическому управлению передовыми системами.

Исследования ИИ с помощью агентов — новое явление, и мы ещё учимся его измерять. Некоторые показатели, например объём кода, создаваемого исследовательскими командами, относительно легко собрать, но трудно интерпретировать: их связь с исследовательским прогрессом неясна. Метрики, более непосредственно отражающие прогресс исследований, например частота успешного выполнения агентами задач исследователей, могут быть полезнее, но их сложно разработать и проверить. Задачу усложняет быстрое развитие инструментов и систем, которыми пользуются исследователи. Углубление понимания того, как ускоряются исследования, — одно из важных направлений работы всей OpenAI.

Во всех приведённых анализах, если не указано иное:

• «Исследователь» — широкое понятие, охватывающее любого сотрудника исследовательского подразделения, включая тех, кто создаёт инфраструктуру, управляет исследовательскими проектами или иным образом поддерживает эту работу.

• Метрики использования агентов для программирования охватывают большую часть, но не всё использование, поскольку инструменты и системы исследователей быстро меняются.