Как Ultrafast сократил время расследования инцидентов в OpenAI с часов до минут

Это материал из серии, в которой мы делимся примерами того, как OpenAI использует собственные технологии и API. Эти инструменты применяются внутри OpenAI, и здесь мы показываем, как передовой ИИ помогает нашим командам решать разные задачи.

Ultrafast — это высокоскоростной режим Codex, который инженеры OpenAI теперь по умолчанию используют при реагировании на инциденты. Когда что-то выходит из строя, у инженеров часто нет времени ждать ответа несколько минут, пока проблема усугубляется. С Ultrafast они могут проверять сразу несколько возможных причин и получать ответы, не рассеивая внимание.

Аарон Фрил, технический специалист OpenAI, обычно координирует работу при инцидентах. Он создаёт канал в Slack для реагирования на инцидент, а затем подключает к решению проблемы Codex: просит следить за ситуацией, проводить расследование и отвечать на вопросы по мере их поступления. «При любом инциденте обычно есть целая цепочка этапов, на каждом из которых что-то могло пойти не так. Найти нужную иголку в нужном стоге сена — по сути, главная задача участников этого канала», — говорит он. — С Ultrafast я могу, по сути, искать во всех этих стогах одновременно и гораздо быстрее реагировать на инциденты».

Эй Джей Трбоевич, технический специалист и архитектор безопасности дата-центров, рассказывает, что раньше при расследовании проблем безопасности уходило час-два на сбор структурированных и неструктурированных данных, приведение их к единому виду и подготовку контекста для принятия решения. «Теперь на это уходит 10–15 минут, — говорит он. — А иногда всё происходит почти в реальном времени».

Адам Перри и Саян Сисодия работают в команде, которая разрабатывает ядро агента. Они пишут код, позволяющий Codex совершать действия, выполнять команды и использовать инструменты. Ultrafast изменил их подход к работе во время инцидентов безопасности. «Раньше я просил Codex в чём-то разобраться и параллельно начинал разбираться сам: я знал, что ждать ответа придётся слишком долго, — говорит Адам. — Теперь с Ultrafast Codex работает достаточно быстро, и я могу просто сосредоточиться на задаче, а не распылять внимание».

Саян ценит возможность мгновенно получать ответы из нескольких источников данных с помощью Ultrafast: «Во время инцидента я использую Codex не только для анализа логов, но и для поиска в Slack. Так я могу выяснить, упоминались ли там подозрительные изменения или обсуждались ли похожие симптомы в других каналах», — говорит он.

Джефф Ню, ещё один технический специалист, говорит, что, если поиск ответа с помощью ИИ занимает больше 30 секунд, он переключается на Slack или разговор с коллегой. Но теперь благодаря Ultrafast при выполнении большинства задач он получает ответ быстрее. Раньше он задавал Codex вопрос, переключался на что-то другое, пока тот думал, и к моменту возвращения уже терял нить мысли. Теперь общение идёт в реальном времени, и это помогает ему сохранять концентрацию на текущей задаче.

С Ultrafast Джефф также охотнее берётся за масштабный рефакторинг, потому что переработка существующего кода занимает меньше времени. «Теперь избавляться от технического долга гораздо проще, чем когда-либо прежде», — говорит он. — Код обходится дёшево, а теперь его ещё и можно писать очень быстро. Рефакторинг, который раньше требовал больших затрат, теперь выполняется почти мгновенно».

Адам постоянно ведёт диалог с Codex, который он называет своим персональным помощником — своего рода руководителем аппарата. Каждое утро Codex сообщает ему, какие встречи запланированы и на какие сообщения он, возможно, забыл ответить. «Чтобы составить эту сводку, он уже изучил все данные, поэтому, когда я задаю уточняющий вопрос, ему не нужно тратить время на поиск дополнительной информации», — говорит он. — Я могу просто продолжать задавать вопросы в том же диалоге, как настоящему руководителю аппарата».

Саян поручает Codex утомительную ручную работу в браузере, например заполнение форм. Раньше он этого избегал, потому что всё происходило слишком медленно. «Он открывал браузер, пять секунд думал, нажимал на что-то, снова замирал», — говорит он. Последние модели лучше справляются с управлением компьютером, поэтому теперь он охотнее доверяет эту работу Codex. «Теперь я спокойно позволяю ему работать в браузере: он справляется достаточно быстро, и я не теряю время, поручая это ему, а не делая сам», — говорит Саян.

Будь то реагирование на инциденты, планирование дня или рефакторинг, Ultrafast позволяет техническим специалистам OpenAI работать с Codex, получая ответы по мере возникновения вопросов. Они могут уточнить ответ, попробовать другой подход и продолжать работу, не теряя нить мысли. Сокращение времени ожидания меняет и круг задач, за которые они готовы браться: от давно отложенного рефакторинга до рутины, которую наконец имеет смысл делегировать.