Jak Ultrafast zkrátil vyšetřování incidentů v OpenAI z hodin na minuty

Tento článek je součástí série, ve které sdílíme interní příklady toho, jak OpenAI využívá vlastní technologie a API. Tyto nástroje používáme interně v OpenAI a zde na nich ukazujeme, jak průkopnická AI pomáhá s různými úkoly napříč našimi týmy.

Ultrafast je vysokorychlostní režim v Codexu, který se pro techniky v OpenAI stal první volbou při řešení incidentů. Když se něco porouchá, technici často nemají čas čekat na odpověď celé minuty, zatímco se problém zhoršuje. S režimem Ultrafast mohou prověřovat více možných příčin najednou a získávat odpovědi, aniž by museli dělit svou pozornost.

Aaron Friel, člen technického týmu OpenAI, obvykle řídí řešení incidentu. Založí ve Slacku kanál pro řešení incidentu a pak zadá problém Codexu. Požádá ho, aby situaci sledoval, vyšetřoval a průběžně odpovídal na všechny příchozí otázky. „U každého incidentu je obvykle řada míst, kde se mohlo něco pokazit. Hlavním úkolem lidí v daném kanálu je najít tu správnou jehlu ve správné kupce sena,“ říká. „S režimem Ultrafast můžu v podstatě prohledávat všechny ty kupky sena najednou a reagovat na incidenty mnohem rychleji.“

AJ Trbojevic, člen technického týmu a architekt zabezpečení datových center, říká, že při vyšetřování bezpečnostních problémů dříve trvalo hodinu až dvě shromáždit strukturovaná i nestrukturovaná data, normalizovat je a doplnit kontext potřebný pro rozhodnutí. „Teď to trvá 10 až 15 minut,“ říká. „A někdy to probíhá téměř v reálném čase.“

Adam Perry i Sayan Sisodiya pracují v týmu, který vyvíjí jádro agenta. Vytvářejí kód, díky němuž může Codex provádět akce, spouštět příkazy a používat nástroje. Ultrafast změnil způsob, jakým pracují při bezpečnostních incidentech. „Dřív jsem požádal Codex, aby něco prověřil, a zároveň jsem to začal zkoumat sám, protože jsem věděl, že nebude dost rychlý na to, abych na něj jen čekal,“ říká Adam. „Teď je Codex s režimem Ultrafast dost rychlý na to, abych se mohl soustředit na jednu věc a nemusel dělit pozornost.“

Sayan oceňuje, že díky režimu Ultrafast získává okamžité odpovědi z více zdrojů dat: „Kromě procházení logů při incidentu používám Codex i k prohledávání Slacku. Zjišťuji, jestli tam nejsou zmínky o změnách, které by mohly být příčinou, nebo jestli lidé někde jinde ve Slacku nepopisují podobné příznaky,“ říká.

Jeff Niu, další člen technického týmu, říká, že pokud hledání odpovědi pomocí AI trvá déle než 30 sekund, podívá se mezitím na Slack nebo si popovídá s kolegou. S režimem Ultrafast se ale teď u většiny úkolů vejde pod tuto hranici. Dřív položil Codexu otázku, během jeho přemýšlení se pustil do něčeho jiného, a když se vrátil, už ztratil nit. Teď konverzace probíhá v reálném čase, což mu pomáhá soustředit se na aktuální úkol.

Díky režimu Ultrafast se Jeff také ochotněji pouští do rozsáhlého refaktoringu, protože přepracování stávajícího kódu zabere méně času. „Snižovat technický dluh je teď mnohem snazší než kdy dřív,“ říká. „Kód je levný a teď ho lze i velmi rychle vytvářet. Refaktoring, který býval nákladný, je hotový téměř okamžitě.“

Adam si v Codexu vede dlouhodobou konverzaci, které říká svůj šéf kanceláře. Každé ráno ho Codex informuje, jaké má schůzky a na které zprávy možná zapomněl odpovědět. „Při přípravě shrnutí už prošel všechna data, takže když se na něco doptám, nemusí nejdřív načítat další,“ říká. „Můžu se ve stejné konverzaci dál ptát, jako bych mluvil se skutečným šéfem kanceláře.“

Sayan používá Codex na zdlouhavou ruční práci v prohlížeči, například vyplňování formulářů. Dříve se takovému využití vyhýbal, protože bylo příliš pomalé. „Otevřel prohlížeč, pět sekund přemýšlel, na něco klikl a pak zase čekal,“ říká. Díky tomu, že nejnovější modely lépe ovládají počítač, už tuto práci svěřuje Codexu s větší důvěrou. „Teď ho bez obav nechám proklikávat prohlížeč. Je dost rychlý na to, abych neztrácel čas tím, že to nedělám sám.“

Ať už jde o řešení incidentů, každodenní plánování, nebo refaktoring, díky režimu Ultrafast mohou členové technického týmu OpenAI pracovat s Codexem stejně rychle, jako kladou otázky. Mohou navázat na odpověď, vyzkoušet jiný přístup a pokračovat v práci, aniž by ztratili nit. Kratší čekání také mění to, do čeho jsou ochotni se pustit: od odkládaného refaktoringu až po rutinní úkol, který se konečně vyplatí delegovat.