Cum a redus Ultrafast investigarea incidentelor de la ore la minute la OpenAI

Acest articol face parte din seria în care prezentăm exemple despre cum OpenAI își folosește propriile tehnologii și API-uri. Aceste instrumente sunt utilizate intern, la OpenAI, și sunt prezentate aici pentru a ilustra cum răspunde AI de vârf nevoilor diverselor noastre echipe.

Ultrafast este un mod de mare viteză din Codex și a devenit opțiunea implicită a inginerilor OpenAI pentru răspunsul la incidente. Când ceva nu funcționează, inginerii nu au adesea timp să aștepte minute întregi un răspuns, în timp ce problema se agravează. Cu Ultrafast, pot investiga simultan mai multe cauze posibile și pot obține răspunsuri fără să-și împartă atenția.

Aaron Friel, membru al echipei tehnice de la OpenAI, este de obicei cel care coordonează intervenția în cazul unui incident. Creează un canal Slack pentru gestionarea incidentului, apoi îi prezintă problema lui Codex, cerându-i să monitorizeze situația, să investigheze și să răspundă la întrebări pe măsură ce apar. „În orice incident, există de obicei multe puncte pe parcurs unde lucrurile ar fi putut merge prost, iar găsirea acului potrivit în carul cu fân potrivit este, de fapt, sarcina principală a celor de pe acel canal”, spune el. „Cu Ultrafast, pot practic să caut în toate acele care cu fân în același timp și să răspund mult mai repede la incidente.”

AJ Trbojevic, membru al echipei tehnice și arhitect de securitate pentru centre de date, spune că, în investigațiile privind problemele de securitate, dura înainte o oră sau două să reunească datele structurate și nestructurate, să le normalizeze și să ofere contextul necesar pentru luarea unei decizii. „Acum, toate acestea durează între 10 și 15 minute”, spune el. „Iar uneori se întâmplă aproape în timp real.”

Adam Perry și Sayan Sisodiya lucrează amândoi în echipa responsabilă de funcționalitățile de bază ale agentului, dezvoltând codul care îi permite lui Codex să efectueze acțiuni, să execute comenzi și să folosească instrumente. Ultrafast a schimbat modul în care ei lucrează în timpul incidentelor de securitate. „Înainte, îi ceream lui Codex să investigheze ceva, apoi investigam și eu în paralel, pentru că știam că nu va fi suficient de rapid încât să merite să aștept”, spune Adam. „Acum, cu Ultrafast, Codex este suficient de rapid încât pot să rămân concentrat, în loc să-mi împart atenția.”

Sayan apreciază faptul că Ultrafast îi permite să obțină răspunsuri imediate din mai multe surse de date: „Pe lângă căutările prin jurnale în timpul unui incident, folosesc Codex ca să caut în Slack referiri la modificări suspecte sau discuții despre simptome similare în alte canale Slack”, spune el.

Jeff Niu, un alt membru al echipei tehnice, spune că, dacă găsirea unui răspuns cu ajutorul AI durează mai mult de 30 de secunde, ajunge să verifice Slack sau să discute cu un coleg. Însă, cu Ultrafast, cea mai mare parte a muncii sale se încadrează acum sub acest prag. Înainte, îi punea lui Codex o întrebare, trecea la altceva cât timp acesta gândea și, când revenea, își pierduse firul ideilor. Acum, conversația are loc în timp real, ceea ce îl ajută să rămână concentrat asupra sarcinii la care lucrează.

Ultrafast îl încurajează pe Jeff să se apuce și de refactorizări ample, deoarece restructurarea codului existent durează mai puțin. „Acum este mult mai ușor ca oricând să reducem datoria tehnică”, spune el. „Codul costă puțin, iar acum poate fi produs foarte repede. O refactorizare care înainte costa mult se realizează aproape instantaneu.”

Adam păstrează o conversație continuă cu Codex, pe care îl numește șeful său de cabinet. În fiecare dimineață, Codex îi spune ce ședințe are și la ce mesaje este posibil să fi uitat să răspundă. „A analizat deja toate datele ca să scrie acel rezumat, așa că, atunci când pun o întrebare suplimentară, nu mai pierde timp căutând alte informații”, spune el. „Pot continua să pun întrebări în aceeași conversație, exact cum aș face cu un șef de cabinet adevărat.”

Sayan folosește Codex pentru sarcini manuale migăloase în browser, cum ar fi completarea formularelor — lucru pe care îl evitase înainte, deoarece dura prea mult. „Deschidea un browser, stătea cinci secunde să gândească, făcea clic pe ceva, apoi se oprea din nou”, spune el. Datorită îmbunătățirilor aduse celor mai recente modele în ceea ce privește utilizarea computerului, are mai multă încredere să lase aceste sarcini în seama lui Codex. „Acum îl las fără probleme să navigheze prin browser și este suficient de rapid încât nu pierd timp dacă nu fac eu însumi aceste lucruri.”

De la răspunsul la incidente la planificarea zilnică și refactorizare, Ultrafast le permite membrilor echipei tehnice OpenAI să lucreze cu Codex în ritmul în care le vin întrebările. Pot cere clarificări la un răspuns, pot încerca o altă abordare și pot continua să lucreze fără să-și piardă firul ideilor. Timpul de așteptare mai scurt schimbă și sarcinile pe care sunt dispuși să le abordeze, de la o refactorizare amânată până la o sarcină de rutină pe care, în sfârșit, merită să o delege.