Rakuten s Codexom dvakrat hitreje odpravlja težave

Rakuten⁠⁠(odpre se v novem oknu) je globalno inovacijsko podjetje, ki deluje na področjih e-trgovine, finančne tehnologije in mobilnih komunikacij ter v velikem obsegu oskrbuje tako potrošnike kot trgovce. S 30.000 zaposlenimi po vsem svetu njegove inženirske ekipe razvijajo in dostavljajo rešitve v okviru obsežnega in kompleksnega produktnega ekosistema, v katerem sta hitrost in zanesljivost enako ključni.

Zato je Yusuke Kaji, generalni direktor za umetno inteligenco (UI) za poslovanje v podjetju Rakuten, v zadnjem letu pospešeno uvajal agentske delovne tokove v načrtovanje, razvoj in validiranje programske opreme. Codex⁠⁠, kodirni agent podjetja OpenAI, je postal osrednji del Rakutenovega tehnološkega sklada, zlasti tam, kjer mora podjetje pospešiti delo, ne da bi pri tem ogrozilo varnost.

V preteklem letu so Rakutenovi inženirji uporabljali Codex pri operacijah in dostavi programske opreme in tako skrajšali odziv na incidente (ter skrajšali povprečni čas do ponovne vzpostavitve delovanja (MTTR)), okrepili neprekinjeno integracijo/neprekinjeno dostavo (CI/CD) z avtomatiziranim pregledom kode in preverjanjem ranljivosti ter podprli bolj avtonomen razvoj pri kompleksnih projektih.

Znotraj Rakutenove inženirske ekipe je agenda na področju UI jasna in namerno usmerjena v operativno izvedbo. Kaji delo opredeljuje skozi tri prednostne naloge, za katerimi se ekipe poenotijo:

• Hitrejši razvoj (»Speed! Speed! Speed!«): ekipe uporabljajo Codex v operativnih delovnih tokovih, vključno s spremljanjem in diagnosticiranjem na podlagi KQL, da pospešijo analizo temeljnega vzroka in odpravo težav, kar pripomore k skrajšanju povprečnega časa do ponovne vzpostavitve delovanja za do 50 %.
• Varnejši razvoj (»Get things done«): Codex se prikliče v CI/CD za pregled kode in preverjanje ranljivosti ter samodejno uporablja interne standarde, tako da lahko ekipe hitro lansirajo z ustreznimi zaščitnimi ukrepi.
• Pametnejše delovanje (»AI-nization«): Codex usmerja večje in nejasno opredeljene projekte od specifikacije do delujočih implementacij, zmanjšuje odvisnost od popolnoma opredeljenih zahtev, omogoča bolj avtonomno izvajanje in na koncu skrajša prizadevanja, ki bi sicer trajala četrtletje, na nekaj tednov.

Codex je neposredno povezan z vsako od teh prednostnih nalog kot zanesljiv agent v širšem naboru orodij in se vključuje tam, kjer hitrost, varnost in avtonomija ustvarjajo kumulativno vrednost.

Hitrost v podjetju Rakuten vključuje tudi čas do ponovne vzpostavitve delovanja, ne le hitrosti razvijanja programske opreme.

Ekipe uporabljajo KQL (Azurejev poizvedovalni sistem za dnevnike in telemetrijo) za spremljanje aplikacijskih programskih vmesnikov (API) in analizo signalov. Codex deluje ob teh delovnih tokovih in pomaga prepoznati temeljne vzroke ter predlaga popravke, s čimer skrajša čas med opozorilom in odpravo težave.

Z vidika zanesljivosti delovanja storitev (site reliability engineering, SRE) to skrajša pot od zaznave do odprave težave. Namesto da bi inženirji ročno povezovali poizvedbe, dnevnike in popravke, se lahko osredotočijo na preverjanje in uvajanje rešitev.

Rakuten ocenjuje, da lahko ta pristop ob pojavu težav skrajša povprečni čas do ponovne vzpostavitve delovanja (MTTR) za približno 50 %. Bolj preprosto povedano: Rakuten je s Codexom težave odpravil dvakrat hitreje, ko se nekaj pokvari.

Ko se hitrost lansiranja povečuje, lahko pregledi in uvajanje postanejo ozka grla. Rakuten to rešuje z neposredno integracijo Codexa v svoj cevovod CI/CD.

Codex opravlja pregled kode in preverjanje ranljivosti, preden spremembe dosežejo produkcijsko okolje. Rakuten v te delovne tokove vključuje lastna načela in standarde programiranja, da so pregledi usklajeni s pričakovanji podjetja.

»Naša interna načela programiranja posredujemo Codexu,« pravi Kaji. »Na podlagi teh načel preveri, ali je koda skladna z našimi standardi.«

Rezultat: varnostni pregledi potekajo dosledno in samodejno, kar ekipam omogoča hitrejše delo brez zniževanja standardov.

Rakutenova tretja prednostna naloga, UI-nizacija, se osredotoča na avtonomijo. Codex se uporablja ne le za pregled in vzdrževanje, temveč tudi za izvedbo večjih, nejasno opredeljenih projektov od začetka do konca. Namesto popolnoma natančno določenih specifikacij lahko Codex nadaljuje delo na podlagi delnih zahtev in ustvari uporabne rezultate.

»Najnovejši modeli Codex znajo brati med vrsticami,« pravi Kaji. »Tudi če zahteve niso popolnoma določene, razumejo, kaj želimo razviti.«

Primer: razvoj mobilne aplikacije za obstoječo spletno storitev klepetalnega agenta, ki ga poganja UI. Codex je izvedel celotno specifikacijo, vključno z implementacijo celotne rešitve od čelnega do zalednega dela s Python/FastAPI zaledjem in aplikacijo Swift/SwiftUI za iOS ter vsemi potrebnimi zalednimi aplikacijskimi programskimi vmesniki, brez podrobnih navodil po korakih. Codex je čas razvoja tega projekta skrajšal z enega četrtletja na nekaj tednov.

Ker Codex prevzema vedno več nalog generiranja kode, Rakuten postopoma spreminja vlogo inženirjev: ti se vse bolj osredotočajo na jasnejše definiranje specifikacij in preverjanje rezultatov glede na merljive standarde. 

»Naša naloga ni več preverjati vsake vrstice kode,« pravi Kaji. »Naša naloga je jasno določiti, kaj želimo, in opredeliti, kako bomo to preverili.«

Rakuten je ta premik podprl z delavnicami za praktično uporabo v inženirskih, produktnih in tudi ne-tehničnih ekipah, s čimer je Codex postal osrednji element pri tem, da ekipe hitreje lansirajo rešitve, delujejo varneje in v organizaciji razširjajo bolj avtonomen razvoj.