Rakuten rieši problémy s Codexom dvakrát rýchlejšie.

Rakuten⁠⁠(otvorí sa v novom okne) globálna inovačná spoločnosť pôsobiaca v oblasti e-commerce, fintech a mobilných komunikácií, ktorá vo veľkom rozsahu poskytuje služby spotrebiteľom aj obchodníkom. Táto spoločnosť má 30 000 zamestnancov po celom svete a inžinierske tímy pôsobia v rámci rozsiahleho komplexného ekosystému produktov, pri ktorom je nevyhnutná rýchlosť aj spoľahlivosť.

Preto Yusuke Kaji, Generálny riaditeľ pre umelú inteligenciu v obchodnom sektore v spoločnosti Rakuten, strávil uplynulý rok presadzovaním agentických pracovných postupov hlbšie do toho, ako tímy plánujú, vytvárajú a overujú softvér. Codex⁠⁠ – Kódovací agent od OpenAI – sa stal kľúčovou súčasťou inžinierskeho stacku spoločnosti Rakuten, najmä tam, kde sa spoločnosť potrebuje pohybovať rýchlejšie bez toho, aby ohrozila bezpečnosť.

Za uplynulý rok inžinieri spoločnosti Rakuten používali Codex naprieč prevádzkou a doručovaním softvéru na skrátenie reakcie na incidenty (vrátane približne 50 % zníženia priemerného času do obnovy, teda MTTR), posilnenie CI/CD pomocou automatizovanej kontroly kódu a kontrol zraniteľností a podporu autonómnejšieho vývoja na zložitých projektoch.

V rámci inžinierskeho tímu spoločnosti Rakuten je agenda v oblasti umelej inteligencie jasná a zámerne orientovaná na prevádzku. Kaji rámcuje prácu okolo troch priorít, ktoré tímy podporujú:

• Rýchlejšie tvorenie („Rýchlosť!! Rýchlosť!! Rýchlosť!!“): Tímy používajú Codex v prevádzkových pracovných postupoch vrátane monitorovania a diagnostiky založených na KQL, aby urýchlili analýzu hlavnej príčiny a nápravu, čo pomáha skrátiť MTTR až o 50 %.
• Bezpečnejšie tvorenie („Dokončite toodex sa spúšťa v CI/CD na kontrolu kódu a kontroly zraniteľností, pričom automaticky uplatňuje interné štandardy, aby tímy mohli rýchlo dodávať s ochrannými zábranami.
• Inteligentnejšia práca („zapájanie AI [Ai-nization]“): Codex posúva väčšie, nejednoznačné projekty vpred od špecifikácie k funkčným implementáciám, znižuje závislosť od dokonale definovaných požiadaviek, umožňuje autonómnejšie vykonávanie a napokon skracuje úsilie na celé štvrťroky na týždne.

Codex sa priamo mapuje na každú prioritu ako spoľahlivý agent v širšej sade nástrojov a objavuje sa tam, kde rýchlosť, bezpečnosť a autonómia vytvárajú kumulatívnu hodnotu.

Rýchlosť v spoločnosti Rakuten zahŕňa čas na zotavenie, nielen rýchlosť vývoja.

Tímy používajú KQL (systém dotazov Azure pre protokoly a telemetriu) na monitorovanie rozhraní API a analýzu signálov. Codex spolupracuje s týmito pracovnými postupmi, aby pomohol identifikovať hlavné príčiny a navrhnúť opravy, čím skracuje čas medzi upozornením a vyriešením.

Z pohľadu site reliability engineering (SRE) to skracuje cestu od detekcie k náprave. Namiesto manuálneho spájania dopytov, protokolov a opráv sa inžinieri môžu sústrediť na overenie a nasadenie opráv.

Spoločnosť Rakuten odhaduje, že keď sa vyskytnú problémy, tento prístup môže znížiť MTTR o približne 50 %. Alebo jednoduchšie povedané: Spoločnosť Rakuten používa Codex na to, aby opravoval problémy dvakrát rýchlejšie, keď sa niečo pokazí.

Keď sa dodávanie urýchľuje, kontrola a nasadenie sa môžu stať úzkymi miestami. Rakuten to rieši integráciou Codex priamo do svojich kanálov CI/CD.

Codex vykonáva kontrolu kódu a kontroly zraniteľností predtým, ako sa zmeny dostanú do produkcie. Rakuten vkladá do týchto pracovných postupov interné princípy a štandardy kódovania, aby kontroly zodpovedali očakávaniam spoločnosti.

„Codexu poskytujeme naše interné princípy kódovania,“ hovorí Kaji. „Pomocou rovnakých princípov posudzuje, či kód zodpovedá našim štandardom.“

Výsledok: bezpečnostné kontroly prebiehajú konzistentne a automaticky, čo umožňuje tímom postupovať rýchlejšie bez zníženia štandardov.

Tretia priorita spoločnosti Rakuten – zapájanie AI (AI-nization) – sa zameriava na autonómiu. Codex sa používa nielen na kontrolu a údržbu, ale aj na realizáciu väčších, nejednoznačných projektov od začiatku do konca. Namiesto toho, aby Codex vyžadoval dokonale definované špecifikácie, dokáže pokračovať aj na základe čiastočných požiadaviek a vytvárať použiteľné artefakty.

„Najnovšie modely Codex dokážu čítať medzi riadkami,“ hovorí Kaji. „Aj keď požiadavky nie sú dokonale definované, rozumie tomu, čo sa snažíme vytvoriť.“

Jeden príklad: vytvorenie verzie mobilnej aplikácie existujúcej webovej služby agenta umelej inteligencie. Codex implementoval celú špecifikáciu, pričom zahŕňal plnohodnotnú implementáciu celého stacku s backendom v jazyku Python/FastAPI a iOS aplikáciou v jazykoch Swift/SwiftUI vrátane všetkých backendových API, bez postupných pokynov od človeka. Codex skrátil čas vývoja tohto projektu z jedného štvrťroka na týždne.

Keď Codex preberá viac práce na generovaní kódu, Rakuten posúva úlohu inžiniera smerom k písaniu jasnejších špecifikácií a overovaniu výstupov podľa merateľných štandardov. 

„Našou úlohou už nie je kontrolovať každý riadok kódu,“ hovorí Kaji. „Našou úlohou je jasne definovať, čo chceme, a stanoviť, ako to overiť.“

Spoločnosť Rakuten podporila tento posun prostredníctvom praktických workshopov naprieč inžinierstvom, produktom a netechnickými tímami, čím prispela k tomu, že Codex zohráva ústrednú úlohu pri pomoci tímom doručovať rýchlejšie, fungovať bezpečnejšie a škálovať autonómny vývoj v celej organizácii.