Rakuten lost problemen twee keer zo snel op met Codex

Rakuten⁠⁠(opent in een nieuw venster) is een wereldwijd innovatiebedrijf dat actief is op het gebied van e-commerce, fintech en mobiele communicatie, en zowel consumenten als handelaren op zeer grote schaal bedient. Met 30.000 medewerkers wereldwijd brengen de engineeringteams producten uit binnen een groot, complex productecosysteem waarin zowel snelheid als betrouwbaarheid essentieel zijn.

Daarom heeft Yusuke Kaji, General Manager AI for Business bij Rakuten, het afgelopen jaar gewerkt aan het verder integreren van agentgestuurde workflows in de manier waarop teams software plannen, bouwen en valideren. Codex⁠, de codeeragent van OpenAI, is een kernonderdeel geworden van de technologiestack van Rakuten, vooral waar het bedrijf sneller moet kunnen werken zonder concessies te doen aan de beveiliging.

Het afgelopen jaar hebben ingenieurs van Rakuten Codex gebruikt binnen operaties en softwareontwikkeling om de incidentrespons te verkorten (waaronder een reductie van ongeveer 50% in de gemiddelde hersteltijd, of MTTR), CI/CD te versterken met geautomatiseerde code reviews en kwetsbaarheidscontroles, en meer autonome ontwikkeling bij complexe projecten te ondersteunen.

Binnen het engineeringteam van Rakuten is de AI-agenda helder en doelbewust operationeel. Kaji kadert het werk rond drie prioriteiten waar teams zich achter scharen:

• Sneller bouwen ('Snelheid!! Snelheid!! Snelheid!!'): teams gebruiken Codex in operationele workflows, waaronder KQL-gebaseerde bewaking en diagnose, om hoofdoorzaakanalyse en herstel te versnellen, waardoor MTTR met maximaal 50% kan worden verkort.
• Veiliger bouwen ('dingen voor elkaar krijgen'): Codex wordt aangeroepen in CI/CD voor codebeoordeling en kwetsbaarheidscontroles, waarbij interne standaarden automatisch worden toegepast zodat teams snel kunnen uitrollen met veiligheidskaders.
• Slimmer werken ('AI-nization'): Codex helpt grotere, ambiguë projecten vooruit van specificatie naar werkende implementaties, waardoor de afhankelijkheid van perfect gedefinieerde vereisten afneemt, autonomere uitvoering mogelijk wordt en trajecten die normaal een kwartaal duren uiteindelijk worden teruggebracht tot weken.

Codex sluit rechtstreeks aan op elke prioriteit als een betrouwbare agent binnen een bredere toolkit, en komt tot zijn recht waar snelheid, veiligheid en autonomie elkaar versterkende waarde creëren.

Snelheid bij Rakuten omvat hersteltijd, niet alleen ontwikkelsnelheid.

Teams gebruiken KQL (het querysysteem van Azure voor logs en telemetrie) om API’s te bewaken en signalen te analyseren. Codex werkt samen met deze workflows om hoofdoorzaken te helpen identificeren en oplossingen voor te stellen, waardoor de tijd tussen melding en oplossing wordt verkort.

Vanuit het perspectief van site reliability engineering (SRE) verkort dit het traject van detectie tot herstel. In plaats van handmatig queries, logs en patches aan elkaar te koppelen, kunnen ingenieurs zich richten op het valideren en uitrollen van oplossingen.

Rakuten schat dat deze aanpak de MTTR met ongeveer 50% kan verlagen wanneer er problemen optreden. Of eenvoudiger gezegd: Rakuten heeft Codex gebruikt om problemen twee keer zo snel op te lossen als er iets misgaat.

Naarmate het releasen versnelt, kunnen beoordeling en uitrol knelpunten worden. Rakuten pakt dit aan door Codex rechtstreeks in de eigen CI/CD-pipeline te integreren.

Codex voert codereviews en kwetsbaarheidscontroles uit voordat wijzigingen de productieomgeving bereiken. Rakuten integreert interne coderingsprincipes en -standaarden in deze workflows, zodat beoordelingen aansluiten bij de bedrijfsverwachtingen.

'We verstrekken onze interne programmeerprincipes aan Codex', zegt Kaji. 'Op basis van dezelfde principes controleert het of de code voldoet aan onze standaarden.'

Het resultaat: veiligheidscontroles worden consequent en automatisch uitgevoerd, waardoor teams sneller kunnen werken zonder concessies te doen aan de standaarden.

De derde prioriteit van Rakuten, 'AI-nization', is gericht op autonomie. Codex wordt niet alleen gebruikt voor reviews en onderhoud, maar ook om grotere, minder duidelijk afgebakende projecten van begin tot eind uit te voeren. In plaats van perfect gedefinieerde specificaties te vereisen, kan Codex verder werken op basis van gedeeltelijke vereisten en bruikbare artefacten produceren.

'De nieuwste Codex-modellen kunnen tussen de regels door lezen', zegt Kaji. 'Zelfs als de vereisten niet perfect zijn gedefinieerd, begrijpt het wat we proberen te bouwen.'

Een voorbeeld: het bouwen van een mobiele-appversie van een bestaande webgebaseerde AI-agentdienst. Codex heeft de volledige specificatie geïmplementeerd, met een full-stack-implementatie met een Python/FastAPI-backend en een Swift/SwiftUI iOS-app, inclusief alle backend-API’s, zonder stapsgewijze menselijke instructies. Codex bracht de ontwikkeltijd voor dit project terug van een kwartaal naar enkele weken.

Naarmate Codex meer werk op het gebied van codegeneratie op zich neemt, verlegt Rakuten de rol van de engineer naar het schrijven van duidelijkere specificaties en het verifiëren van outputs aan de hand van meetbare standaarden. 

'Onze rol is niet langer om elke regel code te controleren', zegt Kaji. 'Onze rol is om duidelijk te definiëren wat we willen en vast te stellen hoe we dit kunnen verifiëren.'

Rakuten heeft deze verschuiving ondersteund met praktijkgerichte workshops voor engineering-, product- en niet-technische teams. Daardoor speelt Codex een centrale rol bij het helpen van teams om sneller op te leveren, veiliger te werken en autonome ontwikkeling in de hele organisatie op te schalen.