Rakuten отклања проблеме двоструко брже уз Codex

Rakuten⁠⁠(отвара се у новом прозору) је глобална иновативна компанија која послује у областима е-трговине, финансијских технологија и мобилних комуникација, пружајући услуге и потрошачима и трговцима у изузетно великом обиму. Са 30.000 запослених широм света, инжењерски тимови компаније испоручују решења у оквиру великог, сложеног екосистема производа, где су и брзина и поузданост од суштинског значаја.

Зато је Јусуке Каџи, генерални менаџер за вештачку интелигенцију за пословање у компанији Rakuten, протеклу годину провео настојећи да агентске токове рада све дубље интегрише у начин на који тимови планирају, развијају и валидирају софтвер. Codex⁠⁠–агент за програмирање компаније OpenAI – постао је кључни део инжењерског стека компаније Rakuten, посебно тамо где компанија треба да ради брже без угрожавања безбедности.

Током протекле године, инжењери компаније Rakuten користили су Codex у операцијама и испоруци софтвера како би скратили време реаговања на инциденте (укључујући смањење просечног времена опоравка, односно MTTR-а, за око 50%), ојачали CI/CD аутоматизованом провером кода и провером рањивости, као и подржали аутономнији развој на сложеним пројектима.

У оквиру Rakuten-овог инжењерског тима, њихов план за вештачку интелигенцију је јасно дефинисан и намерно усмерен на оперативну примену. Каџи поставља рад у оквир три приоритета око којих се тимови окупљају:

• Градите брже („Брзина! Брзина! Брзина!“): Тимови користе Codex у оперативним радним токовима, укључујући надгледање и дијагностику засноване на KQL-у, како би убрзали анализу основног узрока и отклањање проблема, помажући да се MTTR скрати и до 50%.
• Градите безбедније („Завршите посао“): Codex се покреће у CI/CD процесу за преглед кода и провере рањивости, аутоматски примењујући интерне стандарде како би тимови могли брзо да испоручују уз заштитне механизме.
• Радите паметније (интеграција AI): Codex води веће, нејасно дефинисане пројекте од спецификације ка функционалним имплементацијама, смањујући зависност од савршено дефинисаних захтева, омогућавајући аутономније извршавање и на крају скраћујући напоре који трају један квартал на недеље.

Codex директно одговара сваком приоритету као поуздан агент у ширем скупу алата, појављујући се тамо где брзина, безбедност и аутономија стварају кумулативну вредност.

У компанији Rakuten, брзина обухвата време и опоравка, а не само брзину развоја.

Тимови користе KQL (Azure-ов систем упита за евиденције и телеметрију) за надгледање API-ја и анализу сигнала. Codex ради упоредо са овим токовима рада како би помогао у идентификовању основних узрока и предложио исправке, скраћујући време од упозорења до решења.

Из перспективе инжењеринга поузданости сајта (SRE), ово скраћује пут од откривања до отклањања проблема. Уместо да ручно састављају упите, евиденције и закрпе, инжењери могу да се усредсреде на валидацију и увођење исправки.

Rakuten процењује да овај приступ може да смањи MTTR за приближно 50% када дође до проблема. Или једноставније речено: Rakuten је користио Codex да отклања проблеме двоструко брже када нешто откаже.

Како се испорука убрзава, преглед и примена могу постати уска грла. Rakuten ово решава тако што интегрише Codex директно у свој CI/CD процес.

Codex обавља преглед кода и провере рањивости пре него што измене доспеју у продукцију. Rakuten уноси интерне принципе и стандарде кодирања у ове токове рада како би прегледи били усклађени са очекивањима компаније.

„Достављамо Codex-у своја интерна начела кодирања“, каже Каџи. „Користећи иста начела, проверава да ли је код усклађен са нашим стандардима.“

Резултат: безбедносне провере се обављају доследно и аутоматски, омогућавајући тимовима да раде брже без снижавања стандарда.

Трећи приоритет компаније Rakuten – интеграција AI – усмерен је на аутономију. Codex се не користи само за преглед и одржавање, већ и за реализацију већих, нејасно дефинисаних пројеката од почетка до краја. Уместо да захтева савршено дефинисане спецификације, Codex може да напредује на основу делимичних захтева и произведе употребљиве артефакте.

„Најновији Codex модели могу да читају између редова“, каже Каџи. „Чак и ако захтеви нису савршено дефинисани, разуме шта покушавамо да направимо.“

Један пример: израда верзије постојеће веб-услуге AI агента као мобилне апликације. Codex је имплементирао целу спецификацију, укључујући комплетну имплементацију стека са Python/FastAPI backend и Swift/SwiftUI iOS апликацијом, укључујући све backend API-је, без људских упутстава корак по корак. Codex је скратио време развоја овог пројекта са једног квартала на неколико недеља.

Како Codex преузима све више посла генерисања кода, Rakuten помера улогу инжењера ка писању јаснијих спецификација и провери резултата у односу на мерљиве стандарде. 

„Наша улога више није да проверавамо сваки ред кода“, каже Каџи. „Наша улога је да јасно дефинишемо шта желимо и утврдимо како да то проверимо.“

Rakuten је подржао ову промену кроз практичне радионице у инжењерским, производним и нетехничким тимовима – чиме је допринео томе да Codex има централну улогу у помагању тимовима да брже испоручују, раде безбедније и скалирају аутономни развој широм организације.