Rakuten отстранява проблеми два пъти по-бързо с Codex

Rakuten⁠⁠(отваря се в нов прозорец) е глобална компания за иновации, която работи в областта на електронната търговия, финансовите технологии и мобилните комуникации, обслужвайки потребители и търговци в огромен мащаб. С 30 000 служители по целия свят инженерните екипи доставят в рамките на голяма, сложна екосистема от продукти, където както скоростта, така и надеждността са от съществено значение.

Ето защо Юсуке Каджи, генерален мениджър по изкуствен интелект за бизнеса в Rakuten, прекара последната година в това да внедрява агентни работни процеси по-дълбоко в начина, по който екипите планират, изграждат и валидират софтуер. Codex⁠⁠— агент за програмиране от OpenAI — се превърна в основна част от инженерния стек на Rakuten, особено когато компанията трябва да се движи по-бързо, без да прави компромис със сигурността.

През изминалата година инженерите на Rakuten използваха Codex в операциите и доставката на софтуер, за да ускорят реакцията при инциденти (включително намаляване на средното време за възстановяване или MTTR с ~50%), да подобрят CI/CD с автоматизиран преглед на кода и проверки за уязвимост и да поддържат по-автономна разработка на сложни проекти.

В инженерния екип на Rakuten програмата им за ИИ е ясна и целенасочено ориентирана към практическото изпълнение. Kaji очертава работата около три приоритета, зад които се обединяват екипите:

• Създавайте по-бързо („Скорост! Скорост! Скорост!“): Екипите използват Codex в оперативни работни процеси, включително мониторинг и диагностика, базирани на KQL, за да ускорят анализа на първопричините и отстраняването им, което помага MTTR да се съкрати с до 50%.
• Изграждайте по-безопасно („Свършете работа“): Codex се извиква в CI/CD за преглед на код и проверки за уязвимости, като автоматично прилага вътрешни стандарти, така че екипите да могат да доставят бързо с предпазни механизми.
• Работете по-умно („AI-низация“): Codex придвижва напред по-големи нееднозначни проекти от спецификация към работещи имплементации, намалявайки зависимостта от перфектно дефинирани изисквания, позволявайки по-автономно изпълнение и в крайна сметка съкрати тримесечните усилия до седмици.

Codex се свързва директно с всеки приоритет като надежден агент в по-широк набор от инструменти, показвайки къде скоростта, безопасността и автономността създават натрупваща се стойност.

Скоростта в Rakuten включва времето за възстановяване, а не само скоростта на разработка.

Екипите използват KQL (системата за заявки за регистри и телеметрия на Azure), за да наблюдават API и да анализират сигнали. Codex работи заедно с тези работни процеси, за да помогне за идентифициране на първопричините и да предложи корекции, като намалява времето между сигнала и разрешаването му.

От гледна точка на инженерството за надеждност на сайта (SRE) това съкращава пътя от откриване до отстраняване. Вместо ръчно да свързват заявки, регистри и корекции, инженерите могат да се съсредоточат върху валидирането и внедряването на корекции.

Според оценките на Rakuten този подход може да намали MTTR с около 50% при възникване на проблеми. Или казано по-просто: Rakuten използва Codex, за да отстранява проблемите два пъти по-бързо, когато нещо се счупи.

С ускоряването на доставката, прегледът и внедряването могат да се превърнат в затруднения. Rakuten се справя с това, като интегрира Codex директно в своя CI/CD канал.

Codex извършва преглед на кода и проверки за уязвимости, преди промените да достигнат до производствената среда. Rakuten интегрира вътрешните принципи и стандарти за кодиране в тези работни процеси, така че прегледите да са в съответствие с очакванията на компанията.

„Предоставяме нашите вътрешни принципи за кодиране на Codex“, казва Kaji. „Използвайки същите принципи, той преглежда дали кодът е в съответствие с нашите стандарти.“

Резултатът: проверките за безопасност се извършват последователно и автоматично, което позволява на екипите да работят по-бързо, без да понижават стандартите.

Третият приоритет на Rakuten — AI-низация — се фокусира върху автономността. Codex се използва не само за преглед и поддръжка, но и за изпълнение на по-големи нееднозначни проекти от край до край. Вместо да изисква перфектно дефинирани спецификации, Codex може да продължи напред, изхождайки от частични изисквания, и да създава използваеми артефакти.

„Най-новите модели Codex могат да четат между редовете“, казва Каджи. „Дори ако изискванията не са перфектно дефинирани, то разбира какво се опитваме да създадем.“

Един пример: изграждане на версия за мобилно приложение на съществуваща уеб базирана услуга за агент с ИИ. Codex имплементира цялата спецификация, включително full stack имплементация с Python/FastAPI бекенд и Swift/SwiftUI iOS приложение, включително всички бекенд API, без поетапни човешки инструкции. Codex съкрати времето за разработка за този проект от едно тримесечие до седмици.

Тъй като Codex поема повече работа по генериране на код, Rakuten измества ролята на инженера към писане на по-ясни спецификации и проверка на резултатите спрямо измерими стандарти. 

„Нашата роля вече не е да проверяваме всеки ред код“, казва Каджи. „Нашата роля е ясно да определим какво искаме и да установим как да го проверим.“

Rakuten подкрепи тази промяна чрез практически семинари в инженерни, продуктови и нетехнически екипи, като допринесе за това Codex да играе централна роля в подпомагането на екипите да доставят по-бързо, да работят по-безопасно и да мащабират автономната разработка в цялата организация.