Rakuten membetulkan isu dua kali lebih pantas dengan Codex

Rakuten⁠⁠(dibuka dalam tetingkap baru) ialah syarikat inovasi global yang beroperasi merentasi e-dagang, fintech dan komunikasi mudah alih, melayani kedua-dua pengguna dan pedagang pada skala yang besar. Dengan 30,000 pekerja di seluruh dunia, pasukan kejuruteraannya menghantar merentasi ekosistem produk yang besar dan kompleks, di mana kedua-dua kelajuan dan kebolehpercayaan adalah penting.

Itulah sebabnya Yusuke Kaji, Pengurus Besar AI untuk Perniagaan di Rakuten, telah menghabiskan setahun yang lalu mendorong aliran kerja berejen lebih mendalam ke dalam cara pasukan merancang, membina dan mengesahkan perisian. Codex⁠⁠—ejen pengekodan dari OpenAI—telah menjadi bahagian teras dalam timbunan kejuruteraan Rakuten, terutamanya apabila syarikat perlu bergerak lebih pantas tanpa menjejaskan keselamatan.

Sepanjang tahun lalu, jurutera Rakuten telah menggunakan Codex merentas operasi dan penyampaian perisian untuk memendekkan respons insiden (termasuk pengurangan ~50% dalam purata masa untuk pemulihan, atau MTTR), mengukuhkan CI/CD dengan semakan kod automatik dan pemeriksaan kerentanan, serta menyokong pembangunan yang lebih autonomi pada projek yang kompleks.

Dalam pasukan kejuruteraan Rakuten, agenda AI mereka jelas dan sengaja bersifat operasi. Kaji merangka kerja ini berdasarkan tiga keutamaan yang disokong oleh pasukan

• Bina lebih pantas (“Speed!! Speed!! Speed!!”): Pasukan menggunakan Codex dalam aliran kerja operasi, termasuk pemantauan dan diagnosis berasaskan KQL untuk mempercepatkan analisis punca asal dan pemulihan, membantu memendekkan MTTR sehingga 50%.
• Bina dengan lebih selamat (“Get things done”): Codex dilaksanakan dalam CI/CD untuk semakan kod dan pemeriksaan kerentanan, menggunakan piawaian dalaman secara automatik supaya pasukan boleh menghantar dengan cepat dengan lapisan keselamatan.
• Beroperasi dengan lebih bijak (“AI-nization”): Codex memacu projek yang lebih besar dan samar ke hadapan daripada spesifikasi ke arah pelaksanaan yang berfungsi, mengurangkan kebergantungan pada keperluan yang ditakrifkan dengan sempurna, membolehkan pelaksanaan yang lebih autonomi dan akhirnya memampatkan usaha selama suku tahun menjadi beberapa minggu.

Codex memetakan secara langsung kepada setiap keutamaan sebagai ejen yang boleh dipercayai dalam set alat yang lebih luas, muncul di tempat kelajuan, keselamatan, dan autonomi mencipta nilai berganda.

Kelajuan di Rakuten merangkumi masa pemulihan, bukan hanya kelajuan pembangunan.

Teams menggunakan KQL (sistem pertanyaan Azure untuk logs dan telemetry) untuk memantau API dan menganalisis isyarat. Codex bekerjasama dengan aliran kerja ini untuk membantu mengenal pasti punca utama dan mencadangkan pembetulan, mengurangkan masa antara amaran dan penyelesaian.

Dari perspektif kejuruteraan kebolehpercayaan tapak (SRE), ini memendekkan laluan daripada pengesanan kepada pemulihan. Daripada menyambung pertanyaan, log, dan tampalan secara manual, jurutera boleh menumpukan pada mengesahkan dan melaksanakan pembetulan.

Rakuten menganggarkan pendekatan ini boleh memendekkan MTTR sebanyak kira-kira 50% apabila isu berlaku. Atau secara ringkasnya: Rakuten telah menggunakan Codex untuk membaiki masalah sebanyak dua kali lebih pantas apabila berlaku kerosakan.

Apabila penghantaran dipercepatkan, semakan dan pasang atur boleh mengakibatkan kesesakan. Rakuten menangani perkara ini dengan mengintegrasikan Codex secara langsung ke dalam saluran CI/CD.

Codex menjalankan semakan kod dan pemeriksaan kelemahan sebelum perubahan sehingga ke pengeluaran. Rakuten memasukkan prinsip dan piawaian pengekodan dalaman ke dalam aliran kerja ini supaya semakan selaras dengan jangkaan syarikat.

“Kami menyediakan prinsip pengekodan dalaman kami kepada Codex,” kata Kaji. “Dengan menggunakan prinsip yang sama, ia menyemak sama ada kod itu selaras dengan piawaian kami.”

Hasilnya: pemeriksaan keselamatan berlaku secara konsisten dan automatik, membolehkan pasukan bergerak lebih pantas tanpa menurunkan piawaian.

Keutamaan ketiga Rakuten—AI-nisasi—memberi tumpuan kepada autonomi. Codex digunakan bukan sahaja untuk semakan dan penyelenggaraan, tetapi juga untuk melaksanakan projek yang lebih besar dan samar dari hujung ke hujung. Daripada memerlukan spesifikasi yang ditakrifkan dengan sempurna, Codex boleh meneruskan daripada keperluan separa dan menghasilkan artifak yang boleh digunakan.

“Model Codex terkini boleh membaca di sebalik baris,” kata Kaji. “Walaupun keperluan tidak ditakrifkan dengan sempurna, ia memahami apa yang kami cuba bina.”

Satu contoh: membina versi aplikasi mudah alih bagi perkhidmatan ejen AI berasaskan web yang sedia ada. Codex melaksanakan keseluruhan spesifikasi, melibatkan pelaksanaan tindanan penuh dengan bahagian belakang Python/FastAPI dan aplikasi iOS Swift/SwiftUI, termasuk semua API bahagian belakang, tanpa arahan manusia langkah demi langkah. Codex mengurangkan masa pembangunan untuk projek ini daripada suku tahun kepada berminggu-minggu.

Apabila Codex mengambil alih lebih banyak kerja penjanaan kod, Rakuten sedang mengalihkan peranan jurutera kepada menulis spesifikasi yang lebih jelas dan mengesahkan output berbanding piawaian yang boleh diukur. 

“Peranan kami bukan lagi untuk menyemak setiap baris kod,” kata Kaji. “Peranan kami adalah untuk mentakrifkan dengan jelas apa yang kami mahu dan menetapkan cara untuk mengesahkannya.”

Rakuten telah menyokong peralihan ini melalui bengkel praktikal merentasi pasukan kejuruteraan, produk, dan bukan teknikal—menyumbang kepada Codex memainkan peranan utama dalam membantu pasukan menghantar lebih cepat, beroperasi lebih selamat, dan menskalakan pembangunan autonomi merentasi organisasi.