Rakuten Codex-ийн ачаар асуудлыг хоёр дахин хурдан засдаг

Rakuten⁠⁠(шинэ цонхонд нээгдэнэ) нь цахим худалдаа, финтек, гар утасны харилцаа холбооны чиглэлээр үйл ажиллагаа явуулдаг, хэрэглэгчид болон худалдаачдад өргөн хүрээтэй үйлчилгээ үзүүлдэг дэлхийн хэмжээний инновацийн компани юм. Дэлхий даяар 30,000 ажилтантай тус компанийн инженерийн багууд хурд болон найдвартай байдал хоёулаа чухал ач холбогдолтой том, нарийн төвөгтэй бүтээгдэхүүний экосистемд бүтээгдэхүүнээ хурдан, найдвартай нэвтрүүлдэг.

Тийм учраас Ракутенийн бизнесийн хиймэл оюун ухааны ерөнхий менежер Юсуке Кажи өнгөрсөн жил багууд програм хангамжийг хэрхэн төлөвлөж, бүтээж, баталгаажуулдаг агентлаг ажлын урсгалыг гүнзгийрүүлэн нэвтрүүлэхэд зориулан ажилласан. OpenAI-ийн кодчилолын агент болох Codex⁠⁠нь Rakuten-ийн инженерчлэлийн багцын гол хэсэг болсон, ялангуяа компани аюулгүй байдлыг алдагдуулахгүйгээр илүү хурдан ажиллах шаардлагатай үед.

Өнгөрсөн жилийн хугацаанд Rakuten-ийн инженерүүд Codex-ийг үйл ажиллагаа болон програм хангамжийн хүргэлтэд ашиглан ослын хариу үйлдлийг шахаж (үүнд нөхөн сэргээх дундаж хугацаа буюу MTTR-ийг ~50% бууруулсан), CI/CD-г автомат кодын хяналт болон эмзэг байдлын шалгалтаар бэхжүүлж, нарийн төвөгтэй төслүүд дээр илүү бие даасан хөгжлийг дэмжиж ирсэн.

Rakuten-ийн инженерийн багийн дотор тэдний хиймэл оюун ухааны хөтөлбөр тодорхой бөгөөд зорилготойгоор хэрэгжиж байна. Кажи багууд дэмжиж ажилладаг гурван тэргүүлэх чиглэлийн хүрээнд ажлаа тодорхойлсон:

• Илүү хурдан бүтээх (“Хурд!! Хурд!! Хурд!!”): Багууд үндсэн шалтгааны шинжилгээ, нөхөн сэргээлтийг хурдасгахын тулд KQL дээр суурилсан хяналт, оношлогоо зэрэг үйл ажиллагааны ажлын урсгалд Codex-ийг ашигладаг бөгөөд энэ нь MTTR-ийг 50% хүртэл шахахад тусалдаг.
• Илүү аюулгүй бүтээх (“Ажлаа хийж дуусгах”): Codex-ийг код хянах болон эмзэг байдлыг шалгах зорилгоор CI/CD-д дууддаг бөгөөд багууд хамгаалалтын хашлага ашиглан хурдан тээвэрлэх боломжтой тул дотоод стандартыг автоматаар хэрэгжүүлдэг.
• Илүү ухаалаг ажиллах (“Хиймэл оюун ухаанжсан”): Codex нь илүү том, тодорхойгүй төслүүдийг тодорхойлолтоос эхлээд ажлын хэрэгжилт рүү чиглүүлж, төгс тодорхойлсон шаардлагаас хамаарлыг бууруулж, илүү бие даасан гүйцэтгэлийг бий болгож, улирлын хүчин чармайлтыг долоо хоног болгон шахдаг.

Codex нь илүү өргөн хүрээтэй хэрэгслийн багцад найдвартай агент болгон тэргүүлэх чиглэл бүрт шууд зураглаж, хурд, аюулгүй байдал, бие даасан байдал нь нийлмэл үнэ цэнийг бий болгодог хаана байгааг харуулдаг.

Rakuten дээрх хурд нь зөвхөн хөгжлийн хурдаас гадна сэргэлтийн хугацааг багтаадаг.

Багууд API-г хянах, дохионуудыг шинжлэхийн тулд KQL (Azure-ийн бүртгэл болон телеметрийн лавлагааны систем) ашигладаг. Codex нь эдгээр ажлын урсгалуудтай зэрэгцэн үндсэн шалтгаануудыг тодорхойлох, засварлах саналуудыг гаргахад тусалдаг бөгөөд энэ нь анхааруулга болон шийдвэрлэх хоорондох хугацааг багасгадаг.

Талбайн найдвартай байдлын инженерчлэл (SRE)-ийн үүднээс авч үзвэл энэ нь илрүүлэлтээс эхлээд нөхөн сэргээлт хүртэлх замыг богиносгодог. Инженерүүд асуулга, лог болон нөхөөсүүдийг гараар нэгтгэхийн оронд засваруудыг баталгаажуулж, байршуулахад анхаарлаа төвлөрүүлж чадна.

Асуудал гарсан үед энэ арга нь MTTR-ийг ойролцоогоор 50% бууруулж чадна гэж Rakuten тооцоолж байна. Эсвэл илүү энгийнээр хэлбэл: Rakuten нь ямар нэгэн зүйл эвдэрсэн үед асуудлыг хоёр дахин хурдан засахын тулд Codex-ийг ашигласан.

Тээвэрлэлтийн хурд нэмэгдэхийн хэрээр хяналт шалгалт болон байршуулалт саад тотгор болж болзошгүй. Rakuten нь Codex-ийг CI/CD дамжуулах хоолойдоо шууд нэгтгэснээр үүнийг шийддэг.

Codex нь өөрчлөлтүүд үйлдвэрлэлд хүрэхээс өмнө кодын хяналт болон эмзэг байдлын шалгалтыг хийдэг. Rakuten нь дотоод код бичих зарчим, стандартыг эдгээр ажлын урсгалд оруулдаг тул үнэлгээ нь компанийн хүлээлттэй нийцдэг.

"Бид дотоод код бичих зарчмуудаа Codex-д өгдөг" гэж Кажи хэлэв. “Үүнтэй адил зарчмуудыг ашиглан уг код нь бидний стандартад нийцэж байгаа эсэхийг хянадаг.”

Үр дүн: аюулгүй байдлын шалгалтууд тогтмол, автоматаар явагддаг бөгөөд энэ нь багуудыг стандартыг бууруулахгүйгээр илүү хурдан ажиллах боломжийг олгодог.

Rakuten-ийн гурав дахь тэргүүлэх чиглэл—Хиймэл оюун ухаанжсан—бие даасан байдалд анхаарлаа хандуулдаг. Codex нь зөвхөн хянаж үзэх, засвар үйлчилгээ хийхэд төдийгүй томоохон, тодорхойгүй төслүүдийг эхнээс нь дуустал гүйцэтгэхэд ашиглагддаг. Төгс тодорхойлсон шаардлага шаардахын оронд Codex нь хэсэгчилсэн шаардлагаас урагшилж, ашиглах боломжтой ажлын бүтээгдэхүүнүүдийг бий болгож чадна.

"Хамгийн сүүлийн үеийн Codex загварууд мөр хоорондын зайг уншиж чаддаг" гэж Кажи хэлэв. “Шаардлагуудыг төгс тодорхойлоогүй байсан ч гэсэн бидний юу бүтээхийг оролдож байгааг ойлгодог.”

Нэг жишээ: одоо байгаа вэб суурьтай хиймэл оюун ухааны агент үйлчилгээний гар утасны апп хувилбарыг бүтээх. Codex нь бүхэл бүтэн тодорхойлолтыг хэрэгжүүлсэн бөгөөд бүх арын хэсгийн API-уудыг багтаасан Python/FastAPI backend болон Swift/SwiftUI iOS аппликейшн бүхий бүрэн стекийн хэрэгжилтийг алхам алхмаар хүний зааварчилгаагүйгээр хэрэгжүүлсэн. Codex нь энэ төслийн хөгжлийн хугацааг дөрөвний нэгээс долоо хоног болгон бууруулсан.

Codex нь код үүсгэх ажлыг илүү их хийх тусам Rakuten нь инженерийн үүргийг илүү тодорхой тодорхойлолт бичих, гаралтыг хэмжигдэхүйц стандартуудтай харьцуулах чиглэлд шилжүүлж байна. 

"Бидний үүрэг бол кодын мөр бүрийг шалгах биш" гэж Кажи хэлэв. "Бидний үүрэг бол юу хүсч байгаагаа тодорхой тодорхойлж, үүнийг хэрхэн баталгаажуулахыг тогтоох явдал юм."

Rakuten нь инженерчлэл, бүтээгдэхүүн, техникийн бус багуудын практик семинаруудаар дамжуулан энэ шилжилтийг дэмжсэн бөгөөд Codex нь багуудад илүү хурдан бүтээгдэхүүн гаргах, илүү аюулгүй ажиллах, байгууллагын хэмжээнд бие даасан хөгжлийг өргөжүүлэхэд төв үүрэг гүйцэтгэж байна.