Ultrafast ช่วย OpenAI ลดเวลาตรวจสอบเหตุขัดข้องจากชั่วโมงเหลือไม่กี่นาทีได้อย่างไร

บทความนี้เป็นส่วนหนึ่งของซีรีส์ที่แบ่งปันตัวอย่างการใช้เทคโนโลยีและ API ของเราเองภายใน OpenAI เครื่องมือเหล่านี้ใช้งานกันภายใน OpenAI และเรานำมาเล่าเพื่อให้เห็นภาพว่า AI ระดับแนวหน้าช่วยสนับสนุนงานต่างๆ ของทีมเราอย่างไร

Ultrafast เป็นโหมดความเร็วสูงใน Codex และกลายเป็นโหมดหลักที่วิศวกรของ OpenAI ใช้รับมือเหตุขัดข้อง เมื่อระบบมีปัญหา วิศวกรมักไม่มีเวลารอคำตอบนานหลายนาที ขณะที่ปัญหากำลังลุกลาม Ultrafast ช่วยให้พวกเขาตรวจสอบสาเหตุที่เป็นไปได้หลายอย่างพร้อมกัน และได้คำตอบโดยไม่ต้องแบ่งสมาธิไปทำอย่างอื่น

Aaron Friel สมาชิกทีมเทคนิคของ OpenAI มักเป็นผู้รับหน้าที่หลักในการจัดการเหตุขัดข้อง เขาสร้างช่องใน Slack สำหรับรับมือเหตุขัดข้อง แล้วให้ Codex เข้ามาช่วยจัดการปัญหา โดยขอให้ติดตาม ตรวจสอบ และตอบคำถามที่เข้ามา “เวลาเกิดเหตุขัดข้อง มักมีหลายจุดในกระบวนการที่อาจเป็นต้นตอของปัญหา การหาสาเหตุให้เจอท่ามกลางข้อมูลมหาศาลจึงเป็นหน้าที่หลักของคนในช่องนั้น” เขากล่าว “เมื่อใช้ Ultrafast ผมก็ค้นหาจากข้อมูลทั้งหมดนั้นได้พร้อมกัน และรับมือเหตุขัดข้องได้เร็วขึ้นมาก”

AJ Trbojevic สมาชิกทีมเทคนิคและสถาปนิกด้านความปลอดภัยของศูนย์ข้อมูล กล่าวว่า การตรวจสอบปัญหาด้านความปลอดภัยเคยต้องใช้เวลาหนึ่งถึงสองชั่วโมงเพื่อรวบรวมข้อมูลทั้งแบบมีโครงสร้างและไม่มีโครงสร้าง ปรับให้อยู่ในรูปแบบเดียวกัน และให้บริบทประกอบการตัดสินใจ “ตอนนี้ทำได้ใน 10 ถึง 15 นาที” เขากล่าว “และบางครั้งก็แทบจะเรียลไทม์”

Adam Perry และ Sayan Sisodiya ทำงานในทีมพัฒนาระบบหลักของเอเจนต์ โดยเขียนโค้ดที่ช่วยให้ Codex ลงมือทำงาน รันคำสั่ง และใช้เครื่องมือต่างๆ ได้ Ultrafast เปลี่ยนวิธีทำงานของพวกเขาเมื่อเกิดเหตุด้านความปลอดภัย “เมื่อก่อนผมจะขอให้ Codex ตรวจสอบบางอย่าง แล้วก็ไปตรวจสอบเรื่องเดียวกันด้วยตัวเองพร้อมกันไปด้วย เพราะรู้ว่ามันยังไม่เร็วพอที่จะรออย่างเดียว” Adam กล่าว “ตอนนี้พอมี Ultrafast แล้ว Codex ก็เร็วพอที่ผมจะจดจ่อกับงานตรงหน้าได้ โดยไม่ต้องแบ่งสมาธิไปทำอย่างอื่น”

Sayan ชอบที่ Ultrafast ช่วยให้เขาได้คำตอบจากหลายแหล่งข้อมูลทันที “นอกจากค้นในบันทึกระบบเมื่อเกิดเหตุขัดข้องแล้ว ผมยังใช้ Codex ค้นใน Slack เพื่อดูว่ามีใครพูดถึงการเปลี่ยนแปลงที่น่าสงสัย หรือคุยกันเรื่องอาการคล้ายๆ กันในช่องอื่นของ Slack ไหม” เขากล่าว

Jeff Niu สมาชิกทีมเทคนิคอีกคน บอกว่าถ้า AI ใช้เวลาหาคำตอบเกิน 30 วินาที เขาจะหันไปเช็ก Slack หรือคุยกับเพื่อนร่วมงาน แต่เมื่อใช้ Ultrafast ตอนนี้งานส่วนใหญ่ของเขาใช้เวลาไม่ถึงจุดนั้นแล้ว เมื่อก่อนเขาจะถามคำถามกับ Codex แล้วสลับไปทำอย่างอื่นระหว่างที่มันกำลังคิด พอกลับมาก็ลืมไปแล้วว่าคิดอะไรค้างไว้ ตอนนี้การสนทนาโต้ตอบกันได้แบบเรียลไทม์ ช่วยให้เขาจดจ่อกับงานตรงหน้าได้

Ultrafast ยังทำให้ Jeff พร้อมจะปรับโครงสร้างโค้ดครั้งใหญ่มากขึ้น เพราะการปรับแก้โค้ดเดิมใช้เวลาน้อยลง “ตอนนี้การสะสางหนี้ทางเทคนิคง่ายกว่าที่เคยมาก” เขากล่าว “การเขียนโค้ดมีต้นทุนต่ำ และตอนนี้ก็เขียนได้รวดเร็วมากด้วย การปรับโครงสร้างโค้ดที่เคยใช้ทรัพยากรมาก ตอนนี้ทำได้แทบจะทันที”

Adam ใช้เธรดสนทนาหนึ่งใน Codex อย่างต่อเนื่อง โดยเรียกมันว่าเป็นผู้ช่วยบริหารของเขา ทุกเช้ามันจะบอกเขาว่ามีประชุมอะไรบ้าง และมีข้อความไหนที่เขาอาจลืมตอบ “มันดูข้อมูลทั้งหมดมาแล้วตอนเขียนสรุปนั้น พอผมถามต่อ ก็เลยไม่ต้องรอมันไปดึงข้อมูลเพิ่ม” เขากล่าว “ผมถามต่อในบทสนทนาเดิมได้เรื่อยๆ เหมือนคุยกับผู้ช่วยบริหารจริงๆ”

Sayan ใช้ Codex ทำงานจุกจิกน่าเบื่อที่ต้องลงมือทำเองในเบราว์เซอร์ เช่น การกรอกแบบฟอร์ม ซึ่งเมื่อก่อนเขาเลี่ยงที่จะให้มันทำเพราะช้าเกินไป “มันจะเปิดเบราว์เซอร์ แล้วหยุดคิดอยู่ห้าวินาที คลิกอะไรสักอย่าง แล้วก็หยุดอีก” เขากล่าว เมื่อโมเดลรุ่นล่าสุดใช้คอมพิวเตอร์ได้ดีขึ้น เขาก็วางใจให้ Codex จัดการงานเหล่านั้นมากขึ้น “ตอนนี้ผมสบายใจเต็มที่ที่จะให้มันคลิกทำงานในเบราว์เซอร์ และมันก็เร็วพอที่ผมจะไม่เสียเวลาเมื่อเทียบกับการทำเอง”

ไม่ว่าจะเป็นการรับมือเหตุขัดข้อง การวางแผนประจำวัน หรือการปรับโครงสร้างโค้ด Ultrafast ช่วยให้ทีมเทคนิคของ OpenAI ทำงานร่วมกับ Codex ได้ทันกับจังหวะที่คำถามผุดขึ้นมา พวกเขาถามต่อจากคำตอบ ลองแนวทางอื่น และทำงานต่อได้โดยไม่สะดุดความคิด เวลารอที่สั้นลงยังทำให้พวกเขาพร้อมรับงานที่เคยเลี่ยง ตั้งแต่การปรับโครงสร้างโค้ดที่ผัดวันไว้ ไปจนถึงงานประจำที่ตอนนี้คุ้มค่าจะมอบหมายให้ Codex ทำแทนแล้ว