GPT‑5.6 ผสานความฉลาดและประสิทธิภาพระดับแนวหน้าอย่างไร

เราออกแบบโมเดลตระกูล GPT‑5.6 ให้สร้างสมดุลระหว่างความสามารถกับต้นทุน สำหรับงานหลากหลายประเภทที่ผู้คนนำโมเดลของเราไปใช้ GPT‑5.6 Sol ซึ่งเป็นโมเดลหลักของเรา มีประสิทธิภาพเหนือกว่า Claude Fable 5 ใน Artificial Analysis Coding Agent Index เมื่อใช้การให้เหตุผลระดับ Max โดยมีค่าใช้จ่ายไม่ถึงครึ่ง Terra ทำคะแนนบนเกณฑ์วัดความสามารถได้ดีเทียบเท่า GPT‑5.5 ในราคาครึ่งหนึ่ง ส่วน Luna คือโมเดลที่เร็วที่สุดและประหยัดที่สุดของเรา โดยมีราคาต่ำกว่า Sol 80% เพื่อให้ได้ประสิทธิภาพเหล่านี้ ทีมวิจัยและทีมเทคนิคของเราได้เพิ่มประสิทธิภาพครั้งสำคัญในทุกชั้นหลักของสแต็ก การปรับปรุงเหล่านี้ครอบคลุมทั้งโมเดล การอนุมาน (วิธีที่เราเรียกใช้โมเดลเพื่อสร้างเอาต์พุต) และระบบรองรับการทำงานแบบเอเจนต์ที่ทั้ง Codex และ ChatGPT Work ใช้งาน

ตลอด 4 ปีที่ผ่านมา เราได้ขยายการให้บริการโมเดลจนเข้าถึงผู้ใช้งานจริง 1 พันล้านคนและธุรกิจกว่า 2 ล้านแห่ง โดยยึดประสิทธิภาพเป็นหัวใจสำคัญในการส่งต่อประโยชน์จากความสามารถของ AI ให้แก่ทุกคน พันธกิจของเราคือการทำให้ปัญญาประดิษฐ์ทั่วไปเป็นประโยชน์ต่อมนุษยชาติทั้งหมด ตลอดช่วงเวลาดังกล่าว เราพยายามเพิ่มประสิทธิภาพในทุกส่วนของสแต็กอย่างต่อเนื่อง เพื่อมอบโมเดลที่มีประสิทธิภาพสูงสุดในทุกระดับของความคุ้มค่าระหว่างต้นทุนกับความสามารถ GPT‑5.6 ช่วยให้เราบรรลุประสิทธิภาพด้านความสามารถต่อโทเค็นสูงที่สุดเท่าที่เคยมีมา โดยได้รับการฝึกให้ทำงานได้มากขึ้นต่อโทเค็น ในระหว่างการฝึก เราปรับทั้งความสำเร็จของงานและประสิทธิภาพให้เหมาะสม เพื่อให้โมเดลดำเนินงานแต่ละอย่างได้อย่างตรงจุดยิ่งขึ้น

บทความนี้จะมองให้ไกลกว่าตัวโมเดล และอธิบายว่าเราออกแบบเพื่อประสิทธิภาพผ่านความก้าวหน้าในอีกสองส่วนหลักของสแต็กอย่างไร ได้แก่ 1) การอนุมาน โดยเพิ่มประสิทธิภาพกระบวนการต่างๆ เช่น การปรับสมดุลโหลด การถอดรหัสแบบคาดการณ์ล่วงหน้า การแคช และการเพิ่มประสิทธิภาพเคอร์เนล เพื่อให้ได้เอาต์พุตมากขึ้นจากฮาร์ดแวร์เท่าเดิม และ 2) ระบบรองรับการทำงานแบบเอเจนต์ ซึ่งครอบคลุมการจัดการบริบทที่ขยายตัวมากเกินไป การใช้เครื่องมือ และการทำงานซ้ำให้มีประสิทธิภาพยิ่งขึ้น นอกจากนี้ เรายังจะอธิบายบทบาทของ GPT‑5.6 Sol ที่ช่วยให้เกิดการปรับปรุงหลายรายการเหล่านี้ได้ด้วยตนเอง แม้การปรับปรุงแต่ละรายการอาจดูมีผลไม่มากนักเมื่อพิจารณาแยกกัน แต่เมื่อนำมารวมกัน ประโยชน์ที่ได้จะทวีคูณและช่วยให้เราก้าวล้ำทั้งด้านความสามารถและประสิทธิภาพ

ในโลกที่ทรัพยากรประมวลผลมีจำกัดและความต้องการใช้งานโมเดลเพิ่มขึ้นเร็วกว่ากำลังการประมวลผล ประสิทธิภาพจึงเป็นหัวใจสำคัญของการออกแบบทุกระบบ โดยเฉพาะสแต็กสำหรับการอนุมานของเรา ซึ่งทำหน้าที่รันโมเดลที่ผ่านการฝึกแล้วเพื่อสร้างคำตอบ เป้าหมายหลักของเราคือใช้ฮาร์ดแวร์เท่าเดิมเพื่อให้บริการโทเค็นได้มากขึ้น พร้อมรักษาขีดความสามารถด้านความฉลาด ความหน่วง ความพร้อมใช้งาน และความน่าเชื่อถือในระดับที่ผู้ใช้คาดหวัง

การจะบรรลุเป้าหมายนี้ได้ต้องเพิ่มประสิทธิภาพให้ทั้งระบบ โมเดลอาจมีประสิทธิภาพสูงเมื่อพิจารณาเพียงตัวโมเดลเอง แต่การให้บริการก็ยังมีต้นทุนสูงได้ หากกระจายคำขอไม่เหมาะสม ฮาร์ดแวร์ไม่ได้ใช้งาน หรือการเคลื่อนย้ายข้อมูลทำให้การประมวลผลช้าลง การปรับปรุงในแต่ละชั้นของระบบจะช่วยส่งเสริมกัน โดยประสิทธิภาพที่เพิ่มขึ้นมาจากการปรับเส้นทางคำขอ การจัดตารางเวลา เคอร์เนลหรือซอฟต์แวร์ที่ทำงานบน GPU การแคชเพื่อนำงานเดิมกลับมาใช้ และการจัดลำดับโค้ด GPU ในโมเดล GPT‑5.6 Sol ใน Codex มีบทบาทสำคัญอย่างยิ่งในการเพิ่มประสิทธิภาพทั้งหมดนี้

ตัวอย่างสำคัญประการแรกคือการจัดสรรภาระงาน ในระดับทั่วโลก เรากำหนดเส้นทางคำขอโดยพิจารณาปัจจัยต่างๆ เช่น ตำแหน่งทางภูมิศาสตร์ กำลังการประมวลผลที่พร้อมรองรับ และประเภทของตัวเร่งการประมวลผล ซึ่งก็คือ GPU หรือชิปเฉพาะทางที่ใช้รันโมเดล ส่วนภายในคลัสเตอร์ เรากระจายงานไปยังอินสแตนซ์ของโมเดลตามปริมาณงาน ความยาวของบริบท ความพร้อมใช้งานของแคช และคุณสมบัติอื่นๆ ของคำขอ จากนั้นภายในแต่ละอินสแตนซ์ ระบบต้องแบ่งงานระหว่างตัวเร่งการประมวลผล เครือข่ายย่อยของโมเดล และคอร์ประมวลผลอย่างมีประสิทธิภาพ GPT‑5.6 Sol ใน Codex ช่วยให้เราวิเคราะห์ทราฟฟิกจากระบบที่ใช้งานจริง ค้นพบสาเหตุของความไม่สมดุลที่เคยมองข้าม ทดสอบกลยุทธ์การกำหนดเส้นทางใหม่ และปรับแต่งหลักเกณฑ์เหล่านี้อย่างต่อเนื่อง การปรับปรุงการจัดสรรภาระงานเพียงส่วนเดียวนี้ก็ช่วยลดต้นทุนการให้บริการโมเดลของเราได้อย่างมาก

เรายังใช้ GPT‑5.6 Sol เพิ่มประสิทธิภาพการส่งต่อของโมเดล ซึ่งเป็นการคำนวณที่เปลี่ยนอินพุตให้เป็นการคาดการณ์โทเค็นถัดไป แม้การดำเนินการแต่ละอย่างจะรวดเร็ว แต่การเคลื่อนย้ายข้อมูลมากเกินไป การซิงโครไนซ์ และการจัดวางข้อมูลที่ไม่มีประสิทธิภาพก็อาจทำให้ GPU ว่างโดยไม่ได้ใช้งาน เพื่อแก้ปัญหานี้ GPT‑5.6 Sol จึงระบุว่างานใดควรคำนวณไว้ล่วงหน้า งานใดควรตัดออก และงานใดควรทำพร้อมกัน ด้วย Codex ทำให้ GPT‑5.6 Sol สามารถเขียนเคอร์เนลสำหรับระบบที่ใช้งานจริงของเราใหม่และเพิ่มประสิทธิภาพได้โดยอัตโนมัติ เคอร์เนลคือโค้ดแกนหลักที่ดำเนินการทางคณิตศาสตร์ซึ่งประกอบกันเป็นโมเดล แนวทางนี้ได้ผลส่วนหนึ่งเพราะเราฝึก GPT‑5.6 ให้เชี่ยวชาญการเขียนและปรับปรุงเคอร์เนลด้วย Triton⁠(เปิดในหน้าต่างใหม่) และ Gluon⁠(เปิดในหน้าต่างใหม่) ซึ่งเป็นภาษาโปรแกรม GPU แบบโอเพนซอร์สสองภาษาที่ OpenAI ดูแล ความพยายามเหล่านี้เมื่อผสานกับการพัฒนาเคอร์เนลด้านอื่นๆ โดย GPT‑5.6 Sol ช่วยลดต้นทุนการให้บริการตั้งแต่ต้นจนจบได้ 20% เรายังลงทุนอย่างจริงจังในเครื่องมือตรวจสอบ เช่น FpSan⁠(เปิดในหน้าต่างใหม่) (Floating-Point Sanitizer) ซึ่งเป็นเครื่องมือโอเพนซอร์สที่ใช้ยืนยันความถูกต้องของเคอร์เนลที่ GPT‑5.6 Sol เขียนขึ้น

การถอดรหัสแบบคาดการณ์เป็นอีกหนึ่งวิธีที่ช่วยเพิ่มความเร็วและประสิทธิภาพ เทคนิคนี้ให้โมเดลร่างขนาดเล็ก หรือ “โมเดลคาดการณ์” ทำงานควบคู่กับโมเดลหลัก โดยเสนอโทเค็นหลายรายการให้โมเดลหลักตรวจสอบพร้อมกัน หากโมเดลหลักยอมรับข้อเสนอ ระบบจะสร้างโทเค็นเอาต์พุตหลายรายการได้จากการประมวลผลเพียงรอบเดียว จึงลดการคำนวณตามลำดับที่มีต้นทุนสูง GPT‑5.6 Sol ปรับปรุงโมเดลร่างของตนเองด้วยการออกแบบและดำเนินการทดลองด้านสถาปัตยกรรมหลายร้อยครั้ง โดยทดสอบการปรับขนาด โครงสร้าง และคุณลักษณะต่างๆ นอกจากนี้ GPT‑5.6 Sol ยังเริ่มต้นและติดตามกระบวนการฝึกโมเดลคาดการณ์ พร้อมเข้าแก้ไขปัญหาด้วยตนเองเมื่อพบความผิดปกติ เช่น ฮาร์ดแวร์ขัดข้องและการฝึกที่ไม่เสถียร การปรับปรุงเหล่านี้ช่วยเพิ่มประสิทธิภาพในการสร้างโทเค็นได้มากกว่า 15%

เมื่อประมวลผลโทเค็นอินพุตที่ไม่ได้แคช โมเดลจะสร้างแคชคีย์-แวลู (KV) ในการประมวลผลรอบเดียวที่ใช้พลังประมวลผลสูง ส่วนระหว่างการสร้างเอาต์พุต โมเดลจะอ่านข้อมูลจากแคชนี้และเพิ่มข้อมูลเข้าไปซ้ำๆ การตั้งค่าระบบให้บริการที่เหมาะสม ไม่ว่าจะเป็นการจัดแบตช์ การแบ่งการประมวลผล หรือการจัดการ KV ล้วนขึ้นอยู่กับเวิร์กโหลดเป็นหลัก เช่น ความยาวของพรอมต์และเอาต์พุต ขนาดแบตช์ อัตราการพบข้อมูลในแคช และลักษณะของคำขอ แต่เดิมตัวเลือกในการกำหนดค่ามีจำนวนมากเกินกว่าจะปรับอย่างเป็นระบบ ทำให้วิศวกรต้องพึ่งพาแนวทางแบบกว้างๆ ด้วย GPT‑5.6 Sol ใน Codex เราสามารถวิเคราะห์เวิร์กโหลดที่เกิดขึ้นจริง สร้างและทดสอบการกำหนดค่าต่างๆ รวมถึงปรับเอนจินและโมเดลให้เหมาะสมสูงสุดในแต่ละกรณี จึงสามารถเพิ่มประสิทธิภาพให้ตรงกับเวิร์กโหลดได้อย่างละเอียด และประมวลผลการอนุมานที่เป็นประโยชน์ได้มากขึ้นจากฮาร์ดแวร์เท่าเดิม

การเพิ่มประสิทธิภาพการอนุมานเป็นวงจรป้อนกลับที่ต่อเนื่อง เราวัดพฤติกรรมในระบบจริง ระบุช่องว่างที่ใหญ่ที่สุด ดำเนินการเปลี่ยนแปลง และตรวจสอบว่าการเปลี่ยนแปลงนั้นช่วยปรับปรุงทั้งระบบ ไม่ใช่แค่เกณฑ์วัดที่แยกออกมา GPT‑5.6 Sol และ Codex ช่วยเร่งทุกส่วนของวงจรนี้ ทีมของเราจึงสำรวจแนวคิดได้มากขึ้น ตอบสนองต่อเวิร์กโหลดที่เปลี่ยนแปลงได้เร็วขึ้น และสร้างสแต็กการอนุมานที่มีเวลาแฝงต่ำลง ความจุสูงขึ้น และต้นทุนสำหรับผู้ใช้ต่ำลง

ChatGPT Work และ Codex ทำงานซับซ้อนให้เสร็จผ่านคำขอไปยังโมเดลและการเรียกใช้เครื่องมือหลายครั้ง ในการโต้ตอบรอบเดียว ตั้งแต่คำขอของผู้ใช้จนถึงคำตอบสุดท้าย Codex อาจตรวจสอบซอร์สโค้ด ค้นหาประวัติการดีพลอย อ่านรายงานเหตุขัดข้อง แก้ไขไฟล์ และรันการทดสอบ แต่ละขั้นตอนอาจต้องส่งคำขอหนึ่งครั้ง

การเตรียมบริบท การส่งข้อมูล การอนุมาน การเรียกใช้เครื่องมือ และการเริ่มกระบวนการ ล้วนใช้เวลาและทรัพยากรประมวลผล หากงานหนึ่งต้องส่งคำขอไปยังโมเดล 30 ครั้ง เวลาที่เพิ่มเพียงหนึ่งวินาทีต่อคำขอก็สะสมเป็นเวลามากได้ การยกระดับประสิทธิภาพโดยรวมหมายถึงการลดงานซ้ำทั่วทั้งระบบ ไม่ใช่แค่ทำให้โมเดลเร็วขึ้น

ผลกระทบทวีคูณเหล่านี้เป็นพื้นฐานในการออกแบบระบบควบคุมการทำงานของเอเจนต์ ซึ่งเป็นเลเยอร์ประสานงานที่สร้างด้วย Rust และเชื่อมต่อโมเดล เครื่องมือ และสภาพแวดล้อมของผู้ใช้เข้าด้วยกัน ต่อไปเราจะอธิบายว่าการป้องกันไม่ให้บริบทมีข้อมูลมากเกินไป การโหลดเครื่องมือ และการนำงานเดิมกลับมาใช้ซ้ำ ช่วยให้แต่ละคำขอมีประสิทธิภาพยิ่งขึ้นอย่างไร

เมื่อเอเจนต์ได้รับสิทธิ์เข้าถึงเครื่องมือ ทักษะ ปลั๊กอิน และประวัติการสนทนามากขึ้น ขนาดของบริบทก็อาจเพิ่มขึ้นอย่างรวดเร็ว ส่งผลให้ต้นทุนสูงขึ้น รบกวนสมาธิของโมเดล และทำให้โมเดลใช้เหตุผลโดยไม่จำเป็น ระบบรองรับเอเจนต์ช่วยลดภาระนี้ด้วยการค้นหาทรัพยากรเมื่อจำเป็น โดยจะแสดงการเชื่อมต่อ เครื่องมือ MCP แบบกำหนดเอง ทักษะ และปลั๊กอินเฉพาะเมื่อต้องใช้งานเท่านั้น นอกจากนี้ ระบบยังป้องกันไม่ให้เครื่องมือหรือการเชื่อมต่อ MCP แต่ละรายการใช้พื้นที่บริบทมากเกินคาด โดยค่าเริ่มต้น ผลลัพธ์จากเครื่องมือจะจำกัดไว้ที่ 10,000 โทเค็น เว้นแต่โมเดลจะขอเพิ่มขีดจำกัด

ดังที่กล่าวไปก่อนหน้านี้ ลูปของเอเจนต์อาจส่งคำสั่ง ประวัติการสนทนา คำจำกัดความของเครื่องมือ และผลลัพธ์ก่อนหน้าชุดเดิมไปยัง GPU หลายครั้งภายในรอบเดียว การประมวลผลอินพุตที่ซ้ำกันเหล่านี้มีค่าใช้จ่ายสูง การแคชพรอมต์จึงช่วยนำผลการคำนวณของส่วนต้นของพรอมต์ที่ระบบเคยประมวลผลแล้วกลับมาใช้ใหม่ ระบบจะเพิ่มข้อมูลใหม่ทั้งหมดต่อท้ายประวัติที่โมเดลมองเห็นเพื่อรักษาส่วนต้นของพรอมต์ให้เหมือนเดิม โดยจะเพิ่มข้อความใหม่ ผลลัพธ์จากเครื่องมือ และข้อมูลอัปเดตของสภาพแวดล้อมไว้ท้ายบริบท แทนที่จะแทรกลงในบริบทส่วนก่อนหน้า เครื่องมือจะปรากฏตามลำดับเดิมเสมอ ขณะที่การตั้งค่าระหว่างรัน เช่น นโยบายการอนุมัติ จะถูกนำไปใช้ในขั้นตอนการดำเนินงาน โดยไม่ฝังอยู่ในคำจำกัดความของเครื่องมือ การออกแบบนี้เป็นหนึ่งในปัจจัยที่ทำให้ Codex และ ChatGPT Work ใช้แคชพรอมต์ได้สำเร็จในอัตราสูงโดยรวม

ประสิทธิภาพที่เพิ่มขึ้นจาก GPT‑5.6 เป็นผลมาจากการพัฒนาที่ต่อยอดอย่างต่อเนื่องตลอดหลายปีในทุกส่วนของสแต็ก ตั้งแต่การวิจัย การอนุมาน ไปจนถึงระบบรองรับการทำงานของเอเจนต์ บทบาทของ GPT‑5.6 ในการขับเคลื่อนการพัฒนาเหล่านี้ทำให้เรามั่นใจว่าการเพิ่มประสิทธิภาพจะเกิดขึ้นอย่างรวดเร็วยิ่งขึ้น เราจะเดินหน้าปรับปรุงในด้านต่างๆ เช่น การเพิ่มประสิทธิภาพเคอร์เนล ควบคู่ไปกับการยกระดับโครงสร้างพื้นฐานของสแต็ก และพร้อมส่งต่อการพัฒนาเบื้องหลังเหล่านี้ให้ผู้ใช้และลูกค้าได้ใช้ประโยชน์ ผ่านขีดความสามารถด้านความฉลาดที่เข้าถึงได้อย่างแพร่หลายและคุ้มค่ายิ่งขึ้น

ขอขอบคุณ Matthew Ferrari, Philippe Tillet, Ahmed Ibrahim, Joe Gershenson และ Steve Coffey สมาชิกฝ่ายเทคนิคเป็นพิเศษสำหรับผลงานที่มีส่วนช่วยให้บทความนี้สำเร็จลุล่วง