OpenAI

18 พฤศจิกายน 2569

งานวิจัยสิ่งพิมพ์

ยกระดับการออกแบบชิปด้วยโมเดลของ OpenAI

โมเดลของ OpenAI กำลังช่วยพัฒนาชิปที่ใช้ขับเคลื่อน AI ให้มีประสิทธิภาพสูงขึ้นอย่างรวดเร็ว เมื่อเดือนสิงหาคมที่ผ่านมา⁠ เราได้เผยแพร่ข้อมูลเกี่ยวกับการที่วิศวกรของ OpenAI นำโมเดล AI ระดับแนวหน้าของเรามาช่วยเร่งการพัฒนา Jalapeño ซึ่งเป็นชิปที่ออกแบบขึ้นเองสำหรับการประมวลผลแบบอนุมานตัวแรกของเรา ในบทความนี้ เราจะเจาะลึกการปรับปรุงการออกแบบระดับผู้เชี่ยวชาญที่ช่วยเพิ่มประสิทธิภาพให้ Jalapeño พร้อมอธิบายว่าเรานำแนวทางเดียวกันนี้ไปใช้ร่วมกับ AMD เพื่อเพิ่มประสิทธิภาพฮาร์ดแวร์ของผู้ผลิตรายอื่นได้อย่างมีนัยสำคัญอย่างไร

เพื่อวัดความสามารถของโมเดลในการออกแบบชิปตั้งแต่ต้นจนจบ เราได้ประเมินโมเดลหลายรุ่นที่พัฒนาต่อเนื่องกัน โดยใช้การออกแบบโปรเซสเซอร์แบบโอเพนซอร์ส 2 แบบ และพบผลลัพธ์ที่น่าสนใจ นอกจากนี้ เรายังร่วมมือกับ Synopsys เพื่อผสานความสามารถของ AI ระดับแนวหน้าเข้ากับเครื่องมือออกแบบวงจรอิเล็กทรอนิกส์อัตโนมัติ (EDA) ที่วิศวกรใช้ออกแบบและตรวจสอบความถูกต้องของชิปอยู่แล้ว เพื่อให้การพัฒนาความสามารถของโมเดลอาศัยเครื่องมือประเมินที่เชื่อถือได้

การเพิ่มประสิทธิภาพหน่วยประมวลผลของ Jalapeño

เราเริ่มใช้ GPT‑4o มาช่วยออกแบบ Jalapeño ตั้งแต่ต้นปี 2568 และแม้จะเป็นโมเดลรุ่นแรกๆ แต่ก็สามารถหาวิธีปรับปรุงการใช้พลังงาน ประสิทธิภาพ และพื้นที่วงจร (PPA) ได้อย่างมีนัยสำคัญ ตัวอย่างเช่น

ในหน่วยประมวลผลเวกเตอร์ ที่ใช้จัดการและประมวลผลงานแบบขนาน เราสามารถลดการใช้ทรัพยากรได้จากการปรับปรุงวงจรบวกและคูณเลขทศนิยมลอยตัว ฟังก์ชันแปลงข้อมูล ตรรกะสำหรับรวมผลการคำนวณ และหน่วยประมวลผลฟังก์ชันพิเศษ โมเดลได้ทดลองออกแบบวงจรตรรกะด้วยวิธีต่างๆ รวมถึงปรับการแบ่งงานคำนวณในแต่ละขั้นของไปป์ไลน์ จนพบวิธีใช้ฮาร์ดแวร์ร่วมกันและลดพื้นที่จัดเก็บข้อมูลระหว่างการคำนวณ

ในหน่วยประมวลผลเมทริกซ์ ซึ่งทำหน้าที่คำนวณทางคณิตศาสตร์ การปรับปรุงวงจรบวกและคูณเลขทศนิยมลอยตัว รวมถึงวงจรคำนวณดอตโปรดักต์ความแม่นยำต่ำ ช่วยเพิ่มประสิทธิภาพในหลายส่วน โดยการออกแบบวงจรคูณใหม่ช่วยลดพื้นที่เซลล์ที่ใช้ในการสังเคราะห์วงจรลงประมาณ 15% และลดจำนวนรอบการทำงานที่ต้องใช้ในการคำนวณจาก 2 รอบเหลือ 1 รอบ ส่วนการออกแบบวงจรบวกใหม่อีกแบบช่วยลดพื้นที่เซลล์ลงประมาณ 15% โดยยังใช้เวลา 2 รอบสัญญาณนาฬิกาเท่าเดิม นอกจากนี้ การปรับปรุงตรรกะสำหรับคำนวณดอตโปรดักต์และการจัดลำดับขั้นตอนของไปป์ไลน์ยังช่วยลดการใช้ทรัพยากรภายในหน่วยประมวลผลนี้ได้มากขึ้น

จากการพัฒนา Jalapeño ในภาพรวม ทีมงานประเมินว่าการปรับปรุงการออกแบบตามข้อเสนอของโมเดลช่วยลดพื้นที่เซลล์มาตรฐานในหน่วยประมวลผลเวกเตอร์ได้ประมาณ 13% และในหน่วยประมวลผลเมทริกซ์ได้ประมาณ 10% โดยการปรับปรุงเหล่านี้ผ่านการทดสอบยืนยันผลบนชิปจริงแล้วในขั้นตอนการทดสอบการทำงานของชิป Jalapeño หลังการผลิต⁠

ความร่วมมือของเรากับ AMD

เราได้ร่วมมือกับ AMD เพื่อปรับปรุง PPA ทั้งด้านการใช้พลังงาน ประสิทธิภาพ และพื้นที่วงจร โดยสามารถเพิ่มประสิทธิภาพได้สูงสุดถึง 14% เมื่อเทียบกับการออกแบบพื้นฐานของ GPU รุ่นเรือธงที่ผ่านการปรับแต่งมาอย่างเต็มที่แล้ว โมเดลของเราค้นพบวิธีปรับปรุงเพิ่มเติมด้วยการเขียนโค้ดที่ใช้อธิบายวงจรของชิป (SystemVerilog RTL) ขึ้นใหม่ ผลลัพธ์นี้เทียบเท่ากับความก้าวหน้าที่ปกติต้องใช้เวลาประมาณ 1 ปี แต่เราทำได้ภายในเวลาไม่ถึง 5 เดือน ซึ่งเป็นความสำเร็จที่ไม่เคยเกิดขึ้นมาก่อนในงานออกแบบชิประดับแนวหน้า AMD ได้นำการปรับปรุงบางส่วนไปใช้กับการออกแบบที่ส่งเข้าสู่กระบวนการผลิตเมื่อไม่นานมานี้แล้ว และเพิ่มการปรับปรุงส่วนอื่นๆ ลงในไฟล์ออกแบบสำหรับการผลิตเพื่อใช้กับชิปรุ่นต่อไป

เราพบว่าโมเดลสามารถวิเคราะห์และให้เหตุผลเกี่ยวกับ RTL ได้ในระดับเดียวกับผู้เชี่ยวชาญด้านสถาปัตยกรรมระดับจุลภาค โดยโมเดลสามารถเขียนโค้ดสำหรับวงจรที่ทำหน้าที่คำนวณ ควบคุมการทำงาน หรือรับส่งข้อมูลขึ้นใหม่ได้ และใช้เครื่องมือของ Synopsys ตรวจสอบว่าการเขียนโค้ดใหม่แต่ละครั้งยังคงทำให้วงจรทำงานได้เหมือนเดิม พร้อมประเมินข้อดีข้อเสียที่ต้องแลกเปลี่ยนกันระหว่างการใช้พลังงาน ประสิทธิภาพ และพื้นที่วงจร

AMD ยังยืนยันด้วยว่าการออกแบบจากโมเดลของเราช่วยเพิ่มประสิทธิภาพด้าน PPA ในส่วนสำคัญหลายส่วนของ CPU รุ่นเรือธงเจเนอเรชันถัดไปที่กำลังจะเปิดตัว โดยมีผลลัพธ์ดีขึ้นในระดับเปอร์เซ็นต์หลักเดียว เราคาดว่าในอนาคตจะสามารถปรับปรุง PPA ของทั้ง GPU และ CPU ได้ดียิ่งขึ้นไปอีก แม้จะเทียบกับการออกแบบเดิมที่ได้รับการปรับแต่งอย่างเต็มที่แล้วก็ตาม

การปรับปรุงคอร์ RISC-V

ผลลัพธ์จากการพัฒนาชิป Jalapeño และชิปของ AMD แสดงให้เห็นว่าโมเดลสามารถช่วยปรับปรุงการออกแบบชิปที่นำไปใช้ในการผลิตจริงได้ เพื่อวัดความก้าวหน้าด้านความสามารถในการออกแบบชิปของโมเดลแต่ละรุ่น เราจึงทดสอบโมเดลด้วยแกนประมวลผล RISC-V แบบ 32 บิตที่เป็นโอเพนซอร์ส 2 แบบ ได้แก่ PicoRV32 ซึ่งเป็นแกนประมวลผลขนาดกะทัดรัดที่ออกแบบมาสำหรับชิป FPGA ที่สามารถตั้งโปรแกรมใหม่ได้ และ Ibex ซึ่ง OpenTitan ใช้เป็นหน่วยประมวลผลภายในชิปด้านความปลอดภัย ทั้งสองแบบเป็นแกนประมวลผลที่สมบูรณ์ในตัว ออกแบบมาสำหรับงานระบบฝังตัวระดับไมโครคอนโทรลเลอร์

เราให้โมเดลแต่ละรุ่นดูโค้ดต้นฉบับที่ใช้อธิบายฮาร์ดแวร์ของแกนประมวลผลทั้งสองแบบ แล้วให้โมเดลปรับปรุงเพื่อเพิ่มอัตราการประมวลผล (throughput) หรือจำนวนคำสั่งที่แกนประมวลผลสามารถทำได้ต่อวินาที ตัวอย่างเช่น การปรับปรุงอาจทำให้แกนประมวลผลใช้จำนวนรอบสัญญาณนาฬิกาน้อยลงในการทำคำสั่งหนึ่งให้เสร็จ แต่แต่ละรอบกลับใช้เวลานานขึ้น การวัดอัตราการประมวลผลจึงช่วยให้เห็นผลของการเปลี่ยนแปลงทั้งสองด้าน

เราตรวจสอบผลลัพธ์ของการออกแบบแต่ละแบบด้วยการจำลองการทำงาน หากการออกแบบไม่ผ่านการตรวจสอบข้อใดข้อหนึ่ง หรือใช้พื้นที่วงจรมากกว่าแกนประมวลผลต้นฉบับถึง 16 เท่า จะได้รับคะแนน 0 ส่วนการออกแบบที่ผ่านการตรวจสอบ เราจะวัดจำนวนคำสั่งที่ประมวลผลได้ต่อรอบสัญญาณนาฬิกา โดยใช้ชุดงานทดสอบที่โมเดลไม่เคยเห็น จากนั้นนำผลการทดสอบมาหาค่าเฉลี่ยเรขาคณิต แล้วคูณด้วยความถี่สัญญาณนาฬิกาสูงสุดที่ประเมินด้วย Yosys เพื่อประมาณจำนวนคำสั่งที่ประมวลผลได้ต่อวินาที สำหรับแกนประมวลผลแต่ละแบบ เรากำหนดให้ผลลัพธ์ที่มีอัตราการประมวลผลสูงสุดภายใต้เงื่อนไขเดียวกันมีคะแนนเท่ากับ 1.0 กราฟแสดงคะแนนเฉลี่ยจากการทดสอบหลายครั้ง โดยรวมครั้งที่ได้คะแนน 0 ด้วย

เมื่อกำหนดให้แต่ละรอบการทดสอบใช้โทเค็นประมาณ 112,000 โทเค็นเท่ากัน GPT‑6.2 Astra ได้คะแนนเฉลี่ยสูงสุดในการทดสอบกับแกนประมวลผลทั้งสองแบบ ขณะที่ GPT‑6.1 Sol ก็ได้คะแนนสูงกว่า GPT‑5.6 Sol ในการทดสอบทั้งสองแบบเช่นกัน

ในการทดสอบกับแกนประมวลผล PicoRV32 ที่มีอยู่เดิม GPT‑6.2 Astra ทำคะแนนเฉลี่ยได้สูงสุดเมื่อเปรียบเทียบในระดับงบประมาณโทเค็นที่สูงขึ้นและใกล้เคียงกัน โดยเมื่อใช้โทเค็นประมาณ 112,000 โทเค็น GPT‑6.2 Astra ทำคะแนนได้สูงกว่า GPT‑6 Astra ราว 2 เท่า

ในการทดสอบกับแกนประมวลผล Ibex ที่มีอยู่เดิม คะแนนเฉลี่ยของ GPT‑6.2 Astra เพิ่มขึ้นอย่างต่อเนื่องเมื่อได้รับงบประมาณโทเค็นมากขึ้น ขณะที่ GPT‑6 Astra และ GPT‑6.1 Sol มีคะแนนใกล้เคียงกัน

การออกแบบแกนประมวลผล RISC-V จากข้อกำหนด

ในการทดสอบงานที่สอง เราให้โมเดลแต่ละรุ่นดูข้อกำหนดการออกแบบที่เขียนไว้ พร้อมโค้ดต้นแบบจากโครงการโอเพนซอร์สที่แสดงวิธีเชื่อมต่อแกนประมวลผลกับระบบส่วนอื่นๆ จากนั้นให้โมเดลออกแบบวิธีรับส่งข้อมูลภายในแกนประมวลผลและแบ่งการทำงานออกเป็นขั้นตอนต่างๆ โดยเราใช้เกณฑ์ตรวจสอบความถูกต้อง การตั้งค่าหน่วยความจำและแคช รวมถึงข้อกำหนดด้านอัตราการประมวลผลเหมือนกับงานปรับปรุง RTL สำหรับแกนประมวลผลแต่ละแบบ

เมื่อใช้โทเค็นประมาณ 112,000 โทเค็นต่อการทดสอบหนึ่งครั้ง โมเดลทั้ง 5 รุ่นทำคะแนนได้สูงกว่าเมื่อออกแบบแกนประมวลผลจากข้อกำหนดที่เขียนไว้ แทนที่จะปรับปรุงการออกแบบเดิม โดยพบผลลัพธ์เช่นนี้ทั้งกับ PicoRV32 และ Ibex ทั้งนี้ GPT‑6.2 Astra มีคะแนนเพิ่มขึ้นจากการเปลี่ยนวิธีออกแบบมากกว่าในการทดสอบกับ Ibex เมื่อเทียบกับ PicoRV32 การประเมินทั้งหมดประกอบด้วยการทดสอบที่มีการให้คะแนน 9,881 ครั้ง ครอบคลุมทั้งสองงาน แกนประมวลผลทั้งสองแบบ และทุกระดับงบประมาณโทเค็น

ในการออกแบบโดยอ้างอิงข้อกำหนดของ PicoRV32 GPT‑6.2 Astra ทำคะแนนเฉลี่ยได้เกิน 0.7 เมื่อใช้โทเค็นประมาณ 112,000 โทเค็น และคะแนนยังเพิ่มขึ้นในการทดสอบอีกสองระดับที่ใช้โทเค็นมากกว่าเดิม

เมื่อออกแบบ Ibex โดยเริ่มจากข้อกำหนด GPT‑6.2 Astra ได้คะแนนเฉลี่ยประมาณ 0.75 ที่ระดับการใช้โทเค็นราว 112,000 โทเค็น และยังทำคะแนนได้เหนือกว่าโมเดลอื่นๆ เมื่อเปรียบเทียบในระดับงบประมาณโทเค็นที่สูงขึ้นเท่ากัน

การเริ่มออกแบบจากข้อกำหนดที่เขียนไว้ทำให้โมเดลสามารถตัดฟีเจอร์บางอย่างที่มีอยู่ในแกนประมวลผลต้นฉบับออกได้ เช่น ตัวนับประสิทธิภาพและชุดคำสั่งเพิ่มเติม เนื่องจากฟีเจอร์เหล่านี้อาจแทบไม่ได้ช่วยเพิ่มอัตราการประมวลผลในการทดสอบ จึงอาจเป็นส่วนหนึ่งของเหตุผลที่ทำให้โมเดลได้คะแนนสูงกว่า หากกำหนดให้ต้องคงฟีเจอร์เหล่านี้ไว้ จำกัดพื้นที่วงจรให้เข้มงวดขึ้น และตรวจสอบเวลาการทำงานของวงจรหลังการสังเคราะห์ทางกายภาพ การทดสอบก็จะสะท้อนกระบวนการออกแบบชิปสำหรับการผลิตจริงได้ดียิ่งขึ้น

ก้าวต่อไป

ผลการทดสอบ RISC-V แสดงให้เห็นว่าโมเดลของเราสามารถสำรวจแนวทางออกแบบสถาปัตยกรรมโปรเซสเซอร์แบบใหม่ๆ ได้ และยังค้นพบวิธีปรับปรุงเพิ่มเติมจากการออกแบบชิปขั้นสูงที่ใช้ในการผลิตจริง เช่น Jalapeño และ GPU กับ CPU รุ่นเรือธงเจเนอเรชันถัดไปของ AMD เราจึงกำลังร่วมมือกับ Synopsys เพื่อฝึกโมเดลใหม่ชื่อGPT‑Synopsys⁠(เปิดในหน้าต่างใหม่) ให้ใช้เครื่องมือออกแบบอิเล็กทรอนิกส์อัตโนมัติ (EDA) ของ Synopsys ได้เหมือนผู้เชี่ยวชาญด้านการออกแบบชิป เพื่อให้การพัฒนาโมเดลมีเครื่องมือประเมินที่เชื่อถือได้รองรับ และสามารถรับมือกับโจทย์การออกแบบที่หลากหลายยิ่งขึ้น