OpenAI

2026年11月18日

研究研究發表

以 OpenAI 模型推進晶片設計

OpenAI 的模型正快速改良支撐 AI 運作的晶片。今年 8 月,⁠我們分享了 OpenAI 工程師如何運用我們的前沿模型,加速開發首款客製化推論晶片 Jalapeño。本文將深入探討帶動 Jalapeño 效能提升的專家級設計改良,以及我們如何與 AMD 合作,以相同方法大幅改善第三方硬體。

為了衡量模型執行端到端晶片設計任務的能力,我們以兩款開源處理器設計評估了多代模型,並有了一些有意思的發現。為了讓能力發展以可信賴的評估工具為基礎,我們正與 Synopsys 合作,將前沿 AI 能力整合至工程師現有的電子設計自動化(EDA)工具中,用於晶片設計與驗證。

改良 Jalapeño 的運算區塊

我們從 2025 年初開始使用 GPT‑4o 協助設計 Jalapeño。即使是這款早期模型,也找到了顯著改善功耗、效能與面積(PPA)的方法,例如:

在向量單元中,也就是管理與執行平行運算任務的單元,節省資源的改良涵蓋了浮點加法器與乘法器、轉換函數、歸約邏輯及特殊函數單元。模型探索了不同的邏輯實作方式,以及如何將運算分配到各個管線階段,從中找出共用硬體與減少中間儲存空間的機會。

在矩陣單元中,這個算術運算元件的改良成果來自浮點加法器、乘法器與低精度點積電路的多項改善。其中一項乘法器重新設計,在合成後減少了約 15% 的單元面積,同時將延遲從兩個時脈週期縮短為一個。另一項加法器重新設計則在維持兩個週期延遲的同時,將單元面積減少約 15%。點積邏輯與管線配置的進一步改良,也為整個區塊節省了更多資源。

綜觀 Jalapeño 的整體設計工作,團隊估計,模型提出的修改讓向量單元的標準單元面積減少約 13%,矩陣單元則減少約 10%。這些最佳化成果已在 Jalapeño 的晶片初始啟動測試⁠期間,透過實體晶片驗證。

我們與 AMD 的合作

我們與 AMD 合作改善 PPA,在旗艦 GPU IP 上,相較於已高度最佳化的基準設計,實現了最高 14% 的改善。我們的模型透過改寫描述晶片電路的程式碼(SystemVerilog RTL),找到了進一步改善的空間。這相當於在不到 5 個月內取得約一年的進展,是尖端晶片設計領域前所未有的成果。AMD 已將部分修改納入近期送交製造的設計中,其他修改則已加入正式生產設計檔案,供未來版本使用。

我們觀察到,模型對 RTL 的推理已達到專業微架構設計師的水準。模型能改寫執行計算、控制操作或搬移資料的電路。它使用 Synopsys 工具驗證每次改寫都維持了區塊原有的行為,並評估功耗、效能與面積之間的取捨。

AMD 也驗證了採用我們模型所撰寫的設計,能讓其即將推出的新一代旗艦 CPU 的各個關鍵區塊,在 PPA 上獲得個位數百分比的改善。展望未來,我們預期能在 GPU 與 CPU 上,相較於最佳化程度最高的基準設計,進一步改善 PPA。

最佳化 RISC-V 核心

我們在 Jalapeño 與 AMD 晶片上的成果,顯示模型能夠改良量產設計。為了衡量模型逐代演進時晶片設計能力的進展,我們以兩款開源 32 位元 RISC-V 核心測試了各個模型。PicoRV32 是一款精簡核心,專為稱為 FPGA 的可重複程式化晶片而設計。OpenTitan 則使用 Ibex 作為其安全晶片中的嵌入式處理器。兩者都是完整的處理器核心,適用於嵌入式、微控制器等級的工作負載。

我們向各個模型提供每款核心的原始硬體描述,並要求它提高吞吐量,也就是核心每秒能執行的指令數。例如,一項修改可能讓核心以較少的時脈週期完成指令,卻也讓每個週期耗時更長。衡量吞吐量能同時反映這兩種影響。

我們透過模擬檢查每個設計的輸出。若設計未通過任一檢查,或所用面積超過原始核心的 16 倍,便計為零分。對於通過檢查的設計,我們使用未向模型公開的工作負載,測量每個時脈週期執行的指令數。我們計算這些工作負載結果的幾何平均值,再乘上以 Yosys 估算的最高時脈頻率。由此得到每秒指令數的估計值。針對每款核心,我們將相同限制下觀察到的最佳吞吐量設為 1.0 分。圖表呈現各次執行的平均分數,包含得零分的執行。

在每次執行約 112,000 個 Token 的相近預算下,GPT‑6.2 Astra 在兩款核心上都取得最高平均分數。GPT‑6.1 Sol 在兩款核心上的分數也都高於 GPT‑5.6 Sol。

在既有的 PicoRV32 核心上,GPT‑6.2 Astra 在較高且相近的預算下取得最高平均分數。預算約為 112,000 個 Token 時,其分數約為 GPT‑6 Astra 的兩倍。

在既有的 Ibex 核心上,GPT‑6.2 Astra 的平均分數隨著測試預算提高而持續攀升。GPT‑6 Astra 與 GPT‑6.1 Sol 的表現則較為接近。

根據規格設計 RISC-V 核心

在第二項任務中,我們向各個模型提供書面需求,以及取自開源程式碼的範本,說明核心如何與系統其餘部分連接。模型自行決定資料如何在核心內流動,以及如何將工作劃分為不同階段。針對每款核心,我們沿用 RTL 最佳化任務中的正確性檢查、記憶體與快取設定,以及吞吐量目標。

在每次執行約 112,000 個 Token 的預算下,全部五款模型根據書面需求設計核心時的分數,都高於嘗試改良既有設計時的分數。PicoRV32 與 Ibex 都呈現相同結果。GPT‑6.2 Astra 在 Ibex 上的提升幅度比在 PicoRV32 上更大。完整評估涵蓋兩項任務、兩款核心及所有 Token 預算,共包含 9,881 次計分執行。

從 PicoRV32 規格開始設計時,GPT‑6.2 Astra 在約 112,000 個 Token 的預算下,平均分數突破 0.7,並在接下來兩個更高的預算測試點取得更高分數。

以規格為起點設計 Ibex 時,GPT‑6.2 Astra 在約 112,000 個 Token 的預算下,平均分數約為 0.75。在各模型皆有測試的更高預算下,其曲線也持續高於其他模型。

從書面需求開始設計,讓模型可以省略原始核心中的部分功能,例如效能計數器與額外指令。這些功能對測試工作負載的吞吐量可能幫助不大,因此省略它們可能是分數較高的部分原因。若要求保留這些功能、對電路面積設下更嚴格的限制,並在實體合成後檢查時序,就能讓測試更貼近量產晶片設計。

下一步

我們已證明,模型能在 RISC-V 評估中探索新的處理器架構,也能在 Jalapeño 與 AMD 新一代旗艦 GPU 和 CPU 等成熟精密的量產設計上,帶來額外的實質改良。為了讓模型開發以可信賴的評估工具為基礎,並應對更廣泛的設計挑戰,我們正與 Synopsys 合作訓練新模型 GPT‑Synopsys⁠(在新視窗中開啟),使其能像專業晶片設計師一樣使用 Synopsys 電子設計自動化(EDA)工具。