隆重介紹 gpt-oss
gpt-oss-120b 與 gpt-oss-20b 推動開源權重推理模型的發展前沿。
我們即將推出 gpt-oss-120b 和 gpt-oss-20b 等兩款業界頂尖的開源權重語言模型，以低成本提供強大的實際應用效能。這些模型採用彈性的 Apache 2.0 授權條款發佈，在推理任務上的表現優於同規模的開源模型，具備強大的工具使用能力，並針對消費級硬體上的高效部署進行了最佳化。它們採用強化學習與結合 OpenAI 最先進內部模型 (包括 o3 及其他尖端系統) 所啟發的技術進行訓練。
gpt-oss-120b 模型在核心推理基準測試中的表現趨近 OpenAI o4-mini，同時可在單一 80GB GPU 上高效運作。gpt-oss-20b 模型在常見基準測試中的表現與 OpenAI o3‑mini 相近，且僅需 16 GB 記憶體即可在邊緣裝置上運行，非常適合用於裝置端應用、本地推論，或在無需昂貴基礎設施的情況下進行快速優化。這兩款模型在工具使用、少量示範函式調用、思路鏈推理 (可見於 Tau-Bench 智慧體評估套件的結果）以及 HealthBench 測試中表現優異，甚至超越 OpenAI o1 和 GPT‑4o 等部分專有模型 。
這些模型相容於我們的 Responses API(在新視窗中開啟)，並針對智慧體工作流程進行設計，具備優異的指令遵循能力、工具運用 (如網路搜尋或 Python 程式執行) 以及推理能力，其中包括針對不需複雜推理的任務調整「reasoning_effort」的能力。這些模型完全可自訂，支援完整思路鏈 (CoT)，而且支援結構化輸出(在新視窗中開啟)。
安全性是我們釋出所有模型的基礎，對於開放模型尤為重要。除了對模型進行全面的安全訓練與評估外，我們還在應變整備框架(在新視窗中開啟)下測試了經對抗式微調的 gpt-oss-120b 版本，作為額外的評估層。gpt-oss 模型在內部安全基準測試中的表現與我們的尖端模型相當，為開發人員提供與我們近期專有模型相同的安全標準。我們將在研究論文和模型說明卡中分享這項工作的成果及更多細節。我們的方法論已由外部專家審查，其標誌著為開源權重模型制定新安全標準的一大進展。
我們也一直與早期的合作夥伴如 AI Sweden(在新視窗中開啟)、Orange(在新視窗中開啟) 和 Snowflake(在新視窗中開啟) 等合作，從在內部部署這些模型來保障資料安全，到在專門資料集上進行微調，全面瞭解我們開放模型的實際應用。我們很高興能提供這些業界頂尖的開放模型，無論是個人開發人員、大型企業還是政府機關等各方，都能在自有基礎設施上執行並客製化 AI。結合我們 API 中提供的模型，開發人員可以依據所需的效能、成本與延遲，選擇合適的模型來推動 AI 工作流程。
gpt-oss 模型採用我們最先進的預訓練與後訓練技術進行訓練，特別強調推理能力、效率以及在各種部署環境中的實用性。雖然我們之前已開放其他模型，如 Whisper 和 CLIP，但 gpt-oss 系列是自 GPT‑2 [1] 以來，我們首次釋出的開源權重語言模型。
每款模型都是基於 Transformer 架構，並利用專家混合 (MoE[2]) 技術，減少處理輸入時所需啟動的參數數量。「gpt-oss-120b」每處理一個字元啟動 51 億參數，而「gpt-oss-20b」則啟動 36 億參數。這兩款模型的總參數量分別為 1170 億與 210 億。這些模型採用交錯的密集與局部帶狀稀疏注意力模式，類似於 GPT‑3 [3]。為了提升推論與記憶體效率，這些模型還採用了群組多重查詢注意力，群組大小為 8。我們採用旋轉位置嵌入 (RoPE[4]) 作為位置編碼方式，並原生支援最長 128k 的上下文長度。
模型 | 圖層 | 總參數量 | 每個字元啟動參數數量 | 專家總數 | 每個字元啟動的專家數量 | 上下文長度 |
gpt-oss-120b | 36 | 117b | 5.1b | 128 | 4 | 128K |
gpt-oss-20b | 24 | 21b | 3.6b | 32 | 4 | 128K |
我們使用高品質的純文字資料集對模型進行訓練，內容以英文為主，著重於 STEM 領域、程式編寫及一般知識。我們使用了「o200k_harmony」這套分詞器對資料進行分詞，這款分詞器是我們用於 OpenAI o4-mini 和 GPT‑4o 的升級版本，今天我們也將其開源。
如需瞭解更多有關我們模型的架構與訓練細節，請參閱模型說明卡。
模型的後訓練過程類似於 o4-mini，包括一個監督式微調階段以及一個高運算需求的強化學習階段。我們的目標是要讓模型符合 OpenAI 模型規範(在新視窗中開啟)，並在產生回答之前學會套用思路鏈推理與工具使用。這些模型採用了與我們最先進專有推理模型相同的技術，經過後訓練後展現出卓越的能力。
與 OpenAI API 中的 o 系列推理模型類似，這兩款開源權重模型支援三種推理強度：低、中、高，可在延遲與效能之間進行取捨。開發人員只需在系統訊息中加入一句話，就能輕鬆設定「reasoning_effort」 (推理強度)。
我們在標準學術基準測試中評估了 gpt-oss-120b 和 gpt-oss-20b，測量它們在程式設計、競賽數學、醫療健康以及智慧體工具使用等方面的能力，並與其他 OpenAI 推理模型 (包括 o3、o3‑mini 和 o4-mini) 進行比較。
gpt-oss-120b 在競賽編碼 (Codeforces)、一般問題解決 (MMLU 與 HLE) 以及工具調用 (TauBench) 方面的表現優於 OpenAI o3‑mini，並與 OpenAI o4-mini 相當或更佳。此外，它在健康相關查詢 (HealthBench) 及競賽數學 (AIME 2024 與 2025) 上的表現更勝 o4-mini。gpt-oss-20b 雖然規模較小，但在相同測試中與 OpenAI o3‑mini 相當或更佳，甚至在競賽數學與健康領域的表現上超越了 o3‑mini。
gpt-oss models do not replace a medical professional and are not intended for the diagnosis or treatment of disease
Example rollouts
gpt-oss-120b 能快速利用瀏覽工具彙整最新資訊，並且能串連執行數十次連續查詢。
我們近期的研究顯示，只要模型在訓練過程中未經直接監督來對齊思路鏈，監控推理模型的 CoT 便有助於偵測不當行為。這個觀點也獲得業界其他人士的認同(在新視窗中開啟)。自推出 OpenAI o1‑preview 以來，我們始終遵循原則，並未對任何 gpt-oss 模型的思路鏈施加直接監督。我們認為這對於監控模型的不當行為、欺瞞與濫用至關重要。我們希望釋出具備非監督式思路鏈的開放模型，能讓開發人員和研究人員有機會自行研究並實作自己的 CoT 監控系統。
開發人員不應該在應用程式中直接向使用者展示思路鏈。思路鏈可能包含幻覺內容或有害資訊，包括不符合 OpenAI 標準安全政策的語言，也可能包含我們明確要求模型不應納入最終輸出的資訊。
gpt-oss-120b 在其輸出結果中能穩健地遵循系統指令，但在其思路鏈中常常會明確違反指令。
gpt-oss 模型採用了我們最先進的安全訓練方法。在預訓練階段，我們篩選掉與化學、生物、放射性及核子 (CBRN) 相關的某些有害資料。在後訓練階段，我們運用了審慎對齊和指令階層(在新視窗中開啟)，教導模型拒絕不安全的提示並防範提示注入攻擊。
一旦開源權重模型釋出，對手可能會利用它進行惡意微調。我們在專門的生物學與網路安全資料上微調模型，直接評估這些風險，並模擬攻擊者的方式，為每個領域建立一個不拒答的領域專用版本。測試結果顯示，即使在採用 OpenAI 領先業界的訓練技術進行極為廣泛的微調後，這些惡意微調模型仍無法達到我們應變整備框架所訂定的高能力標準。這種惡意微調方法經由三個獨立專家團隊審查，並提出改進訓練流程與評估的建議，其中許多建議我們已採納。我們在模型說明卡中詳細說明了這些建議。這些流程標誌著開源模型安全性的一項重要進展。這些發現證實了我們釋出 gpt-oss 模型的決定是正確的。我們希望這些模型能促進整個產業的安全訓練與對齊研究加速發展。
為了讓開源生態系統更安全，我們舉辦紅隊挑戰賽(在新視窗中開啟)，鼓勵全球的研究人員、開發人員與愛好者共同協助發掘新的安全議題。此次挑戰賽設有 50 萬美元獎金，由來自 OpenAI 和其他頂尖實驗室的專家評審團評選得主。挑戰賽結束後，我們將發佈報告，並根據驗證結果開源評估資料集，讓更廣泛的社群能立即受益。詳情與參與方式請見此處(在新視窗中開啟)。
「gpt-oss-120b」和「gpt-oss-20b」的權重均可免費在 Hugging Face 下載，並原生採用 MXFP4 量化格式。此舉使「gpt-oss-120B」模型可在 80GB 記憶體內運行，而「gpt-oss-20b」僅需 16GB 記憶體。
這些模型已針對我們的 Harmony 提示格式(在新視窗中開啟)進行後訓練，我們也將開放原始碼，提供 Python 與 Rust 版本的 Harmony 渲染器(在新視窗中開啟)，讓使用更便利。我們同時發佈了用於 PyTorch 和 Apple Metal 平台的推論參考實作，以及一系列模型範例工具。
我們所設計的這些模型極具彈性，無論是在本機、在裝置上，或透過第三方推論服務商，都能在任何環境輕鬆運作。為了支持這項目標，我們在發佈前與多家頂尖部署平台合作，包括 Hugging Face、Azure、vLLM、Ollama、llama.cpp、LM Studio、AWS、Fireworks、Together AI、Baseten、Databricks、Vercel、Cloudflare 以及 OpenRouter，讓開發人員能廣泛取得這些模型。在硬體方面，我們與 NVIDIA、AMD、Cerebras 和 Groq 等產業龍頭合作，確保模型在各類系統上的效能最佳化。
在今天的發佈中，Microsoft 也將把經 GPU 最佳化的 gpt-oss-20b 模型帶到 Windows 裝置上。這些模型採用 ONNX Runtime 技術，支援本機推論，並可透過 Foundry Local 及 VS Code 的 AI Toolkit 取得，讓 Windows 開發人員可以更方便地使用開放模型進行開發。
對於想要完全自訂、並能在自有環境中微調與部署模型的開發人員來說，gpt-oss 是理想選擇。若需要多模態支援、內建工具及與我們平台的無縫整合，透過我們 API 平台提供的模型仍是最佳選擇。我們持續密切傾聽開發人員意見，未來可能會考慮為 gpt-oss 提供 API 支援。
若您想試用這些模型，請前往我們的開放模型 Playground(在新視窗中開啟)。若想瞭解如何透過不同生態系統供應商使用模型，或如何微調模型，請參考我們的指南(在新視窗中開啟)。
釋出 gpt-oss-120b 和 gpt-oss-20b 標誌著開源權重模型的一大進展。在這個規模下，這些模型在推理能力與安全性方面都有顯著進步。透過將這些開放模型納入現有 API 服務，我們期望加速尖端研究、促進創新，並推動更安全、更透明的 AI 發展，涵蓋多元的應用場景。
這些開放模型也降低了新興市場、資源有限領域及預算或彈性不足的小型組織採用專有模型的門檻。憑藉強大且易於取得的工具，全球各地的人們都能自主打造、創新，並為自己與他人創造新機會。在美國開發的這些高效能開放權重模型，透過廣泛使用，有助於推動民主化的 AI 規範。
健全的開放模型生態系，是推動 AI 普及化並讓所有人受惠的重要一環。我們釋出自家的開放模型，旨在探索如何為這個生態系統做出貢獻，以及這些模型的優勢與效益是否值得 OpenAI 未來持續投入。如果您正在使用我們的開放模型，您對模型優勢與實際應用的回饋，將成為我們決策的重要依據。
我們誠摯邀請開發人員與研究人員使用這些模型進行試驗、合作，共同突破各種可能性的界限。我們熱切期待看到大家產生更多創作。
作者
引用
Contributors
Zoran Martinovic、Zhuohan Li、Zhiqing Sun、Zach Johnson、Yu Yang、Yu Bai、Yang Song、Xin Wang、Wenting Zhan、Volodymyr Kyrylov、Vlad Fomenko、Tyler Bertao、Tong Mu、Timur Garipov、Tarun Gogineni、Suvansh Sanjeev、Steve Mostovoy、Song Mei、Shengjia Zhao、Sebastien Bubeck、Scott McKinney、Scott Lessans、Sandhini Agarwal、Sam Toizer、Sam Altman、Saachi Jain、Romain Huet、Rahul K. Arora、Philippe Tillet、Olivia Watkins、Nivedita Brett、Nikhil Vyas、Miles Wang、Michihiro Yasunaga、Michelle Pokrass、Mia Glaese、Max Schwarzer、Mark Chen、Mario Lezcano-Casado、Marat Dukhan、Lukas Gross、Ludovic Peran、Ludovic Peran、Lindsay McCallum、Lin Yang、Lily (Xiaoxuan) Liu、Leher Pathak、Lama Ahmad、Kristian Georgiev、Kristen Ying、Kimmy Richardson、Kevin Whinnery、Kevin Weil、Kevin Lu、Kevin Fives、Kendal Simon、Katia Gil Guzman、Karan Singhal、Karan Singhal、Kai Chen、Josh McGrath、Jordan Liss、Jongsoo Park、John Hallman、Johannes Heidecke、Jiancheng Liu、Ji Lin、Jason Kwon、Jason Ai、James Park Lennon、Jakub Pachocki、Jacob Huh、Jackie Hehir、Irina Kofman、Huida Qiu、Hongyu Ren、Harshit Sikchi、Hannah Wong、Haitang Hu、Haitang Hu、Haiming Bao、Hadi Salman、Guillaume Leclerc、Greg Brockman、Gideon Myles、Giambattista Parascandolo、Gaby Raila、Foivos Tsimpourlas、Filippo Raso、Eugene Brevdo、Eric Wallace、Enoch Cheung、Elizabeth Proehl、Elaine Ya Le、Edwin Arbus、Eddie Zhang、Dominik Kundel、Dmitry Pimenov、David Robinson、Dane Stuckey、Dana Palmie、Dan Cook、Cyril Zhang、Chris Lu、Chris Koch、Che Chang、Cedric Whitney、Casey Dvorak、Carolina Paz、Brian Zhang、Bowen Baker、Bob Rotsted、Boaz Barak、Ashley Pantuliano、Andy Applebaum、Amy Wendling、Ally Bennett、Alexander Neitz、Alex Paino、Alex Nichol、Alec Helyar、Aidan McLaughlin、Aidan Clark和Adam Goucher
