唯有整個系統同步改善,AI 進步才能以最快速度累積放大。這正是我思考 OpenAI 運算策略的方式:建立橫跨資料中心與晶片、前沿模型、開發者平台、消費者與企業產品,以及 AI 原生裝置的一體化系統,讓每一層都能強化下一層。
更好的軟體能提高硬體的生產力。針對我們工作負載設計的硬體,能提升速度與效率。能力更強的模型能催生更好的產品,進而帶來更多需求、使用量與學習機會。這些訊號會回流至整個系統,協助我們再次加以改善。
今天,我們公布了 OpenAI 首款自訂推論晶片 Jalapeño 的首批實測效能結果。在採用 GPT‑OSS 120B 的公開基準測試 InferenceX 中,Jalapeño 的每千瓦峰值吞吐量高於受比較的商用系統,Token 延遲也更低。它在 DeepSeek R1 與 Kimi K2 上也有優異表現,顯示其效能提升可橫跨不同模型系列。
Jalapeño 讓我們能更自主地掌控模型的執行方式,以及提供模型服務的成本效益。透過共同開發模型、推論服務軟體、晶片、記憶體與網路,我們能以整體系統的角度改善吞吐量、延遲、能源效率與成本。除了使用其他合作夥伴的加速器外,這也為我們建立了一條可靠的自有技術路徑,讓我們更有能力依照最合適的成本效益,為每種工作負載搭配最強的系統。如今,我們已有具備實測成果且能實際運作的自有晶片,後續世代也已在開發中。
不同的工作負載會對系統提出不同要求。前沿模型訓練、大規模推論與全天候運作的智慧代理,在晶片、軟體、網路、電力及延遲方面各有不同需求。
我們的目標是維持在帕累托前緣:持續為每種工作負載尋找能力、速度、可靠性、效率與成本的最佳組合。不同晶片與供應商各自在不同面向領先,而技術前沿也不斷推進。
我們的多元組合讓我們足以滿足這些需求。Microsoft 的運算資源與 NVIDIA 的晶片,一直是 OpenAI 成長的重要基礎。如今,我們的合作組合也涵蓋 AWS、AMD、Broadcom、Cerebras、CoreWeave、Oracle、SB Energy 與 SoftBank。它們在雲端基礎設施、加速運算、低延遲推論、資料中心開發與能源供應等領域各有所長。
我們積極管理這項組合,同時兼顧能力與成本效益。在最重視能力的情境中,我們採用頂級系統;在規模與成本更重要時,則著重最佳化效率。在供應商、硬體與部署模式之間保有可靠的選擇,讓我們能將需求導向每一美元可換取最高效能的方案;面對市場情勢變化時維持價格紀律;並隨著更強技術問世,與前沿發展同步前進。在緊密整合可改善整個系統之處,直接掌控能帶來更大優勢。當生態系能幫助我們加速前進時,我們便與夥伴合作;當協同設計能創造顯著優勢時,我們則自行建構。
資料中心也能帶來另一個發揮優勢的支點。喬治亞州的 Project Camellia 展示了我們如何依照客戶工作負載設計設施,同時創造就業機會、支持當地企業、負擔專案基礎設施與能源成本、透過封閉循環系統節約用水,並將履行承諾的情況交由獨立機構每年公開稽核。
這套系統的價值取決於其產出:讓每一單位運算資源創造更多實用智慧。
更好的模型能以更少嘗試得出正確答案。更智慧的路由與上下文管理可減少無效運算。經過最佳化的軟體與專用硬體,可提升速度與能源效率。
在 Artificial Analysis Coding Agent Index 中,採用最高推理強度的 GPT‑5.6 Sol 創下新高,使用的輸出 Token 卻比另一款領先模型少 54%。對客戶而言,這類改善意味著更快獲得結果、產品更可靠、重試次數更少、智慧代理能完成更長的工作流程,以及降低成功完成工作的總成本。最佳的成本效益,來自每一美元所能取得的實用智慧。
隨著實用智慧的能力提升、價格降低,更多工作在經濟上變得可行。企業可以為每位客戶提供量身打造的分析、審閱每一份合約、即時模擬財務情境,並協助工程師測試更多構想。這就是傑文斯悖論:效率提高會讓更多用途變得值得採用,進而擴大消費,並透過完成更多工作、做出更好的決策、推出更多產品及創造更多營收,催生新的經濟活動。
生產力更高的運算資源與更具競爭力的供應基礎,能協助我們以更低成本服務更多客戶,並讓使用者共享這些效率提升的成果。成長帶來的資金,能支持我們持續投資研究、基礎設施與安全。這就是 OpenAI 持續累積放大的優勢:更好的技術創造更佳的成本效益,更佳的成本效益為下一波進展提供資金,而每一項提升都會讓整個系統更強大。


