gpt-oss が登場
オープンウェイトリーズニングモデルの限界を押し広げる gpt-oss-120b と gpt-oss-20b
低コストで強力な実世界パフォーマンスを実現する2つの最先端のオープンウェイト言語モデルの gpt-oss-120b と gpt-oss-20b をリリースします。Apache 2.0 ライセンスの下で利用可能なこれらのモデルは、推論タスクにおいて同規模の open model よりも優れたパフォーマンスを発揮し、強力なツール使用機能を備えており、一般的に広く使用されているハードウェア上での効率的な展開のために最適化されています。また、強化学習と o3 その他のフロンティアシステムを含む OpenAI の最先端の内部モデルに基づく手法を組み合わせて学習しています。
gpt-oss-120b モデルは、単一の80GB GPU で効率的に稼働しながら、コア推論ベンチマークで OpenAI o4-mini とほぼ同等の結果を達成します。gpt-oss-20b モデルは、一般的なベンチマークで OpenAI o3‑mini と同様の結果を出し、わずか16 GBのメモリを搭載したエッジデバイスで実行でき、デバイス上のユースケース、ローカル推論、またはコストのかかるインフラストラクチャなしに、迅速な反復処理をこなします。どちらのモデルも、ツール使用、few-shot の関数呼び出し、CoT 推論（Tau-Bench エージェント評価スイートの結果に見られる）、HealthBench（OpenAI o1 や GPT‑4o などの独自モデルよりも優れたパフォーマンスを発揮）でも優れたパフォーマンスを発揮します。
これらのモデルは Responses API（新しいウィンドウで開く） と互換性があり、優れた指示への追従、ウェブ検索や Python コードの実行などのツールの使用、そして推論機能（複雑な推論を必要としないタスクの 'reasoning_effort' を調整する機能を含む）を備え、自律的なワークフロー内で使用できるように設計されています。完全にカスタマイズ可能であり、完全な思考の連鎖（CoT）を提供し、Structured Output（新しいウィンドウで開く） をサポートします。
安全性は、すべてのモデルをリリースする当社のアプローチの基礎であり、オープンモデルでは特に重要ばものです。包括的な安全性トレーニングと評価を通じてモデルを実行することに加えて、敵対的にファインチューニングされた gpt-oss-120b バージョンを Preparedness Framework（新しいウィンドウで開く） 下でテストすることにより、追加の評価レイヤーも導入しました。gpt-oss モデルは、社内の安全性ベンチマークで当社のフロンティアモデルと同等のパフォーマンスを発揮し、開発者に最近の独自モデルと同等の安全基準を提供します。当社はそのリサーチ結果と詳細を研究論文とモデルカードで共有しています。当社の方法論は外部の専門家によって評価され、オープンウェイトモデルの新しい安全基準の設定に向けた一歩となりました。
また、AI Sweden（新しいウィンドウで開く）、Orange（新しいウィンドウで開く）、Snowflake（新しいウィンドウで開く） などの初期のパートナーとも協力して、データセキュリティのためにこれらのモデルをオンプレミスでホストすることから、特殊なデータセットでのファインチューニングに至るまで、オープンモデルの実際の応用方法についても学んできました。最高クラスのオープンモデルの提供により、個人の開発者から大企業や政府機関まで、誰もが独自のインフラストラクチャで AI を実行し、カスタマイズすることを可能にしていけることを嬉しく思っています。当社の API で利用可能なモデルと組み合わせることにより、開発者は AI ワークフローの強化に必要なパフォーマンス、コスト、レイテンシを選択できます。
gpt-oss モデルは、幅広い展開環境における推論、効率性、および現実世界での使いやすさに特に重点を置き、当社の最先端の事前学習および事後学習手法を利用して学習しています。Whisper や CLIP などの他のモデルもオープンに利用できるようにしていますが、gpt-oss モデルは GPT‑2[1]以来、最初のオープンウェイト言語モデルとなっています。
各モデルは、mixture-of-experts（MoE [2]）を活用して、入力の処理に必要なアクティブなパラメータ数を減らす Transformer です。gpt-oss-120b はトークンごとに51億個のパラメータをアクティブに、gpt-oss-20b は36億個をアクティブにします。モデルにはそれぞれ、合計117bと21bのパラメータがあります。モデルは GPT‑3 と同様に、交互に密なアテンションパターンとローカルにまとめられたスパースアテンションパターンを使用します[3]。推論とメモリ効率のために、モデルはグループサイズが8にグループ化されたマルチクエリアテンションも使用します。位置エンコーディングには回転位置埋め込み（RoPE [4]）を使用し、最大128kのコンテキスト長をネイティブにサポートしています。
モデル | レイヤー | パラメータ合計 | トークンあたりのアクティブパラメータ数 | エキスパート合計 | トークンあたりのアクティブエキスパート数 | コンテキスト長 |
gpt-oss-120b | 36 | 117b | 5.1b | 128 | 4 | 128k |
gpt-oss-20b | 24 | 21b | 3.6b | 32 | 4 | 128k |
当社では、STEM、コーディング、一般知識に重点を置いた、高品質で主に英語のテキスト専用のデータセットでモデルを学習させました。また、OpenAI o4-mini と GPT‑4o に使用されているトークナイザーのスーパーセット「o200k_harmony」を使用してデータをトークン化しました。こちらも本日よりオープンソース化されています。
モデルアーキテクチャと学習の詳細については、モデルカードをご覧ください。
本モデルは、o4-mini で使用されたものと同様のプロセス（教師ありファインチューニングステージと高計算 RL ステージを含む）を使用して事後学習しています。当社の目的は、モデルを OpenAI Model Spec（新しいウィンドウで開く） に合わせて調整し、回答を生成する前に CoT 推論の適用とツールを使用するように教えることです。当社独自の SoTA リーズニングモデルと同様の技術を使用することで、モデルは学習後に優れた能力を発揮します。
API の OpenAI o シリーズのリーズニングモデルと同様、2つのオープンウェイトモデルは、レイテンシとパフォーマンスをトレードオフする3種類の推論レベル（低、中、高）をサポートします。開発者は、システムメッセージ内の1つの文で reasoning_effort を簡単に設定できます。
gpt-oss-120b と gpt-oss-20b を標準的な学術ベンチマークで評価し、o3、o3‑mini、o4‑mini など、他の OpenAI リーズニングモデルと比較した場合のコーディング、競技数学、健康、自立型ツールの使用における能力を測定しました。
gpt-oss-120b は、競技コーディング（Codeforces）、一般的な問題解決（MMLU および HLE）、ツール呼び出し（TauBench）において OpenAI o3‑mini を上回り、OpenAI o4-mini に匹敵または上回ります。さらに健康関連のクエリ（HealthBench）と競争数学（AIME 2024 & 2025) では o4-mini よりも優れたパフォーマンスを発揮します。gpt-oss-20b は、サイズが小さいにもかかわらず、同評価において OpenAI o3‑mini に匹敵または上回り、競争数学と健康では上回ります。
gpt-oss models do not replace a medical professional and are not intended for the diagnosis or treatment of disease
Example rollouts
gpt-oss-120b は、数十回にわたる後続の呼び出しを結びつけるなど、ブラウジングツールを使用して最新の情報をすばやく集約できます。
当社の最近の研究は、推論モデルの CoT の監視は、モデルが CoT を調整するように直接的な監督を受けていない場合、不正行為の検出に役立つ可能性があることを示しています。これは、業界内の他の人々も共有（新しいウィンドウで開く）している視点です。OpenAI o1‑preview のリリース以降、当社の原則に従い、どちらの gpt-oss モデルについても CoT に直接的な監督は行っていません。当社では、モデルの誤動作や欺瞞、悪用を監視するためにこれは重要であると考えています。教師なしの思考の連鎖を備えた open model のリリースにより、開発者や研究者に独自の CoT 監視システムを研究し、実装する機会を提供することが当社の願いです。
開発者は、アプリケーション内で CoT をユーザーに直接表示すべきではありません。OpenAI の標準的な安全性ポリシーを反映していない言語など、ハルシネーションや有害なコンテンツ、また最終出力に含めないようにモデルに対して明示的に要求されている情報が含まれている可能性があるからです。
gpt-oss-120b は出力においてはシステムの指示に確実に従いますが、CoT では明示的に指示に従わないことがしばしばあります。
gpt-oss モデルは、安全性学習に関する当社の最先端アプローチを活用しています。事前学習において、当社は化学、生物、放射線、核（CBRN）に関連する特定の有害なデータを除外し、事後学習においては、熟慮的アライメントと指示階層（新しいウィンドウで開く）を用いて、モデルに安全でないプロンプトを拒否し、プロンプトインジェクションを防ぐように学習させました。
オープンウェイトモデルが公開されると、攻撃者が悪意ある目的でモデルをファインチューニングできるようになる可能性が生じてきます。当社では、専門性の高い生物学とサイバーセキュリティのデータに基づいてモデルをファインチューニングし、攻撃者が作成しそうな各ドメイン固有の拒否を行わないバージョンを作成して、リスクを直接評価しました。このテストで、悪意を持ってファインチューニングされたモデルは、たとえ OpenAI の業界をリードする学習スタックを活用して極めて大規模なファインチューニングを行ったとしても、当社の Preparedness Framework に基づく高い能力レベルには到達できないことが示されました。この悪意のあるファインチューニング手法は、学習プロセスと評価を改善するための推奨事項（その多くが採用されている）を作成した、独立した3つの専門家グループによるレビューを経ています。モデルカードにて推奨事項の詳細についてご確認ください。これらのプロセスは、オープンモデルの安全性にとって大きな意義がある進歩です。本調査結果は、gpt-oss モデルをリリースするという当社の決定を裏付けるものです。これらのモデルが、業界全体の安全性学習とアライメント研究を加速させる一助となるよう願っています。
より安全なオープンソースエコシステムに貢献するため、当社では世界中の研究者、開発者、愛好家が新たな安全性の問題を特定するように奨励する Red Teaming Challenge（新しいウィンドウで開く） を開催しています。このチャレンジには50万ドルの賞金が用意されており、OpenAI また業界を牽引するその他のラボの専門家らで構成された審査員団による審査に基づいて授与されます。チャレンジ終了後は、検証結果に基づいたレポートを公開し、評価データセットをオープンソース化して、より広範なコミュニティがすぐに恩恵を受けられるようにする予定です。詳細と参加方法については、こちら（新しいウィンドウで開く）をご覧ください。
gpt-oss-120b と gpt-oss-20b 両方のウェイトは、Hugging Face から無料でダウンロードでき、MXFP4 でネイティブに数値化されています。これにより、 gpt-oss-120B モデルは80GB のメモリ内で実行でき、gpt-oss-20b は16GB のみ必要とします。
モデルは ハーモニープロンプト形式（新しいウィンドウで開く）で事後学習しており、導入を容易にするために当社では Python と Rust の両方で ハーモニーレンダラー（新しいウィンドウで開く）をオープンソース化していきます。また、PyTorch と Apple の Metal プラットフォーム上で推論するためのリファレンス実装と、モデルのサンプルツールのコレクションもリリースします。
これらのモデルは、ローカル、デバイス、サードパーティの推論プロバイダーを通じて、どこでも柔軟かつ簡単に実行できるように設計されています。これをサポートするため、リリースに先立ち、Hugging Face、Azure、vLLM、Ollama、llama.cpp、LM Studio、AWS、Fireworks、Together AI、Baseten、Databricks、Vercel、Cloudflare、OpenRouter などの主要な展開プラットフォームと提携し、開発者がモデルを広く利用できるようにしています。ハードウェア面においては、NVIDIA、AMD、Cerebras、Groq などの業界のリーダーと協力して、さまざまなシステム全体で最適なパフォーマンスを確保しました。
また、本日のリリースの一環として、Microsoft は gpt-oss-20b モデルの GPU 最適化バージョンを Windows デバイスに導入します。ONNX Runtime を搭載したこれらのモデルは、ローカル推論を支援します。Foundry Local および VS Code の AI ツールキットを通じて利用でき、Windows 開発者は open model を使用して簡単に構築できます。
完全にカスタマイズ可能なモデルをファインチューニングして独自の環境で展開したい開発者にとって、gpt-oss は最適です。マルチモーダルサポートや内蔵ツールに加え、当社プラットフォームとのシームレスな統合を求めるユーザーにとって、当社の API プラットフォームを通じて利用できるモデルは依然として最適な選択肢です。当社は開発者のフィードバックに引き続き耳を傾けており、将来的には gpt-oss の API サポートを検討することになるかもしれません。
モデルを実際に試すには、オープンモデル Playground（新しいウィンドウで開く） にアクセスしてください。さまざまなエコシステムプロバイダーを使用してモデルを使用する方法や、モデルをファインチューニングする方法の詳細については、こちらのガイドをご覧ください（新しいウィンドウで開く）。
gpt-oss-120b と gpt-oss-20b のリリースは、オープンウェイトモデルにとって大きな前進です。サイズにおいてこれらのモデルは、推論能力と安全性の両面で大きな進歩をもたらします。これらのオープンモデルを既存の API に追加することで、当社は最先端の研究を加速させ、イノベーションを促進し、幅広いユースケースでより安全かつ透明性の高い AI 開発を可能にすることを目指しています。
これらのオープンモデルは、新興市場、リソースに限りがあるセクター、また独自のモデルを導入するための予算や柔軟性が不足しているかもしれない小規模組織にとって、障壁を下げる役割も果たします。強力かつアクセスしやすいツールを手にすることで、世界中の人々が自身や他の人々のために新たな機会を構築、革新、また創造することができるようになります。米国で作成されたこれらの有能なオープンウェイトモデルへの幅広いアクセスは、民主的な AI レールの拡張に寄与するものです。
健全なオープンモデルのエコシステムは、AI を広く利用でき、誰もが恩恵を受けられるようにするための1つの側面です。当社は、このエコシステムに貢献する方法の一つとして、またこれらのモデルの強みと利点が将来的なオープンモデルへの OpenAI による投資に値するかどうかを検討するために、独自のオープンモデルをリリースしています。当社のオープンモデルを利用して構築する場合、モデルの長所と実際の応用についてのユーザーのフィードバックが、当社の今後の決定を方向づける点で重要な役割を果たします。
開発者や研究者の皆様が、これらのモデルを使用して実験や共同作業を行い、可能性の限界を押し広げるよう願っています。どのようなものが構築されるのか、それを目の当たりにできることを心より楽しみにしています。
著者
引用文献
[1] GPT2：ブログ、研究論文（新しいウィンドウで開く）
[3] GPT3：ブログ、研究論文（新しいウィンドウで開く）
Contributors
Zoran Martinovic、Zhuohan Li、Zhiqing Sun、Zach Johnson、Yu Yang、Yu Bai、Yang Song、Xin Wang、Wenting Zhan、Volodymyr Kyrylov、Vlad Fomenko、Tyler Bertao、Tong Mu、Timur Garipov、Tarun Gogineni、Suvansh Sanjeev、Steve Mostovoy、Song Mei、Shengjia Zhao、Sebastien Bubeck、Scott McKinney、Scott Lessans、Sandhini Agarwal、Sam Toizer、Sam Altman、Saachi Jain、Romain Huet、Rahul K. Arora、Philippe Tillet、Olivia Watkins、Nivedita Brett、Nikhil Vyas、Miles Wang、Michihiro Yasunaga、Michelle Pokrass、Mia Glaese、Max Schwarzer、Mark Chen、Mario Lezcano-Casado、Marat Dukhan、Lukas Gross、Ludovic Peran、Ludovic Peran、Lindsay McCallum、Lin Yang、Lily (Xiaoxuan) Liu、Leher Pathak、Lama Ahmad、Kristian Georgiev、Kristen Ying、Kimmy Richardson、Kevin Whinnery、Kevin Weil、Kevin Lu、Kevin Fives、Kendal Simon、Katia Gil Guzman、Karan Singhal、Karan Singhal、Kai Chen、Josh McGrath、Jordan Liss、Jongsoo Park、John Hallman、Johannes Heidecke、Jiancheng Liu、Ji Lin、Jason Kwon、Jason Ai、James Park Lennon、Jakub Pachocki、Jacob Huh、Jackie Hehir、Irina Kofman、Huida Qiu、Hongyu Ren、Harshit Sikchi、Hannah Wong、Haitang Hu、Haitang Hu、Haiming Bao、Hadi Salman、Guillaume Leclerc、Greg Brockman、Gideon Myles、Giambattista Parascandolo、Gaby Raila、Foivos Tsimpourlas、Filippo Raso、Eugene Brevdo、Eric Wallace、Enoch Cheung、Elizabeth Proehl、Elaine Ya Le、Edwin Arbus、Eddie Zhang、Dominik Kundel、Dmitry Pimenov、David Robinson、Dane Stuckey、Dana Palmie、Dan Cook、Cyril Zhang、Chris Lu、Chris Koch、Che Chang、Cedric Whitney、Casey Dvorak、Carolina Paz、Brian Zhang、Bowen Baker、Bob Rotsted、Boaz Barak、Ashley Pantuliano、Andy Applebaum、Amy Wendling、Ally Bennett、Alexander Neitz、Alex Paino、Alex Nichol、Alec Helyar、Aidan McLaughlin、Aidan Clark、Adam Goucher
さらに読む
