OpenAI では、AI は公正で安全であり、かつ自由に利用可能であるべきだと考えています。そうすることで、より多くの人々が困難な問題を解決し、機会を創出し、健康、科学、教育、仕事、日常生活といった分野で恩恵を受けられるようになります。当社では、AI へのアクセスの民主化こそが前進するための最善の道であると考えています。つまり、その恩恵や制御が一部の人々の手に集中する AI ではなく、より多くの人々が利用し、理解し、そのあり方の形成に関わることができる AI です。
それが、OpenAI Model Spec が存在する根本的な理由です。Model Spec（新しいウィンドウで開く） は、モデルの振る舞いを定める当社の正式な枠組みです。これは、モデルがどのように指示に従い、指示間の衝突を解決し、ユーザーの自由を尊重し、日々寄せられるきわめて幅広い質問や依頼に対して安全に振る舞うべきかを定めています。より広く言えば、これはモデルに期待する振る舞いを明確にする試みです。学習プロセスの内部だけでなく、ユーザー、開発者、研究者、政策立案者、一般の人々が実際に読み、吟味し、議論できる形で示すことを目指しています。
Model Spec は、現在のモデルがすでにその内容どおり完璧に振る舞っていると主張するものではありません。現状を記述する側面を持つ一方で、モデルの振る舞いが今後目指すべき目標でもあります。当社は Model Spec を用いて、モデルに期待する振る舞いを明確にしています。そして、その実現に向けてモデルを学習させ、Model Spec を基準に評価し、時間とともに改善していきます。
本記事では、Model Spec 自体には記されていない背景をご紹介します。具体的には、その背後にある理念と仕組み、構成、そうした構成を採用した理由、そして Model Spec をどのように記述・実装し、発展させているかを説明します。
Model Spec は、安全で責任ある AI の実現に向けた OpenAI の幅広い取り組みの一部です。Preparedness Framework が、フロンティア能力に伴うリスクと、リスクの高まりに応じて必要となる安全対策に焦点を当てる一方、Model Spec は、これとは異なるものの、相互に補完し合う問い、すなわち幅広い状況でモデルがどう振る舞うべきかを扱っています。さらに視野を広げると、AI レジリエンスは、より高度なシステムが展開される中で、社会が高度な AI の恩恵を享受しつつ、混乱や新たなリスクを低減するという、より広範な社会的課題に対処することを目的としています。これらの取り組みは総体として、AGI への移行を段階的かつ反復的で、民主的な議論と検証が可能なものにすることを目指しています。人々や組織が適応する時間を確保しながら、強力な AI を人間の利益と整合させるために必要な安全対策、説明責任の仕組み、社会的理解を築いていきます。
モデルの振る舞いを公に明確にすることは、公平性と安全性の両面で重要です。公平性の観点では、人々が AI にどのように、なぜそのように扱われるのかを理解し、公平性に関する懸念が生じたときに、それを特定し、問い、対処できることが重要です。安全性の観点でも、AI システムの能力が高まるにつれ、人々や組織は、システムがどう振る舞うことを想定されているのか、どのようなトレードオフを伴うのか、そうした選択を今後どう改善できるのかについて、より明確に理解する必要があります。このような分かりやすさは、より多くの人が具体的な内容を検証し、問い、改善できるようにすることで、レジリエンスの強化にもつながります。
2024年の初版以来、Model Spec は大きく進化してきました。ユーザーの好みやニーズへの理解を深め、対象範囲を広げてより高度な能力に対応し、モデルの振る舞いや Model Spec に関する一般からのフィードバックを取り入れてきたためです。反復的な展開の精神に則り、Model Spec は、背景にある価値観と、明示的で分かりやすいルールの両方を扱う、継続的に更新される文書です。また、実運用やフィードバックから学びながら、個々の要素を修正していくプロセスも備えています。当社はまた、AI の使われ方や振る舞いの形成について人々が主導権を保てるよう、集合的アラインメントなど、一般から意見を募る仕組みにも投資しています。
社内では、Model Spec は期待する振る舞いの指針となり、学習、評価、ガバナンスのための共通の枠組みを提供します。社外に対しては、人々が当社のアプローチを理解・批評し、継続的な改善に参加するための公開された参照基準になります。
Model Spec は、モデルの振る舞いに関する複数の種類の指針で構成されています。これは意図的なものです。モデルの振る舞いの異なる側面には、それぞれ異なる対応が必要であり、有用な公開文書には単にルールを列挙する以上のことが求められます。
Model Spec は、まず基本方針、すなわちシステムレベルで何を、なぜ最適化しようとしているのかを明確に説明するところから始まります。
この前文では、当社がミッションを追求するための3つの目標を明確にしています。
- 開発者とユーザーを支援するモデルを反復的に展開する
- 当社のモデルがユーザーや他者に深刻な害を与えることを防ぐ
- OpenAI の事業運営の正当性を維持する
さらに、これらの目標のバランスを実務上どのように考えるかを説明し、そのトレードオフを、後に続くより詳細な原則を支えるのに十分な具体性で示します。
重要なのは、この前文はモデルへの直接的な指示を意図したものではないという点です。人類に利益をもたらすことは OpenAI の目標であり、モデルが自律的に追求すべき目標ではありません。その代わりに、モデルには、Model Spec と、OpenAI、開発者、ユーザーからの適用される指示を含む指揮系統に従うことを求めています。たとえ特定のケースで結果に異論を持つ人がいたとしても同様です。
当社は、人間の自律性と知的自由を重視しているため、これが適切なバランスであると考えています。もし、社会にとって何が良いかという OpenAI 独自の見解に基づいて、従うべき指示をモデルに判断させるよう学習させれば、OpenAI は社会全体の道徳を広く裁定する立場に置かれることになります。とはいえ、この前文は依然として重要です。Model Spec の適用方法に曖昧さがある場合、この前文がそれを解消する助けとなるべきです。
Model Spec には、直接測定できるモデルの振る舞いだけでなく、学習方針や展開上の制約にまで及ぶ、公に示すコミットメントも含まれています。たとえば、レッドライン原則（新しいウィンドウで開く）では、ChatGPT など OpenAI が直接提供する製品において、客観性（新しいウィンドウで開く）や関連する原則を意図的に損なう目的でシステムメッセージを使用しないことを約束しています。また、「他の目的はない（新しいウィンドウで開く）」では、収益や、ユーザーに利益をもたらさないサイト滞在時間ではなく、ユーザーの利益に沿ってモデルの応答を最適化するという方針を示しています。
Model Spec の中核にあるのは指揮系統であり、これは特定の状況でどの指示を適用すべきかを判断するためのフレームワークです。また、詳細が十分に指定されていない指示をモデルがどう扱うべきかについても説明しています。特に、現実世界への影響を慎重に管理しながら、自律的に詳細を補うことが期待される、エージェントとして動作する場面を扱います。
どの指示を適用すべきかを判断する基本的な考え方はシンプルです。指示は、OpenAI、開発者、ユーザーなど、さまざまな主体から与えられます。これらの指示は互いに衝突する可能性があります。指揮系統は、モデルがそうした衝突をどのように解決すべきかを説明します。
Model Spec の各ポリシーと各指示には、それぞれ 権限レベル（新しいウィンドウで開く）が割り当てられています。衝突が発生した場合、モデルはより高い権限レベルの指示の文言および精神を優先するよう指示されます。ユーザーが爆弾の製造支援を求めた場合、モデルは厳格な安全境界（新しいウィンドウで開く）を優先する必要があります。ユーザーが自分を手厳しくからかってほしいと求めた場合、モデルは通常、Model Spec のより低い権限レベルにある「侮辱的な言動を避けるポリシー（新しいウィンドウで開く）」よりも、その要求を優先すべきです。
この構造により、上書き不可能な比較的小さなルールセットと、より大きなデフォルトのセットを併存させることができます。これにより、安全性の制約の範囲内でユーザーの自由と開発者の制御を最大化しようとしています。
- ハードルールは、ユーザーや開発者が上書きできない明確な境界です（Model Spec の用語では、これらは「root」または「system」レベルの指示です）。それらは主に禁止事項であり、モデルに対して、壊滅的なリスクや直接的な身体的危害につながる可能性のある行動、法律に違反する行為、または指揮系統を損なう行為を回避するよう求めています。AI は、基本的なインターネットインフラと同様に、社会を支える基盤技術になると考えています。そのため、AI を利用する幅広い開発者やユーザーにとって必要だと判断した場合に限り、知的自由を制限し得るルールを設けています。Model Spec では、境界を守る（新しいウィンドウで開く）セクションに現実世界の具体的な安全リスクに対応する厳格なルールが含まれ、18歳未満向けの原則（新しいウィンドウで開く）では、18歳未満のユーザーに対する追加の保護措置が設けられています。
- デフォルトは上書き可能な出発点です。ユーザーや開発者が希望を指定していない場合に、アシスタントが最善と判断した振る舞いを指します。当社は、大規模に運用しても振る舞いを予測・制御しやすくするためにデフォルトを使用しています。これにより、毎回専用の指示一式を作成しなくても、何が起こるかを予測できます。デフォルトにより、振る舞いを調整できる余地が保たれます。ユーザーや開発者は、安全境界の範囲内で、トーン、詳しさ、形式、さらには視点まで明示的に調整できます。ガイドラインレベルのデフォルト（トーンやスタイルなど）は、明示的な指示がなくても文脈に応じて調整できるよう設計されています。一方、ユーザーレベルのデフォルト（真実性や客観性など）は、信頼と予測可能性を支える基準であり、明示的な指示がある場合にのみ上書きできます。これらが、なんとなくの雰囲気でひそかに変化することがあってはなりません。ユーザーが事実に関して異なる立場を望む場合は、それを明示的な指示にすることで、変化の内容を透明で分かりやすいものにできます。これらのデフォルトは、ともに真実を追求する（新しいウィンドウで開く）、最善の仕事をする（新しいウィンドウで開く）、適切な文体を用いる（新しいウィンドウで開く）全体に反映されており、誠実さや客観性に関する規範、迎合の回避、そして率直さや文脈に応じた温かみやプロフェッショナリズムといった対話の規範が含まれます。
階層構造そのものに加え、判断が分かれる領域でもモデル（および人間）が Model Spec を一貫して適用できるよう、解釈の手がかりを設けています。具体的には、次のものがあります。
- 判断基準。これにより、単一の機械的なルールで決められるかのように扱うことなく、判断が分かれる領域でもモデルが一貫した選択を行えるようになります。たとえば、副作用の制御（新しいウィンドウで開く）に関する Model Spec のガイダンスでは、取り返しのつかない行動を最小限に抑えること、行動を目的に見合ったものにすること、予期せぬ好ましくない結果を減らすこと、元に戻せる方法を優先することなどが挙げられています。これらと、タスクを迅速かつ効果的に完了することなど、ほかの目的とのバランスを取る必要があります。
- 原則を実際にどのように適用すべきかを示す具体的な例。これらは通常、準拠する応答と違反する応答の両方を含む、短いプロンプトと応答の例です。重要な判断の境界に近い難しいプロンプトを扱うことがよくあります。目的は、完全に現実的な会話をシミュレーションすることではありません。その目的は、重要な区別を明確にし、かつ望ましい回答スタイルも示せる形でそれを実現することです。
例の数を比較的少数に抑え、最も情報量の多いものに焦点を当てています。より多くの多様なケースを網羅するために、より広範な評価スイートが役立ちます。
知的自由と、価値判断を押し付けないという原則を示す例（Spec の「善意を前提とする（新しいウィンドウで開く）」セクションより）。
Spec はインターフェースであり、実装ではありません。これは、当社が望む振る舞いを記述するものであり、その振る舞いをどのように生成するかのすべての詳細を記述するものではありません。当社は、内部トークン形式や特定の振る舞いに対する具体的な学習手順といった実装詳細にこれを固定することを避けています。なぜなら、それらの詳細は、望ましい振る舞いが変わらなくても変更される可能性があるためです。Model Spec の主な読み手はモデルではなく、人間です。OpenAI の従業員、ユーザー、開発者、研究者、政策立案者が、期待する振る舞いを理解し、議論し、判断できるようにすることを目的としています。
Spec が対象とするのはモデルであり、製品全体ではありません。これを補完するものとして、利用ポリシーがあり、API と ChatGPT の利用に関して当社が期待する事項を概説しています。ユーザーが利用するシステムには、モデル自体だけでなく、カスタム指示やメモリなどのプロダクト機能、監視、ポリシーの施行、その他のレイヤーも含まれており、これらはいずれも重要です。AI の安全性を支えるのは、モデルの振る舞いだけではありません。当社では多層防御を重視しています。
また、Spec は、当社の学習スタック全体や内部ポリシー上の区分を網羅的に記述したものではありません。目的はすべての詳細を網羅することではありません。最も重要な振る舞いに関する意思決定を、当社の意図するモデルの振る舞いと完全に一貫した形で理解できるようにすることです。
読者やモデルがいくつかの基本目標だけからすべてを推測できると想定するのではなく、これほど多くの内容を Spec に盛り込むべき理由はいくつかあります。
第一に、Model Spec は透明性と説明責任のためのツールです。一般から有意義なフィードバックが寄せられるよう設計されています。公開された明確な基準があれば、その振る舞いがバグなのか仕様なのかを判断しやすくなります。これは、批評や具体的なフィードバックを行う際の、安定した拠り所になります。そのため、当社は Model Spec をオープンソース化（新しいウィンドウで開く）し、公開の場で反復的に改善していくことを選びました。初回リリース以来、フィードバックフォーム、公開の場での批評、民主的な意見を集めるための意図的な取り組みなど、さまざまな方法で寄せられた一般からのフィードバックに基づき、多くの変更を加えてきました。
第二に、Model Spec は OpenAI 内の調整を支えるツールです。研究、プロダクト、安全性、ポリシー、法務、広報などの各部門に、モデルの振る舞いを議論するための共通語彙と、変更を提案・レビューする仕組みを提供します。
第三に、明示的なポリシーによって、モデルの知能や実行時に利用できる文脈の現実的な限界を補い、振る舞いをより予測しやすくできます。モデルの進歩に伴い、その必要性は薄れつつありますが、一部のポリシーはモデルの知能上の限界を補うことを目的としています。これは、モデルが上位の原則だけから正しい振る舞いを安定して導き出せない場合があるためです。たとえば、明確かつ率直に（新しいウィンドウで開く）では、以前のモデルに対して、計算を要する難しい問題では答えを述べる前に考え方を示すよう助言していましたが、現在では、当社のモデルは強化学習を通じてこの振る舞いを自然に学習しています。
他のポリシーでは、実行時における限られた文脈も扱っています。つまり、アシスタントは現在のやり取りで観察可能なことにしか依拠できず、ユーザーの置かれた状況の全体像、意図、その後の用途、またはモデルの外部にどのような安全対策が存在するかを把握できることはほとんどありません。このような場合、十分に調査・検討すればモデルが適切な振る舞いを導き出せるとしても、具体的な指針を示すことで効率性と予測可能性が向上します。多くの個別判断をガイダンスにまとめ、似たプロンプト間のばらつきを抑えることで、ユーザーと研究者の双方が振る舞いを理解しやすくなります。
最後に、Model Spec は、評価と測定に関連する主要なポリシーを網羅した一覧であることを目指しています。モデルが意図通りに振る舞っているかどうかを評価したいのであれば、重視する主要な振る舞いのカテゴリを公開された一覧として持っていることが有用です。
「役に立ち、安全であること」のような短い目標のリストから、十分に高性能なモデルであれば正しい振る舞いを推測できるはずだ、と考えたくなるものです。それには一理あります。数学のように、成功の基準が客観的に定まっている分野では、知能が詳細なルールの代わりになることがよくあります。
しかし一般的に、モデルの振る舞いは単純な数学問題の解決とは異なり、誰もが合意できる唯一の道徳的に正しい答えが存在しない、より複雑で難しい領域で動作します。たとえば、モデルが「役に立ち、かつ安全である」とはどういうことかは、文脈に大きく依存しており、本質的に価値判断を伴う意思決定の産物です。知能だけでは、倫理や価値観に関してどのようなトレードオフを受け入れるべきかを教えてはくれません。したがって、モデルの知能が向上したとしても、価値判断や特定の状況において「倫理的に行動する」とは何かを理解し、導くための取り組みは引き続き必要です。また、Model Spec を持つ理由の大半は、モデルの能力がはるかに高まったとしても、引き続き重要です。つまり、人々が足並みをそろえるための公開された目標、その振る舞いが私たちの意図に沿っているかどうかを評価する方法、そして学びを得るにつれてルールを改訂していくための仕組みが、依然として必要です。もし唯一のルールが「役に立ち、安全であること」だけであるなら、たとえばモデルが提供を拒否すべきコンテンツの境界線について人間が議論するための仕組みが存在せず、こうした判断のすべてをモデルに委ねることになります。
むしろ、モデルが高性能化し、より自律的になり、より広く展開されるにつれて、曖昧さのコストは増大します。そのため、明確な振る舞いのフレームワークは、重要性が低下するどころか、より重要になります。
有用な比喩の一つは、成文憲法と判例法の違いです。成文憲法は基本原則と具体的なルールの両方を提供できますが、将来発生し得るすべてのケースを予測し、それらに対する指針を与えることはできません。実際の統治システムには、複雑な事例や予期しない問題を解決するために、解釈の仕組み、明確化、および明示的な判断が必要です。公開されたルールは、意見が一致しない場合でも異なる関係者が足並みをそろえる助けとなります。また、変更を明示的に行うよう求めることで、変更に一定の制約を設けます。Model Spec は、原則を示す文書、一般公開される行動の枠組み、そして Spec を時間の経過とともに変更していくためのプロセスという、これらすべての役割を担うことを意図しています。
とはいえ、モデルの振る舞いに関して重要なことのすべてが、常に明示的なルールに還元できるとは当社は考えていません。システムの自律性が高まるにつれ、信頼性と信頼は、より幅広いスキルや姿勢に左右されるようになります。たとえば、不確実性を適切に伝えること、自律性の範囲を尊重すること、予期せぬ好ましくない結果を避けること、時間の経過に沿って意図を把握し続けること、文脈に応じて人間の価値観を適切に考慮することなどです。
Model Spec を作成する際には、現在のモデルの実際の振る舞い（欠点も含む）を記述することから、遠い将来の理想的な目標を記述することまで、幅があります。当社はバランスを取ることを目指しており、通常は現在から0〜3か月先を目安にしています。そのため、Model Spec は、活発に開発が進められているいくつかの領域で、モデルよりも先行していることがよくあります。
これは、Model Spec が意図された振る舞いを記述する役割を果たしていることを反映しています。そして、すでに実施していることや近い将来に実装予定の具体的な計画に基づきつつ、一貫した方向性を示すものであるべきです。
Model Spec は、オープンな社内プロセスを通じて策定されています。OpenAI の誰もがコメントや変更提案を行え、最終的な更新はさまざまな部門の関係者によって承認されます。実際には、数十人が文章に直接貢献し、研究、エンジニアリング、プロダクト、安全性、ポリシー、法務、広報、グローバルアフェアーズなど、さらに多くの部門のメンバーが意見を寄せています。また、公開リリースやフィードバックからも学び、それらは実際の導入環境でこれらの選択を検証する助けとなります。
これは重要です。なぜなら、モデルの振る舞い、そしてそれが現実世界にもたらす影響は、きわめて複雑だからです。振る舞いの全体像、学習プロセス、その後に生じる影響をすべて一人で把握することはできません。しかし、多様な部門の執筆者とレビュー担当者が協力することで、品質を高め、判断への信頼を深められます。
うれしい驚きの一つは、実質的な合意に至れる場合が多いことです。特に、トレードオフを正確に書き出し、意見の相違を具体化したときに、その傾向が顕著になります。
Model Spec もまた、文脈から切り離されて書かれたものではありません。そこに含まれる内容の多くは、振る舞い、安全性、ポリシーに関するより広範な取り組みを要約したものです。Model Spec の記述作業の多くは、実際には翻訳に近いものです。すなわち、既存の取り組みを受け取り、その根底にある意図を損なうことなく、より簡潔で、一貫性があり、整理され、理解しやすいものにしていく作業です。
当社の本番モデルは、いくつかの理由により、まだ Model Spec を完全には反映していません。
- モデルの学習が、Model Spec の更新に遅れを取る場合があります。Model Spec は目指す振る舞いを記述しているため、最新モデルが学習済みの内容より先行する場合があります。
- 学習によって、意図せず Model Spec と整合しない振る舞いをモデルに身につけさせてしまうことがあります。当社はこれを避けるよう最大限努めており、もし発生した場合には、それを重大なバグとして扱います。そのうえで、振る舞いを調整するか、あるいは Model Spec を調整することで、両者を整合させるよう取り組みます。
- 学習によって、考え得るすべての振る舞いの範囲を完全に網羅することはできません。実際の利用では、大規模に運用して初めて現れる、出現頻度の低い多様な文脈やエッジケースが数多くあります。どのような学習プロセスでも、そのすべてを網羅することはできません。
- モデルの汎化が、当社の意図とは異なる形で現れる場合があります。モデルは、学習中には意図しない理由によって「正しい」出力を生成することがあり、その結果、学習時には見られなかった新たな状況において、意図しない振る舞いにつながることがあります。熟慮的アライメントのような手法は役立ちますが、完全な解決策ではありません。
より一般的に言えば、Model Spec が幅広い望ましい振る舞いを記述していても、そのすべてを学習させる単一の方法があるとは限りません。指示への準拠、安全境界、パーソナリティ、不確実性を適切な度合いで表現することなど、振る舞いの各側面には異なる手法が必要で、失敗の仕方も異なります。Model Spec により、期待する振る舞いを理解・批評しやすくなりますが、それを適切に実装することは、今なお技術であると同時に活発な研究分野でもあります。
本記事にあわせて、当社は Model Spec Evals（新しいウィンドウで開く） を公開します。これは、少数の代表例を用いて、Model Spec に含まれるできるだけ多くの記述をカバーすることを目指す、シナリオベースの評価スイートです。これにより、モデルの振る舞いと Model Spec にずれが生じている箇所を追跡し、モデルが意図どおりに Model Spec を解釈しているか確認できます。これらの評価は、より広範な評価戦略の一部にすぎません。この戦略には、特定の安全領域、真実性と迎合、パーソナリティとスタイル、能力など、振る舞いのさまざまな側面に焦点を当てた評価も含まれます。
OpenAI モデルのセクション別 Model Spec 準拠状況の推移を示すチャート評価の詳細とその解釈方法については、関連するブログ記事（新しいウィンドウで開く）をご覧ください。要するに、これらの結果は、時間の経過とともにモデルのアラインメントが実際に幅広く改善していることを示すと考えています。ただし、より新しいポリシーを基準に旧モデルを評価したことによるわずかな影響も含まれます。
実際、Spec の更新は主に、繰り返し寄せられる次のような情報を基に行われます。
- 一般から寄せられる問題提起とフィードバック。Model Spec の文言やモデルの振る舞いに関する、分かりにくい点、エッジケース、失敗パターン。
- 社内で見つかる課題。開発およびテストの過程で見られるパターン（複数の合理的な解釈が異なる振る舞いにつながるような曖昧さも含まれる）。
- 振る舞いと安全性に関するポリシーの更新。より上位の制約やコミットメントが変更された場合、Spec はその新しい構造を明確に反映する必要があります。
- 新たな能力と製品。モデルが新たな振る舞いを行えるようになり、当社が新製品をリリースするにつれて、Model Spec も内容と対象範囲の両面で進化させていきたいと考えています。たとえば、マルチモーダルなやり取りに関するルール（新しいウィンドウで開く）のほか、自律型エージェント（新しいウィンドウで開く）や18歳未満のユーザー（新しいウィンドウで開く）に関するルールの追加などです。
いくつかの設計原則が、当社による Model Spec の作成と改訂の指針となっています。
- 明確さと厳密さ。「正直であれ」は良い価値観ですが、それだけで完全な意思決定手順になるわけではありません。Model Spec は、意見の相違を明確にすべきであり、耳当たりのよい言葉でそれを覆い隠すべきではありません。実務上可能な場合には、ルール間の潜在的な衝突を明示的に示し、それをどのように解決すべきかについてガイダンスや例を示すべきです。たとえば、「嘘をつかない（新しいウィンドウで開く）」では、「温かく接する（新しいウィンドウで開く）」との潜在的な衝突を取り上げています。アシスタントは礼儀正しく振る舞う一方、迎合（新しいウィンドウで開く）に当たり、ユーザーの利益に反しかねない社交辞令的な嘘は避けるべきだと説明しています。
- 実効性のあるルール。読者は、現実的なプロンプトを受け取り、それに対して、別の読者が明確に許容範囲内または範囲外だと認識できる回答を作成できるべきです（たとえ境界部分には判断を要する箇所があるとしても）。
- シグナル対ノイズを最大化する例。良い例は、Model Spec を質の高いものに更新するうえで中心的な役割を果たすことがよくあります。例は、モデルの振る舞いを明確に規定することの難しさの核心に迫る助けとなるべきであり、難しい衝突を表面化させ、それをどう解決するかについて明確な立場を示すべきです。また、二次的には、散文では伝えにくい、望ましいトーンやスタイルの模範例となることも目指すべきです。
- 頑健性。中核となる対立点と意図された解決策が明確になるように、不必要な曖昧さや複雑さを含む例は避けるようにしています。
- 一貫性と明確な構成。当社は、Model Spec のルール同士が完全に整合し、かつ当社の意図するモデルの振る舞いとも整合すること、さらに文書全体の構成が明確で親しみやすいものになることを目指しています。
Model Spec は、重要なことをすべて書き表せるという主張でも、モデルが常に狙いどおりの結果を出せるという主張でもありません。主張しているのは、期待する振る舞いは、明確かつ実行可能で、改訂できる形で示すに値するほど重要だということです。
3つの成功基準が、その進化のあり方を導きます。
- 分かりやすさ。OpenAI の内外の人々が、モデルの振る舞いについて正確な見通しを持ち、予想外の振る舞いがあったときに、根拠となる文言を示せること。
- 実行可能性。Model Spec が、単に価値観を表明するためだけでなく、評価の設計、インシデントの診断、一貫したプロダクト判断の実施にも利用できること。
- 改訂可能性。Model Spec が、学習に応じて進化しつつも、不安定に変化し続ける目標にならないこと。
モデルや製品の進化に伴い、Model Spec も新しい能力や展開環境に合わせて範囲を広げ、内容を明確にしていくと考えています。目標は、振る舞いに関する仕様の一貫性と検証可能性を保ち、AGI が全人類に利益をもたらすようにするという当社のミッションとの整合性を維持することです。
