この数か月間、私たちはお客様やパートナーと協力し、私たちのモデルを提供するサービス間で安全性ポリシーを統一する取り組みを進めてきました。また、要件をより明確にし、開発者が遵守しやすくなるよう、利用ポリシーも更新しています。
GPT‑6 Astra などのモデルは、開発者や企業が構築できるものの可能性を広げます。こうした能力の向上に伴い、私たちのモデルを提供するサービス全体で、安全対策が有効に機能し、一貫して適用されるよう取り組んでいます。
モデルを提供する前に、その能力とリスクを評価し、安全要件に従うようトレーニングを行います。また、安全対策を意図的に回避しようとする試みに対しても、対策が機能するかをテストします。安全性とアラインメントへのアプローチで説明しているとおり、私たちは互いに補強し合うよう設計された安全対策を組み合わせています。
提供開始後も、悪用の可能性を監視し、懸念事項を調査します。たとえば、サイバー領域での悪用を抑えるために、有害なリクエストを拒否するようモデルをトレーニングしています。また、複数のやり取りにわたって不審なパターンを検出するシステムを使い、対応を判断しています。信頼性を確認した利用者にアクセスを提供するプログラムも、保護をさらに強化する仕組みです。最も強力な機能へのアクセスに必要な資格要件と利用条件を定めています。
安全対策には、モデルに組み込まれているものもあれば、周辺のシステムや人によって支えられているものもあります。モデルに直接アクセスする場合でも、パートナーを通じてアクセスする場合でも、両方の対策が有効に機能する必要があります。
開発者や企業は、どのサービスでも一貫した安全対策が適用される環境で、私たちのモデルへのアクセス先を選べるべきだと考えています。私たちは、提供事業者間で安全対策を統一するためのポリシーを策定しました。各パートナーと協力し、その実装が私たちの安全基準を満たすか、上回るものとなるよう取り組んでいます。これらのポリシーは、OpenAI を通じて直接モデルにアクセスする場合にも、モデルをホストするパートナーや再販パートナーを通じてアクセスする場合にも適用されます。
これらのポリシーでは、OpenAI のモデルへのアクセスを提供するパートナーに対し、私たちと同等の安全対策を維持し、違反の可能性を調査し、懸念が確認された場合には適切な措置を講じることを求めています。これには、私たちのモデルへのアクセスを提供するサービス全体で制限の実効性を保てるよう、ルールの適用にあたって連携することも含まれます。
これを実践するには、各サービスの仕組みと、お客様による利用の実態を考慮する必要があります。お客様やパートナーと進めている Private Safety Processing の取り組みは、その一例です。機密データの扱いについてお客様の選択肢と管理権限を広げながら、効果的な安全対策を構築できます。
また、安全なモデル開発と、慎重な対応が求められる AI の用途に関するルールを明確にするため、利用ポリシーを更新します。改定後のポリシーは 2026 年 11 月 20 日に発効します。改定後の利用ポリシーでは、この取り組みをさらに進め、モデルルーターや AI ゲートウェイなど、私たちのモデルへの直接アクセスを提供するサービスに対し、アクセスの提供前に私たちの審査と承認を受けることを義務付けます。
何が許可され、何が制限されるのか、また、お客様やパートナーが質問したり、コンプライアンス上の懸念を解消したりするにはどうすればよいかを、引き続き説明していきます。
モデルの能力が高まるにつれ、悪用の検出、調査、対応の方法も改善し続けます。お客様は、エンドユーザーによる悪用や、アカウントの乗っ取り、API キーの漏えいを通じた悪用に直面することがあります。私たちはお客様と協力し、こうした問題を把握して対処します。
また、お客様と協力して SafetyIDs の導入も進めています。お客様に SafetyIDs を提供していただくことで、OpenAI がエンドユーザーの身元を知ることなく、調査の際に個々のユーザーを区別できるようになります。SafetyIDs により、他のユーザーへの影響を抑えつつ、悪用の疑いがある行為に的を絞って対応できます。
私たちは、記録に裏付けられた行為とリスクに基づいて措置を判断し、ルールを一貫して適用するとともに、状況に見合った対応を取ります。アクセスを制限した場合も、行動、確約事項、安全対策に実質的な変化があり、判断の根拠となった懸念が解消されれば、制限を見直します。
私たちは、より多くの人々に AI の恩恵を受けてほしいと考えています。明確なルールと一貫した安全対策により、開発者や企業は開発や競争に取り組みやすくなり、自らに最適なサービスを選びやすくなるはずです。
