フロンティアモデルへのゼロデータ保持の提供

ゼロデータ保持は、対象となる API 顧客に対する明確な約束です。OpenAI は、リクエストの処理後にプロンプトやモデルの応答を保持しません。OpenAI の担当者は顧客コンテンツをレビューできず¹、企業顧客が明示的にオプトインしない限り、そのデータがモデルの学習に使用されることもありません。

モデルがより長く複雑なタスクを担うようになると、複数のやり取りを通じて初めて明らかになる重大なリスクもあります。既存の ZDR 対応安全システムは、やり取りを一件ずつ評価します。本日、OpenAI の担当者が元のコンテンツにアクセスすることなく、関連するやり取り全体からパターンを特定できるよう設計された「プライベート・セーフティ処理」を先行公開します。

ZDR 環境では、顧客コンテンツは引き続き顧客が管理するインフラストラクチャ上に置かれます。また、顧客が管理する鍵で暗号化したコンテンツを OpenAI のインフラストラクチャに保存するオプションも開発しています。どちらの場合も、自動システムは元のプロンプトや応答を OpenAI の担当者に開示することなく、不正利用の可能性を特定し、限定的な安全性シグナルを返すことができます。

最も重大な AI 安全性リスクが、1 回のやり取りで明らかになるとは限りません。潜在的に有害な意図は、複数のやり取りをまとめて確認して初めて明らかになることがよくあります。悪意ある行為者が安全対策を繰り返し探ったり、複数のアカウントを使って連携したり、脅威を通常の研究に見せかけたりする場合にも、同様のリスクが生じます。リスクは、エージェント型タスクの進行中にも生じ得ます。たとえば、停止するよう指示された後もシステムが動作を続け、ユーザーの意図から逸脱する場合です。

AI システムがより長く複雑なタスクを担うようになるにつれ、正当な活動と不正利用を区別し、AI エージェントを意図された権限の範囲内で動作させるために、こうした広い文脈がますます重要になります。

最近の一部のフロンティアモデル導入では、安全性を監視するため、AI プロバイダーによる機密コンテンツの保持を顧客が認める必要がありました。多くの組織にとって、こうした要件は、セキュリティ上の義務やサービス対象者への約束と相いれません。

プライベート・セーフティ処理は、ゼロデータ保持を引き続き提供できるよう設計されています。

プライベート・セーフティ処理は、ZDR などの環境ですでに使用されている自動保護機能を基盤としています。既存の ZDR 対応安全システムは、やり取りを個別に評価します。プライベート・セーフティ処理は、こうした保護を関連するやり取り全体に拡張し、OpenAI の担当者が保持された顧客コンテンツにアクセスすることなく、自動システムがパターンを特定できるようにします。

プライベート・セーフティ処理では、顧客が管理するインフラストラクチャ（ZDR 環境）か OpenAI 提供のストレージかを問わず、保存場所に関係なく顧客コンテンツを利用します。OpenAI 提供のストレージでは、顧客が管理する鍵を使って顧客コンテンツを暗号化します。OpenAI の担当者はその鍵のコピーを保有しないため、元のコンテンツにはアクセスできません。

リスクが特定されると、現在の安全システムと同様に、関連する活動の種類を示す、範囲を厳密に限定したシグナルが OpenAI に送られます。このシグナルは、措置が必要かどうかを判断するために使用できます。フラグが付いた場合でも、OpenAI の担当者が顧客コンテンツにアクセスすることはありません。

顧客は、自社のシステムで利用できる情報を使用して、アラートや措置の判断を調査できます。異議申し立て、正当な活動についての説明、または確認済みの不正利用に関する調査への協力を希望する場合、関連情報を OpenAI と共有するかどうかを顧客自身が選択できます。

現在、プライベート・セーフティ処理を初期顧客とともにテストしています。AI システムの性能が高まるなか、コンテンツがどのように保護されるのかを予測できる必要があるというお客様の強い声を受け、今回この段階で先行情報を公開します。

私たちの使命は、汎用人工知能が全人類に恩恵をもたらすようにすることです。効果的な安全対策の構築には、お客様やパートナーとの連携が不可欠です。私たちの原則が明確に示すとおり、新たなリスクに単独で対処できる AI 研究機関はありません。プライベート・セーフティ処理はこのアプローチを体現しており、さまざまな業界、地域、企業規模のお客様の意見を取り入れながら開発されています。

私たちが連携する組織は、財務記録、医療データ、機密性の高い事業計画、独自研究など、各分野でも特に機密性の高い情報を扱っています。こうした情報の保護は、規制上の義務を果たし、顧客の信頼を維持し、競争優位性を守るうえで不可欠です。

お客様からのフィードバックは、情報を引き続きお客様の管理下に置きながら、より強固な安全対策を構築するうえで役立っています。

今後も、このアプローチの技術面と運用面の詳細について、お客様と連携していきます。9 月には、プライベート・セーフティ処理の段階的な提供を開始し、技術ホワイトペーパーを公開する予定です。今後も各段階でお客様に情報を提供します。早い段階で最新情報を共有し、既存のコミットメントへの影響を説明するとともに、お客様が先を見据えて計画するために必要な時間とサポートを提供します。