コンテンツの来歴は、コンテンツの出所、作成や編集の方法、OpenAI のモデルに関連するシグナルの有無を把握する手がかりになります。OpenAI はすでに、当社のモデルが生成した画像や音声を識別するツールを一般公開しています。本日は、EU AI 法に対応するテキスト電子透かしへの取り組みと、当社のより広範な取り組みにおけるその位置づけをご紹介します。
EU AI 法は、生成 AI の提供者に対し、生成されたテキストを機械可読な方法で識別できるようにすることを義務づけています。テキスト電子透かしとその検出はまだ初期段階の技術であり、大きな制約があります。その利点や責任ある利用方法についても、見解が固まりつつある段階です。当社は、EU AI 法の要件と技術的な制約の両方を踏まえ、段階的に取り組みます。特に、テキスト電子透かしから何がわかり、何がわからないのかを明確に伝えることを重視しています。
本日より、世界中の API のお客様が、一部のモデルでテキスト電子透かしを任意で有効にできるようになります。API のテキスト電子透かしは、引き続きデフォルトでは無効です。
今後数週間にわたり、欧州連合域内の ChatGPT と Codex の対象テキスト出力に、目に見えない電子透かしを追加します。
テキスト電子透かし検出ツールの利用申請の受付を開始します。当初は、この技術の評価と改善に協力いただける、承認済みの研究者と専門機関に利用を限定します。
上記はテキストの来歴のみに適用されます。ウェブツールの openai.com/verify や Content Provenance API（新しいウィンドウで開く） を含む音声・画像検証ツールは、画像や音声ファイルが当社のシステムで生成されたかを確認したい組織に、引き続き一般公開します。
当社のテキスト電子透かし技術 textGrain は、モデルによる単語の選択に、目に見えない統計的シグナルを加えます。検出ツールはそのシグナルを探し、文章に OpenAI の電子透かしが含まれているかどうかを判定します。textGrain の仕組みの詳細は、技術レポート（新しいウィンドウで開く）をご覧ください。今後数週間のうちに、さらに詳しい情報を追加する予定です。また、他の方々がこの技術を基に開発を進められるよう、オープンソースでの公開も予定しています。
当社の評価では、textGrain は、テキスト用の SynthID を含め、検証した他の手法と同等以上の性能を示しました。ただし、理想的な条件で高い性能を発揮しても、日常的な利用で信頼できる検出が保証されるわけではありません。
検出ツールには、電子透かしがないのにあると判定する「偽陽性」と、電子透かしがあるのに見逃す「偽陰性」という、2 種類の誤りが生じる可能性があります。以下の評価結果から、いくつかの課題がわかります。
短いテキストや表現の制約が多いテキストでは、検出が難しくなります。目標偽陽性率を 1% に設定した場合、心理学などの内容では、200 トークンの文章の約 80% で電子透かしを検出できたのに対し、400 トークンの文章では約 95% で検出できました。数学など、単語選択の自由度が低い内容では、検出率が大幅に低くなりました。
編集によって電子透かしが弱まることがあります。400 トークンの文章を用いた評価では、単語の 10% を同義語に置き換えると、検出率は約 92% から 66% に低下しました。単語の 25% を置き換えると、検出率は 17% に低下しました。
こうした制約も踏まえ、当初は、信頼性と責任ある利用方法の評価に協力いただける、承認済みの研究者と専門機関にのみ検出ツールを提供することにしました。
このグラフは、ELI5 データセット（新しいウィンドウで開く）の数学と心理学の質問に対する、電子透かし付きの回答の検出結果を示しています。目標偽陽性率は 1% です。テキストが長いほど検出率は向上しますが、数学など単語選択の自由度が低い内容では、全体的に検出率が大幅に低くなります。
編集によって電子透かしのシグナルが大幅に弱まることがあります。このグラフは、文章内の単語の 10% または 25% を置き換えた場合の、検出への影響を示しています。結果は、ELI5（新しいウィンドウで開く） の質問に対する、電子透かし付きの英語の回答に基づいています。
最新のフロンティアモデル Astra の評価に用いる各種ベンチマークでは、電子透かしの有無による実質的な性能差は見られません。
ベンチマーク | 電子透かしなしのテキスト（Astra、マックス） | 電子透かしありのテキスト（Astra、マックス） |
|---|---|---|
Artificial Analysis Intelligence Index | 49.57 ポイント | 49.76 ポイント |
AutomationBench | 34.09% | 34.86% |
DeepSWE v1.1 | 72.80% | 71.68% |
Terminal-Bench 4.0 | 53.90% | 56.06% |
Terminal-Bench Science 0.1 | 56.90% | 60.00% |
BrowseComp | 87.92% | 87.35% |
HealthBench Professional | 64.27% | 64.60% |
GPQA Diamond | 94.44% | 93.94% |
テキスト電子透かしが示すのは、文章に当社のシステムがどのように関わったかについての限られた情報です。検出結果から何を結論づけられ、何を結論づけられないのかを理解することが重要です。
電子透かしは、人間の貢献度を測るものではありません。文章の一部を OpenAI のシステムが生成または処理したことは示せますが、人間による判断や編集、創造性がどの程度反映されているかはわかりません。
電子透かしは、権利や責任の所在を確定するものではありません。テキストの権利者、利用の適法性、開示義務の有無、責任の所在を判断するものではありません。
電子透かしは、ユーザーを特定するものではありません。個人、組織、アカウント、プロンプト、会話をテキストに紐づけるものではありません。
電子透かしは、正確性を検証するものではありません。文章が事実に即しているか、誤解を招くか、有害か、適切な文脈で提示されているかはわかりません。
電子透かしが検出されなくても、人間が書いた証拠にはなりません。OpenAI のツールで生成されたテキストでも、短すぎたり、編集や翻訳が加えられたりしていると、確実に検出できない場合があります。また、非対応のモデルによるもの、電子透かしの導入前に生成されたもの、他社のツールで生成されたものである可能性もあります。
EU でのテキスト電子透かしの導入今後数週間にわたり、EU 域内に限り、全プランの対象となる ChatGPT と Codex のユーザーにテキスト電子透かしを導入します。導入時点では、テキスト電子透かしを全世界でデフォルトにすることはありません。地域を限定することで、実際の利用状況やフィードバックから学ぶ機会を確保します。
API のお客様向けの任意設定による電子透かしの提供本日より、世界中の API のお客様が、一部のモデルで電子透かし付きのテキスト出力を任意で選択できるようになります。これにより、お客様は、透明性に関する義務やユーザーに提供する体験に合わせて、電子透かしをどう活用するか判断できます。また、今後数週間のうちに、クラウドパートナーのサービスを通じて利用する OpenAI モデルの出力でも電子透かしを利用できるよう、各パートナーと取り組んでいます。
研究者と専門機関への検出ツールの提供承認済みの研究者と専門機関は、本日より申請できます。実務規範（新しいウィンドウで開く）に従い、当初はテキスト来歴の評価と改善を支援するため、個別の審査に基づいて利用を許可します。このツールは、ユーザーを特定したり、プロンプトや会話を開示したりすることなく、OpenAI の電子透かしを検出したかどうかを報告します。電子透かしの見逃しや偽陽性のリスクを踏まえ、提供開始時点では一般公開しません。
技術や標準の進展、新たな知見に応じて、この取り組みの各要素を見直していく予定です。
来歴を示す技術は、どれか一つだけでは十分ではありません。そのため、当社はオープンな標準、消えにくい電子透かし、検証ツールを組み合わせた多層的なアプローチを採用しています。
当社は、対応する画像出力に Content Credentials を付与し、C2PA に準拠（新しいウィンドウで開く）しています。また、対応する画像と音声に、目に見えない SynthID（新しいウィンドウで開く） の電子透かしを埋め込み、openai.com/verify と Content Provenance API（新しいウィンドウで開く） を通じて画像・音声の検証機能を提供しています。これらの技術は相互に補完し合います。Content Credentials はファイルの出所や履歴を記録でき、目に見えない電子透かしはメタデータが削除されてもシグナルを残すことができます。
選挙を守るための取り組みでも説明したように、来歴情報は、ディープフェイクを含む、誤解を招くおそれのある AI 生成コンテンツを、人々やプラットフォームが見極める助けになります。当社は、こうしたシグナルを、ポリシー、不正利用の検出、通報、調査、違反への措置と組み合わせています。また、研究者、標準化団体、プラットフォーム、市民社会と協力し、より広範なエコシステム全体で来歴情報を役立てられるよう取り組んでいます。
来歴を示す仕組みをテキストにも広げるには、テキストが容易に書き換え、翻訳、編集できることを考慮する必要があります。 6 月にも述べたとおり、当社の取り組みは、現在の技術の実用上の限界を踏まえたものでなければなりません。今後も、検出性能の改善、編集や翻訳に対する電子透かしの耐性の研究を続け、AI が補助した文章と AI が作成した文章を、より実質的に区別する方法を探っていきます。知見、標準、規制要件の変化に応じて取り組みを調整し、結果を責任を持って解釈できると判断した段階で、検出ツールの提供対象を広げていきます。
詳しくは、ヘルプセンターの記事（新しいウィンドウで開く）をご覧ください。
