內容來源資訊有助人們了解內容來自何處、如何建立或編輯，以及是否含有與我們的模型相關的訊號。我們已公開提供工具，用於識別由我們的模型生成的圖像和音訊。今天，我們將介紹為回應歐盟《AI 法案》而採取的文字水印方案，以及這項方案如何配合我們的整體工作。
歐盟《AI 法案》要求生成式 AI 供應商以機器可讀取的方式，讓生成的文字可被識別。文字水印及偵測技術仍處於早期階段，存在重大限制；對於這些技術的益處及如何負責任地使用，各方看法仍在發展。我們採取分階段推行的方式，兼顧歐盟《AI 法案》的要求及技術限制，並着重清楚說明文字水印能提供哪些資訊，以及不能說明甚麼：
即日起，全球 API 客戶可選擇為指定模型啟用文字水印。API 的文字水印功能將維持預設關閉。
未來數星期，我們將為歐盟境內符合條件的 ChatGPT 和 Codex 文字輸出加入隱形水印。
我們現正接受文字水印偵測工具的使用申請。初期使用權限將僅限於經批准的研究人員及專業機構，讓他們協助我們評估及改進這項技術。
上述安排僅適用於文字來源資訊。我們的音訊及圖像驗證工具，包括 openai.com/verify 網頁工具和 Content Provenance API（在新視窗中開啟），將繼續公開供機構使用，協助它們了解圖像或音訊檔案是否由我們的系統生成。
我們的文字水印技術 textGrain 會在模型選用詞語時加入不可見的統計訊號。我們的偵測工具會尋找這種訊號，以判斷一段文字是否含有 OpenAI 水印。有關 textGrain 運作方式的更多詳情，可參閱我們的技術報告（在新視窗中開啟）；我們將於未來數星期更新報告，補充更多細節。我們亦計劃將這項技術開源，讓其他人能在此基礎上繼續開發。
在我們的評估中，textGrain 的表現達到或超越其他受測方法，包括用於文字的 SynthID。即使如此，在理想條件下表現出色，也不代表日常使用時能可靠地偵測水印。
偵測工具可能出現兩類錯誤：將沒有水印的文字判定為含有水印，即偽陽性；或未能偵測出實際存在的水印，即偽陰性。以下評估結果說明了其中一些挑戰：
較短或用詞選擇較受限制的文字，其水印更難偵測。在目標偽陽性率為 1% 的情況下，對於心理學等內容，我們的偵測工具在長度為 200 個 Token 的段落中，約有 80% 能識別出水印；在 400 個 Token 的段落中，這個比率則約為 95%。對於數學等用詞彈性較小的內容，偵測率則大幅降低。
編輯可能削弱水印訊號。在一項針對 400 個 Token 段落的評估中，以同義詞替換 10% 的詞語後，偵測率由約 92% 降至 66%。替換 25% 的詞語後，偵測率降至 17%。
這些限制是我們決定初期僅向經批准的研究人員及專業機構開放偵測工具的原因之一；他們可協助我們評估工具的可靠性，以及如何負責任地使用。
此圖表顯示針對 ELI5 數據集（在新視窗中開啟）中的數學及心理學問題所生成的帶水印回答，在目標偽陽性率為 1% 時的偵測結果。偵測率隨文字長度增加而提高，但數學等用詞彈性較小的內容，整體偵測率明顯較低。
編輯可能大幅削弱水印訊號。此圖表顯示替換段落中 10% 或 25% 的詞語如何影響偵測率。結果以針對 ELI5（在新視窗中開啟） 問題所生成的帶水印英文回答為依據。
在用於評估我們最新前沿模型 Astra 的各項基準測試中，我們沒有觀察到加上水印與否會帶來實質的表現差異。
基準測試 | 未加水印的文字（Astra，Max） | 已加水印的文字（Astra，Max） |
|---|---|---|
Artificial Analysis 智能指數 | 49.57 分 | 49.76 分 |
AutomationBench | 34.09% | 34.86% |
DeepSWE v1.1 | 72.80% | 71.68% |
Terminal-Bench 4.0 | 53.90% | 56.06% |
Terminal-Bench Science 0.1 | 56.90% | 60.00% |
BrowseComp | 87.92% | 87.35% |
HealthBench Professional | 64.27% | 64.60% |
GPQA Diamond | 94.44% | 93.94% |
文字水印只能提供有限的訊號，反映我們的系統在一段文字中發揮了甚麼作用。了解偵測結果能支持哪些結論、不能支持哪些結論，十分重要。
水印無法衡量人類的貢獻。它可以顯示 OpenAI 系統曾生成或處理某段文字的一部分，卻無法說明其中有多少人類判斷、編輯或創意投入。
水印無法確定擁有權或責任歸屬。它無法判定文字屬於誰、使用是否合法、是否需要披露，或應由誰負責。
水印不會識別使用者身分。它不會將任何個人、機構、帳戶、提示詞或對話與文字連結起來。
水印無法驗證準確性。它無法告訴你一段文字是否真實、具誤導性、有害，或是否在恰當的語境下呈現。
未偵測到水印，不代表文字由人類撰寫。使用 OpenAI 工具生成的文字，可能因過短、經過編輯或翻譯，而無法可靠地偵測水印。文字亦可能來自不支援水印的模型、在水印技術推出前生成，或由其他公司的工具生成。
在歐盟逐步推出文字水印。未來數星期，我們將僅向歐盟境內符合條件的 ChatGPT 和 Codex 使用者推出文字水印，涵蓋所有方案。推出時，我們不會在全球範圍內預設啟用文字水印。這種按地區推行的方式，讓我們有空間從實際使用情況及意見回饋中汲取經驗。
讓 API 客戶自行選擇啟用水印。即日起，全球 API 客戶可選擇為指定模型的文字輸出啟用水印。客戶可自行決定如何使用水印，以配合其透明度義務及向使用者提供的體驗。我們亦正與雲端合作夥伴協作，計劃於未來數星期，為透過其服務取得的 OpenAI 模型輸出提供水印功能。
向研究人員及專業機構開放偵測工具。經批准的研究人員及專業機構即日起可提出申請。根據《實務守則》（在新視窗中開啟），初期將逐案審批使用權限，以支援文字來源技術的評估及改進。工具會回報是否偵測到 OpenAI 水印，但不會識別使用者身分，亦不會透露其提示詞或對話。鑑於可能漏檢水印及出現偽陽性的風險，我們不會在推出時向公眾開放這項工具。
隨着技術、標準及證據的發展，我們預期會重新檢視這套方案的各個部分。
單靠任何一種來源技術都不足夠，因此我們採取多層次方案，結合開放標準、不易失效的水印及驗證工具。
我們為支援的圖像輸出加入內容憑證，並符合 C2PA 標準（在新視窗中開啟）；我們亦在支援的圖像及音訊中嵌入隱形 SynthID（在新視窗中開啟） 水印，並透過 openai.com/verify 及 Content Provenance API（在新視窗中開啟） 提供圖像及音訊驗證功能。這些技術相輔相成：內容憑證可記錄檔案的來源及歷史，而隱形水印則可在中繼資料被移除後保留訊號。
正如我們在 選舉保障工作中所述，來源資訊有助人們及平台評估可能具誤導性的 AI 生成內容，包括深度偽造內容。我們將這些訊號與政策、濫用偵測、舉報、調查及執行措施結合，並與研究人員、標準機構、平台及公民社會合作，讓來源資訊在更廣泛的生態系統中發揮作用。
將來源技術延伸至文字時，必須考慮到文字很容易被改寫、翻譯或編輯。正如我們在 6 月討論過，我們的方案必須顧及現有技術的實際限制。我們將繼續改進偵測技術，研究水印在文字經編輯及翻譯後能否保留，並探索更具實質意義的方法，區分 AI 輔助與 AI 撰寫。我們將隨着證據、標準及監管要求的變化調整方案，並在確信偵測結果能獲負責任地解讀時，擴大偵測工具的開放範圍。
如需更多資訊，請參閱我們的說明中心文章（在新視窗中開啟）。
