內容溯源有助於人們了解內容來自何處、如何產生或編輯，以及是否含有與我們模型相關的訊號。我們已公開提供工具，協助辨識由我們模型生成的圖像與音訊。今天，我們將分享因應《歐盟人工智慧法案》的文字浮水印做法，以及這項做法如何融入我們的整體工作。
《歐盟人工智慧法案》要求生成式 AI 供應商，讓生成的文字可透過機器可讀取的方式加以辨識。文字浮水印及偵測技術仍處於早期階段，有相當大的局限，而對其效益及負責任使用方式的看法也仍在形成中。我們採取分階段的做法，兼顧《歐盟人工智慧法案》的要求與技術限制，並著重於清楚說明文字浮水印能提供哪些資訊、又有哪些資訊無法提供：
即日起，全球 API 客戶都可自行選擇為特定模型啟用文字浮水印。API 中的文字浮水印預設仍為關閉。
未來幾週，我們將在歐盟境內符合條件的 ChatGPT 和 Codex 文字輸出中加入隱形浮水印。
我們正開放申請使用文字浮水印偵測器。初期使用權限僅限經核准的研究人員與專業組織，協助我們評估及改善這項技術。
上述做法僅適用於文字溯源。我們將持續公開提供音訊與圖像驗證工具，包括 openai.com/verify 網頁工具及 Content Provenance API(在新視窗中開啟)，讓組織能了解圖像或音訊檔案是否由我們系統生成。
我們的文字浮水印技術 textGrain 會在模型的用詞選擇中加入不可見的統計訊號。偵測器會尋找這個訊號，藉此評估一段文字是否含有 OpenAI 浮水印。如需深入了解 textGrain 的運作方式，請參閱我們的技術報告(在新視窗中開啟)。我們將在未來幾週更新報告，補充更多細節。我們也計劃將這項技術開源，讓其他人能在此基礎上繼續開發。
在我們的評估中，textGrain 的表現與其他受測方法相當或更佳，包括文字版 SynthID。不過，即使在理想條件下偵測成效良好，也無法保證在日常使用情境中同樣可靠。
偵測器可能出現兩種錯誤：將沒有浮水印的文字判定為含有浮水印，也就是偽陽性；或未能偵測出已有的浮水印，也就是偽陰性。以下評估結果說明了其中部分挑戰：
文字越短或用詞限制越多，越難偵測。以心理學等內容為例，在目標偽陽性率為 1% 時，偵測器約能在 80% 的 200 個 Token 段落中偵測出浮水印；段落長度為 400 個 Token 時，偵測率約為 95%。數學等內容的用詞彈性較小，偵測率則明顯較低。
編輯可能削弱浮水印訊號。在一項針對 400 個 Token 段落的評估中，以同義詞替換 10% 的詞語後，偵測率從約 92% 降至 66%。替換 25% 的詞語後，偵測率則降至 17%。
基於這些限制，我們決定初期僅向經核准的研究人員與專業組織提供偵測器使用權限，讓他們協助評估可靠性及負責任的使用方式。
此圖表呈現目標偽陽性率為 1% 時的偵測結果。受測文字是針對 ELI5 資料集(在新視窗中開啟)中的數學與心理學問題生成、帶有浮水印的回覆。文字越長，偵測率越高；但數學等內容的用詞彈性較小，整體偵測率明顯較低。
編輯可能大幅削弱浮水印訊號。此圖表呈現替換段落中 10% 或 25% 的詞語對偵測的影響。結果以針對 ELI5(在新視窗中開啟) 問題所生成、帶有浮水印的英文回覆為基礎。
在用來評估最新前沿模型 Astra 的各項基準測試中，我們並未觀察到加入浮水印與否會造成明顯的效能差異。
基準測試 | 未加浮水印的文字（Astra，Max） | 加上浮水印的文字（Astra，Max） |
|---|---|---|
Artificial Analysis Intelligence Index | 49.57 分 | 49.76 分 |
AutomationBench | 34.09% | 34.86% |
DeepSWE v1.1 | 72.80% | 71.68% |
Terminal-Bench 4.0 | 53.90% | 56.06% |
Terminal-Bench Science 0.1 | 56.90% | 60.00% |
BrowseComp | 87.92% | 87.35% |
HealthBench Professional | 64.27% | 64.60% |
GPQA Diamond | 94.44% | 93.94% |
對於我們的系統在一段文字中扮演的角色，文字浮水印只能提供有限的訊號。了解偵測結果能支持哪些結論、又不能支持哪些結論非常重要。
浮水印無法衡量人類的貢獻。它可以指出 OpenAI 系統曾生成或處理段落中的部分文字，但無法說明其中投入了多少人類的判斷、編輯或創意。
浮水印無法確立所有權或責任歸屬。它無法判定文字屬於誰、使用方式是否合法、是否需要揭露，或由誰承擔責任。
浮水印無法識別使用者。它不會將文字與任何個人、組織、帳號、提示詞或對話連結。
浮水印無法驗證準確性。它無法告訴你一段文字是否屬實、具有誤導性、有害，或是否在適當的脈絡下呈現。
未偵測到浮水印，並不能證明文字由人類撰寫。透過 OpenAI 工具生成的文字可能因篇幅過短、經過編輯或翻譯，而無法可靠地偵測。文字也可能來自不支援浮水印的模型、在啟用浮水印之前生成，或由其他公司的工具生成。
在歐盟推出文字浮水印。未來幾週，我們將為歐盟境內所有方案中符合條件的 ChatGPT 和 Codex 使用者導入文字浮水印，僅限歐盟地區。推出時，我們不會在全球預設啟用文字浮水印。這種分區推行的做法讓我們有空間從實際使用情況與回饋中學習。
讓 API 客戶自行選擇啟用浮水印。即日起，全球 API 客戶都可自行選擇，讓特定模型的文字輸出帶有浮水印。客戶可據此決定如何運用浮水印，配合自身的透明度義務，以及提供給使用者的體驗。我們也正與雲端合作夥伴合作，預計未來幾週，透過這些夥伴的服務取得 OpenAI 模型輸出時，也能使用浮水印。
向研究人員與專業組織提供偵測器使用權限。經核准的研究人員與專業組織即日起可提出申請。依照實務守則(在新視窗中開啟)，初期將逐案核准使用權限，協助評估及改善文字溯源技術。這項工具會回報是否偵測到 OpenAI 浮水印，但不會識別使用者，也不會揭露其提示詞或對話。考量到漏偵測浮水印及偽陽性的風險，我們在推出時不會向大眾開放。
隨著技術、標準及實證持續發展，我們預期會重新檢視這套做法的各個環節。
單靠任何一種溯源技術都不足以達成目標，因此我們採取多層次的做法，結合開放標準、持久的浮水印及驗證工具。
我們會在支援的圖像輸出中加入內容憑證，並已符合 C2PA 規範(在新視窗中開啟)；也會在支援的圖像與音訊中嵌入隱形的 SynthID(在新視窗中開啟) 浮水印，並透過 openai.com/verify 及 Content Provenance API(在新視窗中開啟) 提供圖像與音訊驗證功能。這些技術相輔相成：內容憑證可記錄檔案的來源與歷程，而隱形浮水印則能在中繼資料遭移除後，仍保留訊號。
正如我們在選舉防護工作中所說明的，溯源技術可協助人們與平台評估可能具有誤導性的 AI 生成內容，包括深偽內容。我們將這些訊號與政策、濫用偵測、檢舉、調查及政策執行措施結合，並與研究人員、標準制定組織、平台及公民社會合作，讓溯源技術在更廣泛的生態系中發揮作用。
將溯源技術延伸至文字時，必須考量文字很容易被改寫、翻譯或編輯的特性。正如我們在六月所討論的，我們的做法必須反映現有技術的實際限制。我們將持續改善偵測能力，研究浮水印在文字經編輯與翻譯後的保留情況，並探索如何更有意義地區分 AI 輔助與 AI 撰寫。我們將隨著實證、標準及法規要求的發展調整做法，並在確信偵測結果能獲得負責任的解讀時，擴大開放偵測器使用權限。
如需更多資訊，請參閱我們的說明中心文章(在新視窗中開啟)。
