眾多使用者每天都在用 OpenAI 的工具編輯影像和音訊，以更加生動、實用和平易近人的方式來溝通。 隨著這些工具逐漸成為大眾創作、想像與分享的一部分，讓使用者能理解並驗證媒體的來源變得愈發重要，如此才能更有信心地解讀內容。 來源訊號可提供相關資訊，包括內容出處、建立或編輯方式，以及是否真如其所宣稱，藉此協助使用者理解內容。
今天，我們正以多層次、由生態系推動的模式強化內容來源機制，建立更值得信賴的線上環境。 我們透過符合 C2PA 規範，讓其他工具與平台更容易辨識我們的來源訊號；透過與 Google 合作，為影像加入可跨平台持續存在的 SynthID 浮水印；並推出一款預覽版工具供大眾使用，用來驗證影像是否來自 OpenAI。
這些更新延續了我們先前的工作，持續支持開放標準、讓 OpenAI 生成的內容更容易辨識，並與整個產業協作，共同建立更值得信賴的資訊生態系。
自 2024 年起，OpenAI 一直參與來源標準的制定與推廣。當時我們開始為 DALL·E 3(在新視窗中開啟) 生成的影像加入內容憑證，之後也擴展到 ImageGen(在新視窗中開啟) 和 Sora(在新視窗中開啟)。我們也加入了內容來源與真實性聯盟 (C2PA) 的指導委員會，該委員會是推動內容來源開放技術標準的跨產業組織。C2PA 的技術方法利用中繼資料與加密簽章，讓與媒體相關的資訊能隨內容本身一同安全傳遞。這些資訊包含背景脈絡，可協助記者評估來源、協助平台做出內容完整性判斷，也幫助人們理解自己在線上看到的內容。
我們最近進一步讓 OpenAI 成為 C2PA Conforming Generator Product(在新視窗中開啟)。透過符合 C2PA 規範，我們為平台提供可信的方式，可讀取、保留並傳遞我們附加在內容上的來源資訊。來源資訊能否持續保留下來非常重要，因為只有在離開最初建立內容的平台後仍能保留，來源機制才能真正發揮作用，而符合規範正讓這件事成為可能。
C2PA 中繼資料是來源機制的重要基礎。 它可協助內容攜帶相關資訊，包括內容來源、建立或編輯方式，以及由誰簽署這些資訊。 但中繼資料並非萬無一失。 它可能遭到移除、在上傳與下載過程中遺失，或因檔案格式變更、調整大小或截圖等轉換而失效。
為了讓來源機制更具韌性，我們正採取多層次方法，並透過 Google DeepMind 的 SynthID(在新視窗中開啟) 加入浮水印，首先應用於透過 ChatGPT、Codex 或 OpenAI API 生成的影像。SynthID 會嵌入一層不可見的浮水印，作為 C2PA 中繼資料方法的補充。
這兩套系統能彼此強化。 C2PA 協助內容攜帶詳細背景資訊；當中繼資料無法保留下來時，SynthID 則有助於保留訊號。 浮水印在截圖等轉換下可能更耐久，而中繼資料則能提供比單純浮水印更豐富的資訊。 兩者結合後，來源機制會比單獨依靠任一層更加穩固。
可信的中繼資料，以及能抵抗大多數修改的浮水印，可讓來源訊號更持久。但大眾仍需要方法來偵測這些訊號。我們推出一款公開驗證工具預覽版，藉由檢查上傳影像是否包含來源訊號（包括內容憑證與 SynthID)，協助人們驗證該影像是否由 ChatGPT、OpenAI API 或 Codex 生成。
我們相信，來源資訊應更容易讓人驗證與解讀，而我們的工具可透過整合多種訊號，協助人們判斷「這是否由 AI 生成？」。這延續了我們在 2024 年初步推出研究預覽版影像偵測分類器時累積的經驗，協助使用者以更可靠的方式偵測媒體中是否包含源自 OpenAI 的 SynthID 浮水印，並在發現時顯示 C2PA 中繼資料。
沒有任何偵測方法是萬無一失的，因此在偵測失敗時，我們會採取審慎做法。 例如，若未偵測到中繼資料或浮水印，工具將不會對影像是否由 OpenAI 工具生成下定論，因為來源訊號在某些情況下可能已遭移除。
在推出初期，這款工具僅支援 OpenAI 生成的內容。 在接下來幾個月內，我們的目標是支援跨產業合作，讓跨平台驗證成為可能。 未來，我們也預期支援人們在線上可能遇到的更多內容類型。
沒有任何單一來源技術足以獨立應對所有情況。 我們相信，完善的來源機制應結合共享標準、耐久的浮水印訊號，以及公開驗證。 我們長期支持 Content Credentials、符合 C2PA 規範、採用 SynthID，並推出預覽版公開驗證工具，希望長遠而言能協助推動更容易跨平台運作的來源生態系。
