人們每天都在使用 OpenAI 的工具，以更具表現力、更實用、更易於取用的方式建立和編輯圖片與音訊。隨着這些工具成為人們構建、想像和分享內容的一部分，讓人們了解並驗證媒體來源變得十分重要，這樣他們就能更有信心地解讀內容。來源識別訊號可以提供內容來源、建立或編輯方式，以及內容是否與其聲稱相符等背景資料，協助人們作出判斷。
今天，我們正透過一個多層次、由生態系統推動的模式，加強我們對內容來源識別的做法，以建立網上信任。我們正透過符合 C2PA 標準，讓其他工具和平台更容易識別我們的來源識別訊號；亦透過與 Google 合作，為圖片加入可跨平台持久保留的 SynthID 浮水印；同時，我們亦分享一款公眾可用的工具預覽版，讓人們驗證圖片是否來自 OpenAI。
這些更新共同建基於我們早前的工作，支持開放標準，讓 OpenAI 生成內容更易識別，並與業界合作，支持建立更值得信任的資訊生態系統。
自 2024 年起，OpenAI 一直參與來源識別標準的制定和採用。當時我們開始為 DALL·E 3（在新視窗中開啟） 生成的圖片加入內容憑證，其後亦擴展至 ImageGen（在新視窗中開啟） 和 Sora（在新視窗中開啟）。我們亦加入了內容來源及真確性聯盟（Coalition for Content Provenance and Authenticity，C2PA）的指導委員會。C2PA 是一個跨業界組織，負責推動內容來源識別的開放技術標準。C2PA 的技術方法使用元數據和加密簽署，協助與媒體相關的資訊安全地隨內容本身一同傳遞。這些資訊包括有助記者評估來源、平台作出完整性判斷，以及人們理解網上所見內容的背景資料。
我們最近進一步讓 OpenAI 成為符合 C2PA 標準的生成產品（在新視窗中開啟）。通過符合 C2PA 標準，我們為不同平台提供一種可信方式，以便平台可讀取、保留並傳遞我們附加到內容上的來源識別資訊。這一點十分重要，因為來源識別只有在內容離開最初建立本身的平台後仍能繼續保留時，才算真正有效，而符合標準正正令這件事成為可能。
C2PA 元數據是來源識別的重要基礎；這有助內容攜帶關於來源、建立或編輯方式，以及由誰簽署這些資訊的資料。但元數據並非萬無一失。元數據可能被移除，亦可能在上載和下載過程中遺失，或因檔案格式轉換、調整大小、螢幕截圖等處理而失效。
為了提高來源識別的韌性，我們正採用多層次方法，並透過 Google DeepMind 的 SynthID（在新視窗中開啟） 加入浮水印，首先應用於透過 ChatGPT、Codex 或 OpenAI API 生成的圖片。SynthID 會嵌入一層不可見的浮水印，補足以 C2PA 元數據為基礎的方法。
這兩套系統可互相加強。C2PA 協助內容攜帶詳細背景資料；當元數據無法保留時，SynthID 則有助保留訊號。浮水印在螢幕截圖等轉換後可以更持久保留，而元數據則能提供比單靠浮水印更豐富的資訊。兩者結合，令來源識別比任何單一層次更具韌性。
可信元數據和能抵禦大多數修改的浮水印，可以令來源識別訊號更持久。但人們需要一種方法來偵測這些訊號。我們現正預覽一款公眾驗證工具，可協助人們驗證上載圖片是否由 ChatGPT、OpenAI API 或 Codex 生成，方法是檢查圖片是否包含來源識別訊號，包括內容憑證和 SynthID。
我們相信，來源識別應該更容易讓人驗證和理解，而我們的工具可以透過整合多種訊號，協助人們參與回答「這是否由 AI 生成？」這個問題。這項工作建基於我們在 2024 年推出的圖片偵測分類器初期研究預覽版所得的經驗，讓人們能可靠地偵測媒體中是否存在源自 OpenAI 的 SynthID 浮水印，並在找到 C2PA 元數據時將其顯示出來。
沒有任何偵測方法是萬無一失的，因此當偵測失敗時，我們會採取審慎做法。例如，如果沒有偵測到元數據或浮水印，工具不會就圖片是否由 OpenAI 工具生成作出確定結論，因為來源識別訊號在某些情況下可能被移除。
推出初期，這款工具只限於 OpenAI 生成的內容。未來數月，我們希望支持跨業界工作，讓跨平台驗證成為可能。長遠而言，我們亦期望支援更多人們可能在網上遇到的內容類型。
沒有任何單一來源識別技術能夠獨力完成所有工作。我們相信，穩健的方法應結合共享標準、持久的浮水印訊號和公眾驗證。透過建基於我們長期支持內容憑證的工作、符合 C2PA 標準、採用 SynthID，以及預覽公眾驗證工具，我們希望長遠為更具互通性的來源識別生態系統作出貢獻。
