協助為先進 AI 建立共同標準

能力日益提升的模型可以加強網絡防禦、加快科學發現，並擴大專業知識的可及性。但如果外界誤解其能力、保障措施不足，或政府缺乏應對所需的資料，這些模型亦可能帶來安全及系統防護風險。要安全而有信心地實現這些效益，社會需要具備技術和治理能力的機構，評估、保障並治理能力日益提升的系統。

這正是 OpenAI 協助創立由 Linux Foundation 託管的 Appia Foundation⁠（在新視窗中開啟） 的原因之一。Appia 將制定開放、模組化的規格，旨在把國際標準和既有框架，轉化為適用於 AI 價值鏈各環節的實用評估準則。這項工作可協助建立目前欠缺、但至關重要的信任層，讓第三方核查是否符合標準；當模型、基礎設施和應用程式由不同機構開發時，亦能產生更清晰、更可重複使用的證據。透過這項工作，Appia 將協助建立一套共同技術語言，讓國家及國際機構能夠信任彼此的工作。

我們認為，這項工作是更廣泛工作中的重要下一步，有助強化先進 AI 系統所需的機構、標準和評估實踐。

我們最近提出的前沿 AI 民主治理藍圖，為這項工作提供路線圖。該藍圖呼籲建立持久的美國框架、強化 Center for AI Standards and Innovation（CAISI），並在政府各部門推行更廣泛的韌性策略。它亦指出，前沿風險具有國際性。各國應合作制定相容的安全框架、分享風險發現的可信渠道，以及就事故作出協調應對。

國家能力與國際合作應相輔相成。CAISI 等強大機構可以培養技術專長、評估前沿系統，並支援獨立評估生態。由具備能力的國家機構組成的網絡，便可確立共同方法、認可信任度高的證據，並讓各國政府具備共同行動所需的共同技術理解。

標準是這項工作的核心，且必須建基於可信的評估實踐和嚴謹技術。在我們的可信第三方評估共同實務指南中，我們列明前沿評估日益需要披露的內容：受測系統、其工具存取權限和評估框架、用於誘發能力的方法、可用資源，以及為驗證結果而執行的檢查。我們亦透過與美國 CAISI 和英國 AISI 的測試合作，把這些原則付諸實踐；雙方在前沿能力評估和防止生物濫用的保障措施方面的工作，為我們的系統帶來具體改進。這項工作發揮重要作用，為可標準化的實踐奠定基礎，以便以可比較的方式核查表現。

這些做法補足 OpenAI 更廣泛的安全基礎設施。我們的防範應對架構是基礎，界定我們如何制定並落實管理先進 AI 系統最嚴重風險的方法，包括內部做法。我們的前沿治理框架將該方法的相關部分應用於一份公開治理文件，聚焦特定監管義務，包括風險評估、模型報告、安全控制、事故應對，以及納入外部專家意見。這些文件共同有助把廣泛承諾轉化為可驗證並持續改進的運作實踐。

Appia 的工作聚焦下一項挑戰：讓這些實踐可在不同機構、司法管轄區和供應鏈之間互通。

OpenAI 一直參與更廣泛的標準及預標準化工作。我們參與國際標準化組織（ISO）與國際電工委員會（IEC）的第一聯合技術委員會 AI 第 42 分委員會⁠（在新視窗中開啟），以及由美國國家標準與技術研究院（NIST）帶領的 AI 聯盟⁠（在新視窗中開啟）；協助創立 Frontier Model Forum（前沿模型論壇） 和 Linux Foundation 旗下的 Agentic Artificial Intelligence Foundation（智能代理式人工智能基金會）⁠（在新視窗中開啟）；參與 Coalition for Secure Artificial Intelligence（安全人工智能聯盟）⁠（在新視窗中開啟）；擔任 Coalition for Content Provenance and Authenticity（內容來源及真確性聯盟）⁠（在新視窗中開啟）指導委員會成員；並參與 Internet Engineering Task Force（互聯網工程專責小組，IETF）⁠（在新視窗中開啟）和 Fast Identity Online Alliance （快速身份網上聯盟）⁠（在新視窗中開啟）的流程，推動可互通的技術標準。

在這些論壇中，包括現時透過 Appia 參與的工作，我們的目標是把前沿開發所得的經驗，轉化為開放且具備技術基礎的實踐，讓政府、企業和獨立評估機構可在不同司法管轄區採用。