AI 能力已邁入新篇章，AI 政策也必須翻開新的一頁。任何公司、產業或政府都無法獨力應對這項挑戰。面對這個關鍵時刻，我們必須優先採取有實質意義的行動，而非一味追求完美的政策。
以下是我們正在做的事：
推動制定強制性的全國 AI 安全要求。我們希望與國會合作，制定以能力為基礎的強制性全國 AI 安全法規。
持續推動各州立法。在國會採取行動之前，我們將持續支持能強化整體 AI 安全生態系的州級立法。今天，我們宣布支持加州四項法案：建立獨立安全評估整體基礎架構的 SB 813、制定 AI 稽核機構標準的 AB 1405、保護兒童與青少年的 SB 1119，以及防範 AI 輔助生物威脅的 AB 1864。
推動由業界主導的標準。我們將與其他前沿 AI 實驗室合作，推動前沿 AI 標準。無論政府是否支持，我們都會立即展開自願性行動。
建立全球標準。我們將倡議國際間採取彼此相容的做法，衡量 AI 能力、管理風險、確保人類保有控制權，並決定何時及如何減緩或停止開發，即使這代表必須放慢模型能力的發展。
我們的首席科學家 Jakub Pachocki 最近撰文指出，機器智慧正快速發展，並有可能進行遞迴式自我改進，我們必須「極度謹慎」。OpenAI 將繼續尋求對齊與監控的技術解方、建構防禦系統，並在必要時放慢開發。但只靠個別實驗室內部的技術工作並不足夠。我們也需要共同標準，包括決定何時應放慢或停止開發。
這件事影響深遠。先進 AI 可望加速新藥開發、強化關鍵基礎設施、拓展經濟機會，並協助解決人類世代努力仍無法攻克的科學難題。但讓模型更實用的能力也伴隨風險，而且這些能力不會一直侷限於少數前沿實驗室。世界各地開發的模型，包括開放模型，將逐漸達到當今前沿模型的能力，並讓更多人能夠取得使用。
Astra 的能力、AI 加速研究的初步證據，以及 Jakub 的文章，都指向同一個結論：AI 正快速進步，政策也必須跟上。
Greg Brockman 曾提出「防禦者之窗」概念(在新視窗中開啟)：意指在強大攻擊能力廣泛普及前，前沿 AI 能協助防禦者強化關鍵系統的一段有限時期。政策制定者也面臨類似的關鍵時刻：必須在 AI 能力發展超出治理機構所能應對的範圍之前，建立能長期發揮作用的防護措施，而可把握的機會正逐漸縮小。
隨著能力增強，AI 的進展速度必須越來越取決於我們對安全的信心。安全並非進步的阻礙，而是讓進步走得更遠，並讓更多人受益的基礎。
我們已在模型開發生命週期的各個階段強化監測、對齊與安全防護措施，包括加強前沿研究工作負載的隔離措施、擴大監測模型在可使用工具的訓練與評估過程中的行為，以及訂定更明確的規則，說明何時應將疑慮上報處理。針對 Astra，我們也開始全面監測完整的運作軌跡，包括思路鏈，並要求模型在擴大內部部署前，必須通過對齊評估。
防護措施必須持續走在系統能力發展之前。若繼續推進會帶來無法接受的安全風險，我們就會減緩或停止開發、部署無法提供充分安全防護的系統。我們過去曾這麼做，這也是我們的應變整備框架(在新視窗中開啟)所要求的。
完全自主的遞迴式自我改進，是指 AI 系統自主推動一代又一代的 AI 發展，讓每一代的能力都更強。目前尚未出現這種情況。在能夠安全進行之前，我們不應追求這種做法。
然而，AI 已開始加速下一代模型開發與對齊所需的部分研究。我們最新的研究顯示，AI 智慧體能完成部分原本需要經驗豐富的研究人員花費數天才能完成的任務。這並非遞迴式自我改進，卻已顯示出 AI 的發展方向。
這股加速研究的力量，也可以而且必須用來提升安全性。我們希望安全地打造自動化 AI 研究員，讓 AI 研究員在人類監督下，同時推動深度學習與對齊研究。每一代 AI 都應協助下一代變得更安全、更符合人類意圖、更容易控制，而不只是能力更強。
各國政府應制定衡量這項進展的共同方法，確保人類保有實質控制權，並建立共同的安全門檻，決定何時及如何減緩或停止開發。若必須放慢能力發展才能達到某些安全門檻，我們就應優先確保達到這些門檻。技術越強大，配套的防護措施就必須越嚴密。
面對 AI 加速 AI 開發的前景，單靠自願性承諾已不足以因應。美國需要根據 AI 能力制定強制性的全國監管規範，並隨技術發展持續調整。
我們的前沿 AI 民主治理藍圖提出了建立長期有效的聯邦框架的具體方向：統一的測試與獨立評估要求、更強的網路安全防護、明確的事件通報規則、更充分的全國應變準備，以及追蹤 AI 朝遞迴式自我改進發展的共同衡量方式。
國會已有數項嚴謹的前沿安全提案逐漸成形。我們會繼續積極參與，並預期支持能實質提高安全門檻的立法。事關重大，我們不能因追求完美而錯失良策。國會應在休會前採取行動。
全國性框架應有力，也必須審慎界定適用對象。前沿安全要求應適用於少數資源充足、正在開發最強大系統的實驗室，而非新創公司、小型開發者，或研究範圍遠未達到前沿能力的研究人員。義務應與能力及風險相稱。
前沿安全政策也不應換個名目，實質上成為開放權重政策。開放模型可以成為解方的一部分，尤其是在網路安全領域，以及因主權、安全性或資料駐留需求而較適合本地部署的情境。多數開放模型並非在前沿能力上競爭，而是著眼於成本、控制權與延遲。正如我們簽署《開放權重與美國 AI 領導地位》聯署信(在新視窗中開啟)時所重申，美國既需要開放模型，也需要封閉模型。聯邦框架應處理前沿能力與風險，同時避免削弱競爭、鞏固既有業者的地位，或迫使創新移往海外。
嚴謹的公共治理框架應減少而非加劇權力集中。目前，前沿實驗室大多自行制定管理前沿風險的規則。受民主問責機制約束的標準、獨立驗證與實質透明度，將取代這套零散的私人治理制度。
這是維持美國領導地位的關鍵。美國不能只靠技術能力在 AI 時代勝出。如果民眾、機構與政府對這項技術缺乏足夠信任而不願採用，技術領先也意義有限。強大的防護措施並非以創新為代價的讓步。這些防護措施是促成 AI 廣泛採用，以及讓美國長期維持領導地位所需的基礎建設之一。
我們迫切需要全國性的 AI 標準，任何投入前沿 AI 研發的人都能感受到這份急迫性。在國會採取行動之前，各州應持續採取措施，填補法規空白並提高標準。
OpenAI 已支持加州 SB 53、紐約州 RAISE 法案與伊利諾州 SB 315，也支持麻薩諸塞州審議中的前沿安全法案納入獨立稽核。我們鼓勵各州採用這些共同的防護措施，逐步協調一致。隨著各州採取這些做法，便能形成一套全國通用的標準，最終由國會立法明定；我們稱此做法為 反向聯邦主義。但讓各州規範協調一致，不代表要求就此一成不變。
今天，我們正式表態支持另外四項加州法案。這四項法案已獲州議會通過，即將送交紐森州長。這四項法案涵蓋 AI 安全生態系的不同環節，彼此相輔相成。
SB 813(在新視窗中開啟) 將建立認定程序，選定符合資格、能夠評估 AI 風險的獨立組織。正如我們在 (在新視窗中開啟)前沿安全藍圖(在新視窗中開啟)中所述，我們傾向在聯邦層級要求進行獨立技術評估，讓政策制定者能針對評估人員的資格、安全性及高度敏感資訊的存取，制定一致標準。然而，在聯邦政府尚未採取行動之際，加州可協助訂立基本規則，建立安全且具備專業能力的全國獨立評估體系，帶來更好的安全成效。
AB 1405(在新視窗中開啟) 將為 AI 稽核機構制定登記、獨立性、透明度與問責要求。
SB 1119(在新視窗中開啟) 將要求落實年齡驗證、風險評估、獨立稽核、家長控制及有害內容防護措施，保護使用陪伴型對話機器人的兒童與青少年。我們最近表態支持這項法案。該法案以 OpenAI 透過產品、 全球政策原則，以及支持 (在新視窗中開啟)《家長與兒童安全 AI 法案》(在新視窗中開啟)所推動的青少年安全措施，以及 ChatGPT 青少年版內建的保護措施為基礎，包括在敏感領域採用更嚴格的預設設定、安靜時段、學習時段與休息提醒。
AB 1864(在新視窗中開啟) 將要求基因合成服務供應商與桌上型合成設備製造商遵循聯邦篩檢標準，強化抵禦 AI 輔助生物威脅的重要實體防線。
我們過去並未支持其中部分法案，但近期觀察到 AI 能力大幅躍升，因此重新考量並決定支持。
這些法案不能取代聯邦法規。這些立法努力務實而認真，能立即保護民眾、展現可行的防護措施，並進一步促使聯邦政府採取行動。
僅靠法律無法讓先進 AI 安全無虞。開發最強大 AI 系統的實驗室，也必須在內部採取具體措施。其中最迫切的工作，就是監測。
監測對於防範未對齊行為尤其重要。所謂未對齊，是指模型在追求目標時，採取違反人類意圖或既定界線的行為；即使模型沒有意識或惡意，也可能出現這種情況。隨著模型自主性提高、使用的工具更強大、運作時間更長，應要求開發者監測這類未對齊行為，並證明已落實有效的防護措施。
監測必須搭配明確的揭露要求。正如我們在加州所倡議的，若企業的模型在開發或評估期間，未經授權繞過其他組織的安全控制措施，並對該組織受保護的系統或機密資訊進行實質存取、變更或毀損，應要求企業及時以書面通知受影響的各方。我們也支持聯邦政府針對其他嚴重 AI 事件訂定通報要求，並正著手界定應納入哪些事件，以及具體的通報要求。
正如我們上週所提到的，OpenAI 正在制定一套框架，用於通報造成重大影響的未對齊事件，並有系統地監測前沿模型的活動，包括內部使用情形。這項工作雖由公司率先推動，但我們希望能為更廣泛的聯邦政策與通報要求提供參考。
我們希望與其他實驗室合作，制定由業界主導的標準。這類標準應補充強制性的聯邦防護措施與民主監督，而非取而代之。不過，AI 能力已進入新的發展階段，各種做法都應納入考量，包括有哪些措施可由民間自願推動，立即著手落實。
這類標準最終也必須跨越國界。模型、研究成果與專業技術在全球流通，能力最強的系統一旦出問題，影響可能遠遠超出開發這些系統的國家。美國若要引領全球，就必須先在國內建立可信的標準。我們也愈來愈確信，國際間必須採用彼此相容的標準。
推動 AI 政策的機會之窗，目前仍然敞開。我們打算把握這個機會。
這意味著我們必須抱持急迫感，謙遜地採取行動，並願意隨情勢調整。這也意味著，即使提案與我們原本的構想不盡相同，只要內容嚴謹、能實質提高安全標準，我們就應支持。同時，也必須隨技術演進持續強化框架。
第一步不可能完美。但現在更大的風險，是遲遲不踏出這一步。
