OpenAI 支持加州推動青少年 AI 安全法案
全球政策副總裁 Ann O’Leary 撰文
OpenAI 支持加州參議院第 1119 號法案（SB 1119）。該法案旨在為青少年使用 AI 制定切實有效的保障措施，同時確保他們仍可使用有助學習、創作和裝備未來的工具。這項支持延續了 OpenAI 聯合創辦人兼行政總裁 Sam Altman 去年闡述公司青少年保護原則時所作的承諾。
在聯邦政府尚未採取行動之際，加州有機會為青少年 AI 安全訂立嚴格標準。
我們在致州長 Newsom 的信函（在新視窗中開啟）中，讚揚他與參議員 Steve Padilla、州眾議員 Buffy Wicks 和 Rebecca Bauer-Kahan，以及加州議會在這項重要議題上發揮領導作用。SB 1119 法案建基於 OpenAI 透過旗下產品、全球政策原則、加州倡議工作，以及參與《家長及兒童安全 AI 法案》所推行的青年安全措施。我們促請州長 Newsom 簽署法案，落實立法。
當代青少年是首個在 AI 伴隨下成長的世代。在使用 ChatGPT 的青少年中，每星期有近九成會使用它來學習、獲取資訊、培養技能或提升生產力。這項機遇也伴隨明確責任：青少年的使用體驗應針對其獨特的成長需要而設，預設提供有力保障，並讓他們有適當機會學習、創作和探索。
我們新推出的 ChatGPT 青少年版正體現這種方針。它旨在幫助未滿 18 歲的用戶學習、批判思考和創作，同時鼓勵健康使用、提供內置保障，並讓家長享有更多控制權。如果系統估計用戶未滿 18 歲，或用戶申報年齡介乎 13 至 17 歲，便會自動獲安排使用 ChatGPT 青少年版。這些保障是基本使用體驗的一部分，而非用戶可以關閉的選用設定。
更廣泛而言，我們相信青少年可以在不犧牲安全的情況下受惠於 AI，而這正是 SB 1119 法案的核心目標。
SB 1119 法案在提供有力保障的同時，確保用戶可繼續使用實用的 AI 工具。我們強烈支持以下主要規定：
- 判定用戶的年齡；
- 在向青少年提供產品前，識別並處理安全風險；
- 接受獨立審核；
- 保護青少年免受有害內容影響，包括自殘、涉及性剝削的內容及其他高風險互動；
- 為家長提供工具，以指導和限制子女的使用；
- 在出現嚴重安全風險時，協助青少年取得危機支援資源；以及
- 限制定向廣告，並保障青少年的個人資料。
對經判定為 13 至 17 歲的用戶，這些保障應自動生效。這項法例會兼顧切實問責與安全保障，在青少年使用 AI 時為他們提供保護。
SB 1119 法案亦恰當地指出 AI 並非社交媒體。該法案制定了針對性保障，協助青少年運用 AI 學習、創作和探索。在制定這套框架時，政策制定者致力保留教育和攸關安全的功能，包括以負責任的方式使用 ChatGPT 的記憶功能，同時為青少年提供更安全、切合年齡的使用體驗。
ChatGPT 青少年版提供一系列專為協助青少年學習而設的功能，例如測驗、學習視覺化和學習模式。這些功能由教育工作者和學習專家共同開發，引導學生逐步解決問題。這些工具旨在加深理解，並幫助用戶建立更良好的學習習慣。善用過往對話背景資料的功能（包括記憶功能）亦有助維持一致的安全防護措施，識別令人擔憂的行為模式，並隨時間提供更實用的學習支援。
背景資料亦有助這些安全和學習工具長期維持一致的運作表現。透過記憶等功能，ChatGPT 可以沿用過往對話中的相關資訊和偏好，讓青少年延續較長期的學習項目，毋須重新開始。這種連貫性亦有助避免強化有害模式，並在青少年可能需要額外協助或資源時，提供更有效的回應。
在安全與學習之間取得平衡對我們而言並非新課題。過去一年，我們已將家長控制、年齡預測、青少年安全藍圖，以及「18 歲以下用戶原則」納入模型規格中。模型規格是指引模型應如何運作的規則，而上述措施為模型與青少年互動的方式訂立新標準。這些規則禁止模型與用戶發展浪漫關係、助長情感依賴，或聲稱 ChatGPT 具備人類身份或感知能力。我們亦提供家長控制，讓家庭成員能夠管理青少年的主要設定，並在高風險情況下接收通知。
SB 1119 法案為加州的青少年 AI 安全建立穩健框架。在實施期間持續研究和協作，有助完善主要條文，並隨着科技發展維持框架的成效。OpenAI 期待支持這項工作，並繼續打造切合青少年年齡的 AI 體驗，提供更有力的自動保障，以及具實質意義的學習和成長機會。
