OpenAI 支持加州推動青少年 AI 安全的法案
作者：Ann O’Leary，全球政策副總裁
OpenAI 支持加州參議院第 1119 號法案。該法案針對青少年使用 AI 的方式建立切實有效的保障，同時確保他們仍可使用有助於學習、創作及為未來做好準備的工具。這項支持延續了 OpenAI 共同創辦人暨執行長 Sam Altman 去年闡述公司青少年政策原則時所作的承諾。
在聯邦政府尚未採取行動之際，加州有機會為青少年 AI 安全樹立健全標準。
我們在致 Newsom 州長的信函(在新視窗中開啟)中，肯定他與州參議員 Steve Padilla、州眾議員 Buffy Wicks 和 Rebecca Bauer-Kahan，以及加州議會在這項重要議題上展現的領導力。第 1119 號法案以 OpenAI 一直支持的青少年安全措施為基礎，包括透過我們的產品、全球政策原則、在加州的倡議，以及參與《家長與兒童安全 AI 法案》所推動的相關工作。我們敦促 Newsom 州長簽署法案，使其正式成為法律。
青少年是與 AI 一同成長的第一代。在使用 ChatGPT 的青少年中，近九成每週都會用它來學習、取得資訊、培養技能或提高生產力。這項機會也伴隨明確的責任：青少年應獲得符合其特有發展需求的使用體驗，具備完善的預設保護措施，同時提供適當的學習、創作與探索機會。
我們最近推出的青少年版 ChatGPT正體現了這種做法。這項體驗旨在協助未滿 18 歲的使用者學習、批判思考及創作，同時鼓勵健康的使用方式、提供內建防護措施，並讓家長擁有更多控制權。如果系統判斷某人未滿 18 歲，或使用者表示自己的年齡介於 13 至 17 歲，系統便會自動套入青少年版 ChatGPT。這些防護措施是基本體驗的一部分，並非使用者可以關閉的選用設定。
整體而言，我們相信青少年能在不犧牲安全的前提下受益於 AI，而這正是第 1119 號法案的核心目標。
第 1119 號法案兼顧完善保障與持續使用實用 AI 工具的機會。我們強力支持以下關鍵要求：
- 判定使用者的年齡；
- 在向青少年提供產品前，辨識並處理安全風險；
- 接受獨立稽核；
- 保護青少年免受有害內容影響，包括自殘、性剝削內容及其他高風險互動；
- 提供工具，讓家長引導及限制子女的使用；
- 發生嚴重安全風險時，協助青少年取得危機支援資源；以及
- 限制定向廣告，並保護青少年的個人資訊。
對於判定為 13 至 17 歲的使用者，這些保障應自動生效。這項法案將實質問責機制與防護措施相結合，有助於保障青少年使用 AI 時的安全。
第 1119 號法案也恰當地指出，AI 並非社群媒體。該法案建立量身打造的保障，協助青少年運用 AI 學習、創作與探索。政策制定者在設計此框架時，力求保留教育與攸關安全功能的使用權，包括負責任地使用 ChatGPT 的記憶功能，同時讓青少年獲得更安全且適齡的體驗。
青少年版 ChatGPT 提供一系列專為協助青少年學習而設計的功能，例如測驗、學習視覺化和學習模式。這些功能由教育工作者與學習專家共同開發，引導學生逐步解決問題。這些工具旨在加深理解，並協助培養更良好的學習習慣。記憶等運用過往對話脈絡的功能，有助於一致地套用防護措施、辨識令人擔憂的行為模式，並提供更實用的長期學習支援。
脈絡也能讓這些安全與學習工具長期維持更一致的運作。透過記憶等功能，ChatGPT 可以延續過往對話中的相關資訊與偏好，讓青少年無須從頭開始，便能繼續進行長期學習專案。這種連貫性也有助於避免強化有害模式，並在青少年可能需要額外協助或資源時，提供更有效的回應。
兼顧安全與學習並非我們才剛開始面對的課題。過去一年，我們新增了家長控制、年齡預測、青少年安全藍圖，以及模型規格中的未滿 18 歲使用者原則；模型規格是規範模型應如何運作的一套規則。這些措施為模型與青少年互動的方式訂立了新標準。這些規則禁止模型進行浪漫互動、鼓勵情感依賴，以及聲稱 ChatGPT 是人類或具有感知能力。我們也提供家長控制，讓家長管理青少年的重要設定，並在高風險情況下收到通知。
第 1119 號法案為加州青少年 AI 安全建立了健全框架。實施期間持續研究與協作，有助於改進關鍵條款，並讓框架隨技術演進持續發揮成效。OpenAI 期待支持這項工作，並持續打造符合青少年發展需求的 AI 體驗，提供更完善的自動防護，以及實質的學習與成長機會。
