AI 可以成為年輕人的強大工具，協助學生理解困難概念、練習新語言、準備求職面試、探索創意點子，或學習新技能。正如 20 世紀中葉席捲全球的識字運動，需要普及印刷教材並讓更多人獲得教師指導，如今讓更多人使用安全的 AI，也將為個人化學習開啟新機會、協助降低弱勢群體面臨的障礙，並幫助更多人做好投入職場的準備。
由於潛在益處如此重大，確保年輕人能以安全、符合年齡且有助於健康發展的方式使用 AI 極為重要。這項責任不應主要由父母或年輕人自行承擔。包括 OpenAI 在內的公司，有責任在產品中預設納入適當的防護措施，同時提供家庭所需的工具與資訊，協助引導 AI 的使用方式。
本月稍晚，各國元首齊聚法國埃維昂出席 G7 領袖峰會時，青少年 AI 安全將成為重點議題。OpenAI 將參與討論如何在青少年安全方面加強合作、如何共同提升產業標準，以及 OpenAI 最新呼籲成立國際青少年安全機構的倡議。
G7 領袖峰會是全球協調推動青少年 AI 安全工作的難得契機。但若能設立專責機構，便能在單次峰會之外持續推動相關工作，協助政府、研究人員、公民社會與產業界持續合作，共享證據、制定指引，並逐步提高標準。
要達成這個目標有多種可行方式，例如成立新的國際機構，或賦予既有或新設的國家 AI 機構全球任務，與世界各地夥伴共享研究成果、實證資料及相關指引。重點不在於組織形式，而在於能否發揮應有功能。青少年 AI 安全需要長期投入、可信的實證基礎，以及能跟上技術發展的實務指引。
這類機構可建立在既有倡議基礎上，例如由 OpenAI Foundation 支持的 Common Sense Media 青少年 AI 安全機構，以及與教育工作者的實務合作，包括 OpenAI 與美國教師聯合會的合作計畫。此外，也應借鏡實際導入經驗，例如愛沙尼亞在全國學校推動 ChatGPT 計畫。OpenAI 正與史丹佛大學及愛沙尼亞研究人員合作研究其影響，作為推動更安全、更有效學習應用的依據。
OpenAI 樂於與法國政府、其他 G7 成員國政府，以及公民社會、學術界和產業界夥伴攜手推動這項重要工作，共同提升全球青少年安全標準。
我們相信，健全的 AI 青少年安全框架，包括未來可能在 G7 會議達成的任何協議，都應遵循我們在此提出的原則。
- 公司應能辨識使用者是否為未成年人，並採取符合年齡的保護措施。這表示應要求服務提供者採用有效且兼顧隱私的年齡估算等方式，區分未成年人與成年人。當無法判定使用者年齡時，則預設採取相關防護措施。若沒有這項基礎，即使立意最良善的青少年保護措施，也可能無法觸及其意圖保護的年輕人。
- 公司應定期評估 AI 對年輕人帶來的風險與益處，並在傷害發生前採取因應措施。這表示服務提供者應每年進行青少年安全風險評估，並根據識別出的風險採取相應的防護措施。此類評估應考量年輕人在不同發展階段面臨的風險、實際使用所得的實證證據，以及相關研究或監管指引。評估不僅應檢視潛在危害，也應評估 AI 是否有助於學習、創造力、技能發展及取得機會等正向成果。
- 父母和監護人應能使用容易取得且操作簡單的控制工具，在尊重孩子符合年齡的自主性的同時，協助引導他們使用 AI。這些工具應涵蓋記憶、資料使用和使用時間限制等重要設定。公司也應主動推廣家長工具，讓父母知道有這些功能，並了解如何使用。
- 家庭應獲得清楚易懂的資訊，了解公司如何保護年輕使用者，並取得有關年輕人使用 AI 之益處與風險的實用資訊。公司應發布安全政策，說明有哪些防護措施用於保護年輕人、可用的家長工具，以及隨著風險演變如何更新保護措施。這種透明度能建立信任，並幫助父母做出明智選擇。
- 公司應制定明確規程，妥善因應自我傷害、剝削、誘導未成年人建立不當關係、性剝削內容，以及其他高風險互動等重大安全事件。相關措施應包括服務內支援、轉介至適當資源，以及在適當情況下及時通知家長。公司也應在系統設計上避免產生不適合兒童、可能危害安全或不符合其發展階段的內容，包括露骨的性或暴力內容。
- 年輕人使用的 AI 系統應以支持學習、成長及現實世界的人際關係為目標，而非取而代之。AI 應作為協助年輕人學習、發揮創意、培養能力及為未來做好準備的工具。同時，在健康成長仰賴人際互動、專業支持與人類判斷的領域，公司應劃定明確界線。
- 未成年人的個人資訊應受到保護。這表示應禁止向年輕人投放侵害隱私的定向廣告，並禁止公司出售個人資訊。
- 青少年安全框架應兼顧機會、素養與保護。年輕人應能使用有助於學習、發揮創意、培養能力及拓展未來機會的 AI 工具，同時具備安全且負責任地使用 AI 所需的知識與批判思考能力。這包括提升 AI 素養，幫助年輕人了解 AI 系統的潛力與限制，讓他們能在數位環境中自信且負責任地運用這些工具。
- 要讓這些保護措施真正發揮作用，必須建立健全的問責機制，包括獨立稽核。稽核應建立在一套共同標準之上，讓不同司法管轄區的稽核結果能彼此對應與參照。立法框架也應納入監督與執法機制，讓政府得以評估企業是否確實落實青少年安全防護措施、降低已識別風險，並履行青少年安全與隱私相關義務。
這些原則也體現在 ChatGPT 的開發與營運方式中，涵蓋模型行為、產品設計、專家參與及現實世界支援等面向。我們已強化對 18 歲以下使用者的防護措施，推出具主動通知功能的家長控制，以及進階年齡預測系統，讓 ChatGPT 能在使用者可能未滿 18 歲時啟用更嚴格的保護機制。我們的模型規格說明模型應遵循的行為原則，其中也包含 18 歲以下使用者專用原則(在新視窗中開啟)，優先考量青少年安全、符合年齡的使用體驗、現實世界支援，以及明確的行為界線。具體而言，這些措施包括針對自我傷害、危險活動、露骨內容、身體意象及保密要求等議題設置更嚴格的防護機制，並在必要時鼓勵使用者尋求可信賴的現實世界支援或危機協助資源。當無法確定年齡時，我們會預設採取較嚴格的防護措施。
完善的防護措施、清楚的使用指引，以及家庭與教育工作者的支持，能幫助年輕人安全運用 AI，拓展學習、發揮創意，並開創更多機會。AI 可以協助學生理解複雜概念、練習語言、改善寫作、學習程式設計、整理研究資料、探索創意構想，並為不斷變化的職場做好準備。OpenAI 透過 國家教育計畫，正與政府及教育工作者合作，推動以研究為基礎的導入計畫、在地化學習工具及教師培訓，確保 AI 的應用建立在實證基礎與真實課堂需求之上。這項工作已開始支援多個合作夥伴國家的國家教育計畫，包括愛沙尼亞、希臘和新加坡。
除了參與領袖峰會外，我們也將在巴黎舉辦 OpenAI Forum(在新視窗中開啟)，邀集政府、研究人員、公民社會、教育工作者及產業代表展開務實對話，共同探討如何將青少年 AI 安全的共同目標轉化為具體的防護措施、標準與實務做法。法國 AI 與數位事務大使 Clara Chappaz 將與 OpenAI 全球事務長 Chris Lehane、iRaise/Everyone.AI 的青少年安全倡議領袖，以及其他專家一同討論如何在降低風險的同時，讓年輕人充分受益於 AI。
