AI 可以成為年輕人的有力工具：AI 可以幫助學生理解艱深概念、練習新語言、準備求職面試、探索創意，或學習新技能。20 世紀中葉席捲全球的識字運動，需要大規模分發印刷文本，並讓人們接觸受過訓練的教師；同樣地，今天提供安全的 AI 使用途徑，將為個人化學習開拓新機會，協助減少弱勢社群面對的障礙，並提升勞動力的就業準備。
由於潛在益處非常重大，年輕人必須能夠以安全、適齡並有助健康發展的方式使用 AI。這項責任不應主要落在家長或年輕人自己身上。包括 OpenAI 在內的公司有責任在產品中預設加入適當保障，同時為家庭提供工具和資訊，引導 AI 的使用方式。
本月稍後，各國元首將在法國埃維昂出席 G7 領袖峰會，青少年 AI 安全將成為重點議題。OpenAI 將參與討論如何加強青少年安全合作、如何共同提升業界標準，以及 OpenAI 最新呼籲成立國際青少年安全研究所的倡議。
G7 領袖峰會是全球協調青少年安全工作的難得機會。不過，專責研究所可在單一峰會以外，提供所需的延續性和後續推進，協助政府、研究人員、公民社會和業界持續合作，分享證據、制定指引，並逐步提升標準。
要做到這一點，有幾種可信可行的方式：可以成立新的國際研究所，亦可以賦予現有或新成立的國家 AI 研究所全球職責，與世界各地的夥伴分享研究、證據和指引。最重要的，是研究所可發揮的作用。青少年 AI 安全需要持續關注、可信證據，以及能夠跟上技術發展步伐的實用指引。
這類研究所可以建基於新興倡議，例如由 OpenAI Foundation 支持的 Common Sense Media 青少年 AI 安全研究所 (Youth AI Safety Institute)，以及與教育工作者的實際合作，包括 OpenAI 與美國教師聯合會 (American Federation of Teacher) 的合作。研究所亦應借鑑現實部署經驗，例如愛沙尼亞在全國學校推行 ChatGPT；OpenAI 正與 Stanford 和愛沙尼亞研究人員合作，研究其影響，並為學習場景中更安全、更有效地使用 AI 提供依據。
OpenAI 歡迎有機會與法國政府、其他 G7 政府，以及公民社會、學術界和業界夥伴共同推動這項重要工作，並提升全球青少年安全標準。
我們相信，完善的 AI 青少年安全框架，包括任何可能在 G7 會議上達成的協議，都應以我們在此提出的原則作為指引。
- 公司應能判斷使用者是否未成年，並採用適齡的保護措施。這意味着要求服務提供者使用有效且保障私隱的年齡估算等方法，以區分未成年人和成年人；當無法判定使用者年齡時，則預設採用保護性保障措施。沒有這項基礎，即使立意最好的青少年保護措施，也可能無法惠及這些措施旨在保護的年輕人。
- 公司應定期評估 AI 對年輕人的風險和益處，並在造成傷害前採取措施處理。這意味着要求服務提供者完成年度青少年安全風險評估，並根據識別出的風險實施相稱的保障措施。這類評估應根據年輕人的發展階段、實際使用所得的實證資料，以及相關研究或監管指引，考慮年輕人面對的風險。評估不應只考慮潛在傷害，亦應考慮 AI 是否支持正面成果，例如學習、創造力、技能發展和獲得機會。
- 家長和監護人應可使用容易取得、簡單易用的控制功能，協助他們引導子女的體驗，同時支持適齡的自主性。這些功能應包括可管理關鍵設定的工具，例如記憶、資料使用和時間限制。公司亦應主動推廣家長工具，讓家長知道這些工具存在，並了解如何使用。
- 家庭應獲得清晰易明的資訊，了解公司如何保護年輕使用者，並掌握年輕人使用 AI 的益處和風險。公司應發佈安全政策，說明有哪些保障措施用於保護年輕人、可使用哪些家長工具，以及保護措施如何隨風險演變而更新。這種透明度有助建立信任，並幫助家長作出知情選擇。
- 公司應設有清晰的規程，以處理嚴重安全情況，包括自我傷害、剝削、誘騙、性剝削內容，以及其他高風險互動。這些措施應包括服務內支援、轉介至適當資源，以及在適當情況下及時通知家長。公司亦應設計系統，防止系統生成對兒童不安全或不符合其發展階段的內容，包括露骨的性或暴力內容。
- 年輕人使用的 AI 系統應設計為支持學習、發展和現實生活中的人際關係，而不是取代它們。AI 應作為工具，幫助年輕人學習、創作、建立技能，並為未來作準備。同時，在健康發展取決於人類判斷、現實生活中的人際關係和專業支援的領域，公司應訂立清晰界線。
- 未成年人的個人資料應受到保護。這意味着禁止向年輕人投放侵犯私隱的定向廣告，並禁止公司出售個人資料。
- 青少年安全框架應促進機會、素養和保護。年輕人應可使用支持學習、創造力、技能發展和未來機會的 AI 工具，同時具備安全和負責任地使用 AI 所需的知識和批判思考能力。這包括推動 AI 素養，並幫助年輕人了解 AI 系統帶來的機會和限制，讓他們能夠在數碼空間中自信且負責任地參與。
- 完善的問責機制，包括獨立審計，對確保這些保護措施在實際應用中具實質意義至關重要。審計應以一套共同標準為基礎，讓不同司法管轄區之間能夠進行可互通的審計。立法框架應包括監督和執法措施，讓政府能夠評估公司是否有效實施青少年安全保障、減低已識別風險，並遵守青少年安全和私隱義務。
這些原則體現在我們建立和營運 ChatGPT 的方式之中，涵蓋模型行為、產品設計、專家意見和現實支援。我們已加強對 18 歲以下使用者的保障，推出具主動通知功能的家長控制功能，並改進年齡預測系統，讓 ChatGPT 在使用者可能未滿 18 歲時，可以採用更強的保護。我們的模型規格說明模型應如何表現，當中亦包括針對 18 歲以下使用者的專門原則（在新視窗中開啟），優先考慮青少年安全、適齡體驗、現實支援和清晰期望。在實際應用中，這意味着在自我傷害、危險活動、血腥內容、身體形象和保密等方面設置更強的防護措施，並在有需要時鼓勵使用者尋求可信賴的線下支援或危機資源。如年齡不確定，我們會預設採用更強的保障措施。
在設計時具備完善保障、並配以清晰指引、家庭和教育工作者支援的 AI，可以幫助年輕人安全地受益於擴展學習、創造力和機會的工具。AI 可以幫助學生理解艱深概念、練習語言、改善寫作、學習編碼、整理研究、探索創意，並為正在轉變的工作作準備。透過 Education for Countries，OpenAI 正與政府和教育工作者合作，推動以研究為本的部署、本地化學習工具和教師培訓，讓 AI 採用建基於證據和真實課堂需要。這項工作已在支持我們夥伴國家的全國教育工作，包括愛沙尼亞、希臘和新加坡。
除了參與領袖峰會外，我們亦會把 OpenAI Forum（在新視窗中開啟） 帶到巴黎，召開一場務實對話，探討政府、研究人員、公民社會、教育工作者和業界如何把共同的青少年安全目標，落實為具體保障、標準和執行做法。法國 AI 及數碼事務大使 Clara Chappaz 將與 OpenAI 首席全球事務總監 Chris Lehane、來自 iRaise/Everyone.AI 的青少年安全領袖，以及其他專家一同討論年輕人如何在減低風險的同時受益於 AI。
