AI 可以成为年轻人的强大工具。它可以帮助学生理解难懂的概念、练习一门新语言、准备求职面试、探索创意想法，或学习一项新技能。正如 20 世纪中叶在全球范围内兴起的扫盲运动需要大规模分发印刷文本并让人们获得受过培训的教师指导一样，今天，为人们提供安全 AI 的使用机会，将释放个性化学习的新机遇，帮助减少服务不足群体面临的障碍，并提升劳动力就绪度。
由于潜在益处如此重大，确保年轻人能够以安全、适龄且有助于健康发展的方式使用 AI 至关重要。这项责任不应主要落在父母或年轻人自己身上。包括 OpenAI 在内的公司有责任在默认情况下构建具备适当保障措施的产品，同时为家庭提供工具和信息，帮助他们引导 AI 的使用方式。
本月晚些时候，各国元首将在法国埃维昂出席 G7 领导人峰会，青少年 AI 安全将成为重点议题。OpenAI 将参与讨论如何在青少年安全方面加强协作、如何共同提升行业标准，以及 OpenAI 关于建立国际青少年安全研究机构的新倡议。
G7 领导人峰会为全球协调青少年安全工作提供了难得的机会。但一个专门机构能够在单次峰会之外提供所需的连续性和后续推进，帮助政府、研究人员、民间社会和行业持续协作，共享证据、制定指导，并随着时间推移提升标准。
实现这一目标有几种可信路径：可以建立新的国际机构，也可以赋予现有或新设的国家级 AI 机构全球使命，与世界各地的合作伙伴共享研究、证据和指导。最重要的是它所发挥的职能。青少年 AI 安全需要持续关注、可信证据，以及能够跟上技术步伐的实用指导。
这样的机构可以借鉴新兴倡议，例如由 OpenAI Foundation 支持的 Common Sense Media 青少年 AI 安全研究所，以及与教育工作者开展的实际合作，包括 OpenAI 与美国教师联合会的合作。它还应借鉴现实部署经验，例如爱沙尼亚在学校中全国推广 ChatGPT 的项目，在该项目中，OpenAI 正与斯坦福大学和爱沙尼亚研究人员合作，研究其影响，并为学习中更安全、更有效的使用提供依据。
OpenAI 欢迎有机会与法国政府、其他 G7 政府，以及民间社会、学术界和行业伙伴共同推进这项至关重要的工作，并提升全球青少年安全标准。
我们认为，强有力的 AI 青少年安全框架，包括在 G7 会议上可能达成的任何协议，都应以我们在此提出的原则为引领。
- 公司应了解用户是否为未成年人，并应用适龄保护措施。这意味着要求提供商使用有效且保护隐私的年龄估算等手段来区分未成年人和成年人，并在无法确定用户年龄时默认启用保护性保障措施。如果没有这一基础，即使出发点最好的青少年保护措施，也可能无法触达其旨在保护的年轻人。
- 公司应定期评估年轻人面临的风险和获得的益处，并采取措施加以应对——在伤害发生之前。 这意味着要求提供商完成年度青少年安全风险评估，并根据识别出的风险实施相称的保障措施。此类评估应结合年轻人的发展阶段、实际使用中的实证证据，以及相关研究或监管指导，考虑他们面临的风险。评估不仅应考虑潜在伤害，还应考虑 AI 是否正在支持学习、创造力、技能发展和获取机会等积极成果。
- 父母和监护人应拥有易于获取、便于使用的控制工具，帮助他们引导孩子的体验，同时支持适龄的独立性。 这些工具应包括用于管理关键设置的功能，包括记忆、数据使用和时间限制。应主动推广家长工具，让父母知道这些工具的存在并了解如何使用。
- 家庭理应获得清晰易懂的信息，了解公司如何保护年轻用户，并获得关于年轻人使用 AI 的益处和风险的有意义信息。 公司应发布安全政策，说明为保护年轻人而采取的保障措施、可用的家长工具，以及随着风险演变如何更新保护措施。这种透明度能够建立信任，并帮助父母做出知情选择。
- 公司应制定明确的协议，以应对严重安全情形，包括自残、剥削、诱导操控、性剥削内容以及其他高风险互动。这些措施应包括服务内支持、转介至适当资源，并在适当情况下及时通知父母。公司还应设计其系统，防止其生成对儿童不安全或不符合其发展阶段的内容，包括露骨的性或暴力材料。
- 年轻人使用的 AI 系统应被设计为支持学习、发展和现实世界中的人际关系，而不是取代它们。AI 应作为一种工具，帮助年轻人学习、创造、培养技能，并为未来做好准备。与此同时，在健康发展依赖人类判断、现实世界关系和专业支持的领域，公司应设定清晰边界。
- 未成年人的个人信息应受到保护。 这意味着禁止面向年轻人的侵犯隐私式定向广告，并禁止公司出售个人信息。
- 青少年安全框架应促进机会、素养和保护。年轻人应能够使用支持学习、创造力、技能发展和未来机会的 AI 工具，同时也应具备安全、负责任地使用 AI 所需的知识和批判性思维能力。这包括提升 AI 素养，并帮助年轻人理解 AI 系统的机遇与局限，使他们能够在数字空间中自信且负责任地参与。
- 包括独立审计在内的强有力问责机制，对于确保这些保护措施在实践中真正有意义至关重要。审计应以一套共同标准为基础，使不同司法管辖区之间的审计能够互操作。立法框架应包括监督和执行措施，使政府能够评估公司是否有效落实青少年安全保障措施、缓解已识别风险，并遵守青少年安全和隐私义务。
这些原则体现在我们构建和运营 ChatGPT 的方式中，涵盖从模型行为和产品设计，到专家意见和现实支持的各个方面。我们已加强对 18 岁以下用户的保障措施，推出带有主动通知的家长控制，并推进年龄预测系统，使 ChatGPT 能在用户可能未满 18 岁时应用更强保护。我们的模型规范阐明了模型应如何行事，其中也包含面向 18 岁以下用户的专门原则（在新窗口中打开），优先考虑青少年安全、适龄体验、现实世界支持和明确预期。在实践中，这意味着围绕自残、危险活动、露骨内容、身体形象和保密性设置更强护栏，并在需要时鼓励用户寻求可信的线下支持或危机资源。当年龄不确定时，我们默认采用更强的保障措施。
如果 AI 在设计时具备强有力的保障措施，并配以清晰指导以及来自家庭和教育工作者的支持，就能帮助年轻人安全地受益于扩展学习、创造力和机会的工具。AI 可以帮助学生理解难懂的概念、练习语言、提升写作能力、学习编程、组织研究、探索创意想法，并为已经在变化的工作做好准备。通过 Education for Countries，OpenAI 正与政府和教育工作者合作，推进以研究为基础的部署、本地化学习工具和教师培训，使 AI 采用建立在证据和真实课堂需求之上。这项工作已经在支持我们伙伴国家的国家教育工作，包括爱沙尼亚、希腊和新加坡。
除了参加领导人峰会之外，我们还将把 OpenAI Forum（在新窗口中打开） 带到巴黎，召集一场务实对话，探讨政府、研究人员、民间社会、教育工作者和行业如何将共同的青少年安全目标转化为具体的保障措施、标准和实施实践。法国 AI 与数字事务大使 Clara Chappaz 将与 OpenAI 首席全球事务官 Chris Lehane、来自 iRaise/Everyone.AI 的青少年安全负责人以及其他专家一起，讨论年轻人如何在降低风险的同时受益于 AI。
