OpenAI 支持加州推进青少年 AI 安全的法案
作者：Ann O’Leary，全球政策副总裁
OpenAI 支持加州参议院第 1119 号法案。该法案为青少年使用 AI 建立切实有效的保障措施，同时确保他们仍可使用有助于学习、创作和为未来做好准备的工具。这项支持延续了 OpenAI 联合创始人兼首席执行官 Sam Altman 去年在阐述公司青少年原则时作出的承诺。
在联邦政府尚未采取行动的情况下，加州有机会为青少年 AI 安全树立严格标准。
在致 Newsom 州长的信（在新窗口中打开）中，我们赞扬了他以及参议员 Steve Padilla、州众议员 Buffy Wicks 和 Rebecca Bauer-Kahan，还有加州议会在这一重要议题上发挥的领导作用。第 1119 号法案以 OpenAI 一直支持的青少年安全措施为基础，包括我们的产品、全球政策原则、在加州开展的倡议工作，以及对《家长与儿童安全 AI 法案》的推动。我们敦促 Newsom 州长签署该法案，使其正式成为法律。
青少年是与 AI 一同成长的第一代人。在使用 ChatGPT 的青少年中，近九成每周都会用它来学习、获取信息、培养技能或提高效率。这种机遇也伴随着明确的责任：应根据青少年独特的成长需求来设计使用体验，提供有力的默认保护，同时让他们有适当的机会学习、创作和探索。
我们新推出的青少年版 ChatGPT正是这一理念的体现。它旨在帮助未满 18 岁的用户学习、批判性思考和开展创作，同时鼓励健康使用，提供内置保障措施，并赋予家长更多控制权。如果我们的系统判断某位用户未满 18 岁，或用户自述年龄在 13 至 17 岁之间，该用户会被自动纳入青少年版 ChatGPT。这些保护是基础体验的一部分，并非用户可以关闭的可选设置。
更广泛地说，我们相信青少年可以在不牺牲安全的前提下受益于 AI，这也是第 1119 号法案的核心目标。
第 1119 号法案既提供有力保护，也确保用户能够继续使用实用的 AI 工具。我们强烈支持以下关键要求：
- 确定用户年龄；
- 在向青少年提供产品之前识别并处理安全风险；
- 接受独立审计；
- 保护青少年免受有害内容影响，包括自残、性剥削内容及其他高风险互动；
- 为家长提供工具，以指导和限制子女的使用；
- 在出现严重安全风险时，为青少年接入危机援助资源；以及
- 限制定向广告，并保护青少年的个人信息。
对于被认定为 13 至 17 岁的用户，这些保护应自动生效。该法案将切实问责与保障措施相结合，有助于保护使用 AI 的青少年。
第 1119 号法案也恰当地认识到，AI 并非社交媒体。该法案制定了有针对性的保护措施，帮助青少年利用 AI 学习、创作和探索。政策制定者在设计这一框架时，力求保留对教育和安全至关重要的功能，包括负责任地使用 ChatGPT 的记忆功能，同时为青少年营造更安全、更符合其年龄的体验。
青少年版 ChatGPT 提供一系列专为帮助青少年学习而设计的功能，例如测验、学习可视化和学习模式。这些功能由教育工作者和学习专家共同开发，可引导学生逐步解决问题。这些工具旨在加深理解，并帮助用户养成更好的学习习惯。记忆等利用过往对话情境的功能，有助于持续落实保障措施、识别令人担忧的行为模式，并随着时间推移提供更实用的学习支持。
情境信息也有助于这些安全和学习工具长期保持更稳定的效果。通过记忆等功能，ChatGPT 可以延续过往对话中的相关信息和偏好，让青少年无需从头开始便能继续长期学习项目。这种连贯性还有助于避免强化有害模式，并在青少年可能需要额外帮助或资源时提供更有效的回应。
兼顾安全与学习并不是我们刚开始面对的课题。过去一年里，我们新增了家长控制、年龄预测、青少年安全蓝图，并在模型规范中加入《18 岁以下用户原则》——模型规范是指导我们的模型如何按预期运行的一套规则——从而为模型与青少年互动的方式确立新标准。这些规则禁止模型与用户发展浪漫关系、鼓励用户产生情感依赖，以及声称 ChatGPT 是人类或具有感知能力。我们还提供家长控制，让家庭可以管理青少年的关键设置，并在出现高风险情况时收到通知。
第 1119 号法案为加州青少年 AI 安全建立了强有力的框架。在实施期间持续开展研究与协作，有助于改进关键条款，并使该框架随着技术发展持续有效。OpenAI 期待支持这项工作，并继续打造真正符合青少年特点的 AI 体验，为他们提供更有力的自动保护，以及切实的学习和成长机会。
