青少年是伴随 AI 成长的第一代人,这项技术将深刻塑造他们的未来。如今,使用 ChatGPT 的青少年中,近九成会在一周内将其用于学习、获取信息、提升技能或提高效率。这正是我们认为青少年能够使用 AI 至关重要的原因。如果让青少年等到成年后才能使用它,就像要求上一代人在 18 岁前远离互联网或搜索引擎一样,会让他们在使用这个时代的标志性技术之一时准备不足。但开放使用必须与专为青少年设计的保护措施相结合。
在最近一期 OpenAI Academy(在新窗口中打开) 活动中,Oriana McKenzie 分享了 ChatGPT 如何帮助她更高效地学习和管理课业,成为高中年级第一名,并为她喜爱的体育和学校项目留出所需时间。她的故事展现了,当青少年能够使用 AI 来帮助学习和创作时,可能实现什么。
为了最大化这些益处,青少年需要更强的、符合其人生阶段的保护措施,包括自动化护栏,让他们能够自信地探索、学习和构建,同时获得适合其年龄的防护。随着 AI 能力不断提升,我们的责任是将广泛使用与适龄保护相结合,让青少年能在这项技术演进过程中从中受益。
过去一年里,这意味着我们加强了面向青少年的默认保护,推出了年龄预测,扩展了家长控制,创建了更多家庭资源(在新窗口中打开),帮助家长支持健康、负责任的使用,并推出学习功能,帮助促进更深入的理解,而不只是提供答案。
我们的工作以四项关键承诺为指引:
- 我们把青少年安全放在首位,即便这可能与其他目标冲突。
- 我们鼓励在需要时寻求现实世界中的支持。
- 我们以对待青少年的方式对待青少年。
- 我们通过设定清晰预期来保持透明。
学习是青少年从 AI 中受益最明显的方式之一,因此我们正在构建鼓励主动参与、批判性思维和深入理解的工具。学习模式(在新窗口中打开)由教师、学习科学家和教育学专家共同参与设计,旨在通过引导式问题、结构化讲解和反思机会,帮助学生一步步解决问题,而不是简单给出答案。对学习模式等工具的早期评估显示,学生表现已有令人鼓舞的提升,这也为我们更广泛地研究 AI 如何支持学习成果提供了参考。
青少年可以自行开启这一模式;现在,已关联青少年账号的家长也可以直接通过家长控制开启学习模式。启用后,每当青少年开始新的聊天时,它都会默认开启,为家庭提供另一种方式来引导 ChatGPT 在课业和学习中的使用。

我们最近还推出了面向青少年的教育类入门提示,让他们更容易从一些任务开始,例如将主题拆解为简单步骤、把笔记整理成学习指南、制作抽认卡或练习题,以及检查证据和表达清晰度。

我们也在继续扩展互动式学习体验。研究一贯表明,相比被动接收信息,人们在能够主动参与概念学习时学得更有效。自今年早些时候推出以来,ChatGPT 中的互动式数学和科学体验如今每周有 1800 万用户参与,我们已将这些体验扩展到 250 多个新主题,涵盖积分、有丝分裂、月相、光合作用等。我们还推出了一项发音体验,利用音频帮助人们学习 61 种以上语言中单词的发音。
如果我们的系统判断ChatGPT 用户未满 18 岁,我们会自动提供更适龄的体验(在新窗口中打开)。青少年仍然可以使用 ChatGPT 学习、创作和探索,但会有额外保护措施,以减少他们接触可能不适合其年龄内容的机会。这包括针对露骨暴力、自残、危险的病毒式挑战、不健康的身体形象内容,以及危险、恋爱或性相关角色扮演的更强防护。我们的核心目标是帮助确保 ChatGPT 始终是学习和创意工具,而不是现实人际关系的替代品。
我们也在设计 ChatGPT,使其鼓励健康习惯。长时间使用 ChatGPT 的青少年现在会更频繁地收到休息提醒,鼓励他们暂停并离开一会儿。这些提醒旨在帮助年轻人养成平衡的技术使用习惯,同时仍让他们能够自由地用 AI 学习、创作和解决问题。

我们相信,最好的安全工具能帮助家庭共同应对青少年的在线体验。我们构建了家长控制和通知,让家长能够设置免打扰时段、关闭语音模式、管理图像生成访问权限,并在某些高风险情况下收到通知,例如出现潜在自残迹象时。
我们正在扩展这些通知,将已关联的青少年账号因在网上发布暴力威胁或实施暴力行为而违反我们的使用政策并被停用的情况纳入其中。这种做法既能帮助家长了解何时发生了严重情况,也尊重青少年的隐私,并鼓励线下沟通和支持。
在开发这些功能时,我们咨询了多位专家,包括在线暴力预防领域的领导者 Moonshot(在新窗口中打开),以帮助确保这些干预措施周全、有效,并专注于帮助家庭在需要时作出回应。

我们还希望确保家长、青少年和教育工作者能够获得清晰指导,了解如何以最佳方式负责任地使用 AI。我们以 50 多种语言发布教育资源,包括《帮助青少年负责任地使用 AI 的家庭指南》(在新窗口中打开)、《与青少年谈论 AI 的建议》(在新窗口中打开)以及《家长使用 ChatGPT 的建议》(在新窗口中打开)。
保护年轻人的网络安全,不是任何一家公司能够独自解决的问题。我们与青少年、家长、教育工作者、儿童安全专家、心理健康专业人士、研究人员、政府和民间社会组织密切合作。这些合作帮助我们更好地理解年轻人的需求,识别新出现的风险,评估防护措施的有效性,并确保我们的政策以独立专业意见为依据。
这项工作涵盖我们在学习和青少年福祉方面的做法。我们与教育工作者,包括美国教师联合会,以及学生和学习组织合作,以更好地理解 AI 如何支持教与学,同时强化主动参与和批判性思维。我们还与心理健康、儿童发展和青少年安全领域的专家密切合作,包括美国心理学会(在新窗口中打开)、我们的全球医师网络以及我们的福祉与 AI 专家委员会。
我们构建更健康数字生态系统的工作,并不局限于自己的产品。我们已呼吁通过专门的 AI 安全研究所制定可扩展的全球青少年 AI 安全标准,推出开发者可集成到自身 AI 系统中的开源政策和工具,并与包括 Common Sense Media(在新窗口中打开) 和 everyone.ai(在新窗口中打开) 在内的组织合作,分享经验和最佳实践。
今年,我们还加入了家庭在线安全研究所(在新窗口中打开)(FOSI),这是一个长期倡导家庭和年轻人获得安全在线体验的组织。我们将共同努力,确保年轻人能够从 AI 中受益,并将赋能家长和负责任的行业实践置于核心。我们希望这一合作能够促进对有效做法的共同理解,加强适龄保护和家长工具,并支持全行业努力,让年轻人安全、负责任地从 AI 中受益。
保护年轻人的网络安全需要持续进步。未来几个月,我们将继续加强适龄保护,为家长提供更多工具和控制权,改进针对严重伤害的防护措施,推进有关健康使用 AI 的研究,并构建更多体验,帮助青少年主动学习并自信地使用 AI。
我们知道还有更多工作要做,并承诺继续与世界各地的青少年、家长、教育工作者、专家和社区合作,让青少年能够广泛、安全地使用 AI。


