我们正在为 ChatGPT 消费者套餐逐步推出年龄预测功能,以帮助判断账户用户是否可能未满 18 岁,从而为青少年用户匹配适宜的使用体验与防护措施。正如我们在青少年安全蓝图和 18 岁以下模型使用行为原则中所阐述的,青少年理应享有既能拓展发展机遇,又能保障自身福祉的技术产品。
年龄预测功能建立在现有保护措施的基础之上。如果青少年在注册时表明自己未满 18 岁,他们会自动获得额外防护,以减少接触敏感或潜在有害内容的机会。同时,这也让我们可以按成年人的标准对待成年用户,在安全边界内允许他们按自己的方式使用我们的工具。
我们此前已经分享过年龄预测的早期计划;随着该功能陆续上线,今天我们将进一步介绍更多细节。
ChatGPT 使用年龄预测模型帮助判断账户所属用户是否可能未满 18 岁。该模型会综合分析行为和账户层面的多种信号,包括账户存续时长、典型活跃时段、随时间变化的使用模式,以及用户自行申报的年龄等。部署年龄预测功能有助于我们了解哪些信号最能提升判断准确性,我们会基于这些经验持续改进模型。
如果用户被错误地归入 18 岁以下用户体验模式,他们可以通过一种快捷简便的方式完成年龄核验并恢复完整访问权限:即通过安全的身份验证服务 Persona 上传自拍照。用户可随时前往“设置”>“账户”,查看自己的账户是否已启用相关防护,并按需启动此验证流程。
当年龄预测模型判断某个账户可能属于 18 岁以下用户时,ChatGPT 会自动启用额外保护措施,尽量减少他们接触以下敏感内容:
- 暴力或血腥内容
- 可能鼓励未成年人从事危险或有害行为的病毒式挑战
- 涉及性、恋爱或暴力主题的角色扮演
- 描绘自残行为的内容
- 宣扬极端审美标准、不健康饮食或身材羞辱的内容
此方法以专家意见为指导,依托于儿童发展科学的相关学术研究,并充分考虑到青少年在风险认知、冲动控制、同伴影响及情绪调节方面存在的已知差异。尽管这些内容限制有助于减少青少年接触敏感内容,我们仍将专注于持续改进这些防护措施,尤其是针对试图规避安全机制的行为。当我们对用户年龄缺乏把握或信息不完整时,系统会默认提供更安全的使用体验。
除上述系统防护外,家长还可以通过家长控制功能(在新窗口中打开)进一步自定义青少年的使用体验,例如:设置 ChatGPT 不可使用的安静时段,管控记忆或模型训练等功能,并在检测到明显的严重情绪困扰迹象时接收通知。
我们正在从初期上线阶段中不断学习,并持续提升年龄预测的准确性。我们会密切跟踪功能的上线情况,并利用这些信号来指导后续的持续优化。
在欧盟地区,年龄预测功能将在未来几周内上线,以满足当地的合规要求。如需了解更多详情,请访问我们的帮助页面(在新窗口中打开)。
尽管这是一个重要的里程碑,但我们在保障青少年安全方面的工作将持续推进。我们将继续与包括美国心理学会、ConnectSafely以及全球医生网络在内的专家保持对话,并分享我们的最新进展和相关洞见。


