ChatGPT 推出“可信联系人”功能

许多人使用 ChatGPT 来学习、探索创意、解决问题，或思考个人困扰。在这些交流中，有时会涉及用户正处于挣扎中或寻求支持的时刻。我们的目标是设计出能够周全响应敏感对话的系统，并在必要时鼓励用户寻求现实世界中的帮助。

即日起，我们开始逐步推出“可信联系人”(Trusted Contact)​​ 功能。这是 ChatGPT 的一项可选安全功能，允许成年用户指定一位自己信任的人（如朋友、家人或照看者）。如果我们的自动化系统和经过专业培训的审核人员检测到，加入该功能的用户所讨论的自残内容已涉及严重的安危问题，系统便可能会通知这位被指定的人。“可信联系人”旨在为用户提供除 ChatGPT 现有本地援助热线⁠之外的又一层支持，帮助处于危机中的用户与他们信任的人取得联系。

“可信联系人”建立在“家长控制安全通知”⁠（在新窗口中打开）的基础之上 — 该功能允许家长或监护人在关联的青少年帐户出现严重心理困境迹象时接收提醒。现在，我们将安全警报选项进一步扩展，让任何 18 岁以上的用户都可以选择添加一位自己信任的人作为“可信联系人”。

专家建议⁠（在新窗口中打开）指出，社交联系是降低自杀风险最重要的保护因素之一。“可信联系人”⁠（在新窗口中打开）旨在鼓励用户与已经信任的人建立联系。它不能替代专业医疗或危机服务，而是为身处困境的人提供多重安全保障之一。在适当情况下，ChatGPT 仍会鼓励用户联系危机热线或紧急服务机构。

• 用户可以在 ChatGPT 设置中添加一名成年人（全球大部分地区需满 18 岁，韩国需满 19 岁）作为“可信联系人”。
• “可信联系人”将收到一封说明其职责的邀请函。对方必须在两周内接受邀请，该功能才会生效。如果对方拒绝，用户可以选择添加另一名成年人。
• 如果我们的自动化监控系统检测到用户讨论自残内容的方式涉及严重的安危问题，ChatGPT 会告知用户：我们可能会通知用户的“可信联系人”，并提供一些对话开场白建议，鼓励用户主动与对方联系。
• 随后，由专业培训人员组成的小团队会评估具体情况。如果审核人员判定该对话可能涉及严重的安危问题，ChatGPT 将通过电子邮件、短信或应用内通知（若对方拥有 ChatGPT 帐户）向用户的“可信联系人”发送简短提醒。
• 该通知内容经过刻意的简化，仅告知自残话题引起潜在安危问题的大致原因，并鼓励“可信联系人”提供主动关心。为保护用户隐私，通知中不包含聊天细节或记录。通知还会附带一个链接，提供处理敏感对话的专家建议⁠（在新窗口中打开）。
• 用户可以随时在设置中移除或更改“可信联系人”，而“可信联系人”也可以随时通过我们的帮助中心⁠（在新窗口中打开）移除自己的身份。

虽然这些严重的安危情况很少见，但一旦出现，我们的系统旨在支持及时的审核与响应。虽然没有任何系统是完美的，且发送给“可信联系人”的通知可能并不总能精准反映一个人的真实处境，但每条通知在发出前都会经过专业的人员审核。我们力争在不到一小时内完成对这些安全通知的审核。

在开发“可信联系人”功能的过程中，我们咨询了专门从事心理健康和自杀预防的临床医生、研究人员及相关组织的意见。这项工作得到了我们全球医生网络⁠（由分布在 60 个国家/地区的 260 多名执业医生组成），以及我们的身心健康与人工智能专家委员会⁠的指导。我们还与包括美国心理学会⁠（在新窗口中打开）在内的外部组织进行了紧密合作。

除了“可信联系人”功能外，ChatGPT 还设有安全保障机制，在各个阶段引导敏感对话。我们持续改进系统，以更好地响应对话中表达的不同等级的风险：

• 支持寻求现实世界的帮助：在敏感时刻，ChatGPT 可能会鼓励人们联系紧急服务、危机援助热线、心理健康专业人员或生活中值得信赖的人。
• 周全的响应方式：我们与 170 多位心理健康专家⁠合作，提升了 ChatGPT 的能力，使其能更好地识别并响应潜在的困境迹象、缓解紧张对话，并在适当时候引导用户寻求现实世界的支持。
• 帮助用户掌控时间：在某些情况下，ChatGPT 可能会建议用户在长时间使用后休息一下或暂时离开，以培养健康的科技使用习惯。
• 拒绝有害请求：ChatGPT 经过训练，会拒绝提供有关自杀或自残的指令。当用户请求此类信息时，系统会拒绝该请求，转而引导至更安全的回复，并展示当地的危机援助资源。

“可信联系人”是 OpenAI 致力构建能协助人们度过艰难时刻⁠的 AI 系统所做努力的一部分。我们将继续与临床医生、研究人员以及政策制定者合作，改进 AI 系统在用户可能面临困境时的响应方式。我们的目标是确保 AI 系统不与现实脱节。相反，它们应当协助用户与现实世界中最重要的医疗护理、人际关系及资源建立联系。