사람들은 ChatGPT를 사용해 배우고, 아이디어를 탐색하고, 문제를 해결하고, 개인적인 질문을 되돌아봅니다. 때로는 이러한 대화에 누군가가 어려움을 겪고 있거나 지원을 찾고 있는 순간이 포함되기도 합니다. 우리의 목표는 민감한 대화에 신중하게 대응하고, 필요할 때 사람들이 현실 세계의 도움과 연결되도록 장려하는 시스템을 설계하는 것입니다.
오늘부터 저희는 Trusted Contact를 순차적으로 출시합니다. 이는 ChatGPT의 선택형 안전 기능으로, 성인이 친구, 가족 또는 돌봄 제공자처럼 자신이 신뢰하는 사람을 지정할 수 있게 해줍니다. 등록된 이용자가 심각한 안전 우려를 시사하는 방식으로 자해에 대해 이야기했을 수 있다고 자동화 시스템과 훈련된 검토자가 감지하면, 이 사람에게 알림이 전달될 수 있습니다. Trusted Contact는 위기 상황의 사용자가 자신이 신뢰하는 사람과 연결되도록 도와, ChatGPT에서 이미 제공되는 현지화된 헬프라인과 함께 또 하나의 지원층을 제공하도록 설계되었습니다.
Trusted Contact는 연결된 청소년 계정에서 급성 고통의 징후가 있을 때 부모나 보호자가 알림을 받을 수 있게 하는 자녀 보호 안전 알림(새 창에서 열기)을 기반으로 합니다. 이제 저희는 안전 알림 옵션을 확대하여, 18세 이상 누구나 Trusted Contact로 신뢰하는 사람을 추가할 수 있도록 합니다.
전문가 지침(새 창에서 열기)은 사회적 연결을 자살 위험을 낮추는 가장 중요한 보호 요인 중 하나로 꼽습니다. Trusted Contact(새 창에서 열기)는 사용자가 이미 신뢰하는 사람과의 연결을 장려하도록 설계되었습니다. 이는 전문 치료나 위기 대응 서비스를 대체하지 않으며, 고통을 겪는 사람들을 지원하기 위한 여러 안전장치 중 하나입니다. ChatGPT는 여전히 적절한 경우 사용자에게 위기 핫라인이나 응급 서비스에 연락하도록 권할 것입니다.
“심리학 연구는 사회적 연결이 특히 정서적 고통의 시기에 강력한 보호 요인이라는 점을 일관되게 보여줍니다. 사람들의 선택권과 자율성을 보존하면서 미리 신뢰하는 사람을 정하도록 돕는 것은, 가장 중요할 때 현실 세계의 지원에 더 쉽게 손을 내밀 수 있게 해줍니다.”
- 사용자는 ChatGPT 설정에서 성인 1명(전 세계 18세 이상, 대한민국에서는 19세 이상)을 Trusted Contact로 추가할 수 있습니다.
- Trusted Contact는 자신의 역할을 설명하는 초대를 받게 되며, 기능이 활성화되려면 1주일 이내에 초대를 수락해야 합니다. Trusted Contact가 거절하면 사용자는 다른 성인을 추가할 수 있습니다.
- 자동 모니터링 시스템이 사용자가 심각한 안전 우려를 시사하는 방식으로 자해에 대해 이야기하고 있을 수 있다고 감지하면, ChatGPT는 Trusted Contact에게 알릴 수 있음을 사용자에게 알리고, 추천 대화 시작 문구와 함께 Trusted Contact에게 연락하도록 권합니다.
- 그다음에는 특별히 훈련된 소규모 팀이 상황을 검토합니다. 이 검토자들이 해당 대화가 심각한 안전 우려를 시사할 수 있다고 판단하면, ChatGPT는 Trusted Contact가 ChatGPT 계정을 보유한 경우 이메일, 문자 메시지 또는 앱 내 알림으로 간단한 알림을 보냅니다.
- 알림은 의도적으로 제한된 내용만 담습니다. 자해가 잠재적으로 우려되는 방식으로 언급된 일반적 이유를 공유하고, Trusted Contact가 안부를 확인하도록 권합니다. 사용자 개인정보 보호를 위해 채팅 세부 내용이나 대화 기록은 포함하지 않습니다. 또한 이 알림에는 민감한 대화를 다루는 방법에 대한 전문가 지침(새 창에서 열기) 링크도 포함됩니다.
- 사용자는 언제든지 설정에서 Trusted Contact를 삭제하거나 수정할 수 있으며, Trusted Contact도 언제든지 도움말 센터(새 창에서 열기)에서 자신을 제거할 수 있습니다.
이러한 심각한 안전 상황은 드물지만, 발생할 경우 저희 시스템은 시의적절한 검토와 대응을 지원하도록 설계되어 있습니다. 어떤 시스템도 완벽하지 않으며 Trusted Contact에게 전달되는 알림이 누군가의 실제 경험을 언제나 정확히 반영하지는 않을 수 있지만, 모든 알림은 발송 전에 훈련된 사람이 검토하며, 저희는 이러한 안전 알림을 1시간 이내에 검토하기 위해 노력합니다.
저희는 정신 건강과 자살 예방을 전문으로 하는 임상의, 연구자, 기관의 자문을 받아 Trusted Contact를 개발했습니다. 이 작업은 60개국 260명 이상의 면허 소지 의사로 이루어진 네트워크인 Global Physicians Network와 웰빙과 AI 전문가 협의회의 정보를 바탕으로 합니다. 또한 미국심리학회(새 창에서 열기)를 포함한 외부 기관과도 긴밀히 협력했습니다.
“AI가 지닌 가장 큰 약속 중 하나는 진정성 있는 사람 간 연결과 심리적 안전을 촉진할 수 있다는 점입니다. 저는 ChatGPT의 Trusted Contact 기능이 특히 취약한 순간에 사람들의 역량 강화를 한 걸음 진전시키는 기능이라고 생각하며, 이에 고무되어 있습니다.”
Trusted Contact 외에도 ChatGPT에는 민감한 대화를 모든 단계에서 안내하기 위한 안전장치가 마련되어 있습니다. 저희는 대화에서 표현되는 다양한 수준의 위험에 시스템이 대응하는 방식을 지속적으로 개선해 왔습니다.
- 현실 세계의 도움 지원: 민감한 순간에 ChatGPT는 사람들에게 응급 서비스, 위기 헬프라인, 정신 건강 전문가 또는 삶에서 신뢰하는 사람에게 연락하도록 권할 수 있습니다.
- 세심한 대응: 저희는 170명 이상의 정신 건강 전문가와 협력하여, 잠재적 고통의 신호를 감지하고 대응하며, 대화를 완화하고, 적절한 경우 현실 세계의 지원으로 사람들을 안내하는 ChatGPT의 역량을 개선했습니다.
- 사용자가 시간 사용을 스스로 통제하도록 지원: 일부 상황에서 ChatGPT는 건강한 기술 사용 습관을 촉진하기 위해 장시간 사용 후 휴식을 취하거나 잠시 자리를 비우도록 제안할 수 있습니다.
- 유해한 요청 거부: ChatGPT는 자살이나 자해 방법에 대한 지침 제공을 거부하도록 훈련되었습니다. 사용자가 이러한 유형의 정보를 요청하면 시스템은 요청을 거부하고 더 안전한 응답으로 유도하며, 현지화된 위기 대응 리소스를 표시합니다.
Trusted Contact는 어려운 순간에 사람들을 돕는 AI 시스템을 구축하려는 OpenAI의 더 넓은 노력의 일부입니다. 저희는 사람들이 고통을 겪고 있을 수 있는 상황에서 AI 시스템이 대응하는 방식을 개선하기 위해 임상의, 연구자, 정책입안자들과 계속 협력할 것입니다. 우리의 목표는 AI 시스템이 고립된 채 존재하지 않도록 하는 것입니다. 대신, 사람들이 가장 중요하게 여기는 현실 세계의 돌봄, 관계, 자원과 연결되도록 도와야 합니다.
