MentalHealthBench 소개

사람들은 어려운 관계를 헤쳐 나가거나, 일상적인 스트레스를 극복하거나, 소중한 사람을 도와주거나, 힘든 상황에 어떻게 대처할지 결정하는 등 다양한 대화를 위해 AI를 찾습니다. 이러한 대화에는 정확성, 실질적인 판단력, 그리고 사람의 주체성을 존중하는 태도가 필요합니다. 매주 10억 명 이상이 ChatGPT를 사용하는 만큼, OpenAI의 연구는 모델이 다양한 요구에 세심하게 대응하고 사람의 안전과 웰빙을 최우선으로 고려하도록 하는 데 초점을 맞추고 있습니다.

이 분야의 AI 평가는 안전 측면에서의 중요성을 고려해 주로 응급 상황에 초점을 맞추고, 광범위한 사전 정의 기준을 사용해 성공 여부를 측정해 왔습니다. 그 결과, 허용되지 않는 응답을 피하는지 확인하는 것을 넘어 모델이 정신 건강 대화의 전체 범위에서 어떤 성능을 보이는지, 그리고 각 상황에 대한 모델의 응답이 전문가 지침에 얼마나 부합하는지는 제대로 파악하기 어려웠습니다. 모델이 이러한 다양한 상황에 어떻게 대응하는지 평가하는 것은 사람의 장기적인 웰빙과 안전을 적극적으로 지원하는 AI를 개발해 나가는 데 필수적입니다.

현실적인 정신 건강 대화에서 AI 시스템이 어떻게 대응하는지 측정하기 위한 새로운 공개 벤치마크인 MentalHealthBench를 소개합니다. MentalHealthBench는 22개국의 면허를 보유한 정신 건강 전문가 80명으로 구성된 글로벌 그룹과 공동으로 개발했습니다. 안전, 맥락 파악, 사용자 주체성 존중, 적절한 경우 실행 가능한 지침 제공 등 정신 건강과 관련된 주요 행동 전반에서 모델의 역량을 평가합니다. 다른 연구자들이 평가 방법을 살펴보고 자체 평가를 수행하며 이 연구를 토대로 후속 연구를 발전시킬 수 있도록 공개합니다.

MentalHealthBench의 결과는 사람들이 정신 건강 문제를 해결하도록 도움을 주는 데 있어 AI 시스템이 꾸준히 발전하고 있음을 보여줍니다. ChatGPT는 치료나 전문적인 도움을 대체할 수는 없지만, 공감 능력을 발휘하고 웰빙을 증진하며 지역 위기 상담 전화⁠(새 창에서 열기)나 신뢰하는 사람과 같은 실질적인 지원을 안내할 수 있는 AI 모델 개발의 진전을 측정하기 위해 전문가의 의견을 바탕으로 도움을 얻을 수 있습니다.

웰빙, 인생 조언 또는 기타 정신 건강 관련 상황에 대한 대화는 주제, 긴급성 및 문화적 맥락에서 매우 다양할 수 있습니다. MentalHealthBench는 이러한 현실적인 시나리오와 사용자 페르소나의 폭넓은 범위를 포괄하도록 설계되었습니다. 개인정보 보호 기술을 사용하여, 실제 정신 건강 분야에서 AI가 사용되는 패턴을 정확하게 반영하는 합성 정신 건강 대화를 만들었습니다. 일부 시나리오에는 합성 사용자에 대한 관련 배경 정보(예: 최근에 가족을 잃은 경우)도 포함되어 있으므로, 모델이 해당 맥락을 사용하여 응답을 적절하게 조정하는지 평가할 수 있습니다.

MentalHealthBench에는 다양한 언어와 지역에 걸쳐 성인, 청소년, 돌봄 제공자, 임상의가 등장하는 시나리오가 포함되어 있습니다. 대화는 다양한 주제를 아우르며, 위급도의 전체 범위를 포괄합니다.

• 비급성 - 감정적인 요소가 포함될 수 있는 일상적인 대화를 의미합니다.

• 고중증도 - 심각한 정신 건강 문제나 심각한 고통을 나타내는 대화이지만 즉각적인 응급 상황은 아닙니다.

• 응급 - 정신 건강 응급 상황의 징후 또는 즉각적인 안전 문제가 포함된 대화로, 긴급한 실질적인 지원이 필요합니다.

HealthBench 및 HealthBench Professional⁠(새 창에서 열기)을 위해 임상 전문가의 의견을 반영하여 진행했던 이전 작업을 기반으로,⁠(새 창에서 열기) OpenAI는 정신 건강 전문가 그룹과 긴밀히 협력하여 MentalHealthBench를 개발했습니다. 이 그룹은 22개국에서 활동하며 19개 언어를 구사하고 약 20개 정신 건강 세부 전문 분야를 대표하는 면허를 보유한 심리학자와 정신과 의사 80여 명으로 구성되었습니다.

전문가들은 각 합성 대화를 읽고 마지막 사용자 메시지에 대한 모델 응답을 평가하기 위한 세부 루브릭 기준 목록을 작성했습니다. 각 기준은 올바른 질문 제시, 가능한 최상의 조언 제공 같은 모델 응답의 단일 측면을 대상으로 합니다. 각 항목은 -10에서 +10까지의 가중치를 가지며, 양의 점수는 유익한 행동에 대한 보상이고 음의 점수는 해로운 행동에 대한 벌점입니다. 또한 값이 큰 기준일수록 대화 맥락에서 임상적으로 더 중요한 의미를 지닙니다.

각 대화는 최소 세 명의 전문가가 검토했으며, 모든 전문가가 동의한 기준만 최종 벤치마크에 포함했습니다. 따라서 벤치마크의 최종 루브릭에는 각 상황에서 모델이 어떻게 대응해야 하는지에 대한 전문가들의 공통된 판단이 반영되어 있습니다. 각 대화에서는 자동 채점 모델인 GPT‑5.6 Sol을 사용해 전문가가 작성한 기준에 따라 모델 응답을 평가합니다. 논문에서는 채점 과정과 평가 설정을 자세히 설명합니다.

MentalHealthBench에서 다양한 모델을 평가했습니다. 아래 결과는 전체 데이터 세트와 대화 위급도별로 이 모델들의 성능을 보여 줍니다. 평가에서는 모델 응답이 각 시나리오에 대해 전문가가 정의한 모든 이상적 행동을 보이면서 허용되지 않는 행동은 피하는지 측정합니다.

성인, 13~17세 청소년, 돌봄 제공자, 임상의라는 네 가지 사용자 유형을 나타내는 합성 대화를 만들었습니다. 시스템 메시지로 배경 정보를 제공했으며, 청소년 페르소나의 경우 사용자가 13~17세임을 명시했습니다. 이 접근법은 여러 모델 제공업체에 적용되도록 설계되었지만, 개별 제품에 내장된 모든 보호 조치를 포착하지는 못할 수 있습니다.

각 대화에 대해 임상의가 적절한 다음 응답에 포함하거나 피해야 할 내용을 설명하는 기준을 작성했고, 이에 따라 모델 응답을 평가했습니다. 청소년 페르소나가 포함된 대화는 청소년 정신건강 전문가인 임상의가 검토하여 응답이 청소년의 고유한 필요에 적합한지 평가했습니다.

MentalHealthBench는 모델 행동을 다각도로 측정할 수도 있습니다. 종합 점수는 정신건강 관련 모델 행동의 10개 차원별 성능으로 나눌 수 있습니다. 이 행동들은 정신건강 전문가가 정의했으며 모델 성능의 미묘한 차이를 포착하는 것을 목표로 합니다. 종합 점수가 비슷한 모델도 행동별 강점은 다를 수 있습니다.

이처럼 세분화된 측정은 연구자가 해석 가능한 모델 행동을 기준으로 개선 영역을 파악하는 데 도움이 됩니다. 예를 들어 모델이 발전할수록 적절히 맥락을 파악하는 능력이 향상되는 것을 확인할 수 있습니다. 이러한 개선은 정신건강 대화를 더 잘 다루도록 모델을 개선하려는 OpenAI와 다른 모델 제공업체의 투자를 반영합니다.

MentalHealthBench와 함께, 임상의의 지침과 사람들이 AI 지원에서 유용하다고 느끼는 점을 비교하는 별도의 분석도 수행했습니다. 벤치마크는 임상의가 작성한 채점 기준을 사용하며, 이 분석에서는 사용자와 임상의의 관점이 일치하거나 다르거나 충돌하는 부분을 살펴봤습니다.

정신건강 또는 정서적 지원을 위해 AI를 사용한 적이 있는 16개국, 14개 언어권의 성인 44명과 함께했습니다. 참가자들은 합성 대화에 대한 모델 응답을 평가하고, 도움이 되는 지원이 어떤 모습이어야 하는지 설명하는 기준을 작성했습니다. 잠재적으로 고통스러운 고위급도 자료에 노출되지 않도록 검토 범위를 비급성 대화로 제한했습니다.

사용자 관점에서는 임상의 지침에서 상대적으로 덜 강조된 AI 지원의 특성, 특히 실질적인 다음 단계와 어조를 중요하게 여겼습니다. 임상의는 관련 맥락을 수집하고 모호한 상황을 신중하게 해석하는 데 더 큰 비중을 두었습니다. 이 비교를 통해 사람들이 지원에서 무엇을 중요하게 여기며 이러한 선호가 임상 지침과 어떤 관계가 있는지 더 종합적으로 이해할 수 있습니다.

MentalHealthBench는 전문가, 연구자, 개발자가 다양한 정신건강 상황에서 안전하고 유용한 AI 지원을 평가할 수 있는 공동 도구를 제공합니다. 이를 공개함으로써 커뮤니티가 평가 방법을 살펴보고 기존 모델의 부족한 점을 파악해 모델 개선에 함께 나서기를 바랍니다. 어떤 벤치마크도 개인적인 대화에서 중요한 모든 요소를 담을 수는 없지만, MentalHealthBench가 사람을 지원하는 AI의 기준을 한 단계 높이는 데 도움이 되기를 바랍니다.

또한 신규 연구 지원금, Partnership on AI⁠(새 창에서 열기)와 함께하는 전문가 회의, Transluce의 정신건강 평가⁠(새 창에서 열기)와 같은 상호 보완적인 독립 활동 지원을 비롯해 AI와 정신건강 분야의 다른 노력도 지원하고 있습니다.

이 연구와 함께 민감한 대화에서 ChatGPT의 응답을 강화하고, 위기 지원 리소스에 대한 접근성을 확대했으며, 고통스러운 순간에 신뢰하는 사람과 연결할 수 있도록 신뢰할 수 있는 연락처를 추가했습니다. 또한 미성년 사용자를 위한 추가 보호 조치를 갖춘 청소년용 ChatGPT를 도입했습니다.

MentalHealthBench는 수백만 명이 힘든 순간을 헤쳐 나가고, 관계를 강화하며, 더 건강하고 충실한 삶을 살도록 돕는 AI를 만들기 위한 노력의 하나입니다.