ChatGPT를 최대한 유용하게 만들기 위한 우리의 노력은 끊임없이 계속되고 있습니다. 사람들이 가장 힘든 순간에 ChatGPT를 찾는 것을 보았습니다. 그래서 우리는 전문가의 의견을 토대로 우리 모델이 정신적, 정서적 스트레스의 신호를 알아채고 여기에 대응하는 방식을 계속해서 개선하고 있습니다.
이러한 노력은 이미 진행 중이지만, 여러분이 우리의 계획을 알기 위해 런칭을 기다릴 필요가 없도록 향후 120일에 대한 계획을 미리 보여드리려고 합니다. 이 기간이 지나도 계속해서 이러한 노력을 진행할 예정이지만, 이러한 개선 사항 중 최대한 많은 부분을 올해 안에 런칭하기 위해 노력을 집중하고 있습니다.
지난주에는 가장 필요할 때 실질적인 도움되도록 하기 위한 네 가지 중점 영역을 공유했습니다.
- 개입을 확대하여 위기 상황에 놓인 더 많은 사람들에게 도움을 줌
- 훨씬 더 쉽게 긴급 서비스에 연락하고 전문가의 도움을 받도록 지원
- 신뢰할 수 있는 사람들과의 연결 지원
- 10대를 위한 보호 조치 강화
이중 일부는 매우 빠르게 진행될 것이고 일부는 시간이 더 걸릴 것입니다.
오늘은 우리 노력의 가이드로 삼기 위해 전문가와 협력하는 방법, 민감한 순간에 추론 모델을 활용하는 방법, 중점 영역 중 하나인 10대를 위한 보호 조치 강화
AI는 새로운 기술이며 진화하고 있습니다. 우리는 웰빙과 정신 건강에 대한 깊이 있는 전문성을 바탕으로 기술을 발전시키고자 합니다. 웰빙 및 AI 전문가 위원회와 글로벌 의사 네트워크는 함께 깊이 있고 특화된 의료 전문성과 우리 접근 방식을 정하는 데 필요한 폭넓은 관점을 제공하고 있습니다. 120일간의 이니셔티브를 진행하면서 이러한 노력에 대해 더 자세히 공유해 드리겠습니다.
웰빙 및 AI 전문가 위원회
올해 우리는 청소년 발달, 정신 건강, 인간-컴퓨터 상호작용 분야의 전문가로 구성된 위원회를 구성하기 시작했습니다. 위원회의 역할은 AI가 사람들의 웰빙을 지원하고 충만한 삶을 살 수 있도록 돕는 데 있어서 증거를 기반으로 명확한 비전을 만드는 것입니다.
이들의 의견은 우리가 최신 리서치를 염두에 두고 웰빙을 정의 및 측정하고, 우선순위를 정하고, 자녀 보호 기능의 향후 반복과 같은 미래의 안전 조치를 설계하는 데 도움이 될 것입니다. 위원회가 우리 제품, 리서치, 정책 의사 결정에 대해 자문을 제공하지만 선택에 대한 책임은 여전히 OpenAI에게 있습니다.
글로벌 의사 네트워크
이 위원회는 글로벌 의사 네트워크와 협력합니다. 글로벌 의사 네트워크는 60개국에서 의료 활동을 하고 있는 250명 이상의 의사로 구성된 더 광범위한 풀로, 지난 한 해 동안 건강에 대한 AI 시스템의 능력을 더 효과적으로 측정하기 위해 설계된 건강 벤치 평가와 같은 노력에 함께했습니다.
이 광범위한 풀 중에서 30개국의 정신과 의사, 소아과 의사, 일반의를 비롯한 90명 이상의 의사들이 이미 우리 모델이 정신 건강의 컨텍스트에서 어떻게 행동해야 할지에 대한 리서치에 기여했습니다. 이들의 의견은 우리의 안전 리서치, 모델 훈련, 기타 개입에 직접 반영되어, 필요할 때 적절한 전문가를 빠르게 관여시키는 데 도움이 되고 있습니다.
우리는 네트워크에 더 많은 임상의와 연구자를 추가하고 있습니다. 그중에는 섭식 장애, 약물 사용, 청소년 건강과 같은 분야에 대한 전문성이 탁월한 사람들이 포함되어 있습니다.
GPT‑5‑thinking과 o3 같은 추론 모델은 답변하기 전에 컨텍스트를 통해 더 오랜 시간 생각하고 추론하도록 설계되었습니다. 우리가 숙고형 정렬이라고 부르는 방법으로 훈련된 이 추론 모델은 테스트(새 창에서 열기)에 따르면 안전 지침을 더 일관적으로 따르고 적용하며 적대적인 프롬프트에 더 저항력이 있습니다.
최근에 대화 컨텍스트에 따라 효율적인 채팅 모델과 추론 모델 중에 선택할 수 있는 실시간 라우터를 소개했습니다. 곧, 시스템이 즉각적인 스트레스의 징후를 감지하는 경우와 같이 일부 민감한 대화를 GPT‑5‑thinking과 같은 추론 모델로 라우팅하기 시작할 예정입니다. 그러면 이 추론 모델은 사용자가 처음 선택한 모델과는 무관하게 더 유용하고 이익이 되는 응답을 제공할 수 있습니다. 우리는 이 접근 방식에 대해 신중하게 반복 연구를 시행할 것입니다.
많은 청소년들이 이미 AI를 사용하고 있습니다. 이들은 이전 세대가 인터넷이나 스마트폰과 함께 자란 것처럼, 일상생활에서 AI 도구와 함께 자란 첫 번째 ‘AI 네이티브’에 속합니다. 그렇기 때문에 지원과 학습, 창의성 측면에서 실질적인 기회가 창출되기도 하지만, 10대의 고유한 발달 단계에 맞는 건전한 지침을 정하는 데 있어서 가정과 10대에 지원이 필요할 수도 있습니다.
자녀 보호
올해 우리는 가정에서 함께 ChatGPT를 사용하고 가정 내에서 가장 효과적인 방식을 결정할 수 있도록 하는 더 많은 방법을 개발하기 시작했습니다. 다음 달에 부모를 위해 다음과 같은 기능이 제공됩니다.
- 간단한 이메일 초대를 통해 부모의 계정을 10대(최소 연령 13세)의 계정과 연결
- 기본적으로 활성화되는 연령에 맞는 모델 행동 규칙을 사용해 ChatGPT가 10대에게 응답하는 방식 통제
- 메모리 및 채팅 기록 등 비활성화할 기능 관리
- 10대가 즉각적인 스트레스 상황에 있는 것을 시스템이 감지할 경우 알림 수신. 전문가의 의견을 토대로 이러한 기능을 만들어 부모와 10대 사이에 신뢰를 형성할 수 있도록 할 것입니다.
이러한 보호 기능은 긴 세션 중에 휴식을 독려하는 앱 내 알림과 같이 모든 사용자에게 이미 배포한 기능에 추가되는 것입니다.
이것은 초기 단계에 불과합니다. ChatGPT를 최대한 유용하게 만드는 것을 목표로 전문가의 도움을 받아 계속해서 배우고 접근 방식을 강화할 것입니다. 앞으로 120일간 진행 상황을 공유해 드릴 것이 기대됩니다.
