OpenAI는 특히 어렵거나 위험 부담이 큰 상황에서 AI가 어떻게 행동해야 하는지를 안내하는 규칙, 가치 및 행동 기대치를 문서화한 모델 사양에 대한 업데이트와 새로운 18세 미만(U18) 원칙(새 창에서 열기)을 공유하고 있습니다. 모델 행동은 사람들이 AI와 상호작용하는 방식에 매우 중요하며, 청소년은 성인과 다른 발달적 요구를 가지고 있습니다.
U18 원칙은 13세에서 17세 사이의 청소년에게 안전하고 연령에 적합한 환경을 제공하는 방법을 안내합니다. 이 접근 방식은 발달 과학에 기반을 두고 있으며 예방, 투명성, 조기 개입을 우선시합니다. 이러한 원칙을 개발하는 과정에서 접근 방식을 강화하기 위한 지속적인 노력으로 미국심리학회를 비롯한 외부 전문가들에게 사전에 내용을 공유하고 검토를 받았습니다.
모델 사양의 원칙은 성인과 청소년 사용자 모두에게 계속 적용되지만, 이번 업데이트에서는 특히 미성년자에 대한 안전 고려 사항이 더욱 중요할 수 있는 청소년 환경에서 이러한 원칙이 어떻게 적용되는지 명확히 설명합니다.
U18 원칙은 네 가지 지침 약속에 기반을 두고 있습니다.
- 다른 목표와 상충되더라도 청소년의 안전을 최우선으로 생각합니다.
- 오프라인 관계 및 신뢰할 수 있는 자원을 장려하여 현실 세계에 대한 지원을 제공합니다.
- 청소년을 무시하거나 성인처럼 대하지 않고, 청소년답게 대합니다.
- 명확한 기대치를 설정하여 투명하게 소통합니다.
청소년 안전 청사진에 따라, 이러한 원칙들은 지금까지 OpenAI의 청소년 안전 관련 활동의 지침이 되어 왔습니다. 여기에는 회원 가입 시 18세 미만임을 밝힌 사용자에게 적용하는 콘텐츠 보호 조치와 자녀 보호 기능이 포함됩니다. 이러한 맥락에서, OpenAI는 자해 및 자살, 로맨틱하거나 성적인 역할극, 노골적이거나 선정적인 콘텐츠, 위험한 활동 및 물질, 신체 이미지 및 섭식 장애, 위험한 행동에 대한 비밀 유지 요청과 같은 고위험 영역을 다룰 때 더욱 주의를 기울이도록 모델을 안내하는 안전 장치를 마련했습니다.
U18 모델 사양의 초안을 검토하고 장기적인 관점에서 중요한 인사이트를 제공한 미국심리학회는 청소년 보호의 중요성을 분명히 밝혔습니다.
APA는 AI 개발자들이 청소년 제품 사용자를 위해 발달 단계에 적합한 예방 조치를 제공하고, 특히 어린 사용자를 더욱 보호할 것을 권장합니다. 어린이와 청소년은 사회적, 심리적, 행동적, 심지어 생물학적 발달에 필수적인 인간 상호작용과 균형을 이룰 때 비로소 AI 도구로 비로소 이익을 얻을 수 있습니다. 청소년의 AI 사용 경험은 철저한 감독 하에 이루어져야 하며, 신뢰할 수 있는 성인과의 충분한 논의를 통해 AI 봇이 제공하는 정보에 대한 비판적 검토를 유도하고, 청소년의 독립적인 사고와 기술 발전을 장려해야 합니다."
이 업데이트는 또한 청소년 안전에 대한 우려가 제기될 때 어시스턴트가 어떻게 대응해야 하는지를 명확히 합니다. 즉, 대화가 고위험 수준으로 진행될 경우, 청소년은 더욱 강화된 안전장치, 안전한 대안, 신뢰할 수 있는 오프라인 지원을 받을 수 있도록 권장되어야 합니다. 즉각적인 위험이 있는 경우에는 청소년이 응급 서비스나 위기 지원 기관에 연락하도록 안내합니다.
모델 사양의 다른 부분과 마찬가지로, U18 원칙은 의도된 모델 행동을 반영합니다. OpenAI는 새로운 연구, 전문가의 의견, 실제 사용을 반영하여 계속해서 개선해 나갈 예정입니다.
모델 사양 업데이트와 더불어 ChatGPT 전반에 걸쳐 청소년 안전을 강화하기 위해 제품 보호 장치, 가족 지원, 전문가 지침 등 다층적인 접근 방식을 도입했습니다.
자녀 보호(새 창에서 열기) 기능을 출시한 이후, 그룹 채팅, ChatGPT Atlas 브라우저, Sora 앱을 포함한 새로운 제품에 대한 보호 기능을 확대 적용했습니다. 이러한 업데이트를 통해 부모님들은 새로운 제품과 기능이 출시될 때마다 자녀의 ChatGPT 이용 환경을 맞춤 설정할 수 있습니다.
전문가의 지침에 따라 부모와 청소년 자녀가 가정 내에서 건강하고 책임감 있는 AI 사용에 대해 지속적으로 대화하도록 권장합니다. 이러한 대화를 지원하기 위해, 부모 리소스 허브(새 창에서 열기)에 새로운 전문가 검토 자료를 추가했습니다. 여기에는 청소년의 책임감 있는 AI 사용을 돕기 위한 가족 가이드(새 창에서 열기)와 자녀와 AI에 대한 대화를 나누는 방법에 대한 부모를 위한 팁(새 창에서 열기)이 포함되어 있습니다. 이러한 자료는 ConnectSafely와 정신 건강 및 AI 전문가 위원회 구성원들의 검토를 거쳤습니다. 앞으로 더 많은 자료를 추가할 예정입니다. 또한 ChatGPT 사용 시간을 의도적이고 균형 있게 사용할 수 있도록 장시간 사용 시 제품 자체에 내장된 휴식 알림을 제공하여 건강한 사용을 지원합니다.
청소년 안전 관련 노력은 다양한 분야의 전문 지식을 지진 전문가들과의 긴밀한 협력을 바탕으로 진행됩니다. 지난 10월에는 모든 연령대를 위한 건강한 AI 상호작용의 방향을 제시하고 정의하기 위해 정신 건강 및 AI 전문가 위원회를 설립했습니다. 이러한 노력을 통해 자녀 보호 및 부모 알림 기능에 대한 지침이 마련되었습니다. 또한 글로벌 의사 네트워크를 통해 임상 전문 지식을 활용하여 안전 연구를 진행하고 모델의 행동을 평가하고 있으며, 특히 ChatGPT가 사용자의 고통을 인식하고 적절한 경우 전문가의 도움을 받을 수 있도록 안내하는 기능을 개선했습니다. 이러한 기반 위에 GPT‑5.2를 개발했으며, ThroughLine(새 창에서 열기)과의 파트너십을 통해 ChatGPT와 Sora에 지역별 상담 전화번호를 제공하여 실질적인 지원 접근성을 확대했습니다.
ChatGPT 소비자 플랜에 연령 예측 모델(새 창에서 열기)을 도입하는 초기 단계에 있습니다. 이 모델을 통해 계정이 미성년자 소유로 판단될 경우 자동으로 청소년 보호 조치를 적용할 수 있습니다. 연령 정보가 불확실하거나 불완전한 경우, 기본적으로 18세 미만의 환경으로 설정되며, 성인이 연령을 인증할 수 있는 방법을 제공합니다.
청소년 안전 강화는 지속적인 노력의 일환으로, 앞으로도 자녀 보호 기능과 모델 기능을 개선하고, 부모를 위한 자료를 확대하며, 정신 건강 위원회 및 글로벌 의사 네트워크를 비롯한 여러 기관, 연구자 및 전문가 파트너와 협력해 나갈 예정입니다.
OpenAI는 청소년과 가족을 더욱 효과적으로 지원하기 위해 강력한 청소년 보호 조치를 마련하고 지속적으로 개선해 나가기 위해 최선을 다하고 있습니다.
