2025년 9월 30일 업데이트: 자녀 보호 기능이 탑재된 Sora 앱을 런칭했습니다. 부모는 ChatGPT에서 연결된 10대 자녀 계정의 Sora 설정을 조정할 수 있습니다. 예를 들면, 개인 맞춤 설정이 되지 않은 피드에 옵트인하고, 자녀가 다이렉트 메시지를 주고받을 수 있는지를 선택하고, 스크롤할 때 콘텐츠 피드가 중단 없이 표시되도록 할지를 선택할 수 있습니다. 자세한 내용은 Sora 2 블로그에서 알아보세요.
가족이 가정에서 ChatGPT를 사용할 수 있는 방법을 안내하기 위해 자녀 보호 기능과 새로운 부모용 리소스 페이지(새 창에서 열기)를 공개합니다. 오늘부터 모든 ChatGPT 사용자가 사용할 수 있는 자녀 보호 기능을 통해 부모는 자신의 계정을 10대 자녀의 계정과 연결하고, 안전하고 연령에 적합한 경험이 되도록 설정을 맞춤화할 수 있습니다.
이 작업은 모두에게 유익한 ChatgGPT를 만들고 가족에게 10대의 AI 사용을 지원하는 도구를 제공하기 위한 OpenAI의 지속적인 노력의 일환입니다. 이전에 장기적으로 연령 예측 시스템을 구축하고 있다고 언급한 바 있습니다. 이 시스템은 사용자가 18세 미만인지를 예측하는 데 도움이 되며 ChatGPT가 10대에 적합한 설정을 자동으로 적용할 수 있도록 합니다. 자녀 보호 기능은 부모에게 10대 자녀의 ChatGPT 경험을 관리할 수 있는 권한을 제공하는 중요한 발걸음입니다.
OpenAI는 전문가, Common Sense Media와 같은 옹호 단체, Attorneys General of California and Delaware와 같은 정책 입안자와 긴밀히 협력하여 접근법을 결정했으며, 앞으로 이 관리 기능을 개선하고 확대할 계획입니다.
“이 자녀 보호 기능은 부모가 10대 자녀의 ChatGPT 사용을 관리하기에 유용한 시작점입니다. 하지만 온라인에서 10대를 안전하게 보호하는 데 있어서 자녀 보호 기능은 퍼즐의 한 조각일 뿐입니다. 책임 있는 AI 사용에 관한 지속적인 대화, 기술에 대한 가족의 명확한 규칙, 10대가 온라인에서 무엇을 하는지에 대한 적극적인 관여와 함께했을 때 이 기능은 가장 효과가 좋습니다.” -Robbie Torney, Common Sense Media의 AI 프로그램 시니어 디렉터
자녀 보호 기능을 설정하려면 부모나 보호자가 10대 자녀에게 계정 연결을 요청합니다. 자녀가 수락하면 부모는 자신의 계정에서 자녀의 설정을 관리할 수 있습니다. 자녀도 부모에게 연결 요청을 할 수 있습니다.
연결되면 부모는 계정 설정의 간단한 관리 페이지에서 자녀의 ChatGPT 경험을 맞춤 설정할 수 있습니다. 자녀가 계정 연결을 해제하면 부모에게 알림이 전송됩니다.
자녀 보호 기능 중 하나로, 연결된 10대 계정에 향상된 안전 조치를 배포하고 있습니다. 부모와 자녀가 계정을 연결하면 자녀 계정에 추가 콘텐츠 보호가 자동으로 적용됩니다. 여기에는 노골적인 콘텐츠, 바이럴 챌린지, 성적이거나 로맨틱하거나 폭력적인 롤플레이, 아름다움에 대한 과도한 이상을 줄여 연령에 적합한 경험을 만드는 것이 포함됩니다.
이러한 안전 조치는 10대의 고유한 발달 차이를 이해하기 위한 기존의 리서치를 신중하게 검토하여 만들어졌습니다.
부모는 선택에 따라 이 설정을 끌 수 있는 옵션이 있지만 10대 사용자는 이 설정을 변경할 수 없습니다.
안전 조치는 도움이 되지만 완벽하지는 않으며 누군가가 의도적으로 우회하려고 한다면 우회가 가능합니다. 우리는 계속해서 신중하게 반복하면서 개선할 것입니다. 건전한 AI 사용과 가정 내에서 건전한 AI 사용이 어떤 의미인지에 대해 부모가 10대 자녀와 대화를 나눌 것을 권장합니다.
또한 부모에게 10대 자녀를 위해 맞춤 설정할 수 있는 추가 기능도 제공합니다. 간단한 관리 페이지에서 부모는 다음 작업을 할 수 있습니다.
- 방해 금지 시간 설정: ChatGPT를 사용할 수 없는 특정한 시간대를 설정합니다.
- 음성 모드 끄기: ChatGPT에서 음성 모드 사용 옵션을 제거합니다.
- 메모리 끄기: ChatGPT가 메모를 저장하거나 응답할 때 ㅁ메모리를 사용하지 않도록 합니다.
- 이미지 생성 제거: ChatGPT가 이미지를 생성하거나 편집할 수 없도록 합니다.
- 모델 훈련 옵트아웃: 10대 자녀의 대화가 ChatGPT를 구동하는 모델을 개선하는 데 사용되지 않도록 합니다.
이러한 설정은 선택 사항이고 변경할 수 있으므로 가족이 가장 적합한 것을 선택할 수 있습니다.
일부 10대는 힘든 시기에 ChatGPT를 사용하므로 심각한 일이 벌어지고 있다면 부모가 알 수 있도록 새로운 알림 시스템을 구축했습니다.
10대가 자해를 생각하고 있다는 잠재적인 신호를 ChatGPT가 알아챌 수 있도록 보호 조치를 추가했습니다. 시스템이 잠재적인 피해를 감지하면 특별히 훈련된 사람들로 구성된 소규모 팀이 상황을 검토합니다. 심각한 고통의 징후가 보이면 부모님께 이메일, 문자 메시지, 휴대전화 푸시 알림으로 연락드립니다(부모님께서 수신 거부를 선택하신 경우는 제외).
올바르게 구축하기 위해 정신건강 전문가 및 10대 청소년 전문가와 협력하여 이러한 기능을 설계하고 있습니다. 완벽한 시스템은 없으며 때로는 실제로 위험하지 않은데도 경고하게 될 수도 있다는 것을 알고 있습니다. 하지만 아무 조치도 취하지 않는 것보다는 부모가 개입할 수 있도록 나서서 부모에게 알리는 것이 더 낫다고 생각합니다.
또한, 예를 들어 생명에 대한 임박한 위협을 감지했지만 부모에게 연락할 수 없는 경우와 같이 법 집행 기관이나 기타 응급 서비스에 연락할 수 있는 적절한 절차와 상황을 마련하기 위해 노력하고 있습니다.
이렇게 드문 상황에서도 우리는 10대의 개인정보 보호를 중요하게 생각하며 부모 또는 응급 서비스 요원이 10대의 안전을 보호하는 데 필요한 정보만 공유할 것입니다.
가족들은 일상에서 ChatGPT를 사용할 더 많은 방법을 찾고 있습니다. 학습 모드로 학교 과제를 하는 것일 수도 있고, 주말 아이디어를 브레인스토밍하는 것일 수도 있고, 간단한 질문에 답하는 것일 수도 있죠. 어떤 사람들에게는 ChatGPT가 AI를 함께 살펴보는 첫 번째 단계이기도 합니다. 그래서 우리는 부모에게 ChatGPT에 대해 필요한 정보와 안전하고 긍정적인 사용을 위해 10대를 지도하는 방법에 대한 정보를 제공하고자 했습니다.
모든 정보를 한 곳에 모아두기 위해 새로운 부모 리소스 페이지(새 창에서 열기)를 만들었습니다. 이 페이지에는 ChatGPT의 작동 방식과 사용할 수 있는 자녀 보호 기능이 설명되어 있으며, 10대가 학습, 창의성, 일상 생활을 위해 ChatGPT를 사용하기 위한 아이디어도 나와 있습니다. 이것은 시작 단계일 뿐이며 팁, 가이드, 전문가의 조언, 대화 시작을 위한 주제 등을 담아 주기적으로 업데이트하여 가족의 AI 사용이 늘어나는 상황에서 부모가 지원을 받고 있다고 느낄 수 있도록 할 것입니다.
앞으로 몇 달간 연령 예측 시스템을 구축할 예정입니다. 이 시스템은 사용자가 18세 미만인지를 예측해 ChatGPT가 10대에 적합한 설정을 자동으로 적용할 수 있도록 합니다. 사용자의 연령이 확실치 않은 경우에는 안전한 경로를 택해 10대 설정을 선제적으로 적용합니다. 그때까지는 10대 자녀가 연령에 적합한 경험을 할 수 있도록 하는 데 자녀 보호 기능이 가장 효과적인 방법이 될 것입니다.
이것은 미래를 향한 중요한 발걸음이지만 우리의 일은 끝나지 않았습니다. 우리는 부모와 10대 자녀가 ChatGPT를 안전하고 자신 있게 사용하도록 돕는 기능에 계속해서 투자할 것이며 진행 상황을 공유할 것입니다.
