청소년에게 안전한 AI를 이용할 기회가 필요한 이유

청소년은 AI와 함께 성장하는 첫 번째 세대이며, AI는 앞으로 이들의 미래를 크게 바꿔 놓을 기술입니다. 현재 ChatGPT를 사용하는 청소년의 거의 90%는 매주 학습, 정보 탐색, 기술 습득 또는 생산성 향상을 위해 ChatGPT를 활용하고 있습니다. 그렇기 때문에 OpenAI는 청소년이 AI를 이용할 수 있도록 하는 것이 매우 중요하다고 생각합니다. 청소년이 성인이 될 때까지 AI를 사용하지 못하게 하는 것은 이전 세대에게 18세가 될 때까지 인터넷이나 검색 엔진을 사용하지 말라고 하는 것과 다르지 않습니다. 그렇게 되면 자신들이 살아가는 시대를 대표하는 핵심 기술 가운데 하나를 제대로 활용할 준비를 갖추지 못하게 될 것입니다. 다만 이러한 접근성은 청소년을 위해 마련된 보호 조치와 함께 제공되어야 합니다.

최근 OpenAI 아카데미⁠(새 창에서 열기)에서 오리아나 맥켄지는 ChatGPT를 활용해 더 효율적으로 공부하고 학업을 효과적으로 관리하면서 고등학교에서 전교 1등을 차지할 수 있었고, 덕분에 자신이 좋아하는 운동과 학교 활동에도 더 많은 시간을 쓸 수 있었다고 이야기했습니다. 오리아나의 이야기는 청소년이 학습과 창작을 돕는 AI를 이용할 수 있을 때 얼마나 큰 가능성이 펼쳐질 수 있는지를 보여 줍니다.

이러한 가능성을 최대한 실현하려면 청소년의 성장 단계에 맞춰 설계된 더욱 강력한 보호 조치가 필요합니다. 여기에는 청소년이 안심하고 탐색하고, 배우고, 창작할 수 있도록 돕는 자동화된 가드레일과 연령에 맞춘 보호 장치가 포함됩니다. AI의 역량이 계속 발전하는 만큼, OpenAI는 청소년이 AI를 폭넓게 이용할 수 있도록 하면서도 연령에 적합한 보호 조치를 함께 제공해, 기술의 발전과 함께 그 혜택도 안전하게 누릴 수 있도록 노력하고 있습니다.

지난 1년 동안 OpenAI는 청소년을 위한 기본 보호 조치를 강화하고, 연령 추정⁠ 기능을 도입했으며, 자녀 보호⁠ 기능을 확대했습니다. 또한 부모가 자녀의 건전하고 책임감 있는 AI 사용을 지원할 수 있도록 가족을 위한 자료⁠(새 창에서 열기)를 추가로 마련하고, 정답만 제시하는 데 그치지 않고 더 깊이 이해할 수 있도록 돕는 학습 기능도 도입했습니다.

OpenAI는 다음 네 가지 핵심 원칙⁠을 바탕으로 이러한 노력을 이어가고 있습니다.

• 다른 목표와 충돌하더라도 청소년의 안전을 최우선으로 합니다.
• 도움이 필요한 상황에서는 현실에서 적절한 도움을 받을 수 있도록 지원합니다.
• 청소년의 발달 단계와 특성을 고려해 접근합니다.
• 명확한 기대치를 제시해 투명성을 높입니다.

학습은 청소년이 AI를 통해 가장 큰 도움을 받을 수 있는 분야 중 하나입니다. 그래서 OpenAI는 능동적인 참여를 이끌어 내고, 비판적 사고를 기르며, 더 깊이 이해할 수 있도록 돕는 도구를 개발하고 있습니다. 공부 모드⁠(새 창에서 열기)는 교사, 학습 과학자, 교육학 전문가와 협력해 개발되었으며, 정답만 제시하는 대신 유도 질문과 구조화된 설명, 그리고 스스로 돌아볼 수 있는 기회를 제공해 학생들이 문제를 단계적으로 해결하도록 돕습니다. 공부 모드와 같은 도구를 대상으로 한 초기 평가에서는 학생들의 학습 성과가 향상되는 긍정적인 결과⁠가 확인되었으며, 이는 AI가 학습 성과를 어떻게 지원할 수 있는지에 대한 OpenAI의 폭넓은 연구에도 중요한 바탕이 되고 있습니다.

청소년도 직접 이 모드를 활성화할 수 있지만, 이제 연결된 청소년 계정이 있는 부모는 자녀 보호⁠에서 공부 모드⁠를 바로 활성화할 수 있습니다. 공부 모드를 활성화하면 청소년이 새 대화를 시작할 때마다 기본으로 적용되며, 가족이 ChatGPT를 학업과 학습에 어떻게 활용하는지 함께 살펴보고 지도할 수 있는 또 하나의 방법을 제공합니다.

또한 최근에는 청소년을 위한 교육 중심의 시작 프롬프트를 도입해 주제를 간단한 단계로 나누어 이해하거나, 필기 내용을 학습 가이드로 정리하거나, 플래시카드나 연습 문제를 만들거나, 근거와 내용이 명확한지 확인하는 등의 작업을 더욱 쉽게 시작할 수 있도록 했습니다.

OpenAI는 인터랙티브 학습 경험⁠도 지속적으로 확대하고 있습니다. 연구 결과에 따르면⁠, 사람들은 정보를 수동적으로 받아들이는 것보다 개념을 능동적으로 탐구할 때 더 효과적으로 학습하는 것으로 꾸준히 확인되고 있습니다. 올해 초 기능을 출시한 이후 현재는 매주 1,800만 명의 사용자가 ChatGPT에서 인터랙티브 수학 및 과학 학습 경험을 이용하고 있으며, 적분과 유사분열부터 달의 위상, 광합성 등에 이르기까지 250개 이상의 새로운 주제로 그 범위를 확대했습니다. 또한 61개 이상의 언어에서 단어의 발음을 익힐 수 있도록 오디오를 활용한 발음 학습 기능도 새롭게 도입했습니다.

OpenAI 시스템은 ChatGPT 사용자가 18세 미만인 것으로 추정될 경우⁠, 자동으로 연령에 적합한 환경⁠(새 창에서 열기)을 제공합니다. 청소년은 계속해서 ChatGPT를 학습하고, 창작하고, 탐색하는 데 활용할 수 있지만, 자신에게 적합하지 않을 수 있는 콘텐츠에 노출될 가능성을 줄이기 위한 추가 보호 조치가 적용됩니다. 여기에는 잔혹한 폭력, 자해, 위험한 바이럴 챌린지, 건강하지 않은 신체 이미지 관련 콘텐츠, 위험하거나 연애 또는 성적인 역할극에 대한 더욱 강화된 보호 조치가 포함됩니다. OpenAI의 궁극적인 목표는 ChatGPT가 학습과 창작을 위한 도구로 남고 현실의 인간관계를 대신하는 존재가 되지 않도록 하는 것입니다.

OpenAI는 또한 건전한 사용 습관을 장려할 수 있도록 ChatGPT를 설계하고 있습니다. ChatGPT를 장시간 사용하는 청소년에게는 잠시 사용을 멈추고 휴식을 취하도록 권장하는 휴식 알림⁠이 이전보다 더 자주 표시됩니다. 이러한 알림은 청소년이 균형 잡힌 디지털 사용 습관을 기르는 데 도움을 주면서도, 학습과 창작, 문제 해결을 위해 AI를 자유롭게 활용할 수 있도록 하기 위한 것입니다.

OpenAI는 우수한 안전 도구가 가족이 함께 청소년의 온라인 경험을 이해하고 지원하는 데 도움이 될 수 있다고 믿습니다. OpenAI는 자녀 보호와 알림 기능⁠을 통해 부모가 방해 금지 시간을 설정하고, 음성 대화를 비활성화하며, 이미지 생성 기능의 사용을 관리하고, 자해 가능성이 감지되는 등 특정한 고위험 상황에서는 알림을 받을 수 있도록 했습니다.

또한 연결된 청소년 계정이 온라인상의 폭력 위협이나 폭력 행위와 관련해 사용 정책을 위반⁠하여 비활성화된 경우에도 부모에게 알림이 전달되도록 기능을 확대하고 있습니다. 이러한 접근 방식은 청소년의 개인정보를 존중하면서도 부모가 심각한 상황이 발생했음을 인지하고, 온라인이 아닌 일상에서 자녀와 대화를 나누며 필요한 지원을 제공할 수 있도록 돕습니다.

OpenAI는 이러한 기능을 개발하는 과정에서 온라인 폭력 예방 분야를 선도하는 Moonshot⁠(새 창에서 열기)을 비롯한 여러 전문가와 협력했습니다. 이를 통해 이러한 보호 조치가 신중하게 설계되고 효과적으로 작동하며, 도움이 필요한 상황에서 가족이 적절히 대응할 수 있도록 하는 데 중점을 두었습니다.

또한 OpenAI는 부모와 청소년, 교육자가 AI를 책임감 있게 활용할 수 있도록 명확한 안내를 제공하는 데에도 힘쓰고 있습니다. 이를 위해 50개 이상의 언어로 교육 자료를 제공하고 있으며, 여기에는 청소년의 책임감 있는 AI 활용을 돕는 가족 가이드⁠(새 창에서 열기), 청소년과 AI에 대해 이야기하는 방법⁠(새 창에서 열기), ChatGPT를 사용하는 부모를 위한 팁⁠(새 창에서 열기) 등이 포함됩니다.

청소년이 온라인에서 안전하게 활동할 수 있는 환경을 만드는 일은 어느 한 기업만의 노력으로 해결할 수 있는 문제가 아닙니다. OpenAI는 청소년과 부모, 교육자, 아동 안전 전문가, 정신 건강 전문가, 연구자, 정부, 시민사회단체와 긴밀히 협력하고 있습니다. 이러한 협력을 통해 청소년의 요구를 더욱 깊이 이해하고, 새롭게 나타나는 위험을 파악하며, 보호 조치의 효과를 평가하고, 독립적인 전문가의 전문성을 바탕으로 정책을 수립할 수 있도록 하고 있습니다.

이러한 노력은 학습과 청소년의 웰빙을 위한 OpenAI의 접근 전반에 걸쳐 이루어지고 있습니다. OpenAI는 American Federation of Teachers⁠를 비롯한 교육자와 학생, 교육 기관과 협력해 AI가 가르치고 배우는 과정을 어떻게 지원할 수 있는지, 그리고 능동적인 참여와 비판적 사고를 어떻게 강화할 수 있는지에 대해 이해를 넓혀 가고 있습니다. 또한 American Psychological Association⁠(새 창에서 열기), OpenAI의 Global Physicians Network⁠, Expert Council on Well-Being and AI⁠를 비롯해 정신 건강, 아동 발달, 청소년 안전 분야의 전문가들과도 긴밀히 협력하고 있습니다.

더욱 건강한 디지털 생태계를 만들기 위한 OpenAI의 노력은 자체 제품을 넘어 더 넓은 영역으로 이어지고 있습니다. OpenAI는 전담 AI Safety Institute를 통해 확장 가능한 청소년 AI 안전을 위한 글로벌 표준⁠을 마련할 것을 제안하고, 개발자가 자체 AI 시스템에 통합할 수 있는 정책과 도구를 오픈소스로 공개⁠했으며, Common Sense Media⁠(새 창에서 열기)와 everyone.ai⁠(새 창에서 열기)를 비롯한 여러 기관과 협력해 그동안 얻은 교훈과 모범 사례를 공유하고 있습니다.

올해 OpenAI는 가족과 청소년이 안전하게 온라인을 이용할 수 있는 환경을 오랫동안 지지해 온 Family Online Safety Institute⁠(새 창에서 열기)(FOSI)에도 가입했습니다. OpenAI는 부모가 자녀를 적극적으로 지원할 수 있도록 돕고 업계가 책임 있는 관행을 실천할 수 있도록 하는 것을 중심에 두고, 청소년이 AI의 혜택을 누릴 수 있도록 FOSI와 협력해 나갈 것입니다. OpenAI는 이번 협력을 통해 효과적인 접근 방식에 대한 공동의 이해를 넓히고, 연령에 적합한 보호 조치와 부모를 위한 도구를 강화하며, 청소년이 AI를 안전하고 책임감 있게 활용할 수 있도록 지원하는 업계 전반의 노력을 뒷받침할 수 있기를 기대합니다.

청소년을 온라인에서 안전하게 보호하기 위해서는 지속적인 노력이 필요합니다. 앞으로도 OpenAI는 연령에 적합한 보호 조치를 더욱 강화하고, 부모에게 더 많은 도구와 관리 기능을 제공하며, 심각한 위험으로부터 청소년을 보호하기 위한 안전장치를 지속적으로 개선해 나갈 것입니다. 또한 건전한 AI 사용에 관한 연구를 발전시키고, 청소년이 능동적으로 학습하며 AI를 자신 있게 활용할 수 있도록 돕는 다양한 경험도 계속해서 만들어 나가겠습니다.

아직 해야 할 일이 많다는 것을 잘 알고 있습니다. OpenAI는 앞으로도 전 세계의 청소년과 부모, 교육자, 전문가, 지역사회와 협력하며, 더 많은 청소년이 AI를 안전하게 이용할 수 있도록 하는 환경을 만들어 나가기 위해 노력하겠습니다.