AI는 청소년에게 강력한 도구가 될 수 있습니다. 학생들이 어려운 개념을 이해하고, 새로운 언어를 연습하며, 취업 면접을 준비하고, 창의적인 아이디어를 탐구하거나 새로운 기술을 배우는 데 도움이 될 수 있습니다. 20세기 중반 전 세계로 확산된 문해 운동이 인쇄물의 대규모 보급과 훈련된 교사에 대한 접근을 필요로 했던 것처럼, 오늘날 안전한 AI에 대한 접근을 제공하는 것은 개인화 학습의 새로운 기회를 열고, 소외된 이들의 장벽을 줄이며, 취업 준비 역량을 높일 것입니다.
잠재적 이점이 매우 크기 때문에, 청소년이 안전하고 연령에 적합하며 건강한 발달을 뒷받침하는 방식으로 AI에 접근할 수 있도록 하는 것이 필수적입니다. 그 책임이 주로 부모나 청소년 본인에게 돌아가서는 안 됩니다. OpenAI를 포함한 기업들은 기본적으로 적절한 보호 장치를 갖춘 제품을 구축하는 동시에, 가족들이 AI 사용 방식을 안내할 수 있도록 도구와 정보를 제공할 책임이 있습니다.
이달 말 프랑스 에비앙에서 열리는 G7 정상회의에 각국 정상들이 모이면, 청소년 AI 안전이 핵심 의제가 될 것입니다. OpenAI는 청소년 안전에 대한 더 큰 협력, 업계 표준을 높이기 위해 함께 일할 방법, 그리고 국제 청소년 안전 연구소 설립을 촉구하는 OpenAI의 새로운 제안을 논의하기 위해 참여할 것입니다.
G7 정상회의는 청소년 안전에 관한 글로벌 공조를 위한 드문 기회입니다. 하지만 전담 연구소는 단 한 번의 정상회의를 넘어 필요한 지속성과 후속 조치를 제공하여, 정부, 연구자, 시민사회, 업계가 계속 협력해 근거를 공유하고 지침을 개발하며 시간이 지나도 표준을 높일 수 있도록 도울 것입니다.
이를 수행할 수 있는 신뢰할 만한 방법은 여러 가지가 있습니다. 새로운 국제 연구소를 설립하거나, 기존 또는 새로 설립된 국가 AI 연구소에 전 세계 파트너와 연구, 근거, 지침을 공유하는 글로벌 권한을 부여하는 방식입니다. 가장 중요한 것은 그것이 수행하는 기능입니다. 청소년 AI 안전에는 지속적인 관심, 신뢰할 수 있는 근거, 그리고 기술의 속도에 맞출 수 있는 실질적인 지침이 필요합니다.
이러한 연구소는 OpenAI Foundation이 지원하는 Common Sense Media의 Youth AI Safety Institute와 같은 새로운 이니셔티브는 물론, OpenAI가 미국교사연맹과 함께하는 작업을 비롯한 교육자들과의 실질적 협력을 기반으로 삼을 수 있습니다. 또한 에스토니아의 학교 내 국가 차원 ChatGPT 도입과 같은 실제 배포 사례도 참고해야 합니다. 이곳에서 OpenAI는 Stanford 및 에스토니아 연구자들과 협력해 영향을 연구하고 학습에서 더 안전하고 효과적인 사용을 위한 정보를 제공하고 있습니다.
OpenAI는 이 중요한 과제와 청소년 안전에 관한 글로벌 표준을 높이기 위해 프랑스 정부, 다른 G7 정부, 시민사회, 학계, 업계 전반의 파트너들과 협력할 기회를 환영합니다.
OpenAI는 G7 회의에서 도출될 수 있는 합의를 포함한 강력한 청소년 AI 안전 프레임워크가 아래에서 제시하는 원칙을 기반으로 마련되어야 한다고 생각합니다.
- 기업은 사용자가 미성년자인지 파악하고 연령에 적합한 보호를 적용해야 합니다. 이는 제공업체가 효과적이고 개인정보를 보호하는 연령 추정과 같은 수단을 사용해 미성년자와 성인을 구분하도록 요구하고, 사용자의 나이를 판단할 수 없을 때는 기본적으로 보호 장치를 적용해야 함을 의미합니다. 이러한 기반이 없으면 가장 선의의 청소년 보호 조치조차 보호하려는 청소년에게 도달하지 못할 수 있습니다.
- 기업은 청소년에게 미치는 위험과 이점을 정기적으로 평가하고 피해가 발생하기 전에 이를 해결하기 위한 조치를 취해야 합니다. 이는 제공업체가 매년 청소년 안전 위험 평가를 완료하고, 확인한 위험에 따라 비례적인 보호 장치를 시행하도록 요구하는 것을 의미합니다. 이러한 평가는 발달 단계, 실제 사용에서 나온 경험적 증거, 관련 연구 또는 규제 지침에 근거해 청소년에게 미치는 위험을 고려해야 합니다. 평가는 잠재적 피해뿐 아니라 AI가 학습, 창의성, 기술 개발, 기회 접근과 같은 긍정적 결과를 지원하는지도 고려해야 합니다.
- 부모와 보호자는 연령에 적합한 자립을 지원하면서 자녀의 경험을 안내하는 데 도움이 되는 접근 가능하고 사용하기 쉬운 제어 기능을 갖추어야 합니다. 여기에는 메모리, 데이터 사용, 시간 제한 등 주요 설정을 관리하는 도구가 포함되어야 합니다. 부모용 도구는 부모가 그 존재를 알고 사용 방법을 이해할 수 있도록 적극적으로 홍보되어야 합니다.
- 가족은 기업이 젊은 사용자를 어떻게 보호하는지에 대해 명확하고 이해하기 쉬운 정보를 받을 자격이 있으며, 청소년의 AI 사용이 가진 이점과 위험 모두에 대해 의미 있는 정보를 제공받아야 합니다. 기업은 청소년을 보호하기 위해 어떤 보호 장치가 마련되어 있는지, 이용 가능한 부모용 도구는 무엇인지, 위험이 변화함에 따라 보호가 어떻게 업데이트되는지를 설명하는 안전 정책을 공개해야 합니다. 이러한 투명성은 신뢰를 구축하고 부모가 정보에 기반한 선택을 하도록 돕습니다.
- 기업은 자해, 착취, 그루밍, 성적 착취 콘텐츠 및 기타 고위험 상호작용을 포함한 심각한 안전 상황에 대응하기 위한 명확한 프로토콜을 마련해야 합니다. 여기에는 서비스 내 지원, 적절한 리소스 안내, 그리고 적절한 경우 적시에 이루어지는 부모 통지가 포함되어야 합니다. 기업은 또한 노골적인 성적 또는 폭력적 자료를 포함해 아동에게 안전하지 않거나 발달상 부적절한 콘텐츠가 생성되지 않도록 시스템을 설계해야 합니다.
- 청소년이 사용하는 AI 시스템은 학습, 발달, 현실 세계의 관계를 대체하는 것이 아니라 지원하도록 설계되어야 합니다. AI는 청소년이 배우고, 창작하고, 기술을 쌓고, 미래를 준비하도록 돕는 도구로 기능해야 합니다. 동시에 기업은 건강한 발달이 인간의 판단, 현실 세계의 관계, 전문적 지원에 의존하는 영역에서 명확한 경계를 설정해야 합니다.
- 미성년자의 개인정보는 보호되어야 합니다. 이는 청소년을 대상으로 하는 개인정보 침해적 표적 광고를 금지하고, 기업의 개인정보 판매를 막는 것을 의미합니다.
- 청소년 안전 프레임워크는 기회, 리터러시, 보호를 촉진해야 합니다. 청소년은 학습, 창의성, 기술 개발, 미래의 기회를 지원하는 AI 도구에 접근할 수 있어야 하며, 동시에 AI를 안전하고 책임 있게 사용하는 데 필요한 지식과 비판적 사고 능력을 갖추어야 합니다. 여기에는 AI 리터러시를 촉진하고 청소년이 AI 시스템의 기회와 한계를 이해하도록 도와, 디지털 공간에서 자신감 있고 책임감 있게 참여할 수 있게 하는 것이 포함됩니다.
- 독립 감사 등 강력한 책임성 메커니즘은 이러한 보호가 실제로 의미 있게 작동하도록 보장하는 데 필수적입니다. 감사는 관할권 전반에서 상호 운용 가능한 감사를 가능하게 하는 공통 표준 집합에 의해 뒷받침되어야 합니다. 입법 프레임워크에는 기업이 청소년 안전 보호 장치를 효과적으로 시행하고, 확인된 위험을 완화하며, 청소년 안전 및 개인정보 보호 의무를 준수하는지 정부가 평가할 수 있도록 하는 감독 및 집행 조치가 포함되어야 합니다.
이러한 원칙은 모델 행동과 제품 설계부터 전문가 의견과 현실 세계의 지원에 이르기까지, 우리가 ChatGPT를 구축하고 운영하는 방식에 반영되어 있습니다. 우리는 18세 미만 사용자를 위한 보호 장치를 강화하고, 적극적 알림이 포함된 자녀 보호를 출시했으며, 누군가가 18세 미만일 수 있을 때 ChatGPT가 더 강력한 보호를 적용할 수 있도록 고도화된 연령 예측 시스템을 도입했습니다. 모델이 어떻게 행동해야 하는지를 설명하는 우리의 모델 사양에는 청소년 안전, 연령에 적합한 경험, 현실 세계의 지원, 명확한 기대치를 우선시하는 18세 미만 사용자를 위한 전용 원칙(새 창에서 열기)도 포함되어 있습니다. 실제로 이는 자해, 위험한 활동, 노골적 콘텐츠, 신체 이미지, 비밀 유지와 관련해 더 강력한 가드레일을 마련하고, 필요할 때 신뢰할 수 있는 오프라인 지원이나 위기 대응 리소스를 찾도록 권장한다는 뜻입니다. 나이가 불확실할 때는 기본적으로 더 강력한 보호 장치를 적용합니다.
강력한 보호 장치로 설계되고 명확한 지침과 가족 및 교육자의 지원과 함께 제공되는 AI는 청소년이 학습, 창의성, 기회를 확장하는 도구의 혜택을 안전하게 누리도록 도울 수 있습니다. AI는 학생들이 어려운 개념을 이해하고, 언어를 연습하고, 글쓰기를 개선하고, 코딩을 배우고, 연구를 정리하고, 창의적인 아이디어를 탐구하며, 이미 변화하고 있는 일자리에 대비하도록 도울 수 있습니다. Education for Countries를 통해 OpenAI는 AI 도입이 근거와 실제 교실의 필요에 기반하도록 정부 및 교육자들과 함께 연구 기반 배포, 현지화된 학습 도구, 교사 연수를 진행하고 있습니다. 이 작업은 이미 에스토니아, 그리스, 싱가포르를 포함한 파트너 국가들의 국가 교육 노력을 지원하고 있습니다.
정상회의 참여에 더해, 우리는 파리에서 OpenAI Forum(새 창에서 열기)을 열어 정부, 연구자, 시민사회, 교육자, 업계가 청소년 안전이라는 공동 목표를 구체적인 보호 장치, 표준, 실행 관행으로 전환할 방법에 대한 실질적 대화를 마련할 것입니다. 프랑스 AI 및 디지털 업무 대사 Clara Chappaz가 OpenAI 최고 글로벌 정책 책임자 Chris Lehane, iRaise/Everyone.AI의 청소년 안전 리더들, 그리고 다른 전문가들과 함께 청소년이 위험을 줄이면서 AI의 혜택을 누릴 수 있는 방법을 논의할 예정입니다.
