OpenAI, 청소년 AI 안전 강화를 위한 캘리포니아 법안 지지
글로벌 정책 부문 부사장 앤 올리어리
OpenAI는 청소년이 학습하고 창작하며 미래를 준비하는 데 도움이 되는 도구를 계속 이용할 수 있도록 보장하면서, 이들이 AI를 사용하는 방식에 실질적인 보호 장치를 마련하는 캘리포니아주 상원 법안 1119호를 지지합니다. 이번 지지는 OpenAI 공동 창립자 겸 CEO인 샘 올트먼이 지난해 청소년에 관한 회사의 원칙을 제시하며 밝힌 약속을 이어가는 것입니다.
연방 차원의 조치가 없는 상황에서 캘리포니아주는 청소년 AI 안전에 관한 강력한 기준을 세울 기회를 맞았습니다.
OpenAI는 뉴섬 주지사에게 보낸 서한(새 창에서 열기)에서 이 중요한 사안에 리더십을 발휘한 뉴섬 주지사와 스티브 파디야 주 상원의원, 버피 윅스 및 레베카 바우어카한 주 하원의원, 캘리포니아주 의회에 찬사를 보냈습니다. SB 1119는 OpenAI가 자사 제품과 글로벌 정책 원칙, 캘리포니아주에서의 정책 옹호 활동, ‘부모와 아동을 위한 안전한 AI 법’ 관련 활동을 통해 지지해 온 청소년 안전 조치를 더욱 발전시킵니다. OpenAI는 뉴섬 주지사가 이 법안에 서명해 법률로 제정할 것을 촉구합니다.
청소년은 AI와 함께 성장하는 첫 세대입니다. ChatGPT를 사용하는 청소년 약 10명 중 9명은 일주일 동안 학습, 정보 탐색, 역량 개발 또는 생산성 향상을 위해 ChatGPT를 활용합니다. 이러한 기회에는 분명한 책임이 따릅니다. 청소년에게는 고유한 발달상의 필요를 고려해 설계되고, 강력한 기본 보호 조치와 학습·창작·탐색을 위한 적절한 기회를 제공하는 경험이 필요합니다.
최근 출시한 청소년용 ChatGPT에는 이러한 접근 방식이 반영되어 있습니다. 청소년용 ChatGPT는 건강한 사용을 장려하고 기본 보호 장치를 제공하며 부모에게 추가 관리 기능을 부여하는 동시에, 18세 미만 사용자가 학습하고 비판적으로 사고하며 무언가를 만들어 나가도록 돕기 위해 설계되었습니다. 시스템이 사용자를 18세 미만으로 추정하거나 사용자가 자신의 나이를 13~17세라고 밝히면 자동으로 청소년용 ChatGPT가 적용됩니다. 이러한 보호 조치는 사용자가 끌 수 있는 선택 설정이 아니라 기본 경험의 일부입니다.
더 폭넓게 보면, OpenAI는 청소년이 안전을 희생하지 않고도 AI의 혜택을 누릴 수 있다고 믿으며, 이는 SB 1119의 핵심 목표이기도 합니다.
SB 1119는 강력한 보호 조치를 마련하는 동시에 유용한 AI 도구를 계속 이용할 수 있도록 합니다. OpenAI는 다음과 같은 핵심 요건을 적극 지지합니다.
- 사용자의 연령 확인,
- 청소년에게 제품을 제공하기 전 안전 위험을 파악하고 해결,
- 독립적인 감사 실시,
- 자해, 성 착취성 콘텐츠 및 기타 고위험 상호작용을 비롯한 유해 콘텐츠로부터 청소년 보호,
- 부모가 자녀의 사용을 지도하고 제한할 수 있는 도구 제공,
- 심각한 안전 위험이 발생하면 청소년을 위기 지원 자원과 연결, 그리고
- 맞춤형 광고를 제한하고 청소년의 개인정보 보호.
13~17세로 확인된 사용자에게는 이러한 보호 조치를 자동으로 적용해야 합니다. 이 법안은 실질적인 책임 체계와 청소년의 AI 사용을 보호하는 데 도움이 되는 안전장치를 결합합니다.
또한 SB 1119는 AI가 소셜 미디어와 다르다는 점을 적절히 인정합니다. 이 법안은 청소년이 AI를 활용해 학습하고 창작하며 탐색할 수 있도록 맞춤형 보호 조치를 마련합니다. 정책 입안자들은 이 체계를 마련하면서 청소년에게 더 안전하고 연령에 적합한 경험을 제공하는 한편, ChatGPT 메모리 기능의 책임 있는 사용을 비롯해 교육 및 안전에 필수적인 기능을 계속 이용할 수 있도록 했습니다.
청소년용 ChatGPT에는 퀴즈, 학습 시각화, 공부 모드 등 청소년의 학습을 돕도록 특별히 설계된 다양한 기능이 포함되어 있습니다. 교육자 및 학습 전문가와 함께 개발한 이 기능들은 학생들이 문제를 단계별로 풀어가도록 안내합니다. 이러한 도구는 이해를 심화하고 더 탄탄한 학습 습관을 기를 수 있도록 설계되었습니다. 메모리를 비롯해 이전 대화의 맥락을 활용하는 기능은 보호 조치를 일관되게 적용하고, 우려되는 패턴을 파악하며, 시간이 지나도 더 유용한 학습 지원을 제공하는 데 도움이 됩니다.
또한 맥락은 이러한 안전 및 학습 도구가 시간이 지나도 더욱 일관되게 작동하도록 돕습니다. ChatGPT는 메모리와 같은 기능을 통해 이전 대화의 관련 정보와 선호 사항을 이어갈 수 있으므로, 청소년은 처음부터 다시 시작하지 않고 장기 학습 프로젝트를 계속할 수 있습니다. 이러한 연속성은 유해한 패턴이 강화되는 것을 방지하고, 청소년에게 추가적인 도움이나 자원이 필요할 때 더 효과적으로 대응하는 데에도 도움이 될 수 있습니다.
안전과 학습의 균형을 맞추는 일은 OpenAI에 새로운 과제가 아닙니다. 지난 1년 동안 OpenAI는 자녀 보호, 연령 예측, 청소년 안전 청사진, 그리고 모델의 의도된 행동 방식을 안내하는 규칙인 모델 사양의 18세 미만 사용자 원칙을 도입해 모델이 청소년과 상호작용하는 방식에 관한 새로운 기준을 세웠습니다. 이 원칙은 연애 관계를 맺거나 정서적 의존을 부추기는 행위, ChatGPT가 인간이거나 지각이 있다고 주장하는 행위를 금지합니다. 또한 가족이 청소년 사용자의 주요 설정을 관리하고 고위험 상황에서 알림을 받을 수 있도록 자녀 보호 기능을 제공합니다.
SB 1119는 캘리포니아주 청소년의 AI 안전을 위한 강력한 체계를 마련합니다. 시행 과정에서 연구와 협력을 이어가면 핵심 조항을 개선하고, 기술이 발전하더라도 이 체계가 계속 효과적으로 작동하도록 할 수 있습니다. OpenAI는 이러한 노력을 지원하는 한편, 청소년을 청소년답게 대우하면서 더 강력한 자동 보호 조치와 의미 있는 학습 및 성장 기회를 제공하는 AI 경험을 계속 구축해 나가겠습니다.
