아동 성 착취는 디지털 시대에서 가장 시급한 과제 중 하나입니다. AI는 이러한 피해가 산업 전반에서 발생하는 방식은 물론, 이를 대규모로 대응하는 방식까지 빠르게 바꾸고 있습니다.
OpenAI는 시스템 오용을 방지하기 위한 보호 장치를 구축하고 지속적으로 강화해 왔으며, 실종 및 착취 아동 국립센터(NCMEC)와 법 집행 기관 등과 긴밀히 협력해 탐지와 신고 체계를 개선하고 있습니다. 이러한 노력은 산업 전반에서 공통 기준을 더 강화해야 할 필요성을 분명히 보여줬습니다.
오늘 OpenAI는 AI 시대에 맞게 미국의 아동 보호 체계를 강화하기 위한 실질적인 방향을 담은 정책 청사진을 공개합니다. 이 청사진은 NCMEC, Attorney General Alliance 및 AI 태스크포스 공동 의장인 노스캐롤라이나 주 법무장관 Jeff Jackson과 유타 주 법무장관 Derek Brown, 그리고 Thorn을 포함한 아동 안전 분야 주요 기관과 전문가들의 의견을 반영했습니다. 이를 통해 각 기관의 우선순위를 충분히 담고, 아동 피해를 예방하기 위한 협력이 보다 효과적으로 이루어질 수 있도록 했습니다.
이 청사진은 세 가지 핵심 과제에 집중합니다. AI로 생성되거나 변형된 아동 성 착취물(CSAM)에 대응할 수 있도록 법과 제도를 정비하고, 수사가 보다 효과적으로 이루어질 수 있도록 사업자 신고 및 협력 체계를 개선하며, 오용을 예방하고 탐지할 수 있도록 AI 시스템에 안전 설계를 기본적으로 내재화하는 것입니다.
이 문제는 한 가지 방법만으로는 해결할 수 없습니다. 이 프레임워크는 법적, 운영적, 기술적 접근을 함께 활용해 위험을 더 정확히 파악하고 대응 속도를 높이며 책임성을 강화합니다. 동시에 기술이 발전하더라도 집행 기관의 역할이 충분히 유지되도록 합니다.
이러한 조치를 통해 산업 전반이 아동 안전 문제에 더 이르게, 그리고 더 효과적으로 대응할 수 있습니다. 착취 시도를 더 빠르게 차단하고, 법 집행 기관에 전달되는 정보의 품질을 높이며, 생태계 전반의 책임성을 강화함으로써, 이 프레임워크는 피해를 사전에 막고 위험이 발생했을 때 아동을 더 신속하게 보호하는 것을 목표로 합니다.
"Attorney General Alliance AI 태스크포스 공동 의장으로서, 우리는 이 청사진이 기술 업계의 아동 안전 관행을 실제 집행 환경에 맞춰 나가는 중요한 진전이라고 평가합니다. 특히 효과적인 생성형 AI 보호 장치는 단일 기술로 해결되는 것이 아니라, 탐지와 거부 메커니즘, 인간의 감독, 그리고 새롭게 나타나는 오용 패턴에 맞춰 계속 보완해 나가는 다층적 방어가 필요하다는 점을 분명히 짚고 있다는 점이 인상적입니다. 이는 우리가 현장에서 보는 상황과도 같습니다. 위협은 계속 변하고, 고정된 대응 방식으로는 한계가 있습니다. 초기 단계에서 예방 체계를 제대로 갖추는 것이야말로 아동 안전을 위해 산업이 할 수 있는 가장 효과적인 투자입니다.
결국 자율적 프레임워크가 제대로 작동하려면, 약속이 얼마나 구체적인지와 산업이 그에 대해 책임을 지려는 의지가 있는지가 관건입니다. 이러한 권고가 아동을 위한 지속적인 보호로 이어질 수 있도록, OpenAI, NCMEC, 그리고 다른 주 법무장관들과의 협력을 앞으로도 이어가기를 기대합니다.”
—Jeff Jackson(노스캐롤라이나) 및 Derek Brown(유타) 주 법무장관, Attorney General Alliance AI 태스크포스 공동 의장
Attorney General Alliance는 주 법무장관, 산업 리더, 비영리 단체, 글로벌 파트너들을 한데 모아 AI와 디지털 안전에 대한 실질적이고 미래지향적인 해법을 추진하며, 온라인에서 청소년을 보호하는 데 앞장서고 있습니다. 협업과 혁신을 바탕으로 AGA는 새로운 기술을 책임 있게 수용하면서 청소년을 어떻게 보호할 것인지에 대한 기준을 만들어가고 있습니다. 우리는 아동 안전을 위한 매우 중요한 청사진을 마련하는 과정에서 OpenAI가 지속적으로 안전에 힘쓰고 AGA 및 주 법무장관들과 협력해 온 점을 높이 평가합니다.”
—Karen White, Attorney General Alliance 사무총장
“생성형 AI는 온라인 아동 성 착취 범죄를 심각하게 악화시키고 있습니다. 진입 장벽은 낮아지고, 규모는 커지고, 이전에는 없던 새로운 형태의 피해까지 나타나고 있습니다. 하지만 동시에 실종 및 착취 아동 국립센터(NCMEC)은 OpenAI와 같은 기업들이 이러한 기술을 보다 책임감 있게 설계하고, 초기 단계부터 보호 장치를 함께 마련하려는 점을 긍정적으로 보고 있습니다. 이 문제는 어느 한 조직이나 기업, 특정 분야만으로 해결할 수 없습니다. 산업과 정부, 아동 보호 커뮤니티 전반의 파트너들과 협력해 피해를 줄이고 아동의 안전을 더 잘 지킬 수 있는 해법을 만들어 나가기 위해 앞으로도 계속 노력하겠습니다.”
—Michelle DeLaune, 실종 및 착취 아동 국립센터(NCMEC) 대표 겸 CEO
