책임감 있는 Sora 출시

2026년 4월 26일 기준으로 Sora 제품은 더 이상 사용할 수 없습니다.

Sora 2와 Sora 앱은 공동 제작을 위해 최신 동영상 생성을 새로운 방식과 결합했으며, 개발을 시작할 때부터 안전성에 중점을 두었습니다. OpenAI의 접근 방식은 확실한 보호를 기본으로 합니다.

• AI 콘텐츠 구별.  Sora로 생성된 모든 동영상은 드러나는 출처 신호와 드러나지 않는 출처 신호를 모두 포함합니다. 출시 시점에는 모든 출력에 눈에 보이는 워터마크가 표시됩니다. 모든 Sora 동영상은 C2PA 메타데이터(산업 표준 서명)를 포함하며, ChatGPT 이미지 생성 및 Sora 1의 성공적인 시스템을 기반으로 높은 정확도로 Sora에 동영상을 트레이싱할 수 있는 내부 이미지 및 오디오 역검색 도구를 유지합니다.
• 캐릭터를 활용한 동의 기반 초상권. OpenAI의 목표는 사용자가 Sora 캐릭터를 통해 자신의 초상권을 전 과정에 걸쳐 온전히 통제할 수 있도록 하는 것입니다. OpenAI는 캐릭터에 캡처된 사용자의 오디오 및 이미지 초상권이 반드시 사용자의 동의하에 사용되도록 보장하는 안전장치를 마련했습니다. 사용자만이 자신의 캐릭터를 사용할 사람을 결정할 수 있고, 언제든지 액세스를 철회할 수 있습니다. 또한 (물론 캐릭터 기능을 사용하는 경우는 제외하고) 공인의 묘사를 차단하도록 조치합니다. 다른 사용자가 생성한 초안과 함께 사용자의 캐릭터를 포함한 동영상은 사용자가 항상 확인할 수 있습니다. 이를 통해 캐릭터 기능을 이용한 모든 동영상을 간편하게 검토하고 삭제(필요한 경우 신고)할 수 있습니다. 또한 캐릭터 기능을 이용한 모든 동영상에 추가 안전 조치가 적용되며, 캐릭터가 작동하는 방식을 사용자의 선호에 따라(예: 항상 페도라를 쓰게 하기) 설정할 수 있습니다.
• 10대를 위한 안전 조치. Sora는 어린 사용자를 위해 성인물 출력 제한을 포함한 더 강력한 보호 조치를 포함합니다. 피드는 10대에 적합하게 설계되었으며, 10대 프로필은 성인에게 추천되지 않고, 성인은 10대에게 메시지를 전송할 수 없습니다. ChatGPT의 새로운 자녀 보호 기능을 통해 부모는 Sora 앱에서 10대의 DM 전송 및 수신 여부를 관리할 수 있으며, 개인화되지 않은 피드를 선택할 수도 있습니다. 또한 기본으로 10대는 Sora에서 스크롤할 수 있는 양도 제한됩니다.
• 유해한 콘텐츠 필터링. Sora는 계층화된 방어를 사용하여 피드의 안전을 유지하는 동시에 창의성을 위한 여유를 확보합니다. 제작 시, 보호 조치는 여러 동영상 프레임과 오디오 스크립트에서 프롬프트와 출력을 모두 확인하여 성적인 자료, 테러 선전, 자해 조장 등 안전하지 않은 콘텐츠가 만들어지기 전에 차단하려고 합니다. OpenAI는 레드팀을 구성하여 새로운 위험을 탐색하며, Sora의 더 뛰어난 현실감과 움직임 및 오디오 추가를 고려하여 이미지 생성 관련 정책을 강화했습니다. 생성 외에도 자동화된 시스템은 모든 피드 콘텐츠를 OpenAI 글로벌 사용 정책⁠과 비교하여 검사하고, 안전하지 않거나 연령에 부적합한 자료를 걸러냅니다. 이러한 시스템은 새로운 위험이 학습됨에 따라 지속적으로 업데이트되며, 가장 영향력이 높은 유해도를 중점으로 인간 검토를 거쳐 보완됩니다.
• 오디오 안전 조치. Sora에 오디오를 추가하면 안전성에 대한 기준이 상승하며, 완벽한 보호는 쉽지 않은 일이지만 이 영역에 대한 투자를 지속하겠습니다. Sora는 정책 위반 가능성에 대해 생성된 음성의 텍스트 기록을 자동으로 스캔하고, 실제 아티스트와 존재하는 작품을 복제한 음악을 생성하려는 시도를 차단합니다. OpenAI 시스템은 이러한 프롬프트를 탐지하고 차단하도록 설계되었으며, Sora의 작품이 자신의 작품을 침해한다고 믿는 창작자의 삭제 요청을 존중합니다.
• 사용자 제어 및 권리 구제. 사용자는 사용자의 동영상을 공유하는 시점과 방식을 선택할 수 있으며, 언제든지 게시된 콘텐츠를 제거할 수 있습니다. 동영상은 사용자가 공유하기로 선택한 경우에만 피드에 공유됩니다. 모든 동영상, 프로필, 댓글은 정책 위반 시 명확한 구제책과 함께 오용으로 신고될 수 있습니다. 언제든지 계정을 차단하도록 선택할 수 있으며, 차단하면 다른 사람이 사용자의 프로필을 보거나 다이렉트 메시지로 연락하는 것을 방지할 수 있습니다.