2026년 4월 26일 기준으로 Sora 제품은 더 이상 사용할 수 없습니다.
Sora 2 모델과 Sora 앱은 함께 창작할 수 있는 새로운 방식을 기반으로 최첨단 동영상 생성 기능을 지원하며, 안전 기능이 처음부터 내장되도록 설계되었습니다. 이러한 접근 방식은 다음과 같은 구체적인 보호 조치에 기반합니다.
- AI 콘텐츠 구별. Sora로 생성된 모든 동영상에는 눈에 보이는 출처 신호와 보이지 않는 출처 신호가 모두 포함됩니다. 모든 Sora 동영상에는 업계 표준 서명인 C2PA 메타데이터가 포함되며, ChatGPT 이미지 생성과 Sora 1에서 검증된 기술을 바탕으로, 동영상을 높은 정확도로 Sora에서 생성된 것인지 추적할 수 있는 내부 이미지 역검색 및 오디오 검색 툴을 갖추고 있습니다. 많은 결과물에는 제작자 이름이 포함된, 눈에 보이고 움직이는 워터마크가 함께 표시됩니다.
- 실제 인물의 모습을 활용한 이미지 기반 동영상 생성. Sora의 안전 기준을 지속적으로 강화하는 한편, 가족이나 친구의 사진으로 동영상을 만들 수 있도록 하는 등 더 다양한 창작 표현과 연결을 가능하게 하고 있습니다. 사용자는 사진에 포함된 인물의 동의를 받았으며 해당 미디어를 업로드할 권리가 있음을 확인한 후, 해당 인물이 포함된 이미지를 업로드해 Sora에서 동영상을 생성할 수 있습니다. 인물이 포함된 이미지 기반 동영상 생성에는 특히 엄격한 안전 기준이 적용되며, 이는 Sora 캐릭터(이전 명칭: 카메오 기능)보다도 더 엄격한 수준입니다. 아동이나 미성년자로 보이는 인물이 포함된 이미지는 생성 가능한 콘텐츠에 대해 더욱 엄격한 검토와 안전 기준이 적용됩니다. 이러한 동영상은 공유될 때에도 항상 워터마크가 포함됩니다.
- 캐릭터를 활용한 동의 기반 초상권. Sora에서 자신의 초상에 대해 강력한 통제권을 가질 수 있도록 캐릭터(새 창에서 열기) 기능을 도입했습니다. 초상에는 외모와 음성이 모두 포함됩니다. OpenAI는 캐릭터에 캡처된 사용자의 오디오 및 이미지 초상권이 반드시 사용자의 동의하에 사용되도록 보장하는 안전 기준을 마련했습니다. 사용자만이 자신의 캐릭터를 사용할 사람을 결정할 수 있고, 언제든지 액세스를 철회할 수 있습니다. 또한 캐릭터 기능을 사용하는 경우를 제외하고는 공인에 대한 묘사를 차단하는 조치를 시행하고 있습니다. 다른 사용자가 만든 초안을 포함해 캐릭터가 포함된 모든 동영상은 항상 확인할 수 있습니다. 이를 통해 캐릭터가 포함된 모든 동영상을 간편하게 검토하고 삭제하거나, 필요할 경우 신고할 수 있습니다. 캐릭터가 포함된 모든 동영상에는 추가적인 안전 기준이 적용되며, 사용 방식에 제한을 두는 더 엄격한 설정을 활성화할 수도 있습니다. 여기에는 외모를 크게 바꾸지 못하게 하고, 난처하거나 민망한 상황에 놓이게 하는 것을 막으며, 전반적으로 본인의 정체성이 유지되도록 하는 제한이 포함됩니다.
- 청소년을 위한 안전 조치. Sora는 청소년 사용자 보호를 위해 성인 콘텐츠 제한 등 보다 강화된 보호 기능을 제공합니다. 피드는 모든 Sora 사용자에게 적합하도록 설계되어 있으며, 청소년 계정에서는 유해하거나 안전하지 않거나 연령에 부적절한 콘텐츠가 필터링됩니다. 청소년 프로필은 성인에게 추천되지 않으며, 성인은 청소년에게 먼저 메시지를 보낼 수 없습니다. ChatGPT의 자녀 보호 기능을 통해 부모는 청소년의 DM 송수신 여부를 관리할 수 있으며, Sora 앱에서 개인화되지 않은 피드를 선택할 수도 있습니다. 또한 기본적으로 청소년은 Sora에서 스크롤할 수 있는 양도 제한됩니다.
- 유해한 콘텐츠 필터링. Sora는 창의성을 유지하면서도 피드를 안전하게 보호하기 위해 계층화된 방어 체계를 사용합니다. 제작 시, 보호 조치는 여러 동영상 프레임과 오디오 스크립트에서 프롬프트와 결과물을 모두 검사하여 성적 콘텐츠, 테러 선전, 자해 조장과 같은 유해 콘텐츠가 만들어지기 전에 차단합니다. OpenAI는 레드팀 테스트를 통해 새로운 위험을 탐색하며, Sora의 더 뛰어난 현실감과 움직임 및 오디오 추가를 고려하여 이미지 생성 관련 정책을 강화했습니다. 생성 이후에도 자동화된 시스템이 모든 피드 콘텐츠를 OpenAI 글로벌 사용 정책 기준으로 검사하여 유해하거나 연령에 부적절한 콘텐츠를 필터링합니다. 이러한 시스템은 새로운 위험이 학습됨에 따라 지속적으로 업데이트되며, 주요 위험 요소에 대해서는 사람의 검토가 함께 이루어집니다.
- 오디오 안전 조치. Sora에 오디오를 추가하면 안전성에 대한 기준이 상승하며, 완벽한 보호는 쉽지 않은 일이지만 이 영역에 대한 투자를 지속하겠습니다. Sora는 정책 위반 가능성에 대해 생성된 음성의 텍스트 기록을 자동으로 스캔하고, 실제 아티스트와 존재하는 작품을 복제한 음악을 생성하려는 시도를 차단합니다. OpenAI 시스템은 이러한 프롬프트를 탐지하고 차단하도록 설계되었으며, Sora의 작품이 자신의 작품을 침해한다고 믿는 창작자의 삭제 요청을 존중합니다.
- 사용자 제어 및 대응 수단. 사용자는 사용자의 동영상을 공유하는 시점과 방식을 선택할 수 있으며, 언제든지 게시된 콘텐츠를 제거할 수 있습니다. 동영상은 사용자가 공유하기로 선택한 경우에만 피드에 공유됩니다. 모든 동영상, 프로필, 다이렉트 메시지, 댓글, 캐릭터는 신고할 수 있으며, 정책 위반 시 명확한 대응 절차가 제공됩니다. 또한 언제든지 계정을 차단할 수 있으며, 차단 시 상대방은 프로필이나 게시물을 볼 수 없고, 캐릭터를 사용할 수 없으며, 다이렉트 메시지로 연락할 수도 없습니다.
