Sora での安全な制作

2026年4月26日をもって、Sora 製品の提供は終了しました。

最先端の動画生成機能と新しい合成手法を組み合わせた Sora 2モデルと Sora アプリには、開発当初から安全性が確実に組み込まれています。当社では、以下の強固な保護対策をアプローチの土台としています。

• AI 生成コンテンツの識別。Sora で生成されたすべての動画には、来歴を示す目に見えるシグナルと目に見えないシグナルの両方が含まれます。Sora で生成されたすべての動画には、業界標準の署名である C2PA も埋め込まれます。さらに当社では、ChatGPT 画像生成と Sora 1 のシステムの成功をもとに、社内の逆画像検索ツールと音声検索ツールを引き続き利用して、Sora を生成元とする動画を追跡しています。多くの生成コンテンツには、制作者名を含む視認可能な動的ウォーターマークも付与されています。
• 実在する人物の肖像を用いた画像から動画生成。Sora の安全対策を強化し続けることで、家族や友人の写真から動画を作成するなど、より創造的な表現とつながりを可能にしています。ユーザーは、写っている人物から同意を得ており、そのメディアをアップロードする権利を有していることを証明したうえで、人物が写った画像をアップロードして Sora で動画を作成できます。人物を含む画像から動画への生成には、特に厳格な安全対策が適用されます。これは、Sora キャラクター（旧称：カメオ機能）で認められている範囲よりもさらに厳格です。子どもや若く見える人物を含む画像については、それらをもとに作成できる内容に関して、さらに厳格なモデレーションと対策が適用されます。これらの動画は、共有時にも常に透かしが入ります。
• キャラクターを用いた同意に基づく肖像の使用。Sora におけるご自身の肖像をしっかり管理できるようにするため、キャラクター⁠（新しいウィンドウで開く）を作成しました。肖像には、外見と声が含まれます。キャラクターに収録された音声と画像の肖像がユーザーの同意に基づいて利用されるよう、安全対策を講じています。キャラクターを使用できるユーザーを決定できるのは、そのカメオの本人だけです。なお、アクセス権はいつでも取り消すことができます。また、キャラクター機能を使用している場合を除き、公人の描写をブロックする対策を講じています。ユーザーは常に、自分のキャラクターが含まれる動画（他のユーザーが作成した下書きを含む）を閲覧できるため、そうした動画を簡単にレビューして削除（必要に応じて報告）できます。キャラクターを使用した動画には追加の安全対策を適用し、さらに厳しい使用制限を設けることも可能です。これには、外見の大幅な変更を制限し、恥ずかしい状況を避け、アイデンティティを全体として一貫して保つことが含まれます。
• 未成年者向けの保護対策。Sora では、若年層のユーザー向けに、成人向けの生成コンテンツを制限するといったより強固な保護対策を実施しています。フィードはすべての Sora ユーザーに適した内容となるよう設計されており、10代のアカウントでは、有害、危険、または年齢にふさわしくないコンテンツがフィルタリングされます。未成年者のプロファイルが成人ユーザーに推奨されることはありません。また、成人ユーザーは未成年者とメッセージを開始できないようになっています。ChatGPT のペアレンタルコントロールを使って、保護者は10代の子どもが DM を送受信できるかどうかを管理し、Sora アプリでパーソナライズされていないフィードを選択できます。未成年者の場合、Sora での連続スクロール時間もデフォルトで制限されます。
• 有害なコンテンツのフィルタリング。Sora では、創造性の余地を残しながら、フィードの安全性を維持するための多層防御策を講じています。制作時の対策として、複数の動画フレームや音声文字起こしでプロンプトと出力の両方をチェックし、性的コンテンツやテロリストによるプロパガンダ、自傷行為の助長といった危険なコンテンツが制作される前に、それらをブロックしています。また、Sora でよりリアルな描写が可能になったことや、モーションと音声が追加されたことを受け、新たなリスクを調べるためのレッドチームを設置し、画像生成に関する規定を強化しました。生成に関する対策だけではありません。自動システムを使ってすべてのフィードコンテンツをスキャンし、グローバルな利用規定に対する違反を調べ、危険なコンテンツや年齢にふさわしくないコンテンツを除外しています。これらのシステムは新たなリスクの特定に応じて継続的に更新され、人間の担当者が特に影響の大きい危害に重点を置いたレビューを補助的に実施しています。
• 音声に関する安全対策。Sora への音声の追加により、安全性水準が引き上がります。完全な保護対策を講じることは困難ですが、当社は継続してこの領域に真摯に取り組んでいきます。Sora では、生成された音声の文字起こしが自動でスキャンされ、規定違反の可能性が検出されます。また、現存するアーティストや既存の作品を模倣した音楽を生成する試みはブロックされます。当社のシステムはこうしたプロンプトを検出して阻止するように設計されており、Sora の出力が自分の作品を侵害していると主張する作成者からのコンテンツ削除要請を受け入れています。
• ユーザーによる制御と解決手段。ユーザーは、作成した動画を共有するタイミングと方法を選択し、公開済みの自分のコンテンツをいつでも削除できます。動画のフィードへの共有は、許可した場合にのみ行われます。すべての動画、プロファイル、ダイレクトメッセージ、コメント、キャラクターは悪用として報告可能で、規定違反の場合には明確な対応策が提供されます。また、いつでもアカウントをブロックできるため、他のユーザーがプロファイルや投稿を閲覧したり、自分のキャラクターを使用したり、ダイレクトメッセージを送信したりすることを防げます。