Sora の責任あるリリース

2026年4月26日をもって、Sora の提供は終了しました。

最先端の動画生成機能と新しい合成手法を組み合わせた Sora 2と Sora アプリには、開発当初から安全性が確実に組み込まれています。当社では、以下の強固な保護対策をアプローチの土台としています。

• AI 生成コンテンツの識別。Sora で生成されたすべての動画には、来歴を示す目に見えるシグナルと目に見えないシグナルの両方が含まれます。リリース段階では、すべての出力に目に見える透かしが適用されます。Sora で生成されたすべての動画には、業界標準の署名である C2PA も埋め込まれます。さらに当社では、ChatGPT 画像生成と Sora 1 のシステムの成功をもとに、社内の逆画像検索ツールと音声検索ツールを引き続き利用して、Sora を生成元とする動画を追跡しています。
• キャラクターを用いた同意に基づく肖像の使用。当社の目標は、ユーザーが Sora のキャラクターを使用してエンドツーエンドで肖像を管理できるようにすることです。キャラクターに収録された音声と画像の肖像がユーザーの同意に基づいて利用されるよう、安全対策を講じています。キャラクターを使用できるユーザーを決定できるのは、そのカメオの本人だけです。なお、アクセス権はいつでも取り消すことができます。また、公人（キャラクター機能のユーザーを除く）の描写をブロックする対策も講じています。ユーザーは常に、自分のキャラクターが含まれる動画（他のユーザーが作成した下書きを含む）を閲覧できるため、そうした動画を簡単にレビューして削除（必要に応じて報告）できます。キャラクターを使用した動画にはその他の安全対策も適用され、ユーザーは自分のキャラクターの動作（常に中折れ帽をかぶるなど）を設定することも可能です。
• 未成年者向けの保護対策。Sora では、若年層のユーザー向けに、成人向けの出力を制限するといったより強固な保護対策を実施しています。フィードは未成年者に適した内容となるよう設計され、未成年者のプロファイルが成人ユーザーに推奨されることはありません。また、成人ユーザーは未成年者とメッセージを開始できないようになっています。ChatGPT の新しいペアレンタル コントロールにより、保護者は未成年の子どもに DM の送受信を許可するかどうかを指定できます。また、Sora アプリでパーソナライズされていないフィードを選択することも可能です。未成年者の場合、Sora での連続スクロール時間もデフォルトで制限されます。
• 有害なコンテンツのフィルタリング。Sora では、創造性の余地を残しながら、フィードの安全性を維持するための多層防御策を講じています。制作時の対策として、複数の動画フレームや音声文字起こしでプロンプトと出力の両方をチェックし、性的コンテンツやテロリストによるプロパガンダ、自傷行為の助長といった危険なコンテンツが制作される前に、それらをブロックしています。また、Sora でよりリアルな描写が可能になったことや、モーションと音声が追加されたことを受け、新たなリスクを調べるためのレッドチームを設置し、画像生成に関する規定を強化しました。生成に関する対策だけではありません。自動システムを使って全フィード コンテンツをスキャンし、グローバルな利用規定⁠に対する違反を調べ、危険なコンテンツや年齢にふさわしくないコンテンツを除外しています。これらのシステムは新たなリスクの特定に応じて継続的に更新され、人間の担当者が特に影響の大きい危害に重点を置いたレビューを補助的に実施しています。
• 音声に関する安全対策。Sora への音声の追加により、安全性水準が引き上がります。完全な保護対策を講じることは困難ですが、当社は継続してこの領域に真摯に取り組んでいきます。Sora では、生成された音声の文字起こしが自動でスキャンされ、規定違反の可能性が検出されます。また、現存するアーティストや既存の作品を模倣した音楽を生成する試みはブロックされます。当社のシステムはこうしたプロンプトを検出して阻止するように設計されており、Sora の出力が自分の作品を侵害していると主張する作成者からのコンテンツ削除要請を受け入れています。
• ユーザーによる制御と解決手段。ユーザーは、作成した動画を共有するタイミングと方法を選択し、公開済みの自分のコンテンツをいつでも削除できます。動画のフィードへの共有は、許可した場合にのみ行われます。規定に違反しているすべての動画、プロファイル、コメントは悪用に該当するとして報告でき、明確な解決手順が示されます。また、いつでもアカウントをブロックできるため、他のユーザーによるプロファイルの閲覧や自分宛のダイレクト メッセージの送信を防ぐことができます。