С 26 апреля 2026 года продукт Sora больше недоступен.
Модель Sora 2 и приложение Sora предлагают передовую генерацию видео и новый способ создавать вместе, и мы позаботились о том, чтобы безопасность была встроена с самого начала. Наш подход опирается на конкретные меры защиты:
Различение контента, сгенерированного ИИ. Каждое видео, созданное с помощью Sora, содержит как видимые, так и невидимые сигналы происхождения. Все видео Sora также содержат метаданные C2PA — стандартную отраслевую подпись; кроме того, мы работаем с внутренними инструментами для обратного поиска изображений и аудио, которые с высокой точностью могут отследить видео до Sora, используя успешные системы генерации изображений ChatGPT и Sora 1. Многие результаты также содержат видимые динамически перемещающиеся водяные знаки, которые включают имя создателя.
Создание видео из изображения с внешностью реального человека. По мере того как мы продолжаем укреплять защитные механизмы Sora, мы открываем больше возможностей для творческого самовыражения и общения, в том числе позволяя людям создавать видео из фотографий родных и друзей. Пользователи могут загружать изображения с людьми, чтобы создавать видео в Sora, после подтверждения того, что у них есть согласие изображенных людей и права на загрузку этих медиафайлов. Генерация видео из изображений с людьми подпадает под особенно строгие защитные ограничения — даже более строгие, чем те, которые действуют для функции «Персонажи Sora» (ранее известной как функция камео). Изображения, включая детей и лиц, выглядящих молодо, подлежат еще более строгой модерации и защитным ограничениям в отношении того, что можно создавать на их основе. При публикации эти видео также всегда будут содержать водяной знак.
Использование образа для персонажа на основе согласия. Мы создали персонажей(открывается в новом окне), чтобы вы могли надежно контролировать свой образ в Sora. Понятие «образ» включает вашу внешность и ваш голос. Мы предусмотрели меры предосторожности, призванные гарантировать, что ваш аудио- и визуальный образ, запечатлённый в персонажах, используется с вашего согласия. Только вы решаете, кто может использовать ваших персонажей, и вы можете в любой момент отозвать доступ к ним. Мы также принимаем меры, чтобы блокировать изображения публичных личностей, за исключением тех, которые используют функцию «Персонажи». Видео, в которых участвуют ваши персонажи — включая черновики, созданные другими пользователями — всегда видны вам. Это позволяет вам легко просматривать и удалять любые видео с вашим персонажем (а при необходимости — отправлять жалобу на них). Мы также применяем дополнительные меры безопасности к любому видео с персонажем, и вы можете даже включить ещё более строгий набор ограничений, ограничивающих виды использования. Сюда входит ограничение существенных изменений вашей внешности, предотвращение ситуаций, которые могут поставить вас в неловкое положение, и сохранение вашей идентичности в целом неизменной.
Меры защиты для подростков. Sora предусматривает более надежные меры защиты для несовершеннолетних пользователей, включая ограничения на взрослый контент. Лента спроектирована так, чтобы подходить всем пользователям Sora, а контент, который может быть вредным, небезопасным или не соответствующим возрасту, отфильтровывается для аккаунтов подростков. Профили подростков не появляются в рекомендациях для взрослых пользователей, а взрослые пользователи не могут инициировать переписку с подростками. Функции родительского контроля в ChatGPT позволяют родителям управлять возможностью подростков отправлять и получать личные сообщения, а также выбирать неперсонализированную ленту в приложении Sora. По умолчанию у подростков также есть ограничения на то, сколько времени они могут непрерывно листать ленту Sora.
Фильтрация вредоносного контента. Sora использует многоуровневую защиту, чтобы обеспечить безопасность ленты, оставляя пространство для креативности. На этапе создания защитные механизмы стремятся блокировать небезопасный контент еще до его появления — например, материалы сексуального характера, пропаганду терроризма и самоповреждения, — проверяя как запросы, так и результаты по нескольким видеокадрам и аудиотранскриптам. Мы провели целевое тестирование на угрозы, чтобы изучить новые риски, и ужесточили политику в отношении генерации изображений с учетом большей реалистичности Sora и добавления движения и аудио. Помимо генерации, автоматизированные системы проверяют весь контент ленты на соответствие нашим Глобальным политикам использования и отфильтровывают небезопасные или не соответствующие возрасту материалы. Эти системы постоянно обновляются по мере того, как мы узнаём о новых рисках, и дополняются человеческой проверкой, сосредоточенной на наиболее существенных рисках.
Меры безопасности для аудио. Добавление аудио в Sora поднимает планку безопасности, и хотя идеальная защита труднодостижима, мы продолжаем неустанно работать в этой сфере. Sora автоматически сканирует транскрипции сгенерированной речи на предмет потенциальных нарушений политики, а также блокирует попытки сгенерировать музыку с имитацией исполнения настоящими артистами, или с имитацией существующих музыкальных произведений. Наши системы разработаны для обнаружения и блокирования таких запросов. Мы удовлетворяем запросы на удаление от авторов, которые считают, что результат Sora нарушает их авторские права.
Контроль и средства правовой защиты для пользователей. Вы выбираете, когда и как делиться своими видео, и можете удалить опубликованный вами контент в любое время. Видео будут публиковаться в ленте только тогда, когда вы сами решите это сделать. Можно пожаловаться на любое видео, профиль, личное сообщение, комментарий или персонажа в связи со злоупотреблениями; при нарушении правил предусмотрены четкие меры реагирования. Вы также можете в любое время блокировать учетные записи, чтобы другие пользователи не могли видеть ваш профиль или ваши публикации, использовать вашего персонажа и связываться с вами через личные сообщения.
