Загрузка…
С 26 апреля 2026 года продукт Sora больше недоступен.
Модель Sora 2 и приложение Sora предлагают передовую генерацию видео и новый способ создавать вместе, и мы позаботились о том, чтобы безопасность была встроена с самого начала. Наш подход опирается на конкретные меры защиты:
- Различение контента, сгенерированного ИИ. Каждое видео, созданное с помощью Sora, содержит как видимые, так и невидимые сигналы происхождения. Все видео Sora также содержат метаданные C2PA — стандартную отраслевую подпись; кроме того, мы работаем с внутренними инструментами для обратного поиска изображений и аудио, которые с высокой точностью могут отследить видео до Sora, используя успешные системы генерации изображений ChatGPT и Sora 1. Многие результаты также содержат видимые динамически перемещающиеся водяные знаки, которые включают имя создателя.
- Создание видео из изображения с внешностью реального человека. По мере того как мы продолжаем укреплять защитные механизмы Sora, мы открываем больше возможностей для творческого самовыражения и общения, в том числе позволяя людям создавать видео из фотографий родных и друзей. Пользователи могут загружать изображения с людьми, чтобы создавать видео в Sora, после подтверждения того, что у них есть согласие изображенных людей и права на загрузку этих медиафайлов. Генерация видео из изображений с людьми подпадает под особенно строгие защитные ограничения — даже более строгие, чем те, которые действуют для функции «Персонажи Sora» (ранее известной как функция камео). Изображения, включая детей и лиц, выглядящих молодо, подлежат еще более строгой модерации и защитным ограничениям в отношении того, что можно создавать на их основе. При публикации эти видео также всегда будут содержать водяной знак.
- Использование образа для персонажа на основе согласия. Мы создали персонажей(открывается в новом окне), чтобы вы могли надежно контролировать свой образ в Sora. Понятие «образ» включает вашу внешность и ваш голос. Мы предусмотрели меры предосторожности, призванные гарантировать, что ваш аудио- и визуальный образ, запечатлённый в персонажах, используется с вашего согласия. Только вы решаете, кто может использовать ваших персонажей, и вы можете в любой момент отозвать доступ к ним. Мы также принимаем меры, чтобы блокировать изображения публичных личностей, за исключением тех, которые используют функцию «Персонажи». Видео, в которых участвуют ваши персонажи — включая черновики, созданные другими пользователями — всегда видны вам. Это позволяет вам легко просматривать и удалять любые видео с вашим персонажем (а при необходимости — отправлять жалобу на них). Мы также применяем дополнительные меры безопасности к любому видео с персонажем, и вы можете даже включить ещё более строгий набор ограничений, ограничивающих виды использования. Сюда входит ограничение существенных изменений вашей внешности, предотвращение ситуаций, которые могут поставить вас в неловкое положение, и сохранение вашей идентичности в целом неизменной.
- Меры защиты для подростков. Sora предусматривает более надежные меры защиты для несовершеннолетних пользователей, включая ограничения на взрослый контент. Лента спроектирована так, чтобы подходить всем пользователям Sora, а контент, который может быть вредным, небезопасным или не соответствующим возрасту, отфильтровывается для аккаунтов подростков. Профили подростков не появляются в рекомендациях для взрослых пользователей, а взрослые пользователи не могут инициировать переписку с подростками. Функции родительского контроля в ChatGPT позволяют родителям управлять возможностью подростков отправлять и получать личные сообщения, а также выбирать неперсонализированную ленту в приложении Sora. По умолчанию у подростков также есть ограничения на то, сколько времени они могут непрерывно листать ленту Sora.
- Фильтрация вредоносного контента. Sora использует многоуровневую защиту, чтобы обеспечить безопасность ленты, оставляя пространство для креативности. На этапе создания защитные механизмы стремятся блокировать небезопасный контент еще до его появления — например, материалы сексуального характера, пропаганду терроризма и самоповреждения, — проверяя как запросы, так и результаты по нескольким видеокадрам и аудиотранскриптам. Мы провели целевое тестирование на угрозы, чтобы изучить новые риски, и ужесточили политику в отношении генерации изображений с учетом большей реалистичности Sora и добавления движения и аудио. Помимо генерации, автоматизированные системы проверяют весь контент ленты на соответствие нашим Глобальным политикам использования и отфильтровывают небезопасные или не соответствующие возрасту материалы. Эти системы постоянно обновляются по мере того, как мы узнаём о новых рисках, и дополняются человеческой проверкой, сосредоточенной на наиболее существенных рисках.
- Меры безопасности для аудио. Добавление аудио в Sora поднимает планку безопасности, и хотя идеальная защита труднодостижима, мы продолжаем неустанно работать в этой сфере. Sora автоматически сканирует транскрипции сгенерированной речи на предмет потенциальных нарушений политики, а также блокирует попытки сгенерировать музыку с имитацией исполнения настоящими артистами, или с имитацией существующих музыкальных произведений. Наши системы разработаны для обнаружения и блокирования таких запросов. Мы удовлетворяем запросы на удаление от авторов, которые считают, что результат Sora нарушает их авторские права.
- Контроль и средства правовой защиты для пользователей. Вы выбираете, когда и как делиться своими видео, и можете удалить опубликованный вами контент в любое время. Видео будут публиковаться в ленте только тогда, когда вы сами решите это сделать. Можно пожаловаться на любое видео, профиль, личное сообщение, комментарий или персонажа в связи со злоупотреблениями; при нарушении правил предусмотрены четкие меры реагирования. Вы также можете в любое время блокировать учетные записи, чтобы другие пользователи не могли видеть ваш профиль или ваши публикации, использовать вашего персонажа и связываться с вами через личные сообщения.
