Развивая происхождение контента для более безопасной и прозрачной экосистемы ИИ

Люди ежедневно используют инструменты OpenAI, чтобы создавать и редактировать изображения и аудио так, чтобы общение становилось более выразительным, полезным и доступным. По мере того как эти инструменты становятся частью того, как люди создают, воображают и делятся, важно, чтобы люди могли понимать и проверять, откуда берется медиаконтент, чтобы увереннее его интерпретировать. Сигналы происхождения могут помочь, давая людям контекст о том, откуда появился контент, как он был создан или отредактирован и соответствует ли он тому, за что себя выдает.

Сегодня мы усиливаем наш подход к происхождению контента с помощью многоуровневой, ориентированной на экосистему модели построения доверия в интернете. Мы делаем наши сигналы происхождения более распознаваемыми для других инструментов и платформ благодаря соответствию C2PA, добавляем устойчивые межплатформенные водяные знаки SynthID для изображений в партнерстве с Google и делимся предварительной версией инструмента, с помощью которого пользователи смогут проверить, были ли изображения созданы OpenAI.

Вместе эти обновления развивают нашу предыдущую работу⁠ по поддержке открытых стандартов, упрощению распознавания контента, созданного OpenAI, и сотрудничеству в отрасли ради более надежной информационной экосистемы.

OpenAI участвует в разработке и внедрении стандартов происхождения с 2024 года, когда мы начали добавлять Content Credentials к изображениям, созданным DALL·E 3⁠(открывается в новом окне), а позже — к ImageGen⁠(открывается в новом окне) и Sora⁠(открывается в новом окне). Мы также вошли в руководящий комитет Coalition for Content Provenance and Authenticity (C2PA) — межотраслевой группы, стоящей за открытым техническим стандартом происхождения контента. Технический подход C2PA использует метаданные и криптографические подписи, чтобы информация о медиаматериале могла безопасно передаваться вместе с самим контентом. Эта информация включает контекст, который помогает журналистам оценивать источник, платформам — принимать решения о целостности, а людям — понимать, что именно они видят в интернете.

Недавно мы сделали еще один шаг и добились того, что OpenAI стала продуктом-генератором, соответствующим стандарту C2PA⁠(открывается в новом окне). Становясь совместимыми с C2PA, мы даем платформам надежный способ считывать, сохранять и передавать информацию о происхождении, которую мы добавляем к своему контенту. Это важно, потому что информация о происхождении работает только тогда, когда сохраняется за пределами первой платформы, на которой создается контент, а соответствие стандарту делает это возможным.

Метаданные C2PA — важная основа происхождения. Они помогают контенту нести информацию о том, откуда он появился, как был создан или отредактирован и кто подписал эту информацию. Но метаданные не безупречны. Их можно удалить, потерять при загрузке и скачивании или повредить при преобразованиях, таких как смена формата файла, изменение размера или скриншоты.

Чтобы сделать информацию о происхождении более устойчивой, мы применяем многоуровневый подход и внедряем водяные знаки с помощью SynthID от Google DeepMind⁠(открывается в новом окне), начиная с изображений, созданных в ChatGPT⁠, Codex или OpenAI API. SynthID встраивает невидимый слой водяных знаков, дополняющий подходы C2PA на основе метаданных.

Мы шли к этому уже некоторое время. Мы использовали видимые водяные знаки⁠ в Sora и аудио-водяной знак⁠ в Voice Engine, а также продолжали тестировать и исследовать точность и надежность в процессе внедрения.

Эти две системы усиливают друг друга. C2PA помогает контенту нести подробный контекст; SynthID помогает сохранять сигнал, когда метаданные не сохраняются. Водяные знаки могут быть более устойчивыми к преобразованиям, таким как скриншоты, тогда как метаданные могут давать больше информации, чем один только водяной знак. Вместе они делают происхождение более устойчивым, чем любой из этих уровней по отдельности.

Надежные метаданные и водяные знаки, устойчивые к большинству изменений, могут сделать сигналы происхождения более долговечными. Но людям нужен способ обнаруживать эти сигналы. Сейчас мы показываем предварительную версию публичного инструмента проверки⁠, который поможет проверять, было ли загруженное изображение создано в ChatGPT, OpenAI API или Codex, определяя наличие сигналов происхождения, включая Content Credentials и SynthID.

Мы считаем, что людям должно быть проще проверять и интерпретировать информацию о происхождении, и что наш инструмент может помочь им внести вклад в ответ на вопрос: «Было ли это создано с помощью ИИ?» — за счет объединения нескольких сигналов. Этот подход развивает выводы, полученные в 2024 году во время первого исследовательского предварительного доступа к нашему классификатору обнаружения изображений⁠, и позволяет надежно определять, есть ли в медиаматериале водяной знак SynthID от OpenAI, а также показывать метаданные C2PA, если они обнаружены.

Ни один метод обнаружения не является безупречным, поэтому в случаях, когда обнаружение не срабатывает, мы придерживаемся осторожного подхода. Например, если не обнаружены ни метаданные, ни водяной знак, инструмент не будет делать окончательный вывод о том, было ли изображение создано с помощью инструментов OpenAI, поскольку сигналы происхождения в некоторых случаях могут быть удалены.

На момент запуска инструмент ограничен контентом, созданным OpenAI. В ближайшие месяцы мы намерены поддерживать межотраслевые усилия, чтобы сделать проверку возможной на разных платформах. Со временем мы также рассчитываем поддержать больше типов контента, с которыми люди могут сталкиваться в интернете.

Ни один отдельный метод происхождения сам по себе не достаточен. Мы считаем, что сильный подход объединяет общие стандарты, устойчивые сигналы водяных знаков и публичную проверку. Опираясь на нашу давнюю поддержку Content Credentials, соответствие C2PA, внедрение SynthID и предварительную версию публичных инструментов проверки, мы надеемся в долгосрочной перспективе внести вклад в более совместимую экосистему происхождения.