Развитие на произхода на съдържанието за по-безопасна и по-прозрачна AI екосистема

Хората използват инструментите на OpenAI всеки ден, за да създават и редактират изображения и аудио по начини, които правят комуникацията по-изразителна, полезна и достъпна. Тъй като тези инструменти стават част от начина, по който хората създават, въобразяват си и споделят, е важно те да могат да разбират и проверяват откъде идва медията, за да я тълкуват с по-голяма увереност. Сигналите за произход могат да помогнат, като дават на хората контекст откъде идва съдържанието, как е създадено или редактирано и дали е това, за което се представя.

Днес засилваме подхода си към произхода на съдържанието с многопластов, движен от екосистемата модел за изграждане на доверие онлайн. Правим сигналите си за произход по-лесни за разпознаване от други инструменти и платформи чрез съответствие с C2PA, добавяме устойчиво междуплатформено водно маркиране SynthID към изображенията чрез партньорство с Google и споделяме предварителен преглед на инструмент, който обществеността може да използва, за да провери дали изображенията идват от OpenAI.

Заедно тези актуализации надграждат нашата по-ранна работа⁠ в подкрепа на отворени стандарти, за да направят съдържанието, генерирано от OpenAI, по-лесно за разпознаване и да насърчат сътрудничество в цялата индустрия за по-надеждна информационна екосистема.

OpenAI участва в разработването и приемането на стандарти за произход от 2024 г., когато започнахме да добавяме Content Credentials към изображения, генерирани от DALL·E 3⁠(отваря се в нов прозорец), а по-късно и към ImageGen⁠(отваря се в нов прозорец) и Sora⁠(отваря се в нов прозорец). Също така се присъединихме към Управителния комитет на Coalition for Content Provenance and Authenticity (C2PA), междуиндустриалната група зад отворения технически стандарт за произход на съдържанието. Техническият подход на C2PA използва метаданни и криптографски подписи, за да помогне информацията за даден медиен файл да пътува сигурно заедно със самото съдържание. Тази информация включва контекст, който помага на журналисти, оценяващи източник, на платформи, вземащи решения за интегритет, и на хора, които се опитват да разберат какво виждат онлайн.

Наскоро предприехме стъпката да направим OpenAI продукт за генериране на съдържание, съответстващ на C2PA⁠(отваря се в нов прозорец). Като постигаме съответствие с C2PA, даваме на платформите надежден начин да четат, запазват и предават нататък информацията за произход, която прикачваме към нашето съдържание. Това е важно, защото произходът работи само ако се запази отвъд първата платформа, на която е създадено съдържанието, а съответствието прави това възможно.

Метаданните на C2PA са важна основа за произхода. Те помагат съдържанието да носи информация откъде идва, как е създадено или редактирано и кой е подписал тази информация. Но метаданните не са безпогрешни. Те могат да бъдат премахнати, изгубени при качване и изтегляне или нарушени от преобразувания като промени във файловия формат, преоразмеряване или екранни снимки.

За да направим произхода по-устойчив, прилагаме многопластов подход и включваме воден знак чрез SynthID на Google DeepMind⁠(отваря се в нов прозорец), като започваме с изображения, генерирани чрез ChatGPT⁠, Codex или OpenAI API. SynthID вгражда невидим слой с воден знак, който допълва подходите на C2PA, базирани на метаданни.

От известно време работим в тази посока. Използвали сме видими водни знаци⁠ в Sora и аудио воден знак⁠ във Voice Engine и продължихме да тестваме и изследваме точността и надеждността с течение на времето. чрез внедряване.

Тези две системи се подсилват взаимно. C2PA помага съдържанието да носи подробен контекст; SynthID помага да се запази сигнал, когато метаданните не оцелеят. Водното маркиране може да е по-устойчиво при преобразувания като екранни снимки, докато метаданните могат да предоставят повече информация, отколкото само един воден знак. Заедно те правят произхода по-устойчив, отколкото който и да е от двата слоя сам по себе си.

Надеждните метаданни и водни знаци, които устояват на повечето промени, могат да направят сигналите за произход по-трайни. Но хората се нуждаят от начин да откриват тези сигнали. Сега показваме предварително публичен инструмент за проверка⁠, който ще помага на хората да проверяват дали качено изображение е генерирано в ChatGPT, OpenAI API или Codex, като проверява дали съдържа сигнали за произход, включително Content Credentials и SynthID.

Смятаме, че произходът трябва да е по-лесен за проверка и тълкуване от хората и че нашият инструмент може да им помогне да участват в отговора на въпроса „Това генерирано ли е с изкуствен интелект?“ чрез интегриране на множество сигнали. Инструментът стъпва върху наученото от първоначалния изследователски преглед на нашия класификатор за откриване на изображения⁠ през 2024 г. и позволява на хората надеждно да откриват дали в медията присъства воден знак SynthID с произход от OpenAI, както и да се показват метаданни C2PA, когато бъдат намерени.

Нито един метод за откриване не е безпогрешен, затова подхождаме предпазливо в случаите, когато откриването е неуспешно. Ако например не бъдат открити метаданни или воден знак, инструментът няма да прави окончателно заключение дали изображението е генерирано с инструментите на OpenAI, тъй като в някои случаи сигналите за произход могат да бъдат премахнати.

При пускането инструментът е ограничен до съдържание, генерирано от OpenAI. През следващите месеци целим да подкрепим междуиндустриални усилия, за да направим проверката възможна на различни платформи. С течение на времето очакваме също да поддържаме повече видове съдържание, с които хората могат да се сблъскат онлайн.

Нито една техника за произход не е достатъчна сама по себе си. Смятаме, че силният подход съчетава споделени стандарти, устойчиви сигнали за водно маркиране и публична проверка. Като надграждаме дългогодишната си подкрепа за Content Credentials, постигаме съответствие с C2PA, приемаме SynthID и показваме предварително публични инструменти за проверка, се надяваме в дългосрочен план да допринесем за по-оперативно съвместима екосистема за произход.