Vyvíjíme systém ověřování původu obsahu pro bezpečnější a transparentnější ekosystém AI

Lidé každý den používají nástroje OpenAI k vytváření a úpravám obrázků a zvuku způsoby, které činí komunikaci výraznější, užitečnější a přístupnější. Jak se tyto nástroje stávají součástí lidské tvorby, imaginace a sdílení, je důležité, aby bylo srozumitelné a ověřitelné, odkud médium pocházejí, a lidé ho mohli interpretovat s větší jistotou. Signály původu mohou pomoci tím, že poskytnou kontext o tom, odkud obsah pochází, jak byl vytvořen nebo upraven a zda je tím, za co se vydává.

Dnes posilujeme náš přístup ke garanci původu obsahu pomocí vícevrstvého modelu budování důvěry online založeného na ekosystému. Usnadňujeme rozpoznávání našich signálů původu jinými nástroji a platformami prostřednictvím souladu s C2PA, přidáváme do obrázků odolné vodoznaky SynthID napříč platformami díky partnerství se společností Google a sdílíme ukázku nástroje, který může veřejnost použít k ověření, zda obrázky pocházejí od OpenAI.

Tyto aktualizace společně navazují na naši dřívější práci⁠ na podpoře otevřených standardů, usnadnění identifikace obsahu vytvořeného OpenAI a spolupráci napříč odvětvím na podpoře důvěryhodnějšího informačního ekosystému.

OpenAI se podílí na vývoji a zavádění standardů původu od roku 2024, kdy jsme začali přidávat Content Credentials do obrázků generovaných pomocí DALL·E 3⁠(otevře se v novém okně) a později také do ImageGen⁠(otevře se v novém okně) a Sory⁠(otevře se v novém okně). Také jsme se připojili k řídicímu výboru Coalition for Content Provenance and Authenticity (C2PA), mezioborové skupiny stojící za otevřeným technickým standardem pro původ obsahu. Technický přístup C2PA využívá metadata a kryptografické podpisy, aby informace o konkrétním mediálním obsahu mohly bezpečně putovat spolu se samotným obsahem. Tyto informace zahrnují kontext, který pomáhá novinářům při hodnocení zdroje, platformám při rozhodování o integritě a lidem, kteří se snaží porozumět tomu, co online vidí.

Nedávno jsme učinili krok k tomu, aby se OpenAI stalo generátorovým produktem v souladu s C2PA⁠(otevře se v novém okně). Tím, že jsme dosáhli souladu s C2PA, dáváme platformám důvěryhodný způsob, jak číst, zachovávat a předávat informace o původu, které do našeho obsahu připojujeme. Je to důležité, protože původ funguje jen tehdy, pokud přetrvá i za hranicemi první platformy, kde je obsah vytvořen, a soulad to umožňuje.

Metadata C2PA jsou důležitým základem pro původ. Pomáhají obsahu nést informace o tom, odkud pochází, jak byl vytvořen nebo upraven a kdo tyto informace podepsal. Metadata ale nejsou bezchybná. Mohou být odstraněna, ztracena při nahrávání a stahování nebo narušena úpravami, jako jsou změny formátu souboru, změna velikosti nebo snímky obrazovky.

Aby byl původ odolnější, volíme vícevrstvý přístup a začleňujeme vodoznaky prostřednictvím SynthID od Google DeepMind⁠(otevře se v novém okně), počínaje obrázky generovanými prostřednictvím ChatGPT⁠, Codexu nebo rozhraní OpenAI API. SynthID vkládá neviditelnou vrstvu vodoznaku, která doplňuje přístupy založené na metadatech C2PA.

K tomu jsme směřovali už nějakou dobu. V Soře jsme používali viditelné vodoznaky⁠ a ve Voice Engine zvukový vodoznak⁠ a průběžně jsme pokračovali v testování a výzkumu přesnosti a spolehlivosti. v průběhu nasazování.

Tyto dva systémy se vzájemně posilují. C2PA pomáhá obsahu nést podrobný kontext; SynthID pomáhá zachovat signál, když metadata nepřežijí. Vodoznaky mohou být odolnější vůči úpravám, jako jsou snímky obrazovky, zatímco metadata mohou poskytnout více informací než samotný vodoznak. Společně činí původ odolnějším, než by byla každá z těchto vrstev samostatně.

Důvěryhodná metadata a vodoznaky, které odolají většině úprav, mohou učinit signály původu trvalejšími. Lidé ale potřebují způsob, jak tyto signály detekovat. Nyní představujeme ukázku veřejného ověřovacího nástroje⁠, který lidem pomůže ověřit, zda byl nahraný obrázek vygenerován v ChatGPT, OpenAI API nebo Codexu, kontrolou, zda obsahuje signály původu včetně Content Credentials a SynthID.

Věříme, že by pro lidi mělo být snazší původ ověřit a interpretovat a že náš nástroj jim může díky kombinaci více signálů pomoci sehrát roli při zodpovězení otázky: „Bylo to vygenerováno pomocí AI?“ To navazuje na poznatky z úvodní výzkumné ukázky našeho klasifikátoru pro detekci obrázků⁠ v roce 2024 a umožňuje lidem spolehlivě zjistit, zda je v médiu přítomen vodoznak SynthID pocházející od OpenAI, a také zobrazit metadata C2PA, pokud jsou nalezena.

Žádná metoda detekce není neomylná, proto v případech, kdy detekce selže, postupujeme obezřetně. Pokud například není detekováno žádné metadata ani vodoznak, nástroj nevyvodí jednoznačný závěr o tom, zda byl obrázek vygenerován pomocí nástrojů OpenAI, protože signály původu mohou být v některých případech odstraněny.

Při spuštění je nástroj omezen na obsah vygenerovaný OpenAI. V nadcházejících měsících chceme podpořit snahu celého sektoru, aby bylo možné ověřování napříč platformami. Postupem času také očekáváme podporu více typů obsahu, se kterými se lidé mohou online setkat.

Žádná jednotlivá technika původu sama o sobě nestačí. Věříme, že silný přístup kombinuje sdílené standardy, odolné signály vodoznaků a veřejné ověřování. Tím, že navazujeme na naši dlouhodobou podporu Content Credentials, dosahujeme souladu s C2PA, zavádíme SynthID a představujeme ukázku veřejných ověřovacích nástrojů, doufáme, že dlouhodobě přispějeme k interoperabilnějšímu ekosystému původu.