Styrket indholdsproveniens for et sikrere og mere transparent AI-økosystem

Folk bruger OpenAIs værktøjer hver dag til at skabe og redigere billeder og lyd på måder, der gør kommunikation mere udtryksfuld, nyttig og tilgængelig. Efterhånden som disse værktøjer bliver en del af, hvordan folk skaber, forestiller sig og deler, er det vigtigt, at folk kan forstå og verificere, hvor mediet kommer fra, så de kan fortolke det med større sikkerhed. Provenienssignaler kan hjælpe ved at give folk kontekst om, hvor indhold kommer fra, hvordan det blev skabt eller redigeret, og om det er det, det udgiver sig for at være.

I dag styrker vi vores tilgang til indholdsproveniens med en flerlagsmodel drevet af økosystemet for at opbygge tillid online. Vi gør vores provenienssignaler lettere for andre værktøjer og platforme at genkende gennem C2PA-overensstemmelse, tilføjer holdbar SynthID-vandmærkning på tværs af platforme til billeder gennem et partnerskab med Google og deler en forhåndsvisning af et værktøj, som offentligheden kan bruge til at verificere, om billeder kommer fra OpenAI.

Sammen bygger disse opdateringer videre på vores tidligere arbejde⁠ for at understøtte åbne standarder, gøre OpenAI-genereret indhold lettere at identificere og samarbejde på tværs af branchen om at understøtte et mere troværdigt informationsøkosystem.

OpenAI har været engageret i udviklingen og udbredelsen af proveniensstandarder siden 2024, hvor vi begyndte at tilføje Content Credentials til billeder genereret af DALL·E 3⁠(åbner i et nyt vindue) og senere til ImageGen⁠(åbner i et nyt vindue) og Sora⁠(åbner i et nyt vindue). Vi blev også medlem af styrekomitéen for Coalition for Content Provenance and Authenticity (C2PA), den tværindustrielle gruppe bag den åbne tekniske standard for indholdsproveniens. C2PA’s tekniske tilgang bruger metadata og kryptografiske signaturer til at hjælpe information om et medie med at følge sikkert med selve indholdet. Disse oplysninger omfatter kontekst, der hjælper journalister med at vurdere en kilde, platforme med at træffe integritetsbeslutninger og folk med at forstå, hvad de ser online.

Vi tog for nylig skridtet og gjorde OpenAI til et C2PA Conforming Generator Product⁠(åbner i et nyt vindue). Ved at blive C2PA-kompatible giver vi platforme en pålidelig måde at læse, bevare og videregive de proveniensoplysninger, vi knytter til vores indhold. Det er vigtigt, fordi proveniens kun virker, hvis den overlever ud over den første platform, hvor indhold skabes, og overensstemmelse gør det muligt.

C2PA-metadata er et vigtigt fundament for proveniens. Det hjælper indhold med at bære oplysninger om, hvor det kommer fra, hvordan det blev skabt eller redigeret, og hvem der signerede disse oplysninger. Men metadata er ikke idiotsikre. De kan blive fjernet, gå tabt ved uploads og downloads eller blive ødelagt af ændringer som filformatsskift, størrelsesændring eller skærmbilleder.

For at gøre proveniens mere robust anvender vi en flerlags tilgang og indarbejder vandmærkning gennem Google DeepMind’s SynthID⁠(åbner i et nyt vindue), begyndende med billeder genereret via ChatGPT⁠, Codex eller OpenAI API. SynthID indlejrer et usynligt vandmærkningslag, der supplerer C2PA-baserede metadata-tilgange.

Vi har arbejdet hen imod dette i nogen tid. Vi har brugt synlige vandmærker⁠ i Sora og et lydvandmærke⁠ i Voice Engine og har fortsat med at teste og undersøge nøjagtighed og pålidelighed over tid. gennem implementering.

Disse to systemer styrker hinanden. C2PA hjælper indhold med at bære detaljeret kontekst; SynthID hjælper med at bevare et signal, når metadata ikke overlever. Vandmærkning kan være mere holdbar gennem ændringer som skærmbilleder, mens metadata kan give mere information end et vandmærke alene. Sammen gør de proveniens mere robust, end hvert lag ville være alene.

Pålidelige metadata og vandmærker, der modstår de fleste ændringer, kan gøre provenienssignaler mere holdbare. Men folk har brug for en måde at opdage disse signaler på. Vi viser nu en forhåndsvisning af et offentligt verificeringsværktøj⁠, der vil hjælpe folk med at verificere, om et uploadet billede blev genereret i ChatGPT, OpenAI API eller Codex, ved at kontrollere, om det indeholder provenienssignaler, herunder Content Credentials og SynthID.

Vi mener, at proveniens bør være lettere for folk at verificere og fortolke, og at vores værktøj kan hjælpe folk med at spille en rolle i at besvare spørgsmålet: "Blev dette genereret med AI?" ved at integrere flere signaler. Dette bygger på erfaringer fra den første forskningsforhåndsvisning af vores billeddetektionsklassifikator⁠ i 2024 og gør det muligt for folk pålideligt at opdage, om et SynthID-vandmærke med oprindelse i OpenAI er til stede i mediet, samt at vise C2PA-metadata, når de findes.

Ingen detektionsmetode er idiotsikker, så vi anlægger en forsigtig tilgang i tilfælde, hvor detektion mislykkes. Hvis der for eksempel ikke registreres metadata eller vandmærke, vil værktøjet ikke drage en endelig konklusion om, hvorvidt billedet blev genereret med OpenAI-værktøjer, da provenienssignaler i nogle tilfælde kan være blevet fjernet.

Ved lanceringen er værktøjet begrænset til indhold genereret af OpenAI. I de kommende måneder sigter vi mod at understøtte tværindustrielle indsatser for at gøre verificering mulig på tværs af platforme. Over tid forventer vi også at understøtte flere typer indhold, som folk kan møde online.

Ingen enkelt proveniensteknik er tilstrækkelig alene. Vi mener, at en stærk tilgang kombinerer fælles standarder, holdbare vandmærkningssignaler og offentlig verificering. Ved at bygge videre på vores langvarige støtte til Content Credentials, blive kompatible med C2PA, tage SynthID i brug og vise en forhåndsvisning af offentlige verificeringsværktøjer håber vi på lang sigt at bidrage til et mere interoperabelt proveniensøkosystem.