Herkomstinformatie van content versterken voor een veiliger, transparanter AI-ecosysteem

Mensen gebruiken de tools van OpenAI elke dag om beelden en audio te maken en te bewerken op manieren die communicatie expressiever, nuttiger en toegankelijker maken. Nu deze tools deel gaan uitmaken van hoe mensen bouwen, verbeelden en delen, is het belangrijk dat mensen kunnen begrijpen en verifiëren waar media vandaan komt, zodat ze die met meer vertrouwen kunnen interpreteren. Herkomstinformatie kan hierbij nuttig zijn, door mensen context te geven over waar content vandaan komt, hoe die is gemaakt of bewerkt, en of die is wat die beweert te zijn.

Vandaag versterken we onze aanpak rond herkomstinformatie van content met een gelaagd model dat door het ecosysteem wordt gedragen en helpt online vertrouwen op te bouwen. We maken onze herkomstinformatie makkelijker herkenbaar voor andere tools en platforms via C2PA-conformiteit, voegen via een samenwerking met Google duurzame, platformoverstijgende SynthID-watermerken toe aan beelden en delen een preview van een tool waarmee het publiek kan verifiëren of beelden van OpenAI komen.

Samen bouwen deze updates voort op ons eerdere werk⁠ om open standaarden te ondersteunen, door OpenAI gegenereerde content makkelijker herkenbaar te maken en in de hele sector samen te werken aan een betrouwbaarder informatie-ecosysteem.

OpenAI is sinds 2024 betrokken bij de ontwikkeling en invoering van standaarden voor herkomstsinformatie, toen we Content Credentials begonnen toe te voegen aan beelden die zijn gegenereerd door DALL·E 3⁠(opent in een nieuw venster) en later ook aan ImageGen⁠(opent in een nieuw venster) en Sora⁠(opent in een nieuw venster). We zijn ook toegetreden tot de Steering Committee van de Coalition for Content Provenance and Authenticity (C2PA), de sectoroverstijgende groep achter de open technische standaard voor herkomstinformatie voor content. De technische aanpak van C2PA gebruikt metadata en cryptografische handtekeningen om informatie over een mediabestand veilig aan de content zelf te koppelen. Deze informatie bevat context die journalisten helpt bij het beoordelen van een bron, platforms bij het nemen van integriteitsbeslissingen en mensen die proberen te begrijpen wat ze online zien.

Onlangs hebben we de stap gezet om OpenAI een C2PA Conforming Generator Product⁠(opent in een nieuw venster) te maken. Door C2PA-conform te worden, geven we platforms een betrouwbare manier om de herkomstinformatie die we aan onze content koppelen te lezen, te bewaren en door te geven. Dit is belangrijk omdat herkomstinformatie alleen werkt als die verder reikt dan het eerste platform waarop content wordt gemaakt, en conformiteit maakt dat mogelijk.

C2PA-metadata vormt een belangrijke basis voor herkomstinformatie. Die helpt content informatie mee te geven over waar die vandaan komt, hoe die is gemaakt of bewerkt, en wie die informatie heeft ondertekend. Maar metadata is niet waterdicht. Die kan worden verwijderd, verloren gaan bij uploads en downloads, of beschadigd raken door bewerkingen zoals wijzigingen in bestandsindeling, formaatwijzigingen of screenshots.

Om herkomstinformatie robuuster te maken, kiezen we voor een gelaagde aanpak en voegen we watermerken toe via SynthID van Google DeepMind⁠(opent in een nieuw venster), te beginnen met beelden die zijn gegenereerd via ChatGPT⁠, Codex of de OpenAI API. SynthID voegt een onzichtbare watermerklaag toe die C2PA-aanpakken op basis van metadata aanvult.

We werken hier al enige tijd naartoe. We hebben zichtbare watermerken⁠ gebruikt in Sora en een audiowatermerk⁠ in Voice Engine, en zijn in de loop van de tijd nauwkeurigheid en betrouwbaarheid blijven testen en onderzoeken. via uitrol.

Deze twee systemen versterken elkaar. C2PA helpt content gedetailleerde context mee te dragen; SynthID helpt een signaal te behouden wanneer metadata niet behouden blijft. Watermerken kunnen duurzamer zijn bij bewerkingen zoals screenshots, terwijl metadata meer informatie kan bieden dan een watermerk alleen. Samen maken ze herkomstinformatie robuuster dan elk van beide lagen afzonderlijk zou doen.

Vertrouwde metadata en watermerken die de meeste wijzigingen weerstaan, kunnen herkomstsignalen duurzamer maken. Maar mensen hebben een manier nodig om deze signalen te detecteren. We tonen nu een preview van een openbare verificatietool⁠ die mensen zal helpen verifiëren of een geüploade afbeelding is gegenereerd in ChatGPT, de OpenAI API of Codex, door te controleren of die herkomstsignalen bevat, waaronder Content Credentials en SynthID.

Wij vinden dat herkomst voor mensen makkelijker te verifiëren en te interpreteren moet zijn, en dat onze tool mensen kan helpen een rol te spelen bij het beantwoorden van de vraag: "Is dit met AI gegenereerd?" door meerdere signalen te integreren. Dit bouwt voort op inzichten uit de eerste onderzoekspreview van onze beeldclassifier⁠ in 2024 en maakt het mogelijk om betrouwbaar vast te stellen of media een van OpenAI afkomstig SynthID-watermerk bevat, en om C2PA-metadata weer te geven wanneer die wordt gevonden.

Geen enkele detectiemethode is waterdicht, dus we kiezen voor een voorzichtige aanpak in gevallen waarin detectie faalt. Als er bijvoorbeeld geen metadata of watermerk wordt gedetecteerd, zal de tool geen definitieve conclusie trekken over de vraag of de afbeelding is gegenereerd met tools van OpenAI, omdat herkomstsignalen in sommige gevallen kunnen worden verwijderd.

Bij de lancering is de tool beperkt tot content die door OpenAI is gegenereerd. In de komende maanden willen we sectorbrede inspanningen ondersteunen om verificatie over platforms heen mogelijk te maken. Na verloop van tijd verwachten we ook meer soorten content te ondersteunen die mensen online kunnen tegenkomen.

Geen enkele techniek voor herkomstinformatie is op zichzelf voldoende. Wij geloven dat een sterke aanpak gedeelde standaarden, duurzame watermerksignalen en openbare verificatie combineert. Door voort te bouwen op onze langdurige steun voor Content Credentials, C2PA-conform te worden, SynthID te adopteren en openbare verificatietools te previewen, hopen we op de lange termijn bij te dragen aan een interoperabeler ecosysteem voor herkomstinformatie.