Støtte til Europas arbejde for et troværdigt AI-økosystem

Folk bruger AI til at skabe og redigere indhold på nye måder. Efterhånden som disse værktøjer bliver mere effektive og udbredte, bør folk have kontekst om det indhold, de ser online.

I dag, efter Europa-Kommissionens offentliggørelse af adfærdskodekset om gennemsigtighed for AI-genereret indhold, meddeler OpenAI sin støtte til kodekset og ambitionen bag det. Kodekset er et vigtigt skridt i gennemførelsen af EU's AI-forordning og opbygningen af et mere gennemsigtigt digitalt økosystem.

Støtten bygger på flere års intern forskning, produktudvikling og samarbejde med det bredere økosystem for at styrke oprindelsessporing for AI-genereret indhold. OpenAI har udviklet og taget oprindelsesstandarder i brug siden 2024, hvor vi begyndte at føje C2PA-metadata til vores DALL-E 3-værktøj til billedgenerering. Siden da har vi styrket oprindelsessporing med bedre mærkning og detektion, ny forskning samt udgivelsen af vores første offentlige verifikationsværktøj. Med afsæt i flere års ekspertise bidrog vi sammen med hundredvis af interessenter til udviklingen af dette kodeks for at fremme et troværdigt AI-økosystem.  

Det bygger på vores bredere tilgang til AI-governance i Europa. I 2025 blev OpenAI den første amerikanske virksomhed til at underskrive EU's adfærdskodeks for AI til generelle formål, fordi klare, brugbare regler kan hjælpe AI med at udvikle sig ansvarligt og give virksomheder sikkerhed til at bygge videre. Vi støtter dette nye kodeks i samme ånd. At fremme gennemsigtighed for AI-genereret indhold kræver en indsats i hele økosystemet og bidrag fra aktører i hele værdikæden. EU's AI-forordning og kodekset anerkender dette, og vi vil gøre vores del ved at overholde de krav, der gælder for vores relevante produkter.  

Når AI-værktøjer bliver en del af måden, folk bygger, forestiller sig og deler på, er det vigtigt, at de kan forstå, hvor indhold kommer fra, og fortolke det trygt. Oprindelsessignaler kan hjælpe ved at give kontekst om indholdets kilde, hvordan det er skabt eller redigeret, og om det er, hvad det udgiver sig for. Oprindelsessporing kan også beskytte det digitale økosystem ved at gøre det lettere at opdage desinformationskampagner og støtte valgintegritet.  

Effektive, pålidelige og robuste metoder til oprindelsessporing bør bygges i fællesskab og fungere på tværs af økosystemet. Derfor arbejder vi med koalitioner som C2PA, der samler nyhedsorganisationer, enhedsproducenter, onlineplatforme og AI-udbydere om interoperable standarder. C2PA-metadata er et vigtigt grundlag for oprindelsessporing. Det hjælper indhold med at bære oplysninger om, hvor det kommer fra, hvordan det blev skabt eller redigeret, og hvem der signerede oplysningerne. Men metadata er ikke idiotsikre. De kan fjernes, gå tabt ved uploads og downloads eller brydes af ændringer som filformatskift, skalering eller skærmbilleder. For at gøre oprindelsessporing mere robust bruger vi en flerlaget tilgang med flere signaler og produktsikringer på tværs af vores værktøjer. 

I de seneste år har vi opbygget en flerlaget, økosystemdrevet model for at skabe online tillid gennem vores tilgang til indholdsoprindelse. Vores aktuelle arbejde omfatter:

• C2PA Content Credentials⁠(åbner i et nyt vindue) for billeder: Vi begyndte at føje C2PA-metadata til billeder skabt og redigeret af DALL·E 3 i ChatGPT og OpenAI API og har udvidet oprindelsessignaler på tværs af OpenAI-genererede billeder.
• Flere signaler for OpenAI-genererede billeder: Billeder genereret med ChatGPT, Codex og OpenAI API omfatter både C2PA-metadata og SynthID-vandmærker. Metadata kan bære rigere oplysninger, mens vandmærkning kan hjælpe med at bevare et signal på tværs af kontekster.
• En offentlig verifikationsoplevelse: openai.com/verify lader folk kontrollere, om understøttede billeder indeholder oprindelsessignaler knyttet til OpenAI-genererede billeder.
• Bidrag til åbne standarder. I 2024 blev OpenAI medlem af C2PA Steering Committee, en tværindustriel indsats med softwarevirksomheder, kameraproducenter, medieorganisationer og onlineplatforme.
• Produktsikringer: Oprindelsessporing supplerer politikker, klassifikatorer, rapporteringskanaler og håndhævelse, der mindsker vildledende brug af AI-genereret indhold, bl.a. misbrug af lighed og valgvildledning.

Oprindelsessporing er nyttig, men feltet er stadig ungt. Signaler kan gå tabt, når indhold bevæger sig online: metadata kan fjernes, vandmærker kan forringes, og mærkater hjælper kun, hvor folk møder indholdet. At fremme pålidelighed, robusthed og interoperabilitet i oprindelsesteknikker kræver stadig betydeligt arbejde og samarbejde i økosystemet.

Adfærdskodekset sætter den rette retning: et højt ambitionsniveau for at fremme oprindelsesteknikker. Når det gennemføres, bør det bygge på metoder, der virker i praksis, og være fleksibelt nok til at afspejle nuværende teknikkers begrænsninger.

OpenAI vil fortsat styrke indholdsgennemsigtighed på tværs af vores produkter, bidrage til interoperable standarder og forbedre verifikationsværktøjer. Vi ser frem til at arbejde med AI Office, medlemsstaterne og det bredere AI-fællesskab om et sikrere og mere gennemsigtigt AI-økosystem.