Vores tilgang til EU's regler om teksters oprindelse

Dokumentation af indholds oprindelse hjælper folk med at forstå, hvor indhold kommer fra, hvordan det er skabt eller redigeret, og om det indeholder signaler knyttet til vores modeller. Vi har allerede gjort værktøjer offentligt tilgængelige til at identificere billeder og lyd genereret af vores modeller. I dag deler vi vores tilgang til vandmærkning af tekst som følge af EU's AI-forordning, og hvordan den indgår i vores bredere arbejde.

EU's AI-forordning kræver, at udbydere af generativ AI gør genereret tekst identificerbar på en maskinlæsbar måde. Vandmærkning og detektion af tekst er stadig umodne teknologier med betydelige begrænsninger, og synet på deres fordele og ansvarlige anvendelser er fortsat under udvikling. Vores trinvise tilgang afspejler både kravene i EU's AI-forordning og teknologiens begrænsninger. Vi lægger vægt på at være åbne om, hvad et tekstvandmærke kan og ikke kan fortælle folk:

• Fra i dag kan API-kunder i hele verden tilvælge vandmærkning af tekst for udvalgte modeller. Vandmærkning af tekst vil fortsat være slået fra som standard i API'et.

• I de kommende uger tilføjer vi et usynligt vandmærke til tekstoutput fra ChatGPT og Codex i EU, hvor det er muligt.

• Vi åbner for ansøgninger om adgang til vores detektor for tekstvandmærker. Adgangen vil i første omgang være begrænset til godkendte forskere og ekspertorganisationer, som kan hjælpe os med at evaluere og forbedre teknologien.

  • Ovenstående gælder kun dokumentation af teksters oprindelse. Vores verificeringsværktøjer til lyd og billeder, herunder webværktøjet openai.com/verify⁠ og vores Content Provenance API⁠(åbner i et nyt vindue), vil fortsat være offentligt tilgængelige for organisationer, som vil undersøge, om et billede eller en lydfil er genereret af et af vores systemer.

Vores teknologi til vandmærkning af tekst, textGrain, føjer et usynligt statistisk signal til modellens ordvalg. Vores detektor leder efter dette signal for at vurdere, om et tekststykke indeholder et OpenAI-vandmærke. Du kan læse mere om, hvordan textGrain fungerer, i vores tekniske rapport⁠(åbner i et nyt vindue), som bliver opdateret med flere detaljer i de kommende uger. Vi planlægger også at gøre teknologien tilgængelig som open source, så andre kan bygge videre på den.

I vores evalueringer klarede textGrain sig lige så godt som eller bedre end de andre metoder, vi testede, herunder SynthID til tekst. Gode resultater under ideelle forhold garanterer dog ikke pålidelig detektion i daglig brug.

Detektorer kan begå to slags fejl: De kan registrere et vandmærke, hvor der ikke er noget – et falsk positivt resultat – eller overse et vandmærke, som er til stede – et falsk negativt resultat. Vores evalueringer nedenfor illustrerer nogle af udfordringerne:

• Vandmærker er sværere at detektere i kortere tekst eller tekst med mere begrænset ordvalg. Med en målsat falsk positiv-rate på 1 % identificerede vores detektor vandmærker i cirka 80 % af tekststykker på 200 token mod cirka 95 % af tekststykker på 400 token for indhold om emner som psykologi. Detektionsraterne var væsentligt lavere for indhold om emner som matematik, hvor der er mindre frihed i ordvalget.

• Redigering kan svække vandmærket. I en evaluering af tekststykker på 400 token faldt detektionsraten fra cirka 92 % til 66 %, når 10 % af ordene blev erstattet med synonymer. Når 25 % af ordene blev erstattet, faldt den til 17 %.

Disse begrænsninger er en del af grundlaget for vores beslutning om i første omgang kun at give adgang til detektoren til godkendte forskere og ekspertorganisationer, som kan hjælpe os med at evaluere pålideligheden og ansvarlige anvendelser.

På tværs af de benchmarks, vi bruger til at vurdere Astra, vores nyeste banebrydende model, ser vi ingen væsentlige forskelle i ydeevnen med og uden vandmærkning.

Tekstvandmærker giver begrænset information om, hvilken rolle vores systemer har spillet i et tekststykke. Det er vigtigt at forstå, hvad man kan og ikke kan konkludere ud fra et detektionsresultat.

• Et vandmærke måler ikke det menneskelige bidrag. Det kan indikere, at et OpenAI-system har genereret eller bearbejdet en del af et tekststykke, men ikke hvor meget menneskelig dømmekraft, redigering eller kreativitet der ligger bag.

• Et vandmærke fastslår ikke ejerskab eller ansvar. Det afgør ikke, hvem der ejer teksten, om brugen af den var lovlig, om der var krav om at oplyse om AI-brug, eller hvem der er ansvarlig for den.

• Et vandmærke identificerer ikke brugeren. Det knytter ikke en person, organisation, konto, prompt eller samtale til teksten.

• Et vandmærke bekræfter ikke, at indholdet er korrekt. Det fortæller dig ikke, om et tekststykke er sandt, vildledende, skadeligt eller præsenteret i den rette sammenhæng.

• At der ikke detekteres et vandmærke, beviser ikke, at teksten er skrevet af et menneske. Tekst genereret med OpenAI-værktøjer kan være for kort, redigeret eller oversat til, at detektionen fungerer pålideligt. Den kan også stamme fra en model, der ikke understøttes, være fra før indførelsen af vandmærkning eller være genereret med en anden virksomheds værktøjer.

• Udrulning af vandmærkning af tekst i EU. I de kommende uger indfører vi vandmærkning af tekst for de ChatGPT- og Codex-brugere, der er omfattet, på tværs af alle abonnementer, men kun i EU. Vi gør ikke vandmærkning af tekst til en global standard ved lanceringen. Denne regionale tilgang giver os mulighed for at lære af brugen i praksis og af feedback.

• Mulighed for API-kunder for at tilvælge vandmærkning. Fra i dag kan API-kunder verden over tilvælge vandmærkede tekstoutput for udvalgte modeller. Det giver kunderne mulighed for at afgøre, hvordan vandmærkning passer til deres forpligtelser om gennemsigtighed og de oplevelser, de tilbyder brugerne. Vi samarbejder også med cloudpartnere om i de kommende uger at gøre vandmærkning tilgængelig for output fra OpenAI-modeller, som tilgås via deres tjenester.

• Adgang til detektoren for forskere og ekspertorganisationer. Godkendte forskere og ekspertorganisationer kan ansøge fra i dag. I overensstemmelse med adfærdskodeksen⁠(åbner i et nyt vindue) gives der i første omgang adgang efter en individuel vurdering for at understøtte evaluering og forbedring af dokumentationen af teksters oprindelse. Værktøjet vil oplyse, om det detekterer et OpenAI-vandmærke, uden at identificere brugeren eller afsløre vedkommendes prompts eller samtaler. På grund af risikoen for oversete vandmærker og falske positive resultater gør vi det ikke offentligt tilgængeligt ved lanceringen.

Vi forventer at revurdere alle dele af denne tilgang, efterhånden som teknologien, standarderne og vidensgrundlaget udvikler sig.

Ingen enkelt teknik til dokumentation af oprindelse er tilstrækkelig i sig selv. Derfor bruger vi en tilgang med flere lag, som kombinerer åbne standarder, robust vandmærkning og verificeringsværktøjer.

Vi føjer Content Credentials til understøttede billedoutput, overholder C2PA-standarden⁠(åbner i et nyt vindue), indlejrer usynlige SynthID⁠(åbner i et nyt vindue)-vandmærker i understøttede billeder og lyd og giver adgang til verificering af billeder og lyd via openai.com/verify⁠ og vores Content Provenance API⁠(åbner i et nyt vindue). Disse teknikker supplerer hinanden: Content Credentials kan registrere en fils oprindelse og historik, mens usynlige vandmærker kan bevare et signal, når metadata fjernes.

Som vi beskrev i vores arbejde med at beskytte valg, kan dokumentation af oprindelse hjælpe folk og platforme med at vurdere potentielt vildledende AI-genereret indhold, herunder deepfakes. Vi kombinerer disse signaler med politikker, detektion af misbrug, indberetninger, undersøgelser og håndhævelse. Samtidig samarbejder vi med forskere, standardiseringsorganer, platforme og civilsamfundet om at gøre dokumentation af oprindelse nyttig i hele økosystemet.

Når dokumentation af oprindelse udvides til også at omfatte tekst, skal der tages højde for, hvor let tekst kan omskrives, oversættes eller redigeres. Som vi beskrev i juni, skal vores tilgang afspejle de praktiske begrænsninger i den nuværende teknologi. Vi vil fortsat forbedre detektionen, undersøge, hvor godt vandmærker modstår redigering og oversættelse, og udforske mere meningsfulde måder at skelne mellem AI som hjælpemiddel og AI som forfatter. Vi vil tilpasse vores tilgang, efterhånden som vidensgrundlaget, standarderne og de lovgivningsmæssige krav udvikler sig, og udvide adgangen til detektoren, når vi vurderer, at resultaterne kan fortolkes ansvarligt.

Du kan finde flere oplysninger i vores artikel i hjælpecentret⁠(åbner i et nyt vindue).