Forskningsforhåndsvisning

Verifiser OpenAI-genererte bilder

Last opp et bilde for å se etter tegn på at det ble generert med OpenAI-verktøy.

Last opp et bildeDra og slipp eller klikk for å laste opp et bilde her.Støttede formater: PNG, JPG, WEBP

Ved å laste opp en fil godtar du våre vilkår og bekrefter at du har lest vår personvernerklæring.

Hva gjør dette verktøyet?

Dette verktøyet sjekker om et opplastet bilde inneholder opprinnelsestegn knyttet til bilder generert av OpenAI-verktøy. Det ser etter støttede tegn, inkludert C2PA-metadata og SynthID-vannmerker, og oppgir om ett av dem blir oppdaget.

Hvilke bilder kan det oppdage?

Verktøyet er laget for å oppdage bilder generert med ChatGPT, OpenAI API eller Codex. Et annet bilde kan lastes opp, men OpenAI-genereringsstegn blir bare oppdaget hvis bildet ble generert med verktøyene våre.

Hvordan bruker jeg det?

Last opp ett bilde, og se deretter gjennom resultatene for å finne ut om verktøyet oppdager C2PA-metadata, et SynthID-vannmerke eller ingen støttede tegn. For å få best resultat bør du beskjære skjermbilder tett rundt motivet og unngå å laste opp filer som inneholder flere bilder.

Spørsmål og svar

Opprinnelsesinformasjon hjelper folk med å forstå hvor innhold på nettet kommer fra og om KI var involvert i å lage eller redigere det. Dette gir folk mer informasjon når de skal avgjøre hva de vil stole på, dele eller rapportere om på nettet.

Det kan bidra til å redusere forvirring, villedning og tilfeller der opprinnelsen til KI-generert innhold er uklar. Det gir også journalister, plattformer, skapere, forskere og publikum mer kontekst om innholdet de ser på nettet.

Vi mener at tydeligere informasjon om hvordan innhold ble laget er en viktig del av å bygge et mer troverdig nettmiljø.

Verktøyet bygger på to typer signaler: C2PA-innholdsreferanser og SynthID.

Innholdsreferanser⁠(åpnes i et nytt vindu) er basert på en åpen standard som knytter provenansemetadata til digitale medier. For bilder som er OpenAI-generert og som støttes, kan de indikere at et bilde ble opprettet ved hjelp av verktøy som ChatGPT eller API-et. De er et tydelig tegn når de er til stede, men fordi de er avhengige av metadata, kan de fjernes.

SynthID⁠(åpnes i et nytt vindu) er en usynlig vannmerkingsteknologi som bygger inn et signal direkte i genererte medier. I motsetning til metadata er signalet en del av selve bildet, og er utformet for å tåle endringer som beskjæring, filtre eller tapskomprimering. Hvis du vil ha flere tekniske detaljer, kan du se SynthID-forskningsartikkelen⁠(åpnes i et nytt vindu).

Hvis ingen tegn oppdages, betyr det at verktøyet ikke fant støttede tegn i det opplastede bildet.

Bildet kan likevel ha blitt generert av OpenAI hvis metadataene ble fjernet eller viser tegn på manipulering, vannmerket ble forringet, bildet kommer fra en eldre bildegenereringsmodell eller det ble laget før opprinnelsestegn var tilgjengelige. Innholdet kan også fortsatt være KI-generert av en annen bedrifts modell, noe verktøyet for øyeblikket ikke oppdager.

Vi mener at tydeligere informasjon om hvordan innhold ble laget er en viktig del av å bygge et mer troverdig nettmiljø.

Verktøyet bygger på to typer signaler: C2PA-innholdsreferanser og SynthID.

Hvis ingen tegn oppdages, betyr det at verktøyet ikke fant støttede tegn i det opplastede bildet.

Verifiser OpenAI-genererte bilder

Hva gjør dette verktøyet?

Hvilke bilder kan det oppdage?

Hvordan bruker jeg det?

Spørsmål og svar

Hvorfor er opprinnelse viktig for OpenAI?

Hvilke støttende bevis bruker verktøyet?

Kan dette verktøyet avgjøre om et bilde er unøyaktig eller villedende?

Hva betyr et oppdaget tegn?

Hva hvis ingen tegn blir funnet?

Jeg har problemer med å bruke verktøyet.