Pētniecības priekšskatījums

Pārbaudiet OpenAI ģenerētus attēlus

Augšupielādējiet attēlu, lai pārbaudītu signālus, kas liecina, ka tas ģenerēts ar OpenAI rīkiem.

Augšupielādē attēluVelc un nomet attēlu šeit vai noklikšķini, lai to augšupielādētu.Atbalstītie formāti: PNG, JPG, WEBP

Augšupielādējot failu, tu piekrīti mūsu Lietošanas noteikumiem un apliecini, ka iepazinies ar mūsu privātuma politiku.

Ko dara šis rīks?

Šis rīks pārbauda, vai augšupielādētais attēls satur izcelsmes signālus, kas saistīti ar OpenAI rīku ģenerētiem attēliem. Tas meklē atbalstītus signālus, tostarp C2PA metadatus un SynthID ūdenszīmes, un ziņo, vai ir noteikts kāds no tiem.

Kādus attēlus tas var noteikt?

Rīks ir paredzēts, lai noteiktu attēlus, kas ģenerēti ar ChatGPT, OpenAI API vai Codex. Var augšupielādēt citu attēlu, taču OpenAI ģenerēšanas signāli tiks noteikti tikai tad, ja attēls būs ģenerēts ar mūsu rīkiem.

Kā to izmantot?

Augšupielādējiet vienu attēlu, pēc tam pārskatiet rezultātus, lai redzētu, vai rīks nosaka C2PA metadatus, SynthID ūdenszīmi vai neatbalsta nevienu signālu. Lai iegūtu labākos rezultātus, cieši apgrieziet ekrānuzņēmumus ap attēlu un neaugšupielādējiet failus, kuros ir vairāki attēli.

BUJ

Izcelsme palīdz cilvēkiem saprast, no kurienes tiešsaistes saturs nāk un vai tā radīšanā vai rediģēšanā ir bijis iesaistīts AI. Tas sniedz cilvēkiem vairāk informācijas, lemjot, kam tiešsaistē uzticēties, ko kopīgot vai par ko ziņot.

Tas var palīdzēt mazināt neskaidrību, maldināšanu un gadījumus, kad AI ģenerēta satura izcelsme nav skaidra. Tas arī sniedz žurnālistiem, platformām, veidotājiem, pētniekiem un sabiedrībai vairāk konteksta par medijiem, ar kuriem tie sastopas tiešsaistē.

Mēs uzskatām, ka skaidrāka informācija par to, kā saturs tika radīts, ir svarīga daļa uzticamākas tiešsaistes vides veidošanā.

Rīks balstās uz divu veidu signāliem: C2PA Content Credentials un SynthID.

Content Credentials⁠(atveras jaunā logā) balstās uz atvērtu standartu, kas digitālajam saturam pievieno izcelsmes metadatus. Atbalstītiem OpenAI ģenerētiem attēliem tie var norādīt, ka attēls izveidots, izmantojot tādus rīkus kā ChatGPT vai API. Tie ir spēcīgs signāls, ja ir pieejami, taču, tā kā tie balstās uz metadatiem, tos var noņemt.

SynthID⁠(atveras jaunā logā) ir neredzama ūdenszīmju tehnoloģija, kas iestrādā signālu tieši ģenerētajā saturā. Atšķirībā no metadatiem signāls ir daļa no paša attēla un ir izstrādāts tā, lai izturētu izmaiņas, piemēram, apgriešanu, filtru pievienošanu vai kompresiju ar zudumiem. Plašāku tehnisko informāciju skatiet SynthID pētījuma rakstā⁠(atveras jaunā logā).

Ja netiek noteikts neviens signāls, tas nozīmē, ka rīks augšupielādētajā attēlā neatrada atbalstītus signālus.

Attēlu joprojām varēja ģenerēt OpenAI, ja metadati tika noņemti vai ir manipulācijas pazīmes, ūdenszīme tika pasliktināta, attēls nāk no mantota attēlu mantota modeļa vai tas tika izveidots pirms izcelsmes signālu pieejamības. Saturs joprojām var būt cita uzņēmuma AI ģenerēts ar modeli, ko rīks pašlaik nenosaka.

Mēs uzskatām, ka skaidrāka informācija par to, kā saturs tika radīts, ir svarīga daļa uzticamākas tiešsaistes vides veidošanā.

Rīks balstās uz divu veidu signāliem: C2PA Content Credentials un SynthID.

Ja netiek noteikts neviens signāls, tas nozīmē, ka rīks augšupielādētajā attēlā neatrada atbalstītus signālus.

Pārbaudiet OpenAI ģenerētus attēlus

Ko dara šis rīks?

Kādus attēlus tas var noteikt?

Kā to izmantot?

BUJ

Kāpēc izcelsme ir svarīga OpenAI?

Kādus pamatojošos pierādījumus izmanto rīks?

Vai šis rīks var noteikt, vai attēls ir neprecīzs vai maldinošs?

Ko nozīmē noteikts signāls?

Ko darīt, ja netiek atrasts neviens signāls?

Man ir grūtības izmantot rīku.