Vista prèvia de la recerca

Verifica les imatges generades per OpenAI

Puja una imatge per comprovar si hi ha indicis que ha estat generada amb eines d'OpenAI.

Puja una imatgeArrossega i deixa anar una imatge aquí o fes clic per pujar-ne una.Formats compatibles: PNG, JPG, WEBP

En penjar un fitxer, acceptes les nostres condicions i confirmes que has llegit la nostra política de privacitat.

Què fa aquesta eina?

Aquesta eina comprova si una imatge carregada conté senyals de procedència associats amb imatges generades per eines d’OpenAI. Cerca senyals compatibles, incloses les metadades C2PA i les marques d’aigua SynthID, i informa de si se’n detecta algun.

Quines imatges pot detectar?

L'eina està dissenyada per detectar imatges generades amb ChatGPT, l'API d'OpenAI o Codex. Es pot pujar una altra imatge, però els senyals de generació d'OpenAI només es detectaran si la imatge ha estat generada amb les nostres eines.

Com pots fer-la servir?

Puja una sola imatge i, a continuació, revisa els resultats per veure si l’eina detecta metadades C2PA, una marca d’aigua SynthID o alguna senyal no compatible. Per obtenir els millors resultats, retalla les captures de pantalla a prop de la imatge i evita pujar fitxers que continguin diverses imatges.

Preguntes freqüents

La procedència ajuda les persones a entendre d'on prové el contingut en línia i si la IA ha intervingut en la seva creació o edició. Això proporciona a les persones més informació a l'hora de decidir en què confiar, què compartir o què denunciar a Internet.

Això pot ajudar a reduir la confusió, l’engany i els casos en què l’origen del contingut generat per IA no és clar. També ofereix als periodistes, les plataformes, els creadors, els investigadors i el públic més context sobre els continguts multimèdia que troben en línia.

Creiem que una informació més clara sobre com s’ha creat el contingut és una part important per construir un entorn en línia més fiable.

L’eina es basa en dos tipus de senyals: les credencials de contingut C2PA i SynthID.

Les credencials de contingut⁠(s'obre en una finestra nova) es basen en un estàndard obert que adjunta metadades de procedència als mitjans digitals. En el cas de les imatges generades per OpenAI compatibles, poden indicar que una imatge s’ha creat utilitzant eines com ara ChatGPT o l’API. Són un senyal fort quan hi són, però, com que depenen de les metadades, es poden eliminar.

SynthID⁠(s'obre en una finestra nova) és una tecnologia de marca d’aigua invisible que incorpora un senyal directament al contingut multimèdia generat. A diferència de les metadades, el senyal forma part de la imatge mateixa i està dissenyat per resistir modificacions com ara el retall, l’addició de filtres o la compressió amb pèrdues. Per obtenir més detalls tècnics, consulta el document de recerca de SynthID⁠(s'obre en una finestra nova).

Si no es detecta cap senyal, vol dir que l'eina no ha trobat senyals compatibles a la imatge carregada.

La imatge encara podria haver estat generada per OpenAI si se n'han eliminat les metadades o hi ha indicis de manipulació, si la marca d'aigua s'ha degradat, si la imatge prové d'un model heretat de generació d'imatges o si es va crear abans que els senyals de procedència estiguessin disponibles. El contingut també podria haver estat generat per IA amb un model d'una altra empresa, cosa que l'eina actualment no detecta.

Creiem que una informació més clara sobre com s’ha creat el contingut és una part important per construir un entorn en línia més fiable.

L’eina es basa en dos tipus de senyals: les credencials de contingut C2PA i SynthID.

Si no es detecta cap senyal, vol dir que l'eina no ha trobat senyals compatibles a la imatge carregada.

Verifica les imatges generades per OpenAI

Què fa aquesta eina?

Quines imatges pot detectar?

Com pots fer-la servir?

Preguntes freqüents

Per què és important la procedència per a OpenAI?

Quines proves utilitza l'eina?

Pot aquesta eina determinar si una imatge és inexacta o enganyosa?

Què vol dir un senyal detectat?

Què passa si no trobes cap senyal?

Tinc problemes per utilitzar l’eina.