Verifica el contingut generat per OpenAI

Puja una imatge o un fitxer d’àudio per comprovar si hi ha indicis que s’ha generat amb eines d’OpenAI.

Puja un fitxerArrossega i deixa anar un fitxer o fes clic per pujar-ne un.Formats compatibles: PNG, JPG, WEBP, MP3, WAV, AAC, FLAC, OGG, OPUS, PCM

En penjar un fitxer, acceptes les nostres condicions i confirmes que has llegit la nostra política de privacitat.

Què fa aquesta eina?

Aquesta eina comprova si un fitxer carregat conté senyals de procedència associats amb eines d’OpenAI. Cerca senyals compatibles, incloses les metadades C2PA i les marques d’aigua SynthID, i informa de si se’n detecten.

Quin contingut pot detectar?

L'eina està dissenyada per detectar contingut generat amb ChatGPT, l'API d'OpenAI o Codex. Actualment admet imatges i fitxers d’àudio. Es poden pujar altres continguts, però els senyals de procedència d'OpenAI només es detectaran si aquest contingut ha estat generat amb les nostres eines.

Com pots fer-la servir?

Puja un sol fitxer i, a continuació, revisa els resultats per veure si l’eina detecta metadades C2PA, una marca d’aigua SynthID o cap senyal compatible.

Verifica el contingut amb l’API

Integra la verificació de contingut als teus productes o fluxos de treball mitjançant l’API d’OpenAI.

Consulta la documentació de l'API

Preguntes freqüents

La procedència ajuda les persones a entendre d'on prové el contingut en línia i si la IA ha intervingut en la seva creació o edició. Això proporciona a les persones més informació a l'hora de decidir en què confiar, què compartir o què denunciar a Internet.

Això pot ajudar a reduir la confusió, l’engany i els casos en què l’origen del contingut generat per IA no és clar. També ofereix als periodistes, les plataformes, els creadors, els investigadors i el públic més context sobre els continguts multimèdia que troben en línia.

Creiem que una informació més clara sobre com s’ha creat el contingut és una part important per construir un entorn en línia més fiable.

L’eina es basa en dos tipus de senyals: les credencials de contingut C2PA i SynthID.

Les credencials de contingut⁠(s'obre en una finestra nova) es basen en un estàndard obert que adjunta metadades de procedència als mitjans digitals. En el cas del contingut generat per OpenAI compatible, poden indicar que un fitxer s’ha creat utilitzant eines com ara ChatGPT, Codex o l’API. Són un senyal fort quan hi són, però, com que depenen de les metadades, es poden eliminar.

SynthID⁠(s'obre en una finestra nova) és una tecnologia de marca d’aigua invisible que incorpora un senyal directament al contingut multimèdia generat. A diferència de les metadades, el senyal forma part del contingut mateix i està dissenyat per resistir modificacions com ara el retall, l’addició de filtres o la compressió amb pèrdues. Per obtenir més detalls tècnics, consulta el document de recerca de SynthID⁠(s'obre en una finestra nova).

Si no es detecta cap senyal, vol dir que l'eina no ha trobat senyals compatibles al fitxer carregat.

El contingut encara podria haver estat generat per OpenAI si se n'han eliminat o manipulat les metadades, si la marca d'aigua s'ha degradat, si prové d'un model de generació heretat o si es va crear abans que els senyals de procedència estiguessin disponibles. El contingut també podria haver estat generat per IA amb un model d'una altra empresa, cosa que l'eina actualment no detecta.

Creiem que una informació més clara sobre com s’ha creat el contingut és una part important per construir un entorn en línia més fiable.

L’eina es basa en dos tipus de senyals: les credencials de contingut C2PA i SynthID.

Si no es detecta cap senyal, vol dir que l'eina no ha trobat senyals compatibles al fitxer carregat.

Verifica el contingut generat per OpenAI

Què fa aquesta eina?

Quin contingut pot detectar?

Com pots fer-la servir?

Verifica el contingut amb l’API

Preguntes freqüents

Per què és important la procedència per a OpenAI?

Quines proves utilitza l'eina?

Què vol dir un senyal detectat?

L’eina pot detectar modificacions del contingut?

Pot aquesta eina determinar si el contingut és inexacte o enganyós?

Quines són les pràctiques recomanades per utilitzar l’eina?

Què passa si no trobes cap senyal?

Tinc problemes per utilitzar l’eina.

Què passa amb el fitxer que pujo?

Quines condicions s’apliquen quan faig servir l’eina?

Soc desenvolupador: puc verificar contingut a través d’una API?