Impulsem la procedència dels continguts per a un ecosistema d’IA més segur i transparent

Cada dia, la gent fan servir les eines d’OpenAI per crear i editar imatges i àudio, fent que la comunicació sigui més expressiva, útil i accessible. A mesura que aquestes eines passen a formar part de la manera com les persones creen, imaginen i comparteixen, és important que tothom pugui entendre i verificar d’on provenen els continguts multimèdia perquè els puguin interpretar amb més confiança. Els senyals de procedència poden ajudar perquè proporcionen context sobre d’on prové el contingut, com s’ha creat o editat i si és el que afirma ser.

Avui reforcem el nostre enfocament de la procedència del contingut amb un model de múltiples capes, impulsat per l’ecosistema, per generar confiança en línia. Estem fent que els nostres senyals de procedència siguin més fàcils de reconèixer per a altres eines i plataformes mitjançant la conformitat amb C2PA, afegint una filigrana SynthID duradora i multiplataforma a les imatges a través d'una col·laboració amb Google, i compartint un avançament d'una eina que el públic pot utilitzar per verificar si les imatges provenen d'OpenAI.

En conjunt, aquestes actualitzacions es basen en la nostra feina anterior⁠ per donar suport als estàndards oberts, fer que el contingut generat per OpenAI sigui més fàcil d’identificar i col·laborar amb la indústria en general per fomentar un ecosistema d'informació més fiable.

OpenAI ha participat en el desenvolupament i l’adopció d’estàndards de procedència des del 2024, quan vam començar a afegir Credencials de contingut a les imatges generades per DALL·E 3⁠(s'obre en una finestra nova) i, més endavant, a ImageGen⁠(s'obre en una finestra nova) i Sora⁠(s'obre en una finestra nova). També ens vam incorporar a la Coalition for Content Provenance and Authenticity (C2PA), el grup intersectorial que hi ha darrere de l’estàndard tècnic obert per a la procedència del contingut. L’enfocament tècnic de la C2PA es basa en l'ús de metadades i signatures criptogràfiques per ajudar que la informació sobre un element multimèdia viatgi de manera segura juntament amb el contingut. Aquesta informació inclou context que ajuda els periodistes que avaluen una font, les plataformes que prenen decisions sobre integritat i les persones que intenten entendre què veuen en línia.

Recentment, hem fet el pas de convertir OpenAI en un producte generador conforme amb la C2PA⁠(s'obre en una finestra nova). En complir amb C2PA, proporcionem a les plataformes una manera fiable de llegir, preservar i transmetre la informació de procedència que adjuntem al nostre contingut. Això és important perquè la procedència només funciona si perdura més enllà de la primera plataforma on es crea el contingut, i la conformitat ho fa possible.

Les metadades C2PA són una base important per a la procedència. Ajuden el contingut a portar informació sobre d'on prové, com es va crear o editar, i qui va signar aquesta informació. Però les metadades no són infal·libles. Es poden eliminar, perdre durant les càrregues i baixades o malmetre a causa de transformacions com ara canvis de format de fitxer, redimensionaments o captures de pantalla.

Per fer que la procedència sigui més robusta, adoptem un enfocament multicapa i incorporem marques d’aigua mitjançant SynthID de Google DeepMind⁠(s'obre en una finestra nova), començant per les imatges generades a través de ChatGPT⁠, Codex o l’API d’OpenAI. SynthID incrusta una capa de marca d’aigua invisible que complementa els enfocaments basats en les metadades de C2PA.

Fa temps que treballem per arribar a aquest punt. Hem utilitzat marques d’aigua visibles⁠ a Sora i una marca d’aigua d’àudio⁠ a Voice Engine i hem continuat provant i investigant la precisió i la fiabilitat al llarg del temps. fins al desplegament.

Aquests dos sistemes es reforcen mútuament. C2PA ajuda a fer que el contingut incorpori context detallat; SynthID ajuda a preservar un senyal quan les metadades no es conserven. L’ús de marques d’aigua pot ser més resistent a transformacions com ara les captures de pantalla, mentre que les metadades poden proporcionar més informació que una marca d’aigua per si sola. Conjuntament, fan que la procedència sigui més resilient que qualsevol de les dues capes per si sola.

Les metadades de confiança i les marques d’aigua que resisteixen la majoria de les modificacions poden fer que els senyals de procedència siguin més duradors. Però les persones necessiten una manera de detectar aquests senyals. Avui en dia, oferim una vista prèvia d’una eina de verificació pública⁠ que ajudarà a verificar si una imatge carregada s’ha generat a ChatGPT, l’API d’OpenAI o Codex, comprovant si conté senyals de procedència, com ara Content Credentials i SynthID.

Creiem que hauria de ser més fàcil per a tothom verificar i interpretar la procedència i creiem que la nostra eina pot ajudar la gent a tenir un paper a l'hora de respondre a la pregunta: "Ha estat generat amb IA?", integrant múltiples senyals. Això es basa en els aprenentatges de la vista prèvia inicial de recerca del nostre classificador de detecció d'imatges⁠ el 2024 i permet a les persones detectar de manera fiable si hi ha una marca d’aigua SynthID procedent d’OpenAI en el contingut multimèdia, així com mostrar les metadades C2PA quan se’n troben.

Cap mètode de detecció és infal·lible, per això adoptem un enfocament prudent en els casos en què la detecció falla. Si no es detecten metadades ni cap marca d’aigua, per exemple, l’eina no arribarà a una conclusió definitiva sobre si la imatge s’ha generat amb eines d’OpenAI, ja que els senyals de procedència es poden eliminar en alguns casos.

En el moment del llançament, l’eina està limitada al contingut generat per OpenAI. En els pròxims mesos, tenim l’objectiu de donar suport als esforços intersectorials per fer possible la verificació entre plataformes. Amb el temps, també preveiem fer que l'eina sigui compatible amb més tipus de contingut que es pugui trobar en línia.

Cap tècnica de procedència no és suficient per si sola. Creiem que un enfocament sòlid combina estàndards compartits, senyals de marca d’aigua duradors i verificació pública. A partir del nostre suport de llarga data a Content Credentials, assolint la conformitat amb C2PA, adoptant SynthID i presentant en vista prèvia eines públiques de verificació, esperem contribuir a llarg termini a un ecosistema de procedència més interoperable.