Apoyar la labor de Europa para garantizar un ecosistema de IA fiable

Las personas usan la IA para crear y editar contenido de nuevas formas. A medida que estas herramientas se vuelven más capaces y se usan más, las personas deberían tener contexto sobre el contenido que ven en internet.

Hoy, tras la publicación del Código europeo de buenas prácticas sobre transparencia de los contenidos generados por IA, OpenAI anuncia su apoyo al Código y a la ambición que lo impulsa. El Código es un paso importante para aplicar la Ley de IA de la UE y construir un ecosistema digital más transparente.

Ese apoyo se basa en años de investigación interna, desarrollo de productos y cooperación con el ecosistema en general para reforzar la procedencia del contenido generado por IA. OpenAI desarrolla y adopta estándares de procedencia desde 2024, cuando empezamos a añadir metadatos C2PA a nuestra herramienta de generación de imágenes DALL-E 3. Desde entonces, hemos seguido reforzando la procedencia mediante mejores métodos de marcado y detección, nuevas investigaciones y el lanzamiento de nuestra primera herramienta pública de verificación. A partir de años de experiencia, contribuimos al desarrollo de este Código junto con cientos de otras partes interesadas para ayudar a garantizar un ecosistema de IA fiable.  

Esto se basa en nuestro enfoque más amplio de la gobernanza de la IA en Europa. En 2025, OpenAI fue la primera empresa estadounidense en firmar el Código de buenas prácticas de IA de uso general de la UE, reflejo de nuestra convicción de que unas normas claras y viables pueden ayudar a que la IA se desarrolle de forma responsable y dar a las empresas la certeza necesaria para seguir creando. Apoyamos este nuevo Código con el mismo espíritu. Impulsar la transparencia del contenido generado por IA es un esfuerzo de todo el ecosistema y requiere la contribución de actores de toda la cadena de valor. La Ley de IA de la UE y el Código lo reconocen, y nos comprometemos a desempeñar nuestro papel cumpliendo los requisitos aplicables a nuestros productos pertinentes.  

A medida que las herramientas de IA pasan a formar parte de cómo las personas crean, imaginan y comparten, es importante que puedan entender de dónde procede el contenido e interpretarlo con confianza. Las señales de procedencia pueden ayudar al ofrecer contexto sobre la fuente del contenido, cómo se creó o editó y si es lo que afirma ser. La procedencia también puede ayudar a proteger el ecosistema digital al facilitar la detección de campañas de desinformación y respaldar la integridad electoral.  

Los métodos de procedencia eficaces, fiables y sólidos deben construirse de forma colectiva y funcionar en todo el ecosistema. Por eso trabajamos con coaliciones como C2PA, que reúne a organizaciones de noticias, fabricantes de dispositivos, plataformas en línea y proveedores de IA para impulsar estándares interoperables. Los metadatos C2PA son una base importante para la procedencia. Ayudan a que el contenido lleve información sobre su origen, cómo se creó o editó y quién firmó esa información. Pero los metadatos no son infalibles. Pueden eliminarse, perderse al subir y descargar archivos, o romperse por transformaciones como cambios de formato, redimensionamientos o capturas de pantalla. Para hacer la procedencia más resiliente, adoptamos un enfoque multicapa que incorpora múltiples señales y salvaguardias de producto en nuestras herramientas. 

En los últimos años, hemos creado un modelo multicapa e impulsado por el ecosistema para generar confianza en internet con nuestro enfoque de procedencia del contenido. Nuestro trabajo actual incluye:

• Credenciales de contenido C2PA⁠(se abre en una ventana nueva) para imágenes: empezamos a añadir metadatos C2PA a imágenes creadas y editadas por DALL·E 3 en ChatGPT y la API de OpenAI, y hemos seguido ampliando las señales de procedencia en imágenes generadas por OpenAI.
• Múltiples señales para imágenes generadas por OpenAI: las imágenes generadas con ChatGPT, Codex y la API de OpenAI incluyen tanto metadatos C2PA como marcas de agua SynthID. Los metadatos pueden contener información más rica, mientras que las marcas de agua pueden ayudar a preservar una señal en distintos contextos.
• Una experiencia pública de verificación: openai.com/verify permite comprobar si las imágenes compatibles contienen señales de procedencia asociadas a imágenes generadas por OpenAI.
• Contribuciones a estándares abiertos. En 2024, OpenAI se incorporó al Comité Directivo de C2PA, una iniciativa intersectorial con empresas de software, fabricantes de cámaras, organizaciones de medios y plataformas en línea.
• Salvaguardias de producto: la procedencia complementa políticas, clasificadores, canales de denuncia y procesos de aplicación que reducen usos engañosos del contenido generado por IA, incluido el uso indebido de la imagen de una persona y el engaño relacionado con elecciones.

Aunque la procedencia es útil, sigue siendo un campo incipiente. Las señales pueden perderse cuando el contenido circula en línea: los metadatos pueden eliminarse, las marcas de agua pueden degradarse y las etiquetas solo ayudan allí donde las personas encuentran el contenido. Impulsar la fiabilidad, solidez e interoperabilidad de las técnicas de procedencia aún requiere un trabajo y una cooperación significativos en el ecosistema.

El Código de buenas prácticas marca la dirección adecuada: un alto nivel de ambición para impulsar las técnicas de procedencia. A medida que se aplique, debe mantenerse basado en métodos que funcionen en la práctica y ser lo bastante flexible para reflejar las limitaciones de las técnicas actuales.

OpenAI seguirá reforzando la transparencia del contenido en nuestros productos, contribuyendo al desarrollo de estándares interoperables y mejorando las herramientas de verificación. Esperamos colaborar con la Oficina de IA, los Estados miembros y la comunidad de IA en general para construir un ecosistema de IA más seguro y transparente.