Cómo abordamos las normas de la UE sobre la procedencia del texto

La procedencia del contenido ayuda a las personas a entender de dónde proviene el contenido, cómo se creó o editó y si contiene señales asociadas con nuestros modelos. Ya pusimos a disposición del público herramientas para identificar imágenes y audio generados por nuestros modelos. Hoy compartimos nuestro enfoque sobre la aplicación de marcas de agua en el texto en respuesta a la Ley de Inteligencia Artificial de la UE y cómo se integra en nuestro trabajo más amplio.

La Ley de Inteligencia Artificial de la UE exige que los proveedores de IA generativa hagan que el texto generado sea identificable en un formato legible por máquina. Las marcas de agua en el texto y las tecnologías de detección aún están en sus primeras etapas y tienen limitaciones importantes; además, las opiniones sobre sus beneficios y usos responsables siguen evolucionando. Nuestro enfoque por fases refleja tanto los requisitos de la Ley de Inteligencia Artificial de la UE como las limitaciones de la tecnología, y hace hincapié en la transparencia sobre lo que una marca de agua en el texto puede y no puede indicar a las personas:

• A partir de hoy, los clientes de API de todo el mundo podrán optar por aplicar marcas de agua en el texto para determinados modelos. Las marcas de agua en el texto seguirán desactivadas de forma predeterminada en la API.

• En las próximas semanas, añadiremos en la Unión Europea una marca de agua invisible a los textos generados por ChatGPT y Codex que cumplan los requisitos.

• Estamos empezando a aceptar solicitudes de acceso a nuestro detector de marcas de agua en el texto. Al principio, el acceso estará limitado a investigadores seleccionados y organizaciones especializadas que puedan ayudarnos a evaluar y mejorar la tecnología.

  • Lo anterior solo se aplica a la procedencia del texto. Las herramientas para verificar audio e imágenes, incluidas la herramienta web openai.com/verify⁠ y la API de procedencia del contenido⁠(se abre en una ventana nueva), seguirán siendo de acceso público para las organizaciones que quieran averiguar si uno de nuestros sistemas generó una imagen o un archivo de audio.

textGrain, nuestra tecnología de aplicación de marcas de agua en el texto, incorpora una señal estadística invisible en las elecciones de palabras del modelo. Nuestro detector busca esa señal para evaluar si un fragmento contiene una marca de agua de OpenAI. Puedes encontrar más detalles sobre cómo funciona textGrain en nuestro informe técnico⁠(se abre en una ventana nueva), que actualizaremos con información adicional en las próximas semanas. También tenemos previsto ofrecer la tecnología como código abierto para que otras personas puedan desarrollarla.

En nuestras evaluaciones, textGrain igualó o superó el rendimiento de otros enfoques que probamos, incluido SynthID para el texto. Aun así, un rendimiento sólido en condiciones ideales no garantiza una detección fiable en el uso cotidiano.

Los detectores pueden cometer dos tipos de errores: pueden indicar que hay una marca de agua cuando no la hay (un falso positivo) o no detectar una marca de agua que sí está presente (un falso negativo). Las evaluaciones que presentamos a continuación ilustran algunos de los retos:

• Los textos más breves o con más restricciones son más difíciles de detectar. Con una tasa objetivo de falsos positivos del 1 %, nuestro detector identificó marcas de agua en aproximadamente el 80 % de fragmentos de 200 tokens, frente a aproximadamente el 95 % de fragmentos de 400 tokens, en textos sobre temas como la psicología. Las tasas de detección fueron considerablemente más bajas en contenido de matemáticas, donde hay menos flexibilidad a la hora de elegir las palabras.

• La edición puede debilitar la marca de agua. En una evaluación de fragmentos de 400 tokens, sustituir el 10 % de las palabras por sinónimos redujo la detección de aproximadamente un 92 % a un 66 %. Sustituir el 25 % de las palabras la redujo al 17 %.

Estas limitaciones explican por qué, inicialmente, ofreceremos acceso al detector solo a investigadores autorizados y organizaciones especializadas, que pueden ayudarnos a evaluar su fiabilidad y sus usos responsables.

En las pruebas comparativas que usamos para evaluar Astra, nuestro modelo de vanguardia más reciente, no observamos diferencias significativas en el desempeño con y sin marcas de agua.

Las marcas de agua en el texto ofrecen una señal limitada sobre el papel que desempeñaron nuestros sistemas en un fragmento. Es importante entender qué se puede y qué no se puede concluir a partir de un resultado de detección.

• Una marca de agua no mide la contribución humana. Puede indicar que un sistema de OpenAI generó o procesó parte de un fragmento, pero no en qué medida se ha aplicado el criterio humano, la edición o la creatividad en él.

• Una marca de agua no establece la titularidad ni la responsabilidad. No determina a quién pertenece el texto, si se utilizó de manera legítima, si era obligatoria la divulgación ni quién es responsable de ello.

• Una marca de agua no identifica al usuario. No asocia a una persona, organización, cuenta, prompt o conversación con el texto.

• Una marca de agua no verifica la precisión. No te indica si un fragmento es cierto, engañoso, perjudicial o si se presenta en el contexto correcto.

• La ausencia de una marca de agua detectada no demuestra que el texto sea de autoría humana. Es posible que el texto generado con herramientas de OpenAI sea demasiado corto, se haya editado o se haya traducido, por lo que la detección podría no funcionar de forma fiable. También puede proceder de un modelo no compatible, ser anterior a la aplicación de marcas de agua o haberse generado con herramientas de otra empresa.

• Implementación de marcas de agua en el texto en la UE. Durante las próximas semanas, incorporaremos marcas de agua en el texto para usuarios que cumplan con los requisitos y usen ChatGPT y Codex en cualquiera de los planes, únicamente en la UE. No activaremos las marcas de agua en el texto como opción predeterminada a nivel global desde el lanzamiento. Este enfoque regional nos permite aprender de su uso en situaciones reales y de los comentarios que recibamos.

• Aplicación opcional de marcas de agua para clientes de la API. A partir de hoy, los clientes de la API de todo el mundo podrán optar por recibir texto generado con marcas de agua en determinados modelos. Esto les permite decidir cómo incorporar las marcas de agua a sus obligaciones de transparencia y a las experiencias que ofrecen a los usuarios. También estamos trabajando con socios de servicios en la nube para que, en las próximas semanas, las marcas de agua estén disponibles en el resultado generado por los modelos de OpenAI a los que se accede a través de sus servicios.

• Acceso al detector para investigadores y organizaciones especializadas. A partir de hoy, los investigadores autorizados y las organizaciones especializadas pueden solicitar acceso. De acuerdo con el Código de buenas prácticas⁠(se abre en una ventana nueva), al principio, el acceso se otorgará caso por caso para respaldar la evaluación y mejora de la procedencia del texto. La herramienta informará si detecta una marca de agua de OpenAI, sin identificar al usuario ni revelar sus prompts o conversaciones. Debido al riesgo de que no se detecten algunas marcas de agua y se produzcan falsos positivos, no estará disponible para el público en el momento del lanzamiento.

Esperamos revisar cada parte de este enfoque a medida que evolucionen la tecnología, los estándares y la evidencia.

Ninguna técnica de procedencia por sí sola es suficiente, así que adoptamos un enfoque por capas que combina estándares abiertos, aplicación de marcas de agua duraderas y herramientas de verificación.

Añadimos credenciales de contenido a las imágenes compatibles, cumplimos con el estándar C2PA⁠(se abre en una ventana nueva), incorporamos marcas de agua invisibles SynthID⁠(se abre en una ventana nueva) en las imágenes y el audio compatibles, y permitimos verificar imágenes y audio a través de openai.com/verify⁠ y nuestra API de procedencia del contenido⁠(se abre en una ventana nueva). Estas técnicas se complementan: las credenciales de contenido pueden registrar el origen y el historial de un archivo, mientras que las marcas de agua invisibles pueden conservar una señal cuando se eliminan los metadatos.

Como describimos en nuestro trabajo sobre las medidas de protección electorales, la procedencia puede ayudar a las personas y a las plataformas a evaluar contenido potencialmente engañoso generado por IA, incluidos los deepfakes. Combinamos estas señales con políticas, detección de abusos, canales de denuncia, investigaciones y medidas de cumplimiento normativo, y trabajamos con investigadores, organismos de normalización, plataformas y la sociedad civil para que la procedencia sea útil en todo el ecosistema.

Extender la procedencia al texto requiere tener en cuenta lo fácil que es reescribirlo, traducirlo o editarlo. Como comentamos en junio, nuestro enfoque debe reflejar los límites prácticos de la tecnología actual. Seguiremos mejorando la detección, estudiando cómo resisten las marcas de agua la edición y la traducción, y explorando formas de distinguir mejor entre la asistencia de la IA y la autoría de la IA. Adaptaremos nuestro enfoque a medida que evolucionen la evidencia, los estándares y los requisitos normativos, y ampliaremos el acceso a los detectores cuando consideremos que los resultados pueden interpretarse de manera responsable.

Para obtener más información, visita nuestro artículo del Centro de ayuda⁠(se abre en una ventana nueva).