Enfoque sobre las reglas de procedencia del texto de la UE

Procedencia del contenido ayuda a las personas a entender de dónde proviene el contenido, cómo se creó o editó y si contiene señales asociadas con nuestros modelos. Ya pusimos a disposición del público herramientas para identificar imágenes y audio generados por nuestros modelos. Hoy compartimos nuestro enfoque sobre ante las normas de la UE sobre procedencia del texto en respuesta a la Ley de IA de la UE y cómo se integra en nuestro trabajo más amplio.

La Ley de IA de la UE exige que los proveedores de IA generativa hagan que el texto generado sea identificable en un formato legible por máquina. Las marcas de agua en el texto y las tecnologías de detección aún están en sus primeras etapas y tienen limitaciones importantes; además, lo que se sabe sobre sus beneficios y usos responsables siguen evolucionando. Nuestro enfoque por fases refleja tanto los requisitos de la Ley de IA de la UE como las limitaciones de la tecnología, y hace hincapié en la transparencia sobre lo que una marca de agua en el texto puede y no puede indicar a las personas:

• A partir de hoy, los clientes de API de todo el mundo podrán elegir activar las marcas de agua en texto para determinados modelos. Las marcas de agua en texto seguirán desactivadas de forma predeterminada en la API.

• Durante las próximas semanas, agregaremos una marca de agua invisible a los resultados de texto de ChatGPT y Codex que cumplan los requisitos en la Unión Europea.

• Estamos empezando a aceptar solicitudes de acceso a nuestro detector de marcas de agua en el texto. Al principio, el acceso estará limitado a investigadores seleccionados y organizaciones especializadas que puedan ayudarnos a evaluar y mejorar la tecnología.

  • Lo anterior solo se aplica a la procedencia del texto. Las herramientas para verificar audio e imágenes, incluidas la herramienta web openai.com/verify⁠ y la API de procedencia de contenido⁠(se abre en una nueva ventana), seguirán siendo de acceso público para las organizaciones que quieran averiguar si uno de nuestros sistemas generó una imagen o un archivo de audio.

Nuestra tecnología de marca de agua para texto, textGrain, incorpora una señal estadística invisible en las elecciones de palabras del modelo. Nuestro detector busca esa señal para evaluar si un pasaje contiene una marca de agua de OpenAI. Puedes encontrar más detalles sobre cómo funciona textGrain en nuestro informe técnico⁠(se abre en una nueva ventana), que actualizaremos con información adicional en las próximas semanas. También planeamos ofrecer la tecnología como código abierto para que otras personas puedan desarrollarla.

En nuestras evaluaciones, textGrain igualó o superó el rendimiento de otros enfoques que probamos, incluido SynthID para texto. Aun así, un buen rendimiento en condiciones ideales no garantiza una detección confiable en el uso cotidiano.

Los detectores pueden cometer dos tipos de errores: pueden indicar que hay una marca de agua cuando no la hay (un falso positivo) o no detectar una marca de agua que sí está presente (un falso negativo). Nuestras evaluaciones a continuación ilustran algunos de los desafíos:

• Los textos más breves o con más restricciones son más difíciles de detectar. Con una tasa objetivo de falsos positivos del 1 %, nuestro detector identificó marcas de agua en alrededor del 80 % de pasajes de 200 tokens, frente a alrededor del 95 % de pasajes de 400 tokens, en textos sobre temas como la psicología. Las tasas de detección fueron considerablemente más bajas en contenido de matemáticas, donde hay menos flexibilidad en la elección de palabras.

• La edición puede debilitar la marca de agua. En una evaluación de pasajes de 400 tokens, reemplazar el 10 % de las palabras por sinónimos redujo la detección de aproximadamente el 92 % al 66 %. Reemplazar el 25 % de las palabras la redujo al 17 %.

Estas limitaciones explican por qué, inicialmente, ofreceremos acceso al detector solo a investigadores autorizados y organizaciones especializadas, que pueden ayudarnos a evaluar su confiabilidad y sus usos responsables.

En las pruebas comparativas que usamos para evaluar a Astra, nuestro modelo de vanguardia más reciente, no observamos diferencias significativas en el desempeño con y sin marcas de agua.

Las marcas de agua de texto ofrecen una señal limitada sobre el papel que desempeñaron nuestros sistemas en un pasaje. Es importante entender qué se puede y qué no se puede concluir a partir de un resultado de detección.

• Una marca de agua no mide la contribución humana. Puede indicar que un sistema de OpenAI generó o procesó parte de un pasaje, pero no cuánto criterio, edición o creatividad humana se invirtió en él.

• Una marca de agua no establece la titularidad ni la responsabilidad. No determina quién es titular del texto, si su uso fue legal, si era obligatorio divulgarlo ni quién es responsable de ello.

• Una marca de agua no identifica al usuario. No asocia a una persona, organización, cuenta, prompt ni conversación con el texto.

• Una marca de agua no verifica la precisión. No te indica si un pasaje es verdadero, engañoso, perjudicial o si se presenta en el contexto correcto.

• La ausencia de una marca de agua detectada no demuestra que el texto sea de autoría humana. Es posible que el texto generado con herramientas de OpenAI sea demasiado corto, se haya editado o traducido para que la detección funcione de forma confiable. También puede provenir de un modelo no compatible, ser anterior al uso de marcas de agua o haberse generado con herramientas de otra empresa.

• Implementación de marcas de agua de texto en la UE. Durante las próximas semanas, incorporaremos marcas de agua de texto para usuarios que cumplan con los requisitos y usen ChatGPT y Codex en cualquiera de los planes, únicamente en la UE. No activaremos las marcas de agua de texto como opción predeterminada a nivel global desde el lanzamiento. Este enfoque regional nos permite aprender de su uso en situaciones reales y de los comentarios que recibamos.

• Activación opcional de marcas de agua para clientes de la API. A partir de hoy, los clientes de la API de todo el mundo podrán optar por recibir texto generado con marcas de agua en determinados modelos. Esto les permite decidir cómo incorporar las marcas de agua a sus obligaciones de transparencia y a las experiencias que ofrecen a los usuarios. También estamos trabajando con socios de servicios en la nube para que, en las próximas semanas, las marcas de agua estén disponibles en el resultado generado por los modelos de OpenAI a los que se accede a través de sus servicios.

• Acceso al detector para investigadores y organizaciones especializadas. A partir de hoy, los investigadores autorizados y las organizaciones especializadas pueden solicitar acceso. De acuerdo con el Código de Prácticas⁠(se abre en una nueva ventana), al principio, el acceso se otorgará caso por caso para apoyar la evaluación y mejora de la procedencia del texto. La herramienta informará si detecta una marca de agua de OpenAI, sin identificar al usuario ni revelar sus prompts o conversaciones. Debido al riesgo de que no se detecten algunas marcas de agua y se produzcan falsos positivos, no estará disponible para el público en el lanzamiento.

Esperamos revisar cada parte de este enfoque a medida que evolucionen la tecnología, los estándares y la evidencia.

Ninguna técnica de procedencia por sí sola es suficiente, así que adoptamos un enfoque por capas que combina estándares abiertos, marcas de agua duraderas y herramientas de verificación.

Agregamos credenciales de contenido a las imágenes compatibles, cumplimos con el estándar C2PA⁠(se abre en una nueva ventana), incorporamos marcas de agua invisibles SynthID⁠(se abre en una nueva ventana) en las imágenes y el audio compatibles, y permitimos verificar imágenes y audio a través de openai.com/verify⁠ y nuestra API de procedencia de contenido⁠(se abre en una nueva ventana). Estas técnicas se complementan: las credenciales de contenido pueden registrar el origen y el historial de un archivo, mientras que las marcas de agua invisibles pueden conservar una señal cuando se eliminan los metadatos.

Como describimos en nuestro trabajo sobre las salvaguardas electorales, la procedencia puede ayudar a las personas y a las plataformas a evaluar contenido potencialmente engañoso generado por IA, incluidos los deepfakes. Combinamos estas señales con políticas, detección de abusos, canales de denuncia, investigaciones y medidas de cumplimiento, y trabajamos con investigadores, organismos de normalización, plataformas y la sociedad civil para que la procedencia sea útil en todo el ecosistema.

Extender la procedencia al texto requiere tener en cuenta lo fácil que es reescribirlo, traducirlo o editarlo. Como comentamos en junio, nuestro enfoque debe reflejar los límites prácticos de la tecnología actual. Seguiremos mejorando la detección, estudiando cómo resisten las marcas de agua la edición y la traducción, y explorando formas de distinguir mejor entre la asistencia de la IA y la autoría de la IA. Adaptaremos nuestro enfoque a medida que evolucionen la evidencia, los estándares y los requisitos regulatorios, y ampliaremos el acceso a los detectores cuando consideremos que los resultados pueden interpretarse de manera responsable.

Para obtener más información, visita nuestro artículo del Centro de ayuda⁠(se abre en una nueva ventana).