Menos errores sistemáticos y más seguridad en DALL·E 2

Hoy, implementaremos una técnica nueva para que DALL·E genere imágenes de personas que reflejen con más precisión la diversidad de la población mundial. Esta técnica se aplica a nivel sistemático cuando DALL·E recibe un prompt que describe a una persona sin especificar la raza o el sexo, como «policía».

Según nuestra evaluación interna, era doce veces más probable que los usuarios dijeran que las imágenes de DALL·E incluían a personas de orígenes diversos después de que aplicásemos la técnica. Nuestro plan es mejorar esta técnica con el tiempo según recopilemos más datos y comentarios.

En abril, empezamos a ofrecer una vista previa de la investigación de DALL·E 2 a un número limitado de personas. Esto nos ha permitido comprender mejor las funciones y las limitaciones, así como a mejorar nuestros sistemas de seguridad.

Durante esta fase de vista previa, los primeros usuarios informaron sobre imágenes sensibles y sesgadas, lo que ha ayudado a informar y evaluar esta nueva medida de mitigación.

Seguimos investigando la forma en la que los sistemas de IA, como DALL·E, pueden reflejar los sesgos en los datos con los que entrenan y las diferentes maneras en las que podemos abordarlos.

Durante la vista previa de la investigación, tomamos otras medidas para mejorar nuestros sistemas de seguridad. Entre ellas se encuentran:

• Minimizar el riesgo de que DALL·E se utilice de forma indebida para crear contenidos engañosos mediante el rechazo de la subida de imágenes que incluyan rostros realistas y los intentos de crear el parecido con figuras públicas, incluidos famosos y personalidades políticas destacadas.
• Aumentar la precisión de nuestros filtros de contenido para que sean más efectivos a la hora de bloquear prompts y la subida de imágenes que infrinjan nuestra política de contenidos⁠(se abre en una ventana nueva) a la vez que permitimos la expresión creativa.
• Perfeccionar los sistemas de supervisión automatizados y humanos para evitar los usos indebidos.

Estas mejoras nos han ayudado a ganar confianza para poder invitar a más usuarios a probar DALL·E.

Ampliar el acceso es una parte importante de nuestro despliegue responsable de sistemas de IA⁠, ya que nos permite aprender más sobre su uso en el mundo real y seguir perfeccionando nuestros sistemas de seguridad.