OpenAI API

Anunciamos el lanzamiento de una API para acceder a los nuevos modelos de IA desarrollados por OpenAI. A diferencia de la mayoría de los sistemas de IA, que están diseñados para un solo caso de uso, la API actual ofrece una interfaz de uso general de «texto de entrada, texto de salida», lo que permite a los usuarios probarla en prácticamente cualquier tarea en inglés. Ya puedes solicitar acceso para integrar la API en tu producto, desarrollar una aplicación completamente nueva o ayudarnos a explorar las ventajas y los límites de esta tecnología.

A partir de cualquier indicación de texto, la API devolverá una finalización de texto, intentando coincidir con el patrón que le hayas proporcionado. Puedes «programarla» mostrándole solo unos pocos ejemplos de lo que te gustaría que hiciera; el resultado suele variar en función de la complejidad de la tarea. La API también te permite perfeccionar el rendimiento en tareas específicas mediante el entrenamiento con un conjunto de datos (pequeño o grande) de ejemplos que tú proporciones, o aprendiendo de los comentarios de los usuarios o etiquetadores.

Hemos diseñado la API para que sea fácil de usar para cualquier persona, pero también lo suficientemente flexible como para que los equipos de aprendizaje automático sean más productivos. De hecho, muchos de nuestros equipos están utilizando ahora la API para poder centrarse en la investigación sobre el aprendizaje automático en lugar de en los problemas en los sistemas distribuidos. Hoy en día, la API ejecuta modelos con pesos de la familia GPT‑3⁠(se abre en una ventana nueva) con numerosas mejoras en velocidad y rendimiento. El aprendizaje automático avanza muy rápido, por lo que actualizamos constantemente nuestra tecnología para que los usuarios estén siempre al día.

El ritmo del progreso en este campo hace que surjan muy a menudo nuevas aplicaciones sorprendentes de la IA, tanto positivas como negativas. Rescindiremos el acceso a la API en casos de uso claramente perjudiciales, como casos de acoso, correo basura, radicalización o estrategias de posverdad. Pero también sabemos que no podemos anticipar todas las posibles consecuencias de esta tecnología, por lo que hoy lanzamos una versión beta privada en lugar de una versión abierta al público general. Asimismo, estamos creando herramientas para ayudar a los usuarios a controlar mejor el contenido de nuestra API y estamos investigando aspectos de la tecnología lingüística relacionados con la seguridad (como el análisis, la mitigación y la intervención en sesgos perjudiciales). Compartiremos lo que aprendamos para que nuestros usuarios y la comunidad en general puedan crear sistemas de IA con repercusiones más positivas para las personas.

Además de ser una fuente de ingresos que nos ayuda a cubrir los costes ⁠derivados de nuestra misión⁠, la API nos ha permitido seguir centrándonos en la tecnología de IA de uso general y avanzar en el desarrollo, haciéndola más útil, siempre teniendo en cuenta el impacto en el mundo real. Esperamos que la API reduzca considerablemente las barreras⁠(se abre en una ventana nueva) para crear productos beneficiosos basados en la IA, lo que dará lugar a herramientas y servicios que hoy en día resultan difíciles de imaginar.

¿Te interesa explorar la API? Únete a empresas como Algolia⁠(se abre en una ventana nueva), Quizlet⁠(se abre en una ventana nueva) y Reddit⁠(se abre en una ventana nueva), y a investigadores de instituciones como el Middlebury Institute⁠(se abre en una ventana nueva) en nuestra versión beta privada⁠(se abre en una ventana nueva).

En última instancia, lo que más nos importa⁠ es garantizar que la inteligencia artificial general beneficie a todos. Consideramos que el desarrollo de productos comerciales es una de las formas de garantizar que contamos con la financiación necesaria para alcanzar el éxito.

También creemos que será difícil implementar de forma segura sistemas de IA potentes en todo el mundo. En el lanzamiento de esta API estamos trabajando en estrecha colaboración con nuestros socios para ver qué problemas aparecen al integrar los sistemas de IA en el mundo real. Esto nos ayudará a orientar nuestro trabajo para comprender cómo se desarrollará la implementación de los futuros sistemas de IA y qué debemos hacer para garantizar que sean seguros y beneficiosos para todo el mundo.

Hay tres razones principales que explican esta decisión. En primer lugar, la comercialización de la tecnología nos ayuda a financiar nuestra investigación continua en IA y nuestras iniciativas en materia de seguridad y políticas.

En segundo lugar, muchos de los modelos en los que se basa la API son muy grandes, requieren mucha experiencia para el desarrollo e implementación y el funcionamiento es muy costoso. Esto hace que solo las grandes empresas puedan beneficiarse de la tecnología subyacente. Esperamos que la API haga que los potentes sistemas de IA sean más accesibles para las pequeñas empresas y organizaciones.

En tercer lugar, el modelo API nos permite responder más fácilmente al uso indebido de la tecnología. Puesto que predecir los casos de uso de nuestros modelos en el futuro es difícil, no resulta viable publicar un modelo de código abierto en el que no se pueda modificar el acceso si resulta que tiene implicaciones perjudiciales. Creemos que es mucho más seguro publicarlo a través de una API e ir ampliando el acceso con el tiempo».

Con GPT‑2, una de nuestras principales preocupaciones era el uso malintencionado del modelo (por ejemplo, para desinformar), algo que resulta difícil de prevenir una vez el modelo es de código abierto. Con la API, podemos prevenir mejor el uso indebido limitando el acceso a clientes y casos de uso aprobados. Contamos con un proceso obligatorio de revisión de la producción antes de que las aplicaciones propuestas puedan ponerse en marcha. En las revisiones de producción, evaluamos las aplicaciones en varios ejes, planteando preguntas como: ¿Se trata de un caso de uso compatible actualmente?, ¿Qué grado de flexibilidad tiene la aplicación?, ¿Qué riesgo presenta la aplicación?, ¿Cómo se prevé abordar los posibles usos indebidos?, y ¿Quiénes son los usuarios finales de la aplicación?.

Rescindimos el acceso a la API en los casos en que se detecte que se está provocando (o se pretende causar) daños físicos, emocionales o psicológicos a terceras personas. Esto puede incluir situaciones de acoso, engaño intencional, radicalización, estrategias de posverdad o correo basura, así como las aplicaciones que no cuenten con medidas de protección suficientes para limitar el uso indebido por parte de los usuarios finales. A medida que vayamos adquiriendo más experiencia en el uso práctico de la API, seguiremos perfeccionando las categorías de uso que podemos admitir, tanto para ampliar la gama de aplicaciones compatibles como para crear categorías más detalladas para aquellas que nos suscitan dudas en cuanto al uso inadecuado.

Un factor clave que tenemos en cuenta al aprobar los usos de la API es el grado en que una aplicación muestra un comportamiento abierto frente a uno restringido con respecto a las capacidades generativas subyacentes del sistema. Las aplicaciones abiertas de la API (es decir, aquellas que permiten generar sin problemas grandes cantidades de texto personalizable a través de indicaciones arbitrarias) son especialmente susceptibles de usarse de forma indebida. Existen restricciones que pueden favorecer que los casos de uso generativo sean más seguros, como el diseño de sistemas con intervención humana, las restricciones de acceso de los usuarios finales, el posprocesamiento de los resultados, el filtrado de contenidos, las limitaciones de longitud de entrada/salida, la supervisión activa y las limitaciones de temática.

También seguimos investigando los posibles usos indebidos de los modelos proporcionados por la API, incluso a través de investigadores externos con nuestro programa de acceso académico⁠(se abre en una ventana nueva). Por el momento, hemos empezado con un número reducido de investigadores, pero ya disponemos de algunos resultados de nuestros socios académicos del Middlebury Institute⁠(se abre en una ventana nueva), University of Washington y el Allen Institute for AI⁠(se abre en una ventana nueva). Ya contamos con decenas de miles de solicitantes para este programa y actualmente estamos dando prioridad a las solicitudes centradas en la investigación sobre la equidad y la representación.

Mitigar los efectos negativos, como los sesgos perjudiciales, es un asunto de gran complejidad e importancia y que afecta a todo el sector. Tal y como se explica en el artículo sobre GPT‑3⁠(se abre en una ventana nueva) y en la ficha técnica del modelo⁠(se abre en una ventana nueva), nuestros modelos API presentan sesgos que se reflejarán en el texto generado. Estos son los pasos que estamos llevando a cabo para solucionar estos problemas:

• Hemos desarrollado unas directrices de uso que ayudan a los desarrolladores a comprender y abordar posibles problemas de seguridad.
• Estamos trabajando en estrecha colaboración con los usuarios para comprender sus casos de uso y desarrollar herramientas que permitan detectar e intervenir para mitigar los sesgos perjudiciales.
• Estamos llevando a cabo nuestra propia investigación sobre las manifestaciones de sesgos perjudiciales y cuestiones más amplias relacionadas con la equidad y la representación, lo que nos ayudará a mejorar nuestro trabajo mediante una mejor documentación de los modelos existentes y diversas mejoras en los modelos futuros.
• Reconocemos que los sesgos son un problema que se manifiesta en la intersección entre un sistema y un contexto implementado; las aplicaciones creadas con nuestra tecnología son sistemas sociotécnicos, por lo que trabajamos con nuestros desarrolladores para garantizar que implementan procesos adecuados y sistemas con intervención humana para supervisar cualquier comportamiento negativo.

Nuestro objetivo es seguir trabajando para comprender mejor los posibles daños de la API en cada contexto de uso y así mejorar constantemente nuestras herramientas y procesos para ayudar a minimizarlos.

Actualizado el 18 de septiembre de 2020