API de OpenAI

Lanzamos una API para acceder a los nuevos modelos de IA desarrollados por OpenAI. A diferencia de la mayoría de los sistemas de IA, que están diseñados para un solo caso de uso, la API que hoy presentamos ofrece una interfaz de uso general de “entrada de texto, salida de texto”, que permite a los usuarios probarla en prácticamente cualquier tarea en inglés. Ahora puedes solicitar acceso para integrar la API en tu producto, desarrollar una aplicación totalmente nueva o ayudarnos a explorar las fortalezas y los límites de esta tecnología.

Ante cualquier mensaje de texto, la API devolverá un texto completado que intentará coincidir con el patrón que le hayas proporcionado. Puedes “programarla” mostrándole solo algunos ejemplos de lo que quieres que haga; por lo que su éxito suele variar en función de la complejidad de la tarea. La API también te permite perfeccionar el rendimiento en tareas específicas mediante el entrenamiento en un conjunto de datos (pequeño o grande) de ejemplos que le proporciones, o mediante el aprendizaje a partir de comentarios humanos proporcionados por usuarios o etiquetadores.

Diseñamos la API para que sea fácil de utilizar por cualquiera, pero también lo suficientemente flexible como para que los equipos de aprendizaje automático sean más productivos. De hecho, muchos de nuestros equipos utilizan ahora la API para poder centrarse en la investigación del aprendizaje automático en lugar de en los problemas de los sistemas distribuidos. En la actualidad, la API ejecuta modelos con ponderaciones de la familia GPT‑3⁠(se abre en una nueva ventana) con muchas mejoras de velocidad y rendimiento. El aprendizaje automático avanza muy rápido, y actualizamos constantemente nuestra tecnología para que nuestros usuarios estén actualizados.

El ritmo al que avanza este campo hace que con frecuencia surjan nuevas y sorprendentes aplicaciones de la IA, tanto positivas como negativas. Pondremos fin al acceso de la API en casos de uso obviamente perjudicial, como el acoso, el envío de correo no deseado, la radicalización o las campañas pseudoespontáneas. Sin embargo, también sabemos que no podemos anticipar todas las posibles consecuencias de esta tecnología, por lo que hoy lanzamos una versión Beta privada en lugar de la disponibilidad general, creamos herramientas para ayudar a los usuarios a controlar mejor el contenido que devuelve nuestra API e investigamos aspectos de la tecnología lingüística relevantes para la seguridad (como analizar, mitigar e intervenir en sesgos perjudiciales). Compartiremos lo que aprendamos para que nuestros usuarios y la comunidad en general puedan crear sistemas de IA más humanos.

Además de ser una fuente de ingresos que nos ayuda a afrontar los costos⁠ de nuestra misión⁠, la API nos permite centrarnos más en la tecnología de IA de uso general: mejorarla, hacerla útil y tener en cuenta su impacto en el mundo real. Esperamos que la API reduzca en gran medida los obstáculos⁠(se abre en una nueva ventana) a la hora de crear productos beneficiosos basados en la IA, lo que dará lugar a herramientas y servicios difíciles de imaginar hoy en día.

¿Te interesa explorar la API? Únete a empresas como Algolia⁠(se abre en una nueva ventana), Quizlet⁠(se abre en una nueva ventana) y Reddit⁠(se abre en una nueva ventana), y a investigadores de instituciones como el Middlebury Institute⁠(se abre en una nueva ventana) en nuestra versión Beta privada⁠(se abre en una nueva ventana).

En definitiva, lo que más nos importa⁠ es garantizar que la inteligencia artificial general beneficie a todo el mundo. Vemos el desarrollo de productos comerciales como una de las formas de asegurarnos de que contamos con financiación suficiente para tener éxito.

También creemos que será difícil implementar con seguridad sistemas de IA potentes en el mundo. Al lanzar la API, estamos trabajando estrechamente con nuestros socios para ver los desafíos que surgen cuando los sistemas de IA se utilizan en el mundo real. Esto ayudará a orientar nuestros esfuerzos por comprender cómo será la implementación de los futuros sistemas de IA y qué debemos hacer para garantizar que sean seguros y útiles para todos.

Hay tres razones principales. En primer lugar, la comercialización de la tecnología nos ayuda a afrontar los costos de la investigación, la seguridad y la política en materia de IA.

En segundo lugar, muchos de los modelos en los que se basa la API son muy grandes, por lo que su desarrollo e implementación requiere mucha experiencia y su ejecución es muy costosa. Esto dificulta que cualquiera, excepto las grandes empresas, pueda beneficiarse de la tecnología subyacente. Esperamos que la API haga más accesibles los potentes sistemas de IA a las empresas y organizaciones más pequeñas.

En tercer lugar, el modelo de la API nos permite responder con mayor facilidad al uso indebido de la tecnología. Dado que es difícil predecir a futuro los casos de uso de nuestros modelos, inevitablemente nos parece más seguro publicarlos por medio de una API y ampliar el acceso con el tiempo que lanzar un modelo de código abierto en el que no se podría regular el acceso si el modelo llegara a tener aplicaciones perjudiciales.

Con GPT‑2, una de nuestras principales inquietudes era el uso malintencionado del modelo (p. ej., para desinformación), que es difícil de evitar una vez que el modelo es de código abierto. En el caso de la API, podemos prevenir mejor el uso indebido limitando el acceso a los clientes y casos de uso aprobados. Tenemos un proceso obligatorio de revisión de la producción antes de que las aplicaciones propuestas puedan comenzar a funcionar. En las revisiones de producción, evaluamos las aplicaciones a través de varios ejes, y hacemos preguntas como: ¿Se trata de un caso de uso compatible en la actualidad?, ¿En qué medida la aplicación es abierta?, ¿En qué medida la aplicación es peligrosa?, ¿Cómo piensas abordar un posible uso indebido? y ¿Quiénes son los usuarios finales de tu aplicación?

Cancelamos el acceso a la API en los casos de uso que causan (o pretenden causar) daños físicos, emocionales o psicológicos a las personas, incluidos, entre otros, el acoso, el engaño intencionado, la radicalización, las campañas pseudoespontáneas o el envío de correo no deseado, así como en las aplicaciones que no cuentan con suficientes medidas de protección para limitar el uso indebido por parte de los usuarios finales. A medida que adquiramos más experiencia con la API en la práctica, perfeccionaremos continuamente las categorías de uso compatibles, tanto para ampliar la gama de aplicaciones que podemos usar como para crear categorías más precisas para aquellas cuyo uso indebido nos preocupa.

Un factor clave que tenemos en cuenta a la hora de aprobar los usos de la API es la medida en que una aplicación muestra un comportamiento abierto o restringido con respecto a las funcionalidades generativas subyacentes del sistema. Las aplicaciones abiertas de la API (es decir, las que permiten generar sin problemas grandes cantidades de texto personalizable a través de mensajes arbitrarios) son muy susceptibles al uso indebido. Las restricciones que garantizan la seguridad de los casos de uso generativo incluyen el diseño de sistemas que mantienen a una persona informada, las restricciones de acceso del usuario final, el procesamiento posterior de los resultados, la filtración de contenidos, las limitaciones de longitud de entrada/salida, la supervisión activa y las limitaciones de interés actual.

También seguimos investigando los posibles usos indebidos de los modelos que ofrece la API, incluso con investigadores de terceros a través de nuestro programa de acceso académico⁠(se abre en una nueva ventana). Por el momento, empezamos con un número muy limitado de investigadores y ya tenemos algunos resultados de nuestros socios académicos del Middlebury Institute⁠(se abre en una nueva ventana), la Universidad de Washington y el Allen Institute for AI⁠(se abre en una nueva ventana). Ya tenemos decenas de miles de solicitantes para este programa y actualmente priorizamos las solicitudes centradas en la investigación de la imparcialidad y la representación.

La mitigación de efectos negativos como el sesgo perjudicial es una cuestión difícil que afecta a todo el sector y que es muy importante. Tal y como comentamos en el documento de GPT‑3⁠(se abre en una nueva ventana) y en la tarjeta del modelo⁠(se abre en una nueva ventana), nuestros modelos de API presentan sesgos que se reflejarán en el texto generado. A continuación, se indican los pasos que adoptamos para abordar estas cuestiones:

• Desarrollamos pautas de uso que ayudan a los desarrolladores a comprender y abordar los posibles problemas de seguridad.
• Colaboramos estrechamente con los usuarios para comprender sus casos de uso y desarrollar herramientas que permitan detectar los sesgos perjudiciales e intervenir para mitigarlos.
• Llevamos a cabo nuestra propia investigación sobre las demostraciones de sesgos perjudiciales y cuestiones más amplias de imparcialidad y representación, que contribuirán a informar nuestro trabajo mediante una mejor documentación de los modelos existentes, así como diversas mejoras de los modelos futuros.
• Reconocemos que el sesgo es un problema que se manifiesta en la intersección de un sistema y un contexto implementado; las aplicaciones creadas con nuestra tecnología son sistemas sociotécnicos, por lo que trabajamos con nuestros desarrolladores para asegurarnos de que incorporan los procesos adecuados y los sistemas humanos de control para detectar comportamientos adversos.

Nuestro objetivo es continuar desarrollando nuestra comprensión de los daños potenciales de la API en cada contexto de uso, y mejorar de forma continua nuestras herramientas y procesos para ayudar a minimizarlos.

Actualizado el 18 de septiembre de 2020