Disponibilidad general de la API de GPT‑4 y obsolescencia de los modelos más antiguos en la API Completions

Actualización del 24 de abril de 2024: el nombre API de ChatGPT se ha eliminado. Las menciones a la API de ChatGPT que figuran en este blog hacen referencia a la API de GPT‑3.5 Turbo.

Desde hoy, todos los clientes de pago de la API tienen acceso a GPT‑4. En marzo, presentamos la API de OpenAI⁠ y, a principios de este mes, publicamos nuestras primeras actualizaciones⁠ de los modelos basados en el chat. Vislumbramos un futuro en el que los modelos del chat sean compatibles con cualquier aplicación. Hoy anunciamos un plan de obsolescencia para los modelos más antiguos de la API Completions y recomendamos a los usuarios que adopten la API Chat Completions.

GPT‑4 es nuestro modelo más potente. Millones de desarrolladores han solicitado acceso a la API de GPT‑4 desde marzo, y la gama de productos innovadores⁠ que aprovechan GPT‑4 crece cada día. Los desarrolladores de todas las API existentes con un historial de pagos satisfactorio ya pueden acceder a la API de GPT‑4 con una longitud de contexto de 8000 tokens. Prevemos ofrecer acceso a los nuevos desarrolladores a finales de este mes y, después, empezar a aumentar los límites de la tarifa según la disponibilidad de computación.

En función de la estabilidad y la agilidad de estos modelos para un uso de producción a escala, también estarán disponibles, en general, las API de GPT‑3.5 Turbo, DALL·E y Whisper. Estamos trabajando en habilitar de forma segura la optimización de GPT‑4 y GPT‑3.5 Turbo y esperamos que esta función esté disponible a finales de este año.

Presentamos la API Chat Completions⁠(se abre en una ventana nueva) en marzo, y esta ya representa el 97 % del uso de nuestra API de GPT. 

La API inicial de Completions se estrenó en junio de 2020 y ofrecía prompts de texto en formato libre para interactuar con nuestros modelos de lenguaje. Desde entonces, hemos aprendido que a menudo podemos ofrecer mejores resultados con una interfaz más estructurada para los prompts. El paradigma basado en el chat ha resultado ser potente, ya que gestiona la mayoría de las aplicaciones anteriores y las nuevas necesidades conversacionales, además de ofrecer mayor flexibilidad y especificidad. En concreto, la interfaz estructurada de la API Chat Completions (por ejemplo, mensajes del sistema o llamada de función) y sus funciones de conversación de turno múltiple permiten a los desarrolladores crear experiencias conversacionales y una amplia gama de tareas de finalización. Esto también ayuda a reducir el riesgo de ataques de inyección de prompts, puesto que el contenido proporcionado por el usuario puede separarse estructuralmente de las instrucciones.

Prevemos continuar invirtiendo la mayor parte de las iniciativas de nuestra plataforma en esta dirección, puesto que creemos que ofrecerá una experiencia cada vez más idónea y fácil de usar para los desarrolladores. Estamos trabajando en solventar las últimas deficiencias de la API Chat Completions rápidamente, como el registro de la corrección de los tokens de finalización y aumentar la gobernabilidad para reducir la «locuacidad» de las respuestas.

Como parte de nuestra mayor inversión en la API Chat Completions y nuestros esfuerzos por optimizar nuestra capacidad de computación, en seis meses retiraremos algunos de nuestros modelos antiguos que usan la API Completions. Aunque esta API seguirá siendo accesible, la etiquetaremos como «heredada» en nuestra documentación para desarrolladores a partir de hoy. Prevemos que las futuras mejoras de modelos y productos se centren en la API Chat Completions y no tenemos pensado publicar nuevos modelos que usen la API Completions.

Desde el 4 de enero de 2024, los modelos más antiguos de finalización⁠(se abre en una ventana nueva) dejarán de estar disponibles y serán sustituidos por los siguientes modelos:

Las aplicaciones que usan los nombres de modelos estables para los modelos básicos de GPT‑3 (ada, babbage, curie y davinci) se actualizarán de forma automática a los nuevos modelos mencionados previamente el 4 de enero de 2024. Los nuevos modelos también estarán accesibles en las próximas semanas para las pruebas iniciales especificando los nombres de los modelos siguientes en las llamadas a la API: babbage-002, davinci-002.

Los desarrolladores que usan otros modelos de finalización más antiguos (como text-davinci-003) tendrán que haber actualizado manualmente su integración antes del 4 de enero de 2024 especificando gpt-3.5-turbo-instruct en el parámetro «modelo» de sus solicitudes de API. gpt-3.5-turbo-instruct es un modelo del tipo InstructGPT, con un entrenamiento similar al de text-davinci-003. Este nuevo modelo es una sustitución directa de la API Completions y estará disponible en las próximas semanas para las pruebas iniciales.

Los desarrolladores que deseen continuar usando sus modelos optimizados después del 4 de enero de 2024 tendrán que ajustar las sustituciones sobre los nuevos modelos básicos de GPT‑3 (babbage-002, davinci-002), o modelos más actuales (gpt-3.5-turbo, gpt-4). Una vez que esta función esté disponible a finales de año, los usuarios que hayan ajustado antes los modelos más antiguos tendrán prioridad en el acceso a la optimización de GPT‑3.5 Turbo y GPT‑4. Reconocemos que es difícil migrar de los modelos optimizados a partir de tus propios datos. Ofreceremos asistencia a los usuarios que hayan ajustado antes los modelos para que esta transición sea lo más fluida posible.

Durante las próximas semanas, contactaremos con los desarrolladores que hayan usado hace poco estos modelos más antiguos y les daremos más información cuando los nuevos modelos de finalización estén listos para las pruebas iniciales.

Los usuarios de las integraciones de modelos más antiguos (por ejemplo, text-search-davinci-doc-001) tendrán que migrar a text-embedding-ada-002 antes del 4 de enero de 2024. Lanzamos text-embedding-ada-002 en diciembre de 2022, y lo consideramos más potente y rentable que los modelos anteriores. Actualmente, text-embedding-ada-002 representa el 99,9 % de todo el uso de integración de la API.

Admitimos que esto supone un cambio significativo para los desarrolladores que usan esos modelos más antiguos. Sin embargo, retirar estos modelos es una decisión muy meditada. Sufragaremos los costes financieros de los usuarios que reintegren el contenido con estos nuevos modelos y nos pondremos en contacto con los usuarios afectados en los próximos días.

Los usuarios de la API Edits y los modelos asociados a ella (por ejemplo, text-davinci-edit-001 o code-davinci-edit-001) tendrán que migrar a GPT‑3.5 Turbo antes del 4 de enero de 2024. La API beta de Edits fue una API inicial experimental diseñada para que los desarrolladores pudieran volver a una versión modificada del prompt en función de unas directrices. Tuvimos en cuenta los comentarios sobre la API Edits cuando desarrollamos gpt-3.5-turbo y la API Chat Completions, que ahora se pueden usar para el mismo fin: