GPT‑4 API general availability and deprecation of older models in the Completions API

Actualització del 24 d'abril de 2024: el nom ChatGPT API s'ha descontinuat. Les mencions a la ChatGPT API en aquest blog fan referència a l'API de GPT‑3.5 Turbo.

A partir d'avui, tots els clients de pagament de l'API tenen accés a GPT‑4. Al març, vam presentar l'API d'OpenAI⁠, i a principis d'aquest mes vam llançar les primeres actualitzacions⁠ dels models basats en xat. Imaginem un futur en què els models basats en xat puguin donar suport a qualsevol cas d'ús. Avui anunciem un pla de descontinuació per als models antics de l'API Completions i recomanem als usuaris que adoptin l'API de complecions de xat.

GPT‑4 és el nostre model més capaç. Des del març, milions de desenvolupadors han demanat accés a l'API de GPT‑4, i la gamma de productes innovadors⁠ que aprofiten GPT‑4 creix cada dia. Avui, tots els desenvolupadors existents de l'API amb un historial de pagaments correctes poden accedir a l'API de GPT‑4 amb un context de 8K. Tenim previst obrir l'accés a desenvolupadors nous a finals d'aquest mes i, després, començar a augmentar els límits de taxa en funció de la disponibilitat de càlcul.

Basant-nos en l'estabilitat i la preparació d'aquests models per a un ús a escala de producció, també fem disponibles de manera general les API de GPT‑3.5 Turbo, DALL·E i Whisper. Estem treballant per habilitar de manera segura l'ajust fi per a GPT‑4 i GPT‑3.5 Turbo i esperem que aquesta funció estigui disponible més endavant aquest any.

Vam presentar l'API de complecions de xat⁠(s'obre en una finestra nova) al març, i ara representa el 97 % del nostre ús de GPT a l'API. 

L'API Completions inicial es va presentar el juny de 2020 per oferir una indicació de text lliure per interactuar amb els nostres models de llenguatge. Des de llavors, hem après que sovint podem oferir millors resultats amb una interfície d'indicacions més estructurada. El paradigma basat en xat ha demostrat ser potent, ja que cobreix la gran majoria dels casos d'ús anteriors i les noves necessitats conversacionals, alhora que ofereix més flexibilitat i especificitat. En particular, la interfície estructurada de l'API de complecions de xat (p. ex., missatges del sistema, crida a funcions) i les capacitats de conversa de diversos torns permeten als desenvolupadors crear experiències conversacionals i una àmplia gamma de tasques de compleció. També ajuda a reduir el risc d'atacs d'injecció d'indicacions, ja que el contingut proporcionat per l'usuari es pot separar estructuralment de les instruccions.

Tenim previst continuar invertint la major part dels nostres esforços de plataforma en aquesta direcció, ja que creiem que oferirà una experiència cada cop més capaç i fàcil d'utilitzar per als desenvolupadors. Estem treballant per tancar ràpidament les últimes bretxes que queden a l'API de complecions de xat, com ara les probabilitats logarítmiques dels segments de compleció i una major capacitat de control per reduir la «xafarderia» de les respostes.

Com a part de l'augment de la nostra inversió en l'API de complecions de xat i dels nostres esforços per optimitzar la capacitat de càlcul, d'aquí a 6 mesos retirarem alguns dels nostres models antics que utilitzen l'API Completions. Tot i que aquesta API continuarà sent accessible, a partir d'avui l'etiquetarem com a «legacy» a la nostra documentació per a desenvolupadors. Tenim previst que les futures millores de models i productes se centrin en l'API de complecions de xat, i no tenim previst publicar nous models que utilitzin l'API Completions.

A partir del 4 de gener de 2024, els models antics de compleció⁠(s'obre en una finestra nova) ja no estaran disponibles i seran substituïts pels models següents:

Les aplicacions que utilitzen els noms de model estables per als models base de GPT‑3 (ada, babbage, curie, davinci) s'actualitzaran automàticament als models nous indicats més amunt el 4 de gener de 2024. Els models nous també seran accessibles durant les properes setmanes per a proves primerenques si s'especifiquen els noms de model següents a les crides de l'API: babbage-002, davinci-002.

Els desenvolupadors que utilitzin altres models antics de compleció (com ara text-davinci-003) hauran d'actualitzar manualment la seva integració abans del 4 de gener de 2024 indicant gpt-3.5-turbo-instruct al paràmetre «model» de les seves sol·licituds a l'API. gpt-3.5-turbo-instruct és un model d'estil InstructGPT, entrenat de manera semblant a text-davinci-003. Aquest model nou és un substitut directe a l'API Completions i estarà disponible durant les properes setmanes per a proves primerenques.

Els desenvolupadors que vulguin continuar utilitzant els seus models ajustats finament més enllà del 4 de gener de 2024 hauran d'ajustar replacements sobre els models base nous de GPT‑3 (babbage-002, davinci-002) o sobre models més nous (gpt-3.5-turbo, gpt-4). Quan aquesta funció estigui disponible més endavant aquest any, donarem accés prioritari a l'ajust fi de GPT‑3.5 Turbo i GPT‑4 als usuaris que anteriorment havien ajustat finament models antics. Reconeixem que migrar des de models ajustats finament amb les vostres pròpies dades és complicat. Donarem suport als usuaris que anteriorment havien ajustat finament models perquè aquesta transició sigui tan fluida com sigui possible.

Durant les properes setmanes, ens posarem en contacte amb els desenvolupadors que hagin utilitzat recentment aquests models antics i facilitarem més informació quan els nous models de compleció estiguin a punt per a proves primerenques.

Els usuaris de models antics d'embeddings (p. ex., text-search-davinci-doc-001) hauran de migrar a text-embedding-ada-002 abans del 4 de gener de 2024. Vam llançar text-embedding-ada-002 el desembre de 2022 i hem comprovat que és més capaç i més rendible que els models anteriors. Avui, text-embedding-ada-002 representa el 99,9 % de tot l'ús de l'API d'embeddings.

Som conscients que aquest és un canvi important per als desenvolupadors que utilitzen aquests models antics. La retirada progressiva d'aquests models no és una decisió que prenguem a la lleugera. Assumirem el cost financer de tornar a generar embeddings del contingut dels usuaris amb aquests models nous. Ens posarem en contacte amb els usuaris afectats durant els propers dies.

Els usuaris de l'API Edits i dels models associats (p. ex., text-davinci-edit-001 o code-davinci-edit-001) hauran de migrar a GPT‑3.5 Turbo abans del 4 de gener de 2024. La beta de l'API Edits era una API exploratòria inicial, pensada per permetre als desenvolupadors retornar una versió editada de la indicació basada en instruccions. Vam tenir en compte els comentaris sobre l'API Edits en desenvolupar gpt-3.5-turbo i l'API de complecions de xat, que ara es poden utilitzar amb la mateixa finalitat: