GPT‑4 API general availability and deprecation of older models in the Completions API

Ажурирање од 24. априла 2024: Назив ChatGPT API је укинут. Помињања ChatGPT API-ја на овом блогу односе се на GPT‑3.5 Turbo API.

Од данас, сви API клијенти који плаћају имају приступ GPT‑4. У марту смо представили OpenAI API⁠, а раније овог месеца смо објавили наша прва ажурирања⁠ за моделе засноване на ћаскању. Замишљамо будућност у којој модели засновани на ћаскању могу да подрже сваки случај употребе. Данас најављујемо план укидања старијих модела Completions API-ја и препоручујемо да корисници усвоје API за довршавање ћаскања.

GPT‑4 је наш најспособнији модел. Милиони програмера су од марта тражили приступ GPT‑4 API-ју, а опсег иновативних производа⁠ који користе GPT‑4 расте сваког дана. Данас сви постојећи API програмери са историјом успешних уплата могу да приступе GPT‑4 API-ју са 8K контекстом. Планирамо да до краја овог месеца отворимо приступ и за нове програмере, а затим да након тога почнемо да повећавамо ограничења брзине у зависности од доступности рачунарских капацитета.

На основу стабилности и спремности ових модела за употребу у продукцији великих размера, такође чинимо GPT‑3.5 Turbo, DALL·E и API-је модела Whisper опште доступним. Радимо на безбедном омогућавању финог подешавања за GPT‑4 и GPT‑3.5 Turbo и очекујемо да ова функција буде доступна касније ове године.

Представили смо API за довршавање ћаскања⁠(отвара се у новом прозору) у марту и он сада чини 97% наше GPT API употребе. 

Почетни Completions API представљен је у јуну 2020. како би омогућио слободну текстуалну инструкцију за интеракцију са нашим језичким моделима. Од тада смо научили да често можемо да пружимо боље резултате уз структуриранији интерфејс за инструкције. Парадигма заснована на ћаскању показала се моћном, јер покрива велику већину претходних случајева употребе и нових конверзацијских потреба, уз већу флексибилност и прецизност. Нарочито, структурирани интерфејс Chat Completions API-ја (нпр. системске поруке, позивање функције) и могућности разговора у више корака омогућавају програмерима да граде конверзацијска искуства и широк спектар задатака довршавања. То такође помаже да се смањи ризик од напада уметањем инструкције, јер се садржај који обезбеђује корисник може структурно одвојити од инструкција.

Планирамо да наставимо да улажемо већину наших напора на платформи у овом правцу, јер верујемо да ће то програмерима понудити све способније искуство које је лако за коришћење. Радимо на томе да брзо затворимо последњих неколико преосталих празнина API-ја за довршавање ћаскања, као што су вероватноће логова за токене довршавања и већа управљивост како би се смањила „разговорљивост“ одговора.

Као део наших повећаних улагања у API за довршавање ћаскања и наших напора да оптимизујемо рачунарске капацитете, за 6 месеци ћемо повући неке од наших старијих модела који користе Completions API. Иако ће овај API остати доступан, од данас ћемо га у документацији за програмере означавати као „legacy“. Планирамо да се будућа побољшања модела и производа усредсреде на API за довршавање ћаскања и не планирамо јавно објављивање нових модела који користе Completions API.

Почев од 4. јануара 2024, старији модели за довршавање⁠(отвара се у новом прозору) више неће бити доступни и биће замењени следећим моделима:

Апликације које користе стабилне називе модела за основне GPT‑3 моделе (ada, babbage, curie, davinci) биће аутоматски надограђене на нове моделе наведене изнад 4. јануара 2024. Нови модели ће такође бити доступни у наредним недељама за рано тестирање навођењем следећих назива модела у API позивима: babbage-002, davinci-002.

Програмери који користе друге старије моделе за довршавање (као што је text-davinci-003) мораће ручно да надограде своју интеграцију до 4. јануара 2024. тако што ће навести gpt-3.5-turbo-instruct у параметру „model“ својих API захтева. gpt-3.5-turbo-instruct је модел у стилу InstructGPT, обучен слично као text-davinci-003. Овај нови модел је директна замена у Completions API-ју и биће доступан у наредним недељама за рано тестирање.

Програмери који желе да наставе да користе своје фино подешене моделе и након 4. јануара 2024. мораће да фино подесе замене на новим основним GPT‑3 моделима (babbage-002, davinci-002) или новијим моделима (gpt-3.5-turbo, gpt-4). Када ова могућност постане доступна касније ове године, корисницима који су раније фино подешавали старије моделе даћемо приоритетни приступ за фино подешавање GPT‑3.5 Turbo и GPT‑4. Свесни смо да је прелазак са модела који су фино подешени на вашим сопственим подацима изазован. Пружаћемо подршку корисницима који су раније фино подешавали моделе како бисмо овај прелаз учинили што лакшим.

У наредним недељама контактираћемо програмере који су недавно користили ове старије моделе и пружићемо више информација када нови модели за довршавање буду спремни за рано тестирање.

Корисници старијих модела за ембедовање (нпр. text-search-davinci-doc-001) мораће да пређу на text-embedding-ada-002 до 4. јануара 2024. Објавили смо text-embedding-ada-002 у децембру 2022. и утврдили да је способнији и исплативији од претходних модела. Данас text-embedding-ada-002 чини 99,9% укупне употребе embedding API-ја.

Свесни смо да је ово значајна промена за програмере који користе те старије моделе. Гашење ових модела није одлука коју доносимо олако. Покрићемо финансијски трошак поновног ембедовања садржаја корисника овим новим моделима. Контактираћемо погођене кориснике током наредних дана.

Корисници Edits API-ја и њему придружених модела (нпр. text-davinci-edit-001 или code-davinci-edit-001) мораће да пређу на GPT‑3.5 Turbo до 4. јануара 2024. Бета верзија Edits API-ја била је рани истраживачки API, намењен да омогући програмерима да врате измењену верзију инструкције на основу упутстава. Узели смо у обзир повратне информације из Edits API-ја приликом развоја gpt-3.5-turbo и API-ја за довршавање ћаскања, који се сада могу користити у исту сврху: