GPT‑4 API general availability and deprecation of older models in the Completions API

Aġġornament tal-24 ta’ April, 2024: L-isem ChatGPT API twaqqaf. Ir-referenzi għall-ChatGPT API f’dan il-blog jirreferu għall-API ta’ GPT‑3.5 Turbo.

Mill-lum, il-klijenti kollha tal-API li jħallsu għandhom aċċess għal GPT‑4. F’Marzu, introduċejna l-OpenAI API⁠, u aktar kmieni dan ix-xahar ħriġna l-ewwel aġġornamenti tagħna⁠ għall-mudelli bbażati fuq iċ-chat. Aħna nimmaġinaw futur fejn mudelli bbażati fuq iċ-chat jistgħu jappoġġjaw kwalunkwe każ ta’ użu. Illum qed inħabbru pjan ta’ tneħħija gradwali għal mudelli eqdem tal-Completions API, u nirrakkomandaw li l-utenti jadottaw l-API tat-tlestija taċ-chats.

GPT‑4 huwa l-aktar mudell kapaċi tagħna. Minn Marzu ’l hawn, miljuni ta’ żviluppaturi talbu aċċess għall-API GPT‑4, u l-firxa ta’ prodotti innovattivi⁠ li jużaw GPT‑4 qed tikber kuljum. Illum l-iżviluppaturi kollha eżistenti tal-API bi storja ta’ ħlasijiet ta’ suċċess jistgħu jaċċessaw l-API GPT‑4 b’kuntest ta’ 8K. Nippjanaw li niftħu l-aċċess għal żviluppaturi ġodda sal-aħħar ta’ dan ix-xahar, u mbagħad nibdew inżidu r-rate limits skont id-disponibbiltà tal-komputazzjoni.

Ibbażat fuq l-istabbiltà u r-rieda ta’ dawn il-mudelli għal użu fuq skala ta’ produzzjoni, qed nagħmlu wkoll l-APIs ta’ GPT‑3.5 Turbo, DALL·E u Whisper ġeneralment disponibbli. Qed naħdmu biex nippermettu b’mod sigur l-irfinar għal GPT‑4 u GPT‑3.5 Turbo u nistennew li din il-karatteristika tkun disponibbli aktar tard din is-sena.

Introduċejna l-API tat-tlestija taċ-chats⁠(jinfetaħ f’tieqa ġdida) f’Marzu, u issa tirrappreżenta 97% tal-użu tagħna tal-API GPT.

L-ewwel Completions API ġiet introdotta f’Ġunju 2020 biex tipprovdi prompt ta’ test freeform għall-interazzjoni mal-mudelli tal-lingwa tagħna. Minn dakinhar tgħallimna li spiss nistgħu nipprovdu riżultati aħjar b’interfaċċa tal-prompt aktar strutturata. Il-paradigma bbażata fuq iċ-chat uriet li hija qawwija, u tlaħħaq mal-maġġoranza kbira tal-każijiet ta’ użu preċedenti u l-ħtiġijiet konversazzjonali ġodda, filwaqt li tipprovdi flessibbiltà u speċifiċità akbar. B’mod partikolari, l-interfaċċa strutturata tal-API tat-tlestija taċ-chats (eż., system messages, sejħa għall-funzjoni) u l-kapaċitajiet ta’ konverżazzjoni multi-turn jippermettu lill-iżviluppaturi jibnu esperjenzi konversazzjonali u firxa wiesgħa ta’ kompiti ta’ completion. Tgħin ukoll biex tnaqqas ir-riskju ta’ attakki ta’ injezzjoni tal-prompts, peress li l-kontenut ipprovdut mill-utent jista’ jiġi separat b’mod strutturali mill-istruzzjonijiet.

Qed nippjanaw li nkomplu ninvestu l-parti l-kbira tal-isforzi tal-pjattaforma tagħna f’din id-direzzjoni, għax nemmnu li se toffri esperjenza dejjem aktar kapaċi u faċli biex tintuża għall-iżviluppaturi. Qed naħdmu biex nagħlqu malajr l-aħħar ftit lakuni li fadal tal-API tat-tlestija taċ-chats, bħal log probabilities għat-tokens tat-tlestija u kontroll akbar biex innaqqsu l-“chattiness” tat-tweġibiet.

Bħala parti miż-żieda fl-investiment tagħna fl-API tat-tlestija taċ-chats u mill-isforzi tagħna biex nottimizzaw il-kapaċità tal-komputazzjoni tagħna, fi żmien 6 xhur se nkunu qed inneħħu gradwalment xi wħud mill-mudelli eqdem tagħna li jużaw il-Completions API. Għalkemm din l-API se tibqa’ aċċessibbli, se nittikkettawha bħala “legacy” fid-dokumentazzjoni tagħna għall-iżviluppaturi minn illum. Nippjanaw li t-titjib futur fil-mudelli u fil-prodotti jiffoka fuq l-API tat-tlestija taċ-chats, u m’għandniex pjanijiet li noħorġu pubblikament mudelli ġodda li jużaw il-Completions API.

Mill-4 ta’ Jannar 2024, mudelli eqdem ta’ completion⁠(jinfetaħ f’tieqa ġdida) ma jibqgħux disponibbli, u jiġu sostitwiti bil-mudelli li ġejjin:

L-applikazzjonijiet li jużaw l-ismijiet stabbli tal-mudelli għall-mudelli bażi GPT‑3 (ada, babbage, curie, davinci) awtomatikament jiġu aġġornati għall-mudelli l-ġodda elenkati hawn fuq fl-4 ta’ Jannar 2024. Il-mudelli l-ġodda se jkunu aċċessibbli wkoll fil-ġimgħat li ġejjin għal testijiet bikrija billi jiġu speċifikati l-ismijiet tal-mudelli li ġejjin fis-sejħiet tal-API: babbage-002, davinci-002.

L-iżviluppaturi li jużaw mudelli oħra eqdem ta’ completion (bħal text-davinci-003) se jkollhom jaġġornaw manwalment l-integrazzjoni tagħhom sal-4 ta’ Jannar 2024 billi jispeċifikaw gpt-3.5-turbo-instruct fil-parametru “model” tat-talbiet tagħhom lill-API. gpt-3.5-turbo-instruct huwa mudell stil InstructGPT, imħarreġ b’mod simili għal text-davinci-003. Dan il-mudell il-ġdid huwa sostitut dirett fil-Completions API u se jkun disponibbli fil-ġimgħat li ġejjin għal testijiet bikrija.

L-iżviluppaturi li jixtiequ jkomplu jużaw il-mudelli tagħhom irfinati lil hinn mill-4 ta’ Jannar 2024 se jkollhom jirfinaw sostituti fuq il-mudelli bażi GPT‑3 il-ġodda (babbage-002, davinci-002), jew mudelli aktar ġodda (gpt-3.5-turbo, gpt-4). Ladarba din il-karatteristika tkun disponibbli aktar tard din is-sena, se nagħtu aċċess prijoritarju għall-irfinar ta’ GPT‑3.5 Turbo u GPT‑4 lill-utenti li qabel irfinaw mudelli eqdem. Nirrikonoxxu li l-migrazzjoni minn mudelli rfinati fuq id-data tiegħek stess hija diffiċli. Se nipprovdu appoġġ lill-utenti li qabel irfinaw mudelli biex din it-tranżizzjoni tkun bla xkiel kemm jista’ jkun.

Fil-ġimgħat li ġejjin, se nikkuntattjaw lill-iżviluppaturi li dan l-aħħar użaw dawn il-mudelli eqdem, u se nipprovdu aktar informazzjoni ladarba l-mudelli l-ġodda ta’ completion ikunu lesti għal testijiet bikrija.

L-utenti ta’ mudelli ta’ embeddings eqdem (eż., text-search-davinci-doc-001) se jkollhom jemigraw għal text-embedding-ada-002 sal-4 ta’ Jannar 2024. Ħriġna text-embedding-ada-002 f’Diċembru 2022, u sibna li huwa aktar kapaċi u aktar kosteffettiv mill-mudelli ta’ qabel. Illum text-embedding-ada-002 jirrappreżenta 99.9% tal-użu kollu tal-API tal-embedding.

Nirrikonoxxu li din hija bidla sinifikanti għall-iżviluppaturi li jużaw dawk il-mudelli eqdem. It-tneħħija gradwali ta’ dawn il-mudelli mhijiex deċiżjoni li qed nieħdu b’mod ħafif. Aħna se nkopru l-ispiża finanzjarja biex l-utenti jerġgħu joħolqu embeddings tal-kontenut b’dawn il-mudelli l-ġodda. Se nkunu f’kuntatt mal-utenti affettwati matul il-jiem li ġejjin.

L-utenti tal-Edits API u l-mudelli assoċjati magħha (eż., text-davinci-edit-001 jew code-davinci-edit-001) se jkollhom jemigraw għal GPT‑3.5 Turbo sal-4 ta’ Jannar 2024. Il-beta tal-Edits API kienet API bikrija ta’ esplorazzjoni, maħsuba biex tippermetti lill-iżviluppaturi jirritornaw verżjoni editjata tal-prompt abbażi ta’ istruzzjonijiet. Ħadna inkunsiderazzjoni l-feedback mill-Edits API meta żviluppajna gpt-3.5-turbo u l-API tat-tlestija taċ-chats, li issa jistgħu jintużaw għall-istess skop: