GPT‑4 API general availability and deprecation of older models in the Completions API

Pembaruan 24 April 2024: Jeneng ChatGPT API wis ora digunakake maneh. Sebutan ChatGPT API ing blog iki ngrujuk menyang GPT‑3.5 Turbo API.
Wiwit dina iki, kabeh pelanggan API sing mbayar nduweni akses menyang GPT‑4. Ing Maret, kami ngenalake OpenAI API, lan ing awal wulan iki kami ngrilis pembaruan pisanan kami kanggo model berbasis chat. Kami mbayangake masa depan nalika model berbasis chat bisa ndhukung sembarang kasus panggunaan. Dina iki kami ngumumake rencana penghentian kanggo model lawas saka Completions API, lan nyaranake supaya pangguna nganggo Chat Completions API.
GPT‑4 yaiku model kami sing paling mumpuni. Mayuta-yuta developer wis njaluk akses menyang GPT‑4 API wiwit Maret, lan macem-macem produk inovatif sing nggunakake GPT‑4 saya tambah saben dina. Dina iki kabeh developer API sing wis ana lan nduweni riwayat pembayaran sing sukses bisa ngakses GPT‑4 API kanthi konteks 8K. Kami ngrancang mbukak akses kanggo developer anyar ing pungkasan wulan iki, banjur miwiti nambah rate limit sawisé kuwi gumantung kasedhiyan komputasi.
Adhedhasar stabilitas lan kesiapan model-model iki kanggo panggunaan skala produksi, kami uga nggawe GPT‑3.5 Turbo, DALL·E lan Whisper API dadi umum kasedhiya. Kami lagi ngupaya ngaktifake fine-tuning kanggo GPT‑4 lan GPT‑3.5 Turbo kanthi aman lan ngarepake fitur iki kasedhiya mengko ing taun iki.
Kami ngenalake Chat Completions API(mbukak ing jendhela anyar) ing Maret, lan saiki nyumbang 97% saka panggunaan API GPT kami.
Completions API awal dikenalake ing Juni 2020 kanggo nyedhiyakake prompt teks bebas kanggo sesambungan karo model basa kami. Wiwit kuwi, kami sinau manawa asring bisa menehi asil sing luwih apik kanthi antarmuka prompt sing luwih terstruktur. Paradigma berbasis chat kabukten kuat, nangani mayoritas gedhe kasus panggunaan sadurunge lan kabutuhan percakapan anyar, nalika uga menehi fleksibilitas lan spesifisitas sing luwih dhuwur. Mligine, antarmuka terstruktur Chat Completions API (umpamane, system messages, nelpon fungsi) lan kapabilitas percakapan multi-turn ndadekake para developer bisa mbangun pengalaman percakapan lan macem-macem tugas completion. Iki uga mbantu nurunake risiko serangan injeksi prompt, amarga konten sing diwenehake pangguna bisa dipisahake sacara struktural saka instruksi.
Kami ngrancang kanggo terus nandurake mayoritas upaya platform ing arah iki, amarga kami yakin iki bakal menehi pengalaman sing saya mumpuni lan gampang digunakake kanggo para developer. Kami lagi ngupaya nutup sawetara kesenjangan pungkasan ing Chat Completions API kanthi cepet, kayata probabilitas log kanggo token completion lan kontrol sing luwih gedhe kanggo nyuda “kerepen omong” ing respons.
Minangka bagean saka tambahé investasi kami ing Chat Completions API lan upaya kami kanggo ngoptimalake kapasitas komputasi, sajrone 6 sasi kami bakal mungkasi sawetara model lawas sing nggunakake Completions API. Sanajan API iki isih bisa diakses, kami bakal menehi label “legacy” ing dokumentasi developer wiwit dina iki. Kami ngrancang supaya perbaikan model lan produk ing mangsa ngarep fokus ing Chat Completions API, lan ora nduweni rencana kanggo ngrilis model anyar kanggo umum sing nggunakake Completions API.
Wiwit 4 Januari 2024, model completion lawas(mbukak ing jendhela anyar) ora bakal kasedhiya maneh, lan bakal diganti nganggo model-model iki:
Model lawas | Model anyar |
|---|---|
ada | babbage-002 |
babbage | babbage-002 |
curie | davinci-002 |
davinci | davinci-002 |
davinci-instruct-beta | gpt-3.5-turbo-instruct |
curie-instruct-beta | gpt-3.5-turbo-instruct |
text-ada-001 | gpt-3.5-turbo-instruct |
text-babbage-001 | gpt-3.5-turbo-instruct |
text-curie-001 | gpt-3.5-turbo-instruct |
text-davinci-001 | gpt-3.5-turbo-instruct |
text-davinci-002 | gpt-3.5-turbo-instruct |
text-davinci-003 | gpt-3.5-turbo-instruct |
Aplikasi sing nggunakake jeneng model stabil kanggo model dasar GPT‑3 (ada, babbage, curie, davinci) bakal otomatis dianyari menyang model anyar sing kacantum ing ndhuwur ing 4 Januari 2024. Model anyar kasebut uga bakal bisa diakses ing sawetara minggu sabanjure kanggo tes awal kanthi nemtokake jeneng model iki ing panggilan API: babbage-002, davinci-002.
Para developer sing nggunakake model completion lawas liyane (kayata text-davinci-003) kudu nganyari integrasine kanthi manual sadurunge 4 Januari 2024 kanthi nemtokake gpt-3.5-turbo-instruct ing parameter “model” saka panjalukan API. gpt-3.5-turbo-instruct yaiku model gaya InstructGPT, dilatih kanthi cara sing padha karo text-davinci-003. Model anyar iki minangka pengganti langsung ing Completions API lan bakal kasedhiya ing sawetara minggu sabanjure kanggo tes awal.
Para developer sing pengin terus nggunakake model fine-tuned ngluwihi 4 Januari 2024 kudu nggawe fine-tune pengganti ing ndhuwur model dasar GPT‑3 anyar (babbage-002, davinci-002), utawa model sing luwih anyar (gpt-3.5-turbo, gpt-4). Sawise fitur iki kasedhiya mengko ing taun iki, kami bakal menehi akses prioritas kanggo fine-tuning GPT‑3.5 Turbo lan GPT‑4 marang pangguna sing sadurunge wis nindakake fine-tune model lawas. Kami ngakoni manawa migrasi saka model sing di-fine-tune nganggo data panjenengan dhewe iku tantangan. Kami bakal nyedhiyakake dhukungan kanggo pangguna sing sadurunge nindakake fine-tune model supaya transisi iki lumaku semulus bisa.
Ing sawetara minggu sabanjure, kami bakal ngubungi para developer sing bubar nggunakake model lawas iki, lan bakal menehi informasi luwih lengkap yen model completion anyar wis siyap kanggo tes awal.
Pangguna model embedding lawas (umpamane, text-search-davinci-doc-001) kudu migrasi menyang text-embedding-ada-002 sadurunge 4 Januari 2024. Kami ngrilis text-embedding-ada-002 ing Desember 2022, lan nemokake manawa model iki luwih mumpuni lan luwih irit biaya tinimbang model sadurunge. Saiki text-embedding-ada-002 nyumbang 99,9% saka kabeh panggunaan embedding API.
Kami ngerti iki minangka owah-owahan gedhe kanggo para developer sing nggunakake model lawas kasebut. Mungkasi model-model iki dudu keputusan sing kami gawe kanthi sembrana. Kami bakal nanggung biaya finansial pangguna kanggo ng-embedding maneh konten nganggo model anyar iki. Kami bakal ngubungi pangguna sing kena dampak sajrone dina-dina sabanjure.
Model lawas | Model anyar |
|---|---|
code-search-ada-code-001 | text-embedding-ada-002 |
code-search-ada-text-001 | text-embedding-ada-002 |
code-search-babbage-code-001 | text-embedding-ada-002 |
code-search-babbage-text-001 | text-embedding-ada-002 |
text-search-ada-doc-001 | text-embedding-ada-002 |
text-search-ada-query-001 | text-embedding-ada-002 |
text-search-babbage-doc-001 | text-embedding-ada-002 |
text-search-babbage-query-001 | text-embedding-ada-002 |
text-search-curie-doc-001 | text-embedding-ada-002 |
text-search-curie-query-001 | text-embedding-ada-002 |
text-search-davinci-doc-001 | text-embedding-ada-002 |
text-search-davinci-query-001 | text-embedding-ada-002 |
text-similarity-ada-001 | text-embedding-ada-002 |
text-similarity-babbage-001 | text-embedding-ada-002 |
text-similarity-curie-001 | text-embedding-ada-002 |
text-similarity-davinci-001 | text-embedding-ada-002 |
Pangguna Edits API lan model-model sing gegandhengan (umpamane, text-davinci-edit-001 utawa code-davinci-edit-001) kudu migrasi menyang GPT‑3.5 Turbo sadurunge 4 Januari 2024. Beta Edits API minangka API eksploratif awal, dimaksudake supaya developer bisa mbalekake versi prompt sing wis diowahi adhedhasar instruksi. Kami nggunakake masukan saka Edits API nalika ngembangake gpt-3.5-turbo lan Chat Completions API, sing saiki bisa digunakake kanggo tujuan sing padha:


