Introducing more enterprise-grade features for API customers
Kami kerja bareng karo akeh enterprise kaya Klarna, Morgan Stanley, Oscar, Salesforce, lan Wix kanggo mbantu dheweke mbangun solusi AI saka nol lan nyebarake AI kanthi aman ing saindenging organisasi lan produk. Kami lagi ngiyatake dhukungan kanggo enterprise nganggo fitur anyar sing migunani kanggo bisnis gedhe lan pangembang apa wae sing lagi cepet ngembang ing platform kami.
Kami wis ngenalake Private Link, cara anyar supaya pelanggan bisa njamin komunikasi langsung antarane Azure lan OpenAI nalika nyilikake paparan menyang internet umum. Kami uga wis ngluncurake Autentikasi Multi-Faktor(mbukak ing jendhela anyar) (MFA) native kanggo mbantu njamin kepatuhan marang syarat kontrol akses sing saya mundhak. Iki minangka tambahan anyar kanggo tumpukan fitur keamanan enterprise(mbukak ing jendhela anyar) sing wis ana, kalebu sertifikasi SOC 2 Tipe II, single sign-on (SSO), enkripsi data nalika disimpen nggunakake AES-256 lan nalika dikirim nggunakake TLS 1.2, lan kontrol akses adhedhasar peran. Kami uga nawakake Perjanjian Rekanan Bisnis(mbukak ing jendhela anyar) kanggo perusahaan kesehatan sing mbutuhake kepatuhan HIPAA lan kebijakan retensi data nol kanggo pelanggan API kanthi kasus panggunaan sing nyukupi syarat.
Kanthi fitur Projects(mbukak ing jendhela anyar) anyar kami, organisasi bakal nduweni kontrol lan pengawasan sing luwih rinci marang proyek-proyek individu ing OpenAI. Iki kalebu kemampuan kanggo matesi peran lan kunci API menyang proyek tartamtu, matesi/ngidini model endi sing kasedhiya, lan nyetel wates adhedhasar panggunaan lan tarif kanggo menehi akses lan ngindhari biaya keluwihan sing ora dikarepake. Pamilik proyek uga bakal nduweni kemampuan kanggo nggawe kunci API akun layanan, sing menehi akses menyang proyek tanpa digandhengake karo pangguna individu.
Kami wis ngenalake sawetara pembaruan kanggo Assistants API supaya retrieval luwih akurat, luwih fleksibel babagan prilaku model lan piranti sing digunakake kanggo ngrampungake tugas, lan kontrol biaya sing luwih apik. Fitur-fitur iki kalebu:
- Retrieval sing luwih apik nganggo ‘file_search’ sing bisa ngemot nganti 10.000 file saben assistant—mundhak 500x saka wates file sadurunge yaiku 20. Piranti iki luwih cepet, ndhukung query paralel liwat panelusuran multi-thread, lan nduweni reranking lan query rewriting sing luwih apik.
- Dhukungan streaming kanggo respons percakapan wektu nyata—salah siji panjaluk paling dhuwur saka pangembang lan enterprise.
Objek ‘vector_store’ anyar ing API supaya file bisa ditambahake menyang vector store lan otomatis diparse, dipotong dadi chunk, lan di-embed kanggo nyiapake file search. Vector store bisa digunakake lintas assistant lan thread, dadi manajemen file lan tagihan luwih prasaja. - Kontrol marang jumlah token maksimum sing digunakake saben run, ditambah watesan kanggo pesen sadurunge lan pesen paling anyar sing digunakake ing saben run, supaya sampeyan bisa ngatur biaya panggunaan token.
Parameter ‘tool_choice’ anyar kanggo milih piranti tartamtu (kayata ‘file_search’, ‘code_interpreter’, utawa ‘function’) ing run tartamtu. - Dhukungan kanggo model GPT‑3.5 Turbo sing wis di-fine-tune ing API (kanggo wiwitan, kami bakal ndhukung fine-tune saka ‘gpt-3.5-turbo-0125’).
Kanggo mbantu organisasi ngembangake panggunaan AI tanpa ngluwihi anggaran, kami nambahake rong cara anyar kanggo nyuda biaya ing beban kerja sing konsisten lan asinkron:
- Panggunaan diskon kanggo kapasitas pangolahan sing dikomitmenake: Pelanggan sing nduweni tingkat panggunaan token per menit (TPM) sing ajeg ing GPT‑4 utawa GPT‑4 Turbo bisa njaluk akses menyang kapasitas pangolahan sing diprovisi supaya entuk diskon 10–50% adhedhasar gedhene komitmen.
- Biaya luwih murah kanggo beban kerja asinkron: Pelanggan bisa nggunakake Batch API(mbukak ing jendhela anyar)anyar kami kanggo mbukak beban kerja sing ora mendesak kanthi asinkron. Rega panyuwunan Batch API diskon 50% saka rega bareng, nawakake wates tarif sing luwih dhuwur, lan mbalekake asil sajrone 24 jam. Iki cocog kanggo kasus panggunaan kaya evaluasi model, klasifikasi offline, ringkesan, lan pandamelan data sintetik.
Kami ngrancang bakal terus nambah fitur anyar sing fokus marang keamanan tingkat enterprise, kontrol administratif, lan manajemen biaya. Kanggo informasi luwih lengkap babagan peluncuran iki, bukak dokumentasi API(mbukak ing jendhela anyar) kami utawa hubungi tim kami kanggo ngrembug solusi khusus kanggo enterprise sampeyan.
