Memperkenalkan peningkatan pada API fine-tuning dan memperluas program model kustom kami

Pembaruan pada 8 Mei 2026: OpenAI sedang menghentikan secara bertahap platform penyetelan lanjutan. Platform ini tidak lagi dapat diakses oleh pengguna baru, tetapi pengguna platform penyetelan lanjutan yang sudah ada akan dapat membuat pekerjaan pelatihan selama beberapa bulan mendatang. Semua model yang disetel lanjutan akan tetap tersedia untuk inferensi hingga model dasarnya dihentikan penggunaannya⁠(terbuka di jendela baru). Linimasa lengkapnya ada di sini⁠(terbuka di jendela baru).

Ada berbagai teknik⁠(terbuka di jendela baru) yang dapat digunakan oleh pengembang untuk meningkatkan kinerja model dalam upaya mengurangi latensi, meningkatkan keakuratan, dan mengurangi biaya. Baik itu memperluas pengetahuan model dengan retrieval-augmented generation (RAG), menyesuaikan perilaku model dengan fine-tuning, maupun membangun model yang dilatih secara kustom dengan pengetahuan khusus domain baru, kami telah mengembangkan berbagai opsi untuk mendukung penerapan AI pelanggan kami. Hari ini, kami meluncurkan fitur baru untuk memberikan kontrol yang lebih besar dalam fine-tuning dengan API kepada pengembang dan memperkenalkan lebih banyak cara untuk bekerja dengan tim pakar dan peneliti AI kami untuk membangun model kustom.

Kami meluncurkan API fine-tuning⁠(terbuka di jendela baru) mandiri untuk GPT‑3.5 pada bulan bulan Agustus tahun 2023. Sejak itu, ribuan organisasi telah melatih ratusan ribu model menggunakan API kami. Fine-tuning dapat membantu model memahami konten secara mendalam dan menambah pengetahuan serta kemampuan model yang ada untuk tugas tertentu. API fine-tuning kami juga mendukung volume contoh yang lebih besar dari yang dapat dimuat dalam satu prompt tunggal untuk mencapai hasil berkualitas lebih tinggi sekaligus mengurangi biaya dan latensi. Beberapa contoh penggunaan umum dari fine-tuning mencakup pelatihan model untuk membuat kode yang lebih baik dalam bahasa pemrograman tertentu, merangkum teks dalam format tertentu, atau membuat konten dipersonalisasi didasarkan pada perilaku pengguna.

Contohnya, Indeed⁠(terbuka di jendela baru), platform pencocokan dan perekrutan pekerjaan global, ingin menyederhanakan proses perekrutan. Sebagai bagian dari ini, Indeed meluncurkan fitur yang mengirimkan rekomendasi yang dipersonalisasi kepada pencari kerja, menyoroti pekerjaan yang relevan didasarkan pada keahlian, pengalaman, dan preferensi mereka. Mereka melakukan fine-tuning GPT‑3.5 Turbo untuk membuat penjelasan yang lebih berkualitas dan lebih akurat. Hasilnya, Indeed mampu meningkatkan biaya dan latensi dengan mengurangi jumlah token dalam prompt hingga 80%. Ini memungkinkan mereka meningkatkan skala pengiriman pesan kurang dari satu juta pesan kepada pencari kerja per bulan menjadi sekitar 20 juta.

Hari ini, kami memperkenalkan fitur baru⁠(terbuka di jendela baru) untuk memberikan kepada pengembang kontrol lebih besar atas pekerjaan fine-tuning mereka, termasuk:

• Pembuatan Titik Pemeriksaan Berbasis Periode: Secara otomatis menghasilkan satu titik pemeriksaan model yang di-fine-tuning selama setiap periode pelatihan, sehingga mengurangi kebutuhan untuk pelatihan ulang berikutnya, terutama dalam kasus pemasangan berlebih
• Playground Komparatif: UI Playground yang berdampingan baru untuk membandingkan kualitas dan kinerja model, mengizinkan evaluasi manusia terhadap keluaran beberapa model atau melakukan fine-tuning snapshot terhadap prompt tunggal
• Integrasi Pihak Ketiga: Dukungan untuk integrasi dengan platform pihak ketiga (dimulai dengan Bobot dan Bias⁠(terbuka di jendela baru) minggu ini) agar pengembang dapat membagikan data fine-tuning terperinci ke seluruh tumpukan mereka
• Metrik Validasi Menyeluruh: Kemampuan untuk menghitung metrik seperti kerugian dan keakuratan pada seluruh kumpulan data validasi, bukan pada kumpulan sampel, sehingga memberikan wawasan lebih baik tentang kualitas model
• Konfigurasi Hiperparameter: Kemampuan untuk mengonfigurasi hiperparameter yang tersedia dari Dasbor⁠(terbuka di jendela baru) (bukan hanya melalui API atau SDK)
• Perbaikan Dasbor Fine-tuning: Termasuk kemampuan untuk mengonfigurasi hiperparameter, melihat metrik pelatihan lebih terperinci, dan menjalankan kembali pekerjaan dari konfigurasi sebelumnya

Di DevDay November lalu, kami mengumumkan⁠ program Model Kustom yang dirancang untuk melatih dan mengoptimalkan model pada domain tertentu, bekerja sama dengan grup peneliti OpenAI yang berdedikasi. Sejak itu, kami telah bertemu dengan puluhan pelanggan untuk menilai kebutuhan model kustom mereka dan mengembangkan program kami untuk lebih memaksimalkan kinerja.

Hari ini, kami secara resmi mengumumkan penawaran fine-tuning berbantuan kami sebagai bagian dari program Model Kustom. Fine-tuning berbantuan merupakan upaya kolaboratif dengan tim teknis kami untuk memanfaatkan teknik di luar API fine-tuning, seperti hiperparameter tambahan dan berbagai metode fine-tuning efisien parameter (PEFT) dalam skala lebih besar. Ini sangat membantu bagi organisasi yang membutuhkan dukungan dalam menyiapkan jalur data pelatihan yang efisien, sistem evaluasi, serta parameter dan metode khusus untuk memaksimalkan kinerja model untuk contoh penggunaan atau tugas mereka.

Misalnya, SK Telecom⁠(terbuka di jendela baru), operator telekomunikasi yang melayani lebih dari 30 juta pelanggan di Korea Selatan, ingin menyesuaikan model untuk menjadi pakar dalam domain telekomunikasi dengan fokus awal pada layanan pelanggan. Mereka bekerja dengan OpenAI untuk menyetel lanjutan GPT‑4 guna meningkatkan kinerjanya dalam percakapan terkait telekomunikasi dalam bahasa Korea. Selama beberapa minggu, SKT dan OpenAI mendorong peningkatan kinerja yang signifikan dalam tugas layanan pelanggan telekomunikasi—peningkatan 35% dalam kualitas rangkuman percakapan, peningkatan 33% dalam keakuratan pengenalan maksud, dan peningkatan skor kepuasan dari 3,6 menjadi 4,5 (dari 5) saat membandingkan model yang di-fine-tuning dengan GPT‑4.

Dalam beberapa kasus, organisasi perlu melatih model yang dibuat khusus sejak awal sehingga memahami bisnis, industri, atau domain mereka. Model yang dilatih secara kustom sepenuhnya memberikan pengetahuan baru dari domain tertentu dengan memodifikasi langkah-langkah utama proses pelatihan model menggunakan teknik pelatihan pertengahan dan pasca pelatihan yang baru. Organisasi yang melihat keberhasilan dengan model yang dilatih secara kustom sering kali memiliki sejumlah besar data kepemilikan—jutaan contoh atau miliaran token—yang ingin mereka gunakan untuk mengajarkan pengetahuan baru atau perilaku unik dan rumit kepada model untuk contoh penggunaan yang sangat khusus.

Misalnya, Harvey⁠(terbuka di jendela baru), alat bantu hukum berbasis AI untuk pengacara, bermitra dengan OpenAI untuk membuat model bahasa besar yang dilatih secara kustom untuk kasus hukum⁠. Meskipun model mendasar kuat dalam penalaran, model tersebut tidak memiliki pengetahuan luas tentang riwayat kasus hukum dan pengetahuan lain yang diperlukan untuk pekerjaan hukum. Setelah menguji prompt engineering, RAG, dan fne-tuningi, Harvey bekerja dengan tim kami agar menambahkan kedalaman konteks yang dibutuhkan ke model—setara data senilai 10 miliar token. Tim kami memodifikasi setiap langkah proses pelatihan model, mulai dari pelatihan pertengahan domain tertentu hingga menyesuaikan proses pasca pelatihan dan menggabungkan masukan dari pengacara ahli. Model yang dihasilkan mencapai peningkatan 83% dalam respons faktual dan pengacara lebih menyukai keluaran model yang disesuaikan 97% dari total dibandingkan GPT‑4.

Kami percaya bahwa di masa depan, sebagian besar organisasi akan mengembangkan model khusus yang dipersonalisasi berdasarkan industri, bisnis, atau contoh penggunaan mereka. Dengan berbagai teknik yang tersedia untuk membangun model kustom, organisasi dengan berbagai ukuran dapat mengembangkan model yang dipersonalisasi untuk mewujudkan dampak yang lebih bermakna dan khusus dari penerapan AI mereka. Kuncinya adalah menentukan cakupan contoh penggunaan dengan jelas, merancang dan menerapkan sistem evaluasi, memilih teknik yang tepat, serta bersiap untuk mengulanginya dari waktu ke waktu agar model mencapai kinerja optimal.

Dengan OpenAI, sebagian besar organisasi dapat melihat hasil yang bermakna dengan cepat melalui API fine-tuning. Untuk organisasi yang perlu menyetel lanjutan model mereka lebih dalam atau memasukkan pengetahuan baru khusus domain ke model, program Model Kustom kami dapat membantu.

Kunjungi dokumen API fine-tuning⁠(terbuka di jendela baru) kami untuk mulai menyetel lanjutan model kami.