Panduan pengembang untuk GPT‑5.6

Keluarga model GPT‑5.6 membuat kinerja agen tingkat terdepan jauh lebih terjangkau, sekaligus memperluas batas kemungkinan.

Dalam panduan ini, kami menunjukkan cara startup menggunakan pemilihan model yang lebih cerdas dan kontrol API baru untuk menjaga kesinambungan penalaran, mengorkestrasi banyak agen, dan melakukan pemanggilan alat terprogram, sehingga dapat membangun agen yang lebih cepat dan canggih dengan biaya jauh lebih rendah.

Sejak GPT‑5, setiap generasi model berupaya menangani tugas berjangka lebih panjang dengan lebih sedikit token. GPT‑5.6 melanjutkan kemajuan tersebut: kinerja agen lebih kuat dan biaya lebih rendah, dengan perubahan minimal pada harness yang mendasarinya.

Peningkatan efisiensi biaya secara keseluruhan diperkuat oleh akurasi yang lebih tinggi pada tingkat upaya penalaran yang lebih rendah. Misalnya, dalam Agents’ Last Exam, GPT‑5.6 Sol dengan penalaran “rendah” mengungguli GPT‑5.5 dengan penalaran “tinggi” ketika harness yang digunakan tetap sama. Kami melihat keberhasilan serupa dalam pengujian produksi. Sejumlah startup melaporkan penghematan biaya yang signifikan di berbagai alur kerja setelah menurunkan upaya penalaran dari pengaturan bawaan sebelumnya.

Secara historis, beralih ke model unggulan dengan tingkat penalaran tertinggi yang tersedia merupakan pilihan terbaik untuk kasus penggunaan berjangka panjang. Hal ini terutama karena model tersebut jauh lebih mampu menangani konteks panjang dan pemanggilan alat dibandingkan model yang dioptimalkan untuk biaya. Hal ini berubah dengan keluarga 5.6: berkat komputasi tambahan saat pengujian, Luna dan Terra sering kali dapat memberikan kinerja serupa dengan GPT‑5.4 dan 5.5, tetapi dengan biaya jauh lebih rendah.

Pertimbangkan tugas di BrowseComp, tolok ukur berbasis pencarian yang menguji kemampuan model dalam mencari fakta yang sulit ditemukan. Tiga bulan lalu, GPT‑5.5 (Sangat Tinggi) meraih skor 84,36% pada tolok ukur ini dengan total biaya $33,27. Saat diluncurkan, GPT‑5.6 Luna (Sangat Tinggi) memberikan kinerja yang pada dasarnya sama, dengan skor 84,04% dan biaya $1,33. Sejak itu, kami kembali menurunkan harga. Baca selengkapnya tentang penurunan harga terbaru kami.

Model yang lebih kecil dalam keluarga 5.6 sangat cocok untuk beban kerja bervolume tinggi, interaksi yang sensitif terhadap latensi, dan langkah berulang dalam alur kerja agen. Misalnya, jika Anda mengelola startup teknologi hukum yang mengurai memo tulisan tangan sebelum dianalisis oleh agen, kini Anda dapat menggunakan Terra atau Luna untuk ekstraksi—bukan model terdepan untuk seluruh proses—dan meraih penghematan biaya yang signifikan.

Selain meningkatkan kinerja siap pakai GPT‑5.6, kami juga menghadirkan komponen dasar baru di Responses API untuk membuka peluang peningkatan lebih lanjut. Kami melatih GPT‑5.6 secara menyeluruh dengan tiga intervensi arsitektur yang saling melengkapi agar agen dapat beroperasi lebih efisien:

1. Gunakan kembali pekerjaan yang sudah dilakukan: dengan memungkinkan penalaran dipertahankan⁠(terbuka di jendela baru) di antara giliran model dan menggunakan pemadatan native⁠(terbuka di jendela baru) untuk meringkas percakapan panjang, model dapat menjaga koherensi pekerjaannya dalam tugas berjangka lebih panjang tanpa kebingungan atau harus menyusun ulang konteks sebelumnya.
2. Uraikan tugas secara paralel bila sesuai: penggunaan orkestrasi multiagen native⁠(terbuka di jendela baru) memungkinkan koordinasi beberapa agen di berbagai alur kerja paralel agar tugas kompleks selesai lebih cepat.
3. Pindahkan pekerjaan deterministik ke dalam kode: gunakan pemanggilan alat terprogram⁠(terbuka di jendela baru) untuk menyaring, menggabungkan, dan mengorkestrasi output alat di luar jendela konteks model. Dengan demikian, token model dapat diprioritaskan untuk pertimbangan, sekaligus mengurangi biaya, latensi, dan degradasi konteks.

Jika digunakan bersama, dampaknya bisa sangat besar. Misalnya, pada ARC-AGI-3, GPT‑5.6 Sol meraih skor 13,3% dengan harness standar. Namun, setelah penalaran yang dipertahankan dan pemadatan diaktifkan, skornya melonjak menjadi 38,3%—dengan token output sekitar 6× lebih sedikit. Tanpa perubahan pada model, tetapi kinerjanya hampir tiga kali lipat. Anda dapat membaca selengkapnya dalam investigasi harness ARC-AGI-3 kami di sini.

Alur kerja agen sering kali mencakup dua jenis pekerjaan:

1. Tugas yang memerlukan pertimbangan
2. Pekerjaan yang sebagian besar hanya memerlukan pemindahan, penyaringan, dan penggabungan data

Saat agen mengambil 100 laporan, menyaringnya berdasarkan tanggal, dan mengidentifikasi transaksi yang relevan, model tidak semestinya harus menalar setiap hasil antara dalam jendela konteksnya. Pemanggilan Alat Terprogram memungkinkan GPT‑5.6 menulis JavaScript untuk mengorkestrasi alat, menjalankan panggilan independen secara paralel, dan memproses outputnya di luar jendela konteks. Dengan demikian, model dapat berfokus pada hal yang membutuhkan kecerdasan: menggunakan pertimbangan.

Untuk tugas kompleks yang dapat diparalelkan, pembagian tindakan dan penalaran ke beberapa alur kerja agen memungkinkan tugas selesai lebih cepat sekaligus meningkatkan kecerdasan. Dalam konfigurasi ini, agen utama bertanggung jawab mengorkestrasi subagen dan mendelegasikan tugas kepada mereka. Subagen menjalankan tujuannya secara paralel, lalu mengirimkan output kembali kepada agen utama untuk sintesis akhir. Tim dapat mulai memanfaatkan multiagen secara native dengan mengaktifkan multiagen⁠(terbuka di jendela baru) di Responses API. Begitu pula cara kerja pengaturan kemampuan Ultra di ChatGPT.

Meskipun GPT‑5.6 dapat menentukan dengan baik jumlah subagen yang tepat dan kapan perlu membuatnya, perilaku multiagen sangat mudah diarahkan. Memberi instruksi kepada model tentang kapan harus memanggil subagen dapat meningkatkan kemungkinan agen hanya dibuat ketika tambahan penggunaan token akan menghasilkan kinerja yang lebih baik.

Di seluruh keluarga model, TTL penyimpanan prompt telah diperpanjang menjadi minimal 30 menit, dan titik pemisah cache kini dapat ditetapkan secara deterministik dalam jendela konteks model. Hal ini memungkinkan startup meningkatkan tingkat cache hit secara signifikan.

Selain menetapkan titik pemisah cache, terus menggunakan prompt_cache_key⁠(terbuka di jendela baru) yang sesuai akan meningkatkan kemungkinan permintaan diproses oleh mesin inferensi yang sama dengan mesin yang sebelumnya menangani prefiks serupa, sehingga mengurangi latensi.

Hal yang paling menonjol dari berbagai contoh ini adalah besarnya perubahan keekonomian dalam membangun agen.

Kasus penggunaan yang dahulu memerlukan model terdepan di setiap langkah kini dapat meraih hasil setara atau lebih baik dengan biaya jauh lebih rendah melalui penggunaan model yang lebih kecil, penyesuaian upaya penalaran, dan pilihan arsitektur yang efisien.

Kami tidak sabar melihat apa yang akan Anda semua bangun!