Retell andalkan model OpenAI untuk 100 juta panggilan per bulan

Retell AI⁠(terbuka di jendela baru) adalah platform AI suara untuk operasional pusat kontak yang membantu bisnis membangun agen untuk menjawab pertanyaan, mengambil tindakan, dan menyambungkan penelepon dengan petugas manusia saat diperlukan. Platform ini kini melayani lebih dari 4.000 bisnis, dengan volume panggilan bulanan yang meningkat dari 30 juta pada awal 2026 menjadi lebih dari 100 juta pada September.

Seiring bertambahnya perusahaan dengan alur kerja kompleks yang dilayani Retell, perusahaan ini menggunakan model OpenAI untuk menjaga kualitas dan keandalan panggilan tetap tinggi. Saat ini, model OpenAI menghasilkan respons untuk 80% panggilan di Retell, dengan pelanggan mencapai tingkat penyelesaian di atas 80%. Konsumsi token Retell di seluruh model OpenAI juga telah melampaui 1 triliun, yang mencerminkan skala adopsi tersebut.

Para teknisi Retell menggunakan Codex di seluruh proses pengembangan, mulai dari mempelajari kode yang belum mereka kenal hingga membangun fitur dan melakukan debugging, serta GPT‑6 Astra untuk menguji antarmuka front-end.

Agen suara perusahaan harus mengikuti kebijakan perusahaan dan tetap menjalankan peran yang ditetapkan, meski arah percakapan berubah. Retell membangun tolok ukur vCX untuk membandingkan puluhan model menggunakan percakapan sulit dengan banyak giliran, yang diambil dari skenario penggunaan nyata.

Tolok ukur ini menguji seberapa baik model mengikuti instruksi, tetap berpegang pada informasi yang diberikan, memanggil alat yang tepat, dan menggunakan bahasa percakapan yang alami. Dalam pengujian tolok ukur Retell pada 13 Oktober 2026, GPT‑6 Astra menempati peringkat pertama dalam mengikuti instruksi dengan skor 89,7%.

Retell juga membagikan hasil evaluasi sebelum peluncuran model GPT‑6 Astra yang menunjukkan bahwa, dengan penalaran diaktifkan, GPT‑5.5 menempati peringkat tertinggi di antara model-model yang diuji, baik untuk tingkat respons tanpa halusinasi (88,0%) maupun ketepatan pemanggilan alat (88,3%), mengungguli Gemini‑3.1‑Pro dan Claude‑4.6 pada kedua metrik tersebut. Model ini juga memimpin dalam tingkat respons tanpa halusinasi saat penalaran dinonaktifkan.

Menurut Retell, pelanggan baru yang memilih model OpenAI terus menggunakannya. Pelanggan juga memiliki akses ke model OpenAI Realtime melalui Realtime API serta teknologi teks-ke-ucapan OpenAI sebagai mesin suara. Retell menyediakan model OpenAI baru pada hari peluncurannya dan menjalankan ulang pengujian tolok ukurnya seiring peningkatan model.

Tim pusat kontak menggunakan Retell untuk menetapkan konteks bisnis, tujuan, dan aturan bagi agen mereka. Pengembang dapat mengonfigurasi alur kerja dan integrasi lebih lanjut.

Selama panggilan, harness Retell menjalankan model audio, melacak percakapan, dan mengatur kapan agen berbicara, mendengarkan, atau menanggapi interupsi. Model OpenAI, termasuk GPT‑6.1 Sol, GPT‑6 Astra, dan GPT‑5.5, menggunakan instruksi pelanggan dan konteks percakapan untuk menghasilkan respons dan meminta pemanggilan alat. Retell menjalankan pemanggilan alat tersebut melalui integrasi dengan sistem pelanggan dan dapat menyimpan hasilnya ke catatan pelanggan.

Saat pertimbangan manusia diperlukan, agen suara menyampaikan konteks kepada petugas, menjawab pertanyaan lanjutannya, dan memastikan petugas siap sebelum menyambungkan pelanggan. Setelah panggilan, Retell menggunakan GPT‑5.6 Terra untuk menganalisis transkrip serta mengekstrak hasil dan data lainnya.

Dengan pendekatan ini, Retell melaporkan tingkat penyelesaian permintaan pelanggan di atas 80%. Di perusahaan elektronik Anker, agen menangani dukungan purnajual tingkat 1 di AS dan Inggris, termasuk pelacakan pesanan, pemeriksaan garansi, dan pemecahan masalah. Anker melaporkan tingkat penyelesaian kasus sebesar 80,4% dan Net Promoter Score (NPS) sebesar 63. Timnya juga menyatakan bahwa nada bicara, tempo, dan keramahan agen memenuhi standar yang mereka harapkan dari agen manusia.

Di Pine Park Health, agen Retell menangani pengingat janji temu dan penjadwalan proaktif, serta mencatat hasilnya dalam rekam medis pasien. Tim tersebut menghemat waktu kerja asisten medis yang setara dengan 2,1 posisi penuh waktu dan mengalihkannya untuk perawatan pasien. Agen penjadwalannya mencapai tingkat keberhasilan pembuatan janji temu sebesar 55,7% saat berhasil menghubungi pasien.

Trafik siang hari di platform Retell dapat mencapai lebih dari 50 kali tingkat terendahnya pada malam hari. Untuk membantu menjaga panggilan tetap responsif bahkan saat permintaan memuncak, Retell menggunakan server khusus bersama OpenAI yang dipakai bersama oleh para pelanggannya. Dalam pengujian tolok ukur Retell pada 13 Oktober 2026, GPT‑6 Astra dan GPT‑6 Sol masing-masing mencatat median latensi kalimat pertama sebesar 883 milidetik, sementara GPT‑5.6 Luna menempati peringkat terbaik dengan 497 milidetik.

Endpoint API regional OpenAI memungkinkan pengembang mengarahkan trafik ke wilayah geografis tertentu. Ini membantu Retell mengurangi waktu tempuh data di jaringan dan memenuhi persyaratan residensi data pelanggan di industri seperti layanan kesehatan dan jasa keuangan.

Retell juga membangun redundansi di setiap lapisan layanan. Retell menjalankan infrastruktur teleponnya sendiri dengan infrastruktur kedua yang siap mengambil alih, serta cadangan untuk layanan suara dan model, guna membantu menjaga panggilan tetap berlangsung saat suatu layanan gagal.

Pertumbuhan pelanggan perusahaan Retell membawa lebih banyak permintaan untuk alur kerja dan integrasi khusus, sehingga para teknisinya kerap harus mengerjakan bagian basis kode yang belum mereka kenal. Sebelum menulis kode, mereka memberikan gambaran umum kebutuhan kepada Codex. Codex menelaah kode, memeriksanya berdasarkan data aktual, dan menjelaskan apa yang perlu diubah. Seorang teknisi mengatakan bahwa Codex melakukan riset ini dengan lebih baik dan jauh lebih cepat daripada dirinya.

Menurut para teknisi, selama implementasi, Codex sering menemukan detail yang belum mereka pertimbangkan. Untuk debugging, Codex mencocokkan log dan catatan basis data dengan kode guna menyelidiki apa yang terjadi. Para teknisi Retell juga menggunakan Codex saat bekerja dengan pelanggan yang membangun aplikasi berbasis model OpenAI untuk mempercepat tugas seperti menulis instruksi yang mengarahkan respons model dalam aplikasi pelanggan.

Untuk menguji perubahan pada antarmuka webnya, Retell mengandalkan kemampuan GPT‑6 Astra dalam menggunakan komputer. Saat teknisi membuka pull request front-end, GPT‑6 Astra membuka antarmuka, mengeklik berbagai bagiannya, menguji alur, mencoba memicu kegagalan, dan melaporkan masalah yang ditemukan. Menurut Retell, model-model sebelumnya belum dapat diandalkan untuk melakukan pekerjaan ini.

Retell terus merekrut karyawan, tetapi jumlah anggota tim tekniknya tidak perlu bertambah secepat pertumbuhan bisnis. Retell melaporkan proyeksi pendapatan tahunan sebesar US$1,6 juta per karyawan.

Setiap bisnis tahu bagaimana mereka ingin melayani pelanggannya. Retell bertujuan agar orang-orang yang paling memahami pekerjaan tersebut dapat langsung menerapkan keahlian mereka, menggunakan AI suara canggih dan platform yang memungkinkan mereka membangun, menguji, dan meningkatkan agen mereka sendiri. Selanjutnya, Retell berencana memperluas penjaminan mutu dan simulasi, mendukung lebih banyak bahasa, serta mengembangkan kemampuan pembelajaran otomatis dari basis pengetahuan.

Seiring model OpenAI terus berkembang, Retell berharap pelanggannya dapat memberikan layanan kelas dunia kepada jutaan penelepon dengan cara mereka sendiri.

“Tidak ada yang lebih mengenal pelanggan sebuah perusahaan selain perusahaan itu sendiri. Kami memberi mereka kemampuan untuk menerapkan keahlian tersebut dan meningkatkan agen AI secara langsung. Tujuannya adalah agar mereka membangun tim teknisi internal yang ditugaskan untuk mengelola dan menjalankan semuanya secara mandiri,” ujar Bing.