Retell: Model OpenAI menyokong 100 juta panggilan sebulan

Retell AI⁠(dibuka dalam tetingkap baru) ialah platform AI suara untuk operasi pusat hubungan yang membantu perniagaan membina ejen yang boleh menjawab soalan, mengambil tindakan dan menyambungkan pemanggil kepada petugas manusia apabila diperlukan. Platformnya kini digunakan oleh lebih 4,000 perniagaan, dengan jumlah panggilan bulanan meningkat daripada 30 juta pada awal 2026 kepada lebih 100 juta menjelang September.

Seiring pertambahan pelanggan perusahaan yang mempunyai aliran kerja kompleks, Retell menggunakan model OpenAI untuk mengekalkan kualiti dan kebolehpercayaan panggilan yang tinggi. Kini, model OpenAI menjana respons untuk 80% panggilan di Retell, dengan pelanggan mencapai kadar penyelesaian melebihi 80%. Penggunaan token Retell merentas model OpenAI juga telah melepasi 1 trilion, mencerminkan skala penerimagunaan tersebut.

Jurutera Retell menggunakan Codex sepanjang proses pembangunan, daripada mengkaji kod yang belum mereka kenali hingga membina ciri dan menyahpepijat, serta GPT‑6 Astra untuk menguji antara muka bahagian hadapan.

Ejen suara perusahaan perlu mematuhi dasar syarikat dan kekal dalam batas peranan yang ditetapkan, walaupun arah perbualan berubah. Retell membangunkan penanda aras vCX untuk membandingkan puluhan model menggunakan perbualan sukar dengan berbilang giliran yang diambil daripada senario penggunaan sebenar.

Penanda aras ini menguji sejauh mana model mematuhi arahan, berpandukan maklumat yang diberikan, memanggil alat yang betul dan menggunakan bahasa perbualan yang semula jadi. Dalam ujian penanda aras Retell pada 13 Oktober 2026, GPT‑6 Astra menduduki tempat pertama dalam pematuhan arahan dengan 89.7%.

Retell turut berkongsi penilaian yang dijalankan sebelum pelancaran model GPT‑6 Astra. Penilaian itu menunjukkan bahawa, dengan penaakulan diaktifkan, GPT‑5.5 menduduki tempat teratas antara model dari segi kadar respons tanpa halusinasi (88.0%) dan ketepatan panggilan alat (88.3%), mengatasi Gemini‑3.1‑Pro dan Claude‑4.6 dalam kedua-dua ukuran. Model itu juga mendahului dari segi kadar respons tanpa halusinasi apabila penaakulan dinyahaktifkan.

Menurut Retell, pelanggan baharu yang memilih model OpenAI terus menggunakan model tersebut. Pelanggan juga boleh mengakses model OpenAI Realtime melalui Realtime API dan menggunakan teknologi teks ke pertuturan OpenAI sebagai enjin suara. Retell menyediakan model OpenAI baharu pada hari pelancarannya dan menjalankan semula ujian penanda aras apabila model ditambah baik.

Pasukan pusat hubungan menggunakan Retell untuk menetapkan konteks perniagaan, matlamat dan peraturan bagi ejen mereka. Pembangun boleh membuat konfigurasi lanjut pada aliran kerja dan integrasi.

Semasa panggilan, harnes Retell menjalankan model audio, menjejaki perbualan dan mengurus masa ejen bercakap, mendengar atau memberikan respons apabila dicelah. Model OpenAI, termasuk GPT‑6.1 Sol, GPT‑6 Astra dan GPT‑5.5, menggunakan arahan pelanggan dan konteks perbualan untuk menjana respons serta meminta panggilan alat. Retell melaksanakan panggilan alat tersebut melalui integrasi dengan sistem pelanggan dan boleh merekodkan hasilnya dalam rekod pelanggan.

Apabila pertimbangan manusia diperlukan, ejen suara memberikan taklimat berserta konteks kepada wakil khidmat pelanggan, menjawab soalan susulan mereka dan mengesahkan kesediaan mereka sebelum menyambungkan pelanggan. Selepas panggilan, Retell menggunakan GPT‑5.6 Terra untuk menganalisis transkrip serta mengekstrak hasil panggilan dan data lain.

Dengan pendekatan ini, Retell melaporkan kadar penyelesaian permintaan pelanggan melebihi 80%. Di syarikat elektronik Anker, ejen mengendalikan sokongan selepas jualan Tahap 1 di AS dan UK, termasuk penjejakan pesanan, semakan waranti dan penyelesaian masalah. Anker melaporkan kadar penyelesaian kes sebanyak 80.4% dan Skor Promoter Bersih (NPS) sebanyak 63. Pasukannya turut menyatakan bahawa nada, rentak pertuturan dan kemesraan ejen memenuhi standard yang mereka harapkan daripada ejen manusia.

Di Pine Park Health, ejen Retell mengendalikan peringatan janji temu dan penjadualan secara proaktif serta merekodkan hasilnya dalam rekod perubatan pesakit. Pasukan itu menjimatkan masa kerja pembantu perubatan yang bersamaan dengan 2.1 jawatan sepenuh masa dan mengalihkan masa tersebut kepada penjagaan pesakit. Ejen penjadualannya mencapai kadar tempahan sebanyak 55.7% apabila berjaya menghubungi pesakit.

Trafik siang hari di platform Retell boleh mencecah lebih 50 kali ganda paras terendahnya pada waktu malam. Untuk membantu mengekalkan respons pantas dalam panggilan walaupun pada waktu permintaan puncak, Retell menggunakan pelayan khusus dengan OpenAI yang dikongsi oleh para pelanggannya. Dalam ujian penanda aras Retell pada 13 Oktober 2026, GPT‑6 Astra dan GPT‑6 Sol masing-masing mencatat median kependaman ayat pertama sebanyak 883 milisaat, manakala GPT‑5.6 Luna menduduki tempat teratas dengan 497 milisaat.

Titik akhir API serantau OpenAI membolehkan pembangun menghalakan trafik ke wilayah geografi tertentu. Ini membantu Retell mengurangkan masa perjalanan data dalam rangkaian dan memenuhi keperluan lokasi data pelanggan dalam industri seperti penjagaan kesihatan dan perkhidmatan kewangan.

Retell turut menyediakan sistem sandaran pada setiap lapisan perkhidmatan. Retell mengendalikan tindanan telefoninya sendiri dengan tindanan kedua yang sedia mengambil alih, serta sandaran untuk perkhidmatan suara dan model, bagi membantu memastikan panggilan terus berjalan apabila sesuatu perkhidmatan gagal.

Pertumbuhan pelanggan perusahaan Retell membawa lebih banyak permintaan untuk aliran kerja dan integrasi tersuai. Oleh itu, juruteranya sering perlu bekerja pada bahagian pangkalan kod yang belum mereka kenali. Sebelum menulis kod, mereka memberikan gambaran umum keperluan kepada Codex. Codex meneliti kod, menyemaknya berdasarkan data sebenar dan menerangkan perkara yang perlu diubah. Seorang jurutera menyatakan bahawa Codex menjalankan kajian ini dengan lebih baik dan jauh lebih pantas berbanding dirinya.

Menurut para jurutera, semasa pelaksanaan, Codex sering mengenal pasti butiran yang tidak mereka fikirkan. Untuk penyahpepijatan, Codex membuat rujukan silang antara log dan rekod pangkalan data dengan kod bagi menyiasat perkara yang sedang berlaku. Jurutera Retell juga menggunakan Codex ketika bekerjasama dengan pelanggan yang membina aplikasi berasaskan model OpenAI. Ini mempercepat tugas seperti menulis arahan yang membimbing cara model memberikan respons dalam aplikasi pelanggan.

Untuk menguji perubahan pada antara muka webnya, Retell bergantung pada keupayaan GPT‑6 Astra menggunakan komputer. Apabila jurutera membuka pull request untuk bahagian hadapan, GPT‑6 Astra membuka antara muka, mengklik elemen di dalamnya, menguji aliran, cuba mencetuskan kegagalan dan melaporkan isu yang ditemukan. Menurut Retell, model terdahulu tidak dapat melaksanakan kerja ini dengan andal.

Retell terus mengambil pekerja, tetapi pasukan kejuruteraannya tidak perlu berkembang sepantas perniagaannya. Retell melaporkan unjuran hasil tahunan pada kadar semasa sebanyak $1.6 juta bagi setiap pekerja.

Setiap perniagaan tahu cara mereka mahu melayani pelanggan. Matlamat Retell ialah membolehkan mereka yang paling dekat dengan tugas itu menerapkan kepakaran secara langsung, menggunakan AI suara termaju dan platform yang membolehkan mereka membina, menguji serta menambah baik ejen sendiri. Seterusnya, Retell merancang untuk memperluas jaminan kualiti dan simulasi, menyokong lebih banyak bahasa serta membangunkan pembelajaran automatik untuk pangkalan pengetahuan.

Seiring kemajuan model OpenAI, Retell menjangkakan pelanggannya dapat memberikan perkhidmatan bertaraf dunia kepada jutaan pemanggil, mengikut cara mereka sendiri.

“Tiada siapa yang lebih mengenali pelanggan sesebuah syarikat selain syarikat itu sendiri. Kami memberi mereka kuasa untuk bertindak berdasarkan kepakaran itu dan menambah baik ejen AI secara langsung. Matlamatnya adalah supaya mereka membina pasukan jurutera dalaman yang ditugaskan dalam syarikat untuk bertanggungjawab dan mengendalikan semuanya,” kata Bing.