Parloa membangun agen layanan yang ingin diajak bicara pelanggan

Pada masa awal Parloa, salah satu pendirinya, Stefan Ostwald, menghabiskan satu hari di pusat panggilan perusahaan asuransi, tempat timnya mengembangkan pengalaman suara generasi awal. Duduk bersama para agen, ia mendengarkan percakapan yang sama berulang kali: pengaturan ulang kata sandi, pertanyaan tentang polis, dan perubahan rutin. Ia menyadari bahwa sebagian besar pekerjaan tersebut dapat diotomatisasi.

Setelah pengalaman itu, Parloa⁠(terbuka di jendela baru) yang berbasis di Berlin mulai membangun agen suara berbasis aturan untuk mengotomatiskan interaksi pelanggan bervolume tinggi.

Seiring kemunculan ChatGPT, perusahaan ini berkembang dan membangun produknya saat ini, Platform Manajemen Agen AI (AMP), yang didukung model generasi baru, termasuk GPT‑5.4.

AMP memungkinkan perusahaan merancang, menerapkan, dan mengelola interaksi layanan pelanggan dalam skala besar. Alih-alih memetakan maksud dan alur yang kaku, tim menetapkan perilaku dalam bahasa alami, menghubungkannya ke sistem internal, dan melakukan iterasi dengan cepat melalui simulasi serta evaluasi bawaan.

Parloa menjalankan interaksi ini secara menyeluruh, mulai dari perutean sederhana hingga permintaan multilangkah yang kompleks. Fokusnya adalah konsistensi di lingkungan produksi, tempat performa, latensi, dan kasus ekstrem sama-sama penting. Untuk mencapainya, Parloa terus menguji model dengan skenario pelanggan nyata sebelum menerapkannya.

Platform Manajemen Agen (AMP) Parloa dirancang agar pengguna bisnis dan pakar bidang dapat membangun agen AI tanpa menulis kode.

“Dengan AMP, pakar bidang dari berbagai unit bisnis benar-benar dapat membangun agen dan menghubungkan API dengan cara yang jauh lebih ringkas dan sederhana,” ujar O’Reilly.

Secara umum, AMP memungkinkan merek mengelola seluruh siklus hidup agen AI. Caranya adalah dengan memudahkan tim nonteknis menetapkan perilaku agen sebelum agen tersebut mulai digunakan. Alih-alih menulis kode atau memetakan pohon maksud yang kaku, pakar bidang menetapkan peran, instruksi, alat, dan batasan agen dalam bahasa alami. Konfigurasi tersebut menjadi dasar bagi penyusunan prompt untuk model dan perilaku sistem di lingkungan produksi.

Setelah ditetapkan, agen diuji sebelum diterapkan. Parloa menyimulasikan percakapan pelanggan menggunakan model seperti GPT‑5.4, dengan satu model berperan sebagai penelepon dan model lainnya menjalankan agen yang telah dikonfigurasi. Tim dapat meninjau interaksi ini secara langsung, menguji perubahan dengan skenario realistis, dan melakukan iterasi sebelum sistem mulai digunakan.

Model yang sama kemudian digunakan untuk mengevaluasi percakapan tersebut melalui kombinasi pemeriksaan deterministik dan penilaian LLM sebagai juri. Hasilnya menunjukkan apakah agen mengikuti instruksi, menggunakan alat dengan benar, dan menyelesaikan tugas sesuai harapan.

Selama percakapan langsung, lapisan orkestrasi AMP memberikan konfigurasi agen dan konteks percakapan sebagai prompt kepada model OpenAI untuk menghasilkan respons, mengambil informasi melalui RAG, atau memicu alat agar dapat berinteraksi dengan sistem backend pelanggan. Parloa terus memperbarui lapisan ini dengan model generasi terbaru saat model tersebut menunjukkan peningkatan nyata dalam performa di dunia nyata.

Setelah percakapan berakhir, alur kerja terpisah yang didukung OpenAI merangkum interaksi, mengklasifikasikan maksud pelanggan, dan mengevaluasi performa berdasarkan aturan yang telah ditetapkan.

Seiring agen menjadi makin kompleks, pemeliharaan satu prompt monolitik menjadi lebih sulit. Perubahan kecil dapat menimbulkan efek samping yang tidak diinginkan. Untuk mengatasinya, Parloa memperkenalkan pendekatan modular. Tugas seperti autentikasi, perubahan pemesanan, atau pembaruan akun dapat dipisahkan menjadi subagen tersendiri, sehingga lebih mampu mengikuti instruksi dan membuat sistem lebih mudah dikembangkan dari waktu ke waktu.

Pada saat yang sama, platform ini menerapkan kontrol deterministik pada bagian yang paling membutuhkan keandalan. Perusahaan dapat menetapkan rangkaian API terstruktur dan logika berbasis peristiwa untuk memastikan langkah-langkah penting berlangsung dalam urutan yang tepat, sehingga fleksibilitas percakapan tetap seimbang dengan eksekusi yang dapat diprediksi.

Parloa menggunakan model seperti GPT‑4.1, GPT‑5‑mini, dan lainnya untuk menyimulasikan interaksi pelanggan yang realistis sebelum agen digunakan, lalu mengevaluasinya dengan kombinasi LLM sebagai juri dan aturan deterministik. Dengan demikian, tim dapat menguji kasus ekstrem, melakukan iterasi dengan cepat, dan memvalidasi performa sebelum pelanggan berisiko mengalami kegagalan.

Parloa terutama melayani perusahaan besar, yang menganggap konsistensi sama pentingnya dengan kemampuan.

“Saat model baru diluncurkan, kami mengujinya dengan rangkaian tolok ukur kami,” ujar Matthäus Deutsch, Ilmuwan Terapan Senior. “Bagi kami, sangat penting agar sistem tidak hanya berfungsi dalam tolok ukur teoretis, tetapi juga dalam kasus penggunaan nyata.”

Alih-alih mengandalkan tolok ukur abstrak, Parloa mereplikasi agen produksi nyata dan menjalankannya melalui alur simulasi serta evaluasi. Pengujian ini mengukur keandalan dalam mengikuti instruksi, konsistensi pemanggilan API, latensi, dan performa keseluruhan dalam kondisi realistis.

Evaluasi ini menentukan model yang siap digunakan di lingkungan produksi. Hanya model yang berkinerja andal dalam berbagai skenario pelanggan nyata yang diterapkan.

“Pelanggan perusahaan menanggung biaya migrasi yang nyata,” ujar Deutsch. “Setelah sistem berfungsi di lingkungan produksi, mereka mempertahankan kestabilannya dan hanya beralih jika manfaatnya jelas.”

Hasilnya, sistem berperilaku secara konsisten dan dapat diprediksi di lingkungan produksi, bahkan dalam skala besar. Dari jutaan interaksi pelanggan, sebagian besar percakapan terselesaikan tanpa hambatan. Bahkan ketika panggilan dialihkan kepada agen manusia, eskalasi jarang terjadi akibat kegagalan. Dalam salah satu penerapan, sebuah perusahaan perjalanan global mengurangi permintaan untuk berbicara dengan agen manusia sebesar 80%.

Pola pikir yang mengutamakan evaluasi ini telah menjadi pembeda utama, sehingga Parloa dapat bergerak cepat tanpa mengorbankan keandalan di lingkungan produksi.

Layanan suara memiliki serangkaian batasan yang berbeda dari percakapan berbasis teks. Setiap interaksi melalui alur berlatensi rendah: ucapan-ke-teks, penalaran model, dan teks-ke-ucapan.

Alur ini membuat latensi menjadi sangat penting. Penundaan kecil sekalipun pada lapisan model dapat terakumulasi menjadi jeda yang terasa bagi penelepon, sehingga memengaruhi cara model dipilih dan dioptimalkan.

Parloa bekerja sama erat dengan OpenAI untuk mengoptimalkan performa bagi kasus penggunaan real-time, dengan fokus pada latensi, kualitas respons, dan kepatuhan terhadap instruksi. Tim terus mengevaluasi dan menguji ketahanan iterasi model baru dalam lingkungan yang menyerupai produksi sebelum menggunakannya untuk interaksi pelanggan langsung.

Parloa mengevaluasi setiap komponen dalam rangkaian teknologi suara secara terpisah:

• Sistem ucapan-ke-teks diuji berdasarkan tingkat kesalahan kata, terutama untuk input sensitif seperti nomor polis atau pengenal akun.
• Model teks-ke-ucapan dievaluasi melalui uji dengar buta untuk menilai seberapa alami suaranya bagi pengguna nyata. Hasil tersebut kemudian dibandingkan dengan interaksi pelanggan nyata untuk memastikan performa yang konsisten di lingkungan produksi.
• Model speech-to-speech saat ini sedang dievaluasi kesiapan produksinya, dengan fokus pada latensi, akurasi, dan biaya.

Sejak awal, sistem ini dibangun untuk penerapan global. Tolok ukurnya mencakup berbagai bahasa, sementara pelanggan beroperasi di beragam wilayah di seluruh dunia. Ketelitian multibahasa ini mencerminkan akar Eropa Parloa sekaligus harapan pelanggan perusahaan, yang membutuhkan performa konsisten di berbagai pasar, bukan hanya dalam satu bahasa atau wilayah.

Saat ini, agen Parloa menangani jutaan percakapan di berbagai industri, termasuk ritel, perjalanan, dan asuransi, untuk kasus penggunaan mulai dari otomatisasi dukungan hingga alur penghasil pendapatan seperti belanja melalui telepon.

Parloa melihat layanan pelanggan berkembang menjadi pengalaman yang sepenuhnya multimodal.

Percakapan dapat dimulai melalui telepon, berlanjut di chat, lalu menyertakan tautan atau elemen interaktif di sepanjang prosesnya. Alih-alih memperlakukan setiap langkah sebagai alur terpisah, AMP dirancang untuk menanganinya sebagai satu interaksi. Seiring waktu, agen AI dapat menjadi bagian sepenting situs web dan aplikasi seluler dalam perjalanan pelanggan.

Ketika perusahaan makin banyak mengotomatiskan interaksi pelanggan, Parloa berfokus membuat agen AI cukup andal, fleksibel, dan tepercaya untuk beroperasi dalam skala global.