Parloa membina ejen perkhidmatan yang pelanggan berbicara

Pada peringkat awal Parloa, Pengasas Bersama Stefan Ostwald meluangkan sehari di sebuah pusat panggilan insurans, tempat pasukannya membangunkan pengalaman suara perintis. Sambil duduk bersama ejen, beliau mendengar perbualan yang sama berulang kali: penetapan semula kata laluan, pertanyaan polisi dan perubahan rutin. Beliau sedar bahawa sebahagian besar kerja itu boleh diautomasikan.

Susulan daripada pengalaman itu, Parloa⁠(dibuka dalam tetingkap baru) yang berpangkalan di Berlin mula membangunkan ejen suara berasaskan peraturan untuk mengautomasikan interaksi pelanggan berjumlah tinggi.

Dengan kemunculan ChatGPT, syarikat itu beralih kepada pembangunan Platform Pengurusan Ejen AI (AMP), yang kini menggunakan model generasi baharu termasuk GPT‑5.4.

AMP membolehkan perusahaan mereka bentuk, melaksanakan dan mengurus interaksi khidmat pelanggan secara berskala. Daripada memetakan niat dan aliran yang kaku, pasukan menentukan tingkah laku dalam bahasa semula jadi, menyambungkannya kepada sistem dalaman dan membuat penambahbaikan dengan pantas menggunakan simulasi serta penilaian terbina dalam.

Parloa menjalankan interaksi ini dari hujung ke hujung, daripada penghalaan mudah hinggalah permintaan berbilang langkah yang rumit. Tumpuannya ialah ketekalan dalam produksi, yang memerlukan prestasi, kependaman dan kes pinggiran diambil kira. Untuk mencapainya, Parloa terus menguji model berdasarkan senario pelanggan sebenar sebelum dilaksanakan.

Ejen Management Platform (AMP) Parloa direka agar pengguna perniagaan dan pakar bidang dapat membina ejen AI tanpa menulis kod.

“Dengan AMP, pakar bidang daripada pelbagai unit perniagaan benar-benar boleh membina ejen dan menyambungkan API dengan cara yang jauh lebih ringkas dan mudah,” kata O’Reilly.

Pada peringkat yang tinggi, AMP membolehkan jenama mengurus seluruh kitaran hayat ejen AI. AMP memudahkan pasukan bukan teknikal menentukan tingkah laku ejen sebelum digunakan secara langsung. Daripada menulis kod atau memetakan pepohon niat yang kaku, pakar bidang menetapkan peranan, arahan, alat dan batasan ejen dalam bahasa semula jadi. Konfigurasi itu menjadi asas bagi cara prom diberikan kepada model dan cara sistem berfungsi dalam pengeluarani.

Setelah ditentukan, ejen diuji sebelum dilaksanakan. Parloa mensimulasikan perbualan pelanggan menggunakan model seperti GPT‑5.4, dengan satu model bertindak sebagai pemanggil dan satu lagi menjalankan ejen yang telah dikonfigurasi. Pasukan boleh memeriksa interaksi ini secara langsung, menguji perubahan berdasarkan senario realistik dan membuat penambahbaikan sebelum digunakan secara langsung.

Model yang sama kemudian digunakan untuk menilai perbualan tersebut melalui gabungan semakan berketentuan dan pemarkahan LLM sebagai penilai. Ini menunjukkan sama ada ejen mematuhi arahan, menggunakan alat dengan betul dan menyelesaikan tugas seperti yang diharapkan.

Semasa perbualan langsung, lapisan pengorkrestraan AMP memberikan konfigurasi ejen dan konteks perbualan sebagai prom kepada model OpenAI untuk menjana respons, mendapatkan maklumat melalui RAG atau mencetuskan alat bagi berinteraksi dengan sistem bahagian belakang pelanggan. Parloa terus mengemas kini lapisan ini dengan model generasi terkini apabila model tersebut menunjukkan peningkatan jelas dalam prestasi dunia sebenar.

Selepas perbualan, aliran kerja berasingan yang dikuasakan OpenAI meringkaskan interaksi, mengelaskan niat pelanggan dan menilai prestasi berdasarkan peraturan yang ditetapkan.

Apabila ejen semakin rumit, penyelenggaraan satu prom monolitik menjadi semakin sukar. Perubahan kecil boleh menimbulkan kesan sampingan yang tidak disengajakan. Untuk menanganinya, Parloa memperkenalkan pendekatan modular. Tugas seperti pengesahan, perubahan tempahan atau kemas kini akaun boleh diasingkan kepada subejen yang berbeza, sekali gus meningkatkan pematuhan arahan dan memudahkan sistem dikembangkan dari semasa ke semasa.

Pada masa yang sama, platform ini menerapkan kawalan deterministik pada bahagian yang paling memerlukan kebolehpercayaan. Perusahaan boleh menentukan rantaian API berstruktur dan logik berasaskan peristiwa untuk memastikan langkah kritikal berlaku mengikut urutan yang betul, sambil mengimbangi fleksibiliti perbualan dengan pelaksanaan yang boleh diramal.

Parloa menggunakan model seperti GPT‑4.1, GPT‑5‑mini dan model lain untuk mensimulasikan interaksi pelanggan yang realistik sebelum ejen digunakan secara langsung, kemudian menilai interaksi itu menggunakan kombinasi LLM sebagai penilai dan peraturan deterministik. Ini membolehkan pasukan menguji kes pinggiran, membuat penambahbaikan dengan pantas dan mengesahkan prestasi sebelum pelanggan terdedah kepada kegagalan.

Parloa terutamanya bekerjasama dengan perusahaan besar, yang mementingkan ketekalan sama seperti keupayaan.

“Apabila model baharu dilancarkan, kami menjalankan set penanda aras kami terhadapnya,” kata Matthäus Deutsch, Saintis Gunaan Kanan. “Bagi kami, amat penting untuk memastikan sesuatu bukan sahaja berfungsi dalam penanda aras teori, tetapi juga dalam kes penggunaan sebenar.”

Daripada bergantung pada penanda aras abstrak, Parloa meniru ejen pengeluaran sebenar dan menjalankannya melalui saluran simulasi serta penilaian. Ujian ini mengukur kebolehpercayaan pematuhan arahan, ketekalan panggilan API, kependaman dan prestasi keseluruhan dalam keadaan realistik.

Penilaian ini menentukan model yang sedia digunakan dalam pengeluaran. Hanya model yang menunjukkan prestasi boleh dipercayai merentas senario pelanggan sebenar akan dilaksanakan.

“Pelanggan perusahaan menanggung kos migrasi yang nyata,” kata Deutsch. “Setelah sesebuah sistem berfungsi dalam pengeluaran, mereka mengekalkan kestabilannya dan hanya beralih apabila manfaatnya jelas.”

Hasilnya, sistem berfungsi secara konsisten dan boleh diramal dalam pengeluaran, walaupun pada skala besar. Daripada berjuta-juta interaksi pelanggan, kebanyakan perbualan diselesaikan dengan lancar. Walaupun panggilan dialihkan kepada ejen manusia, peningkatan kes jarang sekali berpunca daripada kegagalan. Dalam satu pelaksanaan, sebuah syarikat pelancongan global mengurangkan permintaan untuk ejen manusia sebanyak 80%.

Pemikiran yang mengutamakan penilaian ini menjadi pembezaan teras, membolehkan Parloa bergerak pantas tanpa menjejaskan kebolehpercayaan dalam pengeluaran.

Suara membawa kekangan yang berbeza berbanding sembang berasaskan teks. Setiap interaksi melalui saluran kependaman rendah: pertuturan kepada teks, penaakulan model dan teks kepada pertuturan.

Saluran ini menjadikan kependaman faktor kritikal. Kelewatan kecil pada lapisan model sekali pun boleh terkumpul menjadi jeda yang ketara bagi pemanggil, sekali gus mempengaruhi cara model dipilih dan dioptimumkan.

Parloa bekerjasama rapat dengan OpenAI untuk mengoptimumkan prestasi bagi kes penggunaan masa nyata, dengan tumpuan pada kependaman, kualiti respons dan pematuhan arahan. Pasukan ini terus menilai dan menguji ketahanan lelaran model baharu dalam persekitaran seakan pengeluaran sebelum menggunakannya untuk interaksi pelanggan langsung.

Parloa menilai setiap komponen tindanan suara secara bebas:

• Sistem pertuturan kepada teks diuji dari segi kadar ralat perkataan, khususnya untuk input sensitif seperti nombor polisi atau pengecam akaun.
• Model teks kepada pertuturan dinilai melalui ujian pendengaran buta untuk menilai sejauh mana suara itu kedengaran semula jadi kepada pengguna sebenar. Hasil tersebut kemudian dibandingkan dengan interaksi pelanggan sebenar bagi memastikan prestasi yang konsisten dalam persekitaran pengeluaran.
• Model pertuturan kepada pertuturan sedang dinilai dari segi kesediaan pengeluaran, dengan tumpuan pada kependaman, ketepatan dan kos.

Sejak awal lagi, sistem ini dibina untuk pelaksanaan global. Penanda aras merangkumi pelbagai bahasa, dengan pelanggan beroperasi di rantau-rantau seluruh dunia. Ketelitian berbilang bahasa ini mencerminkan asal usul Parloa di Eropah serta jangkaan pelanggan perusahaan yang memerlukan prestasi konsisten merentas pasaran, bukan hanya dalam satu bahasa atau rantau.

Kini, ejen Parloa mengendalikan berjuta-juta perbualan merentas industri termasuk peruncitan, pelancongan dan insurans, bagi kes penggunaan daripada automasi sokongan hingga aliran penjanaan hasil seperti telebeli-belah.

Parloa melihat khidmat pelanggan berkembang menjadi pengalaman multimodal sepenuhnya.

Perbualan mungkin bermula melalui telefon, diteruskan dalam sembang dan termasuk pautan atau elemen interaktif sepanjang proses itu. Daripada menganggap setiap langkah sebagai aliran berasingan, AMP direka untuk mengendalikannya sebagai satu interaksi. Lama-kelamaan, ejen AI mungkin menjadi sebagai pusat laman web dan aplikasi mudah alih dalam perjalanan pelanggan.

Ketika perusahaan semakin mengautomasikan lebih banyak interaksi pelanggan, Parloa memberi tumpuan untuk memastikan ejen AI cukup dipercayai, fleksibel dan dipercayai bagi beroperasi pada skala global.