Zendesk menggunakan OpenAI untuk membangun agen layanan adaptif yang berfokus pada resolusi

Zendesk telah membantu bisnis menghadirkan pengalaman pelanggan yang luar biasa selama lebih dari satu dekade. Platformnya mendukung lebih dari 4,6 miliar resolusi setiap tahun.

Pada awal 2023, Zendesk mulai bekerja erat dengan OpenAI untuk mengeksplorasi bagaimana AI dapat membentuk ulang layanan dan pengembangan produk. Kini Zendesk sedang menguji kelas baru agen AI⁠(terbuka di jendela baru), yang didukung oleh model OpenAI, yang tidak hanya mengelola seluruh percakapan tetapi juga merencanakan dan menjalankan respons secara otonom: 

• Mengurangi waktu penyiapan dari berhari-hari menjadi hitungan menit
• Meningkatkan tingkat otomatisasi menuju 80%
• Memberi tim kontrol penuh atas bagaimana AI berperilaku

Bahkan platform layanan yang paling canggih pun menghadapi keterbatasan dalam hal otomatisasi tradisional. Model standar bergantung pada klasifikasi intent: memprediksi intent, memicu dialog atau alur kerja yang telah ditentukan sebelumnya, lalu berharap pelanggan mengikuti skrip.

Pengaturan ini berhasil untuk interaksi yang terstruktur, namun dengan cepat mengalami kegagalan saat berhadapan dengan nuansa, pertanyaan tindak lanjut, atau kasus tepi.

“Dunia lama adalah pesan masuk, respons keluar,” kata Adrian McDermott, CTO di Zendesk. “Pelanggan sungguhan berubah pikiran, mengajukan pertanyaan klarifikasi, dan mengharapkan AI mengikuti secara alami. Dalam layanan, satu-satunya hasil yang terpenting adalah penyelesaian masalah, dan hingga saat ini, kemampuan bot untuk mencapai hal tersebut masih terbilang agak terbatas.”

Zendesk mulai bekerja sama dengan OpenAI untuk mengadopsi pendekatan generatif menggunakan Retrieval-Augmented generation (RAG) untuk interaksi FAQ dasar. Kini, fokus mereka telah beralih ke penalaran generatif yang memungkinkan agen AI merencanakan dan menjalankan tugas secara mandiri.

Kelas baru agen AI agentik dari Zendesk dirancang khusus untuk layanan. Didukung oleh model OpenAI seperti GPT‑4o, agen ini tidak hanya menjawab pertanyaan—tetapi juga memimpin percakapan, menalar melalui konteks, dan mengarah pada resolusi.

Platform ini memanfaatkan arsitektur multi-agen yang terdiri dari agen-agen khusus seperti:

• Agen identifikasi tugas: Alih-alih mengandalkan pelatihan manual, agen AI ini melakukan percakapan nyata untuk memahami apa yang dibutuhkan pengguna, mengajukan pertanyaan klarifikasi, dan membedakan masalah yang serupa.
• Agen RAG percakapan: Memperluas RAG tradisional dengan berlandaskan percakapan multi-giliran. Misalnya, saat pengguna bertanya tentang opsi pembayaran, agen dapat menindaklanjuti dengan menanyakan lokasi pengguna sebelum mengambil kebijakan yang spesifik untuk wilayah tersebut.
• Agen kepatuhan prosedur: Menyeimbangkan otonomi dengan kontrol, agen kepatuhan prosedur Zendesk mengubah aturan bisnis dari bahasa alami menjadi alur terstruktur, memastikan AI memahami dan secara visual mencerminkan cara menjalankan prosedur perusahaan.
• Agen eksekusi prosedur: Menjalankan tindakan dengan melakukan pemaggilan API, memicu alur kerja, dan memperbarui sistem, semuanya dalam logika yang ditentukan oleh bisnis.

Dengan menggabungkan RAG dengan penalaran, agen AI Zendesk kini dapat terlibat dalam percakapan multi-langkah, mengajukan pertanyaan tindak lanjut, dan menyesuaikan respons berdasarkan input pengguna. Ini memungkinkan platform menyelesaikan masalah kompleks secara otonom, tanpa bergantung pada alur dialog yang kaku.

“Kami telah memberi bot lebih banyak otonomi dalam memandu percakapan sambil tetap beroperasi dalam batasan pengamanan Zendesk demi kualitas dan akurasi,” kata McDermott. “Prosesnya dimulai dengan memahami masalah pelanggan dengan fokus tinggi untuk mendorong ke arah resolusi.”

Salah satu perubahan terbesar dalam pengembangan agen AI Zendesk adalah evolusi mereka menuju model pengembangan hibrida, di mana agen dapat berpindah mulus antara alur dialog dan prosedur generatif dalam satu percakapan.

Dengan pembuat agen AI yang baru, bisnis dapat mendefinisikan prosedur dalam bahasa alami. Agen AI kemudian merencanakan tindakan menggunakan penalaran adaptif dan menampilkan pratinjau langkah-langkah yang diusulkan sebelum mulai beroperasi. 

Kontrol penalaran AI memberikan visibilitas real time tentang cara agen AI berpikir, memastikan tim dapat mengaudit setiap percakapan dengan meninjau chain of thought (CoT) agen untuk memahami bagaimana keputusan dibuat.

Perubahan ini mengurangi waktu penyiapan dari berhari-hari menjadi hitungan menit, dan membuat otomatisasi generatif dapat diakses oleh kelompok pelanggan Zendesk yang jauh lebih luas.

Di balik layar, Zendesk menjalankan program benchmarking internal yang ketat untuk memilih dan menerapkan model terbaik serta menyesuaikan prompt untuk setiap kasus penggunaan. Tim mempertimbangkan latensi, biaya, dan kualitas, menguji model-model baru seperti o3‑mini dari OpenAI di berbagai kasus penggunaan mulai dari RAG hingga tugas penalaran latar belakang.

Proses ini memungkinkan Zendesk mengevaluasi, menguji, dan menerapkan model baru dalam waktu kurang dari 24 jam.

Zendesk melacak performa baik sebelum maupun sesudah penerapan, menggunakan evaluasi offline dan metrik langsung seperti tingkat resolusi, tingkat edit, dan latensi. Setiap keputusan model didokumentasikan dan dapat diaudit, memastikan transparansi dan keandalan seiring sistem berkembang.

Tahun ini, Zendesk berencana melangkah lebih jauh: meluncurkan platform benchmarking swalayan agar tim engineering Zendesk mana pun dapat menguji dan menerapkan model tanpa memerlukan dukungan langsung dari para ahli machine learning.

Zendesk saat ini sedang menguji platform AI agentik baru dengan pelanggan pengguna awal. Platform ini dirancang agar mudah terintegrasi dengan pengaturan yang sudah ada, mempercepat langkah pelanggan menuju 80% otomatisasi tanpa mengharuskan mereka membangun ulang dari nol.

Meskipun metrik yang lebih komprehensif baru akan tersedia pada akhir tahun 2025, umpan balik awal yang diterima sejauh ini sangat positif: proses penyiapan yang lebih cepat, respons yang lebih akurat, serta pengalaman pengguna yang lebih mulus di seluruh saluran.