Parloa tạo tác nhân dịch vụ mà khách hàng muốn trò chuyện cùng

Trong những ngày đầu của Parloa, nhà đồng sáng lập Stefan Ostwald đã dành một ngày tại trung tâm cuộc gọi của một công ty bảo hiểm, nơi nhóm của ông đang xây dựng những trải nghiệm giọng nói đầu tiên. Ngồi bên các điện thoại viên, ông nghe đi nghe lại những cuộc trò chuyện giống nhau: đặt lại mật khẩu, giải đáp thắc mắc về hợp đồng bảo hiểm và xử lý các thay đổi thông thường. Ông nhận ra phần lớn công việc đó có thể được tự động hóa.

Sau trải nghiệm đó, Parloa⁠(mở trong cửa sổ mới), có trụ sở tại Berlin, bắt đầu xây dựng các tác nhân giọng nói dựa trên quy tắc để tự động hóa lượng lớn tương tác với khách hàng.

Khi ChatGPT xuất hiện, công ty chuyển sang xây dựng nền tảng hiện mang tên Nền tảng quản lý tác nhân AI - AI Agent Management Platform (AMP), dựa trên thế hệ mô hình mới, trong đó có GPT‑5.4.

AMP giúp doanh nghiệp thiết kế, triển khai và quản lý các tương tác dịch vụ khách hàng ở quy mô lớn. Thay vì lập sơ đồ ý định và luồng xử lý cứng nhắc, các nhóm xác định hành vi bằng ngôn ngữ tự nhiên, kết nối với hệ thống nội bộ và nhanh chóng cải tiến nhờ tính năng mô phỏng và đánh giá tích hợp.

Parloa vận hành toàn bộ các tương tác này từ đầu đến cuối, xử lý mọi việc, từ định tuyến đơn giản đến các yêu cầu phức tạp gồm nhiều bước. Trọng tâm là duy trì tính nhất quán trong môi trường thực tế, nơi hiệu suất, độ trễ và các trường hợp ngoại lệ đều quan trọng. Để đạt được điều đó, Parloa liên tục kiểm thử các mô hình bằng những tình huống thực tế của khách hàng trước khi triển khai.

Nền tảng quản lý tác nhân - Agent Management Platform (AMP) của Parloa được thiết kế để người dùng doanh nghiệp và chuyên gia nghiệp vụ có thể xây dựng các tác nhân AI mà không cần viết mã.

O’Reilly cho biết: “Với AMP, các chuyên gia nghiệp vụ thuộc nhiều đơn vị kinh doanh có thể trực tiếp xây dựng tác nhân và kết nối API theo cách tinh gọn, đơn giản hơn nhiều.”

Ở cấp độ tổng thể, AMP cho phép các thương hiệu quản lý toàn bộ vòng đời của tác nhân AI. Nền tảng thực hiện điều này bằng cách giúp các nhóm không chuyên về kỹ thuật dễ dàng xác định cách tác nhân hành xử trước khi chính thức đưa vào hoạt động. Thay vì viết mã hoặc lập cây ý định cứng nhắc, các chuyên gia nghiệp vụ thiết lập vai trò, chỉ dẫn, công cụ và giới hạn của tác nhân bằng ngôn ngữ tự nhiên. Cấu hình đó trở thành cơ sở để tạo câu lệnh cho mô hình và xác định cách hệ thống hành xử trong môi trường thực tế.

Sau khi được xác định, tác nhân sẽ được kiểm thử trước khi triển khai. Parloa dùng các mô hình như GPT‑5.4 để mô phỏng cuộc trò chuyện với khách hàng, trong đó một mô hình đóng vai người gọi và mô hình còn lại vận hành tác nhân đã cấu hình. Các nhóm có thể trực tiếp xem xét những tương tác này, kiểm thử thay đổi bằng các tình huống thực tế và cải tiến trước khi đưa vào hoạt động.

Sau đó, chính các mô hình này đánh giá những cuộc trò chuyện bằng cách kết hợp các phép kiểm tra tất định với phương pháp chấm điểm LLM-as-a-judge (mô hình là giám khảo). Kết quả cho biết tác nhân có làm theo chỉ dẫn, sử dụng đúng công cụ và hoàn thành nhiệm vụ như mong đợi hay không.

Trong cuộc trò chuyện trực tiếp, lớp điều phối của AMP cung cấp cho một mô hình OpenAI cấu hình tác nhân và ngữ cảnh cuộc trò chuyện để tạo câu trả lời, truy xuất thông tin qua RAG hoặc kích hoạt công cụ nhằm tương tác với hệ thống phía sau của khách hàng. Parloa liên tục cập nhật lớp này bằng thế hệ mô hình mới nhất khi chúng cho thấy mức cải thiện rõ rệt về hiệu suất trong thực tế.

Sau cuộc trò chuyện, các quy trình riêng biệt do OpenAI hỗ trợ sẽ tóm tắt tương tác, phân loại ý định của khách hàng và đánh giá hiệu suất theo những quy tắc đã xác định.

Khi các tác nhân trở nên phức tạp hơn, việc duy trì một câu lệnh nguyên khối duy nhất cũng khó khăn hơn. Những thay đổi nhỏ có thể gây ra tác dụng phụ ngoài ý muốn. Để giải quyết vấn đề này, Parloa đã áp dụng phương pháp mô-đun. Các tác vụ như xác thực, thay đổi đặt chỗ hoặc cập nhật tài khoản có thể được tách thành những tác nhân con riêng biệt, qua đó cải thiện khả năng làm theo chỉ dẫn và giúp hệ thống dễ phát triển hơn theo thời gian.

Đồng thời, nền tảng tích hợp các biện pháp kiểm soát tất định tại những khâu đòi hỏi độ tin cậy cao nhất. Doanh nghiệp có thể xác định chuỗi API có cấu trúc và logic dựa trên sự kiện để bảo đảm các bước quan trọng diễn ra đúng thứ tự, cân bằng tính linh hoạt trong hội thoại với khả năng thực thi có thể dự đoán.

Parloa dùng các mô hình như GPT‑4.1, GPT‑5‑mini và nhiều mô hình khác để mô phỏng những tương tác thực tế với khách hàng trước khi tác nhân được đưa vào hoạt động, rồi đánh giá chúng bằng cách kết hợp LLM-as-a-judge (mô hình là giám khảo) với các quy tắc tất định. Nhờ đó, các nhóm có thể kiểm thử trường hợp ngoại lệ, nhanh chóng cải tiến và xác thực hiệu suất trước khi khách hàng có nguy cơ gặp lỗi.

Parloa chủ yếu làm việc với các doanh nghiệp lớn, nơi tính nhất quán cũng quan trọng như năng lực.

Matthäus Deutsch, Nhà khoa học Ứng dụng Cấp cao, cho biết: “Khi một mô hình mới ra mắt, chúng tôi dùng bộ công cụ đo kiểm chuẩn để đánh giá mô hình đó.” “Điều rất quan trọng với chúng tôi là mọi thứ không chỉ hoạt động trong các phép đo kiểm chuẩn mang tính lý thuyết mà còn trong những trường hợp sử dụng thực tế.”

Thay vì dựa vào các phép đo kiểm chuẩn trừu tượng, Parloa sao chép cấu hình của những tác nhân đang vận hành thực tế rồi đưa chúng qua các quy trình mô phỏng và đánh giá. Các bài kiểm thử này đo độ tin cậy khi làm theo chỉ dẫn, tính nhất quán khi gọi API, độ trễ và hiệu suất tổng thể trong điều kiện thực tế.

Những đánh giá này xác định mô hình nào đã sẵn sàng để đưa vào môi trường thực tế. Chỉ những mô hình hoạt động đáng tin cậy trong nhiều tình huống thực tế của khách hàng mới được triển khai.

Deutsch cho biết: “Khách hàng doanh nghiệp phải chịu chi phí chuyển đổi thực sự.” “Khi một hệ thống đã hoạt động ổn định trong thực tế, họ sẽ duy trì hệ thống và chỉ chuyển đổi khi lợi ích thật sự rõ ràng.”

Nhờ đó, hệ thống hoạt động theo cách có thể dự đoán trong môi trường thực tế, ngay cả ở quy mô lớn. Trong hàng triệu lượt tương tác với khách hàng, phần lớn cuộc trò chuyện được giải quyết suôn sẻ. Ngay cả khi cuộc gọi được chuyển cho điện thoại viên, nguyên nhân hiếm khi là do hệ thống gặp lỗi. Trong một dự án triển khai, một công ty du lịch toàn cầu đã giảm 80% số yêu cầu gặp điện thoại viên.

Tư duy lấy đánh giá làm nền tảng đã trở thành yếu tố khác biệt cốt lõi, giúp Parloa tiến nhanh mà không phải đánh đổi độ tin cậy trong môi trường thực tế.

Giọng nói đặt ra những hạn chế khác với trò chuyện bằng văn bản. Mỗi tương tác đều đi qua một quy trình có độ trễ thấp: chuyển giọng nói thành văn bản, suy luận bằng mô hình và chuyển văn bản thành giọng nói.

Với quy trình này, độ trễ trở thành yếu tố then chốt. Ngay cả độ trễ nhỏ ở lớp mô hình cũng cộng dồn thành những khoảng ngừng dễ nhận thấy với người gọi, từ đó ảnh hưởng đến cách lựa chọn và tối ưu mô hình.

Parloa hợp tác chặt chẽ với OpenAI để tối ưu hiệu suất cho các trường hợp sử dụng theo thời gian thực, tập trung vào độ trễ, chất lượng phản hồi và khả năng làm theo chỉ dẫn. Nhóm liên tục đánh giá và kiểm thử chịu tải các phiên bản mô hình mới trong môi trường tương tự thực tế trước khi áp dụng cho những tương tác trực tiếp với khách hàng.

Parloa đánh giá độc lập từng thành phần trong hệ thống giọng nói:

• Các hệ thống chuyển giọng nói thành văn bản được kiểm thử về tỷ lệ lỗi từ, đặc biệt với dữ liệu nhạy cảm như số hợp đồng bảo hiểm hoặc mã định danh tài khoản.
• Các mô hình chuyển văn bản thành giọng nói được đánh giá qua bài kiểm tra nghe mù nhằm xác định giọng nói có tự nhiên với người dùng thực hay không. Sau đó, các kết quả này được đối chiếu với tương tác thực tế của khách hàng để bảo đảm hiệu suất nhất quán trong môi trường thực tế.
• Các mô hình giọng nói thành giọng nói hiện đang được đánh giá về mức độ sẵn sàng triển khai thực tế, tập trung vào độ trễ, độ chính xác và chi phí.

Ngay từ đầu, các hệ thống này đã được xây dựng để triển khai trên toàn cầu. Các phép đo kiểm chuẩn bao quát nhiều ngôn ngữ, còn khách hàng hoạt động tại nhiều khu vực trên toàn thế giới. Sự nghiêm ngặt về đa ngôn ngữ này vừa phản ánh nguồn gốc châu Âu của Parloa, vừa đáp ứng kỳ vọng của khách hàng doanh nghiệp: hiệu suất phải nhất quán trên mọi thị trường, chứ không chỉ trong một ngôn ngữ hay khu vực.

Hiện nay, các tác nhân của Parloa xử lý hàng triệu cuộc trò chuyện trong nhiều ngành như bán lẻ, du lịch và bảo hiểm, hỗ trợ các trường hợp sử dụng từ tự động hóa hỗ trợ đến những luồng tạo doanh thu như bán hàng qua điện thoại.

Parloa nhận thấy dịch vụ khách hàng đang phát triển thành một trải nghiệm đa phương thức hoàn toàn.

Một cuộc trò chuyện có thể bắt đầu qua điện thoại, tiếp tục trong khung chat và kết hợp các liên kết hoặc thành phần tương tác trong suốt quá trình. Thay vì coi mỗi bước là một luồng riêng biệt, AMP được thiết kế để xử lý tất cả như một tương tác duy nhất. Theo thời gian, các tác nhân AI có thể trở thành một phần trọng tâm trong hành trình khách hàng, tương tự trang web và ứng dụng di động.

Khi doanh nghiệp tiến tới tự động hóa ngày càng nhiều tương tác với khách hàng, Parloa tập trung giúp các tác nhân AI đủ đáng tin cậy, linh hoạt và được tín nhiệm để hoạt động ở quy mô toàn cầu.