Zendesk dùng OpenAI để xây dựng các tác nhân dịch vụ có tính thích ứng, tập trung vào việc giải quyết vấn đề

Zendesk đã giúp các doanh nghiệp mang đến trải nghiệm khách hàng tuyệt vời trong hơn một thập kỷ. Nền tảng của họ hỗ trợ hơn 4,6 tỷ lượt giải quyết mỗi năm.

Đầu năm 2023, Zendesk bắt đầu làm việc chặt chẽ với OpenAI để khám phá cách AI có thể định hình lại dịch vụ và phát triển sản phẩm. Hiện nay Zendesk đang thí điểm một lớp tác nhân AI mới⁠(mở trong cửa sổ mới), được vận hành bởi các mô hình OpenAI, không chỉ quản lý toàn bộ cuộc trò chuyện mà còn tự chủ lập kế hoạch và thực thi phản hồi: 

• Rút ngắn thời gian thiết lập từ vài ngày xuống vài phút
• Tăng tỷ lệ tự động hóa lên gần 80%
• Trao cho các nhóm toàn quyền kiểm soát cách AI hoạt động

Ngay cả những nền tảng dịch vụ tinh vi nhất cũng gặp giới hạn với tự động hóa truyền thống. Mô hình tiêu chuẩn dựa vào việc phân loại theo ý định: dự đoán một ý định, kích hoạt một đoạn hội thoại hoặc quy trình làm việc được định nghĩa sẵn, rồi hy vọng khách hàng đi theo kịch bản.

Thiết lập này hiệu quả với các tương tác có cấu trúc, nhưng nhanh chóng bộc lộ hạn chế khi gặp phải tình huống nhiều sắc thái, câu hỏi tiếp nối hoặc các trường hợp ngoại lệ.

“Thế giới cũ là nhận tin nhắn vào, đưa phản hồi ra,” Adrian McDermott, Giám đốc công nghệ của Zendesk, cho biết. “Trên thực tế, khách hàng thay đổi quyết định, đặt câu hỏi làm rõ và mong AI theo kịp một cách tự nhiên. Trong dịch vụ, kết quả duy nhất quan trọng là giải quyết được vấn đề, và cho đến nay, bot vẫn phần nào bị hạn chế trong khả năng đạt được điều đó.”

Zendesk bắt đầu làm việc với OpenAI để áp dụng cách tiếp cận tạo sinh sử dụng Tạo tăng cường truy xuất (RAG) cho các tương tác cơ bản đối với mục Hỏi đáp thường thấy. Ngày nay, trọng tâm của họ đã chuyển sang suy luận tạo sinh, cho phép các tác nhân AI lên kế hoạch và thực thi nhiệm vụ một cách độc lập.

Lớp tác nhân AI có tính chủ động mới của Zendesk được xây dựng chuyên biệt cho dịch vụ. Được vận hành bởi các mô hình OpenAI như GPT‑4o, các tác nhân này không chỉ trả lời câu hỏi — chúng dẫn dắt cuộc trò chuyện, suy luận theo ngữ cảnh và hướng tới việc giải quyết vấn đề.

Nền tảng này tận dụng kiến trúc đa tác nhân gồm các tác nhân chuyên biệt như:

• Tác nhân nhận diện tác vụ: Thay vì dựa vào huấn luyện thủ công, tác nhân AI này thực sự trò chuyện để hiểu người dùng cần gì, đặt câu hỏi làm rõ và phân biệt các vấn đề tương tự nhau.
• Tác nhân RAG hội thoại: Mở rộng RAG truyền thống bằng cách đặt cơ sở nơi hội thoại nhiều lượt. Ví dụ, khi người dùng hỏi về các tùy chọn thanh toán, tác nhân có thể hỏi tiếp người dùng đang ở đâu trước khi truy xuất các chính sách theo khu vực.
• Tác nhân biên soạn quy trình: Cân bằng giữa quyền tự chủ và kiểm soát, tác nhân tuân thủ quy trình của Zendesk chuyển đổi các quy tắc kinh doanh từ ngôn ngữ tự nhiên thành một luồng có cấu trúc, bảo đảm AI hiểu và phản ánh trực quan cách thực thi các quy trình của công ty.
• Tác nhân thực thi quy trình: Thực hiện hành động bằng cách gọi API, kích hoạt quy trình làm việc và cập nhật hệ thống, tất cả theo logic do doanh nghiệp xác lập.

Bằng cách kết hợp RAG với suy luận, các tác nhân AI của Zendesk giờ đây có thể tham gia vào các cuộc trò chuyện nhiều bước, đặt câu hỏi tiếp theo và điều chỉnh phản hồi dựa trên đầu vào của người dùng. Điều này cho phép nền tảng tự chủ giải quyết các vấn đề phức tạp mà không phụ thuộc vào các luồng hội thoại cứng nhắc.

“Chúng tôi đã trao cho bot nhiều quyền tự chủ hơn trong việc dẫn dắt cuộc trò chuyện, đồng thời vẫn hoạt động trong phạm vi các hàng rào bảo vệ chất lượng và độ chính xác của Zendesk,” McDermott cho biết. “Quy trình bắt đầu bằng việc hiểu vấn đề của khách hàng với trọng tâm chính đặt vào việc giải quyết vấn đề.”

Một trong những thay đổi lớn nhất trong quá trình phát triển tác nhân AI của Zendesk là sự tiến hóa sang mô hình phát triển lai, nơi các tác nhân có thể chuyển đổi liền mạch giữa các luồng hội thoại và các quy trình tạo sinh trong cùng một cuộc trò chuyện.

Với công cụ xây dựng tác nhân AI mới, doanh nghiệp có thể định nghĩa các quy trình bằng ngôn ngữ tự nhiên. Sau đó, tác nhân AI sẽ lập kế hoạch hành động bằng suy luận thích ứng và hiển thị bản xem trước các bước đề xuất trước khi thực hiện. 

Các biện pháp kiểm soát khả năng suy luận AI mang đến tầm quan sát theo thời gian thực về cách các tác nhân AI suy nghĩ, bảo đảm các nhóm có thể kiểm tra từng cuộc trò chuyện bằng cách xem lại chuỗi suy nghĩ (CoT) của tác nhân để hiểu cách các quyết định được đưa ra.

Sự thay đổi này giúp rút ngắn thời gian thiết lập từ vài ngày xuống vài phút, đồng thời khiến tự động hóa tạo sinh trở nên dễ tiếp cận hơn đối với tập khách hàng Zendesk to lớn hơn.

Ở phía sau, Zendesk vận hành một chương trình đo chuẩn nội bộ nghiêm ngặt để lựa chọn và triển khai những mô hình tốt nhất, đồng thời tinh chỉnh câu lệnh cho từng trường hợp sử dụng. Đội ngũ cân nhắc độ trễ, chi phí và chất lượng, thử nghiệm các mô hình mới như o3‑mini của OpenAI trên nhiều trường hợp sử dụng, từ RAG đến các tác vụ suy luận chạy trong nền.

Quy trình này cho phép Zendesk đánh giá, thử nghiệm và triển khai các mô hình mới trong chưa đầy 24 giờ.

Zendesk theo dõi hiệu suất cả trước và sau khi triển khai, sử dụng các bài kiểm thử (eval) ngoại tuyến và các chỉ số trực tiếp như tỷ lệ giải quyết, tỷ lệ chỉnh sửa và độ trễ. Mỗi quyết định về mô hình đều được ghi chép vào tài liệu và có thể kiểm tra, bảo đảm tính minh bạch và độ tin cậy khi hệ thống phát triển.

Năm nay, Zendesk dự định tiến thêm một bước: triển khai nền tảng đo chuẩn tự phục vụ để bất kỳ đội ngũ kỹ thuật nào của Zendesk cũng có thể thử nghiệm và triển khai mô hình mà không cần sự hỗ trợ thực hành từ các chuyên gia máy học.

Zendesk hiện đang thí điểm nền tảng AI có tính chủ động mới với nhóm khách hàng thích nghi nhanh. Nền tảng này được thiết kế để dễ dàng tích hợp với các thiết lập hiện có, giúp đẩy nhanh lộ trình của khách hàng đến cột mốc 80% tự động hóa mà không yêu cầu họ phải xây dựng lại từ đầu.

Dù các chỉ số chi tiết hơn sau này trong năm 2025 mới công bác, nhưng phản hồi ban đầu rất tích cực: thiết lập nhanh hơn, phản hồi chính xác hơn và hành trình người dùng mượt mà hơn trên mọi kênh.