Retell dùng mô hình OpenAI cho 100 triệu cuộc gọi mỗi tháng

Retell AI⁠(mở trong cửa sổ mới) là nền tảng AI giọng nói dành cho hoạt động tổng đài, giúp doanh nghiệp xây dựng các tác nhân có thể giải đáp thắc mắc, thực hiện hành động và kết nối người gọi với nhân viên khi cần. Nền tảng hiện phục vụ hơn 4.000 doanh nghiệp, với lượng cuộc gọi hằng tháng tăng từ 30 triệu vào đầu năm 2026 lên hơn 100 triệu vào tháng 9.

Khi phục vụ ngày càng nhiều doanh nghiệp có quy trình phức tạp, Retell sử dụng các mô hình OpenAI để duy trì chất lượng cuộc gọi và độ tin cậy ở mức cao. Hiện nay, các mô hình OpenAI tạo phản hồi cho 80% cuộc gọi trên Retell, với tỷ lệ giải quyết yêu cầu của các khách hàng doanh nghiệp đạt trên 80%. Retell cũng đã tiêu thụ hơn 1 nghìn tỷ token trên các mô hình OpenAI, cho thấy quy mô ứng dụng này.

Các kỹ sư Retell sử dụng Codex trong suốt quá trình phát triển, từ tìm hiểu mã nguồn chưa quen thuộc đến xây dựng tính năng và gỡ lỗi, đồng thời dùng GPT‑6 Astra để kiểm thử giao diện người dùng.

Tác nhân giọng nói cho doanh nghiệp cần tuân thủ chính sách công ty và thực hiện đúng vai trò được giao, ngay cả khi cuộc hội thoại chuyển hướng. Retell xây dựng bộ đánh giá vCX để so sánh hàng chục mô hình thông qua các cuộc hội thoại khó, gồm nhiều lượt trao đổi, lấy từ tình huống vận hành thực tế.

Bộ đánh giá kiểm tra khả năng tuân thủ chỉ dẫn, bám sát thông tin được cung cấp, gọi đúng công cụ và sử dụng ngôn ngữ hội thoại tự nhiên của các mô hình. Trong bài đánh giá ngày 13/10/2026 của Retell, GPT‑6 Astra đứng đầu về khả năng tuân thủ chỉ dẫn với tỷ lệ 89,7%.

Retell cũng chia sẻ các đánh giá được thực hiện trước khi mô hình GPT‑6 Astra ra mắt. Kết quả cho thấy khi bật suy luận, GPT‑5.5 đứng đầu trong các mô hình về cả tỷ lệ không tạo thông tin bịa đặt (88,0%) và độ chính xác khi gọi công cụ (88,3%), vượt Gemini‑3.1‑Pro và Claude‑4.6 ở cả hai chỉ số. Mô hình này cũng dẫn đầu về tỷ lệ không tạo thông tin bịa đặt khi tắt suy luận.

Retell cho biết những khách hàng mới lựa chọn mô hình OpenAI đều tiếp tục sử dụng. Khách hàng cũng có thể truy cập các mô hình OpenAI Realtime qua Realtime API và dùng công nghệ chuyển văn bản thành giọng nói của OpenAI làm bộ máy tạo giọng nói. Retell cung cấp các mô hình OpenAI mới ngay trong ngày ra mắt và chạy lại bộ đánh giá khi các mô hình được cải tiến.

Các đội ngũ tổng đài dùng Retell để xác định bối cảnh kinh doanh, mục tiêu và quy tắc cho tác nhân của mình. Nhà phát triển có thể cấu hình thêm các quy trình và chức năng tích hợp.

Trong cuộc gọi, hệ thống điều khiển của Retell chạy các mô hình âm thanh, theo dõi cuộc hội thoại và quản lý thời điểm tác nhân nói, lắng nghe hoặc phản hồi khi bị ngắt lời. Các mô hình OpenAI, gồm GPT‑6.1 Sol, GPT‑6 Astra và GPT‑5.5, sử dụng chỉ dẫn của khách hàng và ngữ cảnh hội thoại để tạo phản hồi và yêu cầu gọi công cụ. Retell thực hiện các lệnh gọi đó thông qua kết nối tích hợp với hệ thống của khách hàng và có thể ghi kết quả vào hồ sơ khách hàng.

Khi cần đến sự phán đoán của con người, tác nhân giọng nói sẽ tóm tắt tình hình cho nhân viên, trả lời các câu hỏi bổ sung và xác nhận nhân viên đã sẵn sàng trước khi kết nối khách hàng. Sau cuộc gọi, Retell dùng GPT‑5.6 Terra để phân tích bản chép lời, trích xuất kết quả và các dữ liệu khác.

Với cách tiếp cận này, Retell cho biết tỷ lệ giải quyết yêu cầu của khách hàng đạt trên 80%. Tại công ty điện tử Anker, các tác nhân đảm nhiệm hỗ trợ sau bán hàng cấp 1 ở Mỹ và Anh, bao gồm theo dõi đơn hàng, kiểm tra bảo hành và khắc phục sự cố. Anker ghi nhận tỷ lệ giải quyết vụ việc đạt 80,4% và chỉ số sẵn lòng giới thiệu (NPS) đạt 63. Đội ngũ Anker cũng cho biết giọng điệu, nhịp nói và sự thân thiện của các tác nhân đáp ứng tiêu chuẩn mà họ kỳ vọng ở nhân viên con người.

Tại Pine Park Health, các tác nhân Retell phụ trách nhắc lịch hẹn, chủ động sắp xếp lịch và ghi kết quả vào bệnh án. Đội ngũ đã tiết kiệm được thời gian của trợ lý y tế tương đương 2,1 vị trí toàn thời gian và dành phần thời gian đó cho việc chăm sóc bệnh nhân. Tác nhân xếp lịch của họ đạt tỷ lệ đặt hẹn 55,7% khi liên lạc được với bệnh nhân.

Lưu lượng ban ngày trên nền tảng Retell có thể cao gấp hơn 50 lần mức thấp nhất vào ban đêm. Để cuộc gọi luôn được phản hồi nhanh ngay cả vào giờ cao điểm, Retell sử dụng máy chủ chuyên dụng với OpenAI, dùng chung cho các khách hàng của mình. Trong bài đánh giá ngày 13/10/2026 của Retell, GPT‑6 Astra và GPT‑6 Sol đều ghi nhận độ trễ trung vị đến câu trả lời đầu tiên là 883 mili giây, còn GPT‑5.6 Luna dẫn đầu với 497 mili giây.

Các điểm cuối API theo khu vực của OpenAI cho phép nhà phát triển định tuyến lưu lượng đến các vùng địa lý cụ thể, giúp Retell giảm thời gian truyền qua mạng và đáp ứng yêu cầu về nơi lưu trú dữ liệu của khách hàng trong các ngành như y tế và dịch vụ tài chính.

Retell cũng thiết lập cơ chế dự phòng ở từng lớp dịch vụ. Retell vận hành hệ thống điện thoại riêng với một hệ thống thứ hai sẵn sàng tiếp quản, cùng các phương án dự phòng cho dịch vụ giọng nói và mô hình, giúp cuộc gọi không bị gián đoạn khi một dịch vụ gặp sự cố.

Khi tệp khách hàng doanh nghiệp của Retell tăng trưởng, nhu cầu về quy trình tùy chỉnh và tích hợp cũng tăng theo, khiến các kỹ sư thường xuyên phải làm việc với những phần chưa quen thuộc trong hệ thống mã nguồn. Trước khi viết mã, họ đưa cho Codex một yêu cầu tổng quát. Codex khảo sát mã nguồn, đối chiếu với dữ liệu thực tế và giải thích những điểm cần thay đổi. Một kỹ sư cho biết Codex thực hiện việc tìm hiểu này tốt hơn và nhanh hơn anh rất nhiều.

Các kỹ sư cho biết trong quá trình triển khai, Codex thường phát hiện những chi tiết mà họ chưa nghĩ tới. Khi gỡ lỗi, Codex đối chiếu nhật ký và bản ghi cơ sở dữ liệu với mã nguồn để tìm hiểu điều gì đang xảy ra. Các kỹ sư Retell cũng dùng Codex khi làm việc với khách hàng xây dựng ứng dụng trên mô hình OpenAI, giúp đẩy nhanh các tác vụ như viết chỉ dẫn định hướng cách mô hình phản hồi trong ứng dụng của khách hàng.

Để kiểm thử các thay đổi trên giao diện web, Retell sử dụng khả năng thao tác máy tính của GPT‑6 Astra. Khi một kỹ sư mở pull request cho phần giao diện, GPT‑6 Astra mở giao diện, nhấp qua các mục, kiểm thử các luồng thao tác, thử gây lỗi và báo cáo những vấn đề phát hiện được. Retell cho biết các mô hình trước đây không thể thực hiện công việc này một cách đáng tin cậy.

Retell vẫn tiếp tục tuyển dụng, nhưng không cần mở rộng đội ngũ kỹ sư theo cùng tốc độ tăng trưởng kinh doanh. Retell cho biết doanh thu quy đổi theo năm đạt 1,6 triệu USD trên mỗi nhân viên.

Mỗi doanh nghiệp đều biết mình muốn phục vụ khách hàng như thế nào. Mục tiêu của Retell là giúp những người trực tiếp làm công việc đó áp dụng chuyên môn của mình ngay vào thực tế, nhờ AI giọng nói tiên tiến và một nền tảng cho phép họ xây dựng, kiểm thử và cải tiến tác nhân của riêng mình. Tiếp theo, Retell dự định mở rộng hoạt động đảm bảo chất lượng và mô phỏng, hỗ trợ thêm ngôn ngữ và phát triển khả năng tự học từ cơ sở tri thức.

Khi các mô hình OpenAI tiếp tục tiến bộ, Retell kỳ vọng khách hàng của mình có thể cung cấp dịch vụ đẳng cấp thế giới cho hàng triệu người gọi theo cách riêng của họ.

“Không ai hiểu khách hàng của một công ty hơn chính công ty đó. Chúng tôi trao cho họ khả năng vận dụng sự am hiểu ấy và trực tiếp cải tiến các tác nhân AI. Mục tiêu là để họ xây dựng một đội ngũ kỹ sư nội bộ phụ trách triển khai, làm chủ và vận hành toàn bộ hệ thống”, Bing chia sẻ.