Retell gère 100 M d’appels par mois avec les modèles OpenAI

Retell AI⁠(s'ouvre dans une nouvelle fenêtre) est une plateforme d’IA vocale pour les centres de contact qui aide les entreprises à créer des agents capables de répondre aux questions, d’agir et de mettre un appelant en relation avec une personne au besoin. Sa plateforme sert maintenant plus de 4 000 entreprises, et son volume d’appels mensuel est passé de 30 millions au début de 2026 à plus de 100 millions en septembre.

Alors que Retell sert davantage de grandes entreprises aux flux de travail complexes, elle utilise les modèles OpenAI pour maintenir la qualité et la fiabilité des appels. Aujourd’hui, les modèles OpenAI génèrent les réponses pour 80 % des appels sur Retell, et les clients atteignent des taux de résolution supérieurs à 80 %. Retell a aussi dépassé les 1 000 milliards de tokens consommés sur l’ensemble des modèles OpenAI, ce qui témoigne de l’ampleur de cette adoption.

Les ingénieurs de Retell utilisent Codex tout au long du développement, de l’exploration de code peu familier à la création de fonctionnalités et au débogage, ainsi que GPT‑6 Astra pour tester les interfaces utilisateur.

Les agents vocaux d’entreprise doivent respecter les politiques de l’entreprise et s’en tenir aux rôles qui leur sont attribués, même lorsque les conversations évoluent. Retell a conçu son test de performance vCX pour comparer des dizaines de modèles à l’aide de conversations difficiles à plusieurs échanges, tirées de scénarios réels en production.

Ce test évalue dans quelle mesure les modèles suivent les instructions, s’en tiennent aux renseignements fournis, appellent les bons outils et utilisent un langage conversationnel naturel. Dans le test de performance de Retell du 13 octobre 2026, GPT‑6 Astra est arrivé en tête pour le respect des instructions, à 89,7 %.

Retell a aussi publié des évaluations réalisées avant le lancement du modèle GPT‑6 Astra, qui montraient que GPT‑5.5 arrivait en tête des modèles tant pour le taux d’absence d’hallucinations (88,0 %) que pour l’exactitude des appels d’outils (88,3 %) avec le raisonnement activé, surpassant Gemini‑3.1‑Pro et Claude‑4.6 sur ces deux mesures. Il arrivait aussi en tête pour le taux d’absence d’hallucinations avec le raisonnement désactivé.

Retell affirme que les nouveaux clients qui choisissent les modèles OpenAI continuent de les utiliser. Les clients ont aussi accès aux modèles OpenAI Realtime par l’intermédiaire de la Realtime API et à la synthèse vocale d’OpenAI comme moteur vocal. Retell rend les nouveaux modèles OpenAI accessibles dès leur lancement et relance son test de performance à mesure que les modèles s’améliorent.

Les équipes des centres de contact utilisent Retell pour définir le contexte d’affaires, les objectifs et les règles de leurs agents. Les développeurs peuvent configurer plus en détail les flux de travail et les intégrations.

Pendant un appel, le harnais de Retell exécute les modèles audio, suit la conversation et gère les moments où l’agent parle, écoute ou réagit aux interruptions. Les modèles OpenAI, dont GPT‑6.1 Sol, GPT‑6 Astra et GPT‑5.5, utilisent les instructions du client et le contexte de la conversation pour générer des réponses et demander des appels d’outils. Retell exécute ces appels grâce à des intégrations aux systèmes du client et peut consigner les résultats dans un dossier client.

Lorsqu’un jugement humain est nécessaire, l’agent vocal présente le contexte au représentant, répond à ses questions complémentaires et confirme qu’il est prêt avant de lui transférer le client. Après un appel, Retell utilise GPT‑5.6 Terra pour analyser la transcription et en extraire les résultats et d’autres données.

Grâce à cette approche, Retell rapporte des taux de résolution des demandes des clients supérieurs à 80 %. Chez Anker, une entreprise d’électronique, les agents assurent le soutien après-vente de niveau 1 aux États-Unis et au Royaume-Uni, notamment le suivi des commandes, la vérification des garanties et le dépannage. Anker a rapporté un taux de résolution des cas de 80,4 % et un taux de recommandation net (NPS) de 63. Son équipe a aussi indiqué que le ton, le rythme et la chaleur des agents correspondaient à ce qu’elle attendait d’un agent humain.

Chez Pine Park Health, les agents Retell gèrent les rappels de rendez-vous et la prise de rendez-vous proactive, puis consignent les résultats dans les dossiers médicaux des patients. L’équipe a libéré du temps d’assistance médicale équivalant à 2,1 postes à temps plein et l’a réaffecté aux soins aux patients. Son agent de prise de rendez-vous a atteint un taux de réservation de 55,7 % lorsqu’il réussissait à joindre un patient.

Le trafic de jour sur la plateforme de Retell peut dépasser de plus de 50 fois son minimum nocturne. Pour préserver la réactivité des appels même aux heures de pointe, Retell utilise des serveurs dédiés avec OpenAI, partagés entre ses clients. Dans le test de performance de Retell du 13 octobre 2026, GPT‑6 Astra et GPT‑6 Sol ont chacun enregistré une latence médiane de 883 millisecondes pour la première phrase, tandis que GPT‑5.6 Luna arrivait en tête avec 497 millisecondes.

Les points de terminaison régionaux de l’API d’OpenAI permettent aux développeurs d’acheminer le trafic vers des régions géographiques précises, ce qui aide Retell à réduire le temps de transit sur le réseau et à respecter les exigences de résidence des données de ses clients dans des secteurs comme les soins de santé et les services financiers.

Retell intègre aussi de la redondance à chaque couche du service. L’entreprise exploite sa propre pile de téléphonie, avec une seconde pile prête à prendre le relais et des solutions de secours pour les services vocaux et les modèles, afin de maintenir les appels en cas de panne d’un service.

La croissance de Retell auprès des grandes entreprises entraîne davantage de demandes de flux de travail et d’intégrations sur mesure, ce qui amène souvent ses ingénieurs à travailler dans des parties peu familières de la base de code. Avant d’écrire du code, ils présentent une exigence générale à Codex. Codex examine le code, le vérifie à l’aide de données réelles et explique ce qui doit changer. Un ingénieur a indiqué que Codex effectuait cette recherche mieux et beaucoup plus rapidement que lui.

Pendant la mise en œuvre, les ingénieurs disent que Codex repère souvent des détails auxquels ils n’avaient pas pensé. Pour le débogage, Codex recoupe les journaux et les enregistrements de la base de données avec le code afin de comprendre ce qui se passe. Les ingénieurs de Retell utilisent aussi Codex dans leur travail avec les clients qui développent des solutions avec les modèles OpenAI, afin d’accélérer des tâches comme la rédaction des instructions qui guident les réponses d’un modèle dans l’application d’un client.

Pour tester les changements apportés à son interface Web, Retell s’appuie sur la capacité de GPT‑6 Astra à utiliser un ordinateur. Lorsqu’un ingénieur ouvre une pull request pour l’interface utilisateur, GPT‑6 Astra ouvre l’interface, y navigue en cliquant, teste les parcours, tente de les faire échouer et signale les problèmes repérés. Selon Retell, les modèles précédents ne pouvaient pas effectuer ce travail de manière fiable.

Retell continue d’embaucher, mais son équipe d’ingénierie n’a pas eu besoin de croître au même rythme que l’entreprise. Retell rapporte des revenus annualisés de 1,6 million de dollars par employé.

Chaque entreprise sait comment elle veut servir ses clients. L’objectif de Retell est de permettre aux personnes les plus proches de ce travail d’appliquer directement leur expertise, grâce à une IA vocale avancée et à une plateforme qui leur permet de créer, de tester et d’améliorer leurs propres agents. Retell prévoit ensuite d’élargir l’assurance qualité et la simulation, de prendre en charge davantage de langues et de développer l’apprentissage automatique à partir de la base de connaissances.

À mesure que les modèles OpenAI progressent, Retell s’attend à ce que ses clients offrent un service de calibre mondial à des millions d’appelants, selon leurs propres modalités.

« Personne ne connaît mieux les clients d’une entreprise que l’entreprise elle-même. Nous lui donnons les moyens de mettre cette expertise à profit et d’améliorer directement les agents d’IA. L’objectif est qu’elle forme une équipe d’ingénieurs déployés à l’interne qui prend en charge et gère l’ensemble », explique Bing.