Retell: 100 miljoen gesprekken per maand met OpenAI-modellen

Retell AI⁠(opent in een nieuw venster) is een spraak-AI-platform voor contactcenters. Het helpt bedrijven agents te bouwen die vragen beantwoorden, acties uitvoeren en een beller zo nodig met een medewerker verbinden. Het platform bedient inmiddels meer dan 4.000 bedrijven. Het maandelijkse gespreksvolume groeide van 30 miljoen begin 2026 naar meer dan 100 miljoen in september.

Nu Retell steeds meer grote bedrijven met complexe workflows bedient, zet het OpenAI-modellen in om de gesprekskwaliteit en betrouwbaarheid op peil te houden. OpenAI-modellen genereren inmiddels antwoorden voor 80% van de gesprekken op Retell, waarbij klanten meer dan 80% van de vragen oplossen. Retell heeft bovendien meer dan 1 biljoen tokens verbruikt met OpenAI-modellen, wat de omvang van dat gebruik onderstreept.

De ontwikkelaars van Retell gebruiken Codex gedurende het hele ontwikkelproces: van het onderzoeken van onbekende code tot het bouwen van functies en het opsporen en oplossen van fouten. Met GPT‑6 Astra testen ze front-endinterfaces.

Spraakagents voor bedrijven moeten het bedrijfsbeleid volgen en binnen hun toegewezen rol blijven, ook als een gesprek een andere wending neemt. Retell ontwikkelde de vCX-benchmark om tientallen modellen te vergelijken aan de hand van lastige gesprekken met meerdere beurten, gebaseerd op echte praktijksituaties.

De benchmark test hoe goed modellen instructies volgen, zich baseren op de informatie die ze krijgen, de juiste tools aanroepen en natuurlijke spreektaal gebruiken. In Retells benchmark van 13 oktober 2026 eindigde GPT‑6 Astra als eerste op het volgen van instructies, met 89,7%.

Retell deelde ook evaluaties van vóór de introductie van het GPT‑6 Astra-model. Daarin scoorde GPT‑5.5 met redenering ingeschakeld het hoogst op zowel het percentage antwoorden zonder hallucinaties (88,0%) als de juistheid van toolaanroepen (88,3%). Op beide punten presteerde het beter dan Gemini‑3.1‑Pro en Claude‑4.6. Ook met redenering uitgeschakeld behaalde het het hoogste percentage antwoorden zonder hallucinaties.

Volgens Retell blijven nieuwe klanten die voor OpenAI-modellen kiezen deze gebruiken. Klanten hebben ook toegang tot OpenAI Realtime-modellen via de Realtime API en kunnen de tekst-naar-spraaktechnologie van OpenAI als spraakengine gebruiken. Retell stelt nieuwe OpenAI-modellen op de dag van introductie beschikbaar en voert de benchmark opnieuw uit wanneer modellen verbeteren.

Contactcenterteams gebruiken Retell om de bedrijfscontext, doelen en regels voor hun agents vast te leggen. Ontwikkelaars kunnen workflows en integraties verder configureren.

Tijdens een gesprek voert de harness van Retell de audiomodellen uit, houdt deze het gesprek bij en bepaalt deze wanneer de agent spreekt, luistert of op onderbrekingen reageert. OpenAI-modellen, waaronder GPT‑6.1 Sol, GPT‑6 Astra en GPT‑5.5, gebruiken de instructies van de klant en de gesprekscontext om antwoorden te genereren en toolaanroepen aan te vragen. Retell voert die aanroepen uit via integraties met de systemen van de klant en kan de resultaten vastleggen in een klantdossier.

Wanneer menselijk inzicht nodig is, geeft de spraakagent de medewerker de relevante context, beantwoordt diens vervolgvragen en controleert of de medewerker klaar is voordat de klant wordt doorverbonden. Na een gesprek gebruikt Retell GPT‑5.6 Terra om het transcript te analyseren en er resultaten en andere gegevens uit te halen.

Volgens Retell wordt met deze aanpak meer dan 80% van de klantvragen opgelost. Bij elektronicabedrijf Anker verzorgen agents de eerstelijnsondersteuning na aankoop in de VS en het VK, waaronder het volgen van bestellingen, garantiecontroles en het oplossen van problemen. Anker meldde dat 80,4% van de vragen werd opgelost, met een Net Promoter Score (NPS) van 63. Volgens het team voldeden ook de toon, het spreektempo en de warmte van de agents aan de verwachtingen voor een menselijke medewerker.

Bij Pine Park Health verzorgen Retell-agents afspraakherinneringen, plannen ze proactief afspraken in en leggen ze de resultaten vast in de medische dossiers van patiënten. Het team speelde hiermee tijd van medisch assistenten vrij ter waarde van 2,1 voltijdbanen en zette die in voor patiëntenzorg. Wanneer de planningsagent een patiënt bereikte, werd in 55,7% van de gevallen een afspraak gemaakt.

Overdag kan het verkeer op het platform van Retell meer dan 50 keer zo hoog zijn als op het rustigste moment 's nachts. Om ook tijdens piekuren snel te blijven reageren, gebruikt Retell dedicated servers bij OpenAI, die door zijn klanten worden gedeeld. In Retells benchmark van 13 oktober 2026 behaalden GPT‑6 Astra en GPT‑6 Sol beide een mediane wachttijd tot de eerste zin van 883 milliseconden. GPT‑5.6 Luna presteerde het best met 497 milliseconden.

Met de regionale API-eindpunten van OpenAI kunnen ontwikkelaars verkeer naar specifieke geografische regio's leiden. Dit helpt Retell om netwerkvertraging te beperken en te voldoen aan de eisen voor gegevensresidentie van klanten in sectoren zoals de gezondheidszorg en financiële dienstverlening.

Retell bouwt ook redundantie in op elke laag van de dienst. Het bedrijf beheert een eigen telefoniestack, met een tweede stack die klaarstaat om het over te nemen. Samen met back-ups voor spraak- en modeldiensten helpt dit gesprekken gaande te houden als een dienst uitvalt.

Door de groei van Retell onder grote bedrijven neemt de vraag naar aangepaste workflows en integraties toe. Daardoor moeten ontwikkelaars vaak werken in delen van de codebase die ze nog niet kennen. Voordat ze code schrijven, geven ze Codex een globale beschrijving van wat er nodig is. Codex onderzoekt de code, toetst die aan echte gegevens en legt uit wat er moet veranderen. Een ontwikkelaar vertelde dat Codex dit onderzoek beter en veel sneller uitvoerde dan hij zelf kon.

Volgens ontwikkelaars merkt Codex tijdens de implementatie vaak details op waar ze zelf niet aan hadden gedacht. Bij het opsporen van fouten vergelijkt Codex logboeken en databaserecords met de code om te onderzoeken wat er gebeurt. De ontwikkelaars van Retell gebruiken Codex ook bij hun werk met klanten die op OpenAI-modellen bouwen. Zo versnellen ze taken zoals het schrijven van instructies die bepalen hoe een model in de applicatie van een klant reageert.

Om wijzigingen in de webinterface te testen, gebruikt Retell de computerbedieningsfunctie van GPT‑6 Astra. Wanneer een ontwikkelaar een pull request voor de front-end opent, opent GPT‑6 Astra de interface, klikt erdoorheen, test gebruikersstromen, probeert die te laten vastlopen en rapporteert de gevonden problemen. Volgens Retell konden eerdere modellen dit werk niet betrouwbaar uitvoeren.

Retell blijft mensen aannemen, maar het ontwikkelteam hoefde niet in hetzelfde tempo mee te groeien als het bedrijf. Retell meldt een omzet op jaarbasis van $ 1,6 miljoen per medewerker.

Elk bedrijf weet hoe het zijn klanten wil bedienen. Retell wil de mensen die het dichtst bij dat werk staan hun expertise rechtstreeks laten inzetten. Dat kan met geavanceerde spraak-AI en een platform waarop ze hun eigen agents kunnen bouwen, testen en verbeteren. Als volgende stap wil Retell kwaliteitsborging en simulatie uitbreiden, meer talen ondersteunen en functionaliteit ontwikkelen om automatisch van de kennisbank te leren.

Naarmate OpenAI-modellen zich verder ontwikkelen, verwacht Retell dat zijn klanten miljoenen bellers op hun eigen manier service van wereldklasse kunnen bieden.

"Niemand kent de klanten van een bedrijf beter dan het bedrijf zelf. We stellen bedrijven in staat die expertise in te zetten en AI-agents rechtstreeks te verbeteren. Het doel is dat ze een eigen team van ontwikkelaars opbouwen dat intern aan de slag gaat en het geheel beheert en aanstuurt", zegt Bing.