Retell nutzt OpenAI-Modelle für 100 Mio. Anrufe im Monat

Retell AI⁠(wird in einem neuen Fenster geöffnet) ist eine Sprach-KI-Plattform für den Contact-Center-Betrieb. Sie hilft Unternehmen, Agenten zu entwickeln, die Fragen beantworten, Aktionen ausführen und anrufende Personen bei Bedarf mit einem Menschen verbinden können. Inzwischen nutzen mehr als 4.000 Unternehmen die Plattform. Das monatliche Anrufvolumen stieg von 30 Millionen Anfang 2026 auf mehr als 100 Millionen im September.

Immer mehr Großunternehmen mit komplexen Workflows nutzen Retell. Um die Gesprächsqualität und Zuverlässigkeit auf hohem Niveau zu halten, setzt Retell auf OpenAI-Modelle. Heute generieren OpenAI-Modelle bei 80 % der Anrufe auf Retell die Antworten. Dabei erreichen Kundenunternehmen Lösungsquoten von über 80 %. Retell hat mit OpenAI-Modellen bereits mehr als eine Billion Tokens verbraucht. Das verdeutlicht den Umfang der Nutzung.

Retells Entwicklungsteam nutzt Codex im gesamten Entwicklungsprozess, von der Analyse unbekannten Codes über die Entwicklung von Funktionen bis zur Fehlersuche. Mit GPT‑6 Astra testet das Team Frontend-Oberflächen.

Sprachagenten für Unternehmen müssen Unternehmensrichtlinien befolgen und innerhalb ihrer zugewiesenen Rollen bleiben, auch wenn sich Gespräche verändern. Retell hat seinen vCX-Benchmark entwickelt, um Dutzende Modelle anhand schwieriger Gespräche mit mehreren Gesprächsrunden zu vergleichen. Diese stammen aus realen Szenarien im Produktivbetrieb.

Der Benchmark prüft, wie gut Modelle Anweisungen befolgen, sich an die bereitgestellten Informationen halten, die richtigen Tools aufrufen und eine natürliche Gesprächssprache verwenden. In Retells Benchmark vom 13. Oktober 2026 belegte GPT‑6 Astra bei der Befolgung von Anweisungen mit 89,7 % den ersten Platz.

Retell veröffentlichte außerdem Evaluierungen aus der Zeit vor der Einführung des Modells GPT‑6 Astra. Darin erreichte GPT‑5.5 mit aktiviertem Reasoning sowohl beim Anteil halluzinationsfreier Antworten (88,0 %) als auch bei der Korrektheit von Tool-Aufrufen (88,3 %) den höchsten Wert unter den Modellen. Bei beiden Kennzahlen übertraf es Gemini‑3.1‑Pro und Claude‑4.6. Auch bei deaktiviertem Reasoning lag es beim Anteil halluzinationsfreier Antworten vorn.

Laut Retell bleiben neue Kundenunternehmen, die sich für OpenAI-Modelle entscheiden, bei diesen Modellen. Kundenunternehmen haben außerdem über die Realtime API Zugriff auf die Echtzeitmodelle von OpenAI und können die Text-to-Speech-Technologie von OpenAI für die Sprachausgabe nutzen. Retell stellt neue OpenAI-Modelle am Tag ihrer Einführung bereit und führt seinen Benchmark erneut durch, wenn Modelle verbessert werden.

Contact-Center-Teams nutzen Retell, um den geschäftlichen Kontext, die Ziele und die Regeln ihrer Agenten festzulegen. Entwicklungsteams können Workflows und Integrationen weiter konfigurieren.

Während eines Anrufs führt Retells Harness die Audiomodelle aus, verfolgt das Gespräch und steuert, wann der Agent spricht, zuhört oder auf Unterbrechungen reagiert. OpenAI-Modelle, darunter GPT‑6.1 Sol, GPT‑6 Astra und GPT‑5.5, nutzen die Anweisungen des Kundenunternehmens und den Gesprächskontext, um Antworten zu generieren und Tool-Aufrufe anzufordern. Retell führt diese Aufrufe über Integrationen mit den Systemen des Kundenunternehmens aus und kann die Ergebnisse in einem Kundendatensatz speichern.

Wenn menschliches Urteilsvermögen gefragt ist, informiert der Sprachagent die zuständige Servicekraft über den Kontext, beantwortet Rückfragen und vergewissert sich, dass die Servicekraft bereit ist, bevor er die anrufende Person verbindet. Nach einem Anruf nutzt Retell GPT‑5.6 Terra, um das Transkript zu analysieren und Ergebnisse sowie weitere Daten zu extrahieren.

Mit diesem Ansatz erreicht Retell nach eigenen Angaben Lösungsquoten von über 80 % bei Kundenanliegen. Beim Elektronikunternehmen Anker übernehmen Agenten in den USA und Großbritannien den First-Level-Support nach dem Kauf, einschließlich Sendungsverfolgung, Garantieprüfung und Fehlerbehebung. Anker meldete eine Lösungsquote von 80,4 % und einen Net Promoter Score (NPS) von 63. Laut dem Team entsprachen auch Tonfall, Sprechtempo und Herzlichkeit der Agenten dem Standard, den es von einer menschlichen Servicekraft erwartet.

Bei Pine Park Health übernehmen Retell-Agenten Terminerinnerungen und die proaktive Terminvereinbarung. Die Ergebnisse halten sie in den Patientenakten fest. Das Team konnte bei medizinischen Assistenzkräften Arbeitszeit im Umfang von 2,1 Vollzeitstellen einsparen und für die Patientenversorgung einsetzen. Wenn der Agent zur Terminvereinbarung eine behandelte Person erreichte, kam in 55,7 % der Fälle eine Buchung zustande.

Tagsüber kann das Anrufaufkommen auf Retells Plattform mehr als das 50-Fache des nächtlichen Tiefststands erreichen. Damit Gespräche auch bei Spitzenlast möglichst ohne Verzögerung ablaufen, nutzt Retell dedizierte Server bei OpenAI, die sich seine Kundenunternehmen teilen. In Retells Benchmark vom 13. Oktober 2026 lag die mediane Latenz bis zum ersten Satz bei GPT‑6 Astra und GPT‑6 Sol jeweils bei 883 Millisekunden. GPT‑5.6 Luna schnitt mit 497 Millisekunden am besten ab.

Mit den regionalen API-Endpunkten von OpenAI können Entwicklungsteams den Datenverkehr in bestimmte geografische Regionen leiten. Das hilft Retell, die Übertragungszeit im Netzwerk zu verkürzen und die Anforderungen an die Datenresidenz von Kundenunternehmen etwa im Gesundheitswesen und im Finanzsektor zu erfüllen.

Retell baut außerdem auf jeder Ebene des Dienstes Redundanz ein. Das Unternehmen betreibt einen eigenen Telefonie-Stack und hält einen zweiten zur Übernahme bereit. Hinzu kommen Ersatzsysteme für Sprach- und Modelldienste, damit Anrufe beim Ausfall eines Dienstes möglichst weiterlaufen.

Mit Retells Wachstum im Geschäft mit Großunternehmen steigt die Nachfrage nach individuellen Workflows und Integrationen. Deshalb muss das Entwicklungsteam häufig in unbekannten Teilen der Codebasis arbeiten. Bevor das Team Code schreibt, gibt es Codex eine grob umrissene Anforderung. Codex untersucht den Code, gleicht ihn mit tatsächlichen Daten ab und erklärt, was geändert werden muss. Ein Entwickler berichtete, Codex habe diese Recherche besser und deutlich schneller erledigt, als er es selbst gekonnt hätte.

Laut dem Entwicklungsteam erkennt Codex bei der Umsetzung oft Details, die das Team nicht bedacht hatte. Bei der Fehlersuche gleicht Codex Protokolle und Datenbankeinträge mit dem Code ab, um die Abläufe zu untersuchen. Retells Entwicklungsteam nutzt Codex auch in der Zusammenarbeit mit Kundenunternehmen, die auf OpenAI-Modellen aufbauen. So beschleunigt es Aufgaben wie das Verfassen von Anweisungen, die bestimmen, wie ein Modell in der Anwendung eines Kundenunternehmens antwortet.

Um Änderungen an seiner Weboberfläche zu testen, nutzt Retell die Fähigkeit von GPT‑6 Astra, Computer zu bedienen. Wenn jemand aus dem Entwicklungsteam einen Pull Request für das Frontend erstellt, öffnet GPT‑6 Astra die Oberfläche, klickt sich hindurch, testet Abläufe, versucht Fehler zu provozieren und meldet die gefundenen Probleme. Laut Retell konnten frühere Modelle diese Arbeit nicht zuverlässig erledigen.

Retell stellt weiterhin Personal ein, doch sein Entwicklungsteam musste nicht im gleichen Tempo wachsen wie das Unternehmen. Retell meldet einen aufs Jahr hochgerechneten Umsatz von 1,6 Millionen USD pro beschäftigter Person.

Jedes Unternehmen weiß, welchen Service es seiner Kundschaft bieten möchte. Retell will es den Menschen, die diese Arbeit am besten kennen, ermöglichen, ihr Fachwissen direkt einzubringen: mit fortschrittlicher Sprach-KI und einer Plattform, auf der sie eigene Agenten entwickeln, testen und verbessern können. Als Nächstes plant Retell, die Qualitätssicherung und Simulation auszubauen, weitere Sprachen zu unterstützen und das automatische Lernen aus Wissensdatenbanken zu entwickeln.

Mit der Weiterentwicklung der OpenAI-Modelle erwartet Retell, dass seine Kundenunternehmen Millionen anrufender Menschen erstklassigen Service nach ihren eigenen Vorstellungen bieten können.

„Niemand kennt die Kundschaft eines Unternehmens besser als das Unternehmen selbst. Wir geben Unternehmen die Möglichkeit, dieses Wissen einzusetzen und KI-Agenten direkt zu verbessern. Ziel ist, dass sie ein eigenes Entwicklungsteam für den internen Einsatz aufbauen, das die gesamte Verantwortung und den Betrieb übernimmt“, sagt Bing.