Retell bruker OpenAI-modeller til 100 mill. samtaler i måneden

Retell AI⁠(åpnes i et nytt vindu) er en plattform for talebasert KI til drift av kontaktsentre. Den hjelper bedrifter med å bygge agenter som kan svare på spørsmål, utføre handlinger og sette innringere over til et menneske ved behov. Plattformen betjener nå over 4 000 bedrifter, og det månedlige samtalevolumet økte fra 30 millioner tidlig i 2026 til over 100 millioner i september.

Etter hvert som Retell betjener flere store bedrifter med komplekse arbeidsflyter, bruker selskapet OpenAI-modeller for å opprettholde høy samtalekvalitet og pålitelighet. I dag genererer OpenAI-modeller svar i 80 % av samtalene på Retell, og kundene oppnår en løsningsgrad på over 80 %. Retell har også passert 1 billion brukte tokener på tvers av OpenAI-modeller, noe som gjenspeiler omfanget av bruken.

Retells utviklere bruker Codex gjennom hele utviklingsprosessen, fra å utforske ukjent kode til å bygge funksjoner og feilsøke, og GPT‑6 Astra til å teste brukergrensesnitt.

Taleagenter for bedrifter må følge selskapets retningslinjer og holde seg innenfor de tildelte rollene, selv når samtalene tar nye retninger. Retell utviklet vCX-testen for å sammenligne flere titalls modeller ved hjelp av krevende samtaler med flere replikkskifter, hentet fra reelle driftssituasjoner.

Testen måler hvor godt modellene følger instruksjoner, holder seg til informasjonen de får, kaller de riktige verktøyene og bruker naturlig samtalespråk. I Retells test 13. oktober 2026 kom GPT‑6 Astra på førsteplass i å følge instruksjoner, med 89,7 %.

Retell delte også evalueringer fra før lanseringen av GPT‑6 Astra-modellen. De viste at GPT‑5.5 med resonnering aktivert kom best ut både på andelen svar uten hallusinasjoner (88,0 %) og på korrekte verktøykall (88,3 %), foran Gemini‑3.1‑Pro og Claude‑4.6 på begge mål. Modellen hadde også høyest andel svar uten hallusinasjoner med resonnering deaktivert.

Retell sier at nye kunder som velger OpenAI-modeller, fortsetter å bruke dem. Kundene har også tilgang til OpenAI Realtime-modeller gjennom Realtime API og OpenAIs tekst-til-tale som talemotor. Retell gjør nye OpenAI-modeller tilgjengelige på lanseringsdagen og kjører testen på nytt etter hvert som modellene forbedres.

Kontaktsenterteam bruker Retell til å definere virksomhetskonteksten, målene og reglene for agentene sine. Utviklere kan tilpasse arbeidsflyter og integrasjoner ytterligere.

Under en samtale kjører Retells rammeverk lydmodellene, følger samtalen og styrer når agenten snakker, lytter eller reagerer på avbrytelser. OpenAI-modeller, blant annet GPT‑6.1 Sol, GPT‑6 Astra og GPT‑5.5, bruker kundens instruksjoner og samtalekonteksten til å generere svar og be om verktøykall. Retell utfører disse kallene gjennom integrasjoner med kundens systemer og kan registrere resultatene i kunderegisteret.

Når det trengs menneskelig skjønn, gir taleagenten en kundebehandler den nødvendige bakgrunnen, svarer på oppfølgingsspørsmål og bekrefter at vedkommende er klar før kunden kobles til. Etter samtalen bruker Retell GPT‑5.6 Terra til å analysere transkripsjonen og hente ut resultater og andre data.

Med denne tilnærmingen rapporterer Retell at over 80 % av kundehenvendelsene blir løst. Hos elektronikkselskapet Anker håndterer agenter førstelinjestøtte etter kjøp i USA og Storbritannia, inkludert ordresporing, garantisjekker og feilsøking. Anker rapporterte en løsningsgrad på 80,4 % og en Net Promoter Score (NPS) på 63. Teamet sa også at agentenes tone, tempo og varme holdt den standarden de forventet av en menneskelig kundebehandler.

Hos Pine Park Health håndterer Retell-agenter timepåminnelser og tar initiativ til timebestilling, og registrerer resultatene i pasientjournalene. Teamet frigjorde tid tilsvarende 2,1 årsverk for medisinske assistenter og brukte den på pasientomsorg. Timebestillingsagenten fikk avtalt en time i 55,7 % av tilfellene der den nådde frem til en pasient.

Trafikken på Retells plattform på dagtid kan være mer enn 50 ganger så høy som på det laveste om natten. For å bidra til raske svar også under trafikktopper bruker Retell dedikerte servere hos OpenAI som deles mellom kundene. I Retells ytelsestest 13. oktober 2026 hadde både GPT‑6 Astra og GPT‑6 Sol en median svartid for første setning på 883 millisekunder, mens GPT‑5.6 Luna kom best ut med 497 millisekunder.

OpenAIs regionale API-endepunkter lar utviklere rute trafikk til bestemte geografiske regioner. Det hjelper Retell med å redusere nettverksforsinkelser og oppfylle kundenes krav til dataresidens i bransjer som helse og finans.

Retell bygger også inn redundans i alle lag av tjenesten. Selskapet drifter sin egen telefonistakk med en ekstra stakk klar til å ta over, samt reserveløsninger for tale- og modelltjenester, slik at samtalene kan fortsette når en tjeneste svikter.

Etter hvert som Retell får flere store bedriftskunder, kommer det flere forespørsler om tilpassede arbeidsflyter og integrasjoner. Derfor må utviklerne ofte jobbe i ukjente deler av kodebasen. Før de skriver kode, gir de Codex et overordnet krav. Codex går gjennom koden, sjekker den mot faktiske data og forklarer hva som må endres. En utvikler sa at Codex gjorde dette forarbeidet bedre og mye raskere enn han selv kunne.

Utviklerne sier at Codex ofte fanger opp detaljer de ikke hadde tenkt på, under implementeringen. Ved feilsøking sammenholder Codex logger og databaseoppføringer med koden for å undersøke hva som skjer. Retells utviklere bruker også Codex når de jobber med kunder som bygger på OpenAI-modeller. Det effektiviserer oppgaver som å skrive instruksjonene som styrer hvordan en modell svarer i kundens applikasjon.

For å teste endringer i nettgrensesnittet bruker Retell GPT‑6 Astras evne til å betjene en datamaskin. Når en utvikler oppretter en pull request for frontend, åpner GPT‑6 Astra grensesnittet, klikker seg gjennom det, tester brukerflyter, prøver å få dem til å feile og rapporterer problemene den finner. Retell sier at tidligere modeller ikke kunne utføre dette arbeidet pålitelig.

Retell fortsetter å ansette, men utviklingsteamet har ikke behøvd å vokse i samme takt som virksomheten. Retell rapporterer en annualisert omsetning på 1,6 millioner dollar per ansatt.

Alle bedrifter vet hvordan de ønsker å betjene kundene sine. Retells mål er å la dem som står nærmest dette arbeidet, bruke kompetansen sin direkte, med avansert talebasert KI og en plattform der de kan bygge, teste og forbedre sine egne agenter. Videre planlegger Retell å utvide kvalitetssikring og simulering, støtte flere språk og utvikle automatisk læring fra kunnskapsbaser.

Etter hvert som OpenAI-modellene blir bedre, forventer Retell at kundene vil levere service i verdensklasse til millioner av innringere, på sine egne premisser.

«Ingen kjenner et selskaps kunder bedre enn selskapet selv. Vi gir dem muligheten til å bruke denne kompetansen og forbedre KI-agentene direkte. Målet er at de skal bygge et eget utviklingsteam som jobber internt og har eierskap til og drifter hele løsningen», sier Bing.