Retell bruger OpenAI-modeller til 100 mio. opkald om måneden

Retell AI⁠(åbner i et nyt vindue) er en stemmebaseret AI-platform til drift af kontaktcentre. Den hjælper virksomheder med at bygge agenter, der kan besvare spørgsmål, udføre handlinger og stille en opkalder om til en medarbejder, når det er nødvendigt. Platformen betjener nu over 4.000 virksomheder, og antallet af månedlige opkald er vokset fra 30 millioner i starten af 2026 til over 100 millioner i september.

I takt med at Retell betjener flere store virksomheder med komplekse arbejdsgange, bruger virksomheden OpenAI-modeller til at sikre høj samtalekvalitet og driftssikkerhed. I dag genererer OpenAI-modeller svar i 80 % af opkaldene på Retell, og kunderne opnår løsningsrater på over 80 %. Retell har også passeret et forbrug på 1 billion tokens på tværs af OpenAI-modeller, hvilket afspejler omfanget af brugen.

Retells udviklere bruger Codex gennem hele udviklingsprocessen, fra at undersøge ukendt kode til at bygge funktioner og finde fejl, og GPT‑6 Astra til at teste frontendgrænseflader.

Stemmeagenter til virksomheder skal følge virksomhedens politikker og holde sig inden for deres tildelte roller, selv når samtalerne skifter retning. Retell udviklede sit vCX-benchmark for at sammenligne snesevis af modeller ved hjælp af svære samtaler med flere replikskift fra virkelige driftsscenarier.

Det tester, hvor godt modellerne følger instruktioner, holder sig til de oplysninger, de får, kalder de rigtige værktøjer og bruger naturligt samtalesprog. I Retells benchmark fra den 13. oktober 2026 lå GPT‑6 Astra øverst i at følge instruktioner med 89,7 %.

Retell delte også evalueringer fra før lanceringen af GPT‑6 Astra-modellen. De viste, at GPT‑5.5 med ræsonnering aktiveret lå øverst blandt modellerne på både andelen af svar uden hallucinationer (88,0 %) og korrekte værktøjskald (88,3 %) og overgik Gemini‑3.1‑Pro og Claude‑4.6 på begge mål. Den lå også øverst på andelen af svar uden hallucinationer, når ræsonnering var slået fra.

Retell oplyser, at nye kunder, der vælger OpenAI-modeller, fortsætter med at bruge dem. Kunderne har også adgang til OpenAI's Realtime-modeller via Realtime API og til OpenAI's tekst-til-tale som stemmemotor. Retell gør nye OpenAI-modeller tilgængelige på lanceringsdagen og kører sit benchmark igen, efterhånden som modellerne forbedres.

Kontaktcenterteams bruger Retell til at definere deres agenters forretningskontekst, mål og regler. Udviklere kan desuden konfigurere arbejdsgange og integrationer.

Under et opkald kører Retells harness lydmodellerne, følger samtalen og styrer, hvornår agenten taler, lytter eller reagerer på afbrydelser. OpenAI-modeller, herunder GPT‑6.1 Sol, GPT‑6 Astra og GPT‑5.5, bruger kundens instruktioner og samtalens kontekst til at generere svar og anmode om værktøjskald. Retell udfører disse kald via integrationer med kundens systemer og kan gemme resultaterne på kundens profil.

Når der er brug for menneskelig dømmekraft, orienterer stemmeagenten medarbejderen om konteksten, besvarer opfølgende spørgsmål og sikrer sig, at medarbejderen er klar, før kunden stilles igennem. Efter et opkald bruger Retell GPT‑5.6 Terra til at analysere transskriptionen og udtrække resultater og andre data.

Med denne tilgang oplyser Retell, at over 80 % af kundehenvendelserne bliver løst. Hos elektronikvirksomheden Anker håndterer agenter førstelinjesupport efter købet i USA og Storbritannien, herunder sporing af ordrer, kontrol af garantidækning og fejlfinding. Anker rapporterede en løsningsrate på 80,4 % og en Net Promoter Score (NPS) på 63. Teamet oplyste også, at agenternes tone, tempo og imødekommenhed levede op til den standard, de forventede af en menneskelig medarbejder.

Hos Pine Park Health håndterer Retell-agenter påmindelser om aftaler og proaktiv tidsbestilling og registrerer resultaterne i patienternes journaler. Teamet frigjorde tid svarende til 2,1 fuldtidsstillinger blandt de kliniske assistenter og brugte den i stedet på patientpleje. Deres tidsbestillingsagent opnåede en bookingrate på 55,7 %, når den fik kontakt med en patient.

Trafikken på Retells platform om dagen kan være over 50 gange så høj som nattens laveste niveau. For at sikre hurtige svar under opkald, selv ved spidsbelastning, bruger Retell dedikerede servere hos OpenAI, som deles på tværs af kunderne. I Retells benchmark fra den 13. oktober 2026 havde GPT‑6 Astra og GPT‑6 Sol begge en medianventetid til første sætning på 883 millisekunder, mens GPT‑5.6 Luna klarede sig bedst med 497 millisekunder.

OpenAI's regionale API-endpoints giver udviklere mulighed for at sende trafik til bestemte geografiske regioner. Det hjælper Retell med at reducere netværksforsinkelser og opfylde kundernes krav til dataresidens i blandt andet sundheds- og finanssektoren.

Retell indbygger også redundans i alle lag af tjenesten. Virksomheden driver sin egen telefoniinfrastruktur med en ekstra klar til at tage over samt reserveløsninger til stemme- og modeltjenester, så opkaldene kan fortsætte, hvis en tjeneste svigter.

Efterhånden som Retell får flere store virksomhedskunder, stiger efterspørgslen efter skræddersyede arbejdsgange og integrationer. Derfor må udviklerne ofte arbejde i dele af kodebasen, de ikke kender. Før de skriver kode, giver de Codex et overordnet krav. Codex gennemgår koden, kontrollerer den op mod faktiske data og forklarer, hvad der skal ændres. En udvikler fortalte, at Codex udførte denne analyse bedre og meget hurtigere, end han selv kunne.

Udviklerne fortæller, at Codex under implementeringen ofte opdager detaljer, de ikke havde tænkt på. Ved fejlfinding sammenholder Codex logfiler og databaseposter med koden for at undersøge, hvad der sker. Retells udviklere bruger også Codex i samarbejdet med kunder, der bygger løsninger på OpenAI-modeller. Det fremskynder opgaver som at skrive de instruktioner, der styrer, hvordan en model svarer i kundens applikation.

Retell bruger GPT‑6 Astras evne til at betjene en computer til at teste ændringer i sin webgrænseflade. Når en udvikler opretter en pull request med frontendændringer, åbner GPT‑6 Astra grænsefladen, klikker sig igennem den, tester brugerforløb, forsøger at få dem til at fejle og rapporterer de problemer, den finder. Retell oplyser, at tidligere modeller ikke kunne udføre dette arbejde pålideligt.

Retell ansætter fortsat, men udviklingsteamet har ikke behøvet at vokse i samme tempo som virksomheden. Retell oplyser en omsætning pr. medarbejder på 1,6 millioner USD omregnet til årsbasis.

Enhver virksomhed ved, hvordan den ønsker at betjene sine kunder. Retells mål er at lade dem, der er tættest på arbejdet, bruge deres ekspertise direkte ved hjælp af avanceret stemmebaseret AI og en platform, hvor de kan bygge, teste og forbedre deres egne agenter. Retell planlægger nu at udvide kvalitetssikring og simulering, understøtte flere sprog og udvikle automatisk læring fra vidensbaser.

I takt med at OpenAI-modellerne bliver bedre, forventer Retell, at kunderne kan levere service i verdensklasse til millioner af opkaldere på deres egne præmisser.

»Ingen kender en virksomheds kunder bedre end virksomheden selv. Vi giver dem mulighed for at omsætte den ekspertise til handling og selv forbedre AI-agenter. Målet er, at de opbygger deres eget team af udviklere, der arbejder internt og tager ansvar for og driver det hele,« siger Bing.