Retell gestiona 100 M de trucades al mes amb models d'OpenAI

Retell AI⁠(s'obre en una finestra nova) és una plataforma d'IA de veu per a les operacions dels centres d'atenció al client. Ajuda les empreses a crear agents que poden respondre preguntes, dur a terme accions i posar qui truca en contacte amb una persona quan cal. La seva plataforma ja dona servei a més de 4.000 empreses, amb un volum de trucades mensuals que ha passat de 30 milions a principis de 2026 a més de 100 milions al setembre.

A mesura que Retell dona servei a més grans empreses amb fluxos de treball complexos, fa servir models d'OpenAI per mantenir la qualitat i la fiabilitat de les trucades a un nivell alt. Avui, els models d'OpenAI generen respostes per al 80 % de les trucades a Retell, i els clients assoleixen taxes de resolució superiors al 80 %. Retell també ha superat el bilió de tokens consumits entre els diferents models d'OpenAI, una xifra que reflecteix l'abast d'aquesta adopció.

Els enginyers de Retell fan servir Codex durant tot el desenvolupament, des de l'anàlisi de codi desconegut fins a la creació de funcionalitats i la depuració de problemes, i GPT‑6 Astra per provar les interfícies d'usuari.

Els agents de veu empresarials han de seguir les polítiques de l'empresa i no sortir-se de les funcions assignades, encara que les converses canviïn de rumb. Retell va crear la prova comparativa vCX per comparar desenes de models mitjançant converses difícils, amb diversos torns, extretes de situacions reals en producció.

La prova avalua fins a quin punt els models segueixen les instruccions, es basen en la informació que se'ls proporciona, criden les eines adequades i fan servir un llenguatge conversacional natural. A la prova comparativa de Retell del 13 d'octubre de 2026, GPT‑6 Astra va quedar en primer lloc en seguiment d'instruccions, amb un 89,7 %.

Retell també va compartir avaluacions fetes abans del llançament del model GPT‑6 Astra. Aquestes mostraven que, amb el raonament activat, GPT‑5.5 obtenia els millors resultats tant en la taxa de respostes sense al·lucinacions (88,0 %) com en la correcció de les crides a eines (88,3 %), per davant de Gemini‑3.1‑Pro i Claude‑4.6 en totes dues mètriques. També encapçalava la taxa de respostes sense al·lucinacions amb el raonament desactivat.

Retell afirma que els nous clients que trien models d'OpenAI els continuen fent servir. Els clients també tenen accés als models OpenAI Realtime a través de la Realtime API i a la síntesi de veu d'OpenAI com a motor de veu. Retell posa a disposició dels clients els nous models d'OpenAI el mateix dia del llançament i repeteix la prova comparativa a mesura que els models milloren.

Els equips dels centres d'atenció al client fan servir Retell per definir el context empresarial, els objectius i les regles dels seus agents. Els desenvolupadors també poden configurar fluxos de treball i integracions.

Durant una trucada, l'entorn d'execució de Retell executa els models d'àudio, fa el seguiment de la conversa i gestiona quan l'agent parla, escolta o respon a les interrupcions. Els models d'OpenAI, com ara GPT‑6.1 Sol, GPT‑6 Astra i GPT‑5.5, fan servir les instruccions del client i el context de la conversa per generar respostes i sol·licitar crides a eines. Retell executa aquestes crides mitjançant integracions amb els sistemes del client i pot desar els resultats a la fitxa del client.

Quan cal criteri humà, l'agent de veu posa el representant al corrent del context, respon a les preguntes addicionals que li planteja i confirma que està a punt abans de passar-li el client. Després d'una trucada, Retell fa servir GPT‑5.6 Terra per analitzar la transcripció i extreure'n els resultats i altres dades.

Amb aquest enfocament, Retell afirma que les taxes de resolució de sol·licituds dels clients superen el 80 %. A l'empresa d'electrònica Anker, els agents s'encarreguen del suport postvenda de primer nivell als Estats Units i al Regne Unit, que inclou el seguiment de comandes, les comprovacions de garantia i la resolució de problemes. Anker va registrar una taxa de resolució de casos del 80,4 % i un índex de recomanació neta (NPS) de 63. El seu equip també va afirmar que el to, el ritme i la calidesa dels agents eren a l'altura del que esperaven d'un agent humà.

A Pine Park Health, els agents de Retell s'encarreguen dels recordatoris de cites i de la programació proactiva de visites, i en registren els resultats a les històries clíniques dels pacients. L'equip va alliberar temps del personal auxiliar mèdic equivalent a 2,1 llocs de treball a jornada completa i el va destinar a l'atenció als pacients. El seu agent de programació de visites va aconseguir concertar una cita en el 55,7 % dels casos en què va contactar amb un pacient.

El trànsit diürn a la plataforma de Retell pot arribar a ser més de 50 vegades superior al mínim nocturn. Per ajudar a mantenir l'agilitat de les trucades fins i tot en els moments de màxima demanda, Retell fa servir servidors dedicats amb OpenAI, compartits entre els seus clients. A la prova comparativa de Retell del 13 d'octubre de 2026, tant GPT‑6 Astra com GPT‑6 Sol van registrar una latència mediana de 883 mil·lisegons per a la primera frase, mentre que GPT‑5.6 Luna va obtenir el millor resultat, amb 497 mil·lisegons.

Els punts de connexió regionals de l'API d'OpenAI permeten als desenvolupadors dirigir el trànsit a regions geogràfiques concretes. Això ajuda Retell a reduir el temps de transmissió per la xarxa i a complir els requisits d'ubicació de les dades dels clients de sectors com el sanitari i el dels serveis financers.

Retell també incorpora redundància a cada capa del servei. Opera amb una infraestructura de telefonia pròpia i en té una segona a punt per prendre el relleu, juntament amb sistemes de reserva per als serveis de veu i de models, per ajudar a mantenir les trucades en curs quan falla un servei.

A mesura que Retell creix entre les grans empreses, rep més peticions de fluxos de treball i integracions a mida, i els seus enginyers sovint han de treballar en parts de la base de codi que no coneixen. Abans d'escriure codi, proporcionen a Codex un requisit general. Codex examina el codi, el contrasta amb dades reals i explica què cal canviar. Un enginyer va afirmar que Codex feia aquesta anàlisi millor i molt més de pressa que ell.

Durant la implementació, els enginyers afirmen que Codex sovint detecta detalls que no havien tingut en compte. Per depurar problemes, Codex contrasta els registres d'activitat i de la base de dades amb el codi per investigar què està passant. Els enginyers de Retell també fan servir Codex quan treballen amb clients que desenvolupen solucions basades en models d'OpenAI. Així agilitzen tasques com redactar les instruccions que guien la manera com respon un model a l'aplicació d'un client.

Per provar els canvis a la seva interfície web, Retell recorre a la capacitat de GPT‑6 Astra de fer servir un ordinador. Quan un enginyer obre una pull request de la interfície d'usuari, GPT‑6 Astra obre la interfície, hi navega fent clic, prova els fluxos, intenta fer-los fallar i informa dels problemes que hi troba. Retell afirma que els models anteriors no podien fer aquesta feina de manera fiable.

Retell continua contractant personal, però el seu equip d'enginyeria no ha hagut de créixer al mateix ritme que el negoci. Retell declara uns ingressos anualitzats d'1,6 milions de dòlars per empleat.

Cada empresa sap com vol atendre els seus clients. L'objectiu de Retell és que les persones que coneixen de prop aquesta feina puguin aplicar directament la seva experiència, amb una IA de veu avançada i una plataforma que els permeti crear, provar i millorar els seus propis agents. De cara al futur, Retell preveu ampliar el control de qualitat i la simulació, oferir compatibilitat amb més idiomes i desenvolupar l'aprenentatge automàtic a partir de bases de coneixement.

A mesura que els models d'OpenAI continuïn avançant, Retell espera que els seus clients puguin oferir un servei de primer nivell a milions de persones que truquen, segons els seus propis criteris.

"Ningú coneix els clients d'una empresa millor que la mateixa empresa. Donem a les empreses la capacitat de posar en pràctica aquest coneixement i millorar directament els agents d'IA. L'objectiu és que creïn un equip propi d'enginyers que treballin dins de l'empresa i que es facin càrrec de tot i ho gestionin", explica Bing.