Retell usa modelos OpenAI em 100 milhões de chamadas mensais

A Retell AI⁠(abre em uma nova janela) é uma plataforma de IA de voz para operações de centrais de atendimento. Ela ajuda empresas a criar agentes que respondem a perguntas, executam ações e transferem chamadas para uma pessoa quando necessário. Sua plataforma já atende a mais de 4.000 empresas, e o volume mensal de chamadas cresceu de 30 milhões no início de 2026 para mais de 100 milhões em setembro.

À medida que atende a mais empresas com fluxos de trabalho complexos, a Retell usa modelos da OpenAI para manter a alta qualidade e a confiabilidade das chamadas. Hoje, os modelos da OpenAI geram respostas para 80% das chamadas na Retell, e seus clientes alcançam taxas de resolução acima de 80%. A Retell também ultrapassou 1 trilhão de tokens consumidos nos modelos da OpenAI, o que reflete a escala dessa adoção.

Os engenheiros da Retell usam o Codex ao longo de todo o desenvolvimento, desde a análise de código desconhecido até a criação de recursos e a depuração de problemas, e o GPT‑6 Astra para testar interfaces de front-end.

Agentes de voz empresariais precisam seguir as políticas da empresa e se manter dentro das funções que lhes foram atribuídas, mesmo quando as conversas mudam de rumo. A Retell criou seu benchmark vCX para comparar dezenas de modelos usando conversas difíceis, com múltiplas interações, extraídas de cenários reais de produção.

Ele avalia a capacidade dos modelos de seguir instruções, manter as respostas fundamentadas nas informações recebidas, acionar as ferramentas certas e usar uma linguagem natural de conversa. No benchmark da Retell de 13 de outubro de 2026, o GPT‑6 Astra ficou em primeiro lugar em seguimento de instruções, com 89,7%.

A Retell também compartilhou avaliações realizadas antes do lançamento do modelo GPT‑6 Astra. Nelas, o GPT‑5.5 ficou em primeiro lugar entre os modelos tanto na taxa de respostas sem alucinações (88,0%) quanto na precisão das chamadas de ferramentas (88,3%), com o raciocínio ativado, superando Gemini‑3.1‑Pro e Claude‑4.6 nas duas métricas. Ele também liderou na taxa de respostas sem alucinações com o raciocínio desativado.

A Retell afirma que novos clientes que escolhem os modelos da OpenAI continuam usando esses modelos. Os clientes também têm acesso aos modelos Realtime da OpenAI por meio da Realtime API e à conversão de texto em fala da OpenAI como mecanismo de voz. A Retell disponibiliza novos modelos da OpenAI no dia do lançamento e executa novamente seu benchmark à medida que os modelos melhoram.

Equipes de centrais de atendimento usam a Retell para definir o contexto de negócios, os objetivos e as regras de seus agentes. Desenvolvedores também podem configurar fluxos de trabalho e integrações.

Durante uma chamada, o harness da Retell executa os modelos de áudio, acompanha a conversa e gerencia quando o agente fala, escuta ou responde a interrupções. Os modelos da OpenAI, incluindo GPT‑6.1 Sol, GPT‑6 Astra e GPT‑5.5, usam as instruções do cliente e o contexto da conversa para gerar respostas e solicitar chamadas de ferramentas. A Retell executa essas chamadas por meio de integrações com os sistemas do cliente e pode gravar os resultados no cadastro de um cliente.

Quando é necessária uma avaliação humana, o agente de voz contextualiza a situação para o atendente, responde às dúvidas dele e confirma que está pronto antes de transferir o cliente. Após uma chamada, a Retell usa o GPT‑5.6 Terra para analisar a transcrição e extrair resultados e outros dados.

Com essa abordagem, a Retell relata taxas de resolução no atendimento acima de 80%. Na Anker, empresa de eletrônicos, os agentes cuidam do suporte pós-venda de nível 1 nos EUA e no Reino Unido, incluindo rastreamento de pedidos, verificação de garantia e solução de problemas. A Anker relatou uma taxa de resolução de casos de 80,4% e um Net Promoter Score (NPS) de 63. Sua equipe também afirmou que o tom, o ritmo e a cordialidade dos agentes atenderam ao padrão esperado de um atendente humano.

Na Pine Park Health, os agentes da Retell cuidam de lembretes de consultas e agendamentos proativos, além de registrar os resultados nos prontuários dos pacientes. A equipe liberou tempo de assistentes médicos equivalente ao trabalho de 2,1 profissionais em tempo integral e o redirecionou para o cuidado dos pacientes. Seu agente de agendamento alcançou uma taxa de marcação de consultas de 55,7% quando conseguiu falar com um paciente.

O tráfego diurno na plataforma da Retell pode superar em mais de 50 vezes o menor volume registrado durante a madrugada. Para ajudar a manter a agilidade das chamadas mesmo nos picos de demanda, a Retell usa servidores dedicados com a OpenAI, compartilhados entre seus clientes. No benchmark da Retell de 13 de outubro de 2026, GPT‑6 Astra e GPT‑6 Sol registraram, cada um, uma latência mediana de 883 milissegundos para a primeira frase, enquanto o GPT‑5.6 Luna obteve o melhor resultado, com 497 milissegundos.

Os endpoints regionais de API da OpenAI permitem que desenvolvedores direcionem o tráfego para regiões geográficas específicas. Isso ajuda a Retell a reduzir o tempo de trânsito na rede e a atender aos requisitos de residência de dados dos clientes em setores como saúde e serviços financeiros.

A Retell também incorpora redundância em cada camada do serviço. Ela opera sua própria infraestrutura de telefonia e mantém uma segunda pronta para assumir a operação, além de alternativas de reserva para os serviços de voz e de modelos, ajudando a manter as chamadas em andamento quando um serviço falha.

Com o crescimento da Retell no mercado empresarial, surgem mais solicitações de fluxos de trabalho e integrações personalizados, e seus engenheiros precisam trabalhar com frequência em partes da base de código que não conhecem. Antes de escrever código, eles apresentam ao Codex um requisito em linhas gerais. O Codex examina o código, compara-o com dados reais e explica o que precisa mudar. Um engenheiro afirmou que o Codex fez essa pesquisa melhor e muito mais rápido do que ele conseguiria.

Durante a implementação, os engenheiros dizem que o Codex costuma identificar detalhes que eles não haviam considerado. Na depuração, o Codex cruza logs e registros do banco de dados com o código para investigar o que está acontecendo. Os engenheiros da Retell também usam o Codex ao trabalhar com clientes que desenvolvem com modelos da OpenAI, para agilizar tarefas como escrever as instruções que orientam as respostas de um modelo no aplicativo do cliente.

Para testar alterações em sua interface web, a Retell conta com a capacidade do GPT‑6 Astra de usar o computador. Quando um engenheiro abre um pull request de front-end, o GPT‑6 Astra abre a interface, navega por ela com cliques, testa os fluxos, tenta provocar falhas e relata os problemas encontrados. A Retell afirma que os modelos anteriores não conseguiam realizar esse trabalho de forma confiável.

A Retell continua contratando, mas sua equipe de engenharia não precisou crescer no mesmo ritmo que o negócio. A Retell relata uma receita anualizada de US$ 1,6 milhão por funcionário.

Toda empresa sabe como quer atender seus clientes. O objetivo da Retell é permitir que as pessoas mais próximas desse trabalho apliquem seus conhecimentos diretamente, com IA de voz avançada e uma plataforma que permite criar, testar e aprimorar seus próprios agentes. Como próximos passos, a Retell planeja ampliar os recursos de garantia de qualidade e simulação, oferecer suporte a mais idiomas e desenvolver o aprendizado automático a partir de bases de conhecimento.

Com o avanço contínuo dos modelos da OpenAI, a Retell espera que seus clientes ofereçam um atendimento de excelência a milhões de pessoas por telefone, do jeito que considerarem melhor.

"Ninguém conhece os clientes de uma empresa melhor do que ela mesma. Damos às empresas o poder de colocar esse conhecimento em prática e aprimorar diretamente os agentes de IA. O objetivo é que elas montem uma equipe própria de engenheiros dedicados às operações internas, responsável por gerenciar e operar tudo", diz Bing.