Retell обрабатывает 100 млн звонков в месяц с моделями OpenAI

Retell AI⁠(открывается в новом окне) — платформа голосового ИИ для контакт-центров. Она помогает компаниям создавать агентов, которые отвечают на вопросы, выполняют действия и при необходимости соединяют звонящего с человеком. Сейчас платформа обслуживает более 4 000 компаний. Число звонков в месяц выросло с 30 миллионов в начале 2026 года до более чем 100 миллионов к сентябрю.

Retell обслуживает всё больше крупных компаний со сложными рабочими процессами и использует модели OpenAI, чтобы поддерживать высокое качество и надёжность обработки звонков. Сегодня модели OpenAI формируют ответы для 80% звонков на платформе Retell, а доля решённых обращений у клиентов превышает 80%. Объём токенов, использованных Retell во всех моделях OpenAI, уже превысил 1 триллион, что отражает масштаб их внедрения.

Разработчики Retell используют Codex на всех этапах разработки — от изучения незнакомого кода до создания функций и отладки, — а GPT‑6 Astra применяют для тестирования пользовательских интерфейсов.

Корпоративные голосовые агенты должны соблюдать правила компании и оставаться в рамках отведённых им ролей, даже когда разговор меняет направление. Retell создала тест vCX для сравнения десятков моделей на сложных многоходовых диалогах, основанных на реальных сценариях использования.

Тест проверяет, насколько хорошо модели следуют инструкциям, опираются на предоставленную информацию, вызывают нужные инструменты и поддерживают естественный стиль разговора. В тесте Retell от 13 октября 2026 года GPT‑6 Astra заняла первое место по следованию инструкциям с результатом 89,7%.

Retell также опубликовала результаты оценок, проведённых до выпуска модели GPT‑6 Astra. В них GPT‑5.5 с включёнными рассуждениями показала лучшие среди моделей результаты как по доле ответов без галлюцинаций (88,0%), так и по корректности вызовов инструментов (88,3%), обойдя Gemini‑3.1‑Pro и Claude‑4.6 по обоим показателям. Она также лидировала по доле ответов без галлюцинаций при отключённых рассуждениях.

По словам Retell, новые клиенты, выбравшие модели OpenAI, продолжают ими пользоваться. Клиентам также доступны модели OpenAI Realtime через Realtime API и технология синтеза речи OpenAI в качестве голосового движка. Retell предоставляет доступ к новым моделям OpenAI в день их выпуска и повторно проводит свой тест по мере улучшения моделей.

Команды контакт-центров используют Retell, чтобы задать агентам бизнес-контекст, цели и правила. Разработчики могут дополнительно настроить рабочие процессы и интеграции.

Во время звонка обвязка Retell запускает аудиомодели, отслеживает ход разговора и управляет тем, когда агент говорит, слушает или реагирует на перебивания. Модели OpenAI, включая GPT‑6.1 Sol, GPT‑6 Astra и GPT‑5.5, используют инструкции заказчика и контекст разговора, чтобы формировать ответы и запрашивать вызовы инструментов. Retell выполняет эти вызовы через интеграции с системами заказчика и может записывать результаты в карточку клиента.

Когда требуется решение человека, голосовой агент вводит сотрудника в курс дела, отвечает на его уточняющие вопросы и убеждается, что тот готов, прежде чем соединить его с клиентом. После звонка Retell использует GPT‑5.6 Terra для анализа расшифровки разговора и извлечения итогов и других данных.

По данным Retell, благодаря такому подходу доля решённых обращений клиентов превышает 80%. В компании Anker, производителе электроники, агенты обеспечивают первую линию послепродажной поддержки в США и Великобритании: отслеживают заказы, проверяют гарантию и помогают устранять неполадки. По данным Anker, доля решённых обращений составила 80,4%, а индекс потребительской лояльности (NPS) — 63. Команда также отметила, что тон, темп речи и доброжелательность агентов соответствовали её ожиданиям от сотрудника-человека.

В Pine Park Health агенты Retell напоминают о приёмах, сами связываются с пациентами для записи и вносят результаты в медицинские карты. Команда высвободила время медицинских ассистентов в объёме 2,1 полной ставки и направила его на помощь пациентам. Агент для записи на приём добился записи в 55,7% случаев, когда удавалось связаться с пациентом.

Дневной трафик на платформе Retell может более чем в 50 раз превышать ночной минимум. Чтобы сохранять скорость ответа даже на пике нагрузки, Retell использует выделенные серверы OpenAI, общие для всех её клиентов. В тесте Retell от 13 октября 2026 года медианная задержка до первого предложения у GPT‑6 Astra и GPT‑6 Sol составила 883 миллисекунды, а лучший результат показала GPT‑5.6 Luna — 497 миллисекунд.

Региональные конечные точки API OpenAI позволяют разработчикам направлять трафик в конкретные географические регионы. Это помогает Retell сокращать время передачи данных по сети и соблюдать требования клиентов к резидентности данных в таких отраслях, как здравоохранение и финансовые услуги.

Retell также предусматривает резервирование на каждом уровне сервиса. Компания использует собственный стек телефонии и второй, резервный, готовый его заменить, а также резервные сервисы для работы с голосом и моделями. Это помогает не прерывать звонки при сбое одного из сервисов.

С ростом числа корпоративных клиентов Retell получает всё больше запросов на индивидуальные рабочие процессы и интеграции, поэтому её разработчикам часто приходится работать с незнакомыми частями кодовой базы. Прежде чем писать код, они описывают Codex требования в общих чертах. Codex изучает код, сверяет его с реальными данными и объясняет, что нужно изменить. По словам одного из разработчиков, Codex провёл такой анализ лучше и гораздо быстрее, чем он сам смог бы.

Разработчики отмечают, что при реализации Codex часто замечает детали, которые они не учли. При отладке Codex сопоставляет логи и записи в базе данных с кодом, чтобы разобраться в происходящем. Разработчики Retell также используют Codex в работе с клиентами, создающими решения на базе моделей OpenAI. Это ускоряет такие задачи, как написание инструкций, определяющих ответы модели в приложении клиента.

Для проверки изменений веб-интерфейса Retell использует способность GPT‑6 Astra управлять компьютером. Когда разработчик создаёт pull request с изменениями фронтенда, GPT‑6 Astra открывает интерфейс, нажимает на его элементы, проверяет сценарии, пытается вызвать сбои и сообщает о найденных проблемах. По словам Retell, более ранние модели не могли стабильно справляться с этой работой.

Retell продолжает нанимать сотрудников, но ей не приходится расширять команду разработчиков в том же темпе, в котором растёт бизнес. По данным Retell, текущая выручка в годовом выражении составляет 1,6 миллиона долларов на сотрудника.

Каждая компания знает, как хочет обслуживать своих клиентов. Цель Retell — дать тем, кто непосредственно занимается этой работой, возможность напрямую применять свой опыт с помощью передового голосового ИИ и платформы для создания, тестирования и улучшения собственных агентов. В дальнейшем Retell планирует расширить возможности контроля качества и симуляции, добавить поддержку новых языков и разработать автоматическое обучение на базе знаний.

Retell рассчитывает, что по мере совершенствования моделей OpenAI её клиенты смогут обслуживать миллионы звонящих на мировом уровне — и по собственным правилам.

«Никто не знает клиентов компании лучше, чем она сама. Мы даём компаниям возможность применять эти знания и напрямую совершенствовать ИИ-агентов. Наша цель — помочь им создать собственную команду инженеров, которая будет внедрять решения внутри компании, полностью управлять ими и отвечать за их работу», — говорит Бин.