Retell і моделі OpenAI: 100 млн дзвінків щомісяця

Retell AI⁠(відкривається у новому вікні) — платформа голосового ШІ для контакт-центрів, що допомагає компаніям створювати агентів, здатних відповідати на запитання, виконувати дії та за потреби з’єднувати абонента з людиною. Нині платформа обслуговує понад 4 000 компаній, а щомісячна кількість дзвінків зросла з 30 мільйонів на початку 2026 року до понад 100 мільйонів у вересні.

Retell обслуговує дедалі більше підприємств зі складними робочими процесами й використовує моделі OpenAI, щоб підтримувати високу якість і надійність дзвінків. Сьогодні моделі OpenAI генерують відповіді для 80% дзвінків на Retell, а частка вирішених звернень у клієнтів перевищує 80%. Кількість токенів, використаних Retell у моделях OpenAI, також перевищила 1 трильйон, що свідчить про масштаб їх застосування.

Інженери Retell використовують Codex на всіх етапах розробки — від вивчення незнайомого коду до створення функцій і налагодження, а GPT‑6 Astra — для тестування користувацьких інтерфейсів.

Корпоративні голосові агенти мають дотримуватися політик компанії та залишатися в межах визначених ролей, навіть коли розмова змінює напрям. Retell створила власний тест vCX, щоб порівнювати десятки моделей на складних діалогах із багатьма репліками, взятих із реальних сценаріїв роботи.

Тест перевіряє, наскільки добре моделі дотримуються інструкцій, спираються на надану інформацію, викликають потрібні інструменти й ведуть розмову природною мовою. У тесті Retell від 13 жовтня 2026 року GPT‑6 Astra посіла перше місце за дотриманням інструкцій із результатом 89,7%.

Retell також оприлюднила оцінювання, проведені до випуску моделі GPT‑6 Astra. За їх результатами GPT‑5.5 з увімкненими міркуваннями посіла перше місце серед моделей як за часткою відповідей без галюцинацій (88,0%), так і за правильністю викликів інструментів (88,3%), випередивши Gemini‑3.1‑Pro та Claude‑4.6 за обома показниками. Вона також лідирувала за часткою відповідей без галюцинацій із вимкненими міркуваннями.

За словами Retell, нові клієнти, які обирають моделі OpenAI, продовжують ними користуватися. Клієнтам також доступні моделі OpenAI Realtime через Realtime API та синтез мовлення OpenAI як голосовий рушій. Retell надає доступ до нових моделей OpenAI в день їх випуску й повторно проводить свій тест у міру їх удосконалення.

Команди контакт-центрів використовують Retell, щоб визначати бізнес-контекст, цілі та правила для своїх агентів. Розробники можуть додатково налаштовувати робочі процеси й інтеграції.

Під час дзвінка система harness від Retell запускає аудіомоделі, відстежує розмову й керує тим, коли агент говорить, слухає чи реагує на перебивання. Моделі OpenAI, зокрема GPT‑6.1 Sol, GPT‑6 Astra та GPT‑5.5, використовують інструкції клієнта й контекст розмови, щоб генерувати відповіді та запитувати виклики інструментів. Retell виконує ці виклики через інтеграції із системами клієнта й може записувати результати в картку клієнта.

Коли потрібне рішення людини, голосовий агент ознайомлює оператора з контекстом, відповідає на його уточнювальні запитання й перевіряє його готовність, перш ніж з’єднати з клієнтом. Після дзвінка Retell використовує GPT‑5.6 Terra, щоб проаналізувати розшифровку розмови й виділити результати та інші дані.

За даними Retell, завдяки цьому підходу частка вирішених звернень клієнтів перевищує 80%. У компанії Anker, що виробляє електроніку, агенти забезпечують першу лінію післяпродажної підтримки у США та Великій Британії: відстежують замовлення, перевіряють гарантію та допомагають усувати несправності. Anker повідомила про 80,4% вирішених звернень та індекс лояльності клієнтів (NPS) на рівні 63. Команда також зазначила, що тон, темп мовлення й доброзичливість агентів відповідали очікуванням від оператора-людини.

У Pine Park Health агенти Retell нагадують про прийоми, самі зв’язуються з пацієнтами, щоб запропонувати запис, і вносять результати до медичних карток. Команда вивільнила час медичних асистентів, еквівалентний 2,1 штатної одиниці, і спрямувала його на догляд за пацієнтами. Агент для запису на прийом досяг частки успішних записів 55,7% серед пацієнтів, з якими вдалося зв’язатися.

Денний трафік на платформі Retell може більш ніж у 50 разів перевищувати нічний мінімум. Щоб забезпечувати швидкі відповіді під час дзвінків навіть у пікові години, Retell використовує виділені сервери OpenAI, спільні для всіх її клієнтів. У тесті Retell від 13 жовтня 2026 року моделі GPT‑6 Astra та GPT‑6 Sol показали однакову медіанну затримку до першого речення — 883 мілісекунди. Найкращий результат мала GPT‑5.6 Luna — 497 мілісекунд.

Регіональні кінцеві точки API OpenAI дають розробникам змогу спрямовувати трафік у певні географічні регіони. Це допомагає Retell скорочувати час передавання даних мережею та виконувати вимоги до локалізації даних клієнтів у таких галузях, як охорона здоров’я та фінансові послуги.

Retell також передбачає резервування на кожному рівні сервісу. Компанія використовує власний стек телефонії та має другий, готовий перебрати його функції, а також резервні голосові сервіси й сервіси моделей. Це допомагає не переривати дзвінки, коли один із сервісів виходить із ладу.

Зі зростанням кількості корпоративних клієнтів Retell отримує більше запитів на індивідуальні робочі процеси й інтеграції, тож інженерам часто доводиться працювати з незнайомими частинами кодової бази. Перш ніж писати код, вони описують Codex загальні вимоги. Codex вивчає код, звіряє його з фактичними даними й пояснює, що потрібно змінити. Один з інженерів зазначив, що Codex виконав це дослідження краще й значно швидше, ніж він міг би сам.

За словами інженерів, під час реалізації Codex часто помічає деталі, яких вони не врахували. Під час налагодження Codex зіставляє журнали й записи бази даних із кодом, щоб з’ясувати, що відбувається. Інженери Retell також використовують Codex у роботі з клієнтами, які створюють рішення на основі моделей OpenAI. Це прискорює такі завдання, як написання інструкцій, що визначають відповіді моделі в застосунку клієнта.

Для тестування змін у вебінтерфейсі Retell використовує здатність GPT‑6 Astra працювати з комп’ютером. Коли інженер відкриває pull request зі змінами фронтенду, GPT‑6 Astra відкриває інтерфейс, натискає його елементи, тестує сценарії, намагається спричинити збої та повідомляє про знайдені проблеми. За словами Retell, попередні моделі не могли надійно виконувати цю роботу.

Retell продовжує наймати працівників, але їй не довелося збільшувати команду розробників так само швидко, як зростав бізнес. Retell повідомляє про дохід у річному обчисленні на рівні 1,6 мільйона доларів на працівника.

Кожна компанія знає, як хоче обслуговувати своїх клієнтів. Мета Retell — дати тим, хто безпосередньо виконує цю роботу, змогу застосовувати власний досвід за допомогою передового голосового ШІ та платформи для створення, тестування й удосконалення власних агентів. Далі Retell планує розширити можливості контролю якості й симуляції, додати підтримку нових мов і розробити автоматичне навчання на основі бази знань.

Retell очікує, що завдяки подальшому розвитку моделей OpenAI її клієнти зможуть надавати мільйонам абонентів сервіс світового рівня — на власних умовах.

«Ніхто не знає клієнтів компанії краще за саму компанію. Ми даємо компаніям змогу застосовувати ці знання й безпосередньо вдосконалювати ШІ-агентів. Мета — щоб вони створили власну команду інженерів, яка впроваджуватиме ці рішення всередині компанії, відповідатиме за них і керуватиме всім процесом», — каже Бін.