Retell: 100 млн. обаждания месечно с модели на OpenAI

Retell AI⁠(отваря се в нов прозорец) е платформа с гласов ИИ за контактни центрове. Тя помага на компаниите да създават агенти, които отговарят на въпроси, предприемат действия и при нужда свързват обаждащия се с човек. Платформата вече обслужва над 4000 компании, а месечният брой обаждания нараства от 30 милиона в началото на 2026 г. до над 100 милиона през септември.

С увеличаването на корпоративните клиенти със сложни работни процеси Retell използва моделите на OpenAI, за да поддържа високо качество и надеждност на разговорите. Днес моделите на OpenAI генерират отговори за 80% от обажданията в Retell, а клиентите постигат над 80% разрешени запитвания. Retell вече е използвала над 1 трилион токена общо в моделите на OpenAI — показател за мащаба на внедряването им.

Инженерите на Retell използват Codex през целия процес на разработка — от проучването на непознат код до създаването на функционалности и отстраняването на грешки, а GPT‑6 Astra — за тестване на потребителски интерфейси.

Корпоративните гласови агенти трябва да спазват фирмените политики и да се придържат към възложените им роли, дори когато разговорите променят посоката си. Retell създава сравнителния си тест vCX, за да сравни десетки модели чрез трудни разговори с множество размени на реплики, взети от реални ситуации в работна среда.

Тестът проверява доколко моделите следват инструкции, придържат се към предоставената им информация, извикват правилните инструменти и използват естествен разговорен език. В сравнителния тест на Retell от 13 октомври 2026 г. GPT‑6 Astra се класира на първо място по следване на инструкции с 89,7%.

Retell споделя и оценки, направени преди пускането на модела GPT‑6 Astra. Те показват, че при включено структурирано анализиране GPT‑5.5 се класира на първо място както по дял на отговорите без халюцинации (88,0%), така и по правилно извикване на инструменти (88,3%), изпреварвайки Gemini‑3.1‑Pro и Claude‑4.6 и по двата показателя. Моделът води по дял на отговорите без халюцинации и при изключено структурирано анализиране.

Според Retell новите клиенти, които избират модели на OpenAI, продължават да ги използват. Клиентите имат достъп и до моделите OpenAI Realtime чрез Realtime API, както и до технологията на OpenAI за преобразуване на текст в реч като механизъм за генериране на глас. Retell предоставя достъп до новите модели на OpenAI още в деня на пускането им и повтаря сравнителния си тест с усъвършенстването на моделите.

Екипите в контактните центрове използват Retell, за да определят бизнес контекста, целите и правилата за своите агенти. Разработчиците могат допълнително да конфигурират работните процеси и интеграциите.

По време на разговор рамката на Retell изпълнява аудиомоделите, следи разговора и управлява кога агентът говори, слуша или реагира на прекъсвания. Моделите на OpenAI, включително GPT‑6.1 Sol, GPT‑6 Astra и GPT‑5.5, използват инструкциите на клиента и контекста на разговора, за да генерират отговори и да заявяват извиквания на инструменти. Retell изпълнява тези извиквания чрез интеграции със системите на клиента и може да записва резултатите в клиентското досие.

Когато е необходима човешка преценка, гласовият агент запознава служителя с контекста, отговаря на уточняващите му въпроси и потвърждава готовността му, преди да го свърже с клиента. След разговора Retell използва GPT‑5.6 Terra, за да анализира транскрипцията и да извлече резултатите и други данни.

С този подход Retell отчита над 80% разрешени клиентски запитвания. В компанията за електроника Anker агентите осигуряват следпродажбена поддръжка от първо ниво в САЩ и Обединеното кралство, включително проследяване на поръчки, проверка на гаранции и отстраняване на проблеми. Anker отчита 80,4% разрешени случаи и нетен индекс на препоръките (NPS) от 63. Според екипа тонът, темпото на речта и приветливостта на агентите отговарят на очакванията им за служител, който обслужва клиенти.

В Pine Park Health агентите на Retell напомнят за предстоящи прегледи, свързват се с пациенти за записване на часове и вписват резултатите в медицинските им досиета. Екипът освобождава време на медицинските асистенти, равностойно на 2,1 щатни бройки, и го пренасочва към грижи за пациентите. Агентът за записване на часове постига 55,7% успеваемост, когато успее да се свърже с пациент.

Дневният трафик в платформата на Retell може да надхвърли над 50 пъти най-ниското нощно ниво. За да поддържа бързи реакции в разговорите дори при пиково натоварване, Retell използва специално заделени сървъри при OpenAI, споделени между клиентите си. В сравнителния тест на Retell от 13 октомври 2026 г. GPT‑6 Astra и GPT‑6 Sol регистрират медианно време до първото изречение от 883 милисекунди, а GPT‑5.6 Luna се класира на първо място с 497 милисекунди.

Регионалните крайни точки на API на OpenAI позволяват на разработчиците да насочват трафика към конкретни географски региони. Това помага на Retell да намали времето за пренос по мрежата и да спази изискванията за местонахождение на данните на клиенти в сектори като здравеопазването и финансовите услуги.

Retell осигурява и резервираност на всяко ниво на услугата. Компанията поддържа собствена телефонна инфраструктура с втора, готова да я замести, както и резервни варианти за гласовите услуги и услугите за модели, за да продължават разговорите дори при отказ на някоя услуга.

С разрастването на корпоративния бизнес на Retell нарастват и заявките за персонализирани работни процеси и интеграции, затова инженерите често трябва да работят в непознати части на кодовата база. Преди да пишат код, те задават на Codex изискване в общи линии. Codex преглежда кода, проверява го спрямо реални данни и обяснява какво трябва да се промени. Един от инженерите споделя, че Codex е извършил това проучване по-добре и много по-бързо, отколкото той самият би могъл.

Според инженерите по време на реализацията Codex често забелязва детайли, за които те не са се сетили. При отстраняване на грешки Codex съпоставя логове и записи от базата данни с кода, за да установи какво се случва. Инженерите на Retell използват Codex и в работата си с клиенти, които разработват решения с модели на OpenAI. Така ускоряват задачи като писането на инструкции, които определят как моделът отговаря в приложението на клиента.

За тестване на промени в уеб интерфейса си Retell разчита на способността на GPT‑6 Astra да работи с компютър. Когато инженер отвори pull request за потребителския интерфейс, GPT‑6 Astra отваря интерфейса, навигира из него с щраквания, тества потребителските сценарии, опитва се да предизвика грешки и докладва откритите проблеми. Според Retell по-ранните модели не са можели да изпълняват тази работа надеждно.

Retell продължава да наема служители, но не се налага инженерният ѝ екип да расте със същите темпове като бизнеса. Retell отчита 1,6 милиона щатски долара приходи на годишна база на служител.

Всяка компания знае как иска да обслужва клиентите си. Целта на Retell е да даде възможност на хората, които познават тази работа отблизо, да прилагат опита си пряко — с усъвършенстван гласов ИИ и платформа, в която могат да създават, тестват и подобряват собствени агенти. Следващите планове на Retell са да разшири възможностите за осигуряване на качеството и симулации, да добави поддръжка за повече езици и да разработи автоматично учене от база знания.

С непрекъснатия напредък на моделите на OpenAI Retell очаква клиентите ѝ да предоставят обслужване на световно ниво на милиони обаждащи се, според собствените си изисквания.

„Никой не познава клиентите на една компания по-добре от самата нея. Даваме на компаниите възможност да прилагат този опит и пряко да подобряват своите ИИ агенти. Целта е да изградят собствен екип от инженери, които работят вътре в компанията и поемат цялата отговорност и управление“, казва Бинг.