„Retell“: 100 mln. skambučių per mėnesį su „OpenAI“ modeliais

Retell AI⁠(atsidaro naujame lange) – balso DI platforma klientų aptarnavimo centrams. Ji padeda įmonėms kurti agentus, kurie gali atsakyti į klausimus, atlikti veiksmus ir prireikus sujungti skambinantįjį su žmogumi. Šiuo metu platforma naudojasi daugiau nei 4 000 įmonių, o mėnesio skambučių skaičius nuo 30 milijonų 2026 m. pradžioje iki rugsėjo išaugo iki daugiau nei 100 milijonų.

Aptarnaudama vis daugiau įmonių, kurių darbo eigos sudėtingos, „Retell“ naudoja „OpenAI“ modelius aukštai skambučių kokybei ir patikimumui palaikyti. Šiandien „OpenAI“ modeliai generuoja atsakymus per 80 % „Retell“ platformos skambučių, o klientams pavyksta išspręsti daugiau nei 80 % užklausų. Naudodama „OpenAI“ modelius, „Retell“ jau sunaudojo daugiau nei 1 trilijoną žetonų – tai atspindi šių modelių naudojimo mastą.

„Retell“ programuotojai naudoja „Codex“ visame kūrimo procese – nuo nepažįstamo kodo analizės iki funkcijų kūrimo ir klaidų taisymo, o GPT‑6 Astra – naudotojo sąsajoms testuoti.

Įmonių balso agentai turi laikytis įmonės taisyklių ir neperžengti jiems priskirto vaidmens ribų, net kai pokalbis pakrypsta kita linkme. „Retell“ sukūrė vCX lyginamąjį testą, kad galėtų palyginti dešimtis modelių pasitelkdama sudėtingus, kelių apsikeitimų replikomis pokalbius, paremtus realiomis naudojimo situacijomis.

Testu tikrinama, kaip gerai modeliai laikosi instrukcijų, remiasi jiems pateikta informacija, iškviečia tinkamus įrankius ir kalba natūralia šnekamąja kalba. 2026 m. spalio 13 d. „Retell“ lyginamajame teste GPT‑6 Astra užėmė pirmąją vietą pagal instrukcijų laikymąsi ir pasiekė 89,7 % rezultatą.

„Retell“ taip pat pasidalijo vertinimais, atliktais prieš išleidžiant GPT‑6 Astra modelį. Jie parodė, kad įjungus protavimą GPT‑5.5 pirmavo tarp modelių tiek pagal atsakymų be haliucinacijų dalį (88,0 %), tiek pagal įrankių iškvietų teisingumą (88,3 %) ir abiem rodikliais lenkė Gemini‑3.1‑Pro bei Claude‑4.6. Jis taip pat pirmavo pagal atsakymų be haliucinacijų dalį išjungus protavimą.

„Retell“ teigimu, nauji klientai, pasirinkę „OpenAI“ modelius, ir toliau juos naudoja. Klientai taip pat gali naudotis „OpenAI Realtime“ modeliais per Realtime API ir „OpenAI“ teksto vertimo kalba technologija balsui generuoti. „Retell“ suteikia prieigą prie naujų „OpenAI“ modelių jų išleidimo dieną ir, modeliams tobulėjant, pakartoja lyginamąjį testą.

Klientų aptarnavimo centrų komandos naudoja „Retell“ savo agentų veiklos kontekstui, tikslams ir taisyklėms nustatyti. Programuotojai gali papildomai konfigūruoti darbo eigas ir integracijas.

Skambučio metu „Retell“ infrastruktūra vykdo garso modelius, seka pokalbį ir valdo, kada agentas kalba, klausosi ar reaguoja į pertraukimus. „OpenAI“ modeliai, įskaitant GPT‑6.1 Sol, GPT‑6 Astra ir GPT‑5.5, pagal kliento instrukcijas ir pokalbio kontekstą generuoja atsakymus ir prašo iškviesti įrankius. „Retell“ vykdo šias iškvietas per integracijas su kliento sistemomis ir gali įrašyti rezultatus į kliento įrašą.

Kai reikia žmogaus sprendimo, balso agentas supažindina darbuotoją su situacija, atsako į papildomus jo klausimus ir prieš sujungdamas su klientu įsitikina, kad darbuotojas pasiruošęs. Po skambučio „Retell“ naudoja GPT‑5.6 Terra pokalbio išrašui analizuoti ir rezultatams bei kitiems duomenims išgauti.

„Retell“ duomenimis, taikant šį metodą išsprendžiama daugiau nei 80 % klientų užklausų. Elektronikos įmonėje „Anker“ agentai teikia pirmojo lygio pagalbą po pardavimo JAV ir Jungtinėje Karalystėje: seka užsakymus, tikrina garantijas ir padeda šalinti triktis. „Anker“ nurodė, kad išspręsta 80,4 % užklausų, o grynasis rekomendavimo rodiklis (NPS) siekė 63. Komanda taip pat teigė, kad agentų tonas, kalbėjimo tempas ir šiltas bendravimas atitiko lūkesčius, keliamus darbuotojui.

„Pine Park Health“ įstaigoje „Retell“ agentai primena apie vizitus, patys siūlo juos suplanuoti ir įrašo rezultatus į pacientų medicinines korteles. Komanda sutaupė 2,1 etato prilygstantį medicinos asistentų darbo laiką ir skyrė jį pacientų priežiūrai. Kai vizitus planuojančiam agentui pavykdavo susisiekti su pacientu, 55,7 % atvejų jis užregistruodavo pacientą vizitui.

Dieną „Retell“ platformos srautas gali daugiau nei 50 kartų viršyti mažiausią naktinį srautą. Kad net ir didžiausios apkrovos metu į skambučius būtų reaguojama sparčiai, „Retell“ kartu su „OpenAI“ naudoja skirtuosius serverius, kurių ištekliais dalijasi jos klientai. 2026 m. spalio 13 d. „Retell“ lyginamajame teste GPT‑6 Astra ir GPT‑6 Sol pirmojo sakinio delsos mediana siekė po 883 milisekundes, o geriausiai pasirodė GPT‑5.6 Luna – 497 milisekundės.

Regioniniai „OpenAI“ API prieigos taškai leidžia programuotojams nukreipti srautą į konkrečius geografinius regionus. Tai padeda „Retell“ sumažinti duomenų perdavimo tinklu trukmę ir atitikti duomenų saugojimo vietos reikalavimus, kuriuos kelia sveikatos priežiūros, finansinių paslaugų ir kitų sektorių klientai.

„Retell“ taip pat numato atsarginius sprendimus kiekviename paslaugos lygmenyje. Įmonė naudoja nuosavą telefonijos sistemą ir turi antrąją, paruoštą perimti jos darbą, taip pat atsargines balso ir modelių paslaugas, kad sutrikus vienai paslaugai skambučiai nenutrūktų.

Augant „Retell“ verslo klientų skaičiui, daugėja prašymų sukurti individualias darbo eigas ir integracijas, todėl programuotojams dažnai tenka dirbti su nepažįstamomis kodų bazės dalimis. Prieš rašydami kodą jie pateikia „Codex“ bendrais bruožais aprašytą reikalavimą. „Codex“ peržiūri kodą, patikrina jį pagal tikrus duomenis ir paaiškina, ką reikia pakeisti. Vienas programuotojas teigė, kad „Codex“ šią analizę atliko geriau ir daug greičiau, nei būtų galėjęs jis pats.

Programuotojų teigimu, įgyvendinant pakeitimus „Codex“ dažnai pastebi detales, apie kurias jie nebuvo pagalvoję. Ieškodamas klaidų, „Codex“ sugretina žurnalų ir duomenų bazės įrašus su kodu, kad išsiaiškintų, kas vyksta. „Retell“ programuotojai taip pat naudoja „Codex“ dirbdami su klientais, kurie kuria sprendimus „OpenAI“ modelių pagrindu. Taip jie paspartina tokias užduotis kaip instrukcijų, nusakančių modelio atsakymus kliento programoje, rašymas.

Žiniatinklio sąsajos pakeitimams testuoti „Retell“ pasitelkia GPT‑6 Astra gebėjimą naudotis kompiuteriu. Kai programuotojas pateikia naudotojo sąsajos pakeitimų „pull request“, GPT‑6 Astra atidaro sąsają, spusteli jos elementus, testuoja veiksmų sekas, bando sutrikdyti jų veikimą ir praneša apie rastas problemas. „Retell“ teigimu, ankstesni modeliai šio darbo negalėjo atlikti patikimai.

„Retell“ ir toliau samdo darbuotojus, tačiau programuotojų komandos nereikėjo plėsti tokiu pat tempu, kokiu auga verslas. „Retell“ duomenimis, pagal dabartinį tempą metinės pajamos vienam darbuotojui siekia 1,6 mln. USD.

Kiekviena įmonė žino, kaip nori aptarnauti savo klientus. „Retell“ tikslas – suteikti šį darbą geriausiai išmanantiems žmonėms galimybę tiesiogiai pritaikyti savo žinias ir patirtį, pasitelkiant pažangų balso DI ir platformą, kurioje jie gali kurti, testuoti ir tobulinti savo agentus. Toliau „Retell“ planuoja plėsti kokybės užtikrinimo ir modeliavimo galimybes, palaikyti daugiau kalbų ir kurti automatinio mokymosi iš žinių bazės funkciją.

„OpenAI“ modeliams toliau tobulėjant, „Retell“ tikisi, kad jos klientai galės savaip teikti pasaulinio lygio paslaugas milijonams skambinančiųjų.

„Niekas nepažįsta įmonės klientų geriau nei pati įmonė. Suteikiame įmonėms galimybę pritaikyti šias žinias ir tiesiogiai tobulinti DI agentus. Siekiame, kad jos suburtų vidinę inžinierių komandą, kuri įmonėje visa tai prižiūrėtų, valdytų ir už tai atsakytų“, – sako Bing.