Retell: havi 100 millió hívás OpenAI-modellekkel

A Retell AI⁠(új ablakban nyílik meg) egy ügyfélszolgálatok számára készült hangalapú AI-platform. Segítségével a vállalkozások olyan ügynököket hozhatnak létre, amelyek megválaszolják a kérdéseket, elvégzik a szükséges műveleteket, és szükség esetén emberi ügyintézőhöz kapcsolják a hívót. A platform ma már több mint 4000 vállalkozást szolgál ki, a havi hívásszám pedig a 2026 eleji 30 millióról szeptemberre több mint 100 millióra nőtt.

Ahogy a Retell egyre több, összetett munkafolyamatokkal dolgozó nagyvállalatot szolgál ki, az OpenAI modelljeivel biztosítja a hívások magas színvonalát és megbízhatóságát. Ma a Retell hívásainak 80%-ában az OpenAI modelljei generálják a válaszokat, az ügyfelek pedig 80% feletti ügymegoldási arányt érnek el. A Retell az OpenAI modelljeivel már több mint 1 billió tokent használt fel, ami jól mutatja a használat nagyságrendjét.

A Retell mérnökei a fejlesztés minden szakaszában használják a Codexet, az ismeretlen kód feltérképezésétől a funkciók fejlesztésén át a hibakeresésig, a frontendfelületeket pedig a GPT‑6 Astrával tesztelik.

A vállalati hangalapú ügynököknek be kell tartaniuk a vállalati szabályzatokat, és a rájuk osztott szerepkörben kell maradniuk akkor is, ha a beszélgetés irányt vált. A Retell azért hozta létre a vCX teljesítménytesztet, hogy több tucat modellt hasonlíthasson össze valós üzemi helyzetekből vett, nehéz, többfordulós beszélgetésekkel.

A teszt azt méri, mennyire jól követik a modellek az utasításokat, mennyire támaszkodnak a kapott információkra, a megfelelő eszközöket hívják-e meg, és mennyire természetesen társalognak. A Retell 2026. október 13-i teljesítménytesztjén a GPT‑6 Astra végzett az első helyen az utasításkövetésben, 89,7%-os eredménnyel.

A Retell a GPT‑6 Astra modell megjelenése előtt végzett értékeléseket is megosztott. Ezek szerint bekapcsolt érvelés mellett a GPT‑5.5 érte el a legjobb eredményt mind a hallucinációmentes válaszok arányában (88,0%), mind az eszközhívások helyességében (88,3%), mindkét mutatóban megelőzve a Gemini‑3.1‑Pro és a Claude‑4.6 modelleket. A hallucinációmentes válaszok arányában kikapcsolt érvelés mellett is az élen végzett.

A Retell szerint azok az új ügyfelek, akik az OpenAI modelljeit választják, később is kitartanak mellettük. Az ügyfelek a Realtime API-n keresztül az OpenAI Realtime modelljeit is elérhetik, és hanggenerálásra az OpenAI szövegfelolvasóját is használhatják. A Retell már a megjelenés napján elérhetővé teszi az új OpenAI-modelleket, és a modellek fejlődésével újra lefuttatja a teljesítménytesztjét.

Az ügyfélszolgálati csapatok a Retell segítségével határozzák meg ügynökeik üzleti környezetét, céljait és szabályait. A fejlesztők emellett testre szabhatják a munkafolyamatokat és az integrációkat.

Hívás közben a Retell végrehajtási környezete futtatja a hangmodelleket, követi a beszélgetést, és szabályozza, mikor beszéljen vagy figyeljen az ügynök, illetve hogyan reagáljon, ha félbeszakítják. Az OpenAI modelljei, köztük a GPT‑6.1 Sol, a GPT‑6 Astra és a GPT‑5.5, az ügyfél utasításai és a beszélgetés kontextusa alapján generálnak válaszokat és kezdeményeznek eszközhívásokat. A Retell az ügyfél rendszereivel kialakított integrációkon keresztül hajtja végre ezeket a hívásokat, az eredményeket pedig vissza tudja írni az ügyfél adatlapjára.

Ha emberi mérlegelésre van szükség, a hangalapú ügynök ismerteti az ügyintézővel az előzményeket, megválaszolja a további kérdéseit, és mielőtt kapcsolná az ügyfelet, megbizonyosodik arról, hogy az ügyintéző készen áll. A hívás után a Retell a GPT‑5.6 Terra segítségével elemzi az átiratot, és kinyeri belőle az eredményeket és egyéb adatokat.

A Retell beszámolója szerint ezzel a megközelítéssel az ügyfélkérések több mint 80%-át sikerül megoldani. Az Anker elektronikai vállalatnál az ügynökök végzik az első szintű értékesítés utáni támogatást az Egyesült Államokban és az Egyesült Királyságban, beleértve a rendelések nyomon követését, a garancia ellenőrzését és a hibaelhárítást. Az Anker 80,4%-os ügymegoldási arányról és 63-as Net Promoter Score (NPS) értékről számolt be. A csapat szerint az ügynökök hangvétele, beszédtempója és kedvessége is elérte az emberi ügyintézőktől elvárt szintet.

A Pine Park Healthnél a Retell ügynökei emlékeztetik a betegeket az időpontokra, proaktívan kezdeményezik az időpont-egyeztetést, és rögzítik az eredményeket a betegek egészségügyi dokumentációjában. A csapat 2,1 teljes munkaidős állásnak megfelelő egészségügyi asszisztensi munkaidőt szabadított fel, amelyet betegellátásra fordítottak. Az időpont-egyeztető ügynök az elért betegek 55,7%-ának foglalt időpontot.

A Retell platformjának nappali forgalma az éjszakai minimum több mint ötvenszeresét is elérheti. Hogy csúcsterhelés mellett is gyorsak maradjanak a válaszok, a Retell az OpenAI-nál dedikált szervereket használ, amelyeken ügyfelei osztoznak. A Retell 2026. október 13-i teljesítménytesztjén az első mondatig eltelt idő mediánja a GPT‑6 Astra és a GPT‑6 Sol esetében egyaránt 883 ezredmásodperc volt, míg a legjobb eredményt a GPT‑5.6 Luna érte el 497 ezredmásodperccel.

Az OpenAI regionális API-végpontjai lehetővé teszik a fejlesztőknek, hogy meghatározott földrajzi régiókba irányítsák a forgalmat. Így a Retell csökkentheti a hálózati adatátvitel idejét, és megfelelhet az ügyfelek adatok tárolási helyére vonatkozó követelményeinek többek között az egészségügyben és a pénzügyi szolgáltatások területén.

A Retell a szolgáltatás minden rétegébe redundanciát is beépít. Saját telefonos infrastruktúrát működtet, egy másik pedig készen áll az átvételre. A hang- és modellszolgáltatásokhoz is rendelkezésre állnak tartalékmegoldások, hogy a hívások egy szolgáltatás kiesése esetén is folytatódhassanak.

Ahogy a Retell nagyvállalati ügyfélköre bővül, egyre több igény érkezik egyedi munkafolyamatokra és integrációkra, így a mérnököknek gyakran a kódbázis számukra ismeretlen részein kell dolgozniuk. Mielőtt kódot írnának, nagy vonalakban megadják a Codexnek az elvárásokat. A Codex áttekinti a kódot, valós adatokkal összevetve ellenőrzi, és elmagyarázza, min kell változtatni. Az egyik mérnök szerint a Codex ezt a feltáró munkát jobban és sokkal gyorsabban végezte el, mint ahogy ő tudta volna.

A mérnökök szerint a megvalósítás során a Codex gyakran olyan részletekre is felfigyel, amelyekre ők nem gondoltak. Hibakereséskor a Codex a naplókat és az adatbázisrekordokat összeveti a kóddal, hogy feltárja, mi történik. A Retell mérnökei az OpenAI modelljeire építő ügyfelekkel végzett munkájukban is használják a Codexet. Így felgyorsíthatnak olyan feladatokat, mint azoknak az utasításoknak a megírása, amelyek meghatározzák, hogyan válaszoljon egy modell az ügyfél alkalmazásában.

A webes felület módosításainak teszteléséhez a Retell a GPT‑6 Astra számítógép-használati képességére támaszkodik. Amikor egy mérnök frontendmódosításokra vonatkozó pull requestet nyit, a GPT‑6 Astra megnyitja és végigkattintgatja a felületet, teszteli a folyamatokat, megpróbál hibát előidézni bennük, és jelenti a talált problémákat. A Retell szerint a korábbi modellek ezt a munkát nem tudták megbízhatóan elvégezni.

A Retell továbbra is vesz fel új munkatársakat, de a mérnökcsapat létszámát nem kellett az üzlet növekedésével azonos ütemben bővíteni. A Retell beszámolója szerint az egy munkatársra jutó évesített árbevétel 1,6 millió dollár.

Minden vállalkozás tudja, hogyan szeretné kiszolgálni az ügyfeleit. A Retell célja, hogy az ügyfélkiszolgálást legjobban ismerő munkatársak közvetlenül hasznosíthassák szakértelmüket. Ehhez fejlett hangalapú AI-t és olyan platformot kínál, amelyen saját ügynököket hozhatnak létre, tesztelhetnek és fejleszthetnek tovább. Következő lépésként a Retell a minőségbiztosítás és a szimuláció bővítését, további nyelvek támogatását és a tudásbázisból való automatikus tanulás fejlesztését tervezi.

A Retell arra számít, hogy az OpenAI modelljeinek folyamatos fejlődésével ügyfelei a saját elképzeléseik szerint nyújthatnak világszínvonalú szolgáltatást hívók millióinak.

„Senki sem ismeri jobban egy vállalat ügyfeleit, mint maga a vállalat. Lehetővé tesszük számukra, hogy ezt a szakértelmet a gyakorlatban is kamatoztassák, és közvetlenül fejlesszék az AI-ügynökeiket. A cél az, hogy saját, a szervezeten belül dolgozó mérnökcsapatot építsenek, amely az egész rendszert kézben tartja és működteti” – mondja Bing.