Retell uz OpenAI modele obrađuje 100 mil. poziva mjesečno

Retell AI⁠(otvara se u novom prozoru) je platforma za glasovnu umjetnu inteligenciju namijenjena radu kontaktnih centara. Pomaže kompanijama da razviju agente koji mogu odgovarati na pitanja, poduzimati radnje i po potrebi povezati pozivaoca s osobom. Njihova platforma sada opslužuje više od 4.000 kompanija, a mjesečni broj poziva porastao je s 30 miliona početkom 2026. na više od 100 miliona do septembra.

Kako opslužuje sve više velikih kompanija sa složenim radnim tokovima, Retell koristi OpenAI modele da održi visok kvalitet i pouzdanost poziva. Danas OpenAI modeli generiraju odgovore u 80% poziva na Retellu, a klijenti postižu stope rješavanja zahtjeva iznad 80%. Retell je također premašio bilion potrošenih tokena na OpenAI modelima, što pokazuje razmjere njihove primjene.

Retellovi inženjeri koriste Codex tokom cijelog razvoja, od istraživanja nepoznatog koda do izrade funkcija i otklanjanja grešaka, a GPT‑6 Astra za testiranje korisničkih interfejsa.

Glasovni agenti za kompanije moraju slijediti pravila kompanije i ostati u okviru dodijeljenih uloga, čak i kada razgovor promijeni tok. Retell je razvio uporedni test vCX kako bi uporedio desetine modela kroz zahtjevne razgovore s više razmjena, zasnovane na stvarnim situacijama iz produkcije.

Test provjerava koliko dobro modeli slijede upute, oslanjaju se na informacije koje su dobili, pozivaju odgovarajuće alate i koriste prirodan razgovorni jezik. Na Retellovom uporednom testu od 13. oktobra 2026. GPT‑6 Astra zauzeo je prvo mjesto u praćenju uputa s rezultatom od 89,7%.

Retell je također podijelio evaluacije provedene prije objave modela GPT‑6 Astra. One su pokazale da je GPT‑5.5 s uključenim rezonovanjem ostvario najbolje rezultate među modelima i po stopi odgovora bez halucinacija (88,0%) i po ispravnosti poziva alata (88,3%), nadmašivši Gemini‑3.1‑Pro i Claude‑4.6 u obje kategorije. Bio je vodeći po stopi odgovora bez halucinacija i s isključenim rezonovanjem.

Retell navodi da novi klijenti koji odaberu OpenAI modele nastavljaju da ih koriste. Klijentima su dostupni i OpenAI Realtime modeli putem interfejsa Realtime API te OpenAI tehnologija pretvaranja teksta u govor za generiranje glasa. Retell omogućava pristup novim OpenAI modelima na dan njihove objave i ponavlja uporedni test kako se modeli poboljšavaju.

Timovi kontaktnih centara koriste Retell da definiraju poslovni kontekst, ciljeve i pravila za svoje agente. Programeri mogu dodatno konfigurirati radne tokove i integracije.

Tokom poziva, Retellov harness pokreće audiomodele, prati razgovor i upravlja time kada agent govori, sluša ili reaguje na prekidanje. OpenAI modeli, uključujući GPT‑6.1 Sol, GPT‑6 Astra i GPT‑5.5, koriste upute klijenta i kontekst razgovora za generiranje odgovora i traženje poziva alata. Retell izvršava te pozive putem integracija sa sistemima klijenta i može upisati ishode u evidenciju korisnika.

Kada je potrebna ljudska procjena, glasovni agent upoznaje predstavnika podrške s kontekstom, odgovara na njegova dodatna pitanja i provjerava je li spreman prije nego što ga poveže s korisnikom. Nakon poziva, Retell koristi GPT‑5.6 Terra za analizu transkripta i izdvajanje ishoda i drugih podataka.

Retell navodi da ovim pristupom postiže stope rješavanja korisničkih zahtjeva iznad 80%. U kompaniji Anker, koja proizvodi elektroniku, agenti pružaju prvi nivo postprodajne podrške u SAD-u i Ujedinjenom Kraljevstvu, uključujući praćenje narudžbi, provjeru garancija i otklanjanje poteškoća. Anker je prijavio stopu rješavanja slučajeva od 80,4% i indeks spremnosti korisnika na preporuku (NPS) od 63. Njihov tim je također naveo da su ton, tempo i toplina agenata zadovoljili standard koji su očekivali od ljudskog agenta.

U organizaciji Pine Park Health, Retellovi agenti podsjećaju pacijente na termine, proaktivno zakazuju preglede i bilježe ishode u njihove medicinske kartone. Tim je oslobodio vrijeme medicinskih asistenata ekvivalentno radu 2,1 zaposlenika s punim radnim vremenom i preusmjerio ga na njegu pacijenata. Njihov agent za zakazivanje postigao je stopu zakazivanja od 55,7% u pozivima u kojima je uspostavio kontakt s pacijentom.

Dnevni promet na Retellovoj platformi može biti više od 50 puta veći od najnižeg noćnog prometa. Kako bi održao brz odziv u pozivima i tokom najvećeg opterećenja, Retell u saradnji s kompanijom OpenAI koristi namjenske servere koje dijele njegovi klijenti. Na Retellovom uporednom testu od 13. oktobra 2026. medijan vremena do prve rečenice za GPT‑6 Astra i GPT‑6 Sol iznosio je po 883 milisekunde, dok je GPT‑5.6 Luna ostvario najbolji rezultat od 497 milisekundi.

Regionalne API krajnje tačke kompanije OpenAI omogućavaju programerima da usmjere promet u određene geografske regije. To pomaže Retellu da smanji vrijeme prijenosa kroz mrežu i ispuni zahtjeve klijenata za rezidentnost podataka u djelatnostima poput zdravstva i finansijskih usluga.

Retell također ugrađuje redundantnost u svaki sloj usluge. Upravlja vlastitim telefonskim sistemom, uz drugi sistem spreman da preuzme rad, te rezervnim rješenjima za glasovne usluge i usluge modela, kako bi se pozivi nastavili i kada neka usluga zakaže.

Kako Retellov rast među velikim kompanijama donosi sve više zahtjeva za prilagođene radne tokove i integracije, njegovi inženjeri često moraju raditi u nepoznatim dijelovima baze koda. Prije pisanja koda, alatu Codex daju okvirni zahtjev. Codex pregleda kod, provjerava ga na stvarnim podacima i objašnjava šta treba promijeniti. Jedan inženjer je rekao da je Codex ovo istraživanje uradio bolje i mnogo brže nego što bi on mogao.

Inženjeri kažu da Codex tokom implementacije često uoči detalje koje nisu uzeli u obzir. Pri otklanjanju grešaka, Codex upoređuje dnevnike i zapise iz baze podataka s kodom kako bi istražio šta se dešava. Retellovi inženjeri koriste Codex i u radu s klijentima koji razvijaju rješenja na OpenAI modelima. Time ubrzavaju zadatke poput pisanja uputa koje usmjeravaju odgovore modela u klijentovoj aplikaciji.

Za testiranje promjena na svom web-interfejsu, Retell se oslanja na sposobnost modela GPT‑6 Astra da koristi računar. Kada inženjer otvori pull request za korisnički interfejs, GPT‑6 Astra otvara interfejs, prolazi kroz njega klikovima, testira tokove, pokušava izazvati greške u njima i prijavljuje uočene probleme. Retell navodi da raniji modeli nisu mogli pouzdano obavljati ovaj posao.

Retell nastavlja zapošljavati, ali njegov inženjerski tim nije morao rasti istim tempom kao poslovanje. Retell navodi da godišnji prihod po zaposleniku, preračunat prema trenutnoj stopi, iznosi 1,6 miliona dolara.

Svaka kompanija zna kako želi služiti svojim korisnicima. Retellov cilj je omogućiti ljudima koji su najbliži tom poslu da direktno primijene svoje stručno znanje, uz naprednu glasovnu umjetnu inteligenciju i platformu na kojoj mogu razvijati, testirati i poboljšavati vlastite agente. Retell zatim planira proširiti osiguranje kvaliteta i simulacije, podržati više jezika i razviti automatsko učenje iz baze znanja.

Kako OpenAI modeli nastavljaju napredovati, Retell očekuje da će njegovi klijenti pružati vrhunsku uslugu milionima pozivalaca, na način koji sami odaberu.

„Niko ne poznaje korisnike neke kompanije bolje od nje same. Omogućavamo kompanijama da primijene to znanje i direktno unapređuju AI agente. Cilj je da formiraju vlastiti tim inženjera koji rade unutar kompanije i preuzimaju odgovornost za cjelokupan sistem i upravljanje njime“, kaže Bing.