Parloa gradi uslužne agente s kojima klijenti žele razgovarati

U ranim danima kompanije Parloa, suosnivač Stefan Ostwald proveo je dan u pozivnom centru osiguravajuće kuće, gdje je njegov tim razvijao prva glasovna iskustva. Sjedeći uz agente, slušao je kako se isti razgovori stalno ponavljaju: poništavanje lozinki, pitanja o policama i rutinske izmjene. Shvatio je da bi se veliki dio tog posla mogao automatizirati.

Nakon tog iskustva, berlinska kompanija Parloa⁠(otvara se u novom prozoru) počela je razvijati glasovne agente zasnovane na pravilima kako bi automatizirala veliki broj interakcija s korisnicima.

Pojavom ChatGPT‑a kompanija je prešla na razvoj onoga što danas predstavlja njenu platformu za upravljanje AI agentima (AMP), zasnovanu na novoj generaciji modela, uključujući GPT‑5.4.

AMP omogućava velikim kompanijama da osmišljavaju, uvode i u velikom obimu upravljaju interakcijama korisničke službe. Umjesto izrade krutih namjera i tokova, timovi prirodnim jezikom definiraju ponašanje, povezuju interne sisteme te brzo unapređuju rješenja pomoću ugrađenih simulacija i evaluacija.

Parloa vodi te interakcije od početka do kraja, obrađujući sve, od jednostavnog usmjeravanja do složenih zahtjeva u više koraka. Naglasak je na dosljednosti u produkciji, gdje su važni učinak, latencija i rubni slučajevi. Kako bi to postigla, Parloa kontinuirano testira modele na stvarnim korisničkim scenarijima prije njihovog uvođenja.

Parloina platforma za upravljanje agentima (AMP) osmišljena je tako da poslovni korisnici i stručnjaci za određene oblasti mogu razvijati AI agente bez pisanja koda.

„AMP omogućava stručnjacima za određene oblasti iz različitih poslovnih jedinica da sami razvijaju agente i povezuju API-je na mnogo efikasniji i jednostavniji način“, kaže O’Reilly.

U širem smislu, AMP omogućava brendovima da upravljaju cijelim životnim ciklusom AI agenta. To postiže tako što netehničkim timovima pruža jednostavniji način da definiraju ponašanje agenta prije nego što se uvede u rad. Umjesto pisanja koda ili izrade krutih stabala namjera, stručnjaci za određene oblasti prirodnim jezikom određuju ulogu, upute, alate i granice agenta. Ta konfiguracija postaje osnova za izradu upita modelu i ponašanje sistema u produkciji.

Nakon definiranja agent se testira prije uvođenja. Parloa simulira razgovore s korisnicima pomoću modela kao što je GPT‑5.4, pri čemu jedan model glumi pozivaoca, a drugi pokreće konfiguriranog agenta. Timovi mogu direktno pregledati te interakcije, testirati izmjene na realističnim scenarijima i unaprijediti rješenje prije puštanja u rad.

Isti modeli zatim se koriste za evaluaciju tih razgovora kombinacijom determinističkih provjera i bodovanja po principu LLM-a kao sudije. Tako se utvrđuje je li agent slijedio upute, pravilno koristio alate i izvršio zadatak na očekivani način.

Tokom razgovora uživo, orkestracijski sloj AMP-a modelu OpenAI šalje upit s konfiguracijom agenta i kontekstom razgovora kako bi generirao odgovor, pronašao informacije putem RAG-a ili pokrenuo alate za povezivanje s pozadinskim sistemima korisnika. Parloa kontinuirano nadograđuje ovaj sloj najnovijom generacijom modela kada oni pokažu jasna poboljšanja učinka u stvarnim uslovima.

Nakon razgovora, zasebni radni tokovi koje pokreće OpenAI sažimaju interakciju, klasificiraju namjeru korisnika i ocjenjuju učinak prema definiranim pravilima.

Kako su agenti postajali složeniji, održavanje jednog monolitnog upita postajalo je sve teže. Male izmjene mogle su izazvati neželjene posljedice. Kako bi to riješila, Parloa je uvela modularni pristup. Zadaci poput autentifikacije, izmjena rezervacije ili ažuriranja računa mogu se podijeliti među zasebne podagente, čime se poboljšava praćenje uputa i olakšava daljnji razvoj sistema.

Platforma istovremeno uvodi determinističke kontrole tamo gdje je pouzdanost najvažnija. Velike kompanije mogu definirati strukturirane lance API-ja i logiku zasnovanu na događajima kako bi osigurale pravilan redoslijed ključnih koraka, usklađujući fleksibilnost razgovora s predvidljivim izvršavanjem.

Parloa koristi modele kao što su GPT‑4.1, GPT‑5‑mini i drugi za simuliranje realističnih interakcija s korisnicima prije nego što agent počne raditi, a zatim ih evaluira kombinacijom LLM-a kao sudije i determinističkih pravila. Tako timovi mogu testirati rubne slučajeve, brzo unapređivati rješenje i provjeriti učinak prije nego što korisnike izlože mogućim greškama.

Parloa prvenstveno sarađuje s velikim kompanijama, kojima je dosljednost jednako važna kao i funkcionalnost.

„Kada izađe novi model, testiramo ga pomoću našeg skupa referentnih testova“, kaže Matthäus Deutsch, viši stručnjak za primijenjene nauke. „Veoma nam je važno da stvari ne funkcioniraju samo na teoretskim referentnim testovima nego i u stvarnim slučajevima upotrebe.“

Umjesto oslanjanja na apstraktne referentne testove, Parloa oponaša stvarne agente iz produkcije i provodi ih kroz procese simulacije i evaluacije. Ovi testovi mjere pouzdanost praćenja uputa, dosljednost pozivanja API-ja, latenciju i ukupni učinak u realističnim uslovima.

Te evaluacije određuju koji su modeli spremni za produkciju. Uvode se samo modeli koji pouzdano rade u stvarnim korisničkim scenarijima.

„Poslovni korisnici snose stvarne troškove migracije“, kaže Deutsch. „Kada sistem proradi u produkciji, održavaju ga stabilnim i prelaze na drugi samo kada su koristi jasne.“

Zbog toga se sistemi u produkciji ponašaju predvidljivo, čak i pri velikom obimu rada. U milionima interakcija s korisnicima većina razgovora završava se bez poteškoća. Čak i kada se pozivi preusmjere ljudskim agentima, razlog za eskalaciju rijetko je greška sistema. U jednom projektu globalna turistička kompanija smanjila je broj zahtjeva za razgovor s ljudskim agentom za 80%.

Ovakav pristup, koji evaluaciju stavlja na prvo mjesto, postao je ključna prednost i omogućava kompaniji Parloa da brzo napreduje bez ugrožavanja pouzdanosti u produkciji.

Glasovna komunikacija donosi drugačija ograničenja od tekstualnog čavrljanja. Svaka interakcija prolazi kroz proces s niskom latencijom: pretvaranje govora u tekst, rezonovanje modela i pretvaranje teksta u govor.

Zbog ovog procesa latencija je od presudne važnosti. Čak se i mala kašnjenja u sloju modela zbrajaju u primjetne pauze za pozivaoca, što utječe na izbor i optimizaciju modela.

Parloa blisko sarađuje s kompanijom OpenAI na optimizaciji učinka za slučajeve upotrebe u stvarnom vremenu, s naglaskom na latenciju, kvalitet odgovora i praćenje uputa. Tim kontinuirano evaluira i testira izdržljivost novih verzija modela u okruženjima nalik produkcijskim prije nego što ih uvede u interakcije sa stvarnim korisnicima.

Parloa zasebno evaluira svaku komponentu glasovnog sistema:

• Sistemi za pretvaranje govora u tekst testiraju se prema stopi pogrešno prepoznatih riječi, posebno kod osjetljivih podataka kao što su brojevi polica ili identifikatori računa.
• Modeli za pretvaranje teksta u govor evaluiraju se slijepim testovima slušanja kako bi se procijenilo koliko glas prirodno zvuči stvarnim korisnicima. Ti se rezultati zatim porede sa stvarnim interakcijama s korisnicima kako bi se osigurao dosljedan učinak u produkcijskim okruženjima.
• Modeli za pretvaranje govora u govor trenutno se evaluiraju u pogledu spremnosti za produkciju, s naglaskom na latenciju, tačnost i troškove.

Ovi sistemi od početka se razvijaju za globalnu primjenu. Referentni testovi obuhvataju više jezika, a korisnici posluju u različitim regijama širom svijeta. Ova višejezična rigoroznost odražava i evropske korijene kompanije Parloa i očekivanja poslovnih korisnika, kojima je potreban dosljedan učinak na različitim tržištima, a ne samo na jednom jeziku ili u jednoj regiji.

Danas Parloini agenti vode milione razgovora u djelatnostima kao što su maloprodaja, turizam i osiguranje, podržavajući sve, od automatizacije podrške do procesa koji ostvaruju prihod, poput teleprodaje.

Parloa smatra da se korisnička služba razvija u potpuno multimodalno iskustvo.

Razgovor može početi telefonom, nastaviti se putem čavrljanja te usput uključivati poveznice ili interaktivne elemente. Umjesto da svaki korak tretira kao zaseban tok, AMP je osmišljen tako da njima upravlja kao jednom interakcijom. AI agenti s vremenom bi mogli postati jednako važan dio korisničkog putovanja kao web-stranice i mobilne aplikacije.

Dok velike kompanije automatiziraju sve veći dio interakcija s korisnicima, Parloa nastoji AI agente učiniti dovoljno pouzdanim, fleksibilnim i vjerodostojnim za rad na globalnom nivou.