Parloa razvija agente s kojima korisnici žele razgovarati

U ranim danima Parloe suosnivač Stefan Ostwald proveo je dan u pozivnom centru osiguravajućeg društva, gdje je njegov tim razvijao prva glasovna iskustva. Sjedeći uz agente, slušao je kako se isti razgovori neprestano ponavljaju: ponovno postavljanje lozinki, pitanja o policama i rutinske izmjene. Shvatio je da bi se velik dio tog posla mogao automatizirati.

Nakon tog iskustva berlinska tvrtka Parloa⁠(otvara se u novom prozoru) počela je razvijati glasovne agente utemeljene na pravilima kako bi automatizirala velik broj interakcija s korisnicima.

Pojavom ChatGPT‑a tvrtka se usmjerila na razvoj današnje platforme za upravljanje AI agentima (AMP), izgrađene na novoj generaciji modela, uključujući GPT‑5.4.

AMP velikim tvrtkama omogućuje osmišljavanje, uvođenje i opsežno upravljanje interakcijama korisničke službe. Umjesto definiranja krutih namjera i tijekova, timovi prirodnim jezikom određuju ponašanje, povezuju interne sustave te brzo dorađuju rješenja s pomoću ugrađenih simulacija i evaluacija.

Parloa vodi te interakcije od početka do kraja, od jednostavnog usmjeravanja do složenih zahtjeva s više koraka. Naglasak je na dosljednosti u produkciji, gdje su važne performanse, latencija i rubni slučajevi. Kako bi to postigla, Parloa prije uvođenja kontinuirano testira modele na stvarnim korisničkim scenarijima.

Parloina platforma za upravljanje agentima (AMP) osmišljena je kako bi poslovni korisnici i stručnjaci za pojedina područja mogli razvijati AI agente bez pisanja koda.

„AMP omogućuje stručnjacima za pojedina područja iz različitih poslovnih jedinica da sami razvijaju agente i povezuju API-je na mnogo učinkovitiji i jednostavniji način”, kaže O’Reilly.

Na višoj razini AMP robnim markama omogućuje upravljanje cijelim životnim ciklusom AI agenta. To postiže tako što netehničkim timovima pruža jednostavniji način definiranja ponašanja agenta prije njegova puštanja u rad. Umjesto pisanja koda ili izrade krutih stabala namjera, stručnjaci prirodnim jezikom određuju ulogu, upute, alate i granice agenta. Ta konfiguracija postaje osnova za oblikovanje upita modelu i ponašanje sustava u produkciji.

Nakon definiranja agent se testira prije uvođenja. Parloa simulira razgovore s korisnicima s pomoću modela kao što je GPT‑5.4, pri čemu jedan model glumi pozivatelja, a drugi pokreće konfiguriranog agenta. Timovi mogu izravno pregledavati te interakcije, testirati promjene na realističnim scenarijima i dorađivati ih prije puštanja u rad.

Isti se modeli zatim upotrebljavaju za evaluaciju tih razgovora kombinacijom determinističkih provjera i ocjenjivanja prema pristupu „LLM kao sudac”. Tako se utvrđuje je li agent slijedio upute, pravilno upotrijebio alate i izvršio zadatak kako je očekivano.

Tijekom razgovora uživo AMP-ov orkestracijski sloj modelu OpenAI šalje upit s konfiguracijom agenta i kontekstom razgovora kako bi generirao odgovor, dohvatio informacije putem RAG-a ili pokrenuo alate za interakciju s pozadinskim sustavima korisnika. Parloa taj sloj kontinuirano nadograđuje najnovijom generacijom modela čim oni pokažu jasna poboljšanja u stvarnoj primjeni.

Nakon razgovora zasebni radni procesi koje pokreće OpenAI sažimaju interakciju, klasificiraju namjeru korisnika i procjenjuju uspješnost prema definiranim pravilima.

Kako su agenti postajali složeniji, održavanje jednog monolitnog upita postajalo je sve teže. Male promjene mogle su izazvati neželjene nuspojave. Kako bi to riješila, Parloa je uvela modularni pristup. Zadaci poput autentifikacije, izmjene rezervacija ili ažuriranja računa mogu se razdvojiti u zasebne podagente, čime se poboljšava praćenje uputa i olakšava daljnji razvoj sustava.

Platforma istodobno uključuje determinističke kontrole ondje gdje je pouzdanost najvažnija. Velike tvrtke mogu definirati strukturirane lance API-ja i logiku temeljenu na događajima kako bi se ključni koraci odvijali pravilnim redoslijedom, uz ravnotežu između fleksibilnosti razgovora i predvidljivog izvršavanja.

Parloa upotrebljava modele kao što su GPT‑4.1, GPT‑5‑mini i drugi kako bi simulirala realistične interakcije s korisnicima prije puštanja agenta u rad, a zatim ih evaluira kombinacijom pristupa „LLM kao sudac” i determinističkih pravila. Tako timovi mogu testirati rubne slučajeve, brzo dorađivati rješenja i provjeriti performanse prije nego što korisnike izlože mogućim pogreškama.

Parloa prvenstveno surađuje s velikim tvrtkama, kojima je dosljednost jednako važna kao i mogućnosti sustava.

„Kada se pojavi novi model, provjeravamo ga našim skupom referentnih testova”, kaže Matthäus Deutsch, viši stručnjak za primijenjenu znanost. „Vrlo nam je važno da rješenja ne funkcioniraju samo na teorijskim referentnim testovima nego i u stvarnim slučajevima primjene.”

Umjesto oslanjanja na apstraktne referentne testove, Parloa izrađuje preslike stvarnih produkcijskih agenata i provodi ih kroz sustave za simulaciju i evaluaciju. Tim se testovima u realističnim uvjetima mjere pouzdanost praćenja uputa, dosljednost pozivanja API-ja, latencija i ukupne performanse.

Tim se evaluacijama utvrđuje koji su modeli spremni za produkciju. Uvode se samo modeli koji pouzdano funkcioniraju u stvarnim korisničkim scenarijima.

„Poslovni korisnici snose stvarne troškove migracije”, kaže Deutsch. „Kada sustav počne funkcionirati u produkciji, održavaju ga stabilnim i prelaze na drugi tek kada su prednosti jasne.”

Zbog toga se sustavi u produkciji ponašaju predvidljivo čak i pri velikom opsegu rada. U milijunima interakcija s korisnicima većina se razgovora rješava bez poteškoća. Čak i kada se pozivi preusmjere ljudskim agentima, razlog eskalacije rijetko je pogreška. U jednoj je implementaciji globalna putnička tvrtka za 80 % smanjila broj zahtjeva za ljudskim agentom.

Takav pristup, koji evaluaciju stavlja na prvo mjesto, postao je ključna prednost Parloe jer joj omogućuje brz napredak bez žrtvovanja pouzdanosti u produkciji.

Glasovna komunikacija donosi drukčija ograničenja od tekstnog razgovora. Svaka interakcija prolazi kroz sustav niske latencije: pretvaranje govora u tekst, rasuđivanje modela i pretvaranje teksta u govor.

Zbog tog je sustava latencija presudna. Čak se i mala kašnjenja u sloju modela zbrajaju u zamjetne stanke za pozivatelja, što utječe na odabir i optimizaciju modela.

Parloa blisko surađuje s tvrtkom OpenAI na optimizaciji performansi za primjene u stvarnom vremenu, s naglaskom na latenciji, kvaliteti odgovora i praćenju uputa. Tim kontinuirano evaluira i temeljito testira nove inačice modela u okruženjima nalik produkcijskima prije nego što ih uvede u razgovore s korisnicima uživo.

Parloa zasebno evaluira svaku komponentu glasovnog tehnološkog sustava:

• Sustavi za pretvaranje govora u tekst testiraju se prema stopi pogrešno prepoznatih riječi, osobito za osjetljive unose kao što su brojevi polica ili identifikatori računa.
• Modeli za pretvaranje teksta u govor evaluiraju se slijepim testovima slušanja kako bi se procijenilo koliko glas zvuči prirodno stvarnim korisnicima. Ti se rezultati zatim uspoređuju sa stvarnim interakcijama s korisnicima kako bi se osigurale dosljedne performanse u produkcijskim okruženjima.
• Modeli za pretvaranje govora u govor trenutačno se evaluiraju kako bi se utvrdila njihova spremnost za produkciju, s naglaskom na latenciji, točnosti i troškovima.

Ti se sustavi od početka razvijaju za globalnu primjenu. Referentni testovi obuhvaćaju više jezika, a korisnici posluju u regijama diljem svijeta. Takva višejezična temeljitost odražava i europske korijene Parloe i očekivanja velikih poslovnih korisnika, koji zahtijevaju dosljedne performanse na svim tržištima, a ne samo na jednom jeziku ili u jednoj regiji.

Parloini agenti danas vode milijune razgovora u djelatnostima poput maloprodaje, putovanja i osiguranja te podržavaju primjene od automatizacije podrške do tijekova koji ostvaruju prihod, poput televizijske prodaje.

Parloa očekuje da će se korisnička služba razviti u potpuno multimodalno iskustvo.

Razgovor može započeti telefonom, nastaviti se u chatu te usput uključiti poveznice ili interaktivne elemente. Umjesto da svaki korak tretira kao zaseban tijek, AMP je osmišljen tako da njima upravlja kao jednom interakcijom. AI agenti s vremenom bi mogli postati jednako važan dio korisničkih putovanja kao web-mjesta i mobilne aplikacije.

Dok velike tvrtke automatiziraju sve veći udio interakcija s korisnicima, Parloa nastoji AI agente učiniti dovoljno pouzdanima, fleksibilnima i vjerodostojnima za rad na globalnoj razini.