Parloa vytváří agenty, se kterými chtějí zákazníci mluvit

Nedlouho po založení společnosti Parloa strávil její spoluzakladatel Stefan Ostwald jeden den v call centru pojišťovny, kde jeho tým vyvíjel první hlasová řešení. Seděl vedle operátorů a poslouchal, jak se stále dokola opakují stejné hovory: obnovení hesla, dotazy k pojistným smlouvám a rutinní změny. Uvědomil si, že velkou část této práce lze automatizovat.

Po této zkušenosti začala berlínská firma Parloa⁠(otevře se v novém okně) vytvářet hlasové agenty založené na pravidlech za účelem automatizace velkých objemů komunikace se zákazníky.

S příchodem ChatGPT se společnost posunula k vývoji dnešní platformy AI Agent Management Platform (AMP), která využívá novou generaci modelů včetně GPT‑5.4.

AMP umožňuje velkým firmám ve velkém navrhovat, nasazovat a spravovat komunikaci se zákazníky. Namísto rigidně definovaných záměrů a toků týmy popíší chování v přirozeném jazyce, propojí platformu s interními systémy a rychle iterují pomocí integrovaných simulací a hodnocení.

Parloa zajišťuje tyto interakce od začátku do konce – od jednoduchého směrování až po složité vícekrokové požadavky. Důraz klade na konzistentní fungování v reálném provozu, kde záleží na výkonu, latenci i okrajových případech. Proto Parloa před nasazením modely průběžně testuje na skutečných zákaznických scénářích.

Platforma Agent Management Platform (AMP) od společnosti Parloa je navržena tak, aby firemní uživatelé a odborníci na svou oblast mohli vytvářet AI agenty bez psaní kódu.

„Díky AMP mohou oboroví odborníci z různých firemních útvarů skutečně sami vytvářet agenty a mnohem efektivněji a snadněji propojovat API,“ říká O’Reilly.

AMP obecně umožňuje značkám spravovat celý životní cyklus AI agenta. Netechnickým týmům totiž nabízí jednodušší způsob, jak definovat chování agenta ještě před jeho spuštěním. Namísto psaní kódu nebo vytváření striktních stromů záměrů popíší odborníci na svou oblast v přirozeném jazyce roli, pokyny, nástroje a hranice agenta. Tato konfigurace pak určuje podobu promptu pro model i chování systému v reálném provozu.

Po definování se agent před nasazením otestuje. Parloa simuluje konverzace se zákazníky pomocí modelů, jako je GPT‑5.4, přičemž jeden model vystupuje jako volající a druhý řídí nakonfigurovaného agenta. Týmy mohou tyto interakce přímo kontrolovat, testovat změny na realistických scénářích a před spuštěním řešení iterovat.

Stejné modely pak tyto konverzace hodnotí kombinací deterministických kontrol a bodování pomocí LLM v roli posuzovatele. Výsledky ukazují, zda agent dodržel pokyny, správně použil nástroje a dokončil úkol podle očekávání.

Během živé konverzace předává orchestrační vrstva AMP modelu OpenAI prompt s konfigurací agenta a kontextem konverzace. Model pak vygeneruje odpověď, načte informace prostřednictvím RAG nebo aktivuje nástroje pro komunikaci se zákaznickými backendy. Parloa tuto vrstvu průběžně aktualizuje o nejnovější generace modelů, které prokáží jasné zlepšení výkonu v reálném prostředí.

Po skončení konverzace pak oddělené pracovní postupy využívající OpenAI proběhlou interakci shrnou, klasifikují záměr zákazníka a vyhodnotí výkon podle stanovených pravidel.

S rostoucí složitostí agentů bylo stále obtížnější spravovat jediný monolitický prompt. I malé změny mohly způsobit nezamýšlené vedlejší účinky. Parloa proto zavedla modulární přístup. Úlohy, jako jsou ověření totožnosti, změny rezervací nebo aktualizace účtů, lze rozdělit mezi samostatné dílčí agenty. Ti lépe dodržují pokyny a celý systém lze postupně snáze rozvíjet.

Platforma současně využívá deterministické kontroly tam, kde je spolehlivost nejdůležitější. Firmy mohou definovat strukturované řetězce API a logiku založenou na událostech, aby zajistily správné pořadí kritických kroků a spojily flexibilní konverzaci s předvídatelným provedením.

Pomocí modelů, jako jsou GPT‑4.1, GPT‑5‑mini a další, simuluje Parloa realistické interakce se zákazníky ještě před spuštěním agenta. Poté je vyhodnocuje kombinací LLM v roli posuzovatele a deterministických pravidel. Týmy tak mohou testovat okrajové případy, rychle řešení vylepšovat a ověřovat jeho výkon dříve, než by případná chyba zasáhla zákazníky.

Parloa spolupracuje především s velkými firmami, pro které je konzistentní fungování stejně důležité jako schopnosti systému.

„Když vyjde nový model, otestujeme ho pomocí naší sady srovnávacích testů,“ říká seniorní aplikovaný vědec Matthäus Deutsch. „Je pro nás velmi důležité, aby vše fungovalo nejen v teoretických srovnávacích testech, ale i ve skutečných případech použití.“

Namísto spoléhání na abstraktní srovnávací testy Parloa vytváří kopie skutečných produkčních agentů a spouští je v rámci simulačních a evaluačních procesů. Tyto testy v realistických podmínkách měří spolehlivost dodržování pokynů, konzistentnost volání API, latenci a celkový výkon.

Na základě těchto hodnocení se určuje, které modely jsou připravené k nasazení. Nasazují se pouze modely, které spolehlivě fungují v reálných scénářích zákazníků.

„Migrace představuje pro velké firmy skutečné náklady,“ říká Deutsch. „Jakmile systém v reálném provozu funguje, udržují ho stabilní a přecházejí jinam pouze tehdy, když jsou přínosy zřejmé.“

Systémy se proto chovají předvídatelně i při rozsáhlém nasazení v reálném provozu. Napříč miliony interakcí se zákazníky se většinu konverzací podaří vyřešit bez komplikací. I když je hovor přesměrován na lidského operátora, bývá důvodem k této eskalaci jen zřídka selhání agenta. Při jednom nasazení snížila globální cestovní společnost počet žádostí o přepojení na lidského operátora o 80 %.

Tento přístup, který staví evaluaci na první místo, se stal zásadní konkurenční výhodou. Umožňuje společnosti Parloa postupovat rychle, aniž by slevovala ze spolehlivosti v reálném provozu.

Hlasová komunikace přináší jiná omezení než textový chat. Každá interakce běží řadou procesů s nízkou latencí: převodem řeči na text, uvažováním modelu a převodem textu na řeč.

Právě kvůli této sekvenci procesů je latence zásadní. I malá zpoždění ve vrstvě modelu se nasčítají a pro volajícího vytvářejí znatelné prodlevy. To ovlivňuje výběr i optimalizaci modelů.

Parloa úzce spolupracuje s OpenAI na optimalizaci výkonu pro použití v reálném čase a zaměřuje se na latenci, kvalitu odpovědí a dodržování pokynů. Než tým zapojí do živých interakcí se zákazníky nové verze modelů, průběžně je hodnotí a zátěžově testuje v prostředích podobných reálnému provozu.

Parloa hodnotí každou součást hlasového řešení samostatně:

• Systémy pro převod řeči na text se testují z hlediska chybovosti rozpoznávání slov, zejména u citlivých údajů, jako jsou čísla pojistných smluv nebo identifikátory účtů.
• Modely pro převod textu na řeč se hodnotí pomocí slepých poslechových testů, které ověřují, jak přirozeně hlas působí na skutečné uživatele. Výsledky se následně porovnávají se skutečnými interakcemi se zákazníky, aby se zajistil konzistentní výkon v reálném provozu.
• U modelů s řečovým vstupem i výstupem se nyní hodnotí připravenost k nasazení se zaměřením na latenci, správnost a náklady.

Tyto systémy byly od počátku vyvíjeny pro globální nasazení. Srovnávací testy zahrnují více jazyků a zákazníci působí v regionech po celém světě. Tento důsledný mnohojazyčný přístup odráží evropské kořeny společnosti Parloa i očekávání velkých firem, které požadují konzistentní výkon na všech trzích, nejen v jediném jazyce nebo regionu.

Agenti společnosti Parloa dnes vedou miliony konverzací v odvětvích, jako jsou maloobchod, cestovní ruch a pojišťovnictví. Podporují vše od automatizace zákaznické podpory až po procesy vytvářející tržby, například prodej po telefonu.

Parloa očekává, že se zákaznický servis promění v plně multimodální prostředí.

Konverzace může začít po telefonu, pokračovat v chatu a průběžně zahrnovat odkazy nebo interaktivní prvky. AMP je navržena tak, aby jednotlivé kroky neřešila jako oddělené procesy, ale jako jedinou interakci. AI agenti se časem mohou stát stejně důležitou součástí zákaznické cesty jako weby a mobilní aplikace.

S tím, jak velké firmy automatizují stále větší část interakcí se zákazníky, se Parloa soustředí na to, aby AI agenti byli dostatečně spolehliví, flexibilní a důvěryhodní pro globální nasazení.