A Parloa ügynökeivel szívesen beszélnek az ügyfelek

A Parloa kezdeti időszakában Stefan Ostwald társalapító egy napot töltött egy biztosító telefonos ügyfélszolgálatán, ahol csapata a korai hangalapú megoldásokat fejlesztette. Az ügyintézők mellett ülve újra és újra ugyanazokat a beszélgetéseket hallotta: jelszó-visszaállításokat, biztosítási feltételekkel kapcsolatos kérdéseket és rutinmódosításokat. Rájött, hogy e munka jelentős része automatizálható.

E tapasztalat után a berlini Parloa⁠(új ablakban nyílik meg) szabályalapú hangügynököket kezdett fejleszteni a nagy volumenű ügyfélkapcsolatok automatizálására.

A ChatGPT megjelenésével a vállalat továbbfejlődött, és létrehozta mai AI Agent Management Platformját (AMP), amely a modellek új generációjára, köztük a GPT‑5.4‑re épül.

Az AMP lehetővé teszi a nagyvállalatok számára, hogy széles körben tervezzenek, vezessenek be és kezeljenek ügyfélszolgálati interakciókat. A merev szándék- és folyamatábrák helyett a csapatok természetes nyelven határozzák meg a viselkedést, összekapcsolják a belső rendszereket, majd a beépített szimulációkkal és értékelésekkel gyorsan finomítják a megoldást.

A Parloa az elejétől a végéig kezeli ezeket az interakciókat, az egyszerű átirányítástól az összetett, többlépéses kérésekig. A hangsúly az éles környezetben nyújtott egyenletes teljesítményen van, ahol a gyorsaság, a késleltetés és a szélsőséges esetek egyaránt számítanak. Ennek érdekében a Parloa bevezetés előtt folyamatosan valós ügyfélhelyzetekben teszteli a modelleket.

A Parloa Agent Management Platformja (AMP) lehetővé teszi, hogy az üzleti felhasználók és a szakterületi szakértők kódírás nélkül készítsenek AI-ügynököket.

„Az AMP-vel a különböző üzleti területek szakértői maguk építhetik meg az ügynököket és kapcsolhatják össze az API-kat, sokkal takarékosabban és egyszerűbben” – mondja O’Reilly.

Az AMP átfogóan lehetővé teszi a márkák számára az AI-ügynökök teljes életciklusának kezelését. Ehhez egyszerű módot kínál a nem műszaki csapatoknak arra, hogy még az éles indulás előtt meghatározzák az ügynök viselkedését. Kódírás vagy merev szándékfák felrajzolása helyett a szakterületi szakértők természetes nyelven adják meg az ügynök szerepét, utasításait, eszközeit és korlátait. Ez a konfiguráció határozza meg, milyen utasítást kap a modell, és hogyan viselkedik a rendszer éles környezetben.

A meghatározott ügynököt bevezetés előtt tesztelik. A Parloa például GPT‑5.4 modellekkel szimulál ügyfélbeszélgetéseket: az egyik modell a hívó fél szerepét tölti be, a másik pedig a beállított ügynököt működteti. A csapatok közvetlenül megvizsgálhatják ezeket az interakciókat, valószerű helyzetekben tesztelhetik a módosításokat, és az éles indulás előtt finomíthatják a rendszert.

Ezután ugyanezek a modellek értékelik a beszélgetéseket determinisztikus ellenőrzések és LLM-bírói pontozás kombinációjával. Ebből kiderül, hogy az ügynök követte-e az utasításokat, helyesen használta-e az eszközöket, és az elvárt módon teljesítette-e a feladatot.

Élő beszélgetés közben az AMP vezénylési rétege az ügynök konfigurációjával és a beszélgetés kontextusával ad utasítást egy OpenAI-modellnek, hogy választ generáljon, RAG segítségével információt keressen, vagy eszközöket indítson el az ügyfél háttérrendszereinek eléréséhez. A Parloa folyamatosan frissíti ezt a réteget a modellek legújabb generációival, amint azok egyértelmű teljesítményjavulást mutatnak valós körülmények között.

A beszélgetés után különálló, OpenAI-alapú munkafolyamatok összegzik az interakciót, besorolják az ügyfél szándékát, és előre meghatározott szabályok alapján értékelik a teljesítményt.

Ahogy az ügynökök egyre összetettebbé váltak, egyre nehezebb lett egyetlen, monolitikus utasítást karbantartani. Már apró módosítások is nem kívánt mellékhatásokhoz vezethettek. Ennek kezelésére a Parloa moduláris megközelítést vezetett be. A hitelesítéshez, foglalásmódosításhoz vagy fiókfrissítéshez hasonló feladatok külön alügynökökhöz rendelhetők, ami javítja az utasítások követését, és idővel megkönnyíti a rendszerek továbbfejlesztését.

A platform ugyanakkor determinisztikus vezérlőket alkalmaz ott, ahol a megbízhatóság a legfontosabb. A nagyvállalatok strukturált API-láncokat és eseményalapú logikát határozhatnak meg, hogy a kritikus lépések a megfelelő sorrendben történjenek, egyensúlyt teremtve a rugalmas beszélgetés és a kiszámítható végrehajtás között.

A Parloa többek között GPT‑4.1 és GPT‑5‑mini modellekkel szimulál valószerű ügyfél-interakciókat az ügynök éles indulása előtt, majd LLM-bírók és determinisztikus szabályok kombinációjával értékeli őket. Így a csapatok tesztelhetik a szélsőséges eseteket, gyorsan finomíthatják a rendszert, és még azelőtt ellenőrizhetik a teljesítményt, hogy az ügyfelek hibákba ütköznének.

A Parloa elsősorban nagyvállalatokkal dolgozik, ahol az egyenletes működés éppolyan fontos, mint a képességek.

„Amikor megjelenik egy új modell, lefuttatjuk rajta a teljes teljesítményteszt-csomagunkat” – mondja Matthäus Deutsch vezető alkalmazott kutató. „Nagyon fontos számunkra, hogy a megoldások ne csak elméleti teljesítményteszteken, hanem tényleges, valós felhasználási esetekben is működjenek.”

Elvont teljesítménytesztek helyett a Parloa valós éles ügynököket képez le, majd szimulációs és értékelési folyamatokon futtatja őket. Ezek a tesztek valószerű körülmények között mérik az utasításkövetés megbízhatóságát, az API-hívások következetességét, a késleltetést és az általános teljesítményt.

Ezek az értékelések döntik el, mely modellek állnak készen az éles használatra. Csak a valós ügyfélhelyzetekben is megbízhatóan teljesítő modelleket vezetik be.

„A vállalati ügyfeleknek valódi költséget jelent az átállás” – mondja Deutsch. „Ha egy rendszer már működik éles környezetben, stabilan tartják, és csak akkor váltanak, ha az előnyök egyértelműek.”

Ennek köszönhetően a rendszerek nagy léptékben is kiszámíthatóan működnek éles környezetben. Az ügyfél-interakciók milliói során a legtöbb beszélgetés zökkenőmentesen lezárul. Még ha a hívást emberi ügyintézőhöz irányítják is, az eszkaláció oka ritkán valamilyen hiba. Egy bevezetés során egy globális utazási vállalat 80%-kal csökkentette az emberi ügyintézőt kérő megkeresések számát.

Ez az értékelésközpontú szemlélet fontos megkülönböztető jeggyé vált: a Parloa gyorsan haladhat anélkül, hogy feláldozná az éles működés megbízhatóságát.

A hangalapú kommunikáció más korlátokat támaszt, mint a szöveges csevegés. Minden interakció alacsony késleltetésű folyamaton halad végig: beszédfelismerésen, a modell érvelésén és beszédszintézisen.

Ebben a folyamatban kulcsfontosságú a késleltetés. A modellrétegben jelentkező apró késések is összeadódnak, és a hívó számára érzékelhető szüneteket okoznak, ezért ez a modellek kiválasztását és optimalizálását is meghatározza.

A Parloa szorosan együttműködik az OpenAI-jal a valós idejű felhasználási esetek teljesítményének optimalizálásán, különös tekintettel a késleltetésre, a válaszok minőségére és az utasításkövetésre. A csapat folyamatosan értékeli és terheléses próbáknak veti alá az új modellváltozatokat éleshez hasonló környezetekben, mielőtt valódi ügyfél-interakciókban bevezetné őket.

A Parloa külön-külön értékeli a hangalapú technológiai lánc minden elemét:

• A beszédfelismerő rendszereknél a szóhiba-arányt vizsgálják, különösen az érzékeny adatok, például kötvényszámok vagy fiókazonosítók esetében.
• A beszédszintetizáló modelleket vak meghallgatásos tesztekkel értékelik, hogy kiderüljön, mennyire hat természetesnek a hang a valódi felhasználók számára. Az eredményeket ezután valós ügyfél-interakciókkal vetik össze, hogy biztosítsák az egyenletes teljesítményt az éles környezetekben.
• A beszéd-beszéd modellek éles használatra való alkalmasságát jelenleg a késleltetésre, a pontosságra és a költségekre összpontosítva értékelik.

Ezeket a rendszereket kezdettől fogva globális bevezetésre tervezték. A teljesítménytesztek több nyelvre kiterjednek, az ügyfelek pedig világszerte számos régióban működnek. Ez a szigorú többnyelvű megközelítés egyszerre tükrözi a Parloa európai gyökereit és a vállalati ügyfelek elvárásait, akik nem csupán egyetlen nyelven vagy régióban, hanem minden piacon egyenletes teljesítményt igényelnek.

A Parloa ügynökei ma már több millió beszélgetést kezelnek olyan ágazatokban, mint a kiskereskedelem, az utazás és a biztosítás, az ügyféltámogatás automatizálásától a bevételtermelő folyamatokig, például a telefonos értékesítésig.

A Parloa szerint az ügyfélszolgálat teljesen multimodális élménnyé fejlődik.

Egy beszélgetés indulhat telefonon, folytatódhat csevegésben, és közben hivatkozásokat vagy interaktív elemeket is tartalmazhat. Az AMP nem különálló folyamatként kezeli az egyes lépéseket, hanem egyetlen interakcióként. Idővel az AI-ügynökök éppolyan központi szerepet tölthetnek be az ügyfélutakban, mint a webhelyek és a mobilalkalmazások.

Miközben a nagyvállalatok az ügyfél-interakciók egyre nagyobb részét automatizálják, a Parloa azon dolgozik, hogy az AI-ügynökök elég megbízhatók, rugalmasak és hitelesek legyenek a globális léptékű működéshez.