Parloa ustvarja agente za pomoč, s katerimi stranke rade govorijo

V zgodnjih dneh Parloe je soustanovitelj Stefan Ostwald preživel dan v klicnem centru zavarovalnice, kjer je njegova ekipa razvijala prve glasovne rešitve. Ko je sedel ob agentih, je vedno znova poslušal enake pogovore: ponastavitve gesel, vprašanja o zavarovalnih policah in rutinske spremembe. Spoznal je, da bi bilo mogoče velik del tega dela avtomatizirati.

Po tej izkušnji je berlinsko podjetje Parloa⁠(odpre se v novem oknu) začelo razvijati glasovne agente na podlagi pravil za avtomatizacijo množičnih interakcij s strankami.

S pojavom ChatGPT se je podjetje preusmerilo v razvoj današnje platforme za upravljanje agentov umetne inteligence (AMP), ki temelji na novi generaciji modelov, vključno z GPT‑5.4.

AMP podjetjem omogoča obsežno zasnovo, uvedbo in upravljanje interakcij s službo za pomoč strankam. Namesto določanja togih namenov in potekov ekipe opredelijo vedenje v naravnem jeziku, vzpostavijo povezave z notranjimi sistemi ter rešitve hitro izboljšujejo z vgrajenimi simulacijami in vrednotenji.

Parloa te interakcije izvaja od začetka do konca, od preprostega usmerjanja do zapletenih zahtev z več koraki. Poudarek je na doslednosti v produkciji, kjer štejejo zmogljivost, zakasnitev in robni primeri. Zato Parloa modele pred uvedbo nenehno preizkuša z resničnimi scenariji strank.

Parloina platforma za upravljanje agentov (AMP) je zasnovana tako, da lahko poslovni uporabniki in področni strokovnjaki brez pisanja kode ustvarjajo agente umetne inteligence.

»Z AMP lahko področni strokovnjaki iz različnih poslovnih enot dejansko ustvarjajo agente in povezujejo API-je na veliko učinkovitejši in preprostejši način,« pravi O’Reilly.

Na splošno AMP znamkam omogoča upravljanje celotnega življenjskega cikla agenta umetne inteligence. Netehničnim ekipam namreč omogoča, da pred objavo agenta preprosteje opredelijo njegovo vedenje. Namesto pisanja kode ali določanja togih dreves namenov področni strokovnjaki v naravnem jeziku določijo vlogo, navodila, orodja in omejitve agenta. Ta konfiguracija je podlaga za oblikovanje poziva modelu in vedenje sistema v produkciji.

Ko je agent opredeljen, ga pred uvedbo preizkusijo. Parloa z modeli, kot je GPT‑5.4, simulira pogovore s strankami, pri čemer en model nastopa kot klicatelj, drugi pa izvaja konfiguriranega agenta. Ekipe lahko te interakcije neposredno pregledajo, spremembe preizkusijo z realističnimi scenariji in rešitev izboljšajo še pred objavo.

Isti modeli nato te pogovore ovrednotijo s kombinacijo determinističnih preverjanj in ocenjevanja po načelu »veliki jezikovni model kot sodnik«. Tako se pokaže, ali je agent upošteval navodila, pravilno uporabljal orodja in nalogo opravil po pričakovanjih.

Med pogovorom v živo orkestracijska plast AMP modelu OpenAI pošlje poziv s konfiguracijo agenta in kontekstom pogovora, da ustvari odgovor, z metodo RAG pridobi informacije ali sproži orodja za povezovanje s sistemi stranke. Parloa to plast nenehno posodablja z najnovejšo generacijo modelov, ko ti pokažejo očitne izboljšave delovanja v resničnem okolju.

Po pogovoru ločeni delovni tokovi, ki jih poganja OpenAI, povzamejo interakcijo, razvrstijo namen stranke in ovrednotijo uspešnost glede na določena pravila.

Ko so agenti postajali kompleksnejši, je bilo vzdrževanje enega samega monolitnega poziva vse težje. Že majhne spremembe so lahko povzročile neželene stranske učinke. Parloa je zato uvedla modularni pristop. Naloge, kot so preverjanje pristnosti, spremembe rezervacij ali posodobitve računov, je mogoče razdeliti med ločene podagente. Tako bolje upoštevajo navodila, sisteme pa je sčasoma lažje nadgrajevati.

Platforma obenem vključuje deterministične nadzorne mehanizme tam, kjer je zanesljivost najpomembnejša. Podjetja lahko določijo strukturirane verige API-jev in logiko na podlagi dogodkov ter tako zagotovijo pravilno zaporedje ključnih korakov, pri tem pa uravnotežijo prilagodljivost pogovora s predvidljivo izvedbo.

Parloa z modeli, kot so GPT‑4.1, GPT‑5‑mini in drugi, simulira realistične interakcije s strankami, še preden je agent objavljen, nato pa jih ovrednoti s kombinacijo načela »veliki jezikovni model kot sodnik« in determinističnih pravil. Ekipe lahko tako preizkusijo robne primere, hitro izboljšujejo rešitev in potrdijo njeno delovanje, še preden bi napakam izpostavile stranke.

Parloa sodeluje predvsem z velikimi podjetji, pri katerih je doslednost enako pomembna kot zmogljivost.

»Ko izide nov model, ga preizkusimo z našim naborom primerjalnih testov,« pravi Matthäus Deutsch, višji znanstvenik za uporabne raziskave. »Za nas je zelo pomembno, da stvari ne delujejo le pri teoretičnih primerjalnih testih, temveč tudi pri dejanskih primerih uporabe.«

Namesto zanašanja na abstraktne primerjalne teste Parloa poustvari resnične produkcijske agente ter jih preizkusi v postopkih simulacije in vrednotenja. Ti preizkusi v realističnih razmerah merijo zanesljivost upoštevanja navodil, doslednost klicanja API-jev, zakasnitev in splošno zmogljivost.

Na podlagi teh vrednotenj določijo, kateri modeli so pripravljeni za produkcijo. Uvedejo le modele, ki zanesljivo delujejo v različnih resničnih scenarijih strank.

»Prehod za poslovne stranke pomeni dejanski strošek,« pravi Deutsch. »Ko sistem deluje v produkciji, ga ohranjajo stabilnega in ga zamenjajo le, kadar so koristi jasne.«

Zato se sistemi tudi pri velikem obsegu v produkciji vedejo predvidljivo. Med milijoni interakcij s strankami večina pogovorov poteka brez težav. Tudi kadar so klici preusmerjeni k človeškim agentom, je razlog za predajo le redko napaka. Pri eni uvedbi je globalno potovalno podjetje za 80 % zmanjšalo število zahtev za človeškega agenta.

Takšno dajanje prednosti vrednotenju je postalo ključna razlikovalna prednost, saj Parloi omogoča hitro napredovanje brez žrtvovanja zanesljivosti v produkciji.

Za glas veljajo drugačne omejitve kot za besedilni klepet. Vsaka interakcija poteka skozi cevovod z majhno zakasnitvijo: pretvorbo govora v besedilo, sklepanje modela in pretvorbo besedila v govor.

Zato je zakasnitev pri tem cevovodu ključna. Že majhne zamude v plasti modela se seštevajo v opazne premore za klicatelja, kar vpliva na izbiro in optimizacijo modelov.

Parloa tesno sodeluje z OpenAI pri optimizaciji delovanja za uporabo v realnem času, pri čemer se osredotoča na zakasnitev, kakovost odgovorov in upoštevanje navodil. Ekipa nove različice modelov pred uvedbo v pogovore s strankami v živo nenehno vrednoti in obremenitveno preizkuša v okoljih, podobnih produkcijskim.

Parloa vsak sestavni del glasovnega sklada ovrednoti ločeno:

• Sisteme za pretvorbo govora v besedilo preizkušajo glede na stopnjo napak v besedah, zlasti pri občutljivih vnosih, kot so številke zavarovalnih polic ali identifikatorji računov.
• Modele za pretvorbo besedila v govor vrednotijo s slepimi slušnimi preizkusi, s katerimi ocenijo, kako naravno glas zveni resničnim uporabnikom. Te rezultate nato primerjajo z resničnimi interakcijami s strankami, da zagotovijo dosledno delovanje v produkcijskih okoljih.
• Modele za pretvorbo govora v govor trenutno vrednotijo glede pripravljenosti za produkcijo, s poudarkom na zakasnitvi, natančnosti in stroških.

Ti sistemi so že od začetka zasnovani za globalno uvedbo. Primerjalni testi zajemajo več jezikov, stranke pa poslujejo v regijah po vsem svetu. Ta večjezična doslednost odraža evropske korenine Parloe in pričakovanja poslovnih strank, ki zahtevajo enotno delovanje na različnih trgih, ne le v enem jeziku ali regiji.

Danes Parloini agenti opravijo milijone pogovorov v panogah, kot so trgovina na drobno, potovanja in zavarovalništvo, ter podpirajo vse od avtomatizacije podpore do procesov, ki ustvarjajo prihodke, kot je telefonska prodaja.

Parloa pričakuje, da se bo pomoč strankam razvila v popolnoma večmodalno izkušnjo.

Pogovor se lahko začne po telefonu, nadaljuje v klepetu ter sproti vključuje povezave ali interaktivne elemente. AMP je zasnovan tako, da vse te korake namesto ločenih potekov obravnava kot eno samo interakcijo. Sčasoma bodo agenti umetne inteligence morda postali enako pomemben del poti strank kot spletna mesta in mobilne aplikacije.

Medtem ko podjetja avtomatizirajo vse več interakcij s strankami, se Parloa osredotoča na to, da bi bili agenti umetne inteligence dovolj zanesljivi, prilagodljivi in vredni zaupanja za delovanje v globalnem obsegu.