Parloa loob teenindusagente, kellega kliendid tahavad suhelda

Parloa algusaegadel veetis kaasasutaja Stefan Ostwald päeva kindlustusettevõtte kõnekeskuses, kus tema meeskond oli loonud esimesi häälepõhiseid kasutuskogemusi. Agentide kõrval istudes kuulis ta ikka ja jälle samu vestlusi: paroolide lähtestamine, küsimused kindlustuspoliiside kohta ja tavapärased muudatused. Ta mõistis, et suure osa sellest tööst saaks automatiseerida.

Pärast seda kogemust hakkas Berliinis tegutsev Parloa⁠(avaneb uues aknas) looma reeglipõhiseid häälagente, et automatiseerida suure mahuga kliendisuhtlust.

ChatGPT tulekuga asus ettevõte looma nüüdseks AI-agentide haldusplatvormina (AMP) tuntud lahendust, mis põhineb uue põlvkonna mudelitel, sealhulgas GPT‑5.4‑l.

AMP võimaldab ettevõtetel klienditeenindusvestlusi suures mahus kavandada, kasutusele võtta ja hallata. Jäikade kavatsuste ja töövoogude kaardistamise asemel määravad meeskonnad käitumise loomulikus keeles, loovad ühenduse sisemiste süsteemidega ning täiustavad lahendust kiiresti sisseehitatud simulatsioonide ja hindamiste abil.

Parloa haldab neid vestlusi algusest lõpuni, alates lihtsast suunamisest kuni keerukate mitmeetapiliste taotlusteni. Keskmes on järjepidevus tootmiskeskkonnas, kus loevad nii jõudlus, latentsus kui ka erandjuhtumid. Selle saavutamiseks testib Parloa mudeleid enne kasutuselevõttu pidevalt tegelike kliendistsenaariumide põhjal.

Parloa Agent Management Platform (AMP) on loodud selleks, et ärikasutajad ja valdkonnaeksperdid saaksid AI-agente luua ilma koodi kirjutamata.

„AMP võimaldab eri äriüksuste valdkonnaekspertidel agente ise luua ja API-sid palju tõhusamalt ning lihtsamalt ühendada,“ ütleb O’Reilly.

Üldjoontes võimaldab AMP kaubamärkidel hallata AI-agendi kogu elutsüklit. Selleks pakub platvorm mittetehnilistele meeskondadele lihtsat viisi määrata enne agendi käivitamist, kuidas see peaks käituma. Koodi kirjutamise või jäikade kavatsuspuude kaardistamise asemel määravad valdkonnaeksperdid loomulikus keeles agendi rolli, juhised, tööriistad ja piirid. Sellest konfiguratsioonist saab mudelile antava viiba ja süsteemi tootmiskeskkonnas käitumise alus.

Pärast määratlemist testitakse agenti enne kasutuselevõttu. Parloa simuleerib kliendivestlusi selliste mudelitega nagu GPT‑5.4: üks mudel tegutseb helistajana ja teine käitab konfigureeritud agenti. Meeskonnad saavad neid vestlusi vahetult uurida, testida muudatusi realistlike stsenaariumide põhjal ja lahendust enne käivitamist täiustada.

Seejärel kasutatakse samu mudeleid vestluste hindamiseks, ühendades deterministlikud kontrollid ja „LLM-as-a-judge“ hindamissüsteemi. Nii selgub, kas agent järgis juhiseid, kasutas tööriistu õigesti ja täitis ülesande ootuspäraselt.

Reaalajas vestluse ajal annab AMP koordineerimiskihk OpenAI mudelile viibana agendi konfiguratsiooni ja vestluse konteksti, et luua vastus, hankida RAG-i kaudu teavet või käivitada tööriistu kliendi taustsüsteemidega suhtlemiseks. Parloa ajakohastab seda kihti pidevalt uusima põlvkonna mudelitega, kui need näitavad tegelikus kasutuses selget jõudluse kasvu.

Pärast vestlust teevad eraldi OpenAI-põhised töövood suhtlusest kokkuvõtte, liigitavad kliendi kavatsuse ja hindavad toimivust kindlaksmääratud reeglite alusel.

Agentide keerukamaks muutudes oli ühe monoliitse viiba haldamine üha raskem. Väikesed muudatused võisid põhjustada soovimatuid kõrvalmõjusid. Selle lahendamiseks võttis Parloa kasutusele modulaarse lähenemise. Sellised ülesanded nagu autentimine, broneeringute muutmine või kontoandmete uuendamine saab jagada eraldi alamagentidele, mis parandab juhiste järgimist ja muudab süsteemide edasise arendamise lihtsamaks.

Samal ajal kasutab platvorm deterministlikke kontrolle seal, kus töökindlus on kõige olulisem. Ettevõtted saavad määratleda struktureeritud API-ahelaid ja sündmuspõhist loogikat, et kriitilised sammud toimuksid õiges järjekorras ning vestluse paindlikkus oleks tasakaalus prognoositava täitmisega.

Parloa kasutab selliseid mudeleid nagu GPT‑4.1 ja GPT‑5‑mini, et simuleerida realistlikku kliendisuhtlust enne agendi käivitamist, ning hindab seda seejärel „LLM-as-a-judge“ hindamissüsteemi ja deterministlike reeglite kombinatsiooniga. Nii saavad meeskonnad testida erandjuhtumeid, lahendust kiiresti täiustada ja jõudlust kontrollida, enne kui kliendid võimalike tõrgetega kokku puutuvad.

Parloa töötab peamiselt suurettevõtetega, kelle jaoks on järjepidevus sama oluline kui võimekus.

„Uue mudeli ilmudes testime seda oma võrdlustestide komplektiga,“ ütleb rakendusteaduse vanemteadur Matthäus Deutsch. „Meile on väga oluline, et lahendused ei töötaks üksnes teoreetilistes võrdlustestides, vaid ka tegelikes kasutusjuhtudes.“

Abstraktsetele võrdlustestidele tuginemise asemel jäljendab Parloa tegelikke tootmiskeskkonna agente ning suunab need läbi simulatsiooni- ja hindamiskonveierite. Need testid mõõdavad realistlikes tingimustes juhiste järgimise töökindlust, API-kutsete järjepidevust, latentsust ja üldist jõudlust.

Hindamiste põhjal otsustatakse, millised mudelid on tootmiskeskkonnaks valmis. Kasutusele võetakse ainult mudelid, mis toimivad tegelikes kliendistsenaariumides töökindlalt.

„Ettevõtetest klientidele kaasneb üleminekuga arvestatav kulu,“ ütleb Deutsch. „Kui süsteem tootmiskeskkonnas juba töötab, hoitakse see stabiilsena ja vahetatakse välja ainult siis, kui kasu on selge.“

Seetõttu käituvad süsteemid tootmiskeskkonnas prognoositavalt ka suures mahus. Miljonite kliendisuhtluste seas lahendatakse enamik vestlusi tõrgeteta. Isegi kui kõne suunatakse inimagendile, on eskaleerimise põhjuseks harva tõrge. Ühe juurutuse käigus vähendas rahvusvaheline reisiettevõte inimagendi poole pöördumise soove 80%.

Hindamisest lähtuv mõtteviis on saanud oluliseks eristavaks eeliseks, mis võimaldab Parloal kiiresti tegutseda ilma tootmiskeskkonna töökindlust ohverdamata.

Hääl seab teistsugused piirangud kui tekstipõhine vestlus. Iga suhtlus toimub madala latentsusega protsessis: kõnest tekstiks, mudeli arutlus ja tekstist kõneks.

Selle protsessis on latentsus kriitilise tähtsusega. Isegi väikesed viivitused mudelikihis kuhjuvad helistaja jaoks märgatavateks pausideks ning mõjutavad mudelite valikut ja optimeerimist.

Parloa teeb OpenAI-ga tihedat koostööd, et optimeerida reaalajakasutuse jõudlust, keskendudes latentsusele, vastuste kvaliteedile ja juhiste järgimisele. Enne uute mudeliversioonide kasutuselevõttu reaalsetes kliendivestlustes hindab meeskond neid pidevalt ja teeb koormusteste tootmiskeskkonda jäljendavates oludes.

Parloa hindab häälteenuste tehnoloogiapinu iga komponenti eraldi:

• Kõnest tekstiks süsteemide puhul testitakse sõnade veamäära, eriti tundlike sisendite, nagu poliisinumbrite või kontotunnuste korral.
• Tekstist kõneks mudeleid hinnatakse pimekuulamistestidega, et teha kindlaks, kui loomulikuna tegelikud kasutajad häält tajuvad. Seejärel võrreldakse tulemusi tegeliku kliendisuhtlusega, et tagada tootmiskeskkonnas järjepidev toimivus.
• Kõnest-kõneks mudelite tootmisküpsust hinnatakse praegu eelkõige latentsuse, täpsuse ja kulu põhjal.

Need süsteemid on algusest peale loodud üleilmseks kasutuselevõtuks. Võrdlustestid hõlmavad mitut keelt ja kliendid tegutsevad piirkondades üle kogu maailma. Selline põhjalik mitmekeelne testimine peegeldab nii Parloa Euroopa juuri kui ka ettevõtetest klientide ootusi, sest nemad vajavad järjepidevat toimivust eri turgudel, mitte ainult ühes keeles või piirkonnas.

Praegu haldavad Parloa agendid miljoneid vestlusi jae-, reisi- ja kindlustussektoris ning toetavad kasutusjuhte alates klienditoe automatiseerimisest kuni tulu teenivate töövoogudeni, nagu telemüük.

Parloa näeb, et klienditeenindusest kujuneb täielikult multimodaalne kogemus.

Vestlus võib alata telefonis, jätkuda vestlusrakenduses ning hõlmata teekonna jooksul linke või interaktiivseid elemente. Selle asemel et käsitleda iga sammu eraldi töövoona, on AMP loodud haldama neid ühe tervikliku suhtlusena. Aja jooksul võivad AI-agendid muutuda klienditeekondades sama keskseks kui veebisaidid ja mobiilirakendused.

Kuna ettevõtted automatiseerivad üha suuremat osa kliendisuhtlusest, keskendub Parloa sellele, et muuta AI-agendid üleilmses mahus tegutsemiseks piisavalt töökindlaks, paindlikuks ja usaldusväärseks.