Parloa kuria agentus, su kuriais klientai nori kalbėtis

Ankstyvuoju „Parloa“ veiklos laikotarpiu vienas iš įkūrėjų Stefanas Ostwaldas praleido dieną draudimo bendrovės skambučių centre, kuriame jo komanda kūrė pirmąsias balso paslaugas. Sėdėdamas šalia darbuotojų jis klausėsi vis pasikartojančių pokalbių apie slaptažodžių nustatymą iš naujo, draudimo sąlygas ir įprastus pakeitimus. Jis suprato, kad didelę šio darbo dalį galima automatizuoti.

Po šios patirties Berlyne įsikūrusi Parloa⁠(atsidaro naujame lange) pradėjo kurti taisyklėmis grindžiamus balso agentus, automatizuojančius didelį klientų užklausų srautą.

Atsiradus ChatGPT, bendrovė ėmė kurti dabartinę DI agentų valdymo platformą (AMP), pagrįstą naujos kartos modeliais, įskaitant GPT‑5.4.

AMP suteikia įmonėms galimybę plačiu mastu projektuoti, diegti ir valdyti klientų aptarnavimo sąveikas. Užuot braižiusios griežtas ketinimų ir procesų schemas, komandos apibrėžia elgseną natūralia kalba, prisijungia prie vidinių sistemų ir sparčiai tobulina sprendimus naudodamos integruotą modeliavimą bei vertinimus.

„Parloa“ valdo šias sąveikas nuo pradžios iki pabaigos – nuo paprasto nukreipimo iki sudėtingų, kelių etapų užklausų. Daugiausia dėmesio skiriama nuosekliam veikimui realioje aplinkoje, kur svarbu našumas, delsa ir išskirtiniai atvejai. Todėl prieš diegdama modelius „Parloa“ nuolat juos bando pagal tikrus klientų scenarijus.

„Parloa“ agentų valdymo platforma (AMP) sukurta tam, kad verslo naudotojai ir konkrečių sričių ekspertai galėtų kurti DI agentus nerašydami kodo.

„Naudodami AMP galime suteikti skirtingų verslo padalinių ekspertams galimybę patiems kurti agentus ir daug paprasčiau bei veiksmingiau prijungti API“, – sako O’Reilly.

Apskritai AMP leidžia prekių ženklams valdyti visą DI agento gyvavimo ciklą. Platforma suteikia techninių žinių neturinčioms komandoms paprastesnį būdą apibrėžti agento elgseną dar prieš jį paleidžiant. Užuot rašę kodą ar braižę griežtus ketinimų medžius, konkrečių sričių ekspertai natūralia kalba nustato agento vaidmenį, instrukcijas, įrankius ir ribas. Ši konfigūracija tampa pagrindu, pagal kurį modeliui pateikiamos užklausos ir sistema veikia realioje aplinkoje.

Apibrėžtas agentas prieš diegimą išbandomas. „Parloa“ imituoja pokalbius su klientais naudodama tokius modelius kaip GPT‑5.4: vienas modelis veikia kaip skambinantysis, o kitas valdo sukonfigūruotą agentą. Komandos gali tiesiogiai peržiūrėti šias sąveikas, išbandyti pakeitimus tikroviškuose scenarijuose ir tobulinti sistemą prieš ją paleisdamos.

Tuomet tie patys modeliai vertina šiuos pokalbius derindami deterministines patikras ir LLM kaip vertintojo balus. Taip nustatoma, ar agentas laikėsi instrukcijų, tinkamai naudojo įrankius ir atliko užduotį taip, kaip tikėtasi.

Vykstant pokalbiui AMP koordinavimo sluoksnis OpenAI modeliui pateikia agento konfigūraciją ir pokalbio kontekstą, kad šis sugeneruotų atsakymą, gautų informaciją per RAG arba paleistų įrankius, sąveikaujančius su klientų vidinėmis sistemomis. „Parloa“ nuolat atnaujina šį sluoksnį naujausios kartos modeliais, kai jie aiškiai pagerina veikimą realiomis sąlygomis.

Pokalbiui pasibaigus, atskiros OpenAI grindžiamos darbo sekos apibendrina sąveiką, klasifikuoja kliento ketinimą ir pagal nustatytas taisykles įvertina veikimą.

Agentams sudėtingėjant, prižiūrėti vieną monolitinę užklausą darėsi vis sunkiau. Net nedideli pakeitimai galėjo sukelti nenumatytą šalutinį poveikį. Kad išspręstų šią problemą, „Parloa“ pritaikė modulinį metodą. Tokias užduotis kaip tapatybės patvirtinimas, rezervacijos keitimas ar paskyros atnaujinimas galima perduoti atskiriems pagalbiniams agentams. Taip geriau laikomasi instrukcijų, o sistemas ilgainiui lengviau tobulinti.

Kartu platformoje naudojamos deterministinės kontrolės priemonės ten, kur patikimumas svarbiausias. Įmonės gali nustatyti struktūrines API grandines ir įvykiais grindžiamą logiką, kad svarbiausi veiksmai būtų atliekami tinkama tvarka, suderinant pokalbio lankstumą su nuspėjamu vykdymu.

Prieš paleisdama agentą „Parloa“ tokiais modeliais kaip GPT‑4.1, GPT‑5‑mini ir kitais imituoja tikroviškas sąveikas su klientais, o tada jas vertina derindama LLM kaip vertintoją ir deterministines taisykles. Taip komandos gali išbandyti išskirtinius atvejus, sparčiai tobulinti sistemą ir patikrinti jos veikimą, kol klientai dar nepatyrė galimų trikčių.

„Parloa“ daugiausia dirba su stambiomis įmonėmis, kurioms nuoseklumas toks pat svarbus kaip ir galimybės.

„Pasirodžius naujam modeliui, išbandome jį savo lyginamųjų testų rinkiniu“, – sako vyresnysis taikomosios srities mokslininkas Matthäusas Deutschas. „Mums labai svarbu, kad viskas veiktų ne tik teoriniuose lyginamuosiuose testuose, bet ir tikrais naudojimo atvejais.“

Užuot pasikliovusi abstrakčiais lyginamaisiais testais, „Parloa“ atkuria tikrus realioje aplinkoje veikiančius agentus ir tikrina juos modeliavimo bei vertinimo procesuose. Šiais bandymais tikroviškomis sąlygomis matuojamas instrukcijų laikymosi patikimumas, API iškvietimo nuoseklumas, delsa ir bendras veikimas.

Pagal šiuos vertinimus nustatoma, kurie modeliai yra parengti naudoti realioje aplinkoje. Diegiami tik tie modeliai, kurie patikimai veikia įvairiuose tikruose klientų scenarijuose.

„Verslo klientams migracija iš tiesų kainuoja“, – sako Deutschas. „Kai sistema jau veikia realioje aplinkoje, klientai nekeičia jos ir pereina prie kitos tik tada, kai nauda akivaizdi.“

Todėl sistemos realioje aplinkoje veikia nuspėjamai net ir dideliu mastu. Vykstant milijonams sąveikų su klientais, dauguma pokalbių išsprendžiami sklandžiai. Net kai skambučiai nukreipiami darbuotojams, tai retai lemia sistemos nesėkmė. Vienu diegimo atveju pasaulinė kelionių bendrovė 80 % sumažino prašymų sujungti su darbuotoju skaičių.

Požiūris, pagal kurį pirmiausia vertinama, tapo vienu svarbiausių „Parloa“ išskirtinumų: jis leidžia veikti sparčiai neprarandant patikimumo realioje aplinkoje.

Balso sąveikai taikomi kitokie apribojimai nei tekstiniams pokalbiams. Kiekviena sąveika vyksta mažos delsos grandine: kalba paverčiama tekstu, modelis protauja, o tekstas paverčiamas kalba.

Dėl šios grandinės delsa tampa itin svarbi. Net nedidelė delsa modelio sluoksnyje susideda į skambinančiajam pastebimas pauzes, todėl nuo jos priklauso modelių pasirinkimas ir optimizavimas.

„Parloa“ glaudžiai bendradarbiauja su OpenAI optimizuodama veikimą realiuoju laiku ir daugiausia dėmesio skiria delsai, atsakymų kokybei bei instrukcijų laikymuisi. Prieš pradėdama naudoti naujas modelių versijas tikrose sąveikose su klientais, komanda jas nuolat vertina ir išbando dideliu krūviu realią aplinką primenančiomis sąlygomis.

„Parloa“ atskirai vertina kiekvieną balso technologijų rinkinio komponentą:

• Kalbos vertimo tekstu sistemos tikrinamos pagal klaidingai atpažintų žodžių dalį, ypač apdorojant neskelbtinus duomenis, pavyzdžiui, draudimo liudijimų numerius ar paskyrų identifikatorius.
• Teksto vertimo kalba modeliai vertinami aklaisiais klausymo testais, siekiant nustatyti, kaip natūraliai balsas skamba tikriems naudotojams. Tada šie rezultatai palyginami su tikromis sąveikomis su klientais, siekiant užtikrinti nuoseklų veikimą realioje aplinkoje.
• Šiuo metu vertinama, ar kalbos vertimo į kalbą modeliai parengti naudoti realioje aplinkoje, daugiausia dėmesio skiriant delsai, tikslumui ir kainai.

Šios sistemos nuo pat pradžių buvo kuriamos pasauliniam diegimui. Lyginamieji testai atliekami keliomis kalbomis, nes klientai veikia įvairiuose pasaulio regionuose. Toks daugiakalbių bandymų kruopštumas atspindi ir europietiškas „Parloa“ šaknis, ir verslo klientų lūkesčius: jiems reikia nuoseklaus veikimo visose rinkose, o ne tik viena kalba ar viename regione.

Šiandien „Parloa“ agentai aptarnauja milijonus pokalbių mažmeninės prekybos, kelionių, draudimo ir kituose sektoriuose. Jie naudojami įvairiai – nuo klientų aptarnavimo automatizavimo iki pajamų generuojančių procesų, pavyzdžiui, prekybos telefonu.

„Parloa“ mano, kad klientų aptarnavimas taps visiškai daugiarūše patirtimi.

Pokalbis gali prasidėti telefonu, tęstis susirašinėjant, o pakeliui į jį gali būti įtrauktos nuorodos ar interaktyvūs elementai. Užuot laikiusi kiekvieną etapą atskiru procesu, AMP visa tai tvarko kaip vieną sąveiką. Ilgainiui DI agentai gali tapti tokia pat svarbia klientų kelionių dalimi kaip svetainės ir mobiliosios programėlės.

Įmonėms automatizuojant vis didesnę sąveikų su klientais dalį, „Parloa“ siekia, kad DI agentai būtų pakankamai patikimi, lankstūs ir pelnytų pakankamai pasitikėjimo veikti pasauliniu mastu.