Parloa tibni aġenti tas-servizz li l-klijenti jridu jkellmu

Fl-ewwel żminijiet ta’ Parloa, il-kofundatur Stefan Ostwald qatta’ jum f’ċentru tat-telefonati ta’ kumpanija tal-assigurazzjoni, fejn it-tim tiegħu kien qed jiżviluppa l-ewwel esperjenzi bil-vuċi. Bilqiegħda ħdejn l-aġenti, sema’ l-istess konverżazzjonijiet jirrepetu ruħhom: bdil tal-passwords, mistoqsijiet dwar poloz u bidliet ta’ rutina. Induna li ħafna minn dak ix-xogħol seta’ jiġi awtomatizzat.

Wara dik l-esperjenza, Parloa⁠(jinfetaħ f’tieqa ġdida), ibbażata f’Berlin, bdiet tibni aġenti bil-vuċi bbażati fuq regoli biex tawtomatizza interazzjonijiet mal-klijenti fuq skala kbira.

Bil-miġja ta’ ChatGPT, il-kumpanija evolviet biex tibni dik li llum hija l-Pjattaforma għall-Ġestjoni tal-Aġenti tal-IA (AMP), mibnija fuq ġenerazzjoni ġdida ta’ mudelli, fosthom GPT‑5.4.

AMP tippermetti lill-intrapriżi jiddisinjaw, iniedu u jimmaniġġjaw interazzjonijiet tas-servizz tal-konsumatur fuq skala kbira. Minflok ifasslu intenzjonijiet u flussi riġidi, it-timijiet jiddefinixxu l-imġiba b’lingwa naturali, jikkonnettjaw mas-sistemi interni u jtejbuha malajr permezz ta’ simulazzjonijiet u evalwazzjonijiet integrati.

Parloa tmexxi dawn l-interazzjonijiet mill-bidu sal-aħħar, minn sempliċi direzzjonar sa talbiet kumplessi b’diversi passi. L-enfasi hija fuq il-konsistenza fil-produzzjoni, fejn il-prestazzjoni, il-latenza u l-każijiet eċċezzjonali kollha huma importanti. Biex tilħaq dan l-għan, Parloa tittestja kontinwament il-mudelli fuq xenarji reali tal-klijenti qabel tniedihom.

Il-Pjattaforma għall-Ġestjoni tal-Aġenti (AMP) ta’ Parloa hija mfassla biex utenti kummerċjali u esperti tas-suġġett ikunu jistgħu jibnu aġenti tal-IA mingħajr ma jiktbu kodiċi.

“B’AMP, esperti tas-suġġett minn unitajiet kummerċjali differenti jistgħu tassew jibnu l-aġenti u jikkonnettjaw l-APIs b’mod ħafna eħfef u aktar sempliċi,” jgħid O’Reilly.

Fuq livell ġenerali, AMP tippermetti lill-marki jimmaniġġjaw iċ-ċiklu tal-ħajja kollu tal-aġent tal-IA. Dan tagħmlu billi tagħti lit-timijiet mhux tekniċi mod aktar sempliċi kif jiddefinixxu l-imġiba ta’ aġent qabel ma jibda jintuża. Minflok jiktbu kodiċi jew ifasslu siġar riġidi tal-intenzjonijiet, l-esperti tas-suġġett jistabbilixxu r-rwol, l-istruzzjonijiet, l-għodod u l-limiti tal-aġent b’lingwa naturali. Din il-konfigurazzjoni ssir il-bażi ta’ kif jingħata l-prompt lill-mudell u ta’ kif iġib ruħu s-sistema fil-produzzjoni.

Ladarba jiġi ddefinit, l-aġent jiġi ttestjat qabel it-tnedija. Parloa tissimula konverżazzjonijiet mal-klijenti permezz ta’ mudelli bħal GPT‑5.4, b’mudell wieħed jaġixxi bħala min iċempel u ieħor iħaddem l-aġent ikkonfigurat. It-timijiet jistgħu jeżaminaw dawn l-interazzjonijiet direttament, jittestjaw il-bidliet fuq xenarji realistiċi u jkomplu jtejbuhom qabel it-tnedija.

Imbagħad jintużaw l-istess mudelli biex jevalwaw dawk il-konverżazzjonijiet b’taħlita ta’ kontrolli deterministiċi u punteġġi minn LLM bħala ġudikant. Dan juri jekk l-aġent segwiex l-istruzzjonijiet, użax l-għodod sew u lestiex il-kompitu kif mistenni.

Waqt konverżazzjoni diretta, is-saff ta’ orkestrazzjoni ta’ AMP jagħti prompt lil mudell ta’ OpenAI bil-konfigurazzjoni tal-aġent u l-kuntest tal-konverżazzjoni biex jiġġenera tweġiba, jikseb informazzjoni permezz ta’ RAG jew jattiva għodod li jinteraġixxu mas-sistemi interni tal-klijent. Parloa taġġorna kontinwament dan is-saff bl-aħħar ġenerazzjoni ta’ mudelli meta dawn juru titjib ċar fil-prestazzjoni fid-dinja reali.

Wara l-konverżazzjoni, flussi tax-xogħol separati mħaddma minn OpenAI jiġbru fil-qosor l-interazzjoni, jikklassifikaw l-intenzjoni tal-klijent u jevalwaw il-prestazzjoni skont regoli definiti.

Hekk kif l-aġenti saru aktar kumplessi, sar aktar diffiċli li jinżamm prompt monolitiku wieħed. Bidliet żgħar setgħu joħolqu effetti sekondarji mhux intenzjonati. Biex tindirizza dan, Parloa introduċiet approċċ modulari. Kompiti bħall-awtentikazzjoni, bidliet fir-riżervazzjonijiet jew aġġornamenti tal-kontijiet jistgħu jinqasmu f’sottoaġenti distinti, biex l-istruzzjonijiet jiġu segwiti aħjar u s-sistemi jkunu jistgħu jevolvu aktar faċilment maż-żmien.

Fl-istess ħin, il-pjattaforma tinkorpora kontrolli deterministiċi fejn l-affidabbiltà hija l-aktar importanti. L-intrapriżi jistgħu jiddefinixxu ktajjen strutturati ta’ APIs u loġika bbażata fuq avvenimenti biex jiżguraw li l-passi kruċjali jsiru fl-ordni t-tajba, filwaqt li jibbilanċjaw il-flessibbiltà fil-konverżazzjoni ma’ eżekuzzjoni prevedibbli.

Parloa tuża mudelli bħal GPT‑4.1, GPT‑5‑mini u oħrajn biex tissimula interazzjonijiet realistiċi mal-klijenti qabel ma aġent jibda jintuża, u mbagħad tevalwahom b’taħlita ta’ LLM bħala ġudikant u regoli deterministiċi. Dan jippermetti lit-timijiet jittestjaw każijiet eċċezzjonali, itejbu malajr u jivvalidaw il-prestazzjoni qabel ma l-klijenti jkunu esposti għal xi falliment.

Parloa taħdem primarjament ma’ intrapriżi kbar, fejn il-konsistenza hija importanti daqs il-kapaċità.

“Meta joħroġ mudell ġdid, inħaddmu fuqu s-sett tagħna ta’ testijiet komparattivi,” jgħid Matthäus Deutsch, Xjenzat Anzjan tax-Xjenza Applikata. “Huwa importanti ħafna għalina li l-affarijiet ma jaħdmux biss f’testijiet komparattivi teoretiċi, iżda f’każijiet reali ta’ użu.”

Minflok tiddependi fuq testijiet komparattivi astratti, Parloa tirreplika aġenti reali tal-produzzjoni u tgħaddihom minn pipelines ta’ simulazzjoni u evalwazzjoni. Dawn it-testijiet ikejlu l-affidabbiltà fis-segwitu tal-istruzzjonijiet, il-konsistenza fis-sejħiet tal-APIs, il-latenza u l-prestazzjoni ġenerali f’kundizzjonijiet realistiċi.

Dawn l-evalwazzjonijiet jiddeterminaw liema mudelli huma lesti għall-produzzjoni. Jintużaw biss mudelli li jaħdmu b’mod affidabbli f’firxa ta’ xenarji reali tal-klijenti.

“Il-klijenti intrapriżali jiffaċċjaw spiża reali biex jemigraw,” jgħid Deutsch. “Ladarba sistema tkun qed taħdem fil-produzzjoni, iżommuha stabbli u jibdluha biss meta l-benefiċċji jkunu ċari.”

B’riżultat ta’ dan, is-sistemi jġibu ruħhom b’mod prevedibbli fil-produzzjoni, anki fuq skala kbira. Fost miljuni ta’ interazzjonijiet mal-klijenti, il-biċċa l-kbira tal-konverżazzjonijiet jissolvew mingħajr xkiel. Anki meta t-telefonati jiġu direzzjonati lejn aġenti umani, rarament ikun xi falliment li jwassal għall-eskalazzjoni. F’implimentazzjoni waħda, kumpanija globali tal-ivvjaġġar naqqset bi 80% it-talbiet għal aġent uman.

Din il-mentalità li tibda mill-evalwazzjoni saret fattur ewlieni ta’ distinzjoni, u tippermetti lil Parloa timxi malajr mingħajr ma tikkomprometti l-affidabbiltà fil-produzzjoni.

Il-vuċi ġġib magħha restrizzjonijiet differenti minn dawk taċ-chat ibbażat fuq it-test. Kull interazzjoni tgħaddi minn pipeline b’latenza baxxa: diskors għal test, raġunament tal-mudell u test għal diskors.

Din il-pipeline tagħmel il-latenza kruċjali. Anki dewmien żgħir fis-saff tal-mudell jakkumula f’pawżi li jinħassu minn min iċempel, u dan jinfluwenza kif jintgħażlu u jiġu ottimizzati l-mudelli.

Parloa taħdem mill-qrib ma’ OpenAI biex tottimizza l-prestazzjoni għal każijiet ta’ użu f’ħin reali, b’enfasi fuq il-latenza, il-kwalità tat-tweġibiet u s-segwitu tal-istruzzjonijiet. It-tim jevalwa kontinwament u jittestja taħt pressjoni iterazzjonijiet ġodda tal-mudelli f’ambjenti simili għall-produzzjoni qabel jużahom f’interazzjonijiet diretti mal-klijenti.

Parloa tevalwa kull komponent tas-sistema tal-vuċi b’mod indipendenti:

• Is-sistemi ta’ diskors għal test jiġu ttestjati għar-rata ta’ żbalji fil-kliem, speċjalment għal data sensittiva bħan-numri tal-poloz jew l-identifikaturi tal-kontijiet.
• Il-mudelli ta’ test għal diskors jiġu evalwati permezz ta’ testijiet tas-smigħ għomja biex jiġi vvalutat kemm il-vuċi tinstema’ naturali għall-utenti reali. Imbagħad dawk ir-riżultati jitqabblu ma’ interazzjonijiet reali mal-klijenti biex tiġi żgurata prestazzjoni konsistenti fl-ambjenti tal-produzzjoni.
• Il-mudelli ta’ diskors b'diskors bħalissa qed jiġu evalwati biex jiġi ddeterminat jekk humiex lesti għall-produzzjoni, b’enfasi fuq il-latenza, il-preċiżjoni u l-ispiża.

Sa mill-bidu, dawn is-sistemi nbnew biex jintużaw globalment. It-testijiet komparattivi jkopru diversi lingwi, bi klijenti li joperaw f’reġjuni madwar id-dinja. Din ir-reqqa multilingwi tirrifletti kemm l-għeruq Ewropej ta’ Parloa kif ukoll l-aspettattivi tal-klijenti intrapriżali, li jeħtieġu prestazzjoni konsistenti fis-swieq kollha, mhux f’lingwa jew reġjun wieħed biss.

Illum, l-aġenti ta’ Parloa jimmaniġġjaw miljuni ta’ konverżazzjonijiet f’setturi bħall-bejgħ bl-imnut, l-ivvjaġġar u l-assigurazzjoni, għal każijiet ta’ użu li jvarjaw mill-awtomatizzazzjoni tal-appoġġ sa flussi li jiġġeneraw dħul, bħax-xiri bit-telefon.

Parloa tara s-servizz tal-konsumatur jevolvi f’esperjenza għalkollox multimodali.

Konverżazzjoni tista’ tibda bit-telefon, tkompli fiċ-chat u tinkludi links jew elementi interattivi matulha. Minflok tittratta kull pass bħala fluss separat, AMP hija mfassla biex timmaniġġjah bħala interazzjoni waħda. Maż-żmien, l-aġenti tal-IA jistgħu jsiru ċentrali għall-vjaġġi tal-klijenti daqs is-siti web u l-apps mobbli.

Hekk kif l-intrapriżi javvanzaw lejn l-awtomatizzazzjoni ta’ sehem dejjem akbar mill-interazzjonijiet mal-klijenti, Parloa qed tiffoka biex l-aġenti tal-IA jkunu affidabbli, flessibbli u fdati biżżejjed biex joperaw fuq skala globali.