Parloa bygger kundeserviceagenter folk vil snakke med

I Parloas tidlige fase tilbrakte medgrunnlegger Stefan Ostwald en dag på et kundesenter for forsikring, der teamet hans hadde utviklet de første taleløsningene. Mens han satt sammen med kundebehandlerne, hørte han de samme samtalene gjenta seg: tilbakestilling av passord, spørsmål om forsikringer og rutinemessige endringer. Han innså at mye av dette arbeidet kunne automatiseres.

Etter denne opplevelsen begynte Berlin-baserte Parloa⁠(åpnes i et nytt vindu) å utvikle regelbaserte taleagenter for å automatisere store mengder kundedialog.

Da ChatGPT kom, videreutviklet selskapet løsningen til det som nå er deres AI Agent Management Platform (AMP), bygget på en ny generasjon modeller, blant annet GPT‑5.4.

AMP gjør det mulig for virksomheter å utforme, ta i bruk og administrere kundeservicedialog i stor skala. I stedet for å kartlegge rigide intensjoner og flyter definerer teamene atferd i naturlig språk, kobler til interne systemer og forbedrer raskt ved hjelp av innebygde simuleringer og evalueringer.

Parloa håndterer hele dialogen, fra enkel ruting til komplekse forespørsler med flere trinn. Målet er stabilitet i produksjon, der ytelse, svartid og grensetilfeller er avgjørende. For å oppnå dette tester Parloa kontinuerlig modeller mot reelle kundescenarioer før de tas i bruk.

Parloas Agent Management Platform (AMP) er utformet slik at forretningsbrukere og fageksperter kan bygge KI-agenter uten å skrive kode.

«Med AMP kan fageksperter fra ulike forretningsområder faktisk bygge agentene og koble til API-ene på en langt smidigere og enklere måte», sier O’Reilly.

Overordnet gjør AMP det mulig for merkevarer å administrere hele livssyklusen til en KI-agent. Det skjer ved at ikke-tekniske team får en enklere måte å definere hvordan en agent skal opptre på, før den settes i drift. I stedet for å skrive kode eller kartlegge rigide intensjonstrær angir fagekspertene agentens rolle, instruksjoner, verktøy og rammer i naturlig språk. Denne konfigurasjonen danner grunnlaget for hvordan modellen promptes, og hvordan systemet oppfører seg i produksjon.

Når agenten er definert, testes den før den tas i bruk. Parloa simulerer kundesamtaler med modeller som GPT‑5.4, der én modell fungerer som innringer og en annen kjører den konfigurerte agenten. Teamene kan undersøke dialogene direkte, teste endringer mot realistiske scenarioer og forbedre løsningen før den settes i drift.

De samme modellene brukes deretter til å evaluere samtalene ved hjelp av en kombinasjon av deterministiske kontroller og vurdering med LLM som dommer. Dette viser om agenten fulgte instruksjonene, brukte verktøyene riktig og fullførte oppgaven som forventet.

Under en direktesamtale prompter orkestreringslaget i AMP en OpenAI-modell med agentkonfigurasjonen og samtalekonteksten for å generere et svar, hente informasjon via RAG eller utløse verktøy som samhandler med kundenes baksystemer. Parloa oppdaterer kontinuerlig dette laget med den nyeste generasjonen modeller etter hvert som de viser tydelige forbedringer i reell bruk.

Etter samtalen oppsummerer separate arbeidsflyter drevet av OpenAI dialogen, klassifiserer kundens intensjon og evaluerer ytelsen mot definerte regler.

Etter hvert som agentene ble mer komplekse, ble det vanskeligere å vedlikeholde én enkelt, monolittisk prompt. Små endringer kunne få utilsiktede følger. For å løse dette innførte Parloa en modulær tilnærming. Oppgaver som autentisering, endring av bestillinger eller oppdatering av kontoer kan deles opp i egne underagenter. Det gjør det lettere å følge instruksjoner og videreutvikle systemene over tid.

Samtidig bruker plattformen deterministiske kontroller der pålitelighet er viktigst. Virksomheter kan definere strukturerte API-kjeder og hendelsesbasert logikk for å sikre at kritiske trinn skjer i riktig rekkefølge. Slik balanseres fleksibel dialog mot forutsigbar utførelse.

Parloa bruker modeller som GPT‑4.1, GPT‑5‑mini og andre til å simulere realistisk kundedialog før en agent settes i drift. Deretter evalueres dialogen med en kombinasjon av LLM som dommer og deterministiske regler. Dermed kan teamene teste grensetilfeller, forbedre raskt og validere ytelsen før kundene risikerer å oppleve feil.

Parloa jobber hovedsakelig med store virksomheter, der stabilitet er like viktig som funksjonalitet.

«Når en ny modell lanseres, kjører vi hele testpakken vår mot den», sier Matthäus Deutsch, Senior Applied Scientist. «Det er svært viktig for oss at ting ikke bare fungerer i teoretiske tester, men også i reelle brukstilfeller.»

I stedet for å støtte seg på abstrakte tester gjenskaper Parloa reelle agenter fra produksjonsmiljøet og kjører dem gjennom prosesser for simulering og evaluering. Testene måler hvor pålitelig instruksjoner følges, hvor konsekvent API-kall utføres, svartid og samlet ytelse under realistiske forhold.

Evalueringene avgjør hvilke modeller som er klare for produksjon. Bare modeller som leverer pålitelig i reelle kundescenarioer, tas i bruk.

«Migrering medfører en reell kostnad for bedriftskundene», sier Deutsch. «Når et system først fungerer i produksjon, holder de det stabilt og bytter bare når fordelene er tydelige.»

Dermed oppfører systemene seg forutsigbart i produksjon, også i stor skala. De fleste av millioner av kundedialoger blir løst uten problemer. Selv når samtaler settes over til menneskelige kundebehandlere, skyldes eskaleringen sjelden feil. I én implementering reduserte et globalt reiseselskap forespørslene om å få snakke med en menneskelig kundebehandler med 80 prosent.

Denne evaluering-først-tilnærmingen har blitt et viktig konkurransefortrinn og gjør at Parloa kan bevege seg raskt uten å ofre påliteligheten i produksjon.

Tale stiller andre krav enn tekstbasert chat. All dialog går gjennom en behandlingskjede med kort svartid: tale-til-tekst, modellens resonnering og tekst-til-tale.

Denne behandlingskjeden gjør svartiden avgjørende. Selv små forsinkelser i modellaget bygger seg opp til merkbare pauser for innringeren og påvirker hvordan modeller velges og optimaliseres.

Parloa samarbeider tett med OpenAI for å optimalisere ytelsen ved bruk i sanntid, med vekt på svartid, svarkvalitet og etterlevelse av instruksjoner. Teamet evaluerer og stresstester kontinuerlig nye modellversjoner i produksjonslignende miljøer før de tas i bruk i reell kundedialog.

Parloa evaluerer hver del av taleløsningen separat:

• Tale-til-tekst-systemer testes for ordfeilrate, særlig for sensitiv informasjon som forsikringsnumre eller kontoidentifikatorer.
• Tekst-til-tale-modeller evalueres gjennom blinde lyttetester for å vurdere hvor naturlig stemmen høres ut for reelle brukere. Resultatene kontrolleres deretter mot reell kundedialog for å sikre stabil ytelse i produksjonsmiljøer.
• Tale-til-tale-modeller evalueres nå for å fastslå om de er klare for produksjon, med vekt på svartid, nøyaktighet og kostnader.

Disse systemene har helt fra starten vært utviklet for global bruk. Testene dekker flere språk, og kundene driver virksomhet i regioner over hele verden. Denne grundige flerspråklige testingen gjenspeiler både Parloas europeiske røtter og forventningene til bedriftskundene, som krever stabil ytelse på tvers av markeder – ikke bare innen ett språk eller én region.

I dag håndterer Parloas agenter millioner av samtaler i bransjer som detaljhandel, reiseliv og forsikring. Bruksområdene spenner fra automatisert kundestøtte til inntektsbringende flyter som telefonsalg.

Parloa mener kundeservice er i ferd med å bli en fullstendig multimodal opplevelse.

En samtale kan begynne på telefon, fortsette i chat og underveis inneholde lenker eller interaktive elementer. I stedet for å behandle hvert trinn som en egen flyt er AMP utformet for å håndtere alt som én sammenhengende dialog. På sikt kan KI-agenter bli like sentrale i kundereisen som nettsteder og mobilapper.

Etter hvert som virksomheter automatiserer en stadig større del av kundedialogen, arbeider Parloa for å gjøre KI-agenter pålitelige, fleksible og tillitvekkende nok til å fungere i global skala.