Parloa crea agenti con cui i clienti vogliono parlare

Agli esordi di Parloa, il cofondatore Stefan Ostwald trascorse una giornata nel call center di una compagnia assicurativa, dove il suo team stava sviluppando le prime esperienze vocali. Seduto accanto agli operatori, ascoltò le stesse conversazioni ripetersi più volte: reimpostazioni delle password, domande sulle polizze e modifiche di routine. Capì che gran parte di quel lavoro poteva essere automatizzata.

Dopo quell’esperienza, Parloa⁠(si apre in una nuova finestra), con sede a Berlino, iniziò a sviluppare agenti vocali basati su regole per automatizzare grandi volumi di interazioni con i clienti.

Con l’avvento di ChatGPT, l’azienda si è evoluta fino a creare quella che oggi è la sua piattaforma di gestione degli agenti IA (AMP), basata su una nuova generazione di modelli, tra cui GPT‑5.4.

AMP consente alle aziende di progettare, distribuire e gestire su larga scala le interazioni del servizio clienti. Anziché definire intenti e flussi rigidi, i team descrivono il comportamento in linguaggio naturale, collegano i sistemi interni e apportano rapidamente miglioramenti usando simulazioni e valutazioni integrate.

Parloa gestisce queste interazioni dall’inizio alla fine, dal semplice instradamento alle richieste complesse articolate in più passaggi. L’attenzione è rivolta alla coerenza in produzione, dove prestazioni, latenza e casi limite sono tutti determinanti. A questo scopo, prima della distribuzione Parloa testa continuamente i modelli su scenari reali dei clienti.

La piattaforma di gestione degli agenti (AMP) di Parloa è pensata per consentire agli utenti aziendali e agli esperti di settore di creare agenti IA senza scrivere codice.

“Con AMP, gli esperti di settore delle diverse unità aziendali possono creare direttamente gli agenti e collegare le API in modo molto più snello e semplice“, afferma O’Reilly.

In termini generali, AMP consente ai brand di gestire l’intero ciclo di vita degli agenti IA. A tale scopo, offre ai team non tecnici un modo più semplice per definire il comportamento di un agente prima della sua messa in funzione. Anziché scrivere codice o delineare rigidi alberi di intenti, gli esperti di settore definiscono in linguaggio naturale il ruolo, le istruzioni, gli strumenti e i limiti dell’agente. Questa configurazione determina il prompt fornito al modello e il comportamento del sistema in produzione.

Una volta definito, l’agente viene testato prima della distribuzione. Parloa simula le conversazioni con i clienti usando modelli come GPT‑5.4: un modello interpreta il chiamante e un altro esegue l’agente configurato. I team possono esaminare direttamente queste interazioni, testare le modifiche su scenari realistici e perfezionarle prima della messa in funzione.

Gli stessi modelli vengono poi usati per valutare le conversazioni tramite una combinazione di controlli deterministici e punteggi assegnati da un LLM in veste di giudice. In questo modo è possibile verificare se l’agente ha seguito le istruzioni, usato correttamente gli strumenti e completato l’attività come previsto.

Durante una conversazione dal vivo, il livello di orchestrazione di AMP fornisce a un modello OpenAI la configurazione dell’agente e il contesto della conversazione, così da generare una risposta, recuperare informazioni tramite RAG o attivare strumenti che interagiscono con i sistemi backend dei clienti. Parloa aggiorna continuamente questo livello con i modelli di ultima generazione quando dimostrano chiari miglioramenti nelle prestazioni reali.

Dopo la conversazione, flussi di lavoro separati basati su OpenAI riassumono l’interazione, classificano l’intento del cliente e valutano le prestazioni rispetto alle regole definite.

Con l’aumentare della complessità degli agenti, mantenere un unico prompt monolitico è diventato più difficile. Anche piccole modifiche potevano introdurre effetti collaterali indesiderati. Per risolvere il problema, Parloa ha introdotto un approccio modulare. Attività come l’autenticazione, le modifiche alle prenotazioni o gli aggiornamenti degli account possono essere affidate a sottoagenti distinti, migliorando il rispetto delle istruzioni e semplificando l’evoluzione dei sistemi nel tempo.

Al tempo stesso, la piattaforma integra controlli deterministici nei punti in cui l’affidabilità è più importante. Le aziende possono definire sequenze strutturate di API e logiche basate sugli eventi per garantire che i passaggi critici avvengano nell’ordine corretto, bilanciando la flessibilità della conversazione con un’esecuzione prevedibile.

Parloa usa modelli come GPT‑4.1, GPT‑5‑mini e altri per simulare interazioni realistiche con i clienti prima che un agente venga messo in funzione, quindi le valuta combinando un LLM in veste di giudice e regole deterministiche. Ciò consente ai team di testare i casi limite, apportare rapidamente miglioramenti e convalidare le prestazioni prima che eventuali errori coinvolgano i clienti.

Parloa lavora principalmente con grandi aziende, per le quali la coerenza è importante quanto le funzionalità.

“Quando esce un nuovo modello, lo sottoponiamo alla nostra suite di benchmark“, afferma Matthäus Deutsch, Senior Applied Scientist. “Per noi è fondamentale che tutto funzioni non solo nei benchmark teorici, ma anche nei casi d’uso reali.“

Anziché affidarsi a benchmark astratti, Parloa replica agenti realmente in produzione e li sottopone a pipeline di simulazione e valutazione. Questi test misurano l’affidabilità nel seguire le istruzioni, la coerenza delle chiamate API, la latenza e le prestazioni complessive in condizioni realistiche.

Queste valutazioni determinano quali modelli sono pronti per la produzione. Vengono distribuiti solo i modelli che offrono prestazioni affidabili nei diversi scenari reali dei clienti.

“Per i clienti aziendali la migrazione ha un costo concreto“, afferma Deutsch. “Una volta che un sistema funziona in produzione, lo mantengono stabile e lo cambiano solo quando i vantaggi sono evidenti."

Di conseguenza, i sistemi si comportano in modo prevedibile in produzione, anche su larga scala. Su milioni di interazioni con i clienti, la maggior parte delle conversazioni si conclude senza intoppi. Anche quando le chiamate vengono trasferite a operatori umani, il passaggio è raramente dovuto a un errore. In una delle implementazioni, un’azienda di viaggi globale ha ridotto dell’80% le richieste di intervento di un operatore umano.

Questa attenzione prioritaria alla valutazione è diventata un elemento distintivo fondamentale, che consente a Parloa di muoversi rapidamente senza sacrificare l’affidabilità in produzione.

La voce comporta vincoli diversi rispetto alle chat testuali. Ogni interazione attraversa una pipeline a bassa latenza: conversione da voce a testo, ragionamento del modello e conversione da testo a voce.

In questa pipeline, la latenza è un fattore critico. Anche piccoli ritardi a livello del modello si sommano fino a creare pause percepibili dal chiamante, influenzando la selezione e l’ottimizzazione dei modelli.

Parloa collabora a stretto contatto con OpenAI per ottimizzare le prestazioni nei casi d’uso in tempo reale, concentrandosi su latenza, qualità delle risposte e rispetto delle istruzioni. Il team valuta continuamente e sottopone a stress test le nuove versioni dei modelli in ambienti simili a quelli di produzione prima di usarle nelle interazioni reali con i clienti.

Parloa valuta separatamente ogni componente dello stack vocale:

• I sistemi di conversione da voce a testo vengono testati in base al tasso di errore sulle parole, soprattutto per dati sensibili come i numeri di polizza o gli identificativi degli account.
• I modelli di conversione da testo a voce vengono valutati con test di ascolto alla cieca per stabilire quanto la voce risulti naturale agli utenti reali. I risultati vengono poi confrontati con interazioni reali dei clienti per garantire prestazioni costanti negli ambienti di produzione.
• I modelli da voce a voce sono attualmente in fase di valutazione per verificarne l’idoneità alla produzione, con particolare attenzione a latenza, accuratezza e costi.

Fin dall’inizio, questi sistemi sono stati progettati per la distribuzione globale. I benchmark coprono più lingue e i clienti operano in diverse aree geografiche del mondo. Questo rigore nell’approccio multilingue riflette sia le radici europee di Parloa sia le aspettative dei clienti aziendali, che richiedono prestazioni costanti nei diversi mercati, non soltanto in una lingua o in un’area geografica.

Oggi gli agenti di Parloa gestiscono milioni di conversazioni in settori come il commercio al dettaglio, i viaggi e le assicurazioni, supportando casi d’uso che spaziano dall’automazione dell’assistenza a flussi che generano ricavi, come le televendite.

Parloa immagina un servizio clienti destinato a diventare un’esperienza pienamente multimodale.

Una conversazione può iniziare al telefono, proseguire in chat e includere collegamenti o elementi interattivi lungo il percorso. Anziché trattare ogni passaggio come un flusso separato, AMP è progettata per gestire l’intero percorso come un’unica interazione. Nel tempo, gli agenti IA potrebbero diventare centrali nel percorso del cliente quanto i siti web e le app per dispositivi mobili.

Mentre le aziende automatizzano una quota crescente delle interazioni con i clienti, Parloa punta a rendere gli agenti IA sufficientemente affidabili, flessibili e degni di fiducia da operare su scala globale.