顧客が話したくなるサービスエージェントを構築する Parloa

Parloa の創業初期、共同創業者の Stefan Ostwald 氏は、チームが初期の音声体験を開発していた保険会社のコールセンターで一日を過ごしました。オペレーターの隣に座り、パスワードのリセット、保険契約に関する質問、定型的な契約変更といった同じ会話が何度も繰り返されるのを耳にしました。そこで、こうした業務の多くは自動化できると気づきました。

この経験を機に、ベルリンを拠点とする Parloa⁠（新しいウィンドウで開く） は、大量の顧客対応を自動化するルールベースの音声エージェントの開発に着手しました。

ChatGPT の登場を受け、同社は GPT‑5.4 をはじめとする新世代モデルを基盤に、現在の AI エージェント管理プラットフォーム（AMP）を構築する企業へと進化しました。

AMP により、企業はカスタマーサービス対応を大規模に設計、導入、管理できます。固定的なインテントやフローを設計する代わりに、チームは自然言語で動作を定義し、社内システムに接続して、組み込みのシミュレーションと評価を使いながら迅速に改善できます。

Parloa は、単純な振り分けから複雑な複数ステップの依頼まで、こうした対応をエンドツーエンドで処理します。重視しているのは、性能、レイテンシー、エッジケースのすべてが問われる本番環境での一貫性です。その実現に向け、Parloa は導入前に実際の顧客シナリオでモデルを継続的にテストしています。

Parloa のエージェント管理プラットフォーム（AMP）は、ビジネスユーザーや各分野の専門家がコードを書かずに AI エージェントを構築できるよう設計されています。

「AMP を使えば、各事業部門の専門家が実際にエージェントを構築し、より無駄なく簡単な方法で API に接続できます」と O’Reilly 氏は語ります。

AMP により、ブランド企業は AI エージェントのライフサイクル全体を管理できます。そのために、技術部門以外のチームでも、本番稼働前にエージェントの動作を簡単に定義できるようにしています。コードを書いたり固定的なインテントツリーを設計したりする代わりに、各分野の専門家がエージェントの役割、指示、ツール、動作範囲を自然言語で設定します。この設定が、モデルに与えるプロンプトと、本番環境でのシステム動作の基盤になります。

定義したエージェントは、導入前にテストされます。Parloa は GPT‑5.4 などのモデルを使って顧客との会話をシミュレーションします。一方のモデルが発信者役を務め、もう一方が設定済みのエージェントを実行します。チームはこうしたやり取りを直接確認し、現実的なシナリオで変更をテストして、本番稼働前に改善を重ねられます。

続いて同じモデルを使用し、決定論的なチェックと LLM-as-a-judge のスコアリングを組み合わせて会話を評価します。これにより、エージェントが指示に従ったか、ツールを正しく使用したか、想定どおりにタスクを完了したかを確認できます。

実際の会話中には、AMP のオーケストレーション層がエージェント設定と会話コンテキストを OpenAI モデルにプロンプトとして与え、応答の生成、RAG による情報取得、顧客のバックエンドと連携するツールの起動を行います。Parloa は、実環境で明確な性能向上が確認された最新世代のモデルを採用し、この層を継続的に更新しています。

会話後は、OpenAI を活用した別のワークフローが、やり取りの要約、顧客インテントの分類、定義済みルールに基づく性能評価を行います。

エージェントが複雑になるにつれ、単一の巨大なプロンプトを維持することが難しくなりました。わずかな変更でも、意図しない副作用が生じる可能性がありました。この課題に対処するため、Parloa はモジュール方式を導入しました。本人確認、予約変更、アカウント更新などのタスクを個別のサブエージェントに分けることで、指示への追従性が向上し、長期的にシステムを発展させやすくなります。

同時に、信頼性が最も重要な領域には決定論的な制御も組み込んでいます。企業は構造化された API チェーンとイベントベースのロジックを定義し、重要なステップを正しい順序で確実に実行できます。これにより、柔軟な会話と予測可能な処理を両立できます。

Parloa は GPT‑4.1 や GPT‑5‑mini などのモデルを使い、エージェントの本番稼働前に現実的な顧客対応をシミュレーションします。その後、LLM-as-a-judge と決定論的ルールを組み合わせて評価します。これにより、顧客が不具合に直面する前に、チームはエッジケースをテストし、迅速に改善して、性能を検証できます。

Parloa は主に大企業を顧客としており、そこでは機能と同じくらい一貫性が重要です。

「新しいモデルが登場すると、ベンチマークスイートを実行して評価します」と、シニア応用科学者の Matthäus Deutsch 氏は語ります。「理論上のベンチマークだけでなく、実際のユースケースでも機能することが、私たちには非常に重要です」

Parloa は抽象的なベンチマークに頼らず、実際の本番エージェントを再現し、シミュレーションと評価のパイプラインで検証します。これらのテストでは、現実的な条件下で、指示追従の信頼性、API 呼び出しの一貫性、レイテンシー、総合的な性能を測定します。

この評価により、どのモデルが本番環境に対応できるかを判断します。実際の顧客シナリオで安定した性能を発揮するモデルだけが導入されます。

「企業顧客には現実的な移行コストが発生します」と Deutsch 氏は語ります。「システムが本番環境で動き始めたら、安定した状態を維持し、明確な利点がある場合にのみ切り替えます」

その結果、大規模な運用でも、システムは本番環境で予測どおりに動作します。数百万件に及ぶ顧客対応の大半は、滞りなく解決されています。通話が有人オペレーターに転送される場合でも、障害が原因でエスカレーションされることはほとんどありません。ある導入事例では、世界的な旅行会社が有人オペレーターへの転送依頼を 80% 削減しました。

評価を最優先するこの姿勢は Parloa の中核的な強みとなり、本番環境での信頼性を損なうことなく迅速な開発を可能にしています。

音声には、テキストチャットとは異なる制約があります。すべてのやり取りは、音声認識、モデルの推論、音声合成からなる低レイテンシーのパイプラインで処理されます。

このパイプラインでは、レイテンシーが極めて重要です。モデル層でのわずかな遅延も積み重なれば、発信者が気づくほどの間が生じるため、それを踏まえてモデルの選定と最適化が行われます。

Parloa は OpenAI と緊密に連携し、レイテンシー、応答品質、指示への追従性を重視して、リアルタイムのユースケースに向けた性能を最適化しています。チームは、新しいモデルを顧客との実際のやり取りに展開する前に、本番環境に近い条件で継続的に評価し、ストレステストを行っています。

Parloa は、音声処理基盤の各コンポーネントを個別に評価しています。

• 音声認識システムでは、特に保険証券番号やアカウント識別子など、間違いが許されない入力について単語誤り率をテストします。
• 音声合成モデルは、実際のユーザーにとって音声がどれほど自然に聞こえるかを、ブラインドリスニングテストで評価します。その結果を実際の顧客対応と照合し、本番環境でも一貫した性能を発揮できることを確認します。
• 音声変換モデルについては、レイテンシー、精度、コストを重視し、現在、本番環境への対応力を評価しています。

当初から、これらのシステムはグローバル展開を前提に構築されてきました。ベンチマークは複数の言語を対象とし、顧客は世界各地で事業を展開しています。こうした多言語での厳格な検証には、Parloa の欧州企業としてのルーツと、単一の言語や地域だけでなく、あらゆる市場で一貫した性能を求める企業顧客の期待が反映されています。

現在、Parloa のエージェントは小売、旅行、保険などの業界で数百万件の会話を処理し、サポートの自動化からテレビショッピングのような収益を生むフローまで、幅広いユースケースに対応しています。

Parloa は、カスタマーサービスが完全なマルチモーダル体験へ進化すると考えています。

会話は電話から始まり、チャットへ移り、途中でリンクやインタラクティブな要素が加わることもあります。AMP は各ステップを個別のフローとして扱うのではなく、一つのやり取りとして処理できるよう設計されています。将来的には、AI エージェントがウェブサイトやモバイルアプリと同じくらい、カスタマージャーニーの中心的な存在になる可能性があります。

企業が顧客対応の自動化をさらに進めるなか、Parloa は AI エージェントが世界規模で稼働できるよう、十分な信頼性、柔軟性、信用の確立に注力しています。