Parloa בונה סוכני שירות שלקוחות רוצים לדבר איתם

בראשית דרכה של Parloa, המייסד השותף שטפן אוסטוולד בילה יום במוקד טלפוני של חברת ביטוח, שבו הצוות שלו פיתח את חוויות השימוש הקוליות הראשונות שלו. הוא ישב לצד הנציגים והקשיב לאותן שיחות שחזרו שוב ושוב: איפוס סיסמאות, שאלות על פוליסות ושינויים שגרתיים. הוא הבין שאפשר להפוך חלק ניכר מהעבודה הזאת לאוטומטי.

בעקבות החוויה הזו, Parloa⁠(נפתח בחלון חדש), שמרכזה בברלין, החלה לבנות סוכנים קוליים מבוססי כללים לאוטומציה של אינטראקציות עם לקוחות בהיקף גדול.

עם הופעת ChatGPT, החברה התקדמה לפיתוח מה שהפך לפלטפורמה שלה לניהול סוכני בינה מלאכותית (AMP), המבוססת על דור חדש של מודלים, ובהם GPT‑5.4.

AMP מאפשרת לארגונים לתכנן, להפעיל ולנהל אינטראקציות בשירות הלקוחות בהיקף נרחב. במקום למפות כוונות ותהליכים נוקשים, הצוותים מגדירים התנהגות בשפה טבעית, מתחברים למערכות פנימיות ומשפרים במהירות בעזרת סימולציות והערכות מובנות.

Parloa מנהלת את האינטראקציות האלה מקצה לקצה, מניתוב פשוט ועד בקשות מורכבות ורב-שלביות. הדגש הוא על עקביות בסביבת הייצור, שבה יש חשיבות לביצועים, לזמני ההשהיה ולמקרי הקצה. לשם כך, Parloa בוחנת באופן שוטף מודלים מול תרחישים אמיתיים של לקוחות לפני שהיא מטמיעה אותם.

הפלטפורמה לניהול סוכנים (AMP) של Parloa נועדה לאפשר למשתמשים עסקיים ולמומחי תוכן לבנות סוכני בינה מלאכותית בלי לכתוב קוד.

"עם AMP, מומחי תוכן מיחידות עסקיות שונות יכולים לבנות בעצמם את הסוכנים ולחבר את ממשקי ה-API בצורה הרבה יותר יעילה ופשוטה", אומר או׳ריילי.

במבט רחב, AMP מאפשרת למותגים לנהל את כל מחזור החיים של סוכן הבינה המלאכותית. לשם כך, היא נותנת לצוותים ללא רקע טכני דרך פשוטה יותר להגדיר איך הסוכן צריך להתנהג, עוד לפני שהוא עולה לאוויר. במקום לכתוב קוד או למפות עצי כוונות נוקשים, מומחי התוכן מגדירים בשפה טבעית את תפקיד הסוכן, את ההנחיות והכלים שלו ואת גבולות פעולתו. ההגדרות האלה משמשות בסיס להנחיית המודל ולהתנהגות המערכת בסביבת הייצור.

לאחר הגדרתו, הסוכן נבדק לפני ההטמעה. Parloa מדמה שיחות עם לקוחות באמצעות מודלים כמו GPT‑5.4, כשמודל אחד ממלא את תפקיד המתקשר ואחר מפעיל את הסוכן שהוגדר. הצוותים יכולים לבחון ישירות את האינטראקציות האלה, לבדוק שינויים בתרחישים מציאותיים ולשפר את הסוכן לפני העלייה לאוויר.

לאחר מכן, אותם מודלים משמשים להערכת השיחות בשילוב בדיקות דטרמיניסטיות וניקוד על ידי LLM המשמש כשופט. כך אפשר לראות אם הסוכן פעל לפי ההנחיות, השתמש בכלים כראוי והשלים את המשימה כמצופה.

במהלך שיחה חיה, שכבת התזמור של AMP מנחה מודל של OpenAI באמצעות הגדרות הסוכן והקשר השיחה כדי לייצר תשובה, לאחזר מידע באמצעות RAG או להפעיל כלים לתקשורת עם מערכות הצד האחורי של הלקוחות. Parloa מעדכנת את השכבה הזו באופן שוטף במודלים מהדור האחרון, כשהם מוכיחים שיפור ברור בביצועים בתנאי אמת.

לאחר השיחה, תהליכי עבודה נפרדים המבוססים על OpenAI מסכמים את האינטראקציה, מסווגים את כוונת הלקוח ומעריכים את הביצועים לפי כללים מוגדרים.

ככל שהסוכנים נעשו מורכבים יותר, כך נעשה קשה יותר לתחזק פרומפט יחיד ומונוליתי. שינויים קטנים עלולים היו לגרום לתופעות לוואי לא מכוונות. כדי להתמודד עם זה, Parloa אימצה גישה מודולרית. אפשר להקצות משימות כמו אימות זהות, שינוי הזמנות או עדכון חשבונות לתת-סוכנים נפרדים, וכך לשפר את הציות להנחיות ולהקל על פיתוח המערכות לאורך זמן.

במקביל, הפלטפורמה משלבת מנגנוני בקרה דטרמיניסטיים במקומות שבהם האמינות חשובה במיוחד. ארגונים יכולים להגדיר רצפים מובנים של קריאות API ולוגיקה מבוססת אירועים כדי להבטיח ששלבים קריטיים יתבצעו בסדר הנכון, תוך איזון בין גמישות בשיחה לביצוע צפוי.

Parloa משתמשת במודלים כמו GPT‑4.1, ‏GPT‑5‑mini ואחרים כדי לדמות אינטראקציות מציאותיות עם לקוחות עוד לפני שסוכן עולה לאוויר, ואז מעריכה אותן באמצעות שילוב של LLM המשמש כשופט וכללים דטרמיניסטיים. כך הצוותים יכולים לבדוק מקרי קצה, לשפר במהירות ולאמת את הביצועים לפני שהלקוחות נחשפים לתקלות.

Parloa עובדת בעיקר עם ארגונים גדולים, שבהם העקביות חשובה לא פחות מהיכולות.

"כשיוצא מודל חדש, אנחנו מריצים עליו את מערך מבחני הביצועים שלנו", אומר מתאוס דויטש, מדען יישומי בכיר. "חשוב לנו מאוד שהדברים יעבדו לא רק במבחני ביצועים תיאורטיים, אלא גם במקרי שימוש אמיתיים."

במקום להסתמך על מבחני ביצועים מופשטים, Parloa משחזרת סוכנים אמיתיים מסביבת הייצור ומעבירה אותם בתהליכי סימולציה והערכה. המבחנים האלה מודדים את אמינות הציות להנחיות, את עקביות הקריאות ל-API, את זמני ההשהיה ואת הביצועים הכוללים בתנאים מציאותיים.

ההערכות האלה קובעות אילו מודלים מוכנים לסביבת הייצור. רק מודלים שפועלים באופן אמין במגוון תרחישים אמיתיים של לקוחות מוטמעים בפועל.

"ללקוחות ארגוניים, המעבר כרוך בעלות של ממש", אומר דויטש. "ברגע שמערכת עובדת בסביבת הייצור, הם שומרים על יציבותה ועוברים למודל אחר רק כשהיתרונות ברורים."

כתוצאה מכך, המערכות מתנהגות באופן צפוי בסביבת הייצור, גם בהיקפי פעילות גדולים. מתוך מיליוני אינטראקציות עם לקוחות, רוב השיחות מסתיימות בפתרון ללא קשיים. גם כששיחות מועברות לנציגים אנושיים, רק לעיתים רחוקות הסיבה לכך היא כשל. באחת ההטמעות, חברת תיירות עולמית צמצמה ב-80% את הבקשות לשיחה עם נציג אנושי.

הגישה שמעמידה את ההערכה בראש סדר העדיפויות הפכה ליתרון מבדל מרכזי, שמאפשר ל-Parloa להתקדם במהירות בלי לפגוע באמינות בסביבת הייצור.

שיחות קוליות מציבות אילוצים שונים מאלה של צ׳אט מבוסס טקסט. כל אינטראקציה עוברת בשרשרת עיבוד עם זמני השהיה קצרים: המרת דיבור לטקסט, reasoning של המודל והמרת טקסט לדיבור.

בשרשרת הזו, לזמני ההשהיה יש חשיבות מכרעת. אפילו עיכובים קטנים בשכבת המודל מצטברים להפסקות שהמתקשר מרגיש בהן, ולכן הם משפיעים על בחירת המודלים ועל האופטימיזציה שלהם.

Parloa עובדת בשיתוף פעולה הדוק עם OpenAI לשיפור הביצועים בשימושים בזמן אמת, תוך התמקדות בזמני ההשהיה, באיכות התשובות ובציות להנחיות. הצוות מעריך באופן שוטף גרסאות חדשות של מודלים ומבצע בהן בדיקות עומס בסביבות המדמות את סביבת הייצור, לפני שילובן באינטראקציות חיות עם לקוחות.

Parloa מעריכה כל רכיב במערך הטכנולוגיות הקוליות בנפרד:

• מערכות המרת דיבור לטקסט נבדקות לפי שיעור השגיאות בזיהוי מילים, במיוחד בקלט רגיש כמו מספרי פוליסות או מזהי חשבונות.

• מודלים של המרת טקסט לדיבור מוערכים במבחני האזנה עיוורים כדי לבדוק עד כמה הקול נשמע טבעי למשתמשים אמיתיים. לאחר מכן, התוצאות נבדקות מול אינטראקציות אמיתיות עם לקוחות כדי להבטיח ביצועים עקביים בסביבות הייצור.

• מודלים של speech-to-speech נבחנים כעת מבחינת מוכנותם לסביבת הייצור, תוך התמקדות בזמני השהיה, בדיוק ובעלות.

המערכות האלה נבנו מראש להטמעה ברחבי העולם. מבחני הביצועים כוללים שפות רבות, בהתאם לפעילות הלקוחות באזורים שונים בעולם. ההקפדה על בדיקות במגוון שפות משקפת הן את השורשים האירופיים של Parloa והן את ציפיות הלקוחות הארגוניים, שדורשים ביצועים עקביים בכל השווקים, ולא רק בשפה אחת או באזור אחד.

כיום, הסוכנים של Parloa מטפלים במיליוני שיחות בענפים כמו קמעונאות, תיירות וביטוח, ותומכים בשימושים שנעים מאוטומציה של תמיכה ועד תהליכים מניבי הכנסות, כגון מכירות טלפוניות.

Parloa צופה ששירות הלקוחות יתפתח לחוויה רב-מודאלית מלאה.

שיחה עשויה להתחיל בטלפון, להמשיך בצ׳אט ולכלול לאורך הדרך קישורים או רכיבים אינטראקטיביים. במקום להתייחס לכל שלב כאל תהליך נפרד, AMP נועדה לנהל את כולם כאינטראקציה אחת. עם הזמן, סוכני בינה מלאכותית עשויים להפוך למרכיב מרכזי במסע הלקוח, בדומה לאתרים ולאפליקציות לנייד.

ככל שארגונים מתקדמים לאוטומציה של חלק גדל והולך מהאינטראקציות עם לקוחות, Parloa מתמקדת בהפיכת סוכני הבינה המלאכותית לאמינים וגמישים מספיק, ולכאלה שאפשר לסמוך עליהם מספיק כדי שיפעלו בקנה מידה עולמי.