הלקחים של Netomi מהרחבת מערכות אג'נטיות בארגונים
Netomi, שנבנתה באמצעות GPT‑4.1 ו-GPT‑5.2 של OpenAI, מציעה מתווה להרחבת השימוש במערכות אג'נטיות בטוחות וצפויות ברחבי הארגון.
ארגונים מצפים מסוכני בינה מלאכותית לטפל באופן אמין בתהליכי עבודה סבוכים, לציית למדיניות כברירת מחדל, לפעול תחת עומס כבד ולהציג כיצד הגיעו לתוצאות.
Netomi(נפתח בחלון חדש) בונה מערכות שעומדות ברף הגבוה הזה, ומשרתת לקוחות מרשימת Fortune 500, ובהם United Airlines ו-DraftKings. הפלטפורמה שלה משלבת את GPT‑4.1 לשימוש אמין בכלים עם זמן השהיה קצר, ואת GPT‑5.2 לתכנון מעמיק ורב-שלבי. שניהם פועלים בתוך שכבת ביצוע עם מנגנוני ממשל ובקרה, שנועדה להבטיח שפעולות שמניעים המודלים יהיו צפויות גם בתנאי ייצור אמיתיים.
הפעלת מערכות אג'נטיות בקנה מידה כזה העניקה ל-Netomi מתווה להטמעה מוצלחת שלהן בארגונים.
״המטרה שלנו הייתה לתזמר את המערכות הרבות שנציג אנושי נדרש בדרך כלל לתפעל במקביל, ולעשות זאת בבטחה ובמהירות של מכונה.״
בקשה בודדת בארגון ניתנת למענה באמצעות API יחיד רק לעיתים רחוקות. תהליכי עבודה אמיתיים משלבים מנועי הזמנות, מסדי נתונים של מועדוני לקוחות, מערכות CRM, לוגיקת מדיניות, תשלומים ומקורות ידע. הנתונים לעיתים קרובות חלקיים, סותרים או רגישים לזמן. מערכות שתלויות בתהליכים שאינם עמידים לשינויים קורסות מול השונות הזאת.
Netomi תכננה את Agentic OS שלה כך שהמודלים של OpenAI נמצאים במרכז תהליך תזמור מבוקר, שנבנה להתמודד עם רמת עמימות כזאת. הפלטפורמה משתמשת ב-GPT‑4.1 ל-reasoning ולקריאות לכלים במהירות ובאמינות — יכולות חיוניות לתהליכי עבודה בזמן אמת — וב-GPT‑5.2 כשנדרש תכנון רב-שלבי או reasoning מעמיק יותר.
כדי להבטיח התנהגות עקבית של הסוכנים לאורך משימות ארוכות ומורכבות, Netomi מיישמת את דפוסי ההנחיה האג'נטיים שעליהם ממליצה OpenAI:
תזכורות להתמדה שעוזרות ל-GPT‑5.2 לשמור על רצף ה-reasoning לאורך תהליכי עבודה ארוכים ורב-שלביים
ציפיות מפורשות לשימוש בכלים, שמצמצמות תשובות מומצאות באמצעות הכוונת GPT‑4.1 לקרוא לכלים לקבלת מידע מוסמך בעת ביצוע עסקאות
תכנון מובנה, שמנצל את יכולות ה-reasoning המעמיקות יותר של GPT‑5.2 לתכנון ולביצוע של משימות רב-שלביות
החלטות של הסוכן על שימוש במדיה עשירה, תוך הסתמכות על GPT‑5.2 לזיהוי ולאיתות מתי קריאה לכלי צריכה להחזיר תמונות, סרטונים, טפסים או רכיבים עשירים ורב-אופניים אחרים
יחד, הדפוסים האלה עוזרים למודל למפות באופן אמין בקשות לא מובנות לתהליכי עבודה רב-שלביים, ולשמר את מצב התהליך גם כשהאינטראקציות אינן רציפות.
מעטות התעשיות שממחישות את הצורך ב-reasoning רב-שלבי כמו תעשיית התעופה, שבה אינטראקציה אחת מערבת דרך קבע כמה מערכות ושכבות מדיניות. שאלה אחת עשויה לחייב בדיקת כללי תעריפים, חישוב מחדש של הטבות מועדון, ייזום שינויים בכרטיס ותיאום עם מערך תפעול הטיסות.
״בחברות תעופה, ההקשר משתנה מרגע לרגע. הבינה המלאכותית צריכה לנתח את המצב שבו הלקוח נמצא — ולא רק לבצע משימה מבודדת״, אמר מהטה. ״לכן הבנת המצב חשובה הרבה יותר מתהליכי עבודה בלבד, ולכן ארכיטקטורה שמשלבת רכיבים בהתאם להקשר היא חיונית.״
עם GPT‑4.1 ו-GPT‑5.2, Netomi יכולה להמשיך להרחיב את הדפוסים האלה לאוטומציות רב-שלביות עשירות יותר — ולהשתמש במודלים לא רק למענה על שאלות, אלא גם לתכנון משימות, לקביעת סדר הפעולות ולתיאום בין מערכות צד השרת שחברת תעופה גדולה תלויה בהן.
ברגעי לחץ — הזמנת טיסה חלופית בזמן סערה, פתרון בעיית חיוב או טיפול בזינוק פתאומי בביקוש — משתמשים ינטשו כל מערכת שמתעכבת. זמן התגובה קובע את מידת האמון.
רוב מערכות הבינה המלאכותית נכשלות כי הן מבצעות משימות בזו אחר זו: סיווג ← אחזור ← אימות ← קריאה לכלים ← יצירת פלט. Netomi, לעומת זאת, תכננה את המערכת לפעולה במקביל, תוך ניצול ההזרמה בהשהיה נמוכה והיציבות של הקריאות לכלים ב-GPT‑4.1.
GPT‑4.1 מספק זמן קצר עד לטוקן הראשון והתנהגות צפויה בקריאות לכלים, שמאפשרים להפעיל את הארכיטקטורה הזאת בקנה מידה גדול; ואילו GPT‑5.2 מספק תהליכי reasoning רב-שלביים ומעמיקים יותר בעת הצורך. מסגרת המקביליות של Netomi מבטיחה שהמערכת כולה, ולא רק המודל, תישאר מתחת לספי ההשהיה הקריטיים.
הדרישות האלה לפעולה במקביל אינן ייחודיות לחברות תעופה. כל מערכת שחשופה לזינוקים פתאומיים וקיצוניים בתעבורה זקוקה לאותה קפדנות בתכנון הארכיטקטורה. DraftKings, למשל, מעמידה את הגישה הזאת במבחן עומס באופן קבוע: במהלך אירועי ספורט גדולים, התעבורה מזנקת ליותר מ-40,000 בקשות לקוחות במקביל בשנייה.
באירועים כאלה, Netomi שמרה על זמני תגובה של פחות משלוש שניות ועל דיוק של 98% בסיווג כוונות, גם כשתהליכי העבודה כללו חשבונות, תשלומים, חיפוש מידע ובדיקות רגולטוריות.
״הבינה המלאכותית ממלאת תפקיד מרכזי וחיוני באופן שבו אנחנו תומכים בלקוחות ברגעים החשובים ביותר״, אמר פול ליברמן, מייסד שותף ונשיא התפעול ב-DraftKings. ״הפלטפורמה של Netomi עוזרת לנו להתמודד עם זינוקים עצומים בפעילות בגמישות ובדיוק.״
בקנה מידה גדול, גישת המקביליות של Netomi נשענת על הקריאות המהירות והצפויות לכלים של GPT‑4.1, ששומרות על תגובתיות של תהליכי עבודה רב-שלביים תחת עומס קיצוני.
בינה מלאכותית ארגונית חייבת להיות אמינה מעצם תכנונה, עם מנגנוני ממשל שמשולבים ישירות בסביבת הריצה — ולא מתווספים כשכבה חיצונית.
כשרמת הביטחון בזיהוי הכוונה יורדת מתחת לסף, או כשאי אפשר לסווג בקשה בוודאות גבוהה, מנגנוני הממשל של Netomi נכנסים לפעולה וקובעים כיצד לטפל בבקשה. כך הם מבטיחים שהמערכת תימנע מיצירה חופשית ותעבור למסלולי ביצוע מבוקרים.
ברמה הטכנית, שכבת הממשל מטפלת בנושאים הבאים:
אימות סכמה, שבודק כל קריאה לכלי מול הארגומנטים הצפויים וחוזי OpenAPI לפני הביצוע
אכיפת מדיניות, שמחילה מסנני נושאים, מגבלות מותג ובדיקות תאימות כחלק מתהליך ה-reasoning והשימוש בכלים
הגנה על מידע אישי מזהה לזיהוי ולהסוואה של נתונים רגישים כחלק מהעיבוד המקדים ומהטיפול בתשובות
מנגנון גיבוי דטרמיניסטי, שמנתב חזרה להתנהגויות הידועות כבטוחות כשהכוונה, הנתונים או הקריאות לכלים אינם חד-משמעיים
ניטור פנימי בזמן ריצה, שחושף עקבות טוקנים, שלבי reasoning ויומני שרשראות כלים לבדיקה ולאיתור באגים בזמן אמת
בתחומים הכפופים לרגולציה מחמירה, כמו ביטוחי שיניים, ממשל מסוג זה הוא תנאי הכרחי. לקוח של Netomi בתעשיית הביטוח מטפל מדי שנה בכמעט שני מיליון בקשות של ספקי שירות בכל 50 המדינות בארה״ב. הבקשות כוללות בדיקות זכאות, בירור הטבות ובדיקת סטטוס תביעות — תחומים שבהם תשובה שגויה אחת עלולה ליצור בהמשך סיכון רגולטורי או לפגוע בשירות.
בתקופת ההרשמה הפתוחה, כשהיקף הבדיקות והפעילות הגיע לשיא, החברה נזקקה לבינה מלאכותית שאוכפת מדיניות כחלק מסביבת הריצה עצמה. הארכיטקטורה של Netomi עמדה בדרישה המורכבת הזאת.
״בנינו את המערכת כך שאם הסוכן יגיע אי פעם למצב של אי-ודאות, הוא ידע בדיוק איך לסגת בבטחה״, אמר מהטה. ״הממשל אינו תוספת חיצונית — הוא חלק מסביבת הריצה.״
הדרך שעברה Netomi מראה מה נדרש כדי לזכות באמון של ארגונים: לבנות מערכות שמותאמות למורכבות, לפעול במקביל כדי לעמוד בדרישות לזמני תגובה, ולשלב ממשל בכל תהליך עבודה. המודלים של OpenAI מספקים את הבסיס ל-reasoning, ואילו הנדסת המערכות של Netomi מבטיחה שהיכולות האלה בטוחות לתפעול, ניתנות לביקורת ומוכנות לסביבות של חברות Fortune 500.
העקרונות האלה עזרו ל-Netomi להתרחב לכמה מהתעשיות התובעניות בעולם — והם מציעים מתווה לכל סטארטאפ שרוצה להפוך agentic AI לתשתית שמתאימה לסביבת ייצור.
הטמעת מערכות אג'נטיות בסביבות של חברות Fortune 500 מחייבת מהירות, דיוק וממשל מובנה. הארכיטקטורה של Netomi מספקת את שלושתם, ושומרת על ביצועים גם בזינוקים קיצוניים בתעבורה ובתהליכי עבודה מורכבים ורב-שלביים.
סיפקה תשובות בתוך פחות משלוש שניות באירועים עם תעבורה גבוהה
שמרה על דיוק של 98% בסיווג כוונות בקנה מידה גדול
טיפלה בזינוקי תעבורה של יותר מ-40,000 בקשות לקוחות במקביל בשנייה
שילבה ממשל ישירות בסביבת הריצה, עם מנגנון גיבוי דטרמיניסטי ואכיפת מדיניות
