מציגים את Stateful Runtime Environment לסוכנים ב-Amazon Bedrock
סוכני בינה מלאכותית מצטיינים ב-reasoning. האתגר הגדול יותר הוא תפעולי: לבצע עבודה רב-שלבית באופן אמין לאורך זמן, בכלים ובמערכות אמיתיים, עם הבקרות המתאימות.
היום אנחנו מקלים על הלקוחות שלנו לעשות זאת באמצעות שותפות ושיתוף פעולה עם Amazon, שבמסגרתם נציע את Stateful Runtime Environment החדשה, שפועלת באופן מובנה ב-Amazon Bedrock. לקוחות AWS יקבלו גישה לסביבת זמן הריצה, המופעלת באמצעות מודלים של OpenAI, מותאמת לתשתיות AWS ולתהליכי עבודה אג'נטיים, ומספקת את שימור המצב, האמינות והממשל הנדרשים לעבודה בסביבת ייצור.
אבות-טיפוס רבים של סוכנים המבוססים על ממשקי API שאינם שומרים מצב מיועדים למקרי שימוש פשוטים: פרומפט אחד, תשובה אחת, ואולי קריאה אחת לכלי. בסביבת ייצור, העבודה שונה. תהליכי עבודה אמיתיים כוללים שלבים רבים, דורשים הקשר מפעולות קודמות, תלויים בפלטים של כלים שונים, באישורים ובמצב המערכת, וזקוקים למנגנוני הגנה אמינים בסביבות מאובטחות.
שימוש בממשקי API שאינם שומרים מצב מחייב בנייה של שכבת תזמור שתתמוך בסוכנים. צוותי הפיתוח הם שצריכים למצוא פתרונות לשמירת המצב, להפעלת כלים, לטיפול בשגיאות ולחידוש בטוח של משימות ממושכות.
Stateful Runtime Environment מתוכננת במשותף כדי להפחית את העומס הזה. היא פועלת בתוך סביבת ה-AWS שלכם ומותאמת לעבודה עם שירותי AWS. כעת, במקום לחבר ידנית בקשות נפרדות כדי שהכול יעבוד, הסוכנים שלכם מבצעים שלבים מורכבים באופן אוטומטי, עם ״הקשר עבודה״ שמשמר לאורך התהליך זיכרון והיסטוריה, את מצב הכלים ותהליכי העבודה, את השימוש בסביבה ואת מגבלות הזהות וההרשאות.
עכשיו קל מתמיד לספק פתרונות כמו תמיכת לקוחות בכמה מערכות, תהליכי תפעול מכירות, אוטומציה של מערכות IT פנימיות ותהליכים פיננסיים הכוללים אישורים וביקורות.
כשסביבת זמן הריצה מטפלת בתזמור המתמשך ובשימור המצב בין השלבים, הצוותים יכולים להתמקד בתהליך העבודה ובלוגיקה העסקית במקום בבניית התשתית התומכת.
משימות ששומרות מצב מתוכננות לפעול באמינות לאורך זמן, תוך שימור ההקשר ומגבלות הבקרה הנדרשים לביצוע רב-שלבי.
סביבת זמן הריצה מתוכננת לפעול בתוך סביבת ה-AWS של הלקוחות, כדי להתאים בקלות למערך האבטחה הקיים, לאינטגרציות עם כלים ולכללי הממשל.
איך מתחילים
Stateful Runtime ב-Amazon Bedrock תהיה זמינה בקרוב. כדי לבחון איך היא יכולה לעזור לכם להתקדם בשימוש בבינה מלאכותית, פנו לצוות OpenAI שמלווה אתכם או בקשו שניצור איתכם קשר.
