Amazon Bedrock एजंट्ससाठी स्टेटफुल रनटाइम वातावरण सादर करत आहोत
AI एजंट्स रीझनिंगमध्ये उत्कृष्ट आहेत. अधिक कठीण भाग ऑपरेशनल आहे: योग्य नियंत्रणांसह, वास्तविक साधने आणि वास्तविक प्रणालींमध्ये, कालांतराने बहु-चरण काम विश्वासार्हपणे चालवणे.
आज, Amazon सोबतच्या भागीदारी आणि संयुक्त सहकार्याद्वारे आम्ही ग्राहकांसाठी हे अधिक सोपे करत आहोत, जेणेकरून नवीन Amazon Bedrock मध्ये नेटिव्हरीत्या चालणारे, OpenAI द्वारे समर्थित स्टेटफुल रनटाइम पर्यावरण वितरित करता येईल. AWS ग्राहकांना रनटाइम पर्यावरण द्वारे वितरित OpenAI बुद्धिमत्तेचा प्रवेश मिळेल, जो AWS पायाभूत सुविधांसाठी अनुकूलित आणि एजंटिक कार्यप्रवाहांसाठी अनुरूप आहे, तसेच उत्पादन कामासाठी आवश्यक स्थिती, विश्वासार्हता आणि गव्हर्नन्स प्रदान करतो.
स्टेटलेस APIs वर आधारित अनेक एजंट प्रोटोटाइप्स साध्या वापर प्रकरणांना हाताळतात: एक प्रॉम्प्ट, एक उत्तर, कदाचित एक साधन कॉल. उत्पादनाचे काम वेगळे असते. वास्तविक कार्यप्रवाह अनेक टप्प्यांमध्ये उलगडतात, मागील कृतींचा संदर्भ आवश्यक असतो, अनेक साधनांचे आउटपुट, मंजुरी आणि प्रणालीची स्थिती यावर अवलंबून असतो, आणि सुरक्षित वातावरणात विश्वासार्ह संरक्षक उपायांची आवश्यकता असते.
स्टेटलेस APIs साठी एजंट्ससाठी सहाय्यक ऑर्केस्ट्रेशन लेयर तयार करणे आवश्यक आहे. स्टेट कसे साठवले जाते, टूल्स कसे चालवले जातात, त्रुटी कशा हाताळल्या जातात, आणि दीर्घकाळ चालणारी कामे सुरक्षितपणे कशी पुन्हा सुरू होतात हे शोधून काढण्याची जबाबदारी विकास संघांवर असते.
स्टेटफुल रनटाइम पर्यावरण हा भार कमी करण्यासाठी संयुक्तपणे डिझाइन केलेला आहे. हे तुमच्या AWS वातावरणात चालते आणि AWS सेवांसोबत कार्य करण्यासाठी ऑप्टिमाइझ केलेले आहे. आता, गोष्टी कार्यान्वित करण्यासाठी तुटक विनंत्या हाताने जोडण्याऐवजी, तुमचे एजंट्स “working context” सह जटिल टप्पे आपोआप कार्यान्वित करतात, जो मेमरी/इतिहास, टूल आणि वर्कफ्लो स्थिती, वातावरणाचा वापर, आणि ओळख/परवानगी मर्यादा पुढे नेतो.
मल्टी-सिस्टीम ग्राहक समर्थन, विक्री ऑपरेशन्स वर्कफ्लो, अंतर्गत IT ऑटोमेशन, आणि मंजुरी व ऑडिट्ससह वित्त प्रक्रिया यांसारखे उपाय वितरित करणे आता पूर्वीपेक्षा अधिक सोपे झाले आहे.
जेव्हा रनटाइम पायऱ्यांमध्ये सातत्यपूर्ण ऑर्केस्ट्रेशन आणि स्थिती कायम ठेवणे हाताळते, तेव्हा टीम्स स्कॅफोल्डिंगऐवजी वर्कफ्लो आणि बिझनेस लॉजिकवर लक्ष केंद्रित करू शकतात.
स्टेटफुल कार्ये कालांतराने विश्वासार्हपणे चालण्यासाठी डिझाइन केलेली असतात, बहु-चरणीय अंमलबजावणीसाठी आवश्यक संदर्भ आणि नियंत्रण सीमा पुढे नेतात.
रनटाइम ग्राहकांच्या AWS वातावरणात कार्य करण्यासाठी डिझाइन केलेले आहे, जेणेकरून विद्यमान सिक्युरिटी पोस्चर, टूलिंग इंटिग्रेशन्स आणि गव्हर्नन्स नियमांचे सहज पालन करता येईल.
सुरुवात करणे
Amazon Bedrock मधील Stateful Runtime लवकरच उपलब्ध होईल. जर तुम्हाला याचा तुमच्या AI प्रवासाला कसा फायदा होईल हे शोधायचे असेल, तर तुमच्या OpenAI टीमशी संपर्क साधा किंवा तुमच्याशी संपर्क साधण्याची विनंती करा.
