Amazon Bedrock ನಲ್ಲಿ ಏಜೆಂಟ್ಗಳಿಗಾಗಿ ಸ್ಟೇಟ್ಫುಲ್ ರನ್ಟೈಮ್ ಎನ್ವಿರಾನ್ಮೆಂಟ್ ಅನ್ನು ಪರಿಚಯಿಸಲಾಗುತ್ತಿದೆ.
AI ಏಜೆಂಟ್ಗಳು ರೀಜನಿಂಗ್ ಮಾಡುವುದರಲ್ಲಿ ಶ್ರೇಷ್ಠವಾಗಿವೆ. ಹೆಚ್ಚು ಕಠಿಣ ಭಾಗವು ಕಾರ್ಯಾಚರಣಾತ್ಮಕವಾಗಿದೆ: ಸರಿಯಾದ ನಿಯಂತ್ರಣಗಳೊಂದಿಗೆ, ನೈಜ ಪರಿಕರಗಳು ಮತ್ತು ನೈಜ ವ್ಯವಸ್ಥೆಗಳಾದ್ಯಂತ, ಕಾಲಕ್ರಮೇಣ ಬಹು-ಹಂತದ ಕೆಲಸವನ್ನು ವಿಶ್ವಾಸಾರ್ಹವಾಗಿ ನಡೆಸುವುದು.
ಇಂದು, Amazon ಜೊತೆಗೆ ಪಾಲುದಾರಿಕೆ ಮತ್ತು ಸಂಯುಕ್ತ ಸಹಕಾರದ ಮೂಲಕ ಗ್ರಾಹಕರಿಗೆ ಇದನ್ನು ಸುಲಭಗೊಳಿಸುತ್ತಿದ್ದೇವೆ, OpenAI ನಿಂದ ಚಾಲಿತವಾಗಿರುವ Amazon Bedrock ನಲ್ಲಿ ಸ್ಥಳೀಯವಾಗಿ ಕಾರ್ಯನಿರ್ವಹಿಸುವ Stateful Runtime Environment ಅನ್ನು ಒದಗಿಸಲು. AWS ಗ್ರಾಹಕರು Runtime Environment ಮೂಲಕ ಒದಗಿಸಲಾದ OpenAI ಬುದ್ಧಿಮತ್ತೆಗೆ ಪ್ರವೇಶವನ್ನು ಹೊಂದಿರುತ್ತಾರೆ, ಇದು AWS ಮೂಲಸೌಕರ್ಯಕ್ಕಾಗಿ ಆಪ್ಟಿಮೈಸ್ ಮಾಡಲ್ಪಟ್ಟಿದ್ದು, agentic ವರ್ಕ್ಫ್ಲೋಗಳಿಗೆ ಹೊಂದಿಕೊಳ್ಳುವಂತೆ ರೂಪುಗೊಂಡಿದೆ, ಮತ್ತು ಉತ್ಪಾದನಾ ಕೆಲಸಕ್ಕೆ ಅಗತ್ಯವಿರುವ ಸ್ಥಿತಿ, ವಿಶ್ವಾಸಾರ್ಹತೆ ಮತ್ತು ಆಡಳಿತವನ್ನು ಒದಗಿಸುತ್ತದೆ.
ಸ್ಟೇಟ್ಲೆಸ್ API ಗಳ ಆಧಾರದ ಮೇಲೆ ಇರುವ ಅನೇಕ ಏಜೆಂಟ್ ಪ್ರೋಟೋಟೈಪ್ಗಳು ಸರಳ ಬಳಕೆ ಪ್ರಕರಣಗಳನ್ನು ನಿಭಾಯಿಸುತ್ತವೆ: ಒಂದು ಪ್ರಾಂಪ್ಟ್, ಒಂದು ಉತ್ತರ, ಬಹುಶಃ ಒಂದು ಟೂಲ್ ಕಾಲ್. ಪ್ರೊಡಕ್ಷನ್ ಕೆಲಸ ವಿಭಿನ್ನವಾಗಿದೆ. ನೈಜ ಕಾರ್ಯಪ್ರವಾಹಗಳು ಅನೇಕ ಹಂತಗಳ ಅಡ್ಡಲಾಗಿ ತೆರೆದುಕೊಳ್ಳುತ್ತವೆ, ಹಿಂದಿನ ಕ್ರಮಗಳಿಂದ ಸಂದರ್ಭವನ್ನು ಅಗತ್ಯಪಡಿಸುತ್ತವೆ, ಅನೇಕ ಸಾಧನಗಳ ಔಟ್ಪುಟ್ಗಳು, ಅನುಮೋದನೆಗಳು, ಮತ್ತು ವ್ಯವಸ್ಥೆಯ ಸ್ಥಿತಿಯ ಮೇಲೆ ಅವಲಂಬಿತವಾಗಿರುತ್ತವೆ, ಮತ್ತು ಸುರಕ್ಷಿತ ಪರಿಸರಗಳಲ್ಲಿ ವಿಶ್ವಾಸಾರ್ಹ ಗಾರ್ಡ್ರೇಲ್ಗಳ ಅಗತ್ಯವಿರುತ್ತದೆ.
Stateless APIs ಗೆ ಏಜೆಂಟ್ಗಳಿಗಾಗಿ ಬೆಂಬಲಿಸುವ ಒರ್ಕೆಸ್ಟ್ರೇಷನ್ ಲೇಯರ್ ಅನ್ನು ನಿರ್ಮಿಸುವುದು ಅಗತ್ಯವಿದೆ. ಸ್ಥಿತಿಯನ್ನು ಹೇಗೆ ಸಂಗ್ರಹಿಸಲಾಗುತ್ತದೆ, ಪರಿಕರಗಳನ್ನು ಹೇಗೆ ಕರೆಯಲಾಗುತ್ತದೆ, ದೋಷಗಳನ್ನು ಹೇಗೆ ನಿರ್ವಹಿಸಲಾಗುತ್ತದೆ, ಮತ್ತು ದೀರ್ಘಕಾಲ ನಡೆಯುವ ಕಾರ್ಯಗಳು ಹೇಗೆ ಸುರಕ್ಷಿತವಾಗಿ ಪುನರಾರಂಭಗೊಳ್ಳುತ್ತವೆ ಎಂಬುದನ್ನು ಕಂಡುಹಿಡಿಯುವ ಹೊಣೆ ಅಭಿವೃದ್ಧಿ ತಂಡಗಳ ಮೇಲಿದೆ.
Stateful Runtime Environment ಅನ್ನು ಆ ಭಾರವನ್ನು ಕಡಿಮೆ ಮಾಡಲು ಜಂಟಿಯಾಗಿ ವಿನ್ಯಾಸಗೊಳಿಸಲಾಗಿದೆ. ಇದು ನಿಮ್ಮ AWS ಪರಿಸರದ ಒಳಗೆ ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತದೆ ಮತ್ತು AWS ಸೇವೆಗಳೊಂದಿಗೆ ಕೆಲಸ ಮಾಡಲು ಆಪ್ಟಿಮೈಸ್ ಮಾಡಲಾಗಿದೆ. ಈಗ, ಕೆಲಸಗಳು ನಡೆಯುವಂತೆ ಮಾಡಲು ಸಂಪರ್ಕವಿಲ್ಲದ ವಿನಂತಿಗಳನ್ನು ಕೈಯಾರೆ ಜೋಡಿಸುವ ಬದಲು, ನಿಮ್ಮ ಏಜೆಂಟ್ಗಳು ಮೆಮೊರಿ/ಇತಿಹಾಸ, ಉಪಕರಣ ಮತ್ತು ವರ್ಕ್ಫ್ಲೋ ಸ್ಥಿತಿ, ಪರಿಸರ ಬಳಕೆ, ಮತ್ತು ಗುರುತು/ಅನುಮತಿ ಗಡಿಗಳನ್ನು ಮುಂದಕ್ಕೆ ಸಾಗಿಸುವ “working context” ಜೊತೆಗೆ ಸಂಕೀರ್ಣ ಹಂತಗಳನ್ನು ಸ್ವಯಂಚಾಲಿತವಾಗಿ ನಿರ್ವಹಿಸುತ್ತವೆ.
ಬಹು-ವ್ಯವಸ್ಥೆಯ ಗ್ರಾಹಕ ಬೆಂಬಲ, ಮಾರಾಟ ಕಾರ್ಯಾಚರಣೆಗಳ ವರ್ಕ್ಫ್ಲೋಗಳು, ಆಂತರಿಕ IT ಆಟೊಮೇಷನ್, ಮತ್ತು ಅನುಮೋದನೆಗಳು ಹಾಗೂ ಆಡಿಟ್ಗಳೊಂದಿಗೆ ಹಣಕಾಸು ಪ್ರಕ್ರಿಯೆಗಳಂತಹ ಪರಿಹಾರಗಳನ್ನು ಒದಗಿಸುವುದು ಈಗ ಎಂದಿಗಿಂತಲೂ ಸುಲಭವಾಗಿದೆ.
ರನ್ಟೈಮ್ ಹಂತಗಳಾದ್ಯಂತ ಸ್ಥಿರ ಆರ್ಕೆಸ್ಟ್ರೇಷನ್ ಮತ್ತು ಸ್ಥಿತಿಯನ್ನು ನಿರ್ವಹಿಸಿದಾಗ, ತಂಡಗಳು ಸ್ಕ್ಯಾಫೋಲ್ಡಿಂಗ್ ಬದಲು ವರ್ಕ್ಫ್ಲೋ ಮತ್ತು ವ್ಯವಹಾರ ತರ್ಕದ ಮೇಲೆ ಕೇಂದ್ರೀಕರಿಸಬಹುದು.
ಸ್ಟೇಟ್ಫುಲ್ ಕಾರ್ಯಗಳನ್ನು ಕಾಲಕ್ರಮೇಣ ವಿಶ್ವಾಸಾರ್ಹವಾಗಿ ಕಾರ್ಯನಿರ್ವಹಿಸುವಂತೆ ವಿನ್ಯಾಸಗೊಳಿಸಲಾಗಿದೆ, ಬಹು-ಹಂತದ ಕಾರ್ಯಗತಗೊಳಿಸುವಿಕೆಗೆ ಅಗತ್ಯವಾದ ಸಂದರ್ಭ ಮತ್ತು ನಿಯಂತ್ರಣ ಗಡಿಗಳನ್ನು ಮುಂದಕ್ಕೆ ಸಾಗಿಸುತ್ತಾ.
ರನ್ಟೈಮ್ ಅನ್ನು ಗ್ರಾಹಕರ AWS ಪರಿಸರದೊಳಗೆ ಕಾರ್ಯನಿರ್ವಹಿಸುವಂತೆ ವಿನ್ಯಾಸಗೊಳಿಸಲಾಗಿದೆ, ಇದರಿಂದ ಇತ್ತೀಚಿನ ಸೆಕ್ಯೂರಿಟಿ ಪೋಸ್ಚರ್, ಟೂಲಿಂಗ್ ಇಂಟಿಗ್ರೇಷನ್ಗಳು ಮತ್ತು ಆಡಳಿತ ನಿಯಮಗಳಿಗೆ ಸುಲಭವಾಗಿ ಅನುಗುಣವಾಗಬಹುದು.
ಪ್ರಾರಂಭಿಸಲಾಗುತ್ತಿದೆ
Amazon Bedrock ನಲ್ಲಿ Stateful Runtime ಶೀಘ್ರದಲ್ಲೇ ಲಭ್ಯವಾಗಲಿದೆ. ನಿಮ್ಮ AI ಪ್ರಯಾಣಕ್ಕೆ ಇದು ಹೇಗೆ ಪ್ರಯೋಜನಕಾರಿಯಾಗುತ್ತದೆ ಎಂಬುದನ್ನು ತಿಳಿಯಲು, ನಿಮ್ಮ OpenAI ತಂಡವನ್ನು ಸಂಪರ್ಕಿಸಿ ಅಥವಾ ನಿಮ್ಮನ್ನು ಸಂಪರ್ಕಿಸಲು ವಿನಂತಿಸಿ.
