Представляємо середовище Stateful Runtime Environment для агентів в Amazon Bedrock
ШІ-агенти особливо ефективні в задачах міркування. Складнішим є операційний аспект: стабільне виконання багатокрокових процесів упродовж тривалого часу з використанням реальних інструментів і систем та з належними механізмами контролю.
Сьогодні у партнерстві з Amazon ми робимо цей процес простішим для клієнтів, запроваджуючи нове середовище Stateful Runtime Environment з нативною інтеграцією в Amazon Bedrock та підтримкою OpenAI. Замовники AWS матимуть доступ до можливостей OpenAI через Runtime Environment, оптимізоване під інфраструктуру AWS і спеціально налаштоване для агентних сценаріїв із підтримкою стану, надійності та керованості, необхідних для продуктивного використання.
Багато прототипів агентів, створених на основі stateless API, орієнтовані на прості сценарії: один запит — одна відповідь, можливо один виклик інструмента. Робота в продакшені суттєво відрізняється. Реальні робочі процеси складаються з багатьох етапів, потребують контексту попередніх дій, залежать від результатів кількох інструментів, погоджень і стану системи та вимагають надійних запобіжних механізмів у захищеному середовищі.
Stateless API вимагають створення додаткового рівня оркестрації для агентів. На команди розробки покладається завдання визначити, як зберігається стан, як викликаються інструменти, як обробляються помилки та як безпечно відновлюються довготривалі завдання.
Stateful Runtime Environment створене в партнерстві саме для того, щоб знизити це навантаження. Воно працює у вашому середовищі AWS та оптимізоване для інтеграції з сервісами AWS. Тепер, замість того щоб вручну поєднувати розрізнені запити для забезпечення роботи системи, ваші агенти автоматично виконують складні кроки з «робочим контекстом», який зберігає та передає далі пам'ять/історію, стан інструментів і процесів, використання середовища, а також межі ідентифікації та прав доступу.
Відтепер значно легше реалізовувати рішення для підтримки клієнтів у кількох системах, операційних процесів продажів, внутрішньої ІТ-автоматизації та фінансових процесів із механізмами погодження й аудиту.
Коли середовище виконання забезпечує стійку оркестрацію й збереження стану між етапами, команди можуть зосередитися на самих процесах і бізнес-логіці, а не на створенні допоміжної інфраструктури.
Завдання зі збереженням стану забезпечують стабільну роботу з часом, зберігаючи контекст і контрольні обмеження, потрібні для виконання кількох етапів.
Середовище виконання розроблене для роботи в середовищі AWS клієнтів із дотриманням чинної політики безпеки, наявних інтеграцій інструментів і правил управління.
Перші кроки
Stateful Runtime в Amazon Bedrock стане доступним найближчим часом. Якщо ви хочете дізнатися, як це може підтримати ваш розвиток у сфері ШІ, зверніться до команди OpenAI або залиште запит на зворотний зв'язок.
