Представляем Среду выполнения с сохранением состояния для агентов в Amazon Bedrock
ИИ-агенты превосходно справляются с рассуждениями. Самая сложная часть — операционная: надежно выполнять многошаговую работу с течением времени, используя реальные инструменты и реальные системы, с правильными механизмами контроля.
Сегодня мы упрощаем это для клиентов благодаря партнерству и совместной работе с Amazon, чтобы предоставить новую Среду выполнения с сохранением состояния (Stateful Runtime Environment), которая работает непосредственно в Amazon Bedrock, на базе OpenAI. Клиенты AWS получат доступ к возможностям OpenAI через Среду выполнения, оптимизированную для инфраструктуры AWS и адаптированную под агентные сценарии, с сохранением состояния, надёжностью и механизмами управления, необходимыми для работы в продуктивной среде.
Многие прототипы агентов на основе API без сохранения состояния решают простые сценарии использования: один промпт, один ответ, возможно один вызов инструмента. Работа в продуктивной среде отличается. Реальные рабочие процессы разворачиваются через множество шагов, требуют контекста из предыдущих действий, зависят от результатов работы нескольких инструментов, согласований и состояния системы, а также нуждаются в надёжных защитных механизмах в безопасных средах.
API без сохранения состояния требуют дополнительного слоя оркестрации для агентов. Командам разработки приходится самостоятельно определять, как хранится состояние, как вызываются инструменты, как обрабатываются ошибки и как безопасно возобновляются длительные задачи.
Среда выполнения с сохранением состояния спроектирована совместно, чтобы снизить эту нагрузку. Она работает внутри вашей среды AWS и оптимизирована для работы с сервисами AWS. Теперь вместо того, чтобы вручную сшивать разрозненные запросы, чтобы все работало, ваши агенты автоматически выполняют сложные шаги с «рабочим контекстом», который переносит память/историю, состояние инструментов и рабочих процессов, использование среды и границы идентичности/разрешений.
Теперь как никогда проще внедрять решения, такие как поддержка клиентов в нескольких системах, рабочие процессы продаж, внутренняя ИТ-автоматизация, а также финансовые процессы с утверждениями и аудитами.
Когда среда выполнения обеспечивает устойчивую оркестрацию и сохраняет состояние на всех этапах, команды могут сосредоточиться на рабочем процессе и бизнес-логике вместо создания вспомогательной инфраструктуры.
Задачи с сохранением состояния предназначены для надежной работы в течение длительного времени, сохраняя контекст и границы управления, необходимые для многошагового выполнения.
Среда исполнения разработана для работы в среде AWS клиентов, чтобы упростить соблюдение существующих требований к безопасности, интеграции с инструментами и правил управления.
Начало работы
Среда выполнения с сохранением состояния в Amazon Bedrock станет скоро доступна. Если вы хотите узнать, как это может быть полезно для ваших ИИ-проектов, свяжитесь с командой OpenAI или запросите, чтобы с вами связались.
