Amazon Bedrock에서 에이전트를 위한 상태 저장 런타임 환경 소개
AI 에이전트는 추론에 뛰어납니다. 더 어려운 부분은 운영입니다. 실제 도구와 시스템 전반에서 적절한 제어 체계를 갖추고, 시간이 지나도 다단계 작업을 안정적으로 실행하는 일입니다.
오늘 우리는 Amazon과의 파트너십 및 공동 협업을 통해 고객이 더 쉽게 이용할 수 있도록 OpenAI 기반으로 Amazon Bedrock에서 네이티브로 실행되는 새로운 상태 저장 런타임 환경을 제공하고 있습니다. AWS 고객은 AWS 인프라에 최적화되고 에이전트형 워크플로에 맞게 조정된 상태 저장 런타임을 통해 제공되는 OpenAI 인텔리전스를 활용할 수 있습니다. 또한 프로덕션 환경에 필요한 상태 관리, 안정성, 거버넌스 기능을 제공합니다.
무상태 API를 기반으로 한 많은 에이전트 프로토타입은 단순한 사용 사례를 다룹니다. 프롬프트 하나, 응답 하나, 많아야 도구 호출 한 번 정도입니다. 프로덕션 환경은 다릅니다. 실제 워크플로는 여러 단계에 걸쳐 진행되며, 이전 작업의 컨텍스트를 필요로 합니다. 또한 여러 도구의 출력, 승인 절차, 시스템 상태에 의존하고, 보안 환경에서는 신뢰할 수 있는 가드레일이 요구됩니다.
무상태 API를 사용할 경우, 에이전트를 위한 오케스트레이션 레이어를 별도로 구축해야 합니다. 상태 저장 방식, 도구 호출 방식, 오류 처리, 장시간 실행 작업의 안전한 재개 방식까지 모두 개발 팀이 직접 설계하고 관리해야 합니다.
Stateful 런타임 환경은 이러한 부담을 줄이도록 공동 설계되었습니다. AWS 환경 내에서 실행 되며 AWS 서비스와 원활하게 연동되도록 최적화되어 있습니다. 이제 단절된 요청을 수동으로 연결할 필요 없이, 에이전트가 메모리와 히스토리, 도구 및 워크플로 상태, 실행 환경, 신원 및 권한 경계를 유지하는 ‘작업 컨텍스트’를 기반으로 복잡한 단계를 자동으로 실행합니다.
이제 멀티 시스템 고객 지원, 영업 운영 워크플로, 내부 IT 자동화, 승인 및 감사가 포함된 재무 프로세스와 같은 솔루션을 더욱 간편하게 구축할 수 있습니다.
런타임이 단계 전반의 오케스트레이션과 상태 관리를 담당하면, 팀은 기반 구조를 직접 구현하는 대신 워크플로와 비즈니스 로직에 집중할 수 있습니다.
Stateful 작업은 시간이 지나도 안정적으로 실행되도록 설계되었으며, 다단계 실행에 필요한 컨텍스트와 제어 경계를 지속적으로 유지합니다.
런타임은 고객의 AWS 환경 내에서 작동하도록 설계되어 기존 보안 정책, 도구 통합, 거버넌스 규정을 자연스럽게 준수할 수 있습니다.
시작하기
Amazon Bedrock의 Stateful Runtime은 곧 제공될 예정입니다. 이 기능이 AI 여정에 어떤 도움을 줄 수 있는지 알아보려면 OpenAI 팀에 문의하거나 연락을 요청하세요.
