Apresentando o Stateful Runtime Environment para agentes no Amazon Bedrock
Agentes de IA se destacam no raciocínio. A parte mais difícil é operacional: executar trabalhos em várias etapas de forma confiável ao longo do tempo, em ferramentas e sistemas reais, com os controles certos.
Hoje, estamos facilitando isso para clientes por meio de uma parceria e colaboração conjunta com a Amazon para oferecer o novo Stateful Runtime Environment, que roda nativamente no Amazon Bedrock, com tecnologia OpenAI. Clientes da AWS terão acesso à inteligência da OpenAI disponibilizada pelo Runtime Environment, otimizado para a infraestrutura da AWS e adaptado a fluxos de trabalho com agentes, com o estado, a confiabilidade e a governança necessários para trabalho em produção.
Muitos protótipos de agentes baseados em APIs sem estado atendem a casos de uso simples: um prompt, uma resposta, talvez uma chamada de ferramenta. Trabalho em produção é diferente. Fluxos de trabalho reais se desenrolam em muitas etapas, exigem contexto de ações anteriores, dependem de várias saídas de ferramentas, aprovações e do estado do sistema, e precisam de barreiras de proteção confiáveis em ambientes seguros.
APIs sem estado exigem construir a camada de orquestração de suporte para agentes. Cabe às equipes de desenvolvimento descobrir como o estado é armazenado, como as ferramentas são invocadas, como os erros são tratados e como tarefas de longa duração são retomadas com segurança.
O Stateful Runtime Environment foi projetado em conjunto para reduzir essa carga. Ele roda dentro do seu ambiente AWS e é otimizado para funcionar com serviços da AWS. Agora, em vez de costurar manualmente solicitações desconectadas para fazer tudo funcionar, seus agentes executam automaticamente etapas complexas com "contexto de trabalho" que leva adiante memória/histórico, o estado de ferramentas e fluxos de trabalho, uso do ambiente e limites de identidade/permissões.
Agora está mais fácil do que nunca entregar soluções como suporte ao cliente em vários sistemas, fluxos de trabalho de operações de vendas, automação de TI interna e processos financeiros com aprovações e auditorias.
Quando o runtime lida com orquestração persistente e estado entre etapas, as equipes podem focar no fluxo de trabalho e na lógica de negócio em vez de construir a estrutura de suporte.
Tarefas com estado foram projetadas para rodar com confiabilidade ao longo do tempo, levando adiante o contexto e os limites de controle necessários para execução em várias etapas.
O runtime foi projetado para operar no ambiente AWS dos clientes, para cumprir facilmente a postura de segurança existente, as integrações com ferramentas e as regras de governança.
Primeiros passos
O Stateful Runtime no Amazon Bedrock estará disponível em breve. Se você quiser explorar como isso vai beneficiar sua jornada de IA, fale com sua equipe da OpenAI ou solicite que entremos em contato.
