Introduktion til Stateful Runtime Environment for Agents i Amazon Bedrock

AI-agenter udmærker sig ved ræsonnering. Det sværeste er det operationelle: at udføre flerstrengede arbejdsopgaver pålideligt over tid, på tværs af reelle værktøjer og reelle systemer, med de rette kontrolmekanismer.

I dag gør vi det lettere for kunderne gennem et partnerskab og et samarbejde med Amazon om at levere det nye Stateful Runtime Environment, der kører indbygget i Amazon Bedrock, drevet af OpenAI. AWS-kunder får adgang til OpenAI-intelligens leveret via Runtime Environment, der er optimeret til AWS-infrastruktur og skræddersyet til agentiske arbejdsgange, med den status, pålidelighed og styring, der er nødvendig for produktionsarbejde.

Mange agentprototyper baseret på stateless API'er håndterer simple use cases: én prompt, ét svar, måske ét værktøjsopkald. Produktionsarbejde er anderledes. Rigtige arbejdsgange udfolder sig på tværs af mange trin, kræver kontekst fra tidligere handlinger, afhænger af output fra flere værktøjer, godkendelser og systemtilstand og har brug for pålidelige sikkerhedsforanstaltninger i sikre miljøer.

Tilstandsløse API'er kræver, at man bygger det understøttende orkestreringslag til agenter. Det er udviklingsteamenes ansvar at finde ud af, hvordan tilstanden gemmes, hvordan værktøjerne aktiveres, hvordan fejl håndteres, og hvordan langvarige opgaver genoptages på en sikker måde.

Stateful Runtime Environment er designet i fællesskab for at reducere den belastning. Det kører i dit AWS-miljø og er optimeret til at fungere med AWS-tjenester. Nu behøver dine medarbejdere ikke længere manuelt at sammensætte uforbundne anmodninger for at få tingene til at fungere. I stedet udfører de automatisk komplekse trin med en "arbejdskontekst", der viderefører hukommelse/historik, værktøjs- og workflowstatus, miljøanvendelse og identitets-/tilladelsesgrænser.

Det er nu nemmere end nogensinde at levere løsninger som kundesupport på tværs af flere systemer, salgsprocesser, intern IT-automatisering og finansielle processer med godkendelser og revisioner.

Når runtime håndterer vedvarende orkestrering og tilstand på tværs af trin, kan teams fokusere på arbejdsgangen og forretningslogikken i stedet for at bygge strukturer.

Tilstandsfulde opgaver er designet til at køre pålideligt over tid og videreføre den kontekst og de kontrolgrænser, der er nødvendige for udførelse i flere trin.

Runtime er designet til at fungere i kundernes AWS-miljø for nemt at overholde den eksisterende sikkerhedsramme, værktøjsintegrationer og styringsregler.

Sådan kommer du i gang

Stateful Runtime i Amazon Bedrock vil snart være tilgængelig. Hvis du vil udforske, hvordan dette vil gavne din AI-rejse, så kontakt dit OpenAI-team eller anmod om at blive kontaktet.