Vi presenterer det tilstandsfulle kjøretidsmiljøet for agenter i Amazon Bedrock

KI-agenter utmerker seg i resonnering. Den vanskeligste delen er operasjonell: Å kjøre flertrinns arbeid pålitelig over tid, på tvers av reelle verktøy og reelle systemer, med de riktige kontrollene.

I dag gjør vi dette enklere for kundene gjennom et partnerskap og felles samarbeid med Amazon for å levere det nye tilstandsfulle kjøretidsmiljøet som kjører direkte i Amazon Bedrock, drevet av OpenAI. AWS' kunder vil få tilgang til OpenAI-intelligens levert gjennom kjøretidsmiljøet, optimalisert for AWS-infrastruktur og tilpasset agentiske arbeidsflyter, med den tilstanden, påliteligheten og styringen som trengs for produksjonsarbeid.

Mange agentprototyper basert på tilstandsløse API-er tar for seg enkle bruksområder: én prompt, ett svar, kanskje ett verktøykall. Produksjonsarbeid er annerledes. Virkelige arbeidsflyter utspiller seg over mange trinn, krever kontekst fra tidligere handlinger, avhenger av utdata fra flere verktøy, godkjenninger og systemtilstand, og trenger pålitelige sikkerhetsmekanismer i sikre miljøer.

Tilstandsløse API-er krever at man bygger et støttende iverksettingslag for agenter. Utviklingsteamene må finne ut hvordan tilstand lagres, hvordan verktøy brukes, hvordan feil håndteres, og hvordan langvarige oppgaver gjenopptas på en trygg måte.

Det tilstandsfulle kjøretidsmiljøet er utformet i fellesskap for å redusere den belastningen. Den kjører i AWS-miljøet ditt og er optimalisert for å fungere med AWS-tjenester. I stedet for å manuelt sette sammen frakoblede forespørsler for å få ting til å fungere, utfører agentene dine nå automatisk komplekse trinn med «arbeidskontekst» som tar med seg minne/historikk, verktøy- og arbeidsflytstilstand, bruk av miljøer og identitets-/tillatelsesgrenser videre.

Det er nå enklere enn noensinne å levere løsninger som kundestøtte på tvers av flere systemer, arbeidsflyter for salgsoperasjoner, intern IT-automatisering og finansprosesser med godkjenninger og revisjoner.

Når kjøretiden håndterer vedvarende iverksetting og tilstand på tvers av trinn, kan team fokusere på arbeidsflyten og forretningslogikken i stedet for å bygge rammer.

Tilstandsfulle oppgaver er utformet for å kjøre pålitelig over tid, og tar med seg konteksten og kontrollgrensene som trengs for kjøring i flere trinn videre.

Kjøretiden er utformet for å fungere i kundenes AWS-miljø for enkelt å følge det eksisterende sikkerhetsrammeverket, verktøyintegrasjoner og styringsregler.

Komme i gang

Det tilstandsfulle kjøretidsmiljøet i Amazon Bedrock vil snart være tilgjengelig. Hvis du vil utforske hvordan dette vil være til nytte for KI-reisen din, kan du ta kontakt med OpenAI-teamet ditt eller dem ta kontakt med deg.