Prezantimi i Stateful Runtime Environment për agjentët në Amazon Bedrock

Agjentët AI shkëlqejnë në arsyetim. Pjesa më e vështirë është operacionale: ekzekutimi me besueshmëri i punës me shumë hapa me kalimin e kohës, nëpër mjete dhe sisteme reale, me kontrollet e duhura.

Sot, po e bëjmë këtë më të lehtë për klientët përmes një partneriteti dhe bashkëpunimi të përbashkët me Amazon për të ofruar Stateful Runtime Environment që funksionon në mënyrë vendase në Amazon Bedrock, i fuqizuar nga OpenAI. Klientët e AWS do të kenë akses në inteligjencën e OpenAI të ofruar përmes Runtime Environment, të optimizuar për infrastrukturën e AWS dhe të përshtatur për flukset e punës agjentike, me gjendjen, besueshmërinë dhe qeverisjen e nevojshme për punë në prodhim.

Shumë prototipe agjentësh të bazuara në API pa gjendje trajtojnë raste të thjeshta përdorimi: një kërkesë, një përgjigje, ndoshta një thirrje mjeti. Puna në prodhim është ndryshe. Flukset e punës reale shpalosen nëpër shumë hapa, kërkojnë kontekst nga veprimet e mëparshme, varen nga rezultatet e shumë mjeteve, miratimet dhe gjendja e sistemit, dhe kanë nevojë për masa mbrojtëse të besueshme në mjedise të sigurta.

API-të pa gjendje kërkojnë ndërtimin e shtresës mbështetëse të orkestrimit për agjentët. Ekipet e zhvillimit duhet të kuptojnë se si ruhet gjendja, si thirren mjetet, si trajtohen gabimet dhe si rifillojnë në mënyrë të sigurt detyrat afatgjata.

Stateful Runtime Environment është projektuar së bashku për të ulur atë ngarkesë. Ai ekzekutohet brenda mjedisit tuaj AWS dhe është i optimizuar për të punuar me shërbimet AWS. Tani, në vend që të bashkoni manualisht kërkesa të shkëputura për t’i bërë gjërat të funksionojnë, agjentët tuaj ekzekutojnë automatikisht hapa kompleksë me “kontekst pune” që përfshin kujtesën/historikun, gjendjen e mjeteve dhe të flukseve të punës, përdorimin e mjedisit dhe kufijtë e identitetit/lejeve.

Tani është më e lehtë se kurrë të ofrohen zgjidhje si mbështetja e klientëve në shumë sisteme, rrjedhat e punës të operacioneve të shitjeve, automatizimi i brendshëm i IT-së dhe proceset financiare me miratime dhe auditime.

Kur Runtime-i trajton orkestrimin e qëndrueshëm dhe gjendjen nëpër hapa, ekipet mund të përqendrohen te rrjedha e punës dhe logjika e biznesit, në vend të strukturës mbështetëse.

Detyrat me gjendje janë krijuar për t'u ekzekutuar në mënyrë të besueshme me kalimin e kohës, duke bartur përpara kontekstin dhe kufijtë e kontrollit të nevojshëm për ekzekutime me shumë hapa.

Runtime-i është projektuar për të funksionuar brenda mjedisit AWS të klientëve, duke përmbushur qëndrimin ekzistues të sigurisë, integrimet e mjeteve dhe rregullat e qeverisjes.

Fillimi

Stateful Runtime në Amazon Bedrock do të jetë së shpejti i disponueshëm. Nëse dëshiron të eksplorosh se si kjo do të përfitojë udhëtimin tënd me AI, kontakto ekipin tënd të OpenAI ose kërko të të kontaktojnë.