Ipinapakilala ang Stateful Runtime Environment para sa Mga Agent sa Amazon Bedrock
Mahusay ang mga AI agent sa pangangatuwiran. Ang mas mahirap na bahagi ay ang pagpapatakbo: ang pagpapatakbo ng maaasahang multi-step na gawain sa pagdaan ng panahon, sa iba't ibang totoong tool at totoong system, na may tamang mga kontrol.
Ngayon, ginagawa naming mas madali ito para sa mga customer sa pamamagitan ng pakikipagtulungan at magkatuwang na kolaborasyon sa Amazon upang maihatid ang bagong Stateful Runtime Environment na tumatakbo nang native sa Amazon Bedrock, na pinapagana ng OpenAI. Magkakaroon ng access ang mga customer ng AWS sa katalinuhan ng OpenAI na ihahatid sa pamamagitan ng Runtime Environment, na na-optimize para sa imprastraktura ng AWS at iniangkop para sa mga agentic na daloy ng trabaho, kasama ang katayuan, pagkamaaasahan, at pangangasiwang kailangan para sa trabahong sa produksyon.
Maraming prototype ng agent na nakabatay sa mga walang estadong API ang tumutugon sa mga simpleng kaso ng paggamit: isang prompt, isang sagot, marahil isang tawag sa tool. Iba ang trabaho sa production. Ang mga totoong daloy ng trabaho ay nagaganap sa maraming hakbang, nangangailangan ng konteksto mula sa mga naunang aksyon, nakadepende sa mga output ng maraming tool, mga pag-apruba, at estado ng system, at nangangailangan ng mapagkakatiwalaang guardrail sa mga secure na environment.
Ang mga API na walang estado ay nangangailangan ng pagbuo ng sumusuportang layer ng pag-oorganisa para sa mga agent. Nasa mga development team ang responsibilidad na alamin kung paano iniimbak ang estado, kung paano tinatawag ang mga kasangkapan, kung paano pinapangasiwaan ang mga error, at kung paano ligtas na ipinagpapatuloy ang mga pangmatagalang gawain.
Ang Stateful Runtime Environment ay magkatuwang na dinisenyo upang mabawasan ang load. Pinapatakbo ito sa loob ng iyong AWS environment at na-optimize para gumana sa mga serbisyo ng AWS. Ngayon, sa halip na manu-manong pagdugtung-dugtungin ang mga hiwa-hiwalay na kahilingan para gumana ang mga bagay, awtomatikong isinasagawa ng iyong mga agent ang mga kumplikadong hakbang gamit ang “umiiral na konteksto” na nagdadala pasulong ng memorya/kasaysayan, estado ng tool at daloy ng trabaho, paggamit ng environment, at mga hangganan ng pagkakakilanlan/pahintulot.
Mas madali na ngayon kaysa dati ang maghatid ng mga solusyon tulad ng multi-system na suporta sa customer, mga daloy ng trabaho sa operasyon sa pagbebenta, internal na awtomasyon ng IT, at mga proseso sa pananalapi na may pag-apruba at audit.
Kapag pinapangasiwaan ng runtime ang tuloy-tuloy na pag-oorganisa at estado sa iba’t ibang hakbang, makakatuon ang mga team sa daloy ng trabaho at lohika ng negosyo sa halip na sa scaffolding.
Ang mga stateful na gawain ay dinisenyo upang tumakbo nang maaasahan sa pagdaan ng panahon, na dinadala ang konteksto at mga hangganan ng kontrol na kinakailangan para sa multi-step na pagsasagawa.
Ang runtime ay dinisenyo upang gumana sa loob ng AWS environment ng mga customer upang madaling makasunod sa umiiral na postura ng seguridad, mga integrasyon ng tool, at mga patakaran sa pamamahala.
Pagsisimula
Magiging available sa lalong madaling panahon ang Stateful Runtime sa Amazon Bedrock. Kung gusto mong matuklasan kung paano ito makakapag-ambag sa iyong paglalakbay sa AI, makipag-ugnayan sa iyong team sa OpenAI o magpakontak.
