Predstavljamo Stateful Runtime Environment za agente u Amazon Bedrock-u
AI agenti se ističu u rezonovanju. Teži deo je operativni: pouzdano pokretanje rada u više koraka tokom vremena, preko stvarnih alata i stvarnih sistema, uz odgovarajuće kontrole.
Danas ovo olakšavamo korisnicima kroz partnerstvo i zajedničku saradnju sa Amazon-om kako bismo isporučili novo Stateful Runtime Environment koje se nativno izvršava u Amazon Bedrock-u. AWS korisnici će imati pristup Runtime Environment-u, koje pokreću OpenAI modeli, optimizovanom za AWS infrastrukturu i prilagođenom agentnim tokovima rada, sa stanjem, pouzdanošću i upravljanjem potrebnim za produkcioni rad.
Mnogi prototipi agenata zasnovani na stateless API-jima rešavaju jednostavne slučajeve upotrebe: jedna instrukcija, jedan odgovor, možda jedan poziv alata. Produkcioni rad je drugačiji. Stvarni tokovi rada odvijaju se kroz mnogo koraka, zahtevaju kontekst iz prethodnih radnji, zavise od više izlaza alata, odobrenja i stanja sistema, i traže pouzdane zaštitne ograde u bezbednim okruženjima.
Stateless API-ji zahtevaju izgradnju pratećeg sloja orkestracije za agente. Teret je na razvojnim timovima da utvrde kako se stanje čuva, kako se alati pozivaju, kako se greške obrađuju i kako se dugotrajni zadaci bezbedno nastavljaju.
Stateful Runtime Environment je zajednički osmišljen da smanji to opterećenje. Radi unutar vašeg AWS okruženja i optimizovan je za rad sa AWS uslugama. Sada, umesto da ručno povezujete nepovezane zahteve da bi sve radilo, vaši agenti automatski izvršavaju složene korake uz „radni kontekst“ koji prenosi memoriju/istoriju, stanje alata i toka rada, korišćenje okruženja i granice identiteta/dozvola.
Sada je lakše nego ikada isporučiti rešenja kao što su korisnička podrška preko više sistema, tokovi rada prodajnih operacija, interna IT automatizacija i finansijski procesi sa odobrenjima i revizijama.
Kada runtime upravlja trajnom orkestracijom i stanjem kroz korake, timovi mogu da se usredsrede na tok rada i poslovnu logiku umesto na pomoćnu strukturu.
Zadaci sa stanjem su osmišljeni da pouzdano rade tokom vremena, prenoseći kontekst i granice kontrole potrebne za izvršavanje u više koraka.
Runtime je osmišljen da radi unutar AWS okruženja korisnika kako bi se lako uskladio sa postojećim bezbednosnim položajem, integracijama alata i pravilima upravljanja.
Početak rada
Stateful Runtime u Amazon Bedrock-u uskoro će biti dostupan. Ako želite da istražite kako će ovo koristiti vašem AI putovanju, obratite se svom OpenAI timu ili zatražite da vas kontaktiramo.
