Predstavljamo okolje za izvajanje z ohranitvijo stanja za agente v Amazon Bedrock
Agenti umetne inteligence se odlično obnesejo pri sklepanju. Težji del je operativen: zanesljivo izvajanje večstopenjskega dela skozi čas, prek resničnih orodij in resničnih sistemov, z ustreznimi kontrolami.
Danes to strankam olajšujemo s partnerstvom in skupnim sodelovanjem z Amazonom, da zagotovimo novo Stateful Runtime Environment, ki se izvaja izvorno v Amazon Bedrock in ga poganja OpenAI. Stranke AWS bodo imele dostop do inteligence OpenAI, ki bo na voljo prek izvajalnega okolja, optimiziranega za infrastrukturo AWS in prilagojenega za agentske delovne tokove, z ustreznim stanjem, zanesljivostjo in upravljanjem, ki so potrebni za produkcijsko delo.
Veliko prototipov agentov, ki temeljijo na brezstanjskih API-jih, obravnava preproste primere uporabe: en poziv, en odgovor, morda en priklic orodja. Produkcijsko delo je drugačno. Resnični delovni tokovi se odvijajo skozi številne korake, zahtevajo kontekst iz prejšnjih dejanj, so odvisni od izhodov več orodij, odobritev in stanja sistema ter potrebujejo zaupanja vredne varovalke v varnih okoljih.
API-ji brez stanja zahtevajo izgradnjo podporne orkestracijske plasti za agente. Breme je na razvojnih ekipah, da ugotovijo, kako je stanje shranjeno, kako se orodja prikličejo, kako se obravnavajo napake in kako se dolgotrajna opravila varno nadaljujejo.
Stanje ohranjajoče izvajalno okolje je zasnovano za skupno zmanjšanje te obremenitve. Deluje znotraj vašega okolja AWS in je optimiziran za delovanje s storitvami AWS. Zdaj, namesto da bi ročno sestavljali nepovezane zahteve, vaši agenti samodejno izvajajo kompleksne korake z “delovnim kontekstom”, ki prenaša naprej spomin/zgodovino, stanje orodij in delovnih tokov, uporabo okolja ter meje identitete/dovoljenj.
Zdaj je lažje kot kadar koli prej zagotavljati rešitve, kot so večsistemska podpora strankam, delovni tokovi prodajnih operacij, interna avtomatizacija IT ter finančni procesi z odobritvami in revizijami.
Ko izvajalno okolje upravlja trajno orkestracijo in stanje skozi korake, se lahko ekipe osredotočijo na delovni tok in poslovno logiko namesto na podporno strukturo.
Naloge, ki ohranjajo stanje, so zasnovane tako, da zanesljivo delujejo skozi čas, pri čemer prenašajo kontekst in meje nadzora, potrebne za večstopenjsko izvajanje.
Izvajalno okolje je zasnovano za delovanje znotraj AWS okolja strank, da omogoča enostavno skladnost z obstoječo varnostno politiko, integracijami orodij in pravili upravljanja.
Začnite
Stanje ohranjajoče izvajalno okolje Amazon Bedrock bo kmalu na voljo. Če želite raziskati, kako bo to koristilo vaši poti z umetno inteligenco, se obrnite na svojo ekipo OpenAI ali zaprosite, da vas kontaktiramo.
