Pristatome „Amazon Bedrock“ skirtą būseną išlaikančią agentų vykdymo aplinką
DI agentai pasižymi puikiu protavimu. Sunkiausia dalis yra operacinė: patikimas daugiapakopio darbo vykdymas ilgą laiką, naudojant realius įrankius bei sistemas ir taikant tinkamas kontrolės priemones.
Šiandien palengviname šį procesą klientams bendradarbiaudami su „Amazon“ ir pristatydami naują būseną išlaikančią vykdymo aplinką, kuri veikia tiesiogiai „Amazon Bedrock“ platformoje ir yra pagrįsta „OpenAI“ modeliais. AWS klientai galės naudotis „OpenAI“ intelektu per vykdymo aplinką, kuri yra optimizuota AWS infrastruktūrai ir pritaikyta agentų darbo eigoms, užtikrinant būseną, patikimumą bei valdymą, būtiną darbui realiomis sąlygomis.
Dauguma agentų prototipų, pagrįstų būsenos neišlaikančiais API, atlieka paprastas užduotis: viena užklausa, vienas atsakymas, galbūt vienas įrankio kvietimas. Darbas realiomis sistemomis yra kitoks. Realios darbo eigos apima daugybę žingsnių, joms reikia ankstesnių veiksmų konteksto, jos priklauso nuo kelių įrankių išvesčių, patvirtinimų bei sistemos būsenos, be to, joms būtinos patikimos apsaugos priemonės saugiose aplinkose.
Naudojant būsenos neišlaikančius API, agentams reikia sukurti papildomą orkestravimo sluoksnį. Kūrėjų komandoms tenka našta patiems sugalvoti, kaip saugoti būseną, kviesti įrankius, tvarkyti klaidas ir saugiai tęsti ilgai trunkančias užduotis.
Būseną išlaikanti vykdymo aplinka sukurta bendradarbiaujant siekiant sumažinti šį krūvį. Ji veikia jūsų AWS aplinkoje ir yra optimizuota darbui su AWS paslaugomis. Dabar, užuot rankiniu būdu jungus atskiras užklausas, jūsų agentai automatiškai vykdo sudėtingus žingsnius naudodami darbinį kontekstą, kuris apima atmintį arba istoriją, įrankių bei darbo eigos būseną, aplinkos naudojimą ir tapatybės bei leidimų ribas.
Dabar lengviau nei bet kada anksčiau teikti tokius sprendimus kaip kelių sistemų klientų aptarnavimas, pardavimo operacijų darbo eigos, vidinis IT automatizavimas bei finansiniai procesai su patvirtinimais ir auditais.
Kai vykdymo aplinka užtikrina nuolatinį orkestravimą bei būseną įvairiuose žingsniuose, komandos gali susitelkti į darbo eigą ir verslo logiką, o ne į karkaso kūrimą.
Būseną išlaikančios užduotys sukurtos patikimai veikti ilgą laiką, išlaikant kontekstą ir kontrolės ribas, būtinas daugiapakopiam vykdymui.
Vykdymo aplinka sukurta veikti klientų AWS aplinkoje, kad būtų galima lengvai laikytis esamų saugumo nuostatų, integruoti įrankius ir vykdyti valdymo taisykles.
Pradžia
Būseną išlaikanti vykdymo aplinka „Amazon Bedrock“ platformoje pasirodys netrukus. Jei norite sužinoti, kaip ji padės jums jūsų DI kelyje, susisiekite su savo „OpenAI“ komanda arba pateikite prašymą susisiekti su jumis.
