Tutvustame agentide olekuga käitusaja keskkonda Amazon Bedrockis
AI agendid paistavad silma arutlusega. Keerulisem osa on operatiivne: mitmeastmelise töö usaldusväärne käitamine aja jooksul, reaalsete tööriistade ja reaalsete süsteemide lõikes, õigete kontrollimehhanismidega.
Täna muudame selle klientide jaoks lihtsamaks tänu partnerlusele ja ühisele koostööle Amazoniga, et pakkuda uut olekuga käitusaja keskkonda, mis töötab natiivselt Amazon Bedrockis, mida toetab OpenAI. AWS-i kliendid saavad juurdepääsu OpenAI intelligentsusele, mida pakutakse Runtime Environment’i kaudu, optimeerituna AWS-i taristu jaoks ja kohandatuna agentlike töövoogude jaoks, koos tootmistööks vajaliku oleku, usaldusväärsuse ja juhtimisega.
Paljud olekuta API-del põhinevad agent-prototüübid tegelevad lihtsate kasutusjuhtumitega: üks viip, üks vastus, võib-olla üks tööriistakutse. Tootmistöö on teistsugune. Päris töövood kulgevad läbi paljude etappide, vajavad konteksti varasematest toimingutest, sõltuvad mitme tööriista väljunditest, kinnitustest ja süsteemi olekust ning vajavad usaldusväärseid kaitsepiirdeid turvalistes keskkondades.
Olekuta API-d vajavad agentide toetamiseks orkestreerimiskihi loomist. Arendusmeeskondade ülesanne on välja selgitada, kuidas olekut talletatakse, tööriistu käivitatakse, vigu käsitletakse ja pikaajalised ülesanded turvaliselt jätkuvad.
Stateful käitusaja keskkond on ühiselt loodud selle koormuse vähendamiseks. See töötab sinu AWS-i keskkonnas ja on optimeeritud töötama AWS-i teenustega. Nüüd, selle asemel et käsitsi kokku õmmelda omavahel seostamata päringuid, et asjad toimiksid, täidavad sinu agendid automaatselt keerukaid samme „töökeskkonna“ abil, mis kannab edasi mälu/ajaloo, tööriistade ja töövoo oleku, keskkonna kasutuse ning identiteedi/õiguste piirid.
Nüüd on lihtsam kui kunagi varem pakkuda lahendusi, nagu mitme süsteemi klienditugi, müügioperatsioonide töövood, sisemine IT-automatiseerimine ja finantsprotsessid kinnituste ja audititega.
Kui käitusaja keskkond haldab püsivat orkestreerimist ja säilitab olekut sammude vahel, saavad tiimid keskenduda töövoole ja äriloogikale, mitte tugistruktuuri loomisele.
Olekuga ülesanded on loodud usaldusväärselt töötama, kandes edasi mitmeastmeliseks täitmiseks vajalikku konteksti ja kontrollipiire.
Käitusaeg on loodud töötama klientide AWS keskkonnas, et hõlbustada vastavust olemasolevale turvapoliitikale, tööriistade integreerimisele ja juhtimisreeglitele.
Alustamine
Stateful Runtime Amazon Bedrockis on peagi saadaval. Kui soovid uurida, kuidas see sinu tehisintellekti teekonda toetab, võta ühendust oma OpenAI meeskonnaga või esita kontaktisoov.
