Esittelyssä Amazon Bedrockissa toimiva Stateful Runtime Environment for Agents
Tekoälyagentit ovat erinomaisia päättelyssä. Vaikeampi osa on operatiivinen: monivaiheisen työn suorittaminen luotettavasti ajan mittaan todellisten työkalujen ja todellisten järjestelmien välillä oikeilla hallintakeinoilla.
Tänään teemme tästä asiakkaille helpompaa Amazonin kanssa solmitun kumppanuuden ja yhteistyön kautta toimittamalla uuden Stateful Runtime Environmentin, joka toimii natiivisti Amazon Bedrockissa ja jota tukee OpenAI. AWS-asiakkaat saavat käyttöönsä OpenAI:n älykkyyden, joka toimitetaan Runtime Environmentin kautta. Tämä ympäristö on optimoitu AWS-infrastruktuurille ja räätälöity agenttipohjaisiin työnkulkuihin tarjoten tuotantotyössä tarvittavat tila-, luotettavuus- ja hallintaominaisuudet.
Monet tilattomiin API-rajapintoihin perustuvat agenttiprototyypit hoitavat yksinkertaisia käyttötapauksia: yksi kehote, yksi vastaus ja ehkä yksi työkalukutsu. Tuotantotyö on erilaista. Todelliset työnkulut etenevät monien vaiheiden kautta, edellyttävät kontekstia aiemmista toimista, riippuvat useiden työkalujen tuotoksista, hyväksynnöistä ja järjestelmän tilasta, ja tarvitsevat luotettavat turvatoimet suojatuissa ympäristöissä.
Tilattomat API:t edellyttävät orkestrointikerroksen luomista agenttien tukemiseksi. Kehitystiimien vastuulla on selvittää, miten tila tallennetaan, miten työkaluja kutsutaan apuun, miten virheitä käsitellään ja miten pitkäkestoiset tehtävät jatkuvat turvallisesti.
Stateful Runtime Environment on suunniteltu yhdessä vähentämään tätä kuormitusta. Se toimii AWS-ympäristössäsi ja on optimoitu toimimaan AWS-palveluiden kanssa. Nyt agenttisi suorittavat automaattisesti monimutkaisia vaiheita "työkontekstissa", joka siirtää muistia/historiaa, työkalujen ja työnkulkujen tilaa, ympäristön käyttöä sekä identiteetti-/käyttöoikeusrajoja sen sijaan, että ne yhdistäisivät manuaalisesti toisistaan irrallisia pyyntöjä saadakseen asiat toimimaan.
Ratkaisujen, kuten usean järjestelmän kattavan asiakastuen, myyntitoimintojen työnkulkujen, sisäisen IT-automaation ja hyväksyntöjä ja tarkastuksia sisältävien talousprosessien, tarjoaminen on nyt helpompaa kuin koskaan.
Kun ajonaikainen ympäristö hoitaa pysyvän orkestroinnin ja tilan eri vaiheiden välillä, tiimit voivat keskittyä työnkulkuun ja liiketoimintalogiikkaan tukirakenteiden luomisen sijaan.
Tilalliset tehtävät on suunniteltu toimimaan luotettavasti ajan mittaan säilyttäen monivaiheiseen suorittamiseen tarvittavat kontekstin ja hallintarajat.
Suoritusympäristö on suunniteltu toimimaan asiakkaiden AWS-ympäristössä, jotta se noudattaa helposti olemassa olevia tietoturvavaatimuksia, työkaluintegraatioita ja hallintasääntöjä.
Aloittaminen
Amazon Bedrockissa toimiva Stateful Runtime tulee pian saataville. Jos haluat selvittää, miten tämä hyödyttää tekoälymatkaasi, ota yhteyttä OpenAI-tiimiisi tai pyydä, että sinuun otetaan yhteyttä.
