Az Amazon Bedrock ügynökeihez készült Stateful Runtime Environment bemutatása
Az AI-ügynökök kiválóak az érvelésben. A nehezebb rész az operatív megvalósítás: többlépéses munkát megbízhatóan futtatni időben, valódi eszközökön és valódi rendszereken, a megfelelő kontrollokkal.
Ma egy partnerség és az Amazonnal folytatott közös együttműködés révén megkönnyítjük ezt az ügyfelek számára, hogy elérhetővé tegyük az új Stateful Runtime Environmentet, amely natívan fut az Amazon Bedrockben, OpenAI támogatással. Az AWS-ügyfelek hozzáférhetnek a Runtime Environmenten keresztül biztosított OpenAI intelligenciához, amelyet az AWS-infrastruktúrára optimalizáltak és az ügynöki munkafolyamatokra szabtak, a termelési munkához szükséges állapottal, megbízhatósággal és irányítással.
Sok állapotmentes API-ra épülő ügynökprototípus egyszerű használati eseteket céloz meg: egy utasítás, egy válasz, esetleg egy eszközhívás. Az éles munka más. A valós munkafolyamatok sok lépésen keresztül bontakoznak ki, a korábbi műveletek kontextusát igénylik, több eszköz kimenetétől, jóváhagyásoktól és a rendszer állapotától függenek, és biztonságos környezetekben megbízható védőkorlátokra van szükségük.
Az állapotmentes API-k megkövetelik az ügynökökhöz szükséges támogató orchesztrációs réteg kiépítését. A fejlesztőcsapatokra hárul a teher, hogy kiderítsék, hogyan tárolódik az állapot, hogyan hívják meg az eszközöket, hogyan kezelik a hibákat, és hogyan folytatódnak biztonságosan a hosszú ideig futó feladatok.
A Stateful Runtime Environmentet közösen úgy terveztük meg, hogy csökkentse ezt a terhelést. Az az AWS-környezetében fut, és az AWS-szolgáltatásokkal való együttműködésre van optimalizálva. Most pedig ahelyett, hogy kézzel kellene összefűznöd a működéshez a széttöredezett kéréseket, az ügynökeid automatikusan hajtanak végre összetett lépéseket egy „working context” segítségével, amely továbbviszi a memóriát/előzményeket, az eszköz- és munkafolyamat-állapotot, a környezet használatát, valamint az identitás/jogosultságok határait.
Most minden eddiginél egyszerűbb olyan megoldásokat szállítani, mint a több rendszert átfogó ügyféltámogatás, az értékesítési műveletek munkafolyamatai, a belső IT-automatizálás és a jóváhagyásokkal és auditokkal kiegészített pénzügyi folyamatok.
Amikor a futtatókörnyezet kezeli a lépések közötti tartós vezénylést és állapotot, a csapatok az állványozás helyett a munkafolyamatra és az üzleti logikára összpontosíthatnak.
Az állapottartó feladatokat úgy tervezték, hogy idővel megbízhatóan fussanak, továbbadva a többlépéses végrehajtáshoz szükséges kontextust és vezérlési határokat.
A futásidőt úgy tervezték, hogy az ügyfelek AWS-környezetén belül működjön, így könnyen megfelel a meglévő biztonsági helyzetnek, az eszközintegrációknak és az irányítási szabályoknak.
Első lépések
Az Amazon Bedrock állapottartó futásidejű környezete hamarosan elérhető lesz. Ha szeretnéd megvizsgálni, hogy ez hogyan segítheti a mesterséges intelligencia útját, fordulj az OpenAI-csapatodhoz, vagy kérd, hogy felvegyük veled a kapcsolatot.
