Представяме Stateful Runtime Environment за агенти в Amazon Bedrock
Агентите с ИИ се отличават в структурираното анализиране. По-трудната част е оперативната: надеждното изпълнение на многоетапни задачи във времето, с реални инструменти и системи, и правилните контроли.
Днес улесняваме клиентите чрез партньорство и съвместно сътрудничество с Amazon, за да предоставим новата Stateful Runtime Environment, която е вградена в Amazon Bedrock и се захранва от OpenAI. Клиентите на AWS ще имат достъп до интелигентността на OpenAI, предоставяна чрез средата за изпълнение, оптимизирана за инфраструктурата на AWS и пригодена за агентни работни процеси, със състоянието, надеждността и управлението, необходими за работа в производствена среда.
Много прототипи на агенти, базирани на API без състояние, се справят с прости случаи на употреба: една подкана, един отговор, може би една заявка за инструмент. Работата в производството е различна. Реалните работни процеси се развиват през много стъпки, изискват контекст от предишни действия, зависят от изходните данни на множество инструменти, одобрения и състоянието на системата, и се нуждаят от надеждни предпазни механизми в сигурни среди.
API без състояние изискват изграждане на поддържащ слой за оркестрация на агенти. На екипите за разработка се пада отговорността да определят как се съхранява състоянието, как се извикват инструментите, как се обработват грешките и как дългосрочните задачи се възобновяват безопасно.
Средата за изпълнение със запазено състояние е съвместно проектирана, за да намали натоварването. Работи във Вашата AWS среда и е оптимизирана да работи с услугите на AWS. Сега, вместо ръчно да свързвате несвързани заявки, за да накарате нещата да работят, Вашите агенти автоматично изпълняват сложни стъпки с „работен контекст“, който пренася напред памет/история, състояние на инструменти и работен процес, използване на средата и граници на идентичност/разрешения.
Сега е по-лесно от всякога да се предоставят решения като многосистемно обслужване на клиенти, работни процеси за продажби, вътрешна ИТ автоматизация и финансови процеси с одобрения и одити.
Когато средата за изпълнение обработва постоянна оркестрация и поддържа състояние между стъпките, екипите могат да се фокусират върху работния процес и бизнес логиката вместо върху изграждането на помощна инфраструктура.
Задачите със запазване на състоянието са проектирани да работят надеждно във времето, като пренасят контекста и контролните граници, необходими за многоетапно изпълнение.
Средата за изпълнение е проектирана да работи в AWS средата на клиентите, за да отговаря лесно на съществуващата политика за сигурност, интеграциите с инструменти и правилата за управление.
Първи стъпки
Stateful Runtime в Amazon Bedrock ще бъде наличен скоро. Ако искате да проучите как това ще бъде от полза за Вашия опит с ИИ, свържете се с Вашия екип в OpenAI или подайте заявка, за да се свържем с Вас.
