Претставување на Stateful Runtime Environment за агенти во Amazon Bedrock

Агентите со вештачка интелигенција се одлични во расудувањето. Потешкиот дел е оперативен: сигурно извршување на работа во повеќе чекори со текот на времето, низ вистински алатки и вистински системи, со соодветни контроли.

Денес, го олеснуваме ова за клиентите преку партнерство и заедничка соработка со Amazon за да ја испорачаме новата Stateful Runtime Environment што работи нативно во Amazon Bedrock, поддржана од OpenAI. Клиентите на AWS ќе имаат пристап до интелигенцијата на OpenAI испорачана преку Stateful Runtime Environment, оптимизирана за инфраструктурата на AWS и прилагодена за агентски работни текови, со состојбата, понадежноста и управувањето потребни за производствена работа.

Многу прототипи на агенти базирани на API без состојба се справуваат со едноставни случаи на употреба: еден промпт, еден одговор, можеби еден повик на алатка. Работата во продукција е поинаква. Реалните работни процеси се одвиваат низ многу чекори, бараат контекст од претходни дејства, зависат од излезите на повеќе алатки, одобрувања и состојбата на системот, и им се потребни доверливи заштитни огради во безбедни средини.

API без состојба бараат изградба на поддржувачкиот слој за оркестрација за агенти. Товарот е на развојните тимови да откријат како се складира состојбата, како се повикуваат алатките, како се справува со грешките и како долготрајните задачи безбедно продолжуваат.

Stateful Runtime Environment е заеднички дизајнирана за намалување на оптоварувањето. Работи во рамките на вашата AWS околина и е оптимизирано за работа со AWS услуги. Сега, наместо рачно да спојувате неповрзани барања за да функционираат работите, вашите агенти автоматски извршуваат сложени чекори со „работен контекст“ што ја пренесува меморијата, состојбата на алатките, работниот процес, користењето на околината и границите на идентитетот и дозволите.

Сега е полесно од кога било да се испорачуваат решенија како што се поддршка на клиенти со повеќе системи, работни процеси за продажни операции, внатрешна ИТ автоматизација и финансиски процеси со одобрувања и ревизии.

Кога извршувањето се справува со постојана оркестрација и состојба низ чекорите, тимовите можат да се фокусираат на работниот тек и деловната логика наместо на поврзување.

Задачите со состојба се дизајнирани да се извршуваат сигурно со текот на времето, пренесувајќи го контекстот и контролните граници потребни за повеќечекорно извршување.

Runtime е дизајниран да работи во рамките на AWS средината на клиентите за лесно да се усогласи со постојната безбедносна поставеност, интеграциите со алатки и правилата за управување.

Започнете

Stateful Runtime во Amazon Bedrock ќе биде достапен наскоро. Ако сакате да истражите како ова ќе му користи на вашето патување со вештачка интелигенција, контактирајте го вашиот тим во OpenAI или побарајте да бидете контактирани.