Představujeme stavové běhové prostředí pro agenty v Amazon Bedrock

Agenti umělé inteligence vynikají v uvažování. Složitější částí je provozní aspekt: spolehlivé provádění vícestupňové práce v průběhu času, napříč reálnými nástroji a reálnými systémy, se správnými kontrolami.

Ode dneška to budou mít zákazníci díky novému stavovému běhovému prostředí běžícímu nativně v Amazon Bedrock a využívajícímu OpenAI, které poskytujeme díky partnerství a spolupráci se společností Amazon, jednodušší. Zákazníci AWS budou mít přístup k inteligenci OpenAI poskytované prostřednictvím běhového prostředí, optimalizované pro infrastrukturu AWS a přizpůsobené pro agentní pracovní postupy, se stavem, spolehlivostí a řízením potřebnými pro produkční práci.

Mnoho prototypů agentů založených na bezstavových rozhraních API řeší jednoduché případy použití: jeden prompt, jedna odpověď, možná jedno volání nástroje. Produkční práce je jiná. Reálné pracovní postupy se odehrávají v mnoha krocích, vyžadují kontext z předchozích akcí, závisí na výstupech z více nástrojů, schváleních a stavu systému a potřebují důvěryhodné mantinely v zabezpečených prostředích.

Bezstavová rozhraní API vyžadují vytvoření podpůrné vrstvy orchestrace pro agenty. Vývojové týmy musí zjistit, jak se ukládá stav, jak se volají nástroje, jak se ošetřují chyby a jak se bezpečně obnovují dlouhodobě běžící úlohy.

Stavové běhové prostředí je společně navrženo tak, aby snížilo tuto zátěž. Běží uvnitř vašeho prostředí AWS a je optimalizován pro práci se službami AWS. Namísto ručního spojování nesouvisejících požadavků, aby věci fungovaly, vaši agenti teď automaticky provádějí složité kroky s „pracovním kontextem“, který přenáší paměť/historii, stav nástrojů a pracovních postupů, využití prostředí a hranice identit/oprávnění.

Je teď snazší než kdy dříve poskytovat řešení, jako je zákaznická podpora pro více systémů, prodejní pracovní postupy, interní automatizace IT a finanční procesy se schvalováním a audity.

Když běhové prostředí zpracovává perzistentní orchestraci a stav napříč kroky, týmy se mohou soustředit na pracovní postup a obchodní logiku místo na budování struktury.

Stavové úlohy jsou navrženy tak, aby spolehlivě běžely v čase a přenášely kontext a hranice řízení potřebné pro vícekrokové provádění.

Běhové prostředí je navrženo tak, aby fungovalo v prostředí AWS zákazníků a snadno splňovalo stávající požadavky na zabezpečení, integrace nástrojů a pravidla řízení.

Začínáme

Stavové běhové prostředí v Amazon Bedrock bude brzy k dispozici. Pokud chceš zjistit, jak to prospěje tvé cestě s umělou inteligencí, kontaktuj tým OpenAI nebo požádej o kontaktování.