Predstavujeme Stateful Runtime Environment pre agentov v službe Amazon Bedrock
AI agenti vynikajú v uvažovaní. Väčším problémom je prevádzka: dlhodobo spoľahlivo vykonávať viackrokovú prácu so skutočnými nástrojmi, skutočnými systémami a správnymi ovládacími prvkami.
Dnes to zákazníkom uľahčujeme prostredníctvom partnerstva a vzájomnej spolupráce so spoločnosťou Amazon s cieľom priniesť nové prostredie Stateful Runtime Environment, ktoré beží natívne v službe Amazon Bedrock s podporou OpenAI. Zákazníci AWS budú mať prístup k inteligencii OpenAI poskytovanej cez Runtime Environment, optimalizovanej pre infraštruktúru AWS a prispôsobenej pre agentské pracovné postupy, s potrebným stavom, spoľahlivosťou a riadením na produkčnú činnosť.
Mnohé prototypy agentov založené na bezstavových rozhraniach API riešia jednoduché prípady použitia: jeden príkaz, jedna odpoveď, možno jedno získanie nástroja. Produkčná činnosť je odlišná. Skutočné pracovné postupy sa rozvíjajú vo viacerých krokoch, vyžadujú kontext z predchádzajúcich akcií, závisia od výstupov viacerých nástrojov, schválení a stavu systému a v bezpečných prostrediach potrebujú dôveryhodné ochranné mechanizmy.
Bezstavové rozhrania API vyžadujú vytvorenie podpornej vrstvy na orchestráciu pre agentov. Bremeno je na vývojárskych tímoch, aby prišli na to, ako sa ukladá stav, ako sa vyvolávajú nástroje, ako sa spracúvajú chyby a ako sa bezpečne obnovujú dlhodobé úlohy.
Stateful Runtime Environment je spoločne navrhnuté tak, aby znižovalo toto zaťaženie. Beží vo vašom prostredí AWS a je optimalizované na prácu so službami AWS. Namiesto manuálneho spájania nesúvisiacich požiadaviek, aby všetko fungovalo, vaši agenti teraz automaticky vykonávajú komplexné kroky s „funkčným kontextom“, ktorý prenáša pamäť/históriu, stav nástrojov a pracovných postupov, používanie prostredia a hranice identity/povolení.
Teraz je jednoduchšie než kedykoľvek predtým poskytovať riešenia, ako je zákaznícka podpora pre viaceré systémy, pracovné postupy predaja, interná automatizácia IT a finančné procesy so schvaľovaním a auditmi.
Keď runtime spracúva trvalú orchestráciu a stav naprieč rôznymi krokmi, tímy sa môžu sústrediť na pracovný postup a obchodnú logiku namiesto vytvárania pomocnej infraštruktúry.
Stavové úlohy sú navrhnuté tak, aby sa dlhodobo spoľahlivo realizovali a prenášali ďalej kontext a hranice riadenia potrebné na viackrokovú realizáciu.
Prostredie runtime je navrhnuté tak, aby fungovalo v rámci prostredia AWS zákazníkov a umožnilo tak jednoduché dodržiavanie existujúceho bezpečnostného nastavenia, integrácií nástrojov a pravidiel riadenia.
Začnite
Stateful Runtime v službe Amazon Bedrock bude k dispozícii už čoskoro. Ak chcete zistiť, ako to pomôže vašim procesom v oblasti AI, kontaktujte svoj tím spoločnosti OpenAI alebo požiadajte o kontakt.
