Presentem l’entorn d’execució amb estat per a agents a Amazon Bedrock
Els agents d’IA excel·leixen en el raonament. La part més difícil és l’operativa: executar treballs de diversos passos de manera fiable al llarg del temps, en eines i sistemes reals, amb els controls adequats.
Avui ho facilitem als clients mitjançant una associació i col·laboració conjunta amb Amazon per oferir el nou Stateful Runtime Environment que s’executa de manera nativa a Amazon Bedrock. Els clients d’AWS tindran accés al Runtime Environment, impulsat per models d’OpenAI, optimitzat per a la infraestructura d’AWS i adaptat als fluxos de treball agentius, amb l’estat, la fiabilitat i la governança necessaris per al treball en producció.
Molts prototips d’agent basats en API sense estat aborden casos d’ús simples: una indicació, una resposta, potser una crida a una eina. El treball en producció és diferent. Els fluxos de treball reals es desenvolupen en molts passos, requereixen context d’accions anteriors, depenen de múltiples resultats d’eines, aprovacions i estat del sistema, i necessiten barreres de protecció fiables en entorns segurs.
Les API sense estat requereixen construir la capa d’orquestració de suport per als agents. La càrrega recau en els equips de desenvolupament, que han d’esbrinar com s’emmagatzema l’estat, com s’invoquen les eines, com es gestionen els errors i com es reprenen amb seguretat les tasques de llarga durada.
El Stateful Runtime Environment està dissenyat conjuntament per reduir aquesta càrrega. S’executa dins del vostre entorn AWS i està optimitzat per funcionar amb els serveis d’AWS. Ara, en lloc d’unir manualment sol·licituds desconnectades perquè tot funcioni, els vostres agents executen automàticament passos complexos amb un «context de treball» que conserva memòria/historial, estat d’eines i fluxos de treball, ús de l’entorn i límits d’identitat/permisos.
Ara és més fàcil que mai oferir solucions com l’atenció al client en diversos sistemes, fluxos de treball d’operacions de vendes, automatització interna de TI i processos financers amb aprovacions i auditories.
Quan l’entorn d’execució gestiona l’orquestració persistent i l’estat entre passos, els equips poden centrar-se en el flux de treball i la lògica de negoci en lloc de la infraestructura auxiliar.
Les tasques amb estat estan dissenyades per executar-se de manera fiable al llarg del temps, mantenint el context i els límits de control necessaris per a l’execució de diversos passos.
L’entorn d’execució està dissenyat per operar dins l’entorn AWS dels clients per complir fàcilment la postura de seguretat existent, les integracions d’eines i les regles de governança.
Començar
Stateful Runtime a Amazon Bedrock estarà disponible aviat. Si voleu explorar com això pot beneficiar el vostre recorregut amb la IA, poseu-vos en contacte amb l’equip d’OpenAI o demaneu que ens hi posem en contacte.
