Îți prezentăm Stateful Runtime Environment pentru agenți în Amazon Bedrock

Agenții IA excelează la raționament. Partea mai dificilă este operațională: executarea fiabilă a proiectelor în mai mulți pași în timp, pe instrumente și sisteme reale, cu controalele potrivite.

Astăzi, facilităm acest lucru pentru clienți printr-un parteneriat și o colaborare comună cu Amazon pentru a livra noul Stateful Runtime Environment care rulează nativ în Amazon Bedrock, sprijinit de OpenAI. Clienții AWS vor avea acces la inteligența OpenAI livrată prin Runtime Environment, optimizată pentru infrastructura AWS și adaptată pentru fluxuri de lucru agentice, cu starea, fiabilitatea și guvernanța necesare pentru munca de producție.

Multe prototipuri de agenți bazate pe API-uri fără stare abordează cazuri de utilizare simple: o solicitare, un răspuns, poate o apelare de instrument. Munca de producție este diferită. Fluxurile de lucru reale se desfășoară în mai mulți pași, necesită context din acțiuni anterioare, depind de ieșirile mai multor instrumente, de aprobări și de starea sistemului și au nevoie de măsuri de protecție de încredere în medii securizate.

API-urile fără stare necesită construirea stratului de orchestrare de sprijin pentru agenți. Echipele de dezvoltare au responsabilitatea de a descoperi cum este stocată starea, cum sunt invocate instrumentele, cum sunt gestionate erorile și cum se reiau în siguranță sarcinile de lungă durată.

Stateful Runtime Environment este conceput în comun pentru a reduce această sarcină. Rulează în interiorul mediului tău AWS și este optimizat să funcționeze cu serviciile AWS. Acum, în loc să îmbini manual solicitări deconectate pentru ca lucrurile să funcționeze, agenții tăi execută automat pași complecși cu „context de lucru” care transferă mai departe memoria/istoricul, starea instrumentelor și a fluxului de lucru, utilizarea mediului și limitele de identitate/permisiuni.

Acum este mai ușor ca oricând să furnizezi soluții precum asistență pentru clienți pe mai multe sisteme, fluxuri de lucru pentru operațiuni de vânzări, automatizare IT internă și procese financiare cu aprobări și auditări.

Atunci când runtime-ul gestionează orchestrarea persistentă și starea pe parcursul pașilor, echipele se pot concentra pe fluxul de lucru și pe logica de business, în loc de infrastructura de bază.

Sarcinile cu stare sunt concepute să ruleze în mod fiabil în timp, transferând mai departe contextul și limitele de control necesare pentru execuția în mai mulți pași.

Timpul de execuție este conceput să funcționeze în cadrul mediului AWS al clienților pentru a respecta cu ușurință postura de securitate existentă, integrările cu instrumentele și regulile de guvernanță.

Noțiuni de bază

Stateful Runtime din Amazon Bedrock va fi disponibil în curând. Dacă vrei să afli cum te poate ajuta asta în parcursul tău cu IA, contactează echipa OpenAI sau cere să te contactăm noi.