Przedstawiamy środowisko Stateful Runtime Environment dla agentów w Amazon Bedrock

Agenci AI doskonale sprawdzają się w rozumowaniu. Trudniejsza jest część operacyjna: niezawodne, długoterminowe wykonywanie wieloetapowej pracy, z użyciem rzeczywistych narzędzi i rzeczywistych systemów, przy zastosowaniu odpowiednich mechanizmów kontroli.

Dziś ułatwiam realizowanie tych funkcji klientom dzięki partnerstwu i współpracy z Amazon, co pozwoli nam zapewnić nowe środowisko Stateful Runtime Environment, które działa natywnie w Amazon Bedrock i jest obsługiwane przez OpenAI. Klienci AWS będą mieli dostęp do inteligencji OpenAI dostarczanej za pośrednictwem środowiska uruchomieniowego zoptymalizowanego pod kątem infrastruktury AWS i dostosowanego do agentowych przepływów pracy, z zachowaniem stanu, niezawodności i zasad wymaganych w zastosowaniach produkcyjnych.

Wiele prototypów agentów opartych na interfejsach stateless API radzi sobie z prostymi działaniami: jedno polecenie, jedna odpowiedź, być może jedno wywołanie narzędzia. Praca w środowisku produkcyjnym wygląda inaczej. Rzeczywiste przepływy pracy są wieloetapowe, wymagają kontekstu z poprzednich działań, zależą od wyników z wielu narzędzi, wymagają zatwierdzeń i określania stanu systemu oraz potrzebują zaufanych zabezpieczeń w bezpiecznych środowiskach.

Interfejsy stateless API wymagają opracowania wspierającej warstwy zarządzania dla agentów. Ciężar ten spoczywa na zespołach deweloperskich, których zadaniem jest ustalić, jak przechowywany jest stan, jak wywoływane są narzędzia, jak obsługiwane są błędy oraz jak bezpiecznie wznawiać długotrwałe zadania.

Środowisko Stateful Runtime Environment zostało wspólnie zaprojektowane, aby zmniejszyć to obciążenie. Działa ono w danym środowisku AWS i jest zoptymalizowane pod kątem współpracy z usługami AWS. Teraz, zamiast ręcznie łączyć ze sobą niepowiązane żądania, by wszystko działało, agenci automatycznie wykonują złożone kroki z „kontekstem roboczym”, który przenosi pamięć/historię, stan narzędzi i przepływu pracy, wykorzystanie środowiska oraz tożsamość i uprawnienia.

Teraz łatwiej niż kiedykolwiek wcześniej można dostarczać rozwiązania, takie jak wielosystemowe systemy obsługi klienta, przepływy pracy w operacjach sprzedażowych, wewnętrzne automatyzacje IT oraz procesy finansowe z zatwierdzeniami i audytami.

Gdy środowisko uruchomieniowe obsługuje trwałe zarządzanie i stan na kolejnych etapach, zespoły mogą skupić się na przepływie pracy i logice biznesowej, zamiast na infrastrukturze pomocniczej.

Zadania stanowe są zaprojektowane tak, aby działały niezawodnie w długim czasie, zachowując kontekst i granice kontroli potrzebne do wieloetapowego wykonywania.

Środowisko wykonawcze zostało zaprojektowane do działania w środowisku AWS klientów, co ułatwia zachowanie zgodności z istniejącym poziomem bezpieczeństwa, z integracjami narzędzi i zasadami nadzoru.

Rozpoczęcie

Środowisko Stateful Runtime w Amazon Bedrock będzie wkrótce dostępne. Jeśli chcesz sprawdzić, jakie korzyści zapewni to twoim systemom AI, skontaktuj się ze swoim zespołem OpenAI lub poproś o kontakt.