Giới thiệu Stateful Runtime Environment for Agents trong Amazon Bedrock
Các tác nhân AI xuất sắc trong việc lý luận. Phần khó hơn là hoạt động: chạy công việc nhiều bước một cách đáng tin cậy theo thời gian, trên các công cụ thực tế và hệ thống thực, với các điều khiển phù hợp.
Hôm nay, chúng tôi đang giúp khách hàng thực hiện điều này dễ dàng hơn thông qua quan hệ đối tác và hợp tác chung với Amazon để cung cấp Stateful Runtime Environment có trạng thái mới chạy nguyên bản trong Amazon Bedrock, được hỗ trợ bởi OpenAI. Khách hàng AWS sẽ có quyền truy cập vào trí thông minh OpenAI được cung cấp thông qua Môi trường thời gian chạy, được tối ưu hóa cho cơ sở hạ tầng AWS và được điều chỉnh cho quy trình công việc đại lý, với trạng thái, độ tin cậy và quản trị cần thiết cho công việc sản xuất.
Nhiều nguyên mẫu tác nhân dựa trên API không trạng thái giải quyết các trường hợp sử dụng đơn giản: một câu lệnh, một câu trả lời, và có thể một lệnh gọi công cụ. Công việc sản xuất thì khác. Các quy trình làm việc thực tế diễn ra qua nhiều bước, đòi hỏi ngữ cảnh từ các hành động trước đó, phụ thuộc vào nhiều kết quả đầu ra của công cụ, sự phê duyệt và trạng thái hệ thống, đồng thời cần có các biện pháp bảo vệ đáng tin cậy trong môi trường an toàn.
Các API không trạng thái yêu cầu xây dựng lớp điều phối hỗ trợ cho các tác nhân. Gánh nặng đặt lên các nhóm phát triển trong việc tìm hiểu cách trạng thái được lưu trữ, cách các công cụ được gọi, cách lỗi được xử lý và cách các tác vụ chạy dài tiếp tục an toàn.
Stateful Runtime Environment được thiết kế chung để giảm tải đó. Nó hoạt động bên trong môi trường AWS của bạn và được tối ưu hóa để hoạt động với các dịch vụ AWS. Giờ đây, thay vì phải thủ công ghép nối các yêu cầu rời rạc để mọi thứ hoạt động, các tác nhân của bạn tự động thực thi các bước phức tạp với “ngữ cảnh làm việc” mang theo bộ nhớ/lịch sử, trạng thái công cụ và quy trình công việc, việc sử dụng môi trường, và các ranh giới về danh tính/quyền.
Giờ đây, việc cung cấp các giải pháp như hỗ trợ khách hàng đa hệ thống, quy trình hoạt động bán hàng, tự động hóa CNTT nội bộ và quy trình tài chính với phê duyệt và kiểm toán trở nên dễ dàng hơn bao giờ hết.
Khi thời gian chạy xử lý sự sắp xếp liên tục và trạng thái giữa các bước, các nhóm có thể tập trung vào quy trình làm việc và logic kinh doanh thay vì giàn giáo.
Các tác vụ trạng thái được thiết kế để chạy đáng tin cậy theo thời gian, chuyển tiếp ngữ cảnh và ranh giới kiểm soát cần thiết để thực hiện nhiều bước.
Thời gian chạy được thiết kế để hoạt động trong môi trường AWS của khách hàng để dễ dàng tuân thủ tư thế bảo mật hiện có, tích hợp công cụ và quy tắc quản trị.
"Bắt đầu"
Thời gian chạy trạng thái trong Amazon Bedrock sẽ sớm có sẵn. Nếu bạn muốn khám phá cách điều này sẽ mang lại lợi ích cho hành trình AI của mình, hãy liên hệ với nhóm OpenAI của bạn hoặc yêu cầu được liên hệ.
