Trong quá trình mở rộng Codex và ChatGPT dành cho Công việc đến hàng triệu người trên toàn thế giới, chúng tôi đã hiểu được những yếu tố cần thiết để các tác nhân hoạt động dài hạn vận hành hiệu quả trong thực tế. Các tác nhân hữu ích cần một hệ thống điều khiển mạnh mẽ để quản lý ngữ cảnh, sử dụng công cụ hiệu quả và phối hợp các tác nhân con. Chúng cũng cần hạ tầng giúp duy trì hoạt động ổn định trong nhiều ngày, cùng các môi trường cho phép làm việc với tệp, chạy mã và lưu kết quả trung gian.
Hôm nay, chúng tôi giới thiệu API Agents(mở trong cửa sổ mới) dưới dạng bản beta công khai, qua đó mang hệ thống điều khiển và hạ tầng đang vận hành Codex đến với các nhà phát triển thông qua một API đơn giản, linh hoạt.
Với API Agents, bạn có thể tạo một tác nhân sẵn sàng cho môi trường sản xuất chỉ bằng một lệnh gọi API bằng cách chỉ định tác vụ, mô hình, công cụ và môi trường:
OpenAI lưu trữ và duy trì hệ thống điều khiển. Bạn chọn môi trường điện toán cho tác nhân: trong sandbox do OpenAI quản lý, trên hạ tầng riêng hoặc thông qua một trong các đối tác sandbox của chúng tôi. API Agents mang đến nền tảng vững chắc để bạn xây dựng tác nhân trên hệ thống điều khiển và hạ tầng tác nhân đã được tối ưu hóa của chúng tôi, nhờ đó bạn có thể tập trung vào các công cụ, kiến thức và quy trình tạo nên nét riêng cho tác nhân của mình.
API Agents trang bị cho tác nhân của bạn cùng hệ thống điều khiển và hạ tầng đứng sau Codex.
Mỗi khối lượng công việc cần các lựa chọn điện toán, lưu trữ và triển khai khác nhau. API Agents cho phép bạn chọn sandbox phù hợp với ứng dụng của mình.
Chúng tôi đang hợp tác với các nhà cung cấp trong hệ sinh thái(mở trong cửa sổ mới), gồm Blaxel, Cloudflare, Daytona, DigitalOcean, E2B, Modal, Oracle, Runloop và Vercel, để cung cấp khả năng tích hợp hàng đầu cho nhiều nhu cầu:
Môi trường được quản lý hoàn toàn hoặc triển khai trong VPC của bạn
Các cơ chế cụ thể để lưu trữ tệp và thông tin bí mật
Nhiều cấu hình CPU, GPU và bộ nhớ, với các đặc tính về hiệu năng, khởi động nguội và chi phí phù hợp với quy trình của công ty bạn.
API Agents cung cấp khả năng tích hợp hàng đầu với các nhà cung cấp phổ biến trong hệ sinh thái.
Đối với những nhà phát triển muốn bắt đầu nhanh chóng và mở rộng hiệu quả, chúng tôi cũng giới thiệu sandbox do OpenAI lưu trữ(mở trong cửa sổ mới). Giải pháp này tận dụng chính hạ tầng sandbox đang vận hành Codex và ChatGPT.
OpenAI cấp phát và quản lý sandbox, mang đến cho tác nhân của bạn một môi trường an toàn, hiệu năng cao để chạy mã, làm việc với tệp và tạo sản phẩm đầu ra. Bạn có thể linh hoạt cấu hình các sandbox này bằng tệp, gói, kỹ năng và phần bổ trợ của mình để cung cấp cho tác nhân mọi thứ cần thiết nhằm hoàn thành tác vụ.
Để tận dụng các năng lực mới của mô hình, bạn thường phải làm lại hệ thống điều khiển, khiến thời gian quý báu bị phân tán khỏi việc cải thiện ứng dụng. API Agents cung cấp quyền truy cập có phiên bản vào những năng lực này mỗi khi ra mắt mô hình mới. Chúng tôi duy trì và liên tục cải tiến hệ thống điều khiển song song với các mô hình, giúp tác nhân của bạn đạt hiệu năng tốt hơn sau mỗi lần nâng cấp. Ví dụ, các cải tiến gần đây đối với hệ thống điều khiển gồm:
Để hỗ trợ các mô hình làm việc trong nhiều giờ, chúng tôi đã xây dựng cơ chế quản lý ngữ cảnh giúp tác nhân duy trì thông tin liên quan xuyên suốt các phiên dài hơn. API Agents tự động nén(mở trong cửa sổ mới) phần ngữ cảnh trước đó khi một phiên gần đạt giới hạn ngữ cảnh, đồng thời giữ lại thông tin mà tác nhân cần để tiếp tục. Nhà phát triển có thể xây dựng các quy trình trải dài qua nhiều cửa sổ ngữ cảnh mà không cần tự triển khai logic Nén ngữ cảnh.
API Agents giúp tác nhân tìm đúng công cụ và sử dụng chúng hiệu quả. Tìm kiếm công cụ(mở trong cửa sổ mới) sẽ tải các định nghĩa công cụ liên quan khi cần, giúp giảm mức sử dụng token và chi phí mà vẫn duy trì bộ nhớ đệm của mô hình. Khi có sẵn công cụ, tính năng gọi công cụ bằng chương trình(mở trong cửa sổ mới) cho phép tác nhân thực hiện các lệnh gọi song song, liên kết các thao tác liên quan, đồng thời lọc hoặc kết hợp kết quả trong mã. Nhờ đó, chúng có thể xử lý khối lượng dữ liệu lớn mà chỉ đưa các kết quả liên quan trở lại ngữ cảnh. API Agents hỗ trợ MCP, các hàm tùy chỉnh và công cụ tích hợp sẵn như tìm kiếm trên web.
Với khả năng hỗ trợ nhiều tác nhân(mở trong cửa sổ mới), API Agents có thể chia tác vụ phức tạp thành các phần độc lập rồi giao cho các tác nhân con xử lý song song. Mỗi tác nhân con duy trì ngữ cảnh riêng để tập trung vào nhiệm vụ được giao, trong khi tác nhân chính điều phối công việc và tổng hợp kết quả của chúng. Cách này có thể đẩy nhanh các tác vụ nghiên cứu, phân tích và lập trình phù hợp với xử lý song song mà không đòi hỏi bạn phải tự xây dựng cơ chế điều phối.
API Agents được vận hành bằng hệ thống điều khiển Codex mã nguồn mở, giúp nhà phát triển hiểu rõ logic cốt lõi dùng để điều phối các lệnh gọi mô hình, công cụ và ngữ cảnh. Với API Agents, OpenAI vận hành và duy trì hệ thống điều khiển này, trong khi nhà phát triển có thể xem xét và học hỏi từ cơ sở mã công khai(mở trong cửa sổ mới) của hệ thống.
Agents API hiện được cung cấp dưới dạng beta công khai cho tất cả các nhà phát triển. Không có phí bổ sung khi sử dụng Agents API – bạn chỉ trả phí cho token và các công cụ mà các tác nhân của bạn sử dụng, như được nêu trên trang giá(mở trong cửa sổ mới) của chúng tôi.
Khám phá tổng quan về API Agents(mở trong cửa sổ mới) để tìm hiểu thêm hoặc xem khởi đầu nhanh(mở trong cửa sổ mới) để bắt đầu và đưa hệ thống điều khiển đứng sau Codex vào các tác nhân của riêng bạn.
Trong giai đoạn beta công khai, chúng tôi sẽ nhanh chóng điều chỉnh dựa trên phản hồi của bạn khi hướng tới việc phát hành rộng rãi. Hãy cho chúng tôi biết điều gì hiện có hiệu quả, nơi bạn gặp trở ngại và những gì bạn cần để xây dựng và vận hành các tác nhân của mình trong môi trường sản xuất.
