Memperkenalkan Stateful Runtime Environment for Agents di Amazon Bedrock

Agen AI unggul dalam penalaran. Bagian yang lebih sulit bersifat operasional: menjalankan pekerjaan multi-langkah dengan andal dari waktu ke waktu, di berbagai alat nyata dan sistem nyata, dengan kontrol yang tepat.

Hari ini, kami mempermudah hal ini bagi pelanggan melalui kemitraan dan kolaborasi bersama dengan Amazon untuk menghadirkan Stateful Runtime Environment baru yang berjalan secara native di Amazon Bedrock, didukung oleh OpenAI. Pelanggan AWS akan memiliki akses ke kecerdasan OpenAI yang disampaikan melalui Runtime Environment, dioptimalkan untuk infrastruktur AWS dan disesuaikan untuk alur kerja agentik, dengan status, keandalan, dan tata kelola yang diperlukan untuk pekerjaan produksi.

Banyak prototipe agen berbasis API stateless menangani kasus penggunaan sederhana: satu prompt, satu jawaban, mungkin satu panggilan alat. Pekerjaan produksi berbeda. Alur kerja nyata berlangsung melalui banyak langkah, memerlukan konteks dari tindakan sebelumnya, bergantung pada output dari beberapa alat, persetujuan, dan status sistem, serta membutuhkan pengaman tepercaya di lingkungan yang aman.

API stateless mengharuskan pembangunan lapisan orkestrasi pendukung untuk agen. Beban ada pada tim pengembangan untuk mencari tahu bagaimana status disimpan, bagaimana alat dipanggil, bagaimana kesalahan ditangani, dan bagaimana tugas yang berjalan lama dilanjutkan dengan aman.

Stateful Runtime Environment dirancang bersama-sama untuk mengurangi beban tersebut. Lingkungan ini berjalan di dalam lingkungan AWS Anda dan dioptimalkan untuk bekerja dengan layanan AWS. Sekarang, alih-alih menggabungkan permintaan yang terputus secara manual agar semuanya berfungsi, agen Anda secara otomatis mengeksekusi langkah-langkah kompleks dengan "konteks kerja" yang membawa serta memori/riwayat, status alat dan alur kerja, penggunaan lingkungan, serta batasan identitas/izin.

Kini, lebih mudah dari sebelumnya untuk menghadirkan solusi seperti dukungan pelanggan multi-sistem, alur kerja operasi penjualan, automasi TI internal, dan proses keuangan dengan persetujuan dan audit.

Ketika runtime menangani orkestrasi dan status persisten di seluruh tahapan, tim dapat fokus pada alur kerja dan logika bisnis alih-alih membuat kerangka kerja.

Tugas stateful dirancang untuk berjalan dengan andal dari waktu ke waktu, membawa konteks dan batasan kontrol yang diperlukan untuk eksekusi multi-langkah.

Runtime dirancang untuk beroperasi dalam lingkungan AWS pelanggan agar mudah mematuhi postur keamanan, integrasi alat bantu, dan aturan tata kelola yang ada.

Memulai

Stateful Runtime di Amazon Bedrock akan segera tersedia. Jika Anda ingin mengetahui bagaimana hal ini akan bermanfaat bagi perjalanan penggunaan AI Anda, silakan hubungi tim OpenAI Anda atau ajukan permintaan untuk dihubungi.