Memperkenalkan Stateful Runtime Environment untuk Agen dalam Amazon Bedrock

Ejen AI cemerlang dalam penaakulan. Bahagian yang lebih sukar ialah operasi: menjalankan kerja berbilang langkah dan boleh dipercayai dari semasa ke semasa, merentasi alat dan sistem sebenar, dengan kawalan yang betul.

Hari ini, kami memudahkan perkara ini untuk pelanggan melalui perkongsian dan kerjasama bersama dengan Amazon untuk menyampaikan Stateful Runtime Environment baharu yang berjalan secara asli dalam Amazon Bedrock. Pelanggan AWS akan mempunyai akses kepada Stateful Runtime Environment, yang dikuasakan oleh model OpenAI, dioptimumkan untuk infrastruktur AWS dan disesuaikan untuk aliran kerja agentic, dengan keadaan, kebolehpercayaan dan tadbir urus yang diperlukan untuk kerja pengeluaran.

Banyak prototaip ejen berasaskan API tanpa status menangani kes penggunaan yang ringkas: satu prom, satu jawapan, mungkin satu panggilan alat. Kerja pengeluaran adalah berbeza. Aliran kerja sebenar berlaku merentasi banyak langkah, memerlukan konteks daripada tindakan sebelumnya, bergantung pada output berbilang alat, kelulusan, dan keadaan sistem, serta memerlukan pagar pengawal yang dipercayai dalam persekitaran selamat.

API tanpa keadaan memerlukan pembinaan lapisan orkestrasi sokongan untuk ejen. Beban terletak pada pasukan pembangunan untuk mengetahui cara keadaan disimpan, cara alat digunakan, cara ralat dikendalikan, dan cara tugas jangka panjang disambung semula dengan selamat.

Stateful Runtime Environment direka bersama untuk mengurangkan beban tersebut. Ia berjalan di dalam persekitaran AWS anda dan dioptimumkan untuk berfungsi dengan perkhidmatan AWS. Kini, daripada menyambung secara manual permintaan yang terputus-putus untuk menjadikan semuanya berfungsi, ejen anda secara automatik melaksanakan langkah kompleks dengan “konteks kerja” yang membawa memori/sejarah ke hadapan, keadaan alat dan aliran kerja, penggunaan persekitaran, serta sempadan identiti/kebenaran.

Kini lebih mudah daripada sebelumnya untuk menyampaikan penyelesaian seperti sokongan pelanggan berbilang sistem, aliran kerja operasi jualan, automasi IT dalaman, dan proses kewangan dengan kelulusan dan audit.

Apabila runtime mengendalikan orkestrasi berterusan dan mengekalkan keadaan merentasi langkah, pasukan boleh menumpukan pada aliran kerja dan logik perniagaan dan bukannya perancah.

Tugas berkeadaan direka untuk berjalan dengan kebolehpercayaan dari semasa ke semasa, membawa konteks dan sempadan kawalan yang diperlukan untuk pelaksanaan berbilang langkah.

Runtime direka untuk beroperasi dalam persekitaran AWS pelanggan bagi memudahkan pematuhan terhadap postur keselamatan sedia ada, integrasi alat, dan peraturan tadbir urus.

Memulakan

Stateful Runtime dalam Amazon Bedrock akan tersedia tidak lama lagi. Jika anda ingin menerokai bagaimana ini akan memberi manfaat kepada perjalanan AI anda, sila hubungi pasukan OpenAI anda atau minta untuk dihubungi.