Amazon Bedrock のエージェント向け Stateful Runtime Environment が登場

AI エージェントは推論に優れています。課題はむしろ運用面にあります。適切な制御のもとで、実際のツールやシステムをまたいだマルチステップの業務を、長期間にわたり安定して実行することが求められます。

本日、Amazon との協業のもと、新しい Stateful Runtime Environment を発表します。本環境は OpenAI を基盤とし、Amazon Bedrock 上でネイティブに動作します。AWS のお客様は、AWS インフラ向けに最適化され、エージェントを活用するワークフローに適した Runtime Environment を通じて OpenAI のインテリジェンスにアクセスできます。このインテリジェンスは、本番業務に必要な状態管理、信頼性、ガバナンスを備えています。

ステートレス API を基にしたエージェントのプロトタイプの多くは、単純なユースケースを想定しています。1つのプロンプトに1つの回答、場合によっては1回のツール呼び出し、といった構成です。本番業務では事情が異なります。実際のワークフローは複数のステップにわたって進行します。前のアクションのコンテキストを必要とし、複数のツール出力や承認、システムの状態に依存します。さらに、セキュアな環境では信頼できる安全対策も求められます。

ステートレス API を用いる場合、エージェントを動かすためのオーケストレーション層を別途構築する必要があります。状態の保存方法、ツールの呼び出し方、エラー処理の設計、長時間実行タスクの安全な再開方法などを設計・実装する負担は、開発チームが担うことになります。

Stateful Runtime Environment は、そうした負荷を軽減することを目的に、共同で設計されています。お客様の AWS 環境内で動作し、AWS の各種サービスと連携できるよう最適化されています。これにより、エージェントを機能させるために、分断されたリクエストを手作業でつなぎ合わせる必要がなくなります。エージェントは、メモリや履歴、ツールやワークフローの状態、環境の利用状況、アイデンティティや権限の境界を保持する実行コンテキストを用いて、複雑なステップを自動的に実行します。

マルチシステムにまたがるカスタマーサポートやセールスオペレーションのワークフロー、社内 IT の自動化、承認や監査を伴う財務プロセスなどのソリューションを、これまで以上に円滑に提供できるようになります。

ランタイムがステップ間の永続的なオーケストレーションと状態管理を処理することで、チームは基盤構築ではなく、ワークフロー設計やビジネスロジックの構築に注力できます。

ステートフルなタスクは、時間の経過にわたって安定して実行できるよう設計されています。マルチステップの実行に必要なコンテキストと制御境界を保持します。

ランタイムはお客様の AWS 環境内で動作し、既存のセキュリティ体制、ツール連携、ガバナンスルールに容易に準拠できるよう設計されています。

ペアレンタル コントロールを設定する

Amazon Bedrock のエージェント向け Stateful Runtime は近日中に提供開始予定です。本機能が貴社の AI 活用全体にどのように貢献できるかをご検討の場合は、OpenAI の担当者までご連絡ください。こちらからのご連絡をご希望の場合は、その旨をお知らせください。