API 顧客向けにエンタープライズグレードの機能をさらに導入
OpenAI は、Klarna、Morgan Stanley、Oscar、Salesforce、Wix など多くのエンタープライズと協力し、AI ソリューションをゼロから構築し、組織やプロダクト全体に AI を安全に導入できるよう支援しています。大企業のほか、OpenAI のプラットフォームで迅速に拡大する開発者の両者に役立つ新機能により、エンタープライズへのサポートを深めています。
オープンインターネットへの露出を最小限に抑えながら、カスタマーが Azure と OpenAI 間で直接通信できる新しい方法、「Private Link」を導入しました。また、ネイティブの多要素認証（新しいウィンドウで開く）（MFA）をリリースし、厳格化するアクセス制御要件の遵守を支援します。これらは、SOC 2 Type II 認証、シングルサインオン（SSO）、AES-256 を使用した静止時および TLS 1.2 を使用した転送時のデータ暗号化、ロールベースのアクセス制御など、当社の既存のエンタープライズセキュリティ機能（新しいウィンドウで開く）群に新たに追加されるものです。また、HIPAA コンプライアンスを必要とする医療企業向けに Business Associate Agreements（新しいウィンドウで開く）、ならびに認定ユースケースを持つ API カスタマー向けにゼロデータ保持ポリシーも提供しています。
新しい「Projects（新しいウィンドウで開く）」機能により、組織は OpenAI の個々のプロジェクトをより細かく管理・監督できるようになります。ロールと API キーを特定のプロジェクトにスコープする機能、利用可能にするモデルを制限/許可する機能、利用量と料金ベースの制限を設定してアクセス権を与え、予期しない超過を防止する機能などがあります。プロジェクトオーナーは、個々のユーザーに紐づけられることなくプロジェクトへのアクセス権を付与できるサービスアカウント API キーを作成することもできます。
OpenAI は、より正確な情報取得、モデルの動作やタスクを完了するために使用されるツールに関する柔軟性、コストのコントロール向上のために、Assistants API にいくつかのアップデートを行いました。主な特徴は以下の通りです。
- 「file_search」で情報取得を向上させたことで、アシスタントあたり最大10,000ファイルのインジェストが可能になり、これまでの制限であった20個から500倍に増加しています。このツールはより高速で、マルチスレッド検索による並列クエリをサポートし、リランキングとクエリ書き換えが強化されています。
- リアルタイムの会話型応答をストリーミングサポートしました。開発者やエンタープライズからとりわけ多かった要望に応えました。
API に「vector_store」オブジェクトを新たに追加したことで、ファイルをベクターストアに追加し、ファイル検索に備えて自動的に解析、チャンク、埋め込みができるようになりました。ベクターストアは、アシスタントやスレッドをまたいで使用でき、ファイル管理や課金を簡素化します。 - 1回の実行で使用されるトークンの最大数を制御できるほか、各実行で使用される以前および最近のメッセージを制限できるため、トークン使用コストを管理できます。
特定の実行で特定のツール（「file_search」、「code_interpreter」、「function」など）を選択するための「tool_choice」パラメーターを新たに追加しました。 - API で GPT‑3.5 Turbo ファインチューニングモデルをサポート（まずは「gpt-3.5-turbo-0125」のファインチューニングをサポートします）。
企業が予算を超過することなく AI 利用を拡大できるよう、一貫性のある非同期ワークロードのコストを削減する2種類の方法を新たに追加しました。
- コミットされたスループットに対する使用料の割引：GPT‑4 または GPT‑4 Turbo で毎分トークン（TPM）使用量が一定のカスタマーは、プロビジョニングされたスループットへのアクセスを要請し、コミットメントの規模に応じて10～50%の割引を受けることができます。
- 非同期ワークロードのコスト削減：カスタマーは新しい Batch API（新しいウィンドウで開く） を利用し、緊急でないワークロードを非同期で実行できます。Batch API リクエストは、共有価格から50%オフの料金で、レート制限が大きく緩和され、24時間以内に結果を返します。モデル評価、オフライン分類、要約、合成データ生成などのユースケースに最適です。
エンタープライズグレードのセキュリティ、管理コントロール、コスト管理に重点を置いた新機能を今後も追加していく予定です。これらのローンチについて詳しくは、API ドキュメント（新しいウィンドウで開く）をご覧いただくか、OpenAI チームまでお問い合わせのうえ、カスタムソリューションについてご相談ください。
