API のお客様を対象としたスケールティア

請求はスケールティアのトークン単位の初回割り当て時に開始され、毎月請求されます。請求書が毎月送信され、お支払いは後払いとなります。

請求の目的で、TPM は正時を基準に15分間隔で使用されたトークン数を平均して計算されます（例：3時ちょうどから3時15分未満、3時15分ちょうどから3時30分未満）。15分間に使用されたトークンの合計数がスケールティアで利用できるトークン数を下回っている場合、請求は行われません。たとえば、GPT‑4o を利用するため1分あたりの入力トークン数が3万トークンのスケールティアを購入した場合、追加料金なく15分間という時間の間であれば入力トークンを最大45万トークン使用できます。この上限を越えて使用されたトークンは、従量課金制の料金に基づいて請求されます。

いいえ。年間契約では、スケールティアと従量課金制の料金の割引が確実に適用されます。ただし、割引が適用されるモデルを最大限利用するか、最小限の利用に留めるかはお客様次第です。

いいえ。年間契約は、OpenAI のモデルと提供方法（従量課金制、スケールティア、Reserved Capacity）に使用できます。

GPT‑3.5 と GPT‑4 の Reserved Capacity⁠ の代わりが、GPT‑4o と GPT‑4o mini のスケールティアとなります。Reserved Capacity の有効な契約がある場合、利用した額は GPT‑4o のスケールティアに直接移行されます。

日別に集計された TPM をご覧いただけます。今後、より詳細なレベルでご確認いただけるようにするため、分析を提供させていただく予定です。現時点では、アカウントディレクターのお問い合わせの上、カスタムレポートをご依頼ください。

現時点でのレート制限は設定ページ⁠（新しいウィンドウで開く）でご確認いただけます。スケールティアのトークン単位を購入すると、対象のモデルのレート制限が購入額分自動的に増加されます。モデルを利用すると、まずスケールティアの高速クォータでリクエストが処理されます。クォータを超えると、通常の従量課金制サービスで追加のリクエストが処理されます。1分あたりの合計レート制限がスケールティアと通常の従量課金制の上限を上回った場合、さらにリクエストを行うと、通常通りエラーコード429と共にリクエストが拒否されます。

はい、Chat Completions API 内のパラメーター「service_tier」をお使いいただけます。「auto」を指定すると、利用できる場合にはスケールティアのクォータが利用されます。「default」を指定すると、従量課金制のクォータが利用されます。応答には実際にリクエストを処理したサービスを示すパラメーター「service_tier」も含まれます。値は scale か default のいずれかとなります。

キャッシュされた入力トークンは50%割引で提供します。つまり、キャッシュされた入力トークンで50,000 TPM を送信された場合、これらのトークンはクォータに対して25,000 TPM としてのみカウントされます。Prompt Caching についての詳細はこちら ↗⁠（新しいウィンドウで開く）

リリース時点でスケールティアはファインチューニングモデルに対応していません。いずれファインチューニングモデル向けにスケールティアの SKU を追加する予定ですが、料金はベースモデルの料金とは異なる予定です。

2024年後半にはスケールティアも対象に含めデータの局所性を提供する予定ですが、現時点ではデータの局所性は提供されません。