Prioritetsbearbetning för API-kunder
Prioritetsbearbetning erbjuder tillförlitlig höghastighetsprestanda med flexibiliteten att betala per användning.
Med prioritetsbearbetning får du tillgång till följande:
- Förutsägbar låg latens: Prioriterad bearbetning genererar tokens snabbare och med en mer jämn hastighet än standardbearbetningstjänsten, även under perioder med hög efterfrågan.
- Användarvänlig flexibilitet: Precis som standardbearbetning kan prioritetbearbetning användas på en flexibel, pay-as-you-go-basis istället för att kräva förskottsbetalning.
| Pris per 1 miljon indatatokens | Pris per 1 miljon indatatokens (cachade) | Pris per 1 miljon utdatatokens | Drifttid SLA3 | Latens SLA3 | |
|---|---|---|---|---|---|
GPT-5.6 Sol exkluderar lång kontext1 | 10,00 US$ | 1,00 US$ | 60,00 US$ | 99,9 % | 99 % > 50 tokens per sekund2 |
GPT-5.6 Terra exkluderar lång kontext1 | 5,00 US$ | 0,50 US$ | 30,00 US$ | 99,9 % | 99 % > 70 tokens per sekund2 |
GPT-5.6 Luna exkluderar lång kontext1 | 2,00 US$ | 0,20 US$ | 12,00 US$ | 99,9 % | 99 % > 100 tokens per sekund2 |
GPT-5.5 exkluderar lång kontext1 | 12,50 US$ | 1,250 US$ | 75,00 US$ | 99,9 % | 99 % > 50 tokens per sekund2 |
GPT-5.4 mini exkluderar lång kontext1 | 1,50 US$ | 0,150 US$ | 9,00 US$ | 99,9 % | 99 % > 100 tokens per sekund2 |
GPT-5.4 exkluderar lång kontext1 | 5,00 US$ | 0,500 US$ | 30,00 US$ | 99,9 % | 99 % > 50 tokens per sekund2 |
GPT-5.2 | 3,50 US$ | 0,350 US$ | 28,00 US$ | 99,9 % | 99 % > 50 tokens per sekund2 |
GPT-5.1 | 2,50 US$ | 0,250 US$ | 20,00 US$ | 99,9 % | 99 % > 50 tokens per sekund2 |
GPT-5 | 2,50 US$ | 0,250 US$ | 20,00 US$ | 99,9 % | 99 % > 50 tokens per sekund2 |
GPT-5 mini | 0,45 US$ | 0,045 US$ | 3,60 US$ | 99,9 % | 99 % > 80 tokens per sekund2 |
GPT-5.1 codex | 2,50 US$ | 0,250 US$ | 20,00 US$ | 99,9 % | 99 % > 50 tokens per sekund2 |
GPT-5 codex | 2,50 US$ | 0,250 US$ | 20,00 US$ | 99,9 % | 99 % > 50 tokens per sekund2 |
GPT-4.1 | 3,50 US$ | 0,875 US$ | 14,00 US$ | 99,9 % | 99 % > 80 tokens per sekund2 |
GPT-4.1 mini | 0,70 US$ | 0,175 US$ | 2,80 US$ | 99,9 % | 99 % > 90 tokens per sekund2 |
GPT-4.1 nano | 0,20 US$ | 0,050 US$ | 0,80 US$ | 99,9 % | 99 % > 100 tokens per sekund2 |
GPT-4o gpt-4o-2024-11-20 gpt-4o-2024-08-06 | 4,25 US$ | 2,125 US$ | 17,00 US$ | 99,9 % | 99 % > 80 tokens per sekund2 |
gpt-4o-2024-05-13 | 8,75 US$ | — | 26,25 US$ | 99,9 % | 99 % > 80 tokens per sekund2 |
GPT-4o mini | 0,25 US$ | 0,125 US$ | 1,00 US$ | 99,9 % | 99 % > 90 tokens per sekund2 |
o3 | 3,50 US$ | 0,875 US$ | 14,00 US$ | 99,9 % | 99 % > 80 tokens per sekund2 |
o4-mini | 2,00 US$ | 0,500 US$ | 8,00 US$ | 99,9 % | 99 % > 90 tokens per sekund2 |
1Förfrågningar uppskattade till >272 000 prompttokens
2Beräknat som medianlatens (p50) för förfrågningar under varje 5-minutersperiod. För kunder med befintliga företagsavtal som har latens-SLA:er beräknade som medianlatens (p50) för förfrågningar per minut, gäller de tidigare SLA:erna fortfarande.
3Detta gäller endast Enterprise-kunder
Så här fungerar det
Kunder kan omdirigera trafik till prioritetsbearbetning, en begäran i taget, med hjälp av den befintliga service_tier-parametern. Bara välj service_tier = “priority”.
Tokens som använder prioritetsbearbetning faktureras per token, med en högre prispunkt än standardbearbetning.
Förutom att konfigureras på begäran kan du också ange ett projekt som standard till Prioritet i Projektinställningar → Standardtjänstnivå: Prioritet. Du kan fortfarande åsidosätta för varje begäran.
Begränsningar
- Prioritetsbearbetningsgränser delas med andra tjänstenivåer.
- I sällsynta fall kan en snabb ökning av tokens för prioritetsbearbetning per minut leda till att gränser för ökningsfrekvens överskrids. Om denna gräns överskrids kan ytterligare trafik komma att skickas till standardbearbetning istället.