Приоритетна обрада за API кориснике
Приоритетна обрада нуди поуздан и високо перформантан рад са флексибилношћу плаћања по потрошњи.
Избором приоритетне обраде можете да откључате:
- Предвидиво ниска латенција: Приоритетна обрада генерише токене брже и уједначенијом брзином од услуге стандардне обраде, чак и током највеће потражње.
- Флексибилност једноставна за коришћење: Као и стандардна обрада, приоритетна обрада доступна је на флексибилној основи плаћања по принципу „Go“, уместо да захтева унапред обезбеђивање.
| Цена по 1 м. улазних токена | Цена за 1 м. улазних токена (кеширана) | Цена за 1 м. излазних токена | SLA за доступност система3 | Кашњење SLA3 | |
|---|---|---|---|---|---|
GPT-5.6 Sol искључује дуготрајни контекст1 | 10,00 US$ | 1,00 US$ | 60,00 US$ | 99,9% | 99% > 50 токена у секунди2 |
GPT-5.6 Terra искључује дуготрајни контекст1 | 5,00 US$ | 0,50 US$ | 30,00 US$ | 99,9% | 99% > 70 токена у секунди2 |
GPT-5.6 Luna искључује дуготрајни контекст1 | 2,00 US$ | 0,20 US$ | 12,00 US$ | 99,9% | 99% > 100 токена у секунди2 |
GPT-5.5 искључује дуготрајни контекст1 | 12,50 US$ | 1,250 US$ | 75,00 US$ | 99,9% | 99% > 50 токена у секунди2 |
GPT-5.4 mini искључује дуготрајни контекст1 | 1,50 US$ | 0,150 US$ | 9,00 US$ | 99,9% | 99% > 100 токена у секунди2 |
GPT-5.4 искључује дуготрајни контекст1 | 5,00 US$ | 0,500 US$ | 30,00 US$ | 99,9% | 99% > 50 токена у секунди2 |
GPT-5.2 | 3,50 US$ | 0,350 US$ | 28,00 US$ | 99,9% | 99% > 50 токена у секунди2 |
GPT-5.1 | 2,50 US$ | 0,250 US$ | 20,00 US$ | 99,9% | 99% > 50 токена у секунди2 |
GPT-5 | 2,50 US$ | 0,250 US$ | 20,00 US$ | 99,9% | 99% > 50 токена у секунди2 |
GPT-5 mini | 0,45 US$ | 0,045 US$ | 3,60 US$ | 99,9% | 99% > 80 токена у секунди2 |
GPT-5.1 codex | 2,50 US$ | 0,250 US$ | 20,00 US$ | 99,9% | 99% > 50 токена у секунди2 |
GPT-5 codex | 2,50 US$ | 0,250 US$ | 20,00 US$ | 99,9% | 99% > 50 токена у секунди2 |
GPT-4.1 | 3,50 US$ | 0,875 US$ | 14,00 US$ | 99,9% | 99% > 80 токена у секунди2 |
GPT-4.1 mini | 0,70 US$ | 0,175 US$ | 2,80 US$ | 99,9% | 99% > 90 токена у секунди2 |
GPT-4.1 nano | 0,20 US$ | 0,050 US$ | 0,80 US$ | 99,9% | 99% > 100 токена у секунди2 |
GPT-4o gpt-4o-2024-11-20 gpt-4o-2024-08-06 | 4,25 US$ | 2,125 US$ | 17,00 US$ | 99,9% | 99% > 80 токена у секунди2 |
gpt-4o-2024-05-13 | 8,75 US$ | — | 26,25 US$ | 99,9% | 99% > 80 токена у секунди2 |
GPT-4o mini | 0,25 US$ | 0,125 US$ | 1,00 US$ | 99,9% | 99% > 90 токена у секунди2 |
o3 | 3,50 US$ | 0,875 US$ | 14,00 US$ | 99,9% | 99% > 80 токена у секунди2 |
o4-mini | 2,00 US$ | 0,500 US$ | 8,00 US$ | 99,9% | 99% > 90 токена у секунди2 |
1Захтеви процењени на више од 272.000 токена за инструкције
2Обрачунато као p50 кашњење захтева на основу интервала од 5 минута. За клијенте са постојећим уговорима за предузећа који имају SLA-ове за кашњење израчунате као p50 кашњење захтева на минутном нивоу, претходни SLA-ови су и даље применљиви.
3Ово се односи само на клијенте за предузећа
Како то функционише
Клијенти могу да усмеравају саобраћај ка приоритетној обради за сваки захтев појединачно користећи постојећи параметар service_tier, уз опцију service_tier = „priority“.
Токени обрађени путем приоритетне обраде наплаћиваће се по токену, по вишој цени у односу на цене стандардне обраде.
Поред тога што се може конфигурисати на нивоу захтева, пројекат можете подразумевано подесити на приоритет у подешавањима пројекта → Подразумевани ниво услуге: Приоритет. И даље можете да измените подешавања за сваки захтев појединачно.
Ограничења
- Ограничења стопе за приоритетну обраду деле се са другим нивоима услуге.
- У ретким случајевима, брза повећања броја ваших токена по минути за приоритетну обраду могу довести до достизања ограничења стопе повећања. Ако прекорачите ограничење стопе постепеног повећања, додатни саобраћај може уместо тога бити усмерен на стандардну обраду.