Ниво скалирања за API кориснике

Ниво скалирања је доступан за моделе објављене пре GPT‑5.6. За GPT‑5.6 и будућа издања модела, погледајте Резервисани ниво

Ова понуда је доступна Enterprise корисницима. Обратите се нашем продајном тиму да бисте сазнали више. Ако желите исте предности премијум латенције и поузданости уз флексибилни модел плаћања по потрошњи, погледајте Брзи режим.

Ниво скалирања вам омогућава да унапред купите одређени број улазних и излазних API токена по минуту (познатих као „јединице токена“) за приступ једном конкретном снимку модела. Свака јединица токена се купује на најмање 30 дана. Додатни модели могу се додати на основу интересовања клијената.

Избором Нивоа скалирања можете да откључате:

Предвидива латенција: Ниво скалирања је осмишљен тако да генерише токене брже и са стабилнијим временом одзива у односу на услугу плаћања по потрошњи (PAYG), чак и током периода највеће потражње.
Неограничено скалирање: Свака куповина квоте са Нивоом скалирања аутоматски се додаје вашим ограничењима стопе, тако да можете поуздано да наставите са скалирањем.
Већа поузданост: Саобраћај кроз Ниво скалирања обезбеђује SLA гаранцију доступности од 99,9% и приоритетни приступ рачунарским ресурсима.

	Пакет уноса	Пакет резултата	SLA за доступност система	Кашњење SLA
GPT-5.5	50.000 TPM 750,00 US$ по јединици/дану	Није применљиво³	99,9%	99% > 50 токена у секунди²
GPT-5.4 mini	50.000 TPM 100,00 US$ по јединици/дану	Није применљиво³	99,9%	99% > 100 токена у секунди²
GPT-5.4 искључује дугачак контекст⁴	50.000 TPM 300,00 US$ по јединици/дану	Није применљиво³	99,9%	99% > 50 токена у секунди²
GPT-5.2	25.000 TPM 105,00 US$ по јединици/дану	2.500 TPM 84,00 US$ по јединици/дану	99,9%	99% > 50 токена у секунди²
GPT-5.1	25.000 TPM 75,00 US$ по јединици/дану	2.500 TPM 60,00 US$ по јединици/дану	99,9%	99% > 50 токена у секунди²
GPT-5	25.000 TPM 75,00 US$ по јединици/дану	2.500 TPM 60,00 US$ по јединици/дану	99,9%	99% > 50 токена у секунди²
GPT-5 mini	500.000 TPM 275,00 US$ по јединици/дану	50.000 TPM 220,00 US$ по јединици/дану	99,9%	99% > 80 токена у секунди²
GPT-4.1 искључује дуги контекст¹	30.000 TPM 110,00 US$ по јединица/дан	2500 TPM 36,00 US$ по јединица/дан	99,9%	99% > 80 токена у секунди²
GPT-4.1 mini искључује дуги контекст¹	500.000 TPM 450,00 US$ по јединица/дан	50.000 TPM 175,00 US$ по јединица/дан	99,9%	99% > 90 токена у секунди²
GPT-4.1 nano искључује дуги контекст¹	500.000 TPM 110,00 US$ по јединица/дан	50.000 TPM 40,00 US$ по јединица/дан	99,9%	99% > 100 токена у секунди²
GPT-4.1 fine tuning	30.000 TPM 165,00 US$ по јединица/дан	2500 TPM 36,00 US$ по јединица/дан	99,9%	99% > 80 токена у секунди²
GPT-4.1 mini fine tuning	500.000 TPM 900,00 US$ по јединица/дан	50.000 TPM 175,00 US$ по јединица/дан	99,9%	99% > 90 токена у секунди²
o3	25.000 TPM 75,00 US$ по јединици/дану	5.000 TPM 60,00 US$ по јединици/дану	99,9%	99% > 80 токена у секунди²
o4-mini	30.000 TPM 50,00 US$ по јединици/дану	5.000 TPM 32,50 US$ по јединици/дану	99,9%	99% > 90 токена у секунди²
GPT-4o	30.000 TPM 124,59 US$ по јединица/дан	2500 TPM 39,34 US$ по јединица/дан	99,9%	99% > 80 токена у секунди²
GPT-4o mini	500.000 TPM 114,75 US$ по јединица/дан	50.000 TPM 49,18 US$ по јединица/дан	99,9%	99% > 90 токена у секунди²
GPT-4o mini fine tuning	500.000 TPM 229,50 US$ по јединица/дан	50.000 TPM 98,36 US$ по јединица/дан	99,9%	99% > 90 токена у секунди²
o1	5.000 TPM 163,93 US$ по јединици/дану	1.000 TPM 131,15 US$ по јединици/дану	99,9%	99% > 80 токена у секунди²
o3-mini	30.000 TPM 78,69 US$ по јединици/дану	5.000 TPM 52,46 US$ по јединици/дану	99,9%	99% > 90 токена у секунди²

1Захтеви процењени на више од 128.000 токена за инструкције

2Обрачунато као p50 кашњење захтева на основу интервала од 5 минута. За клијенте са постојећим уговорима за предузећа који имају SLA-ове за кашњење израчунате као p50 кашњење захтева на минутном нивоу, претходни SLA-ови су и даље применљиви.

3Уз GPT-5.4, Scale пакет се купује као пакет комбинованих улазних и излазних токена у минуту. Коришћење токена за унос, кешираних токена за унос и токена за излаз урачунава се у овај обједињени пакет по различитим тарифама. Погледајте одељак „Како функционише“ испод.

4Дуги контекст је >272K

Како то функционише

Уз Ниво скалирања можете да купите јединице улазних и излазних токена. На пример, код GPT‑4.1 свака улазна јединица кошта 110 долара дневно и омогућава вам 30.000 улазних токена у минути. Свака излазна јединица кошта 36 долара дневно и омогућава вам 2500 излазних токена у минути. Свака јединица токена купује се на период од најмање 30 дана.

Више информација о томе како Ниво скалирања функционише са Prompt Caching-ом можете пронаћи у одељку са честим питањима у наставку.

За GPT‑5.4 и GPT‑5.5 купује се комбиновани капацитет улазних и излазних токена по минуту. Ово вам даје већу флексибилност и уклања потребу да предвиђате однос улазних и излазних токена. Док користите Ниво скалирања, урачунавамо токене у ваш комбиновани број токена на следећи начин:

Улазни токени се рачунају као 1
Кеширани улазни токени прате кеширање по моделу, као што је наведено у одељку са честим питањима у наставку.
Број излазних токена на основу PayG односа цене излазних токена према цени улазних токена за модел. На пример, са GPT‑5.4 један излазни токен рачуна се као 6.

Ценовник

За потребе наплате, TPM (број токена у минути) се израчунава тако што се узима просечан број коришћених токена у 15-минутним интервалима који почињу на пун сат. (нпр. 3.00 до 3.15, 3.15 до 3.30 итд.) Ако је укупан број токена искоришћених у периоду од 15 минута мањи од онога што вам припада у оквиру Нивоа скалирања, они се не наплаћују. На пример, ако купите Ниво скалирања за GPT‑4o са правом на 30.000 улазних токена у минути, можете да користите до 450.000 улазних токена у било ком периоду од 15 минута без додатних трошкова. Сви токени искоришћени преко овог ограничења наплаћују се по тарифама PAYG (pay-as-you-go) за брзи режим.

Јединице токена и ограничења стопе

Свој TPM можете видети обједињен по данима. У будућности ћемо вам омогућити приступ аналитици која ће приказивати ове податке на много детаљнијем нивоу. За сада сарађујте са својим менаџером налога да бисте добили прилагођени извештај.

Своја тренутна ограничења стопе можете да видите на страници подешавања⁠⁠(отвара се у новом прозору). Када купите јединице токена за Ниво скалирања, ограничења стопе за тај модел ће се аутоматски повећати за количину коју сте купили. Када користите модел, захтеви ће се најпре обрађивати у оквиру ваше брже квоте за Ниво скалирања. Ако прекорачите свој квоту, додатни захтеви ће бити обрађени коришћењем редовне услуге Стандардне обраде. Ако у току једног минута премашите укупно ограничење стопе за Ниво скалирања + редовна ограничења Стандардне обраде, даљи захтеви ће бити одбијени као и обично, уз код грешке 429.

Укључите опцију „Ниво скалирања је омогућен“ у Подешавањима пројекта.

Позиви ка Responses API-ју ће подразумевано користити токене Нивоа скалирања ако је опција укључена и ако су расположиви токени доступни.

Ако користите Completions API, консултујте документацију за параметар service_tier да бисте одлучили да ли ћете га ручно подесити или користити подразумеване вредности.

Нудимо различите попусте на кеширане улазне токене (50%, 75% или 90%) у зависности од модела. Ако пошаљете 50.000 TPM кешираних улазних токена на моделу код којег се кеширани токени наплаћују са 50% попуста, ти токени ће се према вашој квоти рачунати као само 25.000 TPM. Ако пошаљете 50.000 TPM кешираних улазних токена на моделу где се кеширани токени обрачунавају уз 75% попуста, они ће се према вашој квоти рачунати као 12.500 TPM. Сазнајте више о Prompt Caching-у⁠(отвара се у новом прозору)

Ниво скалирања за API кориснике

Како то функционише

Ценовник

Како се Ниво скалирања наручује и обезбеђује?

Када почиње наплата?

Како се обрачунава прекорачење потрошње по принципу плаћања по потрошњи док користим Ниво скалирања?

Ако направим годишњу обавезу, да ли моја потрошња мора да буде усмерена на Ниво скалирања?

Да ли је моја годишња обавеза везана за одређену понуду?

Ако већ користим Резервисани капацитет, како могу да користим Ниво скалирања за GPT-4o?

Јединице токена и ограничења стопе

Како могу да купим јединице токена у Нивоу скалирања?

Како могу да проверим свој TPM (број токена по минути)?

Како да утврдим своја укупна ограничења стопе?

Како да омогућим да позиви користе токене Нивоа скалирања?

како Ниво скалирања функционише са Prompt Caching-ом

Модели

Како други модалитети функционишу уз Ниво скалирања?

Могу ли аутоматски да шаљем вишак саобраћаја са нивоа скалирања у брзи режим?

Поузданост

Шта се дешава ако се прекрше и SLA за латенцију и SLA за доступност?

Политике

Како функционише незадржавање података (ZDR) за Ниво скалирања?