API тұтынушыларына арналған масштабтау деңгейі

Scale Tier is available on models released before GPT‑5.6. For GPT‑5.6 and future model releases, see Reserved Tier

This offering is available to Enterprise customers. Please contact our sales team⁠ to learn more. To access the same premium latency and reliability benefits on a flexible, pay-as-you-go basis, see Fast mode.

Scale Tier lets you purchase a set number of API input and output tokens per minute (known as “token units”) upfront for access to one specific model snapshot. Each token unit is purchased for a minimum of 30 days. Additional models may be added based on customer interest.

By choosing Scale Tier, you can unlock:

Predictable latency: Scale Tier is designed to generate tokens faster and at a more consistent speed than the pay-as-you-go (PAYG) service, even during peak demand.
Uncapped scale: Any quota purchases with Scale Tier is automatically added to your rate limits, so you can confidently scale further.
Higher reliability: Scale Tier traffic offers a 99.9% uptime SLA and prioritized compute.

	Енгізу бумасы	Нәтижелер бумасы	Жұмысқа қолжетімділік SLA	Кідіріс SLA
GPT-5.5	50 000 TPM 750,00 $ бірлік/күн үшін	N/A³	99,9%	99% > 100 токендер секундына²
GPT-5.4 mini	50 000 TPM 100,00 $ бірлік/күн үшін	N/A³	99,9%	99% > 100 токендер секундына²
GPT-5.4 көлемді контексті⁴қамтымайды	50 000 TPM 300,00 $ бірлік/күн үшін	N/A³	99,9%	99% > 50 токендер секундына²
GPT-5.2	25 000 TPM 105,00 $ бірлік/күн үшін	2 500 TPM 84,00 $ бірлік/күн үшін	99,9%	99% > 50 токендер секундына²
GPT-5.1	25 000 TPM 75,00 $ бірлік/күн үшін	2 500 TPM 60,00 $ бірлік/күн үшін	99,9%	99% > 50 токендер секундына²
GPT-5	25 000 TPM 75,00 $ бірлік/күн үшін	2 500 TPM 60,00 $ бірлік/күн үшін	99,9%	99% > 50 токендер секундына²
GPT-5 mini	500 000 TPM 275,00 $ бірлік/күн үшін	50 000 TPM 220,00 $ бірлік/күн үшін	99,9%	99% > 80 токендер секундына²
GPT-4.1 ұзақ контексті¹қамтымайды	30 000 TPM 110,00 $ бірлік/күн үшін	2,500 TPM 36,00 $ бірлік/күн үшін	99,9%	99% > 80 токендер секундына²
GPT-4.1 mini ұзақ контексті¹қамтымайды	500 000 TPM 450,00 $ бірлік/күн үшін	50 000 TPM 175,00 $ бірлікке/күніне	99,9%	99% > 90 токендер секундына²
GPT-4.1 nano ұзақ контексті¹қамтымайды	500 000 TPM 110,00 $ бірлік/күн үшін	50 000 TPM 40,00 $ бірлікке/күніне	99,9%	99% > 100 токендер секундына²
GPT-4.1 fine tuning	30 000 TPM 165,00 $ бірлік/күн үшін	2,500 TPM 36,00 $ бірлік/күн үшін	99,9%	99% > 80 токендер секундына²
GPT-4.1 mini fine tuning	500 000 TPM 900,00 $ бірлік/күн үшін	50 000 TPM 175,00 $ бірлікке/күніне	99,9%	99% > 90 токендер секундына²
o3	25 000 TPM 75,00 $ бірлік/күн үшін	5 000 TPM 60,00 $ бірлік/күн үшін	99,9%	99% > 80 токендер секундына²
o4-mini	30 000 TPM 50,00 $ бірлік/күн үшін	5 000 TPM 32,50 $ бірлік/күн үшін	99,9%	99% > 90 токендер секундына²
GPT-4o	30 000 TPM 124,59 $ бірлік/күн үшін	2,500 TPM 39,34 $ бірлік/күн үшін	99,9%	99% > 80 токендер секундына²
GPT-4o mini	500 000 TPM 114,75 $ бірлік/күн үшін	50 000 TPM 49,18 $ бірлікке/күніне	99,9%	99% > 90 токендер секундына²
GPT-4o mini fine tuning	500 000 TPM 229,50 $ бірлік/күн үшін	50 000 TPM 98,36 $ бірлікке/күніне	99,9%	99% > 90 токендер секундына²
o1	5 000 TPM 163,93 $ бірлік/күн үшін	1 000 TPM 131,15 $ бірлік/күн үшін	99,9%	99% > 80 токендер секундына²
o3-mini	30 000 TPM 78,69 $ бірлік/күн үшін	5 000 TPM 52,46 $ бірлік/күн үшін	99,9%	99% > 90 токендер секундына²

1Сұраныстар >128K көмексөз токендерге бағаланды

2Әр 5 минут сайын p50 сұрау кідірісі ретінде есептеледі. Кідіріс SLA-лары минут сайынғы негізде p50 сұрау кідірісі ретінде есептелетін қолданыстағы enterprise келісімдері бар тұтынушылар үшін бұрынғы SLA-лар да қолданылады.

3GPT-5.4-пен Масштабтау деңгейі минутына біріктірілген кіріс және шығыс токендер бумасы ретінде сатып алынады. Енгізу токендерін, кэштелген енгізу токендерін және шығару токендерін пайдалану осы біріктірілген буманың есебінен әртүрлі мөлшерлемелер бойынша есептеледі. Төмендегі «мұның қалай жұмыс істейтіні» бөлімін қараңыз.

4Көлемді контекст 272 мың таңбадан асады

Қалай жұмыс істейді

Масштабтау деңгейі арқылы сіз кіріс және шығыс токен бірліктерін сатып ала аласыз. Мысалы, GPT‑4.1 арқылы әрбір енгізу бірлігі күніне 110 АҚШ долларына тұрады және минутына 30 мың енгізу токенін пайдалануға мүмкіндік береді. Әрбір шығыс бірлігі күніне 36 АҚШ долларына тұрады және минутына 2,5 мың шығыс токенді пайдалануға мүмкіндік береді. Әрбір токен бірлігі кемінде 30 күнге сатып алынады.

Масштабтау деңгейінің көмексөзді кэштеумен қалай әрекеттесетіні туралы қосымша ақпаратты төмендегі ЖҚС бөлімінен табуға болады.

GPT‑5.4 және GPT‑5.5 үшін сіз кіріс пен шығыс токендерінің минутына біріктірілген санын сатып аласыз. Бұл сізге көбірек икемділік береді және кіріс пен шығыс токендерінің арақатынасын болжау қажеттілігін жояды. Масштабтау деңгейін пайдаланған кезде, біз токендерді сіздің біріктірілген токендеріңізге төмендегідей есептейміз:

Әр кіріс токені 1 деп есептеледі
Кэштелген кіріс токендері төмендегі «Жиі қойылатын сұрақтар» бөлімінде көрсетілген әр модельге арналған кэштеу тәртібіне сәйкес есептеледі
Модель үшін шығыс токендердің саны кіріс токендеріне қатысты PayG бағасы бойынша есептеледі. Мысалы, GPT‑5.4 модельінде бір шығыс токен 6 болып есептеледі.

Баға белгілеу

For billing purposes, tokens per minute (TPM) are calculated by averaging the number of tokens used in 15-minute intervals aligned to the top of the hour (e.g. 3:00 to 3:15, 3:15 to 3:30, etc). If the total tokens used within a 15-minute period is below your Scale Tier entitlement, they are not billed. For example, if you purchase Scale Tier for GPT‑4o with an entitlement of 30,000 input tokens per minute, you can use up to 450,000 input tokens in any 15-minute period without incurring additional charges. Any tokens used beyond this limit are billed at pay-as-you-go (PAYG) rates on Fast mode.

GPT‑3.5 және GPT‑4‑ке арналған резервтелген сыйымдылық⁠ GPT‑4o және GPT‑4o mini-ге арналған масштабтау деңгейімен алмастырылды. Егер сізде қолданыстағы резервтелген қуат келісімшарты болса, шығындарыңыздың сомасын GPT‑4o жүйесіндегі масштабтау деңгейіне тікелей ауыстыруға болады.

Токен бірліктері және сұраныс шектеулері

TPM көрсеткішіңізді күн бойынша жинақталған түрде көре аласыз. Болашақта біз сізге оны анағұрлым егжей-тегжейлі деңгейде қарауға мүмкіндік беретін аналитиканы ұсынамыз. Әзірше, жеке есеп алу үшін тұтынушы директорыңызбен жұмыс істесеңіз.

Ағымдағы сұраныс шектеулерін параметрлер бетіңізден⁠⁠(жаңа терезеде ашылады) көре аласыз. Масштабтау деңгейі үшін токен бірліктерін сатып алған кезде, сол модельге арналған сұраныс шектеулеріңіз сатып алу көлеміңізге қарай автоматты түрде артады. Модельді пайдаланған кезде, сұраулар алдымен жылдамырақ масштабтау деңгейі квотасы арқылы өңделеді. Квотаңыздан асып кетсеңіз, қосымша сұраулар әдеттегі standard өңдеу қызметі арқылы өңделеді. Егер масштабтау деңгейі + әдеттегі standard өңдеу шектеулері бойынша бір минут ішіндегі жалпы сұраныс шектеуінен асып кетсеңіз, кейінгі сұраныстар әдеттегідей 429 қате кодымен қабылданбайды.

Жоба параметрлерінде «Масштабтау деңгейі қосылған» ауыстырып-қосқышын қосыңыз.

Responses API шақырулары қосқыш қосулы және токендер қолжетімді болған кезде әдепкі бойынша масштабтау деңгейі токендерін тұтынады.

Completions API-ін пайдалансаңыз, оны қолмен орнату керек пе, әлде әдепкі параметрлерге сүйену керек пе екенін шешу үшін `service_tier` кілті бойынша құжаттаманы қараңыз.

Біз модельге байланысты кэштелген кіріс токендеріне әртүрлі жеңілдіктер (50%, 75% немесе 90%) ұсынамыз. Егер кэштелген токендерге 50% жеңілдік қолданылатын модельде кэштелген кіріс токендері ретінде 50 000 TPM жіберсеңіз, бұл токендер квотаңызға тек 25 000 TPM ретінде есептеледі. Егер кэштелген токендерге 75% жеңілдік қолданылатын модельде кэштелген кіріс токендері ретінде 50 000 TPM жіберсеңіз, бұл токендер квотаңызға тек 12 500 TPM ретінде есептеледі. Көмексөзді кэштеу туралы толығырақ біліңіз⁠(жаңа терезеде ашылады)

API тұтынушыларына арналған масштабтау деңгейі

Қалай жұмыс істейді

Баға белгілеу

Масштабтау деңгейі қалай тапсырыс беріліп, қамтамасыз етіледі?

Төлем қашан басталады?

Масштабтау деңгейін пайдаланып жатқанда, пайдаланғаныңызға қарай төлеу жүйесіндегі лимиттен асу төлемдері қалай есептеледі?

Егер мен жылдық міндеттеме жасасам, жұмсалған қаражатым міндетті түрде масштабтау деңгейіне қолданылуы керек пе?

Менің жылдық міндеттемем нақты бір ұсынысқа байланысты ма?

Егер мен резервтелген сыйымдылықты қолданып жүрсем, GPT-4o үшін масштабтау деңгейін қалай пайдалана аламын ба?

Токен бірліктері және сұраныс шектеулері

Масштабтау деңгейінде токен бірліктерін қалай сатып алуға болады?

TPM модулімді қалай анықтай аламын?

Жалпы сұраныс шектеулерімді қалай анықтаймын?

Шақыруларда масштабтау деңгейі токендерін пайдалануды қалай қосуға болады?

Масштабтау деңгейі көмексөзді кэштеумен қалай жұмыс істейді?

Модельдер

Басқа тәсілдер масштабтау деңгейімен қалай жұмыс істейді?

Can I automatically send my Scale Tier spill-over traffic to Fast mode?

Сенімділік

Кідіріс пен жұмыс уақыты бойынша SLA талаптарының екеуі де бұзылса, не болады?

Саясаттар

Масштабтау деңгейі үшін «Деректерді мүлде сақтамау» (ZDR) қалай жұмыс істейді?