API ગ્રાહકો માટે પ્રાયોરિટી પ્રોસેસિંગ
પ્રાયોરિટી પ્રોસેસિંગ વિશ્વસનીય, હાઈ-સ્પીડ પર્ફોર્મન્સ આપે છે, જેમાં પે-એઝ-યુ-ગોની સુગમતા મળે છે.
પ્રાયોરિટી પ્રોસેસિંગ પસંદ કરીને, તમે નીચેની સુવિધાઓ મેળવી શકો છો:
- અનુમાનિત રીતે ઓછી લેટન્સી: પ્રાયોરિટી પ્રોસેસિંગ, પછી ભલે માંગ સૌથી વધુ હોય, સ્ટાન્ડર્ડ પ્રોસેસિંગ સેવા કરતાં વધુ ઝડપથી અને વધુ સુસંગત ઝડપે ટોકન જનરેટ કરે છે.
- ઉપયોગમાં સરળ સુગમતા: સ્ટાન્ડર્ડ પ્રોસેસિંગની જેમ, પ્રાયોરિટી પ્રોસેસિંગને અગાઉથી પ્રોવિઝનિંગની જરૂરિયાત વિના, સુગમ પે-એઝ-યુ-ગો ધોરણે એક્સેસ કરી શકાય છે.
| 1M ઇનપુટ ટોકન દીઠ ભાવ | 1M ઇનપુટ ટોકન દીઠ ભાવ (કૅશ કરેલ) | 1M આઉટપુટ ટોકન દીઠ ભાવ | અપટાઇમ એસએલએ3 | લેટન્સી એસએલએ3 | |
|---|---|---|---|---|---|
GPT-5.6 Sol લાંબા સંદર્ભને સમાવેશ કરશો નહીં1 | US$10.00 | US$1.00 | US$60.00 | 99.9% | 99% > 50 ટોકન્સ પ્રતિ સેકન્ડ2 |
GPT-5.6 Terra લાંબા સંદર્ભને સમાવેશ કરશો નહીં1 | US$5.00 | US$0.50 | US$30.00 | 99.9% | 99% > 70 ટોકન્સ પ્રતિ સેકન્ડ2 |
GPT-5.6 Luna લાંબા સંદર્ભને સમાવેશ કરશો નહીં1 | US$2.00 | US$0.20 | US$12.00 | 99.9% | 99% > 100 ટોકન્સ પ્રતિ સેકન્ડ2 |
GPT-5.5 લાંબા સંદર્ભને સમાવેશ કરશો નહીં1 | US$12.50 | US$1.250 | US$75.00 | 99.9% | 99% > 50 ટોકન્સ પ્રતિ સેકન્ડ2 |
GPT-5.4 mini લાંબા સંદર્ભને સમાવેશ કરશો નહીં1 | US$1.50 | US$0.150 | US$9.00 | 99.9% | 99% > 100 ટોકન્સ પ્રતિ સેકન્ડ2 |
GPT-5.4 લાંબા સંદર્ભને સમાવેશ કરશો નહીં1 | US$5.00 | US$0.500 | US$30.00 | 99.9% | 99% > 50 ટોકન્સ પ્રતિ સેકન્ડ2 |
GPT-5.2 | US$3.50 | US$0.350 | US$28.00 | 99.9% | 99% > 50 ટોકન્સ પ્રતિ સેકન્ડ2 |
GPT-5.1 | US$2.50 | US$0.250 | US$20.00 | 99.9% | 99% > 50 ટોકન્સ પ્રતિ સેકન્ડ2 |
GPT-5 | US$2.50 | US$0.250 | US$20.00 | 99.9% | 99% > 50 ટોકન્સ પ્રતિ સેકન્ડ2 |
GPT-5 mini | US$0.45 | US$0.045 | US$3.60 | 99.9% | 99% > 80 ટોકન્સ પ્રતિ સેકન્ડ2 |
GPT-5.1 codex | US$2.50 | US$0.250 | US$20.00 | 99.9% | 99% > 50 ટોકન્સ પ્રતિ સેકન્ડ2 |
GPT-5 codex | US$2.50 | US$0.250 | US$20.00 | 99.9% | 99% > 50 ટોકન્સ પ્રતિ સેકન્ડ2 |
GPT-4.1 | US$3.50 | US$0.875 | US$14.00 | 99.9% | 99% > 80 ટોકન્સ પ્રતિ સેકન્ડ2 |
GPT-4.1 mini | US$0.70 | US$0.175 | US$2.80 | 99.9% | 99% > 90 ટોકન્સ પ્રતિ સેકન્ડ2 |
GPT-4.1 nano | US$0.20 | US$0.050 | US$0.80 | 99.9% | 99% > 100 ટોકન્સ પ્રતિ સેકન્ડ2 |
GPT-4o gpt-4o-2024-11-20 gpt-4o-2024-08-06 | US$4.25 | US$2.125 | US$17.00 | 99.9% | 99% > 80 ટોકન્સ પ્રતિ સેકન્ડ2 |
gpt-4o-2024-05-13 | US$8.75 | — | US$26.25 | 99.9% | 99% > 80 ટોકન્સ પ્રતિ સેકન્ડ2 |
GPT-4o mini | US$0.25 | US$0.125 | US$1.00 | 99.9% | 99% > 90 ટોકન્સ પ્રતિ સેકન્ડ2 |
o3 | US$3.50 | US$0.875 | US$14.00 | 99.9% | 99% > 80 ટોકન્સ પ્રતિ સેકન્ડ2 |
o4-mini | US$2.00 | US$0.500 | US$8.00 | 99.9% | 99% > 90 ટોકન્સ પ્રતિ સેકન્ડ2 |
1>272K પ્રોમ્પ્ટ ટોકન પર અંદાજિત વિનંતીઓ
2દર 5 મિનિટના આધારે પી50 વિનંતી લેટન્સી તરીકે ગણતરી કરવામાં આવે છે. જે ગ્રાહકો પાસે હાલના એન્ટરપ્રાઈઝ એગ્રિમેન્ટ્સ છે અને જેમના લેટેન્સી એસએલએ પ્રતિ મિનિટના આધારે પી50 વિનંતી લેટેન્સી તરીકે ગણવામાં આવે છે, તેમના માટે અગાઉના એસએલએ પણ હજુ લાગુ પડે છે.
3આ ફક્ત એન્ટરપ્રાઇઝ ગ્રાહકો માટે જ લાગુ પડે છે
આ કેવી રીતે કામ કરે છે
ગ્રાહકો હાલના service_tier પેરામીટરનો ઉપયોગ કરીને દરેક વિનંતી માટે ટ્રાફિકને પ્રાયોરિટી પ્રોસેસિંગ તરફ દોરી શકે છે, વિકલ્પ તરીકે service_tier = “priority” પસંદ કરીને.
પ્રાયોરિટી પ્રોસેસિંગ દ્વારા સેવા અપાયેલા ટોકનનું બિલ પ્રતિ-ટોકન આધારે કરવામાં આવશે, જે સ્ટાન્ડર્ડ પ્રોસેસિંગ દરોની તુલનામાં પ્રીમિયમ કિંમતે હશે.
વિનંતી સ્તરે કૉન્ફિગર કરવાના ઉપરાંત, તમે પ્રોજેક્ટ સેટિંગ્સ → ડિફૉલ્ટ સેવાનું સ્તર: પ્રાયોરિટીમાં પ્રોજેક્ટને ડિફૉલ્ટ રૂપે પ્રાથમિકતા પર પણ સેટ કરી શકો છો. તમે હજુ પણ દરેક વિનંતી માટે ઓવરરાઇડ કરી શકો છો.
મર્યાદા
- પ્રાયોરિટી પ્રોસેસિંગની દર મર્યાદા અન્ય સેવાના સ્તરો સાથે શેર કરવામાં આવે છે.
- દુર્લભ કિસ્સાઓમાં, તમારા પ્રાયોરિટી પ્રોસેસિંગ માટેના મિનિટ દીઠ ટોકનના ઝડપી વધારો રેમ્પ દર મર્યાદા સુધી પહોંચવાની સ્થિતિ બની શકે છે. જો તમે રેમ્પ દર મર્યાદા ઓળંગી જાઓ છો, તો વધારાનો ટ્રાફિક તેના બદલે સ્ટાન્ડર્ડ પ્રોસેસિંગ પર મોકલવામાં આવી શકે છે.