GPT‑3.5 Turbo અને Whisper માટે APIs રજૂ કરી રહ્યા છીએ

24 એપ્રિલ, 2024નું અપડેટ: ChatGPT API નામ હવે બંધ કરવામાં આવ્યું છે. આ બ્લોગમાં ChatGPT APIના ઉલ્લેખ GPT‑3.5 Turbo API માટે છે.

ChatGPT અને Whisper મોડલ્સ હવે અમારી API પર ઉપલબ્ધ છે, જે ડેવલપર્સને અદ્યતન ભાષા (માત્ર ચેટ નહીં.) અને speech-to-text ક્ષમતાઓ સુધી ઍક્સેસ આપે છે. સિસ્ટમ-વ્યાપી ઑપ્ટિમાઇઝેશન્સની શ્રેણી દ્વારા, અમે ડિસેમ્બરથી ChatGPT માટે 90% ખર્ચ ઘટાડો હાંસલ કર્યો છે; હવે અમે તે બચત API વપરાશકર્તાઓ સુધી પહોંચાડી રહ્યા છીએ. ડેવલપર્સ હવે અમારી ઓપન-સોર્સ Whisper large-v2 મોડલને APIમાં ઘણાં ઝડપી અને વધુ ખર્ચ-અસરકારક પરિણામો સાથે ઉપયોગ કરી શકે છે. GPT‑3.5 API વપરાશકર્તાઓ સતત મોડલ સુધારાઓ અને મોડલ્સ પર વધુ ઊંડા નિયંત્રણ માટે સમર્પિત ક્ષમતા પસંદ કરવાની વિકલ્પની અપેક્ષા રાખી શકે છે. અમે અમારા ડેવલપર્સના પ્રતિસાદને પણ ધ્યાનથી સાંભળ્યો છે અને તેમની જરૂરિયાતોને વધુ સારી રીતે પૂરી કરવા માટે અમારી API terms of serviceને સુધારી છે.

Snap Inc⁠(નવી વિન્ડોમાં ખૂલે છે)., Snapchatના સર્જકે આ અઠવાડિયે Snapchat+ માટે My AI રજૂ કર્યું. આ પ્રયોગાત્મક ફીચર GPT‑3.5 API પર ચાલે છે. My AI, Snapchattersને તેમની આંગળીઓના ટેરે એક મિત્રતાપૂર્ણ, કસ્ટમાઇઝ કરી શકાય એવો chatbot આપે છે, જે ભલામણો આપે છે અને થોડા જ સેકન્ડોમાં મિત્રો માટે haiku પણ લખી શકે છે. Snapchat, જ્યાં સંચાર અને મેસેજિંગ દૈનિક વર્તન છે, ત્યાં 750 મિલિયન માસિક Snapchatters છે:

Quizlet⁠(નવી વિન્ડોમાં ખૂલે છે) એક વૈશ્વિક લર્નિંગ પ્લેટફોર્મ છે, જેને 60 મિલિયનથી વધુ વિદ્યાર્થીઓ અભ્યાસ, પ્રેક્ટિસ અને તેઓ જે કંઈ શીખી રહ્યા હોય તેમાં નિપુણતા મેળવવા માટે ઉપયોગ કરે છે. Quizlet છેલ્લા ત્રણ વર્ષથી OpenAI સાથે કામ કરી રહ્યું છે અને શબ્દભંડોળ શીખવું તથા પ્રેક્ટિસ ટેસ્ટ્સ સહિત અનેક ઉપયોગકિસ્સાઓમાં GPT‑3 નો લાભ લઈ રહ્યું છે. GPT‑3.5 APIના લોન્ચ સાથે, Quizlet Q-Chat રજૂ કરી રહ્યું છે, એક સંપૂર્ણપણે અનુકૂળ AI ટ્યુટર, જે મજેદાર ચેટ અનુભવ દ્વારા આપવામાં આવેલી સંબંધિત અભ્યાસ સામગ્રીના આધારે અનુકૂળ પ્રશ્નો સાથે વિદ્યાર્થીઓને જોડે છે:

Instacart⁠(નવી વિન્ડોમાં ખૂલે છે) Instacart એપને વધુ સક્ષમ બનાવી રહ્યું છે જેથી ગ્રાહકો ખોરાક વિશે પૂછે અને પ્રેરણાદાયક, ખરીદી શકાય એવા જવાબો મેળવી શકે. આ ChatGPTને Instacartની પોતાની AI અને તેમના 75,000+ રિટેલ પાર્ટનર સ્ટોર લોકેશન્સમાંથી મળતા પ્રોડક્ટ ડેટા સાથે ઉપયોગ કરે છે, જેથી ગ્રાહકોને “હું ઉત્તમ fish tacos કેવી રીતે બનાવું?” અથવા “મારા બાળકો માટે સ્વસ્થ લંચ શું હોઈ શકે?” જેવા open-ended શોપિંગ લક્ષ્યો માટે વિચારો શોધવામાં મદદ મળે. Instacart આ વર્ષના અંતમાં “Ask Instacart” લોન્ચ કરવાની યોજના ધરાવે છે:

Shop⁠(નવી વિન્ડોમાં ખૂલે છે), Shopifyની કન્ઝ્યુમર એપ, 100 મિલિયન ખરીદદારો દ્વારા તેઓને ગમતા પ્રોડક્ટ્સ અને બ્રાન્ડ્સ શોધવા અને તેમની સાથે જોડાવા માટે ઉપયોગમાં લેવાય છે. GPT‑3.5 APIનો ઉપયોગ Shopના નવા shopping assistantને શક્તિ આપવા માટે થાય છે. જ્યારે ખરીદદારો પ્રોડક્ટ્સ શોધે છે, ત્યારે shopping assistant તેમની વિનંતીઓના આધારે વ્યક્તિગત ભલામણો કરે છે. Shopનો નવો AI-સંચાલિત shopping assistant લાખો પ્રોડક્ટ્સ સ્કેન કરીને ખરીદદારો શું શોધી રહ્યા છે તે ઝડપથી શોધી આપીને અથવા તેમને કંઈક નવું શોધવામાં મદદ કરીને in-app shoppingને સરળ બનાવશે:

Speak⁠(નવી વિન્ડોમાં ખૂલે છે) એક AI-સંચાલિત ભાષા શીખવાની એપ છે, જે બોલવાની પ્રવાહીતા માટે શ્રેષ્ઠ માર્ગ બનાવવામાં કેન્દ્રિત છે. દક્ષિણ કોરિયામાં તે સૌથી ઝડપથી વિકસતી અંગ્રેજી એપ છે, અને પહેલેથી જ નવા AI speaking companion પ્રોડક્ટને શક્તિ આપવા તેમજ ઝડપથી તેને વિશ્વના બાકીના ભાગ સુધી પહોંચાડવા માટે Whisper APIનો ઉપયોગ કરી રહી છે. દરેક સ્તરના ભાષા શીખનારાઓ માટે Whisperની માનવ-સ્તરની ચોકસાઇ સાચી open-ended સંવાદ પ્રેક્ટિસ અને અત્યંત ચોક્કસ પ્રતિસાદને શક્ય બનાવે છે:

મોડલ: અમે આજે રિલીઝ કરી રહેલું ChatGPT મોડલ પરિવાર, gpt-3.5-turbo, એ ChatGPT પ્રોડક્ટમાં ઉપયોગ થતું એ જ મોડલ છે. તેની કિંમત પ્રતિ 1k ટોકન્સ $0.002 છે, જે અમારા હાલના GPT‑3.5 મોડલ્સ કરતાં 10x સસ્તી છે. ઘણા non-chat ઉપયોગકિસ્સાઓ માટે પણ આ અમારું શ્રેષ્ઠ મોડલ છે. અમે જોયું છે કે શરૂઆતના ટેસ્ટર્સે તેમના પ્રોમ્પ્ટ્સમાં ખૂબ ઓછી સમાયોજન સાથે text-davinci-003માંથી gpt-3.5-turboમાં માઇગ્રેટ કર્યું છે.

API: પરંપરાગત રીતે, GPT મોડલ્સ અરુપરચિત ટેક્સ્ટ લે છે, જેને મોડલ માટે “ટોકન્સ”ની શ્રેણી તરીકે રજૂ કરવામાં આવે છે. તેના બદલે ChatGPT મોડલ્સ મેટાડેટા સાથે સંદેશાઓની શ્રેણી લે છે. (જિજ્ઞાસુઓ માટે: અંદરખાને, ઇનપુટ હજી પણ મોડલ માટે “ટોકન્સ”ની શ્રેણી તરીકે જ રેન્ડર થાય છે; મોડલ દ્વારા ઉપયોગમાં લેવાતું કાચું ફૉર્મેટ Chat Markup Language⁠(નવી વિન્ડોમાં ખૂલે છે) (“ChatML”) નામનું નવું ફૉર્મેટ છે.)

અમારા ChatGPT મોડલ્સ સાથે ઇન્ટરેક્ટ કરવા માટે અમે એક નવું એન્ડપોઇન્ટ બનાવ્યું છે:

GPT‑3.5 API વિશે વધુ જાણવા માટે, અમારી Chat માર્ગદર્શિકા જુઓ⁠(નવી વિન્ડોમાં ખૂલે છે).

અમે અમારા ChatGPT મોડલ્સમાં સતત સુધારો કરી રહ્યા છીએ, અને આ સુધારાઓ ડેવલપર્સને પણ ઉપલબ્ધ કરાવવા માંગીએ છીએ. gpt-3.5-turbo મોડલનો ઉપયોગ કરનારા ડેવલપર્સને હંમેશા અમારું ભલામણ કરેલું સ્થિર મોડલ મળશે, સાથે જ ચોક્કસ મોડલ વર્ઝન પસંદ કરવાની લવચીકતા પણ રહેશે. ઉદાહરણ તરીકે, આજે અમે gpt-3.5-turbo-0301 રિલીઝ કરી રહ્યા છીએ, જેને ઓછામાં ઓછું 1 જૂન સુધી સપોર્ટ મળશે, અને અમે એપ્રિલમાં gpt-3.5-turboને નવા સ્થિર રિલીઝ પર અપડેટ કરીશું. models page⁠(નવી વિન્ડોમાં ખૂલે છે) સ્વિચઓવર અપડેટ્સ પ્રદાન કરશે.

હવે અમે એવા વપરાશકર્તાઓ માટે સમર્પિત ઇન્સ્ટાન્સેસ પણ ઓફર કરી રહ્યા છીએ, જેઓ ચોક્કસ મોડલ વર્ઝન અને સિસ્ટમ પરફોર્મન્સ પર વધુ ઊંડું નિયંત્રણ ઇચ્છે છે. ડિફૉલ્ટ રૂપે, વિનંતીઓ અન્ય વપરાશકર્તાઓ સાથે શેર કરાયેલ compute infrastructure પર ચલાવવામાં આવે છે, જે પ્રતિ વિનંતી ચૂકવણી કરે છે. અમારી API Azure પર ચાલે છે, અને સમર્પિત ઇન્સ્ટાન્સેસ સાથે, ડેવલપર્સ તેમની વિનંતીઓને સેવા આપવા માટે આરક્ષિત compute infrastructureના ફાળવણી માટે સમયગાળા પ્રમાણે ચૂકવણી કરશે.

ડેવલપર્સને ઇન્સ્ટાન્સના લોડ પર સંપૂર્ણ નિયંત્રણ મળે છે (વધુ લોડ થ્રૂપુટ સુધારે છે પરંતુ દરેક વિનંતી ધીમી બનાવે છે), લાંબી context limits જેવી સુવિધાઓ સક્રિય કરવાની વિકલ્પ મળે છે, અને મોડલ snapshotને pin કરવાની ક્ષમતા મળે છે.

દિવસે આશરે ~450M ટોકન્સથી વધુ ચલાવતા ડેવલપર્સ માટે સમર્પિત ઇન્સ્ટાન્સેસ આર્થિક રીતે યોગ્ય બની શકે છે. ઉપરાંત, તે ડેવલપરના વર્કલોડને સીધું hardware performance સામે ઑપ્ટિમાઇઝ કરવાની સગવડ આપે છે, જે શેર કરાયેલ infrastructureની સરખામણીમાં ખર્ચમાં નોંધપાત્ર ઘટાડો કરી શકે છે. સમર્પિત ઇન્સ્ટાન્સ વિશે પૂછપરછ માટે, અમારો સંપર્ક કરો⁠.

Whisper⁠, સપ્ટેમ્બર 2022માં અમે ઓપન-સોર્સ કરેલું speech-to-text મોડલ,ને ડેવલપર સમુદાય તરફથી ભારે પ્રશંસા મળી છે, પરંતુ તેને ચલાવવું મુશ્કેલ પણ હોઈ શકે છે. હવે અમે large-v2 મોડલને અમારી API દ્વારા ઉપલબ્ધ બનાવ્યું છે, જે $0.006 / મિનિટના દરે અનુકૂળ on-demand ઍક્સેસ આપે છે. ઉપરાંત, અમારી અત્યંત-ઓપ્ટિમાઇઝ્ડ સર્વિંગ સ્ટૅક અન્ય સેવાઓની સરખામણીમાં વધુ ઝડપી પરફોર્મન્સ સુનિશ્ચિત કરે છે.

Whisper API અમારી transcriptions (સ્રોત ભાષામાં ટ્રાન્સક્રાઇબ કરે છે) અથવા translations (અંગ્રેજીમાં ટ્રાન્સક્રાઇબ કરે છે) એન્ડપોઇન્ટ્સ દ્વારા ઉપલબ્ધ છે, અને વિવિધ ફોર્મેટ્સ સ્વીકારે છે (m4a, mp3, mp4, mpeg, mpga, wav, webm):

Whisper API વિશે વધુ જાણવા માટે, અમારી Speech to Text માર્ગદર્શિકા જુઓ⁠(નવી વિન્ડોમાં ખૂલે છે).

ગયા છ મહિનામાં, અમે અમારા API ગ્રાહકો પાસેથી પ્રતિસાદ એકત્રિત કરી રહ્યા છીએ જેથી અમે તેમને વધુ સારી રીતે કેવી રીતે સેવા આપી શકીએ તે સમજી શકીએ. અમે કેટલાક ઠોસ ફેરફારો કર્યા છે, જેમ કે:

• API દ્વારા સબમિટ કરાયેલ ડેટાનો હવે સેવા સુધારાઓ માટે ઉપયોગ થતો નથી (મોડલ ટ્રેનિંગ સહિત), જો સુધી સંસ્થા opt in ન કરે
• API વપરાશકર્તાઓ માટે ડિફૉલ્ટ 30-દિવસની ડેટા રિટેન્શન પોલિસી અમલમાં મૂકવી, તેમજ વપરાશકર્તાની જરૂરિયાતોને આધારે વધુ કડક રિટેન્શન માટે વિકલ્પો આપવાં.
• અમારી pre-launch review દૂર કરવી (અમારા automated monitoringમાં સુધારો કરીને અનલૉક કરેલું)
• ડેવલપર દસ્તાવેજીકરણમાં સુધારો કરવો
• ડેટા માલિકી સંબંધિત શરતો સહિત, અમારી Terms of Service and Usage Policies⁠(નવી વિન્ડોમાં ખૂલે છે)ને સરળ બનાવવી: વપરાશકર્તાઓ મોડલ્સના ઇનપુટ અને આઉટપુટના માલિક છે.

ગયા બે મહિનાથી અમારી uptime અમારી પોતાની અપેક્ષાઓ અને અમારા વપરાશકર્તાઓની અપેક્ષાઓ મુજબ રહી નથી. હવે અમારી એન્જિનિયરિંગ ટીમની સર્વોચ્ચ પ્રાથમિકતા પ્રોડક્શન ઉપયોગકિસ્સાઓની સ્થિરતા છે. અમે જાણીએ છીએ કે AIનો લાભ સમગ્ર માનવજાતને મળે તે સુનિશ્ચિત કરવા માટે વિશ્વસનીય સેવા પ્રદાતા બનવું જરૂરી છે. આવનારા મહિનાઓમાં સુધારેલી uptime માટે અમને જવાબદાર ઠેરવો.

અમારો વિશ્વાસ છે કે AI દરેકને અદ્ભુત તકો અને આર્થિક સશક્તિકરણ આપી શકે છે, અને તે હાંસલ કરવાની શ્રેષ્ઠ રીત એ છે કે દરેકને તેની સાથે બનાવવાની છૂટ મળે. અમે આશા રાખીએ છીએ કે આજે જાહેર કરેલા ફેરફારો એવા અનેક એપ્લિકેશન્સ તરફ દોરી જશે જેના લાભ સૌ કોઈ લઈ શકે. ChatGPT & Whisper દ્વારા સંચાલિત આગામી પેઢીની એપ્સ બનાવવાનું શરૂ કરો.