Introducing more enterprise-grade features for API customers

અમે Klarna⁠, Morgan Stanley⁠, Oscar⁠, Salesforce⁠ અને Wix⁠ જેવી અનેક એન્ટરપ્રાઇઝ સાથે કામ કરીએ છીએ, જેથી તેઓ શરૂઆતથી AI સોલ્યુશન્સ બનાવી શકે અને તેમની સંસ્થાઓ તથા પ્રોડક્ટ્સમાં AI ને સુરક્ષિત રીતે ડિપ્લોય કરી શકે. અમે નવી સુવિધાઓ સાથે એન્ટરપ્રાઇઝ માટેનો અમારો સપોર્ટ વધુ મજબૂત બનાવી રહ્યા છીએ, જે મોટા બિઝનેસ અને અમારી પ્લેટફોર્મ પર ઝડપથી સ્કેલ કરી રહેલા કોઈપણ ડેવલપર્સ બંને માટે ઉપયોગી છે.

અમે Private Link રજૂ કર્યું છે, જે ગ્રાહકોને ઓપન ઇન્ટરનેટ પરનો એક્સ્પોઝર ઓછો કરતાં Azure અને OpenAI વચ્ચે સીધી સંચાર વ્યવસ્થા સુનિશ્ચિત કરવાની નવી રીત આપે છે. વધતી ઍક્સેસ કંટ્રોલ આવશ્યકતાઓનું પાલન સુનિશ્ચિત કરવામાં મદદ કરવા માટે અમે નેટિવ મલ્ટિ-ફેક્ટર ઓથેન્ટિકેશન⁠(નવી વિન્ડોમાં ખૂલે છે) (MFA) પણ રજૂ કર્યું છે. આ અમારી હાલની એન્ટરપ્રાઇઝ સુરક્ષા સુવિધાઓ⁠(નવી વિન્ડોમાં ખૂલે છે)ની વ્યવસ્થામાં નવા ઉમેરા છે, જેમાં SOC 2 Type II સર્ટિફિકેશન, single sign-on (SSO), AES-256 વડે સ્થિર ડેટા એન્ક્રિપ્શન અને TLS 1.2 વડે ટ્રાન્ઝિટ દરમિયાન એન્ક્રિપ્શન, તેમજ ભૂમિકા-આધારિત ઍક્સેસ કંટ્રોલ્સનો સમાવેશ થાય છે. HIPAA પાલન જરૂરી હોય તેવી હેલ્થકેર કંપનીઓ માટે અમે Business Associate Agreements⁠(નવી વિન્ડોમાં ખૂલે છે) અને યોગ્ય ઉપયોગ કેસ ધરાવતા API ગ્રાહકો માટે ઝીરો ડેટા રિટેન્શન પોલિસી પણ ઓફર કરીએ છીએ.

અમારી નવી Projects⁠(નવી વિન્ડોમાં ખૂલે છે) સુવિધા સાથે, સંસ્થાઓને OpenAI માં વ્યક્તિગત પ્રોજેક્ટ્સ પર વધુ સૂક્ષ્મ નિયંત્રણ અને દેખરેખ મળશે. તેમાં ચોક્કસ પ્રોજેક્ટ્સ માટે ભૂમિકાઓ અને API કીઓનું સ્કોપ નક્કી કરવાની, કયા મોડલ્સ ઉપલબ્ધ રાખવાના તે મર્યાદિત/મંજૂર કરવાની, અને ઍક્સેસ આપવા તથા અનપેક્ષિત વધારાના ઉપયોગથી બચવા usage- અને rate-based limits નક્કી કરવાની ક્ષમતા શામેલ છે. પ્રોજેક્ટ માલિકો પાસે service account API keys બનાવવાની ક્ષમતા પણ હશે, જે વ્યક્તિગત વપરાશકર્તા સાથે જોડાયેલાં વગર પ્રોજેક્ટ્સને ઍક્સેસ આપે છે.

વધુ ચોક્કસ retrieval, મોડલના વર્તન અને કાર્યો પૂર્ણ કરવા માટે ઉપયોગમાં લેવાતા ટૂલ્સમાં લવચીકતા, અને ખર્ચ પર વધુ સારો નિયંત્રણ આપવા માટે અમે Assistants API માં અનેક અપડેટ્સ રજૂ કર્યા છે. આ સુવિધાઓમાં સમાવેશ થાય છે.

• ‘file_search’ સાથે સુધારેલ retrieval, જે પ્રતિ assistant 10,000 સુધી ફાઇલો ingest કરી શકે છે. આ અગાઉની 20 ફાઇલ મર્યાદા કરતાં 500 ગણો વધારો છે. ટૂલ વધુ ઝડપી છે, multi-threaded searches દ્વારા parallel queries ને સપોર્ટ કરે છે, અને તેમાં સુધારેલ reranking તથા query rewriting છે.
• રિયલ-ટાઇમ, સંવાદાત્મક પ્રતિસાદ માટે streaming સપોર્ટ. આ ડેવલપર્સ અને એન્ટરપ્રાઇઝ તરફથી આવેલી ટોચની માંગણીઓમાંથી એક હતી.
  API માં નવા ‘vector_store’ objects જેથી ફાઇલો vector store માં ઉમેરાઈ શકે અને file search માટે તૈયારીરૂપે આપમેળે parse, chunk અને embed થઈ શકે. Vector stores assistants અને threadsમાં વાપરી શકાય છે, જેથી ફાઇલ મેનેજમેન્ટ અને બિલિંગ સરળ બને છે.
• દરેક run દીઠ વપરાતા ટોકન્સની મહત્તમ સંખ્યા પર નિયંત્રણ, ઉપરાંત દરેક run માં વપરાતા અગાઉના અને તાજેતરના સંદેશાઓ પર મર્યાદાઓ, જેથી તમે ટોકન ઉપયોગના ખર્ચનું સંચાલન કરી શકો.
  ચોક્કસ run માં કોઈ નિશ્ચિત ટૂલ (જેમ કે ‘file_search’, ‘code_interpreter’, અથવા ‘function’) પસંદ કરવા માટે નવો ‘tool_choice’ parameter.
• API માં fine-tuned GPT‑3.5 Turbo મોડલ્સ માટે સપોર્ટ. શરૂઆતમાં, અમે ‘gpt-3.5-turbo-0125’ ના fine-tunes ને સપોર્ટ કરીશું.

સંસ્થાઓને તેમના બજેટને વધુ ખેંચ્યા વગર તેમના AI ઉપયોગને સ્કેલ કરવામાં મદદ કરવા માટે, અમે સતત અને અસિંક્રોનસ વર્કલોડ્સ પર ખર્ચ ઘટાડવાની બે નવી રીતો ઉમેરેલી છે.

• Committed throughput પર ડિસ્કાઉન્ટેડ ઉપયોગ: GPT‑4 અથવા GPT‑4 Turbo પર પ્રતિ મિનિટ ટોકન (TPM) ઉપયોગનું સ્થિર સ્તર ધરાવતા ગ્રાહકો, પ્રતિબદ્ધતાના કદના આધારે 10–50% સુધીની છૂટ મેળવવા provisioned throughput માટે ઍક્સેસ માગી શકે છે.
• અસિંક્રોનસ વર્કલોડ્સ પર ઘટાડેલો ખર્ચ: ગ્રાહકો અમારી નવી Batch API⁠(નવી વિન્ડોમાં ખૂલે છે)નો ઉપયોગ કરીને તાત્કાલિક ન હોય એવા વર્કલોડ્સ અસિંક્રોનસ રીતે ચલાવી શકે છે. Batch API વિનંતીઓ shared કિંમતોની સરખામણીએ 50% ઓછી કિંમતે મળે છે, ઘણી વધુ rate limits આપે છે, અને 24 કલાકની અંદર પરિણામ આપે છે. મોડલ મૂલ્યાંકન, offline classification, summarization અને સિન્થેટિક ડેટા જનરેશન જેવા ઉપયોગ કેસ માટે આ આદર્શ છે.

અમે એન્ટરપ્રાઇઝ-ગ્રેડ સુરક્ષા, વહીવટી નિયંત્રણો અને ખર્ચ વ્યવસ્થાપન પર કેન્દ્રિત નવી સુવિધાઓ ઉમેરતા રહેવાની યોજના બનાવીએ છીએ. આ લોન્ચ વિશે વધુ માહિતી માટે, અમારી API documentation⁠(નવી વિન્ડોમાં ખૂલે છે) જુઓ અથવા તમારા એન્ટરપ્રાઇઝ માટે કસ્ટમ સોલ્યુશન્સ અંગે ચર્ચા કરવા અમારી ટીમનો સંપર્ક કરો⁠.