Introducing more enterprise-grade features for API customers
ਅਸੀਂ Klarna, Morgan Stanley, Oscar, Salesforce ਅਤੇ Wix ਵਰਗੀਆਂ ਕਈ enterprise ਸੰਸਥਾਵਾਂ ਨਾਲ ਕੰਮ ਕਰਦੇ ਹਾਂ ਤਾਂ ਜੋ ਉਨ੍ਹਾਂ ਨੂੰ ਸ਼ੁਰੂ ਤੋਂ AI ਹੱਲ ਬਣਾਉਣ ਅਤੇ ਆਪਣੀਆਂ ਸੰਸਥਾਵਾਂ ਤੇ ਉਤਪਾਦਾਂ ਵਿੱਚ ਸੁਰੱਖਿਅਤ ਢੰਗ ਨਾਲ AI ਤੈਨਾਤ ਕਰਨ ਵਿੱਚ ਮਦਦ ਕਰ ਸਕੀਏ. ਅਸੀਂ enterprise ਲਈ ਆਪਣਾ ਸਮਰਥਨ ਨਵੀਆਂ ਵਿਸ਼ੇਸ਼ਤਾਵਾਂ ਨਾਲ ਹੋਰ ਮਜ਼ਬੂਤ ਕਰ ਰਹੇ ਹਾਂ, ਜੋ ਵੱਡੇ ਕਾਰੋਬਾਰਾਂ ਅਤੇ ਸਾਡੇ ਪਲੇਟਫਾਰਮ ਉੱਤੇ ਤੇਜ਼ੀ ਨਾਲ ਸਕੇਲ ਕਰ ਰਹੇ ਕਿਸੇ ਵੀ ਡਿਵੈਲਪਰ ਦੋਹਾਂ ਲਈ ਲਾਭਦਾਇਕ ਹਨ.
ਅਸੀਂ Private Link ਪੇਸ਼ ਕੀਤਾ ਹੈ, ਜੋ ਇੱਕ ਨਵਾਂ ਤਰੀਕਾ ਹੈ ਜਿਸ ਨਾਲ ਗਾਹਕ ਖੁੱਲ੍ਹੇ ਇੰਟਰਨੈੱਟ ਨਾਲ ਸੰਪਰਕ ਘੱਟ ਤੋਂ ਘੱਟ ਰੱਖਦਿਆਂ Azure ਅਤੇ OpenAI ਵਿਚਕਾਰ ਸਿੱਧਾ ਸੰਚਾਰ ਯਕੀਨੀ ਬਣਾ ਸਕਦੇ ਹਨ. ਅਸੀਂ ਵਧਦੀਆਂ ਐਕਸੈਸ ਕੰਟਰੋਲ ਲੋੜਾਂ ਨਾਲ ਅਨੁਕੂਲਤਾ ਯਕੀਨੀ ਬਣਾਉਣ ਵਿੱਚ ਮਦਦ ਲਈ ਮੂਲ Multi-Factor Authentication(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ) (MFA) ਵੀ ਜਾਰੀ ਕੀਤੀ ਹੈ. ਇਹ ਸਾਡੀਆਂ ਮੌਜੂਦਾ enterprise security features(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ) ਦੀ ਸਟੈਕ ਵਿੱਚ ਨਵੇਂ ਸ਼ਾਮਲ ਹਨ, ਜਿਸ ਵਿੱਚ SOC 2 Type II ਸਰਟੀਫਿਕੇਸ਼ਨ, single sign-on (SSO), ਰੈਸਟ ਦੌਰਾਨ AES-256 ਨਾਲ ਅਤੇ ਟ੍ਰਾਂਜ਼ਿਟ ਦੌਰਾਨ TLS 1.2 ਨਾਲ ਡਾਟਾ ਇਨਕ੍ਰਿਪਸ਼ਨ, ਅਤੇ role-based access controls ਸ਼ਾਮਲ ਹਨ. ਅਸੀਂ ਉਹਨਾਂ ਹੈਲਥਕੇਅਰ ਕੰਪਨੀਆਂ ਲਈ Business Associate Agreements(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ) ਵੀ ਪੇਸ਼ ਕਰਦੇ ਹਾਂ ਜਿਨ੍ਹਾਂ ਨੂੰ HIPAA ਅਨੁਕੂਲਤਾ ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ, ਅਤੇ ਯੋਗ ਵਰਤੋਂ-ਮਾਮਲੇ ਵਾਲੇ API ਗਾਹਕਾਂ ਲਈ ਜ਼ੀਰੋ ਡਾਟਾ ਰਿਟੈਂਸ਼ਨ ਰਿਟੈਂਸ਼ਨ ਪਾਲਿਸੀ ਵੀ ਦਿੰਦੇ ਹਾਂ.
ਸਾਡੇ ਨਵੇਂ Projects(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ) ਫੀਚਰ ਨਾਲ, ਸੰਸਥਾਵਾਂ ਨੂੰ OpenAI ਵਿੱਚ ਵੱਖ-ਵੱਖ ਪ੍ਰੋਜੈਕਟਾਂ ਉੱਤੇ ਹੋਰ ਸੁਖਮ ਕੰਟਰੋਲ ਅਤੇ ਨਿਗਰਾਨੀ ਮਿਲੇਗੀ. ਇਸ ਵਿੱਚ ਖਾਸ ਪ੍ਰੋਜੈਕਟਾਂ ਲਈ ਭੂਮਿਕਾਵਾਂ ਅਤੇ API keys ਦੀ ਸੀਮਾ ਨਿਰਧਾਰਤ ਕਰਨ ਦੀ ਸਮਰਥਾ, ਕਿਹੜੇ ਮਾਡਲ ਉਪਲਬਧ ਕਰਨੇ ਹਨ ਉਹਨਾਂ ਨੂੰ ਰੋਕਣ/ਆਗਿਆ ਦੇਣ ਦੀ ਸਮਰਥਾ, ਅਤੇ ਐਕਸੈਸ ਦੇਣ ਅਤੇ ਅਣਉਮੀਦ ਵਾਧੂ ਵਰਤੋਂ ਤੋਂ ਬਚਣ ਲਈ ਵਰਤੋਂ-ਅਤੇ ਰੇਟ-ਆਧਾਰਿਤ ਸੀਮਾਵਾਂ ਸੈੱਟ ਕਰਨ ਦੀ ਸਮਰਥਾ ਸ਼ਾਮਲ ਹੈ. ਪ੍ਰੋਜੈਕਟ ਮਾਲਕਾਂ ਕੋਲ service account API keys ਬਣਾਉਣ ਦੀ ਸਮਰਥਾ ਵੀ ਹੋਵੇਗੀ, ਜੋ ਕਿਸੇ ਇੱਕ ਵਿਅਕਤੀਗਤ ਯੂਜ਼ਰ ਨਾਲ ਜੁੜੇ ਬਿਨਾਂ ਪ੍ਰੋਜੈਕਟਾਂ ਤੱਕ ਪਹੁੰਚ ਦਿੰਦੀਆਂ ਹਨ.
ਅਸੀਂ Assistants API ਵਿੱਚ ਕਈ ਅੱਪਡੇਟ ਪੇਸ਼ ਕੀਤੇ ਹਨ ਤਾਂ ਜੋ ਹੋਰ ਸਹੀ retrieval, ਕੰਮ ਪੂਰੇ ਕਰਨ ਲਈ ਵਰਤੇ ਜਾਣ ਵਾਲੇ ਮਾਡਲ ਵਿਹਾਰ ਅਤੇ ਟੂਲਾਂ ਦੇ ਆਲੇ-ਦੁਆਲੇ ਲਚੀਲਾਪਣ, ਅਤੇ ਲਾਗਤਾਂ ਉੱਤੇ ਹੋਰ ਵਧੀਆ ਕੰਟਰੋਲ ਮਿਲ ਸਕੇ. ਇਹਨਾਂ ਵਿਸ਼ੇਸ਼ਤਾਵਾਂ ਵਿੱਚ ਸ਼ਾਮਲ ਹਨ:
- ‘file_search’ ਨਾਲ ਸੁਧਾਰਿਆ retrieval, ਜੋ ਹਰ assistant ਲਈ 10,000 ਫਾਈਲਾਂ ਤੱਕ ਇਨਜੈਸਟ ਕਰ ਸਕਦਾ ਹੈ—ਪਿਛਲੀ 20 ਫਾਈਲਾਂ ਦੀ ਹੱਦ ਨਾਲੋਂ 500x ਵਾਧਾ. ਇਹ ਟੂਲ ਹੋਰ ਤੇਜ਼ ਹੈ, multi-threaded searches ਰਾਹੀਂ parallel queries ਦਾ ਸਮਰਥਨ ਕਰਦਾ ਹੈ, ਅਤੇ ਇਸ ਵਿੱਚ reranking ਅਤੇ query rewriting ਨੂੰ ਸੁਧਾਰਿਆ ਗਿਆ ਹੈ.
- ਰੀਅਲ-ਟਾਈਮ, ਗੱਲਬਾਤੀ ਜਵਾਬਾਂ ਲਈ streaming ਸਮਰਥਨ—ਡਿਵੈਲਪਰਾਂ ਅਤੇ enterprise ਵੱਲੋਂ ਸਭ ਤੋਂ ਵੱਧ ਮੰਗੀਆਂ ਜਾਣ ਵਾਲੀਆਂ ਵਿਸ਼ੇਸ਼ਤਾਵਾਂ ਵਿੱਚੋਂ ਇੱਕ.
API ਵਿੱਚ ਨਵੇਂ ‘vector_store’ objects, ਤਾਂ ਜੋ ਫਾਈਲਾਂ ਨੂੰ vector store ਵਿੱਚ ਜੋੜਿਆ ਜਾ ਸਕੇ ਅਤੇ file search ਦੀ ਤਿਆਰੀ ਲਈ ਆਪਣੇ ਆਪ parse, chunk ਅਤੇ embed ਕੀਤਾ ਜਾ ਸਕੇ. Vector stores ਨੂੰ assistants ਅਤੇ threads ਵਿੱਚ ਵਰਤਿਆ ਜਾ ਸਕਦਾ ਹੈ, ਜਿਸ ਨਾਲ ਫਾਈਲ ਪ੍ਰਬੰਧਨ ਅਤੇ ਬਿਲਿੰਗ ਆਸਾਨ ਹੁੰਦੀ ਹੈ. - ਹਰ run ਵਿੱਚ ਵਰਤੇ ਜਾਣ ਵਾਲੇ ਟੋਕਨ ਦੀ ਵੱਧ ਤੋਂ ਵੱਧ ਗਿਣਤੀ ਉੱਤੇ ਕੰਟਰੋਲ, ਨਾਲ ਹੀ ਹਰ run ਵਿੱਚ ਵਰਤੇ ਜਾਣ ਵਾਲੇ ਪਿਛਲੇ ਅਤੇ ਹਾਲੀਆ ਸੁਨੇਹਿਆਂ ਉੱਤੇ ਸੀਮਾਵਾਂ, ਤਾਂ ਜੋ ਤੁਸੀਂ ਟੋਕਨ ਵਰਤੋਂ ਦੀ ਲਾਗਤ ਪ੍ਰਬੰਧਿਤ ਕਰ ਸਕੋ.
ਕਿਸੇ ਖਾਸ run ਵਿੱਚ ਇੱਕ ਨਿਰਧਾਰਤ ਟੂਲ (ਜਿਵੇਂ ‘file_search’, ‘code_interpreter’, ਜਾਂ ‘function’) ਚੁਣਨ ਲਈ ਨਵਾਂ ‘tool_choice’ parameter. - API ਵਿੱਚ fine-tuned GPT‑3.5 Turbo ਮਾਡਲਾਂ ਲਈ ਸਮਰਥਨ (ਸ਼ੁਰੂ ਵਿੱਚ, ਅਸੀਂ ‘gpt-3.5-turbo-0125’ ਦੇ fine-tunes ਦਾ ਸਮਰਥਨ ਕਰਾਂਗੇ).
ਸੰਸਥਾਵਾਂ ਨੂੰ ਆਪਣੇ AI ਦੀ ਵਰਤੋਂ ਨੂੰ ਸਕੇਲ ਕਰਨ ਵਿੱਚ ਮਦਦ ਕਰਨ ਲਈ, ਬਿਨਾਂ ਆਪਣੇ ਬਜਟ ਨੂੰ ਹੱਦ ਤੋਂ ਵੱਧ ਖਿੱਚੇ, ਅਸੀਂ ਲਗਾਤਾਰ ਅਤੇ ਅਸਿੰਕਰੋਨਸ ਵਰਕਲੋਡਾਂ ਉੱਤੇ ਲਾਗਤ ਘਟਾਉਣ ਲਈ ਦੋ ਨਵੇਂ ਤਰੀਕੇ ਸ਼ਾਮਲ ਕੀਤੇ ਹਨ:
- ਕਮਿਟ ਕੀਤੇ ਥਰੂਪੁੱਟ ਉੱਤੇ ਛੂਟ ਵਾਲੀ ਵਰਤੋਂ: ਜਿਨ੍ਹਾਂ ਗਾਹਕਾਂ ਦੀ GPT‑4 ਜਾਂ GPT‑4 Turbo ਉੱਤੇ ਪ੍ਰਤੀ ਮਿੰਟ ਟੋਕਨ (TPM) ਵਰਤੋਂ ਦੀ ਸਥਿਰ ਮਾਤਰਾ ਹੈ, ਉਹ 10–50% ਤੱਕ ਦੀ ਛੂਟ ਲੈਣ ਲਈ provisioned throughput ਤੱਕ ਪਹੁੰਚ ਦੀ ਬੇਨਤੀ ਕਰ ਸਕਦੇ ਹਨ, ਜੋ ਕਮਿਟਮੈਂਟ ਦੇ ਆਕਾਰ ਦੇ ਆਧਾਰ ਉੱਤੇ ਹੁੰਦੀ ਹੈ.
- ਅਸਿੰਕਰੋਨਸ ਵਰਕਲੋਡਾਂ ਉੱਤੇ ਘੱਟ ਲਾਗਤਾਂ: ਗਾਹਕ ਸਾਡੇ ਨਵੇਂ Batch API(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ)ਦੀ ਵਰਤੋਂ ਗੈਰ-ਤੁਰੰਤ ਵਰਕਲੋਡਾਂ ਨੂੰ ਅਸਿੰਕਰੋਨਸ ਤਰੀਕੇ ਨਾਲ ਚਲਾਉਣ ਲਈ ਕਰ ਸਕਦੇ ਹਨ. Batch API ਬੇਨਤੀਆਂ ਦੀ ਕੀਮਤ ਸਾਂਝੀ ਕੀਮਤਾਂ ਨਾਲੋਂ 50% ਘੱਟ ਹੈ, ਇਹ ਕਾਫ਼ੀ ਉੱਚੀਆਂ ਰੇਟ ਲਿਮਿਟਾਂ ਦਿੰਦੀਆਂ ਹਨ, ਅਤੇ 24 ਘੰਟਿਆਂ ਅੰਦਰ ਨਤੀਜੇ ਵਾਪਸ ਕਰਦੀਆਂ ਹਨ. ਇਹ ਮਾਡਲ ਮੁਲਾਂਕਣ, ਆਫਲਾਈਨ ਵਰਗੀਕਰਨ, ਸੰਖੇਪਣ ਅਤੇ ਸਿੰਥੈਟਿਕ ਡਾਟਾ ਜਨਰੇਸ਼ਨ ਵਰਗੇ ਵਰਤੋਂ-ਮਾਮਲਿਆਂ ਲਈ ਆਦਰਸ਼ ਹੈ.
ਅਸੀਂ enterprise-grade security, ਪ੍ਰਸ਼ਾਸਕੀ ਕੰਟਰੋਲ ਅਤੇ ਲਾਗਤ ਪ੍ਰਬੰਧਨ ਉੱਤੇ ਕੇਂਦਰਿਤ ਨਵੀਆਂ ਵਿਸ਼ੇਸ਼ਤਾਵਾਂ ਜੋੜਦੇ ਰਹਿਣ ਦੀ ਯੋਜਨਾ ਬਣਾਈ ਹੈ. ਇਹਨਾਂ ਲਾਂਚਾਂ ਬਾਰੇ ਹੋਰ ਜਾਣਕਾਰੀ ਲਈ, ਸਾਡੀ API documentation(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ) ਵੇਖੋ ਜਾਂ ਆਪਣੇ enterprise ਲਈ ਕਸਟਮ ਹੱਲਾਂ 'ਤੇ ਗੱਲ ਕਰਨ ਵਾਸਤੇ ਸਾਡੀ ਟੀਮ ਨਾਲ ਸੰਪਰਕ ਕਰੋ.
