OpenAI API

ਅਸੀਂ OpenAI ਵੱਲੋਂ ਵਿਕਸਿਤ ਕੀਤੇ ਨਵੇਂ AI ਮਾਡਲਾਂ ਤੱਕ ਪਹੁੰਚ ਲਈ ਇੱਕ API ਜਾਰੀ ਕਰ ਰਹੇ ਹਾਂ. ਜ਼ਿਆਦਾਤਰ AI ਸਿਸਟਮਾਂ ਦੇ ਉਲਟ, ਜੋ ਇੱਕ ਹੀ ਵਰਤੋਂ-ਮਾਮਲੇ ਲਈ ਡਿਜ਼ਾਈਨ ਕੀਤੇ ਜਾਂਦੇ ਹਨ, ਅੱਜ ਦੀ API ਇੱਕ ਆਮ ਮਕਸਦ ਵਾਲਾ “ਟੈਕਸਟ ਇਨ, ਟੈਕਸਟ ਆਉਟ” ਇੰਟਰਫੇਸ ਦਿੰਦੀ ਹੈ, ਜਿਸ ਨਾਲ ਵਰਤੋਂਕਾਰ ਇਸਨੂੰ ਲਗਭਗ ਕਿਸੇ ਵੀ ਅੰਗਰੇਜ਼ੀ ਭਾਸ਼ਾ ਦੇ ਕੰਮ ‘ਤੇ ਅਜ਼ਮਾ ਸਕਦੇ ਹਨ. ਹੁਣ ਤੁਸੀਂ API ਨੂੰ ਆਪਣੇ ਉਤਪਾਦ ਵਿੱਚ ਇਕੱਠਾ ਕਰਨ, ਪੂਰੀ ਤਰ੍ਹਾਂ ਨਵੀਂ ਐਪਲੀਕੇਸ਼ਨ ਵਿਕਸਿਤ ਕਰਨ, ਜਾਂ ਇਸ ਤਕਨਾਲੋਜੀ ਦੀਆਂ ਤਾਕਤਾਂ ਅਤੇ ਸੀਮਾਵਾਂ ਦੀ ਖੋਜ ਵਿੱਚ ਸਾਡੀ ਮਦਦ ਕਰਨ ਲਈ ਪਹੁੰਚ ਦੀ ਬੇਨਤੀ ਕਰ ਸਕਦੇ ਹੋ.

ਕਿਸੇ ਵੀ ਟੈਕਸਟ ਪ੍ਰੌੰਪਟ ਦੇਣ ‘ਤੇ, API ਇੱਕ ਟੈਕਸਟ ਕੰਪਲੀਸ਼ਨ ਵਾਪਸ ਕਰੇਗੀ ਅਤੇ ਤੁਹਾਡੇ ਦਿੱਤੇ ਪੈਟਰਨ ਨਾਲ ਮੇਲ ਕਰਨ ਦੀ ਕੋਸ਼ਿਸ਼ ਕਰੇਗੀ. ਤੁਸੀਂ ਇਸਨੂੰ ਕੇਵਲ ਕੁਝ ਉਦਾਹਰਨਾਂ ਦਿਖਾ ਕੇ “ਪ੍ਰੋਗਰਾਮ” ਕਰ ਸਕਦੇ ਹੋ ਕਿ ਤੁਸੀਂ ਇਸ ਤੋਂ ਕੀ ਕਰਵਾਉਣਾ ਚਾਹੁੰਦੇ ਹੋ. ਇਸ ਦੀ ਸਫਲਤਾ ਆਮ ਤੌਰ ‘ਤੇ ਇਸ ਗੱਲ ‘ਤੇ ਨਿਰਭਰ ਕਰਦੀ ਹੈ ਕਿ ਕੰਮ ਕਿੰਨਾ ਜਟਿਲ ਹੈ. API ਤੁਹਾਨੂੰ ਤੁਹਾਡੇ ਦਿੱਤੇ ਉਦਾਹਰਨਾਂ ਦੇ ਡੇਟਾਸੈੱਟ (ਛੋਟੇ ਜਾਂ ਵੱਡੇ) ‘ਤੇ ਟ੍ਰੇਨਿੰਗ ਕਰਕੇ, ਜਾਂ ਵਰਤੋਂਕਾਰਾਂ ਜਾਂ ਲੇਬਲਰਾਂ ਵੱਲੋਂ ਦਿੱਤੇ ਮਨੁੱਖੀ ਫੀਡਬੈਕ ਤੋਂ ਸਿੱਖ ਕੇ, ਖਾਸ ਕੰਮਾਂ ‘ਤੇ ਕਾਰਗੁਜ਼ਾਰੀ ਨਿਖਾਰਣ ਦੀ ਵੀ ਆਗਿਆ ਦਿੰਦੀ ਹੈ.

ਅਸੀਂ API ਨੂੰ ਇਸ ਤਰ੍ਹਾਂ ਡਿਜ਼ਾਈਨ ਕੀਤਾ ਹੈ ਕਿ ਇਹ ਕਿਸੇ ਵੀ ਵਿਅਕਤੀ ਲਈ ਵਰਤਣ ਵਿੱਚ ਸੌਖੀ ਹੋਵੇ, ਪਰ ਨਾਲ ਹੀ ਇੰਨੀ ਲਚਕੀਲੀ ਵੀ ਹੋਵੇ ਕਿ ਮਸ਼ੀਨ ਲਰਨਿੰਗ ਟੀਮਾਂ ਹੋਰ ਉਤਪਾਦਕ ਬਣ ਸਕਣ. ਦਰਅਸਲ, ਸਾਡੀਆਂ ਕਈ ਟੀਮਾਂ ਹੁਣ API ਦੀ ਵਰਤੋਂ ਕਰ ਰਹੀਆਂ ਹਨ ਤਾਂ ਜੋ ਉਹ ਵਿਤਰਿਤ ਸਿਸਟਮਾਂ ਦੀਆਂ ਸਮੱਸਿਆਵਾਂ ਦੀ ਬਜਾਏ ਮਸ਼ੀਨ ਲਰਨਿੰਗ ਖੋਜ ‘ਤੇ ਧਿਆਨ ਦੇ ਸਕਣ. ਅੱਜ API GPT‑3⁠(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ) ਪਰਿਵਾਰ ਦੇ ਵੇਟਾਂ ਵਾਲੇ ਮਾਡਲਾਂ ਨੂੰ ਕਈ ਗਤੀ ਅਤੇ ਥਰੂਪੁੱਟ ਸੁਧਾਰਾਂ ਨਾਲ ਚਲਾਉਂਦੀ ਹੈ. ਮਸ਼ੀਨ ਲਰਨਿੰਗ ਬਹੁਤ ਤੇਜ਼ੀ ਨਾਲ ਅੱਗੇ ਵੱਧ ਰਹੀ ਹੈ, ਅਤੇ ਅਸੀਂ ਆਪਣੀ ਤਕਨਾਲੋਜੀ ਨੂੰ ਲਗਾਤਾਰ ਅੱਪਗ੍ਰੇਡ ਕਰ ਰਹੇ ਹਾਂ ਤਾਂ ਜੋ ਸਾਡੇ ਵਰਤੋਂਕਾਰ ਨਵੀਂ ਤੋਂ ਨਵੀਂ ਜਾਣਕਾਰੀ ਨਾਲ ਅੱਪ ਟੂ ਡੇਟ ਰਹਿਣ.

ਇਸ ਖੇਤਰ ਵਿੱਚ ਤਰੱਕੀ ਦੀ ਤੇਜ਼ ਰਫ਼ਤਾਰ ਦਾ ਮਤਲਬ ਹੈ ਕਿ AI ਦੀਆਂ ਹੈਰਾਨ ਕਰਨ ਵਾਲੀਆਂ ਨਵੀਆਂ ਐਪਲੀਕੇਸ਼ਨਾਂ, ਸਕਾਰਾਤਮਕ ਅਤੇ ਨਕਾਰਾਤਮਕ ਦੋਵੇਂ, ਅਕਸਰ ਸਾਹਮਣੇ ਆਉਂਦੀਆਂ ਰਹਿੰਦੀਆਂ ਹਨ. ਅਸੀਂ ਸਪੱਸ਼ਟ ਤੌਰ ‘ਤੇ ਹਾਨੀਕਾਰਕ ਵਰਤੋਂ-ਮਾਮਲਿਆਂ, ਜਿਵੇਂ ਕਿ ਹੈਰਾਸਮੈਂਟ, spam, ਰੈਡੀਕਲਾਈਜ਼ੇਸ਼ਨ ਜਾਂ astroturfing, ਲਈ API ਪਹੁੰਚ ਖਤਮ ਕਰਾਂਗੇ. ਪਰ ਅਸੀਂ ਇਹ ਵੀ ਜਾਣਦੇ ਹਾਂ ਕਿ ਅਸੀਂ ਇਸ ਤਕਨਾਲੋਜੀ ਦੇ ਸਾਰੇ ਸੰਭਾਵਿਤ ਨਤੀਜਿਆਂ ਦੀ ਪਹਿਲਾਂ ਹੀ ਕਲਪਨਾ ਨਹੀਂ ਕਰ ਸਕਦੇ, ਇਸ ਲਈ ਅਸੀਂ ਅੱਜ ਇਸਨੂੰ ਆਮ ਉਪਲਬਧਤਾ ਦੀ ਬਜਾਏ private beta ਵਿੱਚ ਲਾਂਚ ਕਰ ਰਹੇ ਹਾਂ, ਅਜੇਹੇ ਸੰਦ ਬਣਾ ਰਹੇ ਹਾਂ ਜੋ ਵਰਤੋਂਕਾਰਾਂ ਨੂੰ ਸਾਡੀ API ਵੱਲੋਂ ਵਾਪਸ ਕੀਤੀ ਸਮੱਗਰੀ ‘ਤੇ ਹੋਰ ਵਧੀਆ ਨਿਯੰਤਰਣ ਦੇਣ, ਅਤੇ ਭਾਸ਼ਾ ਤਕਨਾਲੋਜੀ ਦੇ ਸੁਰੱਖਿਆ-ਸੰਬੰਧੀ ਪੱਖਾਂ ‘ਤੇ ਖੋਜ ਕਰ ਰਹੇ ਹਾਂ, ਜਿਵੇਂ ਕਿ ਹਾਨੀਕਾਰਕ ਪੱਖਪਾਤ ਦਾ ਵਿਸ਼ਲੇਸ਼ਣ, ਘਟਾਅ ਅਤੇ ਉਸ ‘ਤੇ ਦਖ਼ਲ. ਅਸੀਂ ਜੋ ਸਿੱਖਾਂਗੇ ਉਹ ਸਾਂਝਾ ਕਰਾਂਗੇ ਤਾਂ ਜੋ ਸਾਡੇ ਵਰਤੋਂਕਾਰ ਅਤੇ ਵਿਆਪਕ ਭਾਈਚਾਰਾ ਹੋਰ ਮਨੁੱਖ-ਹਿਤੈਸ਼ੀ AI ਸਿਸਟਮ ਬਣਾਉਣ ਸਕਣ.

ਸਾਡੇ ਖਰਚੇ ਪੂਰੇ ਕਰਨ⁠ ਅਤੇ ਸਾਡੇ ਮਿਸ਼ਨ⁠ ਦੀ ਪ੍ਰਾਪਤੀ ਵਿੱਚ ਮਦਦ ਲਈ ਆਮਦਨ ਦਾ ਸਰੋਤ ਹੋਣ ਦੇ ਇਲਾਵਾ, API ਨੇ ਸਾਨੂੰ ਆਮ ਮਕਸਦ ਵਾਲੀ AI ਤਕਨਾਲੋਜੀ ‘ਤੇ ਆਪਣਾ ਧਿਆਨ ਹੋਰ ਤਿੱਖਾ ਕਰਨ ਲਈ ਪ੍ਰੇਰਿਆ ਹੈ—ਤਕਨਾਲੋਜੀ ਨੂੰ ਅੱਗੇ ਵਧਾਉਣਾ, ਇਸਨੂੰ ਵਰਤੋਂਯੋਗ ਬਣਾਉਣਾ, ਅਤੇ ਅਸਲ ਦੁਨੀਆ ਵਿੱਚ ਇਸ ਦੇ ਪ੍ਰਭਾਵਾਂ ‘ਤੇ ਵਿਚਾਰ ਕਰਨਾ. ਅਸੀਂ ਉਮੀਦ ਕਰਦੇ ਹਾਂ ਕਿ API ਲਾਭਕਾਰੀ AI-ਸੰਚਾਲਿਤ ਉਤਪਾਦ ਬਣਾਉਣ ਲਈ ਰੁਕਾਵਟ⁠(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ) ਨੂੰ ਬਹੁਤ ਘੱਟ ਕਰੇਗੀ, ਜਿਸ ਦਾ ਨਤੀਜਾ ਅਜਿਹੇ ਟੂਲਾਂ ਅਤੇ ਸੇਵਾਵਾਂ ਵਜੋਂ ਨਿਕਲੇਗਾ ਜਿਨ੍ਹਾਂ ਦੀ ਅੱਜ ਕਲਪਨਾ ਕਰਨਾ ਮੁਸ਼ਕਲ ਹੈ.

ਕੀ ਤੁਸੀਂ API ਦੀ ਖੋਜ ਕਰਨ ਵਿੱਚ ਰੁਚੀ ਰੱਖਦੇ ਹੋ? ਸਾਡੇ private beta⁠(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ) ਵਿੱਚ Algolia⁠(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ), Quizlet⁠(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ), ਅਤੇ Reddit⁠(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ) ਵਰਗੀਆਂ ਕੰਪਨੀਆਂ ਅਤੇ Middlebury Institute⁠(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ) ਵਰਗੀਆਂ ਸੰਸਥਾਵਾਂ ਦੇ ਖੋਜਕਾਰਾਂ ਨਾਲ ਜੁੜੋ.

ਅੰਤਤ:, ਜਿਸ ਗੱਲ ਦੀ ਸਾਨੂੰ ਸਭ ਤੋਂ ਵੱਧ ਪਰਵਾਹ ਹੈ⁠, ਉਹ ਇਹ ਯਕੀਨੀ ਬਣਾਉਣਾ ਹੈ ਕਿ ਆਰਟੀਫ਼ਿਸ਼ੀਅਲ ਜਨਰਲ ਇੰਟੈਲੀਜੈਂਸ ਸਭ ਲਈ ਲਾਭਕਾਰੀ ਹੋਵੇ. ਅਸੀਂ ਵਪਾਰਕ ਉਤਪਾਦ ਵਿਕਸਿਤ ਕਰਨ ਨੂੰ ਇਹ ਯਕੀਨੀ ਬਣਾਉਣ ਦੇ ਤਰੀਕਿਆਂ ਵਿੱਚੋਂ ਇੱਕ ਮੰਨਦੇ ਹਾਂ ਕਿ ਸਾਡੇ ਕੋਲ ਸਫਲ ਹੋਣ ਲਈ ਕਾਫ਼ੀ ਫੰਡਿੰਗ ਹੋਵੇ.

ਅਸੀਂ ਇਹ ਵੀ ਮੰਨਦੇ ਹਾਂ ਕਿ ਦੁਨੀਆ ਵਿੱਚ ਸ਼ਕਤੀਸ਼ਾਲੀ AI ਸਿਸਟਮਾਂ ਨੂੰ ਸੁਰੱਖਿਅਤ ਢੰਗ ਨਾਲ ਤਾਇਨਾਤ ਕਰਨਾ ਠੀਕ ਤਰ੍ਹਾਂ ਕਰਨਾ ਔਖਾ ਹੋਵੇਗਾ. API ਜਾਰੀ ਕਰਦੇ ਸਮੇਂ, ਅਸੀਂ ਆਪਣੇ ਭਾਗੀਦਾਰਾਂ ਨਾਲ ਨੇੜੇ ਤੋਂ ਕੰਮ ਕਰ ਰਹੇ ਹਾਂ ਤਾਂ ਜੋ ਵੇਖ ਸਕੀਏ ਕਿ ਜਦੋਂ AI ਸਿਸਟਮ ਅਸਲ ਦੁਨੀਆ ਵਿੱਚ ਵਰਤੇ ਜਾਂਦੇ ਹਨ ਤਾਂ ਕਿਹੜੀਆਂ ਚੁਣੌਤੀਆਂ ਉੱਭਰਦੀਆਂ ਹਨ. ਇਹ ਸਾਨੂੰ ਇਹ ਸਮਝਣ ਲਈ ਦਿਸ਼ਾ ਦੇਵੇਗਾ ਕਿ ਭਵਿੱਖ ਦੇ AI ਸਿਸਟਮਾਂ ਦੀ ਤਾਇਨਾਤੀ ਕਿਵੇਂ ਹੋਵੇਗੀ, ਅਤੇ ਇਹ ਯਕੀਨੀ ਬਣਾਉਣ ਲਈ ਸਾਨੂੰ ਕੀ ਕਰਨ ਦੀ ਲੋੜ ਹੈ ਕਿ ਉਹ ਸਭ ਲਈ ਸੁਰੱਖਿਅਤ ਅਤੇ ਲਾਭਕਾਰੀ ਹੋਣ.

ਅਸੀਂ ਇਹ ਕਰਨ ਦੇ ਤਿੰਨ ਮੁੱਖ ਕਾਰਨ ਸਨ. ਪਹਿਲਾਂ, ਤਕਨਾਲੋਜੀ ਦਾ ਵਪਾਰੀਕਰਨ ਸਾਡੀ ਜਾਰੀ AI ਖੋਜ, ਸੁਰੱਖਿਆ ਅਤੇ ਨੀਤੀ ਸੰਬੰਧੀ ਕੋਸ਼ਿਸ਼ਾਂ ਲਈ ਭੁਗਤਾਨ ਕਰਨ ਵਿੱਚ ਮਦਦ ਕਰਦਾ ਹੈ.

ਦੂਜਾ, API ਦੇ ਆਧਾਰ ਬਣਨ ਵਾਲੇ ਕਈ ਮਾਡਲ ਬਹੁਤ ਵੱਡੇ ਹਨ, ਜਿਨ੍ਹਾਂ ਨੂੰ ਵਿਕਸਿਤ ਕਰਨ ਅਤੇ ਤਾਇਨਾਤ ਕਰਨ ਲਈ ਕਾਫ਼ੀ ਮਾਹਰਤਾ ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ ਅਤੇ ਜਿਨ੍ਹਾਂ ਨੂੰ ਚਲਾਉਣਾ ਬਹੁਤ ਮਹਿੰਗਾ ਪੈਂਦਾ ਹੈ. ਇਸ ਕਰਕੇ ਵੱਡੀਆਂ ਕੰਪਨੀਆਂ ਤੋਂ ਇਲਾਵਾ ਹੋਰ ਕਿਸੇ ਲਈ ਵੀ ਮੂਲ ਤਕਨਾਲੋਜੀ ਦਾ ਲਾਭ ਲੈਣਾ ਔਖਾ ਹੋ ਜਾਂਦਾ ਹੈ. ਸਾਨੂੰ ਉਮੀਦ ਹੈ ਕਿ API ਛੋਟੀਆਂ ਕਾਰੋਬਾਰੀ ਇਕਾਈਆਂ ਅਤੇ ਸੰਸਥਾਵਾਂ ਲਈ ਸ਼ਕਤੀਸ਼ਾਲੀ AI ਸਿਸਟਮ ਹੋਰ ਸੁਲਭ ਬਣਾਏਗੀ.

ਤੀਜਾ, API ਮਾਡਲ ਸਾਨੂੰ ਤਕਨਾਲੋਜੀ ਦੀ ਦੁਰਵਰਤੋਂ ‘ਤੇ ਹੋਰ ਆਸਾਨੀ ਨਾਲ ਪ੍ਰਤੀਕਿਰਿਆ ਕਰਨ ਦੀ ਆਗਿਆ ਦਿੰਦਾ ਹੈ. ਕਿਉਂਕਿ ਸਾਡੇ ਮਾਡਲਾਂ ਦੇ ਹੇਠਲੇ ਪੱਧਰ ਵਾਲੇ ਵਰਤੋਂ-ਮਾਮਲਿਆਂ ਦੀ ਭਵਿੱਖਬਾਣੀ ਕਰਨਾ ਔਖਾ ਹੈ, ਇਸ ਲਈ ਉਨ੍ਹਾਂ ਨੂੰ API ਰਾਹੀਂ ਜਾਰੀ ਕਰਨਾ ਅਤੇ ਸਮੇਂ ਦੇ ਨਾਲ ਪਹੁੰਚ ਵਧਾਉਣਾ ਮੂਲ ਤੌਰ ‘ਤੇ ਹੋਰ ਸੁਰੱਖਿਅਤ ਲੱਗਦਾ ਹੈ, ਬਜਾਏ ਇੱਕ ਓਪਨ ਸੋਰਸ ਮਾਡਲ ਜਾਰੀ ਕਰਨ ਦੇ, ਜਿੱਥੇ ਜੇਕਰ ਬਾਅਦ ਵਿੱਚ ਇਹ ਹਾਨੀਕਾਰਕ ਐਪਲੀਕੇਸ਼ਨਾਂ ਵਾਲਾ ਨਿਕਲੇ ਤਾਂ ਪਹੁੰਚ ਨੂੰ ਠੀਕ ਨਹੀਂ ਕੀਤਾ ਜਾ ਸਕਦਾ.

GPT‑2 ਦੇ ਨਾਲ, ਸਾਡੀਆਂ ਮੁੱਖ ਚਿੰਤਾਵਾਂ ਵਿੱਚੋਂ ਇੱਕ ਮਾਡਲ ਦੀ ਦੁਰਵਰਤੋਂ ਸੀ, ਜਿਵੇਂ ਕਿ ਗਲਤ ਜਾਣਕਾਰੀ ਫੈਲਾਉਣ ਲਈ, ਜਿਸ ਨੂੰ ਮਾਡਲ ਓਪਨ ਸੋਰਸ ਹੋ ਜਾਣ ਤੋਂ ਬਾਅਦ ਰੋਕਣਾ ਔਖਾ ਹੁੰਦਾ ਹੈ. API ਲਈ, ਅਸੀਂ ਮਨਜ਼ੂਰਸ਼ੁਦਾ ਗਾਹਕਾਂ ਅਤੇ ਵਰਤੋਂ-ਮਾਮਲਿਆਂ ਤੱਕ ਪਹੁੰਚ ਸੀਮਿਤ ਕਰਕੇ ਦੁਰਵਰਤੋਂ ਨੂੰ ਬਿਹਤਰ ਢੰਗ ਨਾਲ ਰੋਕ ਸਕਦੇ ਹਾਂ. ਪ੍ਰਸਤਾਵਿਤ ਐਪਲੀਕੇਸ਼ਨਾਂ ਨੂੰ ਲਾਈਵ ਜਾਣ ਤੋਂ ਪਹਿਲਾਂ ਸਾਡੇ ਕੋਲ ਲਾਜ਼ਮੀ ਪ੍ਰੋਡਕਸ਼ਨ ਸਮੀਖਿਆ ਪ੍ਰਕਿਰਿਆ ਹੈ. ਪ੍ਰੋਡਕਸ਼ਨ ਸਮੀਖਿਆਵਾਂ ਵਿੱਚ, ਅਸੀਂ ਕੁਝ ਪੱਖਾਂ ਦੇ ਆਧਾਰ ‘ਤੇ ਐਪਲੀਕੇਸ਼ਨਾਂ ਦਾ ਮੁਲਾਂਕਣ ਕਰਦੇ ਹਾਂ ਅਤੇ ਅਜਿਹੇ ਸਵਾਲ ਪੁੱਛਦੇ ਹਾਂ: ਕੀ ਇਹ ਇਸ ਵੇਲੇ ਸਮਰਥਿਤ ਵਰਤੋਂ-ਮਾਮਲਾ ਹੈ?, ਐਪਲੀਕੇਸ਼ਨ ਕਿੰਨੀ ਖੁੱਲ੍ਹੇ ਅੰਤ ਵਾਲੀ ਹੈ?, ਐਪਲੀਕੇਸ਼ਨ ਕਿੰਨੀ ਖਤਰਨਾਕ ਹੈ?, ਤੁਸੀਂ ਸੰਭਾਵਿਤ ਦੁਰਵਰਤੋਂ ਨਾਲ ਨਿਪਟਣ ਦੀ ਕੀ ਯੋਜਨਾ ਬਣਾਈ ਹੈ?, ਅਤੇ ਤੁਹਾਡੀ ਐਪਲੀਕੇਸ਼ਨ ਦੇ ਅੰਤਿਮ ਵਰਤੋਂਕਾਰ ਕੌਣ ਹਨ?.

ਅਸੀਂ ਉਹਨਾਂ ਵਰਤੋਂ-ਮਾਮਲਿਆਂ ਲਈ API ਪਹੁੰਚ ਖਤਮ ਕਰ ਦਿੰਦੇ ਹਾਂ ਜੋ ਲੋਕਾਂ ਨੂੰ ਸਰੀਰਕ, ਭਾਵਨਾਤਮਕ ਜਾਂ ਮਨੋਵਿਗਿਆਨਕ ਨੁਕਸਾਨ ਪਹੁੰਚਾਉਂਦੇ ਹਨ ਜਾਂ ਪਹੁੰਚਾਉਣ ਲਈ ਬਣਾਏ ਗਏ ਹਨ, ਜਿਸ ਵਿੱਚ ਪਰ ਸੀਮਿਤ ਨਹੀਂ, ਹੈਰਾਸਮੈਂਟ, ਜਾਣਬੁੱਝ ਕੇ ਧੋਖਾਧੜੀ, ਰੈਡੀਕਲਾਈਜ਼ੇਸ਼ਨ, astroturfing, ਜਾਂ spam ਸ਼ਾਮਲ ਹਨ, ਅਤੇ ਨਾਲ ਹੀ ਉਹ ਐਪਲੀਕੇਸ਼ਨਾਂ ਵੀ ਜਿਨ੍ਹਾਂ ਵਿੱਚ ਅੰਤਿਮ ਵਰਤੋਂਕਾਰਾਂ ਵੱਲੋਂ ਦੁਰਵਰਤੋਂ ਨੂੰ ਸੀਮਿਤ ਕਰਨ ਲਈ ਯਥੇਸ਼ਟ ਸੁਰੱਖਿਆ ਉਪਾਅ ਨਹੀਂ ਹਨ. ਜਿਵੇਂ ਜਿਵੇਂ ਸਾਨੂੰ ਅਮਲ ਵਿੱਚ API ਚਲਾਉਣ ਦਾ ਹੋਰ ਅਨੁਭਵ ਮਿਲਦਾ ਜਾਵੇਗਾ, ਅਸੀਂ ਉਹ ਵਰਤੋਂ ਸ਼੍ਰੇਣੀਆਂ ਲਗਾਤਾਰ ਸੁਧਾਰਦੇ ਰਹਾਂਗੇ ਜਿਨ੍ਹਾਂ ਨੂੰ ਅਸੀਂ ਸਮਰਥਨ ਦੇ ਸਕਦੇ ਹਾਂ, ਤਾਂ ਜੋ ਅਸੀਂ ਸਮਰਥਨਯੋਗ ਐਪਲੀਕੇਸ਼ਨਾਂ ਦੀ ਰੇਂਜ ਵਧਾ ਸਕੀਏ ਅਤੇ ਉਹਨਾਂ ਲਈ ਹੋਰ ਸੁਖਮ ਸ਼੍ਰੇਣੀਆਂ ਵੀ ਬਣਾ ਸਕੀਏ ਜਿਨ੍ਹਾਂ ਬਾਰੇ ਸਾਨੂੰ ਦੁਰਵਰਤੋਂ ਦੀ ਚਿੰਤਾ ਹੈ.

API ਦੀਆਂ ਵਰਤੋਂਆਂ ਨੂੰ ਮਨਜ਼ੂਰੀ ਦੇਣ ਸਮੇਂ ਇੱਕ ਮੁੱਖ ਤੱਤ ਜਿਸ ਬਾਰੇ ਅਸੀਂ ਵਿਚਾਰ ਕਰਦੇ ਹਾਂ, ਉਹ ਇਹ ਹੈ ਕਿ ਐਪਲੀਕੇਸ਼ਨ ਸਿਸਟਮ ਦੀਆਂ ਮੂਲ ਜਨਰੇਟਿਵ ਸਮਰੱਥਾਵਾਂ ਦੇ ਸੰਦਰਭ ਵਿੱਚ ਖੁੱਲ੍ਹੇ ਅੰਤ ਵਾਲੇ ਵਿਹਾਰ ਦੇ ਮੁਕਾਬਲੇ ਸੀਮਿਤ ਵਿਹਾਰ ਕਿੰਨਾ ਦਿਖਾਉਂਦੀ ਹੈ. API ਦੀਆਂ ਖੁੱਲ੍ਹੇ ਅੰਤ ਵਾਲੀਆਂ ਐਪਲੀਕੇਸ਼ਨਾਂ, ਅਰਥਾਤ ਜਿਹੜੀਆਂ ਮਨਮਾਨੇ ਪ੍ਰੌੰਪਟਾਂ ਰਾਹੀਂ ਵੱਡੀ ਮਾਤਰਾ ਵਿੱਚ ਕਸਟਮ ਟੈਕਸਟ ਦੀ ਬਿਨਾ ਰੁਕਾਵਟ ਤਿਆਰੀ ਯੋਗ ਬਣਾਉਂਦੀਆਂ ਹਨ, ਖਾਸ ਤੌਰ ‘ਤੇ ਦੁਰਵਰਤੋਂ ਲਈ ਸੰਵੇਦਨਸ਼ੀਲ ਹੁੰਦੀਆਂ ਹਨ. ਉਹ ਸੀਮਾਵਾਂ ਜੋ ਜਨਰੇਟਿਵ ਵਰਤੋਂ-ਮਾਮਲਿਆਂ ਨੂੰ ਹੋਰ ਸੁਰੱਖਿਅਤ ਬਣਾ ਸਕਦੀਆਂ ਹਨ, ਵਿੱਚ ਅਜਿਹਾ ਸਿਸਟਮ ਡਿਜ਼ਾਈਨ ਸ਼ਾਮਲ ਹੈ ਜੋ ਮਨੁੱਖ ਨੂੰ ਲੂਪ ਵਿੱਚ ਰੱਖਦਾ ਹੈ, ਅੰਤਿਮ ਵਰਤੋਂਕਾਰ ਪਹੁੰਚ ਪਾਬੰਦੀਆਂ, ਆਉਟਪੁੱਟਾਂ ਦੀ ਪੋਸਟ-ਪ੍ਰੋਸੈਸਿੰਗ, ਸਮੱਗਰੀ ਫਿਲਟਰੇਸ਼ਨ, ਇਨਪੁੱਟ/ਆਉਟਪੁੱਟ ਦੀ ਲੰਬਾਈ ਦੀਆਂ ਸੀਮਾਵਾਂ, ਸਰਗਰਮ ਨਿਗਰਾਨੀ, ਅਤੇ ਵਿਸ਼ਾ-ਸੀਮਾਵਾਂ ਸ਼ਾਮਲ ਹਨ.

ਅਸੀਂ API ਰਾਹੀਂ ਸੇਵਾ ਦਿੱਤੇ ਜਾਂਦੇ ਮਾਡਲਾਂ ਦੀਆਂ ਸੰਭਾਵਿਤ ਦੁਰਵਰਤੋਂਆਂ ‘ਤੇ ਖੋਜ ਵੀ ਜਾਰੀ ਰੱਖ ਰਹੇ ਹਾਂ, ਜਿਸ ਵਿੱਚ ਤੀਜੀ ਧਿਰ ਦੇ ਖੋਜਕਾਰਾਂ ਨਾਲ ਸਾਡੇ academic access program⁠(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ) ਰਾਹੀਂ ਕੰਮ ਵੀ ਸ਼ਾਮਲ ਹੈ. ਅਸੀਂ ਇਸ ਵੇਲੇ ਬਹੁਤ ਹੀ ਸੀਮਿਤ ਗਿਣਤੀ ਦੇ ਖੋਜਕਾਰਾਂ ਨਾਲ ਸ਼ੁਰੂਆਤ ਕਰ ਰਹੇ ਹਾਂ ਅਤੇ ਸਾਡੇ ਅਕਾਦਮਿਕ ਭਾਗੀਦਾਰਾਂ Middlebury Institute⁠(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ), University of Washington, and Allen Institute for AI⁠(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ) ਤੋਂ ਕੁਝ ਨਤੀਜੇ ਪਹਿਲਾਂ ਹੀ ਪ੍ਰਾਪਤ ਹੋ ਚੁੱਕੇ ਹਨ. ਇਸ ਪ੍ਰੋਗਰਾਮ ਲਈ ਸਾਡੇ ਕੋਲ ਪਹਿਲਾਂ ਹੀ ਦੱਸਾਂ ਹਜ਼ਾਰਾਂ ਅਰਜ਼ੀਆਂ ਹਨ ਅਤੇ ਇਸ ਵੇਲੇ ਅਸੀਂ ਨਿਆਂਸੰਗਤਾ ਅਤੇ ਪ੍ਰਤੀਨਿਧਿਤਾ ਖੋਜ ‘ਤੇ ਕੇਂਦ੍ਰਿਤ ਅਰਜ਼ੀਆਂ ਨੂੰ ਤਰਜੀਹ ਦੇ ਰਹੇ ਹਾਂ.

ਹਾਨੀਕਾਰਕ ਪੱਖਪਾਤ ਵਰਗੇ ਨਕਾਰਾਤਮਕ ਪ੍ਰਭਾਵਾਂ ਨੂੰ ਘਟਾਉਣਾ ਇੱਕ ਔਖਾ, ਪੂਰੇ ਉਦਯੋਗ ਨਾਲ ਜੁੜਿਆ ਮੁੱਦਾ ਹੈ ਜੋ ਬਹੁਤ ਮਹੱਤਵਪੂਰਨ ਹੈ. ਜਿਵੇਂ ਕਿ ਅਸੀਂ GPT‑3 ਪੇਪਰ⁠(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ) ਅਤੇ ਮਾਡਲ ਕਾਰਡ⁠(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ) ਵਿੱਚ ਚਰਚਾ ਕਰਦੇ ਹਾਂ, ਸਾਡੇ API ਮਾਡਲਾਂ ਵਿੱਚ ਪੱਖਪਾਤ ਮੌਜੂਦ ਹਨ ਜੋ ਤਿਆਰ ਕੀਤੇ ਗਏ ਟੈਕਸਟ ਵਿੱਚ ਨਜ਼ਰ ਆਉਣਗੇ. ਇਨ੍ਹਾਂ ਮੁੱਦਿਆਂ ਦਾ ਸਾਹਮਣਾ ਕਰਨ ਲਈ ਅਸੀਂ ਇਹ ਕਦਮ ਚੁੱਕ ਰਹੇ ਹਾਂ:

• ਅਸੀਂ ਵਰਤੋਂ ਦਿਸ਼ਾ-ਨਿਰਦੇਸ਼ ਤਿਆਰ ਕੀਤੇ ਹਨ ਜੋ ਡਿਵੈਲਪਰਾਂ ਨੂੰ ਸੰਭਾਵਿਤ ਸੁਰੱਖਿਆ ਮੁੱਦਿਆਂ ਨੂੰ ਸਮਝਣ ਅਤੇ ਹੱਲ ਕਰਨ ਵਿੱਚ ਮਦਦ ਕਰਦੇ ਹਨ.
• ਅਸੀਂ ਵਰਤੋਂਕਾਰਾਂ ਨਾਲ ਨੇੜੇ ਤੋਂ ਕੰਮ ਕਰ ਰਹੇ ਹਾਂ ਤਾਂ ਜੋ ਉਨ੍ਹਾਂ ਦੇ ਵਰਤੋਂ-ਮਾਮਲਿਆਂ ਨੂੰ ਸਮਝ ਸਕੀਏ ਅਤੇ ਅਜਿਹੇ ਸੰਦ ਵਿਕਸਿਤ ਕਰ ਸਕੀਏ ਜੋ ਹਾਨੀਕਾਰਕ ਪੱਖਪਾਤ ਨੂੰ ਸਾਹਮਣੇ ਲਿਆਉਣ ਅਤੇ ਘਟਾਉਣ ਲਈ ਦਖ਼ਲ ਦੇ ਸਕਣ.
• ਅਸੀਂ ਹਾਨੀਕਾਰਕ ਪੱਖਪਾਤ ਦੇ ਪ੍ਰਗਟਾਵਾਂ ਅਤੇ ਨਿਆਂਸੰਗਤਾ ਤੇ ਪ੍ਰਤੀਨਿਧਿਤਾ ਨਾਲ ਜੁੜੇ ਵਿਆਪਕ ਮੁੱਦਿਆਂ ‘ਤੇ ਆਪਣੀ ਖੋਜ ਕਰ ਰਹੇ ਹਾਂ, ਜੋ ਮੌਜੂਦਾ ਮਾਡਲਾਂ ਦੀ ਬਿਹਤਰ ਦਸਤਾਵੇਜ਼ੀਕਰਨ ਅਤੇ ਭਵਿੱਖ ਦੇ ਵੱਖ-ਵੱਖ ਮਾਡਲਾਂ ਵਿੱਚ ਸੁਧਾਰਾਂ ਰਾਹੀਂ ਸਾਡੇ ਕੰਮ ਨੂੰ ਦਿਸ਼ਾ ਦੇਣ ਵਿੱਚ ਮਦਦ ਕਰੇਗੀ.
• ਅਸੀਂ ਮੰਨਦੇ ਹਾਂ ਕਿ ਪੱਖਪਾਤ ਇੱਕ ਅਜਿਹੀ ਸਮੱਸਿਆ ਹੈ ਜੋ ਕਿਸੇ ਸਿਸਟਮ ਅਤੇ ਉਸਦੇ ਤਾਇਨਾਤ ਸੰਦਰਭ ਦੇ ਮਿਲਾਪ ‘ਤੇ ਪ੍ਰਗਟ ਹੁੰਦੀ ਹੈ. ਸਾਡੀ ਤਕਨਾਲੋਜੀ ਨਾਲ ਬਣੀਆਂ ਐਪਲੀਕੇਸ਼ਨਾਂ ਸਮਾਜ-ਤਕਨੀਕੀ ਸਿਸਟਮ ਹਨ, ਇਸ ਲਈ ਅਸੀਂ ਆਪਣੇ ਡਿਵੈਲਪਰਾਂ ਨਾਲ ਕੰਮ ਕਰਦੇ ਹਾਂ ਤਾਂ ਜੋ ਇਹ ਯਕੀਨੀ ਬਣਾਇਆ ਜਾ ਸਕੇ ਕਿ ਉਹ ਨਕਾਰਾਤਮਕ ਵਿਹਾਰ ਦੀ ਨਿਗਰਾਨੀ ਲਈ ਉਚਿਤ ਪ੍ਰਕਿਰਿਆਵਾਂ ਅਤੇ human-in-the-loop ਸਿਸਟਮ ਲਾਗੂ ਕਰ ਰਹੇ ਹਨ.

ਸਾਡਾ ਲਕਸ਼ ਹਰ ਵਰਤੋਂ ਸੰਦਰਭ ਵਿੱਚ API ਦੇ ਸੰਭਾਵਿਤ ਨੁਕਸਾਨਾਂ ਬਾਰੇ ਆਪਣੀ ਸਮਝ ਨੂੰ ਲਗਾਤਾਰ ਵਿਕਸਿਤ ਕਰਨਾ ਅਤੇ ਉਨ੍ਹਾਂ ਨੂੰ ਘਟਾਉਣ ਲਈ ਆਪਣੇ ਸੰਦਾਂ ਅਤੇ ਪ੍ਰਕਿਰਿਆਵਾਂ ਨੂੰ ਨਿਰੰਤਰ ਬਿਹਤਰ ਬਣਾਉਣਾ ਹੈ.

18 ਸਤੰਬਰ, 2020 ਨੂੰ ਅੱਪਡੇਟ ਕੀਤਾ ਗਿਆ