OpenAI ਰੈਡ ਟੀਮਿੰਗ ਨੈੱਟਵਰਕ

ਅਸੀਂ OpenAI ਰੈਡ ਟੀਮਿੰਗ ਨੈੱਟਵਰਕ ਲਈ ਖੁੱਲ੍ਹੇ ਤੌਰ ’ਤੇ ਅਰਜ਼ੀਆਂ ਮੰਗ ਰਹੇ ਹਾਂ. OpenAI ਦੇ ਮਾਡਲਾਂ ਦੀ ਸੁਰੱਖਿਆ ਬਿਹਤਰ ਬਣਾਉਣ ਵਿੱਚ ਦਿਲਚਸਪੀ ਰੱਖਣ ਵਾਲੇ ਵਿਸ਼ਾ ਮਾਹਰਾਂ ਨੂੰ ਅਸੀਂ ਆਪਣੇ ਯਤਨਾਂ ਵਿੱਚ ਸ਼ਾਮਲ ਹੋਣ ਦਾ ਸੱਦਾ ਦਿੰਦੇ ਹਾਂ. ਅਸੀਂ ਆਪਣੇ ਏਆਈ ਮਾਡਲਾਂ ਦਾ ਸਖ਼ਤੀ ਨਾਲ ਮੁਲਾਂਕਣ ਅਤੇ ਰੈਡ ਟੀਮਿੰਗ ਕਰਨ ਵਿੱਚ ਸਹਿਯੋਗ ਲਈ ਵੱਖ-ਵੱਖ ਖੇਤਰਾਂ ਦੇ ਮਾਹਰਾਂ ਦੀ ਭਾਲ ਕਰ ਰਹੇ ਹਾਂ.

ਰੈਡ ਟੀਮਿੰਗ^A ਸਾਡੀ ਵਾਰ-ਵਾਰ ਸੁਧਾਰ ਕਰਦਿਆਂ ਮਾਡਲਾਂ ਨੂੰ ਵਰਤੋਂ ਵਿੱਚ ਲਿਆਉਣ ਦੀ ਪ੍ਰਕਿਰਿਆ⁠ ਦਾ ਅਨਿੱਖੜਵਾਂ ਹਿੱਸਾ ਹੈ. ਪਿਛਲੇ ਕੁਝ ਸਾਲਾਂ ਵਿੱਚ ਸਾਡੇ ਰੈਡ ਟੀਮਿੰਗ ਯਤਨਾਂ ਦਾ ਦਾਇਰਾ ਵਧਿਆ ਹੈ. ਪਹਿਲਾਂ ਅਸੀਂ OpenAI ਦੇ ਅੰਦਰ ਹੀ ਪ੍ਰਣਾਲੀਆਂ ਦੀਆਂ ਕਮਜ਼ੋਰੀਆਂ ਲੱਭਣ ਲਈ ਪਰਖਾਂ ਕਰਦੇ ਸੀ. ਹੁਣ ਅਸੀਂ ਬਾਹਰੀ ਮਾਹਰਾਂ ਦੇ ਸਮੂਹ^B ਨਾਲ ਮਿਲ ਕੇ ਵੱਖ-ਵੱਖ ਖੇਤਰਾਂ ਦੇ ਜੋਖਮਾਂ ਦੀਆਂ ਵਰਗਬੰਦੀਆਂ ਤਿਆਰ ਕਰਦੇ ਹਾਂ ਅਤੇ ਨਵੀਆਂ ਪ੍ਰਣਾਲੀਆਂ ਦੀਆਂ ਸੰਭਾਵੀ ਨੁਕਸਾਨਦੇਹ ਸਮਰੱਥਾਵਾਂ ਦਾ ਮੁਲਾਂਕਣ ਕਰਦੇ ਹਾਂ. ਤੁਸੀਂ DALL·E 2⁠(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ) ਅਤੇ GPT‑4⁠(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ) ਵਰਗੇ ਮਾਡਲਾਂ ਉੱਤੇ ਕੀਤੇ ਸਾਡੇ ਪਿਛਲੇ ਰੈਡ ਟੀਮਿੰਗ ਯਤਨਾਂ ਬਾਰੇ ਹੋਰ ਪੜ੍ਹ ਸਕਦੇ ਹੋ, ਜਿਨ੍ਹਾਂ ਵਿੱਚ ਬਾਹਰੀ ਮਾਹਰਾਂ ਨਾਲ ਕੀਤਾ ਕੰਮ ਵੀ ਸ਼ਾਮਲ ਹੈ.^C

ਅੱਜ ਅਸੀਂ ਇਨ੍ਹਾਂ ਮੁੱਢਲੇ ਯਤਨਾਂ ਨੂੰ ਅੱਗੇ ਵਧਾਉਣ ਲਈ ਇੱਕ ਵਧੇਰੇ ਰਸਮੀ ਉਪਰਾਲਾ ਸ਼ੁਰੂ ਕਰ ਰਹੇ ਹਾਂ. ਇਸ ਰਾਹੀਂ ਅਸੀਂ ਆਪਣੇ ਮਾਡਲਾਂ ਨੂੰ ਵਧੇਰੇ ਸੁਰੱਖਿਅਤ ਬਣਾਉਣ ਲਈ ਬਾਹਰੀ ਮਾਹਰਾਂ ਨਾਲ ਸਹਿਯੋਗ ਨੂੰ ਹੋਰ ਡੂੰਘਾ ਅਤੇ ਵਿਆਪਕ ਕਰਾਂਗੇ. ਵਿਅਕਤੀਗਤ ਮਾਹਰਾਂ, ਖੋਜ ਸੰਸਥਾਵਾਂ ਅਤੇ ਨਾਗਰਿਕ ਸਮਾਜ ਦੀਆਂ ਸੰਸਥਾਵਾਂ ਨਾਲ ਮਿਲ ਕੇ ਕੰਮ ਕਰਨਾ ਸਾਡੀ ਪ੍ਰਕਿਰਿਆ ਦਾ ਅਹਿਮ ਹਿੱਸਾ ਹੈ. ਅਸੀਂ ਇਸ ਕੰਮ ਨੂੰ ਬਾਹਰੀ ਤੌਰ ’ਤੇ ਨਿਰਧਾਰਤ ਨਿਗਰਾਨੀ ਅਤੇ ਜਵਾਬਦੇਹੀ ਦੇ ਤਰੀਕਿਆਂ, ਜਿਵੇਂ ਕਿ ਤੀਜੀ ਧਿਰ ਦੀਆਂ ਜਾਂਚਾਂ, ਦੇ ਪੂਰਕ ਵਜੋਂ ਦੇਖਦੇ ਹਾਂ.

OpenAI ਰੈਡ ਟੀਮਿੰਗ ਨੈੱਟਵਰਕ ਭਰੋਸੇਯੋਗ ਅਤੇ ਤਜਰਬੇਕਾਰ ਮਾਹਰਾਂ ਦਾ ਭਾਈਚਾਰਾ ਹੈ. ਇਹ ਵੱਡੇ ਮਾਡਲਾਂ ਨੂੰ ਵਰਤੋਂ ਵਿੱਚ ਲਿਆਉਣ ਤੋਂ ਪਹਿਲਾਂ ਇੱਕ ਵਾਰ ਲਈ ਮਾਹਰ ਚੁਣਨ ਅਤੇ ਉਨ੍ਹਾਂ ਨਾਲ ਕੰਮ ਕਰਨ ਦੀ ਬਜਾਏ, ਜੋਖਮਾਂ ਦਾ ਮੁਲਾਂਕਣ ਕਰਨ ਅਤੇ ਉਨ੍ਹਾਂ ਨੂੰ ਘਟਾਉਣ ਦੇ ਸਾਡੇ ਯਤਨਾਂ ਨੂੰ ਵਧੇਰੇ ਵਿਆਪਕ ਢੰਗ ਨਾਲ ਸੇਧ ਦੇ ਸਕਦਾ ਹੈ. ਮਾਡਲ ਅਤੇ ਉਤਪਾਦ ਦੇ ਵਿਕਾਸ ਦੇ ਵੱਖ-ਵੱਖ ਪੜਾਵਾਂ ਵਿੱਚ ਰੈਡ ਟੀਮਿੰਗ ਲਈ ਮਦਦ ਵਾਸਤੇ ਨੈੱਟਵਰਕ ਦੇ ਮੈਂਬਰਾਂ ਨੂੰ ਉਨ੍ਹਾਂ ਦੀ ਮੁਹਾਰਤ ਅਨੁਸਾਰ ਸੱਦਿਆ ਜਾਵੇਗਾ. ਹਰ ਮੈਂਬਰ ਹਰੇਕ ਨਵੇਂ ਮਾਡਲ ਜਾਂ ਉਤਪਾਦ ਨਾਲ ਨਹੀਂ ਜੁੜੇਗਾ. ਹਰੇਕ ਮੈਂਬਰ ਨਾਲ ਮਿਲ ਕੇ ਤੈਅ ਕੀਤਾ ਜਾਵੇਗਾ ਕਿ ਉਹ ਕਿੰਨਾ ਸਮਾਂ ਦੇਵੇਗਾ, ਜੋ ਇੱਕ ਸਾਲ ਵਿੱਚ ਸਿਰਫ਼ 5–10 ਘੰਟੇ ਵੀ ਹੋ ਸਕਦਾ ਹੈ.

OpenAI ਵੱਲੋਂ ਕਰਵਾਈਆਂ ਰੈਡ ਟੀਮਿੰਗ ਮੁਹਿੰਮਾਂ ਤੋਂ ਇਲਾਵਾ, ਮੈਂਬਰਾਂ ਨੂੰ ਰੈਡ ਟੀਮਿੰਗ ਦੇ ਆਮ ਤਰੀਕਿਆਂ ਅਤੇ ਨਤੀਜਿਆਂ ਬਾਰੇ ਇੱਕ-ਦੂਜੇ ਨਾਲ ਵਿਚਾਰ ਸਾਂਝੇ ਕਰਨ ਦਾ ਮੌਕਾ ਮਿਲੇਗਾ. ਇਸ ਦਾ ਉਦੇਸ਼ ਵਧੇਰੇ ਵੰਨ-ਸੁਵੰਨੀ ਅਤੇ ਲਗਾਤਾਰ ਰਾਏ ਮਿਲਣਾ ਯਕੀਨੀ ਬਣਾਉਣਾ ਅਤੇ ਰੈਡ ਟੀਮਿੰਗ ਨੂੰ ਵਾਰ-ਵਾਰ ਪਰਖ ਤੇ ਸੁਧਾਰ ਦੀ ਪ੍ਰਕਿਰਿਆ ਬਣਾਉਣਾ ਹੈ. ਇਹ ਨੈੱਟਵਰਕ ਏਆਈ ਦੀ ਸੁਰੱਖਿਆ ਲਈ ਸਹਿਯੋਗ ਦੇ ਹੋਰ ਮੌਕਿਆਂ ਦਾ ਪੂਰਕ ਹੈ, ਜਿਨ੍ਹਾਂ ਵਿੱਚ ਸਾਡਾ ਖੋਜਕਾਰ ਪਹੁੰਚ ਪ੍ਰੋਗਰਾਮ⁠ ਅਤੇ ਖੁੱਲ੍ਹੇ ਸਰੋਤ ਵਾਲੇ ਮੁਲਾਂਕਣ⁠(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ) ਸ਼ਾਮਲ ਹਨ.

ਇਹ ਨੈੱਟਵਰਕ ਵਧੇਰੇ ਸੁਰੱਖਿਅਤ ਏਆਈ ਤਕਨਾਲੋਜੀਆਂ ਅਤੇ ਨੀਤੀਆਂ ਦੇ ਵਿਕਾਸ ਨੂੰ ਦਿਸ਼ਾ ਦੇਣ ਦਾ ਵਿਲੱਖਣ ਮੌਕਾ ਹੈ. ਇਸ ਰਾਹੀਂ ਤੁਸੀਂ ਸਾਡੇ ਜਿਊਣ, ਕੰਮ ਕਰਨ ਅਤੇ ਆਪਸ ਵਿੱਚ ਗੱਲਬਾਤ ਕਰਨ ਦੇ ਢੰਗਾਂ ਉੱਤੇ ਏਆਈ ਦੇ ਸੰਭਾਵੀ ਪ੍ਰਭਾਵ ਨੂੰ ਵੀ ਦਿਸ਼ਾ ਦੇ ਸਕਦੇ ਹੋ. ਇਸ ਨੈੱਟਵਰਕ ਵਿੱਚ ਸ਼ਾਮਲ ਹੋ ਕੇ ਤੁਸੀਂ ਸਾਡੇ ਵਿਸ਼ਾ ਮਾਹਰਾਂ ਦੇ ਸਮੂਹ ਦਾ ਹਿੱਸਾ ਬਣੋਗੇ. ਸਾਡੇ ਮਾਡਲਾਂ ਅਤੇ ਪ੍ਰਣਾਲੀਆਂ ਨੂੰ ਵਰਤੋਂ ਵਿੱਚ ਲਿਆਉਣ ਦੇ ਵੱਖ-ਵੱਖ ਪੜਾਵਾਂ ਦੌਰਾਨ ਉਨ੍ਹਾਂ ਦਾ ਮੁਲਾਂਕਣ ਕਰਨ ਲਈ ਤੁਹਾਨੂੰ ਸੱਦਿਆ ਜਾ ਸਕਦਾ ਹੈ.

ਏਆਈ ਪ੍ਰਣਾਲੀਆਂ ਦਾ ਮੁਲਾਂਕਣ ਕਰਨ ਲਈ ਕਈ ਵੱਖ-ਵੱਖ ਖੇਤਰਾਂ, ਨਜ਼ਰੀਆਂ ਅਤੇ ਜੀਵਨ ਦੇ ਤਜਰਬਿਆਂ ਦੀ ਸਮਝ ਲੋੜੀਂਦੀ ਹੈ. ਅਸੀਂ ਦੁਨੀਆ ਭਰ ਦੇ ਮਾਹਰਾਂ ਤੋਂ ਅਰਜ਼ੀਆਂ ਮੰਗਦੇ ਹਾਂ ਅਤੇ ਆਪਣੀ ਚੋਣ ਪ੍ਰਕਿਰਿਆ ਵਿੱਚ ਭੂਗੋਲਿਕ ਵੰਨ-ਸੁਵੰਨਤਾ ਦੇ ਨਾਲ-ਨਾਲ ਮੁਹਾਰਤ ਦੇ ਖੇਤਰਾਂ ਦੀ ਵੰਨ-ਸੁਵੰਨਤਾ ਨੂੰ ਵੀ ਤਰਜੀਹ ਦਿੰਦੇ ਹਾਂ. 

ਸਾਡੀ ਦਿਲਚਸਪੀ ਵਾਲੇ ਕੁਝ ਖੇਤਰ ਹੇਠਾਂ ਦਿੱਤੇ ਹਨ, ਪਰ ਇਹ ਸੂਚੀ ਇਨ੍ਹਾਂ ਤੱਕ ਸੀਮਿਤ ਨਹੀਂ ਹੈ:

ਏਆਈ ਪ੍ਰਣਾਲੀਆਂ ਜਾਂ ਭਾਸ਼ਾ ਮਾਡਲਾਂ ਨਾਲ ਪਹਿਲਾਂ ਕੰਮ ਕਰਨ ਦਾ ਤਜਰਬਾ ਲਾਜ਼ਮੀ ਨਹੀਂ ਹੈ, ਪਰ ਮਦਦਗਾਰ ਹੋ ਸਕਦਾ ਹੈ. ਸਾਡੇ ਲਈ ਸਭ ਤੋਂ ਅਹਿਮ ਤੁਹਾਡੀ ਇਹ ਇੱਛਾ ਹੈ ਕਿ ਤੁਸੀਂ ਸਾਡੇ ਨਾਲ ਜੁੜੋ ਅਤੇ ਏਆਈ ਪ੍ਰਣਾਲੀਆਂ ਦੇ ਪ੍ਰਭਾਵਾਂ ਦਾ ਮੁਲਾਂਕਣ ਕਰਨ ਦੇ ਸਾਡੇ ਢੰਗ ਵਿੱਚ ਆਪਣਾ ਨਜ਼ਰੀਆ ਸ਼ਾਮਲ ਕਰੋ.

OpenAI ਰੈਡ ਟੀਮਿੰਗ ਨੈੱਟਵਰਕ ਦੇ ਸਾਰੇ ਮੈਂਬਰਾਂ ਨੂੰ ਰੈਡ ਟੀਮਿੰਗ ਪ੍ਰੋਜੈਕਟ ਵਿੱਚ ਹਿੱਸਾ ਲੈਣ ਵੇਲੇ ਉਨ੍ਹਾਂ ਦੇ ਯੋਗਦਾਨ ਲਈ ਮਿਹਨਤਾਨਾ ਦਿੱਤਾ ਜਾਵੇਗਾ. ਇਸ ਨੈੱਟਵਰਕ ਦੀ ਮੈਂਬਰਸ਼ਿਪ ਤੁਹਾਨੂੰ ਆਪਣੀ ਖੋਜ ਪ੍ਰਕਾਸ਼ਿਤ ਕਰਨ ਜਾਂ ਹੋਰ ਮੌਕੇ ਅਪਣਾਉਣ ਤੋਂ ਨਹੀਂ ਰੋਕੇਗੀ. ਪਰ ਧਿਆਨ ਵਿੱਚ ਰੱਖੋ ਕਿ ਰੈਡ ਟੀਮਿੰਗ ਅਤੇ ਹੋਰ ਪ੍ਰੋਜੈਕਟਾਂ ਵਿੱਚ ਸ਼ਮੂਲੀਅਤ ਅਕਸਰ ਗੁਪਤਤਾ ਸਮਝੌਤਿਆਂ ਦੇ ਅਧੀਨ ਹੁੰਦੀ ਹੈ ਜਾਂ ਇਸ ਨੂੰ ਅਣਮਿੱਥੇ ਸਮੇਂ ਲਈ ਗੁਪਤ ਰੱਖਣਾ ਪੈਂਦਾ ਹੈ.

ਅਰਜ਼ੀਆਂ ਹੁਣ ਬੰਦ ਹਨ.

ਸਵਾਲ: ਨੈੱਟਵਰਕ ਵਿੱਚ ਸ਼ਾਮਲ ਹੋਣ ’ਤੇ ਕੀ ਕਰਨਾ ਪਵੇਗਾ?

ਜਵਾਬ: ਨੈੱਟਵਰਕ ਦਾ ਹਿੱਸਾ ਹੋਣ ’ਤੇ ਤੁਹਾਡੇ ਨਾਲ ਕਿਸੇ ਨਵੇਂ ਮਾਡਲ ਦੀ ਪਰਖ ਕਰਨ ਜਾਂ ਪਹਿਲਾਂ ਹੀ ਵਰਤੋਂ ਵਿੱਚ ਮੌਜੂਦ ਮਾਡਲ ਨੂੰ ਕਿਸੇ ਖ਼ਾਸ ਖੇਤਰ ਵਿੱਚ ਪਰਖਣ ਦੇ ਮੌਕਿਆਂ ਬਾਰੇ ਸੰਪਰਕ ਕੀਤਾ ਜਾ ਸਕਦਾ ਹੈ. ਨੈੱਟਵਰਕ ਦੇ ਤਹਿਤ ਕੀਤਾ ਜਾਣ ਵਾਲਾ ਕੰਮ ਗੁਪਤਤਾ ਸਮਝੌਤੇ ਅਧੀਨ ਹੁੰਦਾ ਹੈ, ਹਾਲਾਂਕਿ ਅਸੀਂ ਪਹਿਲਾਂ ਆਪਣੀ ਰੈਡ ਟੀਮਿੰਗ ਦੇ ਕਈ ਨਤੀਜੇ ਪ੍ਰਣਾਲੀ ਜਾਣਕਾਰੀ ਕਾਰਡਾਂ ਅਤੇ ਬਲੌਗ ਪੋਸਟਾਂ ਵਿੱਚ ਪ੍ਰਕਾਸ਼ਿਤ ਕੀਤੇ ਹਨ. ਰੈਡ ਟੀਮਿੰਗ ਪ੍ਰੋਜੈਕਟਾਂ ਉੱਤੇ ਲਗਾਏ ਸਮੇਂ ਲਈ ਤੁਹਾਨੂੰ ਮਿਹਨਤਾਨਾ ਦਿੱਤਾ ਜਾਵੇਗਾ.

ਸਵਾਲ: ਨੈੱਟਵਰਕ ਦਾ ਹਿੱਸਾ ਬਣਨ ਲਈ ਕਿੰਨਾ ਸਮਾਂ ਦੇਣ ਦੀ ਉਮੀਦ ਕੀਤੀ ਜਾਂਦੀ ਹੈ? 

ਜਵਾਬ: ਤੁਸੀਂ ਕਿੰਨਾ ਸਮਾਂ ਦੇ ਸਕਦੇ ਹੋ, ਇਹ ਤੁਹਾਡੀ ਸਮਾਂ-ਸਾਰਣੀ ਅਨੁਸਾਰ ਤੈਅ ਕੀਤਾ ਜਾ ਸਕਦਾ ਹੈ. ਧਿਆਨ ਦਿਓ ਕਿ ਹਰ ਮੌਕੇ ਲਈ ਨੈੱਟਵਰਕ ਦੇ ਸਾਰੇ ਮੈਂਬਰਾਂ ਨਾਲ ਸੰਪਰਕ ਨਹੀਂ ਕੀਤਾ ਜਾਵੇਗਾ. OpenAI ਕਿਸੇ ਖ਼ਾਸ ਰੈਡ ਟੀਮਿੰਗ ਪ੍ਰੋਜੈਕਟ ਲਈ ਢੁਕਵੀਂ ਮੁਹਾਰਤ ਦੇ ਅਧਾਰ ’ਤੇ ਚੋਣ ਕਰੇਗਾ ਅਤੇ ਅਗਲੀਆਂ ਰੈਡ ਟੀਮਿੰਗ ਮੁਹਿੰਮਾਂ ਵਿੱਚ ਨਵੇਂ ਨਜ਼ਰੀਆਂ ਨੂੰ ਤਰਜੀਹ ਦੇਵੇਗਾ. ਇੱਕ ਸਾਲ ਵਿੱਚ ਸਿਰਫ਼ 5 ਘੰਟਿਆਂ ਦਾ ਯੋਗਦਾਨ ਵੀ ਸਾਡੇ ਲਈ ਕੀਮਤੀ ਹੋਵੇਗਾ. ਇਸ ਲਈ ਜੇ ਤੁਹਾਨੂੰ ਦਿਲਚਸਪੀ ਹੈ ਪਰ ਸਮਾਂ ਸੀਮਿਤ ਹੈ, ਤਾਂ ਵੀ ਅਰਜ਼ੀ ਦੇਣ ਤੋਂ ਝਿਜਕੋ ਨਾ.

ਸਵਾਲ: ਬਿਨੈਕਾਰਾਂ ਨੂੰ ਉਨ੍ਹਾਂ ਦੀ ਚੋਣ ਬਾਰੇ ਕਦੋਂ ਦੱਸਿਆ ਜਾਵੇਗਾ?

ਜਵਾਬ: OpenAI ਅਰਜ਼ੀਆਂ ਮਿਲਣ ਦੇ ਨਾਲ-ਨਾਲ ਨੈੱਟਵਰਕ ਦੇ ਮੈਂਬਰਾਂ ਦੀ ਚੋਣ ਕਰਦਾ ਰਹੇਗਾ ਅਤੇ ਤੁਸੀਂ 1 ਦਸੰਬਰ, 2023 ਤੱਕ ਅਰਜ਼ੀ ਦੇ ਸਕਦੇ ਹੋ. ਅਰਜ਼ੀਆਂ ਦੀ ਇਹ ਮਿਆਦ ਖ਼ਤਮ ਹੋਣ ਤੋਂ ਬਾਅਦ, ਅਸੀਂ ਭਵਿੱਖ ਵਿੱਚ ਮੁੜ ਅਰਜ਼ੀਆਂ ਮੰਗਣ ਬਾਰੇ ਵਿਚਾਰ ਕਰਾਂਗੇ.

ਸਵਾਲ: ਕੀ ਨੈੱਟਵਰਕ ਦਾ ਹਿੱਸਾ ਹੋਣ ਦਾ ਮਤਲਬ ਹੈ ਕਿ ਮੈਨੂੰ ਹਰ ਨਵੇਂ ਮਾਡਲ ਦੀ ਰੈਡ ਟੀਮਿੰਗ ਕਰਨ ਲਈ ਕਿਹਾ ਜਾਵੇਗਾ?

ਜਵਾਬ: ਨਹੀਂ, OpenAI ਕਿਸੇ ਖ਼ਾਸ ਰੈਡ ਟੀਮਿੰਗ ਪ੍ਰੋਜੈਕਟ ਲਈ ਢੁਕਵੀਂ ਮੁਹਾਰਤ ਦੇ ਅਧਾਰ ’ਤੇ ਚੋਣ ਕਰੇਗਾ. ਇਸ ਲਈ ਤੁਹਾਨੂੰ ਹਰ ਨਵੇਂ ਮਾਡਲ ਦੀ ਪਰਖ ਕਰਨ ਦਾ ਮੌਕਾ ਮਿਲਣ ਦੀ ਉਮੀਦ ਨਹੀਂ ਰੱਖਣੀ ਚਾਹੀਦੀ.

ਸਵਾਲ: ਨੈੱਟਵਰਕ ਦੇ ਮੈਂਬਰਾਂ ਦੀ ਚੋਣ ਲਈ ਤੁਹਾਡੇ ਕੁਝ ਮਾਪਦੰਡ ਕੀ ਹਨ?

ਜਵਾਬ: ਸਾਡੇ ਕੁਝ ਮਾਪਦੰਡ ਇਹ ਹਨ:

• ਰੈਡ ਟੀਮਿੰਗ ਨਾਲ ਸਬੰਧਤ ਕਿਸੇ ਖ਼ਾਸ ਖੇਤਰ ਵਿੱਚ ਸਾਬਤ ਮੁਹਾਰਤ ਜਾਂ ਤਜਰਬਾ

• ਏਆਈ ਦੀ ਸੁਰੱਖਿਆ ਬਿਹਤਰ ਬਣਾਉਣ ਲਈ ਉਤਸ਼ਾਹ

• ਹਿੱਤਾਂ ਦਾ ਕੋਈ ਟਕਰਾਅ ਨਾ ਹੋਣਾ

• ਵੱਖ-ਵੱਖ ਪਿਛੋਕੜਾਂ ਅਤੇ ਰਵਾਇਤੀ ਤੌਰ ’ਤੇ ਘੱਟ ਨੁਮਾਇੰਦਗੀ ਵਾਲੇ ਸਮੂਹਾਂ ਨਾਲ ਸਬੰਧ

• ਵੱਖ-ਵੱਖ ਭੂਗੋਲਿਕ ਖੇਤਰਾਂ ਦੀ ਨੁਮਾਇੰਦਗੀ 

• ਇੱਕ ਤੋਂ ਵੱਧ ਭਾਸ਼ਾਵਾਂ ਵਿੱਚ ਮੁਹਾਰਤ

• ਤਕਨੀਕੀ ਹੁਨਰ (ਲਾਜ਼ਮੀ ਨਹੀਂ)

ਸਵਾਲ: ਸੁਰੱਖਿਆ ਲਈ ਸਹਿਯੋਗ ਦੇ ਹੋਰ ਕਿਹੜੇ ਮੌਕੇ ਹਨ?

ਜਵਾਬ: ਨੈੱਟਵਰਕ ਵਿੱਚ ਸ਼ਾਮਲ ਹੋਣ ਤੋਂ ਇਲਾਵਾ ਵੀ ਏਆਈ ਦੀ ਸੁਰੱਖਿਆ ਵਿੱਚ ਯੋਗਦਾਨ ਪਾਉਣ ਲਈ ਸਹਿਯੋਗ ਦੇ ਹੋਰ ਮੌਕੇ ਹਨ. ਮਿਸਾਲ ਵਜੋਂ, ਇੱਕ ਤਰੀਕਾ ਹੈ ਏਆਈ ਪ੍ਰਣਾਲੀਆਂ ਲਈ ਸੁਰੱਖਿਆ ਮੁਲਾਂਕਣ ਤਿਆਰ ਕਰਨਾ ਜਾਂ ਕਰਵਾਉਣਾ ਅਤੇ ਉਨ੍ਹਾਂ ਦੇ ਨਤੀਜਿਆਂ ਦਾ ਵਿਸ਼ਲੇਸ਼ਣ ਕਰਨਾ.

OpenAI ਦੀ ਖੁੱਲ੍ਹੇ ਸਰੋਤ ਵਾਲੀ Evals⁠(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ) ਰਿਪੋਜ਼ਟਰੀ (GPT‑4 ਦੀ ਸ਼ੁਰੂਆਤ⁠ ਵੇਲੇ ਜਾਰੀ ਕੀਤੀ ਗਈ) ਇਸ ਪ੍ਰਕਿਰਿਆ ਨੂੰ ਛੇਤੀ ਸ਼ੁਰੂ ਕਰਨ ਲਈ ਵਰਤਣ ਵਿੱਚ ਸੌਖੇ ਨਮੂਨੇ ਅਤੇ ਮਿਸਾਲੀ ਤਰੀਕੇ ਮੁਹੱਈਆ ਕਰਦੀ ਹੈ.

ਮੁਲਾਂਕਣ ਸਧਾਰਨ ਸਵਾਲ-ਜਵਾਬ ਦੀਆਂ ਪਰਖਾਂ ਤੋਂ ਲੈ ਕੇ ਵਧੇਰੇ ਗੁੰਝਲਦਾਰ ਸਥਿਤੀਆਂ ਦੀਆਂ ਨਕਲਾਂ ਤੱਕ ਹੋ ਸਕਦੇ ਹਨ. ਠੋਸ ਮਿਸਾਲਾਂ ਵਜੋਂ, ਇੱਥੇ OpenAI ਵੱਲੋਂ ਏਆਈ ਦੇ ਵਿਹਾਰ ਦਾ ਵੱਖ-ਵੱਖ ਪਹਿਲੂਆਂ ਤੋਂ ਮੁਲਾਂਕਣ ਕਰਨ ਲਈ ਤਿਆਰ ਕੀਤੀਆਂ ਕੁਝ ਨਮੂਨਾ ਪਰਖਾਂ ਹਨ:

ਮਨਾਉਣ ਦੀ ਸਮਰੱਥਾ

• MakeMeSay⁠(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ): ਇੱਕ ਏਆਈ ਪ੍ਰਣਾਲੀ ਦੂਜੀ ਏਆਈ ਪ੍ਰਣਾਲੀ ਨੂੰ ਝਾਂਸਾ ਦੇ ਕੇ ਉਸ ਤੋਂ ਕੋਈ ਗੁਪਤ ਸ਼ਬਦ ਕਹਾਉਣ ਵਿੱਚ ਕਿੰਨੀ ਕੁ ਸਫ਼ਲ ਹੋ ਸਕਦੀ ਹੈ?

• MakeMePay⁠(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ): ਇੱਕ ਏਆਈ ਪ੍ਰਣਾਲੀ ਦੂਜੀ ਏਆਈ ਪ੍ਰਣਾਲੀ ਨੂੰ ਪੈਸੇ ਦਾਨ ਕਰਨ ਲਈ ਮਨਾਉਣ ਵਿੱਚ ਕਿੰਨੀ ਕੁ ਸਫ਼ਲ ਹੋ ਸਕਦੀ ਹੈ?

• ਵੋਟਿੰਗ ਪ੍ਰਸਤਾਵ⁠(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ): ਇੱਕ ਏਆਈ ਪ੍ਰਣਾਲੀ ਕਿਸੇ ਸਿਆਸੀ ਪ੍ਰਸਤਾਵ ਲਈ ਦੂਜੀ ਏਆਈ ਪ੍ਰਣਾਲੀ ਦੇ ਸਮਰਥਨ ਨੂੰ ਕਿੰਨਾ ਕੁ ਪ੍ਰਭਾਵਿਤ ਕਰ ਸਕਦੀ ਹੈ?

ਸੁਨੇਹੇ ਲੁਕਾਉਣ ਦੀ ਤਕਨੀਕ (ਗੁਪਤ ਸੁਨੇਹਿਆਂ ਦਾ ਆਦਾਨ-ਪ੍ਰਦਾਨ)

• ਸੁਨੇਹੇ ਲੁਕਾਉਣ ਦੀ ਤਕਨੀਕ⁠(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ): ਇੱਕ ਏਆਈ ਪ੍ਰਣਾਲੀ ਦੂਜੀ ਏਆਈ ਪ੍ਰਣਾਲੀ ਦੀ ਨਜ਼ਰ ਤੋਂ ਬਚਾ ਕੇ ਗੁਪਤ ਸੁਨੇਹੇ ਭੇਜਣ ਵਿੱਚ ਕਿੰਨੀ ਕੁ ਸਫ਼ਲ ਹੋ ਸਕਦੀ ਹੈ?

• ਪਾਠ ਸੰਕੁਚਨ⁠(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ): ਗੁਪਤ ਸੁਨੇਹੇ ਲੁਕਾਉਣ ਲਈ ਇੱਕ ਏਆਈ ਪ੍ਰਣਾਲੀ ਸੁਨੇਹਿਆਂ ਨੂੰ ਕਿੰਨੀ ਕੁ ਚੰਗੀ ਤਰ੍ਹਾਂ ਸੰਕੁਚਿਤ ਕਰ ਸਕਦੀ ਹੈ ਅਤੇ ਮੁੜ ਮੂਲ ਰੂਪ ਵਿੱਚ ਲਿਆ ਸਕਦੀ ਹੈ?

• ਸ਼ੈਲਿੰਗ ਬਿੰਦੂ⁠(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ): ਇੱਕ ਏਆਈ ਪ੍ਰਣਾਲੀ ਸਿੱਧੇ ਸੰਚਾਰ ਤੋਂ ਬਿਨਾਂ ਦੂਜੀ ਏਆਈ ਪ੍ਰਣਾਲੀ ਨਾਲ ਕਿੰਨੀ ਕੁ ਚੰਗੀ ਤਰ੍ਹਾਂ ਤਾਲਮੇਲ ਬਿਠਾ ਸਕਦੀ ਹੈ?

ਅਸੀਂ ਏਆਈ ਪ੍ਰਣਾਲੀਆਂ ਦੇ ਮੁਲਾਂਕਣ ਵਿੱਚ ਰਚਨਾਤਮਕਤਾ ਅਤੇ ਨਵੇਂ ਪ੍ਰਯੋਗਾਂ ਨੂੰ ਉਤਸ਼ਾਹਿਤ ਕਰਦੇ ਹਾਂ. ਮੁਲਾਂਕਣ ਪੂਰਾ ਹੋਣ ’ਤੇ, ਅਸੀਂ ਤੁਹਾਨੂੰ ਇਸ ਨੂੰ ਖੁੱਲ੍ਹੇ ਸਰੋਤ ਵਾਲੀ Evals⁠(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ) ਰਿਪੋਜ਼ਟਰੀ ਵਿੱਚ ਸਾਂਝਾ ਕਰਨ ਦਾ ਸੱਦਾ ਦਿੰਦੇ ਹਾਂ, ਤਾਂ ਜੋ ਵਿਆਪਕ ਏਆਈ ਭਾਈਚਾਰਾ ਇਸ ਦੀ ਵਰਤੋਂ ਕਰ ਸਕੇ.

ਤੁਸੀਂ ਸਾਡੇ ਖੋਜਕਾਰ ਪਹੁੰਚ ਪ੍ਰੋਗਰਾਮ⁠ ਲਈ ਵੀ ਅਰਜ਼ੀ ਦੇ ਸਕਦੇ ਹੋ. ਇਹ ਉਨ੍ਹਾਂ ਖੋਜਕਾਰਾਂ ਦੀ ਮਦਦ ਲਈ ਕ੍ਰੈਡਿਟ ਦਿੰਦਾ ਹੈ ਜੋ ਸਾਡੇ ਉਤਪਾਦਾਂ ਰਾਹੀਂ ਏਆਈ ਨੂੰ ਜ਼ਿੰਮੇਵਾਰੀ ਨਾਲ ਵਰਤੋਂ ਵਿੱਚ ਲਿਆਉਣ ਅਤੇ ਇਸ ਨਾਲ ਜੁੜੇ ਜੋਖਮ ਘਟਾਉਣ ਸਬੰਧੀ ਖੇਤਰਾਂ ਦਾ ਅਧਿਐਨ ਕਰਦੇ ਹਨ.