OpenAI

ਅਤਿ-ਆਧੁਨਿਕ AI ਦੇ ਜੋਖ਼ਮਾਂ ਦਾ ਪ੍ਰਬੰਧਨ: ਸਿਖਲਾਈ ਤੋਂ ਤੈਨਾਤੀ ਤੱਕ

18 ਨਵੰਬਰ, 2026 · ਸੁਰੱਖਿਆ

ਅਤਿ-ਆਧੁਨਿਕ ਮਾਡਲਾਂ ਦੀਆਂ ਸਮਰੱਥਾਵਾਂ ਤੇਜ਼ੀ ਨਾਲ ਵਧ ਰਹੀਆਂ ਹਨ ਅਤੇ ਉਨ੍ਹਾਂ ਨੂੰ ਸਮਝਣ, ਇਕਸਾਰ ਕਰਨ ਅਤੇ ਸੁਰੱਖਿਅਤ ਰੱਖਣ ਦੀ ਸਾਡੀ ਯੋਗਤਾ ਨੂੰ ਇਨ੍ਹਾਂ ਤੋਂ ਅੱਗੇ ਰਹਿਣਾ ਚਾਹੀਦਾ ਹੈ. ਅਸੀਂ ਆਪਣੇ ਮਾਡਲਾਂ ਦੇ ਵਿਕਾਸ ਅਤੇ ਰਿਲੀਜ਼ ਦੀ ਰਫ਼ਤਾਰ ਨੂੰ ਸੰਤੁਲਿਤ ਕਰ ਰਹੇ ਹਾਂ, ਜਿਸ ਵਿੱਚ ਸੁਰੱਖਿਆ ਮਿਆਰਾਂ ਨੂੰ ਪੂਰਾ ਕਰਨ ਲਈ ਸਾਨੂੰ ਵਧੇਰੇ ਸਮੇਂ ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ, ਤਾਂ ਅਸੀਂ ਅੰਦਰੂਨੀ ਸਿਖਲਾਈ ਰੋਕ⁠(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ) ਦਿੰਦੇ ਹਾਂ ਜਾਂ GPT‑6.1 Astra ਵਰਗੇ ਮਾਡਲਾਂ ਨੂੰ ਰੋਕ ਕੇ ਰੱਖਦੇ ਹਾਂ. ਅਸੀਂ ਸੁਰੱਖਿਆ ਮਾਮਲਿਆਂ ਵਰਗੀਆਂ ਨਵੀਆਂ ਪ੍ਰਕਿਰਿਆਵਾਂ ਲਿਆਂਦੀਆਂ ਹਨ ਅਤੇ ਪੂਰੀ ਸਿਖਲਾਈ ਦੌਰਾਨ ਇਕਸਾਰ ਵਿਵਹਾਰ ਦੇ ਵਧੇਰੇ ਮਜ਼ਬੂਤ ਸਬੂਤਾਂ ਦੀ ਮੰਗ ਕਰਦੇ ਹਾਂ. ਇਹ ਲੋੜਾਂ ਮਾਡਲਾਂ ਦੀ ਰਿਲੀਜ਼ ਦੀ ਗਤੀ ਨੂੰ ਹੌਲੀ ਕਰਦੀਆਂ ਹਨ, ਪਰ ਇਹ ਸਾਨੂੰ ਸੁਰੱਖਿਅਤ ਢੰਗ ਨਾਲ ਅੱਗੇ ਵਧਣ ਲਈ ਵਧੇਰੇ ਭਰੋਸਾ ਦਿੰਦੀਆਂ ਹਨ.

ਜੁਲਾਈ ਵਿੱਚ ਵਾਪਰੀ Hugging Face ਘਟਨਾ⁠ ਤੋਂ ਬਾਅਦ, ਅਸੀਂ ਮਾਡਲਾਂ ਨੂੰ ਸਿਖਲਾਈ ਦੇਣ, ਜਾਂਚ ਕਰਨ, ਅਤੇ ਤੈਨਾਤ ਕਰਨ ਦੇ ਤਰੀਕਿਆਂ ਲਈ ਸੁਰੱਖਿਆ ਉਪਾਅ ਅਤੇ ਇਕਸਾਰਤਾ ਦੀਆਂ ਲੋੜਾਂ ਮਜ਼ਬੂਤ ਕੀਤੀਆਂ ਹਨ. ਇਹ ਲੇਖ ਦੱਸਦਾ ਹੈ ਕਿ ਅਸੀਂ ਬਹੁਤ ਜ਼ਿਆਦਾ ਸੈਂਡਬੌਕਸ ਕੀਤੇ ਸਿਖਲਾਈ ਇਨਵਾਇਰਨਮੈਂਟਾਂ ਤੋਂ ਲੈ ਕੇ ਤੁਹਾਡੇ ਕੰਪਿਊਟਰ ’ਤੇ ਵਰਤੀ ਜਾਂਦੀ Codex ਤੈਨਾਤੀ ਤੱਕ ਹਰੇਕ ਪੜਾਅ ’ਤੇ ਜੋਖ਼ਮ ਦਾ ਮੁਲਾਂਕਣ ਅਤੇ ਪ੍ਰਬੰਧਨ ਕਿਵੇਂ ਕਰਦੇ ਹਾਂ. ਅਸੀਂ ਹਰੇਕ ਪੜਾਅ ’ਤੇ ਮਾਡਲਾਂ ਅਤੇ ਸੁਰੱਖਿਆ ਉਪਾਵਾਂ ਦੋਵਾਂ ਦਾ ਮੁਲਾਂਕਣ ਕਰਦੇ ਹਾਂ, ਜਿਸ ਲਈ ਅਗਲੇ ਪੜਾਅ ’ਤੇ ਜਾਣ ਵਾਸਤੇ ਸੁਰੱਖਿਆ ਸਮੀਖਿਆ ਲਾਜ਼ਮੀ ਹੁੰਦੀ ਹੈ.

ਮਾਡਲ ਜੀਵਨ-ਚੱਕਰ ਵਿੱਚ ਡੂੰਘੀ ਸੁਰੱਖਿਆ

ਅਸੀਂ ਸੁਰੱਖਿਆ ਦੀਆਂ ਕਈ ਪਰਤਾਂ ਦੇ ਨਾਲ ਡੂੰਘਾ ਬਚਾਅ ਵਰਤਦੇ ਹਾਂ ਜੋ ਕਿਸੇ ਇੱਕ ਸੁਰੱਖਿਆ ਉਪਾਅ ’ਤੇ ਨਿਰਭਰਤਾ ਨੂੰ ਘਟਾਉਂਦੀਆਂ ਹਨ. ਜੇ ਇੱਕ ਪਰਤ ਅਸਫ਼ਲ ਹੋ ਜਾਂਦੀ ਹੈ, ਤਾਂ ਦੂਜੀਆਂ ਪਰਤਾਂ ਨੁਕਸਾਨ ਨੂੰ ਰੋਕਣ, ਨਤੀਜਿਆਂ ਨੂੰ ਸੀਮਤ ਕਰਨ, ਜਾਂ ਸਾਨੂੰ ਸੁਚੇਤ ਕਰਨ ਵਿੱਚ ਮਦਦ ਕਰਦੀਆਂ ਹਨ ਤਾਂ ਜੋ ਅਸੀਂ ਦਖ਼ਲ ਦੇ ਸਕੀਏ.

ਅਸੀਂ ਆਪਣੀਆਂ ਸੁਰੱਖਿਆ ਪ੍ਰਣਾਲੀਆਂ ਨੂੰ ਚਾਰ ਪਰਤਾਂ ਵਿੱਚ ਵਿਵਸਥਿਤ ਕਰਦੇ ਹਾਂ:

ਪ੍ਰਭਾਵਸ਼ਾਲੀ ਨਿਗਰਾਨੀ ਮਾਡਲ ਦੀ ਨਿਗਰਾਨੀਯੋਗਤਾ ’ਤੇ ਨਿਰਭਰ ਕਰਦੀ ਹੈ - ਨਿਗਰਾਨ ਕਿਸੇ ਮਾਡਲ ਦੀ ਰੀਜ਼ਨਿੰਗ ਅਤੇ ਕਾਰਵਾਈਆਂ ਤੋਂ ਗ਼ਲਤੀਆਂ ਜਾਂ ਅਸੁਰੱਖਿਅਤ ਵਿਵਹਾਰ ਦਾ ਕਿੰਨੀ ਭਰੋਸੇਯੋਗਤਾ ਨਾਲ ਪਤਾ ਲਗਾ ਸਕਦੇ ਹਨ. ਮਿਸਾਲ ਵਜੋਂ, ਆਪਣੀ ਚੇਨ-ਆਫ-ਥੌਟ (CoT) ਵਿੱਚ ਧੋਖਾ ਦੇਣ ਦੇ ਆਪਣੇ ਇਰਾਦੇ ਨੂੰ ਸ਼ਬਦਾਂ ਵਿੱਚ ਬਿਆਨ ਕਰਨ ਵਾਲਾ ਮਾਡਲ ਇਹ ਜਾਣਕਾਰੀ ਛੱਡ ਦੇਣ ਵਾਲੇ ਮਾਡਲ ਨਾਲੋਂ ਵਧੇਰੇ ਨਿਗਰਾਨੀਯੋਗ ਹੁੰਦਾ ਹੈ. ਅਸੀਂ ਸਿਖਲਾਈ ਦੌਰਾਨ ਅਤੇ ਤੈਨਾਤੀ ਤੋਂ ਪਹਿਲਾਂ ਨਿਗਰਾਨੀਯੋਗਤਾ ਦਾ ਮੁਲਾਂਕਣ ਕਰਦੇ ਹਾਂ, ਇਸ ਨੂੰ ਮਾਪਣ ਲਈ ਬਿਹਤਰ ਤਰੀਕੇ⁠(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ) ਵਿਕਸਿਤ ਕਰਦੇ ਹਾਂ ਅਤੇ ਇਸ ਗੱਲ ਦਾ ਅਧਿਐਨ ਕਰਦੇ ਹਾਂ ਕਿ ਇਸ ’ਤੇ ਕੀ ਅਸਰ ਪਾਉਂਦਾ ਹੈ⁠(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ).

Hugging Face ਘਟਨਾ ਨੇ ਦਿਖਾਇਆ ਕਿ ਸਾਨੂੰ ਬਹੁਤ ਸਮਰੱਥ ਮਾਡਲਾਂ ਨੂੰ ਸੀਮਤ ਰੱਖਣ ਲਈ ਸਿਰਫ਼ ਸੈਂਡਬੌਕਸਿੰਗ ’ਤੇ ਨਿਰਭਰ ਕਿਉਂ ਨਹੀਂ ਰਹਿਣਾ ਚਾਹੀਦਾ. ਅਸੀਂ ਹੁਣ ਜ਼ਿਆਦਾਤਰ ਅੰਦਰੂਨੀ ਅਤੇ ਬਾਹਰੀ ਤੈਨਾਤੀ ਸੈਟਿੰਗਾਂ ਵਿੱਚ ਅਤਿ-ਆਧੁਨਿਕ ਮਾਡਲਾਂ ਦੀ ਨਿਗਰਾਨੀ ਕਰਦੇ ਹਾਂ, ਜਿਸ ਵਿੱਚ ਟੂਲਸ ਦੀ ਵਰਤੋਂ ਕਰਨ ਵਾਲੀਆਂ ਸਾਰੀਆਂ ਅੰਦਰੂਨੀ ਤੈਨਾਤੀਆਂ ਸ਼ਾਮਲ ਹਨ.

ਮਾਡਲ ਦੇ ਵਿਕਾਸ ਅਤੇ ਤੈਨਾਤੀ ਦੇ ਤਿੰਨ ਪੜਾਵਾਂ ਵਿੱਚ ਹਰੇਕ ਪਰਤ ਦੀ ਭੂਮਿਕਾ ਬਦਲਦੀ ਹੈ:

  • ਖੋਜ: ਅਸੀਂ ਸੈਂਡਬੌਕਸ ਕੀਤੇ ਇਨਵਾਇਰਨਮੈਂਟਾਂ ਵਿੱਚ ਮਾਡਲਾਂ ਨੂੰ ਸਿਖਲਾਈ ਦਿੰਦੇ ਹਾਂ, ਪਰਖਦੇ ਹਾਂ, ਅਤੇ ਵਰਤਦੇ ਹਾਂ.

  • ਅੰਦਰੂਨੀ ਤੈਨਾਤੀ: OpenAI ਦੇ ਕਰਮਚਾਰੀ ਵਿਹਾਰਕ ਕੰਮ ਲਈ ਮਾਡਲਾਂ ਦੀ ਵਰਤੋਂ ਕਰਦੇ ਹਨ.

  • ਬਾਹਰੀ ਤੈਨਾਤੀ: ਮਾਡਲ ਲੋਕਾਂ ਅਤੇ ਸੰਸਥਾਵਾਂ ਲਈ ਵਧੇਰੇ ਵਿਆਪਕ ਤੌਰ ’ਤੇ ਉਪਲਬਧ ਹੋ ਜਾਂਦੇ ਹਨ.

ਅਸੀਂ ਵੱਖ-ਵੱਖ ਪੜਾਵਾਂ ’ਤੇ ਵੱਖ-ਵੱਖ ਪਰਤਾਂ ’ਤੇ ਨਿਰਭਰ ਕਰਦੇ ਹਾਂ. ਸਿਖਲਾਈ ਦੌਰਾਨ, ਜਦੋਂ ਇਕਸਾਰਤਾ ਘੱਟ ਯਕੀਨੀ ਹੁੰਦੀ ਹੈ, ਤਾਂ ਅਸੀਂ ਸੈਂਡਬੌਕਸਿੰਗ ਅਤੇ ਨਿਗਰਾਨੀ ’ਤੇ ਵਧੇਰੇ ਨਿਰਭਰ ਕਰਦੇ ਹਾਂ. ਤੈਨਾਤੀ ਦੌਰਾਨ ਮਾਡਲਾਂ ਨੂੰ ਵਧੇਰੇ ਵਿਆਪਕ ਪਹੁੰਚ ਮਿਲਣ ਨਾਲ ਇਕਸਾਰਤਾ ਅਤੇ ਪ੍ਰਣਾਲੀ-ਪੱਧਰੀ ਕੰਟਰੋਲ ਹੋਰ ਅਹਿਮ ਹੋ ਜਾਂਦੇ ਹਨ. ਹਰ ਪੜਾਅ ’ਤੇ ਅਸੀਂ ਇਹ ਮੁਲਾਂਕਣ ਕਰਦੇ ਹਾਂ ਕਿ ਕੀ ਸਾਂਝੀਆਂ ਸੁਰੱਖਿਆਵਾਂ ਮਾਡਲ ਦੀਆਂ ਸਮਰੱਥਾਵਾਂ ਅਤੇ ਪਹੁੰਚ ਲਈ ਕਾਫ਼ੀ ਹਨ. ਸਾਡੇ ਨਿਰਣਿਆਂ ਦੀ ਸਮੀਖਿਆ ਸਾਡੇ ਸੁਰੱਖਿਆ ਸਲਾਹਕਾਰ ਸਮੂਹ (SAG) ਨਾਲ ਕੀਤੀ ਜਾ ਸਕਦੀ ਹੈ ਅਤੇ ਇਹਨਾਂ ਦੀ ਨਿਗਰਾਨੀ OpenAI Foundation ਦੇ ਨਿਰਦੇਸ਼ਕ ਬੋਰਡ ਦੀ ਸੁਰੱਖਿਆ ਅਤੇ ਸੁਰੱਖਿਅਤਾ ਕਮੇਟੀ (SSC) ਵੱਲੋਂ ਕੀਤੀ ਜਾਂਦੀ ਹੈ.

ਖੋਜ ਦੌਰਾਨ: ਮਾਡਲਾਂ ਨੂੰ ਸੈਂਡਬੌਕਸ ਕੀਤੇ ਇਨਵਾਇਰਨਮੈਂਟਾਂ ਵਿੱਚ ਸੀਮਤ ਰੱਖਣਾ

ਖੋਜ ਪੜਾਅ ਦੌਰਾਨ, ਅਸੀਂ ਮਾਡਲਾਂ ਦੀਆਂ ਇਕਸਾਰਤਾ ਵਿਸ਼ੇਸ਼ਤਾਵਾਂ ਵਿੱਚ ਭਰੋਸਾ ਹਾਸਲ ਕਰਨ ਲਈ ਉਹਨਾਂ ਦਾ ਮੁਲਾਂਕਣ ਕਰਦੇ ਹਾਂ. ਕਿਉਂਕਿ ਅਸੀਂ ਨੁਕਸਾਨ ਨੂੰ ਰੋਕਣ ਲਈ ਅਜੇ ਪੂਰੀ ਤਰ੍ਹਾਂ ਇਕਸਾਰਤਾ ’ਤੇ ਨਿਰਭਰ ਨਹੀਂ ਰਹਿ ਸਕਦੇ, ਇਸ ਲਈ ਅਸੀਂ ਇਸ ਗੱਲ ਨੂੰ ਸੀਮਤ ਕਰਨ ਵਾਸਤੇ ਸੁਰੱਖਿਆ ਅਤੇ ਸੈਂਡਬੌਕਸਿੰਗ ’ਤੇ ਬਹੁਤ ਜ਼ਿਆਦਾ ਨਿਰਭਰ ਕਰਦੇ ਹਾਂ ਕਿ ਉਹ ਕਿਸ ਚੀਜ਼ ਤੱਕ ਪਹੁੰਚ ਕਰ ਸਕਦੇ ਹਨ ਅਤੇ ਕੀ ਕਰ ਸਕਦੇ ਹਨ.

ਇਕਸਾਰਤਾ ਖੋਜ, ਨਿਗਰਾਨੀ ਪ੍ਰਣਾਲੀਆਂ ਅਤੇ ਇੰਟਰਨੈੱਟ ਬੁਨਿਆਦੀ ਢਾਂਚੇ ਦੀ ਸੁਰੱਖਿਆ ਦੀ ਮੌਜੂਦਾ ਸਥਿਤੀ ਦੇ ਆਧਾਰ ’ਤੇ, ਸਾਡੇ ਖ਼ਿਆਲ ਵਿੱਚ ਜ਼ਿੰਮੇਵਾਰ ਤਰੀਕਾ ਅਤਿ-ਆਧੁਨਿਕ ਮਾਡਲ ਨੂੰ ਬਿਨਾਂ ਕਿਸੇ ਲਾਈਵ ਇੰਟਰਨੈੱਟ ਪਹੁੰਚ ਦੇ ਸਿਖਲਾਈ ਦੇਣਾ ਹੈ. Hugging Face ਘਟਨਾ ਮਗਰੋਂ, ਅਸੀਂ ਇਨ੍ਹਾਂ ਦੀ ਵਰਤੋਂ ਕਰਕੇ ਮਾਡਲਾਂ ਨੂੰ ਸੀਮਤ ਰੱਖਣ ਲਈ ਆਪਣੀਆਂ ਅੰਦਰੂਨੀ ਖੋਜ ਪ੍ਰਣਾਲੀਆਂ ਦਾ ਵੱਡੇ ਪੱਧਰ ’ਤੇ ਪੁਨਰਗਠਨ ਕੀਤਾ ਹੈ:

  • ਸੈਂਡਬੌਕਸ ਜੋ ਮਾਡਲ ਦੇ ਵਿਸ਼ੇਸ਼ ਅਧਿਕਾਰਾਂ ਨੂੰ ਸੀਮਤ ਕਰਦੇ ਹਨ

  • ਵਰਕਲੋਡ ਨੂੰ ਮੂਲ ਕੰਪਿਊਟਰ ਤੋਂ ਹੋਰ ਵੱਖ ਰੱਖਣ ਵਾਲੀਆਂ ਵਰਚੁਅਲ ਮਸ਼ੀਨਾਂ

  • ਨੈੱਟਵਰਕ ਅਤੇ ਕਲਾਉਡ ਪੈਰੀਮੀਟਰ ਜੋ ਪੂਰੇ ਕਲੱਸਟਰ ਨੂੰ ਇੰਟਰਨੈੱਟ ਤੋਂ ਪੂਰੀ ਤਰ੍ਹਾਂ ਵੱਖ ਕਰਦੇ ਹਨ

ਅਸੀਂ ਇਸ ਪ੍ਰਣਾਲੀ ’ਤੇ ਲਗਾਤਾਰ ਰੈੱਡ-ਟੀਮਿੰਗ ਕਰਦੇ ਰਹਿੰਦੇ ਹਾਂ, ਜਿਸ ਵਿੱਚ ਸਾਡੇ ਸਭ ਤੋਂ ਸਮਰੱਥ ਮਾਡਲਾਂ ਦੀਆਂ ਟੀਮਾਂ ਲਾਈਵ ਇੰਟਰਨੈੱਟ ਤੱਕ ਪਹੁੰਚਣ, ਸੁਰੱਖਿਆ ਸੀਮਾਵਾਂ ਤੋਂ ਬਚ ਨਿਕਲਣ ਜਾਂ ਉਨ੍ਹਾਂ ਏਜੰਟਾਂ ਨਾਲ ਸੰਪਰਕ ਕਰਨ ਦੀ ਕੋਸ਼ਿਸ਼ ਕਰਦੀਆਂ ਹਨ ਜਿਨ੍ਹਾਂ ਤੋਂ ਉਨ੍ਹਾਂ ਨੂੰ ਵੱਖ ਰੱਖਿਆ ਜਾਣਾ ਹੈ. ਇਸ ਨਾਲ ਸਾਨੂੰ ਇਹ ਪਰਖਣ ਵਿੱਚ ਮਦਦ ਮਿਲਦੀ ਹੈ ਕਿ ਕੀ ਸੀਮਤ ਰੱਖਣ ਦਾ ਪ੍ਰਬੰਧ ਉਨ੍ਹਾਂ ਮਾਡਲਾਂ ਦੀਆਂ ਸਮਰੱਥਾਵਾਂ ਦੇ ਸਾਹਮਣੇ ਕਾਇਮ ਰਹਿੰਦਾ ਹੈ ਜਿਨ੍ਹਾਂ ਨੂੰ ਇਸ ਨੇ ਸੀਮਤ ਕਰਨਾ ਹੁੰਦਾ ਹੈ.

ਵਾਧੂ ਰੱਖਿਆ ਪਰਤ ਵਜੋਂ, ਅਸੀਂ ਅਤਿ-ਆਧੁਨਿਕ ਮਾਡਲਾਂ ਦੀ ਹਰ ਅਨੁਮਾਨ-ਪ੍ਰਕਿਰਿਆ ਦੀ ਨਿਗਰਾਨੀ ਕਰਦੇ ਹਾਂ ਤਾਂ ਜੋ ਇਹ ਪਤਾ ਲਗਾਇਆ ਜਾ ਸਕੇ ਕਿ ਕੀ ਮਾਡਲ ਨੇ ਸਾਡੀਆਂ ਸੁਰੱਖਿਆ ਸਥਿਰਤਾਵਾਂ ਨੂੰ ਬਾਈਪਾਸ ਕਰ ਦਿੱਤਾ ਹੈ. ਜੇ ਸਾਡੀ ਨਿਗਰਾਨੀ ਤੋਂ ਪਤਾ ਲੱਗੇ ਕਿ ਮਾਡਲ ਇੰਟਰਨੈੱਟ ਤੱਕ ਪਹੁੰਚ ਗਿਆ ਹੈ, ਤਾਂ ਅਸੀਂ ਆਪਣੀਆਂ ਸੁਰੱਖਿਆ ਟੀਮਾਂ ਨੂੰ ਪੇਜ ਕਰਦੇ ਹਾਂ ਅਤੇ ਵਰਕਲੋਡ ਨੂੰ ਆਟੋਪੌਜ਼ ਕਰ ਦਿੰਦੇ ਹਾਂ.

ਸੀਮਤ ਰੱਖਣ ਦੇ ਪ੍ਰਬੰਧ ਅਸਫਲ ਹੋਣ ’ਤੇ ਨਿਗਰਾਨੀ ਇੱਕ ਅਹਿਮ ਬੈਕਅੱਪ ਬਚਾਅ ਪ੍ਰਦਾਨ ਕਰਦੀ ਹੈ. ਇੱਕ ਹਾਲੀਆ ਗ਼ੈਰ-ਇਕਸਾਰਤਾ ਰਿਪੋਰਟ ਵਿੱਚ, ਅਸੀਂ ਸਾਂਝਾ ਕੀਤਾ ਸੀ ਕਿ ਨਿਗਰਾਨਾਂ ਨੇ ਅੰਦਰੂਨੀ ਖੋਜ ਮਾਡਲ ਨੂੰ ਸੀਮਤ ਇੰਟਰਨੈੱਟ ਪਹੁੰਚ ਹਾਸਲ ਕਰਨ ਲਈ DNS ਦੀ ਗ਼ਲਤ ਸੰਰਚਨਾ⁠(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ) ਦਾ ਫ਼ਾਇਦਾ ਉਠਾਉਂਦੇ ਹੋਏ ਫੜਿਆ ਸੀ. ਸੁਰੱਖਿਆ ਗੈਪ ਦੀ ਜਾਂਚ ਕਰਨ ਇਸ ਨੂੰ ਦੂਰ ਕਰਨ ਦੌਰਾਨ ਅਸੀਂ 20 ਸਤੰਬਰ ਤੋਂ 1 ਅਕਤੂਬਰ ਤੱਕ ਆਪਣੇ ਸਭ ਤੋਂ ਸਮਰੱਥ ਮਾਡਲਾਂ ਦੀ ਸਿਖਲਾਈ ਅਤੇ ਮੁਲਾਂਕਣ ਨੂੰ ਰੋਕ ਦਿੱਤਾ ਸੀ.

ਦਖ਼ਲਅੰਦਾਜ਼ੀ ਨੂੰ ਤੇਜ਼ ਅਤੇ ਭਰੋਸੇਮੰਦ ਬਣਾਉਣ ਲਈ, ਅਸੀਂ ਕੰਟਰੋਲ ਰੂਮ⁠ ਬਣਾਇਆ ਹੈ, ਜੋ ਇੱਕ ਕੇਂਦਰੀ ਪ੍ਰਣਾਲੀ ਹੈ ਅਤੇ ਖੋਜ ਵਰਕਲੋਡਾਂ ’ਤੇ ਨਜ਼ਰ ਰੱਖਦੀ ਹੈ ਅਤੇ ਕਿਸੇ ਕੰਮ ਨੂੰ ਰੋਕਣ ਦੀ ਹਦਾਇਤ ਮਿਲਣ ਦੇ 35 ਸਕਿੰਟਾਂ ਦੇ ਅੰਦਰ ਮਾਡਲ ਦੀ ਅਗਲੀ ਆਉਟਪੁੱਟ ਨੂੰ ਰੋਕ ਦਿੰਦੀ ਹੈ. ਇਹ ਕੰਟਰੋਲ ਸਿੱਧੇ ਅਨੁਮਾਨ-ਪ੍ਰਕਿਰਿਆ ਦੇ ਬੁਨਿਆਦੀ ਢਾਂਚੇ ਵਿੱਚ ਲਾਗੂ ਕੀਤੇ ਜਾਂਦੇ ਹਨ, ਇਸ ਲਈ ਇਹ ਹਰ ਖੋਜ ਵਰਕਲੋਡ ਵੱਲੋਂ ਆਪਣੀ ਖੁਦ ਦੀ ਬੰਦ ਕਰਨ ਦੀ ਵਿਵਸਥਾ ਲਾਗੂ ਕਰਨ ’ਤੇ ਨਿਰਭਰ ਨਹੀਂ ਕਰਦੇ. ਅਤਿ-ਆਧੁਨਿਕ ਮਾਡਲ ਖੋਜ ਵਰਕਲੋਡਾਂ ਲਈ, ਕੰਟਰੋਲ ਰੂਮ ਅਣਉਪਲਬਧ ਹੋਣ ’ਤੇ ਵੀ ਇਹ ਮਾਡਲ ਦੀ ਆਉਟਪੁੱਟ ਨੂੰ ਰੋਕ ਦਿੰਦੇ ਹਨ.

ਰੈਡ ਟੀਮਿੰਗ ਅਤੇ ਨਿਗਰਾਨੀ ਮਿਲ ਕੇ ਕੰਮ ਕਰਦੀਆਂ ਹਨ. ਅਸੀਂ ਇਹ ਗਾਰੰਟੀ ਨਹੀਂ ਦੇ ਸਕਦੇ ਕਿ ਕੋਈ ਸੈਂਡਬੌਕਸ ਅਭੇਦ ਹੈ, ਪਰ ਰੈਡ ਟੀਮਿੰਗ ਸਾਨੂੰ ਇਹ ਅੰਦਾਜ਼ਾ ਲਗਾਉਣ ਵਿੱਚ ਮਦਦ ਕਰਦੀ ਹੈ ਕਿ ਕਿਸੇ ਮਾਡਲ ਨੂੰ ਇਸ ਵਿੱਚੋਂ ਬਚ ਨਿਕਲਣ ਲਈ ਕਿੰਨੇ ਜਤਨ ਦੀ ਲੋੜ ਪਵੇਗੀ. ਮਾਡਲ ਨੂੰ ਜਿੰਨਾ ਜ਼ਿਆਦਾ ਜਤਨ ਕਰਨਾ ਪੈਂਦਾ ਹੈ, ਨਿਗਰਾਨ ਪ੍ਰਣਾਲੀਆਂ ਕੋਲ ਉਸ ਦਾ ਪਤਾ ਲਗਾਉਣ ਅਤੇ ਉਸ ਨੂੰ ਰੋਕਣ ਦੇ ਓਨੇ ਹੀ ਜ਼ਿਆਦਾ ਮੌਕੇ ਹੁੰਦੇ ਹਨ.

ਅਸੀਂ ਖੋਜ ਪੜਾਅ ਦੌਰਾਨ ਕੁਝ ਕਾਰਨਾਂ ਕਰਕੇ ਮਜ਼ਬੂਤ ਸੁਰੱਖਿਆ ਅਤੇ ਨਿਗਰਾਨੀ ਕੰਟਰੋਲ ਲਾਜ਼ਮੀ ਕਰਦੇ ਹਾਂ:

  • ਮਾਡਲਾਂ ਦਾ ਮੁਲਾਂਕਣ ਹਾਲੇ ਜਾਰੀ ਹੈ. ਕੁਝ ਮਾਡਲਾਂ ਦੀ ਜਨਤਕ ਰਿਲੀਜ਼ ਲਈ ਲੋੜੀਂਦੀ ਸੁਰੱਖਿਆ ਸਿਖਲਾਈ, ਇਕਸਾਰਤਾ ਦੀ ਪੜਤਾਲ ਅਤੇ ਸਮੀਖਿਆਵਾਂ ਪੂਰੀਆਂ ਨਹੀਂ ਹੋਈਆਂ ਹਨ.

  • ਅਤਿ-ਆਧੁਨਿਕ ਖੋਜ ਸੈਟਿੰਗਾਂ ਜੋਖਮਾਂ ਨੂੰ ਵਧਾ ਸਕਦੀਆਂ ਹਨ. ਕੁਝ ਖੋਜ ਕਾਰਜਾਂ ਲਈ ਵਧੇਰੇ ਉੱਚ-ਪੱਧਰੀ ਸੈੱਟਅੱਪਾਂ ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ, ਜੋ ਮਾਡਲ ਨੂੰ ਬਾਹਰੀ ਤੈਨਾਤੀ ਦੌਰਾਨ ਆਮ ਤੌਰ 'ਤੇ ਦੇਖੇ ਜਾਣ ਨਾਲੋਂ ਵਧੇਰੇ ਨਿਰੰਤਰ ਜਾਂ ਸਮਰੱਥ ਬਣਾਉਂਦੇ ਹਨ (ਮਿਸਾਲ ਵਜੋਂ, ਨਾਵੀਅਰ ਸਟੋਕਸ ਸਮੱਸਿਆ ਨੂੰ ਹੱਲ ਕਰਨ ਲਈ 10,000 ਏਜੰਟਾਂ ਦੀ ਟੀਮ ਦੀ ਲੋੜ ਪਈ ਸੀ).

  • ਸਿਖਲਾਈ ਵੱਡੇ ਪੱਧਰ ’ਤੇ ਘੱਟ ਸਿੱਧੀ ਮਨੁੱਖੀ ਨਿਗਰਾਨੀ ਹੇਠ ਚੱਲਦੀ ਹੈ. ਆਮ Codex ਸੈਸ਼ਨ ਦੇ ਉਲਟ, ਸਾਡੇ ਸਿਖਲਾਈ ਵਰਕਲੋਡਾਂ ਵਿੱਚ ਹਰੇਕ ਇੰਟਰੈਕਸ਼ਨ ’ਤੇ ਕਿਸੇ ਵਿਅਕਤੀ ਦੀ ਨਜ਼ਰ ਤੋਂ ਬਿਨਾਂ ਮਾਡਲ ਦੀਆਂ ਵੱਡੀ ਗਿਣਤੀ ਵਿੱਚ ਕਾਰਵਾਈਆਂ ਸ਼ਾਮਲ ਹੁੰਦੀਆਂ ਹਨ.

ਅੰਦਰੂਨੀ ਤੈਨਾਤੀ: ਇਕਸਾਰਤਾ ਦੀ ਜਾਂਚ ਕਰੋ, ਵਿਵਹਾਰ ’ਤੇ ਨੇੜਿਓਂ ਨਜ਼ਰ ਰੱਖੋ

ਵਿਆਪਕ ਰਿਲੀਜ਼ ਤੋਂ ਪਹਿਲਾਂ, ਕਰਮਚਾਰੀ ਅਤਿ-ਆਧੁਨਿਕ ਮਾਡਲਾਂ ਦੀ ਸੈਂਡਬੌਕਸਡ ਖੋਜ ਵਰਤੋਂ ਤੋਂ ਅਨਸੈਂਡਬੌਕਸਡ ਅੰਦਰੂਨੀ ਵਰਤੋਂ ਵੱਲ ਬਦਲਦੇ ਹਨ, ਜਿਵੇਂ ਕਰਮਚਾਰੀਆਂ ਲਈ ChatGPT ਵਿੱਚ ਮਾਡਲ ਨੂੰ ਉਪਲਬਧ ਕਰਵਾਉਣਾ. ਇਸ ਨਾਲ ਸਾਨੂੰ ਮਾਡਲਾਂ ਦੇ ਵਿਹਾਰਕ ਸਥਿਤੀਆਂ ਵਿੱਚ ਵਿਵਹਾਰ⁠(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ) ਦੀ ਬਿਹਤਰ ਸਮਝ ਮਿਲਦੀ ਹੈ ਅਤੇ ਤੈਨਾਤੀ ਸੰਬੰਧੀ ਫ਼ੈਸਲਿਆਂ ਲਈ ਜਾਣਕਾਰੀ ਮਿਲਦੀ ਹੈ.

ਇਸ ਪੜਾਅ ਦੌਰਾਨ, ਅਸੀਂ ਮਾਡਲ ਨੂੰ ਵਿਆਪਕ ਇੰਟਰਨੈੱਟ, ਸਾਡੇ Slack, ਸਾਡੇ ਕੋਡਬੇਸ ਅਤੇ ਅੰਦਰੂਨੀ ਬੁਨਿਆਦੀ ਢਾਂਚੇ ਤੱਕ ਪਹੁੰਚ ਦਿੰਦੇ ਹਾਂ. ਇਹ ਜੋਖਮ ਵਿੱਚ ਅਹਿਮ ਬਦਲਾਅ ਹੈ, ਕਿਉਂਕਿ ਹੁਣ ਮਾਡਲ ਦੀਆਂ ਕਾਰਵਾਈਆਂ ਉਨ੍ਹਾਂ ਪ੍ਰਣਾਲੀਆਂ ’ਤੇ ਸਿੱਧਾ ਅਸਰ ਪਾਉਂਦੀਆਂ ਹਨ ਜਿਨ੍ਹਾਂ ਦੀ ਵਰਤੋਂ ਅਸੀਂ OpenAI ਨੂੰ ਬਣਾਉਣ ਅਤੇ ਸੰਚਾਲਿਤ ਕਰਨ ਲਈ ਕਰਦੇ ਹਾਂ. ਅੰਦਰੂਨੀ ਤੈਨਾਤੀ ਦੌਰਾਨ, ਸਾਨੂੰ ਸੁਰੱਖਿਆ ਕੰਟਰੋਲਾਂ ਦੀ ਬਜਾਏ ਮਾਡਲ ਦੀ ਇਕਸਾਰਤਾ, ਪ੍ਰਣਾਲੀ ਦੇ ਬਚਾਅ ਉਪਾਵਾਂ ਅਤੇ ਨਿਗਰਾਨੀ ’ਤੇ ਵਧੇਰੇ ਭਰੋਸਾ ਕਰਨ ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ.

ਸੈਂਡਬੌਕਸ ਤੋਂ ਬਾਹਰ ਤੈਨਾਤੀ ਤੋਂ ਪਹਿਲਾਂ, ਕਿਸੇ ਅਤਿ-ਆਧੁਨਿਕ ਮਾਡਲ ਨੂੰ ਪਹਿਲਾਂ ਇਕਸਾਰਤਾ ਅਤੇ ਨਿਗਰਾਨੀਯੋਗਤਾ ਦੀ ਜਾਂਚ⁠(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ) ਵਿੱਚੋਂ ਲੰਘਣਾ ਪੈਂਦਾ ਹੈ. ਸਾਡੇ ਕੋਲ ਇਕਸਾਰਤਾ ਮੁਲਾਂਕਣਾਂ ਦਾ ਸੂਟ ਹੈ, ਜੋ ਖ਼ਾਸ ਇਕਸਾਰਤਾ ਅਸਫ਼ਲਤਾ ਦੇ ਤਰੀਕਿਆਂ (ਜਿਵੇਂ ਕਿ ਸੁਰੱਖਿਆ ਅਤੇ ਸੁਰੱਖਿਆ ਪਾਬੰਦੀਆਂ ਨੂੰ ਬਾਈਪਾਸ ਕਰਨਾ) ਅਤੇ ਰੁਝਾਨ ਦੇ ਵਿਆਪਕ ਮਾਪਾਂ (ਜਿਵੇਂ ਕਿ ਅੰਦਰੂਨੀ Codex ਟ੍ਰੈਜੈਕਟਰੀਆਂ ਦੀ ਮੁੜ-ਸੈਂਪਲਿੰਗ ਕਰਨਾ ਅਤੇ ਗ਼ੈਰ-ਇਕਸਾਰਤਾ ਦੀ ਜਾਂਚ ਕਰਨਾ) ਦੋਵਾਂ ਦੀ ਜਾਂਚ ਕਰਦਾ ਹੈ. ਤੁਸੀਂ ਸਾਡੇ ਇਕਸਾਰਤਾ ਅਤੇ ਨਿਗਰਾਨੀਯੋਗਤਾ ਮੁਲਾਂਕਣਾਂ ਬਾਰੇ ਹੋਰ ਜਾਣਕਾਰੀ ਨਵੀਨਤਮ GPT‑6 Astra ਸਿਸਟਮ ਕਾਰਡ⁠(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ) ਵਿੱਚ ਦੇਖ ਸਕਦੇ ਹੋ.

ਸਾਡੇ ਪ੍ਰੋਡਕਸ਼ਨ ਸੈੱਟਅੱਪਾਂ ਵਾਂਗ ਬਣਾਉਂਦੇ ਹੋਏ, ਅਸੀਂ ਪ੍ਰਣਾਲੀ-ਪੱਧਰੀ ਵਰਗੀਕਾਰਾਂ ਨਾਲ ਸੁਰੱਖਿਆ ਦੀ ਵਾਧੂ ਪਰਤ ਜੋੜਦੇ ਹਾਂ, ਜੋ ਸਾਈਬਰ ਦੁਰਵਰਤੋਂ ਅਤੇ ਜੀਵ-ਹਥਿਆਰ ਬਣਾਉਣ ਵਰਗੇ ਅਤਿ-ਆਧੁਨਿਕ ਨੁਕਸਾਨਾਂ ਤੋਂ ਬਚਾਅ ਲਈ ਤਿਆਰ ਕੀਤੇ ਗਏ ਹਨ. ਅਸੀਂ ਆਮ ਤੌਰ ’ਤੇ Codex ਦੀ ਵਰਤੋਂ ਕਰਨ ਵਾਲੇ ਕਰਮਚਾਰੀਆਂ ਲਈ ਸਵੈਚਾਲਿਤ ਸਮੀਖਿਆ⁠(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ) ਵੀ ਲਾਜ਼ਮੀ ਕਰਦੇ ਹਾਂ, ਜੋ ਸੰਭਾਵੀ ਤੌਰ ’ਤੇ ਜੋਖਮ ਭਰੀਆਂ ਕਾਰਵਾਈਆਂ ਦਾ ਮੁਲਾਂਕਣ ਕਰਦੀ ਹੈ ਅਤੇ ਉਨ੍ਹਾਂ ਨੂੰ ਵਾਪਸ ਵਰਤੋਂਕਾਰ ਕੋਲ ਭੇਜਦੀ ਹੈ.

ਅੰਤ ਵਿੱਚ, ਅਸੀਂ ਅੰਦਰੂਨੀ ਤੈਨਾਤੀ ਦੌਰਾਨ ਹਰੇਕ ਅਤਿ-ਆਧੁਨਿਕ ਅਨੁਮਾਨ-ਪ੍ਰਕਿਰਿਆ ’ਤੇ ਗ਼ੈਰ-ਇਕਸਾਰ ਵਿਵਹਾਰ ਦੀ ਨਿਗਰਾਨੀ ਕਰਦੇ ਹਾਂ. ਕਿਉਂਕਿ ਹੁਣ ਮਾਡਲ ਕੋਲ ਵਧੇਰੇ ਵਿਸ਼ੇਸ਼ ਅਧਿਕਾਰ ਅਤੇ ਅੰਦਰੂਨੀ ਜਾਣਕਾਰੀ ਤੇ ਪ੍ਰਣਾਲੀਆਂ ਤੱਕ ਪਹੁੰਚ ਹੈ, ਇਸ ਲਈ ਡੇਟਾ ਚੋਰੀ, ਜਾਂ ਸੰਵੇਦਨਸ਼ੀਲ ਡੇਟਾ ਨੂੰ ਅਣਅਧਿਕਾਰਤ ਥਾਂ ’ਤੇ ਭੇਜਣ ਵਰਗੇ ਜੋਖਮਾਂ ਦਾ ਪਤਾ ਲਗਾਉਣਾ ਖ਼ਾਸ ਤੌਰ ’ਤੇ ਮਹੱਤਵਪੂਰਨ ਹੋ ਜਾਂਦਾ ਹੈ. ਨਿਗਰਾਨੀ ਨਾਲ ਸਾਨੂੰ ਗ਼ੈਰ-ਇਕਸਾਰਤਾ ਦੇ ਨਵੇਂ ਰੂਪਾਂ⁠(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ) ਦੀ ਜਾਂਚ ਵਿੱਚ ਵੀ ਮਦਦ ਮਿਲਦੀ ਹੈ.

ਬਾਹਰੀ ਤੈਨਾਤੀ: ਵੱਡੇ ਪੱਧਰ ’ਤੇ ਦੁਰਵਰਤੋਂ ਅਤੇ ਗ਼ੈਰ-ਇਕਸਾਰਤਾ ਤੋਂ ਸੁਰੱਖਿਆ

ਜਨਤਕ ਤੈਨਾਤੀ ਨਾਲ ਮਾਡਲ ਕਿਤੇ ਵੱਧ ਵਰਤੋਂਕਾਰਾਂ, ਕਾਰਜਾਂ ਅਤੇ ਇਨਵਾਇਰਨਮੈਂਟਾਂ ਦੇ ਸੰਪਰਕ ਵਿੱਚ ਆਉਂਦੇ ਹਨ, ਜਿਸ ਨਾਲ ਜੋਖਮਾਂ ਦੇ ਪੱਧਰ ਅਤੇ ਕਿਸਮਾਂ ਦੋਵਾਂ ਵਿੱਚ ਵਾਧਾ ਹੁੰਦਾ ਹੈ. ਇਸ ਪੜਾਅ ’ਤੇ, ਸਾਨੂੰ ਸੰਭਾਵੀ ਤੌਰ ’ਤੇ ਦੁਰਭਾਵਨਾਪੂਰਨ ਅਨਸਰਾਂ ਤੋਂ ਵੀ ਸੁਰੱਖਿਆ ਕਰਨ ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ ਜੋ ਜਾਣਬੁੱਝ ਕੇ ਮਾਡਲ ਨੂੰ ਨੁਕਸਾਨ ਪਹੁੰਚਾਉਣ ਲਈ ਨਿਰਦੇਸ਼ਿਤ ਕਰਦੇ ਹਨ.

ਜਨਤਕ ਰਿਲੀਜ਼ ਤੋਂ ਪਹਿਲਾਂ, ਮਾਡਲਾਂ ਅਤੇ ਪ੍ਰਣਾਲੀ ਦੇ ਸੁਰੱਖਿਆ ਉਪਾਵਾਂ ਲਈ ਸਾਡੀਆਂ ਬਾਹਰੀ ਤੈਨਾਤੀ ਦੀਆਂ ਸੁਰੱਖਿਆ ਲੋੜਾਂ ਪੂਰੀਆਂ ਕਰਨੀਆਂ ਲਾਜ਼ਮੀ ਹਨ. ਅਸੀਂ ਉਨ੍ਹਾਂ ਦਾ ਮੁਲਾਂਕਣ ਇਹਨਾਂ ਰਾਹੀਂ ਕਰਦੇ ਹਾਂ:

  • ਇਕਸਾਰਤਾ ਅਤੇ ਸੁਰੱਖਿਆ ਮੁਲਾਂਕਣਾਂ ਦਾ ਵੱਡਾ ਸੂਟ ਚਲਾਉਣਾ. ਸਾਡੇ ਅਤਿ-ਆਧੁਨਿਕ ਮਾਡਲਾਂ ਲਈ, ਇਸ ਵਿੱਚ ਮਾਡਲ ਦੀ ਮਜ਼ਬੂਤੀ ਦੀ ਸਖ਼ਤ ਪਰਖ ਕਰਨ ਵਾਸਤੇ ਸਾਡੇ ਅੰਦਰੂਨੀ ਸਵੈਚਾਲਿਤ ਰੈਡ ਟੀਮਿੰਗ ਨਾਲ ਅਨੁਕੂਲ ਜਾਂਚ⁠ ਦੇ ਨਵੇਂ ਦੌਰ ਚਲਾਉਣਾ ਸ਼ਾਮਲ ਹੈ. ਅਸੀਂ ਆਪਣੀ ਸਮਰੱਥਾ ਅਤੇ ਸੁਰੱਖਿਆ ਮੁਲਾਂਕਣਾਂ ਦੇ ਨਤੀਜੇ ਆਪਣੇ ਸਿਸਟਮ ਕਾਰਡਾਂ⁠(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ) ਵਿੱਚ ਪ੍ਰਕਾਸ਼ਿਤ ਕਰਦੇ ਹਾਂ.

  • ਸਾਡੇ ਸਭ ਤੋਂ ਸਮਰੱਥ ਮਾਡਲਾਂ ਲਈ, ਅਸੀਂ ਤੀਜੀਆਂ ਧਿਰਾਂ ਨਾਲ ਵੀ ਜਾਂਚ ਕਰਦੇ ਹਾਂ, ਤਾਂ ਜੋ ਦੁਰਵਰਤੋਂ ਵਿਰੁੱਧ ਸਾਡੇ ਸੁਰੱਖਿਆ ਉਪਾਵਾਂ ਅਤੇ ਸਾਡੇ ਮਾਡਲਾਂ ਦੀ ਬੁਨਿਆਦੀ ਇਕਸਾਰਤਾ ਦੋਵਾਂ ਦੀ ਸਖ਼ਤ ਪਰਖ ਕੀਤੀ ਜਾ ਸਕੇ.

  • ਬੇਸ ਮਾਡਲ ਦੀ ਮੂਲ ਇਕਸਾਰਤਾ ਵਿੱਚ ਕਿਸੇ ਵੀ ਬਦਲਾਅ ਜਾਣਨ ਲਈ ਅੰਦਰੂਨੀ ਤੈਨਾਤੀ ਦੌਰਾਨ ਨਿਗਰਾਨੀ ਤੋਂ ਮਿਲੇ ਚੇਤਾਵਨੀ ਸੰਕੇਤਾਂ ਦੀ ਜਾਂਚ ਕਰਨਾ.

ਸਾਡੇ “ਨਾਲੋ-ਨਾਲ ਚੱਲਣ ਵਾਲੇ” ਸੁਰੱਖਿਆ ਉਪਾਵਾਂ (ਜਿਵੇਂ ਕਿ ਮਾਡਲ ਦੀ ਸੁਰੱਖਿਆ ਸਿਖਲਾਈ ਅਤੇ ਪ੍ਰਣਾਲੀ ਵਰਗੀਕਾਰਾਂ) ਤੋਂ ਇਲਾਵਾ, ਬਾਹਰੀ ਤੈਨਾਤੀਆਂ ਲਈ ਅਸੀਂ ਆਫ਼ਲਾਈਨ ਲਾਗੂਕਰਨ ਅਤੇ ਜਾਂਚ ਦਾ ਵੀ ਲਾਭ ਉਠਾਉਂਦੇ ਹਾਂ. ਇਹ ਟੀਮਾਂ ਵੱਡੇ ਪੱਧਰ ’ਤੇ ਏਜੰਟ-ਆਧਾਰਿਤ ਜਾਂਚਕਰਤਾਵਾਂ ਅਤੇ ਮਨੁੱਖੀ ਸਮੀਖਿਆ ਨਾਲ ਸੰਭਾਵੀ ਖ਼ਤਰਾ ਪੈਦਾ ਕਰਨ ਵਾਲਿਆਂ ਦਾ ਪਤਾ ਲਗਾਉਂਦੀਆਂ ਤੇ ਪਛਾਣਦੀਆਂ ਹਨ, ਜਿਸ ਵਿੱਚ ਸਾਈਬਰ ਦੁਰਵਰਤੋਂ, ਜੀਵ-ਹਥਿਆਰ ਬਣਾਉਣਾ, ਡਿਸਟਿਲੇਸ਼ਨ⁠ ਅਤੇ ਮਾਡਲ ਦੀ ਆਪਣੀ ਗ਼ੈਰ-ਇਕਸਾਰਤਾ ਸ਼ਾਮਲ ਹਨ. ਆਫ਼ਲਾਈਨ ਲਾਗੂਕਰਨ ਖ਼ਾਸ ਤੌਰ ’ਤੇ ਸੰਭਾਵੀ ਖ਼ਤਰੇ ਦੀ ਵਧੇਰੇ ਸੰਪੂਰਨ ਤਸਵੀਰ ਤਿਆਰ ਕਰਨ ਵਾਸਤੇ ਵੱਖ-ਵੱਖ ਖਾਤਿਆਂ ਤੋਂ ਜਾਣਕਾਰੀ ਇਕੱਠੀ ਕਰਨ ਲਈ ਮਦਦਗਾਰ ਹੁੰਦਾ ਹੈ.

Daybreak ਅਤੇ Rosalind⁠ ਵਰਗੇ ਭਰੋਸੇਯੋਗ ਪਹੁੰਚ ਪ੍ਰੋਗਰਾਮ ਸੁਰੱਖਿਆ ਦੀ ਇੱਕ ਹੋਰ ਪਰਤ ਦਿੰਦੇ ਹਨ ਅਤੇ ਸੰਭਾਵੀ ਹਮਲਾਵਰਾਂ ਦੀ ਪਹੁੰਚ ਨੂੰ ਸੀਮਤ ਕਰਦੇ ਹੋਏ ਰੱਖਿਅਕਾਂ ਅਤੇ ਜਾਇਜ਼ ਖੋਜਕਰਤਾਵਾਂ ਦੇ ਕੰਮ ਨੂੰ ਤੇਜ਼ ਕਰਦੇ ਹਨ.

ਘਟਨਾ ’ਤੇ ਕਾਰਵਾਈ ਅਤੇ ਖੁਲਾਸਾ

ਜਦੋਂ ਅਸੀਂ ਆਪਣੀਆਂ ਸੁਰੱਖਿਆ ਪਰਤਾਂ ਵਿੱਚੋਂ ਕਿਸੇ ਇੱਕ ਵਿੱਚ ਕੋਈ ਅਸਫ਼ਲਤਾ ਦੇਖਦੇ ਹਾਂ, ਭਾਵੇਂ ਅਸਲ ਵਿੱਚ ਕੋਈ ਨੁਕਸਾਨ ਹੋਇਆ ਹੋਵੇ ਜਾਂ ਨਾ ਹੋਇਆ ਹੋਵੇ, ਅਸੀਂ ਤੁਰੰਤ ਜਾਂਚ ਕਰਨਾ, ਤਰਜੀਹ ਤੈਅ ਕਰਨਾ, ਅਤੇ ਜੇ ਸੰਭਵ ਤੇ ਢੁਕਵਾਂ ਹੋਵੇ, ਤਾਂ ਬਾਹਰੀ ਤੌਰ ’ਤੇ ਇਸ ਅਸਫ਼ਲਤਾ ਦਾ ਖੁਲਾਸਾ ਕਰਨਾ ਚਾਹੁੰਦੇ ਹਾਂ. ਸਾਡੀ ਗ਼ੈਰ-ਇਕਸਾਰਤਾ ਦੀ ਰਿਪੋਰਟਿੰਗ⁠ ਨੀਤੀ ਦੇ ਤਹਿਤ, ਕੋਈ ਵੀ ਕਰਮਚਾਰੀ ਜਨਤਕ ਖੁਲਾਸੇ ਲਈ ਕਿਸੇ ਘਟਨਾ ਵੱਲ ਧਿਆਨ ਦਿਵਾ ਸਕਦਾ ਹੈ. ਇਨ੍ਹਾਂ ਰਿਪੋਰਟਾਂ ਦੀ ਜਾਂਚ ਹੁੰਦੀ ਹੈ, ਅਤੇ ਜੇ ਬਾਹਰੀ ਖੁਲਾਸੇ ਬਾਰੇ ਅਸਹਿਮਤੀ ਹੋਵੇ, ਤਾਂ ਫ਼ੈਸਲਾ ਸਾਡੇ ਸੁਰੱਖਿਆ ਸਲਾਹਕਾਰ ਸਮੂਹ (SAG) ਕੋਲ ਭੇਜਿਆ ਜਾਂਦਾ ਹੈ. ਕਰਮਚਾਰੀਆਂ ਦੀਆਂ ਰਿਪੋਰਟਾਂ ’ਤੇ ਨਿਰਭਰ ਰਹਿਣ ਤੋਂ ਇਲਾਵਾ, ਅਸੀਂ ਸਰਗਰਮੀ ਨਾਲ ਗ਼ੈਰ-ਇਕਸਾਰਤਾ ਦੀਆਂ ਘਟਨਾਵਾਂ ਦੀ ਭਾਲ ਵੀ ਕਰਦੇ ਹਾਂ ਤਾਂ ਜੋ ਅਸੀਂ ਉਨ੍ਹਾਂ ਨੂੰ ਹੱਲ ਕਰ ਸਕੀਏ ਅਤੇ ਨਤੀਜੇ ਸਾਂਝੇ ਕਰ ਸਕੀਏ.

ਤੁਸੀਂ ਸਾਡੀਆਂ ਗ਼ੈਰ-ਇਕਸਾਰਤਾ ਰਿਪੋਰਟਾਂ ਇੱਥੇ⁠(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ) ਦੇਖ ਸਕਦੇ ਹੋ.

​


​

ਇਹ ਕੰਮ ਖੋਜ ਦੀ ਤਰੱਕੀ ਅਤੇ ਸੰਚਾਲਨ ਅਨੁਸ਼ਾਸਨ ਦੋਵਾਂ ’ਤੇ ਨਿਰਭਰ ਕਰਦਾ ਹੈ: ਕੰਟਰੋਲਾਂ ਨੂੰ ਸਹੀ ਢੰਗ ਨਾਲ ਸੰਰਚਿਤ ਕਰਨਾ, ਇਹ ਪਰਖਣਾ ਕਿ ਉਹ ਆਪਸ ਵਿੱਚ ਕਿਵੇਂ ਕੰਮ ਕਰਦੇ ਹਨ ਅਤੇ ਜਦੋਂ ਉਹ ਅਸਫਲ ਹੁੰਦੇ ਹਨ ਤਾਂ ਨਿਰਣਾਇਕ ਢੰਗ ਨਾਲ ਜਵਾਬ ਦੇਣਾ. ਨੈੱਟਵਰਕ ਸੇਵਾ ਦੀ ਗ਼ਲਤ ਸੰਰਚਨਾ ਜਾਂ ਸਵੈਚਾਲਿਤ ਰੋਕ ਦੀ ਅਸਫਲਤਾ ਬਾਕੀ ਪੱਖੋਂ ਮਜ਼ਬੂਤ ਸੁਰੱਖਿਆ ਉਪਾਵਾਂ ਨੂੰ ਕਮਜ਼ੋਰ ਕਰ ਸਕਦੀ ਹੈ.

ਮਾਡਲਾਂ ਦੇ ਨਵੀਆਂ ਸਮਰੱਥਾਵਾਂ ਹਾਸਲ ਕਰਨ ਦੇ ਨਾਲ-ਨਾਲ, ਸਾਨੂੰ ਸਾਡੇ ਸੁਰੱਖਿਆ ਉਪਾਵਾਂ ਪਿੱਛੇ ਦੀਆਂ ਧਾਰਨਾਵਾਂ ਨੂੰ ਲਗਾਤਾਰ ਪਰਖਣਾ ਅਤੇ ਲੋੜ ਅਨੁਸਾਰ ਉਨ੍ਹਾਂ ਵਿੱਚ ਸੁਧਾਰ ਕਰਨਾ ਪਵੇਗਾ. ਖੋਜ, ਅੰਦਰੂਨੀ ਵਰਤੋਂ ਅਤੇ ਜਨਤਕ ਤੈਨਾਤੀ ਤੋਂ ਮਿਲੀਆਂ ਸਿੱਖਿਆਵਾਂ ਨੂੰ ਅਗਲੇ ਮਾਡਲਾਂ ਦੀ ਸਿਖਲਾਈ, ਮੁਲਾਂਕਣ ਅਤੇ ਤੈਨਾਤੀ ਨੂੰ ਸੇਧ ਦੇਣੀ ਚਾਹੀਦੀ ਹੈ.

ਅਸੀਂ ਸਿਸਟਮ ਕਾਰਡਾਂ, ਘਟਨਾ ਰਿਪੋਰਟਾਂ, ਅੰਦਰੂਨੀ ਤੈਨਾਤੀ ਦੀਆਂ ਜੋਖ਼ਮ ਰਿਪੋਰਟਾਂ⁠(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ) ਅਤੇ ਬਾਹਰੀ ਮੁਲਾਂਕਣਾਂ⁠ ਰਾਹੀਂ ਨਤੀਜੇ ਸਾਂਝੇ ਕਰਨਾ ਜਾਰੀ ਰੱਖਾਂਗੇ, ਤਾਂ ਜੋ ਹੋਰ ਲੋਕ ਸਾਡੀ ਪਹੁੰਚ ਦੀ ਪੜਤਾਲ ਕਰ ਸਕਣ ਜਿਸ ਵਿੱਚ ਇਸ ਦੀਆਂ ਸੀਮਾਵਾਂ ਵੀ ਸ਼ਾਮਲ ਹਨ. ਜਦੋਂ ਉਹ ਸਬੂਤ ਸਾਡੇ ਸੁਰੱਖਿਆ ਮਿਆਰਾਂ ’ਤੇ ਖਰੇ ਨਾ ਉਤਰਨ, ਤਾਂ ਉਨ੍ਹਾਂ ਲੋੜਾਂ ਦੇ ਪੂਰੇ ਹੋਣ ਤੱਕ ਅਸੀਂ ਮੁੜ ਸਿਖਲਾਈ ਰੋਕ ਦੇਵਾਂਗੇ ਜਾਂ ਰਿਲੀਜ਼ ਰੋਕਾਂਗੇ.

ਸੰਬੰਧਿਤ ਖੋਜ ਅਤੇ ਸਰੋਤ

ਸੁਰੱਖਿਆ ਮਿਆਰ ਤੈਅ ਕਰਨਾ

ਇਕਸਾਰ ਵਿਵਹਾਰ ਨੂੰ ਪਰਿਭਾਸ਼ਿਤ ਕਰਨਾ ਅਤੇ ਉਸ ਦਾ ਮੁਲਾਂਕਣ ਕਰਨਾ

ਮਾਡਲਾਂ ਨੂੰ ਸੀਮਤ ਰੱਖਣਾ ਅਤੇ ਸੁਰੱਖਿਆ ਉਪਾਵਾਂ ਵਿੱਚ ਸੁਧਾਰ ਕਰਨਾ

ਘਟਨਾ ’ਤੇ ਕਾਰਵਾਈ ਅਤੇ ਖੁਲਾਸਾ

ਖੋਜ ਦੀ ਤਰੱਕੀ ਅਤੇ ਵਰਤੋਂ

  • ਖੋਜ ਵਿੱਚ ਤੇਜ਼ੀ: OpenAI ਦੇ ਅੰਦਰ ਦੀ ਝਲਕ — ਇਸ ਗੱਲ ਦੇ ਸ਼ੁਰੂਆਤੀ ਸਬੂਤ ਕਿ ਕੋਡਿੰਗ ਏਜੰਟ OpenAI ਦੇ ਅੰਦਰ ਖੋਜ ਨੂੰ ਕਿਵੇਂ ਬਦਲ ਰਹੇ ਹਨ, ਜਿਸ ਵਿੱਚ ਇਨ੍ਹਾਂ ਦੀ ਵਧਦੀ ਵਰਤੋਂ, ਵਧੇਰੇ ਗੁੰਝਲਦਾਰ ਕਾਰਜ, ਅਤੇ ਪ੍ਰਯੋਗਾਂ ’ਤੇ ਪੈਣ ਵਾਲੇ ਪ੍ਰਭਾਵ ਸ਼ਾਮਲ ਹਨ.

  • ਨਾਵੀਅਰ–ਸਟੋਕਸ ਮਿਲੇਨੀਅਮ ਇਨਾਮ ਸਮੱਸਿਆ ਬਾਰੇ — ਅੰਦਰੂਨੀ AI ਪ੍ਰਣਾਲੀ ਵੱਲੋਂ ਤਿਆਰ ਕੀਤਾ ਗਣਿਤਿਕ ਸਬੂਤ ਜਿਸ ਦੇ ਨਾਲ Lean ਰਸਮੀਕਰਨ ਵੀ ਹੈ, ਜੋ ਵੱਡੇ ਪੱਧਰ ਦੀਆਂ ਖੋਜ ਤੈਨਾਤੀਆਂ ਦੀਆਂ ਸਮਰੱਥਾਵਾਂ ਨੂੰ ਦਰਸਾਉਂਦਾ ਹੈ.

  • Daybreak — ਸਾਡਾ ਸਾਈਬਰ ਸੁਰੱਖਿਆ ਪ੍ਰੋਗਰਾਮ ਪਰਖੇ ਹੋਏ ਰੱਖਿਅਕਾਂ ਨੂੰ ਕਮਜ਼ੋਰੀਆਂ ਲੱਭਣ ਅਤੇ ਸੁਰੱਖਿਆ ਪ੍ਰਬੰਧਾਂ ਨੂੰ ਮਜ਼ਬੂਤ ਕਰਨ ਲਈ ਉੱਨਤ AI ਸਮਰੱਥਾਵਾਂ, ਸੁਰੱਖਿਆ ਟੂਲ, ਅਤੇ ਸਹਾਇਤਾ ਪ੍ਰਦਾਨ ਕਰਦਾ ਹੈ.

  • ਜੀਵ ਵਿਗਿਆਨ ਖੋਜ ਲਈ GPT‑Rosalind ਦੀ ਪੇਸ਼ਕਸ਼⁠ — ਜੀਵ ਵਿਗਿਆਨ, ਦਵਾਈਆਂ ਦੀ ਖੋਜ ਅਤੇ ਖੋਜ ਨੂੰ ਇਲਾਜ ਵਿੱਚ ਬਦਲਣ ਵਾਲੀ ਚਿਕਿਤਸਾ ਲਈ ਇੱਕ ਵਿਸ਼ੇਸ਼ ਮਾਡਲ, ਜੋ ਯੋਗ ਸੰਸਥਾਵਾਂ ਲਈ ਭਰੋਸੇਯੋਗ ਪਹੁੰਚ ਪ੍ਰੋਗਰਾਮ ਰਾਹੀਂ ਉਪਲਬਧ ਹੈ.