ਪਿਛਲੇ ਕਈ ਹਫ਼ਤਿਆਂ ਦੌਰਾਨ, ਦੋ ਘਟਨਾਕ੍ਰਮਾਂ ਨੇ ਵਧੇਰੇ ਸਮਰੱਥ AI ਪ੍ਰਣਾਲੀਆਂ ਨਾਲ ਜੁੜੇ ਵਧ ਰਹੇ ਖ਼ਤਰਿਆਂ ਨੂੰ ਉਜਾਗਰ ਕੀਤਾ ਹੈ: OpenAI-Hugging Face ਘਟਨਾ ਅਤੇ, ਵੱਖਰੇ ਤੌਰ ’ਤੇ, ਸ਼ੁਰੂਆਤੀ ਸਬੂਤ ਕਿ ਸਾਡੇ ਆਉਣ ਵਾਲੇ ਮਾਡਲਾਂ ਵਿੱਚੋਂ ਇੱਕ, Astra, ਸਾਡੇ ਪ੍ਰਿਪੇਅਰਡਨੈਸ ਫ੍ਰੇਮਵਰਕ ਅਧੀਨ ਨਾਜ਼ੁਕ ਸਾਈਬਰ ਸੁਰੱਖਿਆ ਸਮਰੱਥਾ ਦੀ ਹੱਦ ਤੱਕ ਪਹੁੰਚ ਸਕਦਾ ਹੈ. ਇਨ੍ਹਾਂ ਘਟਨਾਕ੍ਰਮਾਂ ਅਤੇ ਸਾਡੀ ਅੰਦਰੂਨੀ ਖੋਜ ਵਿੱਚ ਤੇਜ਼ ਤਰੱਕੀ ਨੇ ਮਿਲ ਕੇ ਸਿਖਲਾਈ ਪ੍ਰਕਿਰਿਆ ਦੇ ਹਰ ਪੜਾਅ ’ਤੇ ਨਿਗਰਾਨੀ, ਅਲਾਈਨਮੈਂਟ ਅਤੇ ਰੋਕਥਾਮ ਦੇ ਸੁਰੱਖਿਆ ਉਪਾਅ ਮਜ਼ਬੂਤ ਕਰਨ ਦੇ ਸਾਡੇ ਕੰਮ ਨੂੰ ਹੋਰ ਜ਼ਰੂਰੀ ਬਣਾ ਦਿੱਤਾ ਹੈ.
ਮਾਡਲ ਜਿੰਨੇ ਸਮਰੱਥ ਹੁੰਦੇ ਜਾਂਦੇ ਹਨ, ਉਨ੍ਹਾਂ ਨੂੰ ਅੰਦਰੂਨੀ ਤੌਰ ’ਤੇ ਵਿਕਸਿਤ ਕਰਨ ਅਤੇ ਪਰਖਣ ਨਾਲ ਜੁੜੇ ਖ਼ਤਰੇ ਵੀ ਓਨੇ ਹੀ ਵਧਦੇ ਹਨ. ਨਿਗਰਾਨੀ, ਅਲਾਈਨਮੈਂਟ ਅਤੇ ਸੁਰੱਖਿਆ ਲਈ ਸਾਡੇ ਮਿਆਰਾਂ ਨੂੰ ਇਨ੍ਹਾਂ ਖ਼ਤਰਿਆਂ ਤੋਂ ਅੱਗੇ ਰਹਿਣਾ ਚਾਹੀਦਾ ਹੈ. ਅਸੀਂ ਇਨ੍ਹਾਂ ਮਿਆਰਾਂ ਨੂੰ ਪੂਰਾ ਕਰਨ ਲਈ ਲੋੜੀਂਦਾ ਸਮਾਂ ਲੈਣਾ ਚਾਹੁੰਦੇ ਸੀ, ਇਸ ਲਈ ਅਸੀਂ ਸਮਰੱਥਾ ਵਧਾਉਣ ਦੀ ਰਫ਼ਤਾਰ ਅਸਥਾਈ ਤੌਰ ’ਤੇ ਹੌਲੀ ਕਰ ਦਿੱਤੀ. ਇਸ ਤਹਿਤ ਡਿਪਲੌਇਮੈਂਟ ਲਈ ਬਣਾਏ ਸਾਡੇ ਨਵੀਨਤਮ ਮਾਡਲਾਂ ਦੀ ਰੀਇਨਫੋਰਸਮੈਂਟ ਲਰਨਿੰਗ (RL) ਸਿਖਲਾਈ ਨੂੰ ਦੋ ਹਫ਼ਤਿਆਂ ਲਈ ਰੋਕਿਆ ਗਿਆ, ਜਦੋਂ ਅਸੀਂ ਆਪਣੇ ਖੋਜ ਮਾਹੌਲਾਂ ਨੂੰ ਹੋਰ ਸੁਰੱਖਿਅਤ ਬਣਾਇਆ, ਉਨ੍ਹਾਂ ਦੀ ਹਮਲਾਵਰ ਢੰਗ ਨਾਲ ਜਾਂਚ ਕੀਤੀ ਅਤੇ ਆਪਣੀਆਂ ਨਿਗਰਾਨੀ ਪ੍ਰਣਾਲੀਆਂ ਦਾ ਦਾਇਰਾ ਵਧਾਇਆ. ਸਾਡਾ ਸਭ ਤੋਂ ਵੱਡਾ ਯੋਜਨਾਬੱਧ ਅਤਿ-ਆਧੁਨਿਕ RL ਅਭਿਆਸ ਹਾਲੇ ਰੋਕਿਆ ਹੋਇਆ ਹੈ. ਅੱਗੇ ਵਧਣ ਤੋਂ ਪਹਿਲਾਂ ਅਸੀਂ ਮਾਡਲ ਦੇ ਵਿਹਾਰ ਦਾ ਮੁਲਾਂਕਣ ਕਰਨ, ਆਪਣੇ ਸੁਰੱਖਿਆ ਉਪਾਵਾਂ ਦੀ ਪੁਸ਼ਟੀ ਕਰਨ ਅਤੇ ਅਲਾਈਨਮੈਂਟ ਦੇ ਹੋਰ ਸਬੂਤ ਇਕੱਠੇ ਕਰਨ ਲਈ ਛੋਟੇ ਪੱਧਰ ਦੀ ਸਿਖਲਾਈ ਅਤੇ ਮੁਲਾਂਕਣ ਕਰ ਰਹੇ ਹਾਂ.
AI ਪ੍ਰਣਾਲੀਆਂ ਨੂੰ ਇੱਛਿਤ ਢੰਗ ਨਾਲ ਵਿਹਾਰ ਕਰਨ ਅਤੇ ਮਨੁੱਖੀ ਨਿਗਰਾਨੀ ਪ੍ਰਤੀ ਜਵਾਬਦੇਹ ਬਣਾਉਣ ਦਾ ਕੰਮ, ਯਾਨੀ ਅਲਾਈਨਮੈਂਟ, ਲੰਮੇ ਸਮੇਂ ਤੋਂ ਸਾਡੇ ਖੋਜ ਪ੍ਰੋਗਰਾਮ ਦੇ ਕੇਂਦਰ ਵਿੱਚ ਰਿਹਾ ਹੈ. ਪਹਿਲਾਂ ਤੋਂ ਚੱਲ ਰਹੀ ਖੋਜ ਅਤੇ ਮੁਲਾਂਕਣਾਂ ਨੂੰ ਅੱਗੇ ਵਧਾਉਂਦਿਆਂ, ਹੁਣ ਅਸੀਂ ਪੂਰੀ ਸਿਖਲਾਈ ਦੌਰਾਨ ਅਲਾਈਨ ਕੀਤੇ ਵਿਹਾਰ ਦੇ ਵਧੇਰੇ ਮਜ਼ਬੂਤ ਸਬੂਤ ਲਾਜ਼ਮੀ ਕਰਦੇ ਹਾਂ. ਵਧੇਰੇ ਸਮਰੱਥ ਹੁੰਦੀਆਂ ਪ੍ਰਣਾਲੀਆਂ ਨੂੰ ਅਲਾਈਨ ਰੱਖਣਾ ਇੱਕ ਅਜਿਹੀ ਚੁਣੌਤੀ ਹੈ ਜਿਸ ਨਾਲ ਪੂਰੇ ਖੇਤਰ ਨੂੰ ਨਜਿੱਠਣਾ ਪਵੇਗਾ. ਆਉਣ ਵਾਲੇ ਮਾਡਲਾਂ ਦੀ ਪ੍ਰਗਤੀ ਤੋਂ ਮਿਲ ਰਹੇ ਸੰਕੇਤ ਸਪਸ਼ਟ ਕਰਦੇ ਹਨ ਕਿ ਸਾਨੂੰ ਇੱਕ ਵਿਆਪਕ ਪਹੁੰਚ ਦੀ ਲੋੜ ਹੈ, ਜੋ ਮੌਜੂਦਾ ਪ੍ਰਿਪੇਅਰਡਨੈਸ ਫ੍ਰੇਮਵਰਕ ’ਤੇ ਆਧਾਰਿਤ ਹੋਵੇ ਅਤੇ ਉਸ ਤੋਂ ਅੱਗੇ ਵੀ ਜਾਵੇ.
ਸਾਡਾ ਮੰਨਣਾ ਹੈ ਕਿ ਆਪਣੀ ਬਦਲ ਰਹੀ ਪਹੁੰਚ ਬਾਰੇ ਪਾਰਦਰਸ਼ੀ ਹੋਣਾ ਮਹੱਤਵਪੂਰਨ ਹੈ. ਹੇਠਾਂ ਅਸੀਂ ਆਪਣੀਆਂ ਖੋਜ ਪ੍ਰਕਿਰਿਆਵਾਂ ਅਤੇ ਬੁਨਿਆਦੀ ਢਾਂਚੇ ਵਿੱਚ ਪਹਿਲਾਂ ਹੀ ਕੀਤੀਆਂ ਤਬਦੀਲੀਆਂ ਅਤੇ ਹਾਲੇ ਜਾਰੀ ਕੰਮ ਦਾ ਵੇਰਵਾ ਦਿੰਦੇ ਹਾਂ.
ਵਧੇਰੇ ਸਮਰੱਥ ਮਾਡਲ ਵਿਕਸਿਤ ਕਰਨ ਦੀ ਸਾਡੀ ਪਹੁੰਚ ਤਿੰਨ ਆਪਸੀ ਤੌਰ ’ਤੇ ਮਜ਼ਬੂਤੀ ਦੇਣ ਵਾਲੇ ਸੁਰੱਖਿਆ ਉਪਾਵਾਂ ’ਤੇ ਆਧਾਰਿਤ ਹੈ:
- ਨਿਗਰਾਨੀ, ਜੋ ਚਿੰਤਾਜਨਕ ਵਿਹਾਰ ਦਾ ਪਤਾ ਲਗਾਉਂਦੀ ਹੈ ਅਤੇ ਸਾਨੂੰ ਉਸ ਦਾ ਜਵਾਬ ਦੇਣ ਯੋਗ ਬਣਾਉਂਦੀ ਹੈ.
- ਅਲਾਈਨਮੈਂਟ, ਜੋ ਨੁਕਸਾਨਦੇਹ ਜਾਂ ਅਣਅਧਿਕਾਰਤ ਕਾਰਵਾਈਆਂ ਦੀ ਸੰਭਾਵਨਾ ਘਟਾਉਂਦਾ ਹੈ.
- ਸੁਰੱਖਿਆ ਉਪਾਅ, ਜੋ ਇਹ ਸੀਮਤ ਕਰਦੇ ਹਨ ਕਿ AI ਪ੍ਰਣਾਲੀਆਂ ਕਿਸ ਚੀਜ਼ ਤੱਕ ਪਹੁੰਚ ਕਰ ਸਕਦੀਆਂ ਹਨ ਜਾਂ ਕਿਸ ਨੂੰ ਪ੍ਰਭਾਵਿਤ ਕਰ ਸਕਦੀਆਂ ਹਨ.
ਸਾਨੂੰ ਉਮੀਦ ਹੈ ਕਿ ਜਲਦੀ ਹੀ ਮਾਡਲ ਜ਼ਿਆਦਾਤਰ ਸੁਰੱਖਿਆ ਕੰਮ ਸੰਭਾਲਣਗੇ, ਜਿਸ ਵਿੱਚ ਹੋਰ ਮਾਡਲਾਂ ਤੋਂ ਰੱਖਿਆ ਵੀ ਸ਼ਾਮਲ ਹੈ. ਇਸ ਨਾਲ ਤਿੰਨੇ ਸੁਰੱਖਿਆ ਉਪਾਅ ਮਾਡਲ ਦੀ ਸਮਰੱਥਾ ਦੇ ਨਾਲ ਵਧ ਸਕਣਗੇ, ਜਿਸ ਨੂੰ ਅਸੀਂ ਬਹੁਤ ਅਹਿਮ ਮੰਨਦੇ ਹਾਂ.
ਅਸੀਂ ਇਹ ਸੁਰੱਖਿਆ ਉਪਾਅ ਖੋਜ ਤੋਂ ਲੈ ਕੇ ਡਿਪਲੌਇਮੈਂਟ ਤੱਕ ਲਾਗੂ ਕਰਦੇ ਹਾਂ ਅਤੇ ਹਰ ਮਾਡਲ ਦੀਆਂ ਸਮਰੱਥਾਵਾਂ, ਕਾਰਜਕਾਰੀ ਮਾਹੌਲ ਅਤੇ ਖ਼ਤਰੇ ਦੇ ਪੱਧਰ ਅਨੁਸਾਰ ਢਾਲਦੇ ਹਾਂ.
ਅਤਿ-ਆਧੁਨਿਕ ਮਾਡਲਾਂ ਦੀਆਂ ਸਾਈਬਰ ਸੁਰੱਖਿਆ ਸਮਰੱਥਾਵਾਂ ਵਧਣ ਦੇ ਨਾਲ, ਅਸੀਂ ਉਨ੍ਹਾਂ ਦੀ ਸਿਖਲਾਈ ਅਤੇ ਮੁਲਾਂਕਣ ਵਾਲੇ ਮਾਹੌਲਾਂ ਲਈ ਸੁਰੱਖਿਆ ਮਿਆਰ ਉੱਚੇ ਕਰ ਰਹੇ ਹਾਂ. ਇਨ੍ਹਾਂ ਮਿਆਰਾਂ ਨੂੰ ਪੂਰਾ ਕਰਨ ਲਈ ਵੱਡੇ ਪੱਧਰ ’ਤੇ ਇੰਜੀਨੀਅਰਿੰਗ ਕੰਮ ਕਰਨਾ ਪਿਆ ਹੈ ਅਤੇ ਇਸ ਕਾਰਨ ਅਤਿ-ਆਧੁਨਿਕ ਖੋਜ ਵਿੱਚ ਭਾਰੀ ਲਾਗਤ ਅਤੇ ਦੇਰੀ ਹੋਈ ਹੈ. OpenAI-Hugging Face ਘਟਨਾ* ਤੋਂ ਤੁਰੰਤ ਬਾਅਦ, ਅਸੀਂ ਉਨ੍ਹਾਂ ਅਭਿਆਸਾਂ ਲਈ ਖੋਜ ਸਮੂਹਾਂ ਵਿੱਚ ਅਤਿ-ਆਧੁਨਿਕ ਮਾਡਲ ਅਨੁਮਾਨ ਰੋਕ ਦਿੱਤਾ ਜੋ ਕੋਡ ਚਲਾ ਸਕਦੇ ਸਨ ਜਾਂ ਇੰਟਰਨੈੱਟ ਤੱਕ ਪਹੁੰਚ ਵਾਲੇ ਸਾਧਨ ਵਰਤ ਸਕਦੇ ਸਨ. ਅਸੀਂ ਕਾਫ਼ੀ ਜਲਦੀ ਕੋਡ ਚਲਾਉਣ ਲਈ ਇੱਕ ਹੋਰ ਸੀਮਤ ਅਤੇ ਸੁਰੱਖਿਅਤ ਰਸਤਾ ਬਹਾਲ ਕਰ ਲਿਆ, ਫਿਰ ਹਰ ਕਾਰਜਭਾਰ ਦੀ ਵੱਖਰੇ ਤੌਰ ’ਤੇ ਸਮੀਖਿਆ ਕੀਤੀ ਕਿ ਕੀ ਉਸ ਨੂੰ ਸੁਰੱਖਿਅਤ ਢੰਗ ਨਾਲ ਮੁੜ ਸ਼ੁਰੂ ਕੀਤਾ ਜਾ ਸਕਦਾ ਹੈ. ਕੁਝ ਖੋਜ ਕਾਰਜਭਾਰ ਇਨ੍ਹਾਂ ਨਵੇਂ ਨਿਯੰਤਰਨਾਂ ਅਧੀਨ ਮੁੜ ਸ਼ੁਰੂ ਹੋ ਗਏ, ਜਦਕਿ ਹੋਰਾਂ ਲਈ ਵਾਧੂ ਤਬਦੀਲੀਆਂ ਦੀ ਲੋੜ ਸੀ.
ਇਸ ਤੋਂ ਬਾਅਦ ਦੇ ਹਫ਼ਤਿਆਂ ਦੌਰਾਨ, ਅਸੀਂ ਅਤਿ-ਆਧੁਨਿਕ ਖੋਜ ਕਾਰਜਭਾਰਾਂ ਲਈ ਵਧੇਰੇ ਸਖ਼ਤ ਸੁਰੱਖਿਆ ਲੋੜਾਂ ਨਿਰਧਾਰਤ ਕੀਤੀਆਂ ਅਤੇ ਉਨ੍ਹਾਂ ਨੂੰ ਲਾਗੂ ਕਰਨਾ ਸ਼ੁਰੂ ਕੀਤਾ. ਉਦਾਹਰਨ ਵਜੋਂ:
- ਵਰਕਲੋਡ ਆਈਸੋਲੇਸ਼ਨ: ਹੁਣ ਅਸੀਂ ਮਾਡਲ ਦੁਆਰਾ ਤਿਆਰ ਜਾਂ ਕਿਸੇ ਹੋਰ ਕਾਰਨ ਅਭਰੋਸੇਯੋਗ ਕੋਡ ਚਲਾਉਣ ਵਾਲੇ ਵਰਕਲੋਡਾਂ ਲਈ ਵਧੇਰੇ ਮਜ਼ਬੂਤ ਆਈਸੋਲੇਸ਼ਨ, (“ਸੈਂਡਬਾਕਸ”), ਦੀ ਮੰਗ ਕਰਦੇ ਹਾਂ. ਇਹ ਉਨ੍ਹਾਂ ਸਾਫ਼ਟਵੇਅਰਾਂ ’ਤੇ ਵੀ ਲਾਗੂ ਹੁੰਦਾ ਹੈ ਜਿਨ੍ਹਾਂ ਨਾਲ ਮਾਡਲ ਦੇ ਨਤੀਜਿਆਂ ਦੀ ਪ੍ਰਕਿਰਿਆ ਕਰਦਿਆਂ ਛੇੜਛਾੜ ਹੋ ਸਕਦੀ ਹੈ.
- ਨੈੱਟਵਰਕ ਆਈਸੋਲੇਸ਼ਨ: ਅਸੀਂ ਵੱਧ ਖ਼ਤਰੇ ਵਾਲੇ ਅਤੇ ਅਭਰੋਸੇਯੋਗ ਵਰਕਲੋਡਾਂ ਨੂੰ ਇੰਟਰਨੈੱਟ ਤੋਂ ਵੱਖ ਰੱਖਣ ਲਈ ਹੋਰ ਕੰਟਰੋਲ ਲਾਗੂ ਕੀਤੇ ਹਨ. ਅਸੀਂ ਇਹ ਕੰਟਰੋਲ ਇਸ ਤਰ੍ਹਾਂ ਬਣਾਏ ਹਨ ਕਿ ਕਿਸੇ ਇੱਕ ਵਰਕਲੋਡ ਜਾਂ ਸਹਾਇਕ ਸੇਵਾ ਨਾਲ ਹੋਈ ਛੇੜਛਾੜ ਆਪਣੇ ਆਪ ਇੰਟਰਨੈੱਟ ਜਾਂ ਹੋਰ ਅੰਦਰੂਨੀ ਨੈੱਟਵਰਕਾਂ ਤੱਕ ਅਣਅਧਿਕਾਰਤ ਪਹੁੰਚ ਨਾ ਦੇ ਸਕੇ.
- ਲਗਾਤਾਰ ਸੁਰੱਖਿਆ ਜਾਂਚ: ਅਸੀਂ ਸੰਭਾਵੀ ਤੌਰ ’ਤੇ ਕਮਜ਼ੋਰ ਸਾਂਝੀਆਂ ਸੇਵਾਵਾਂ ਹਟਾਉਣ, ਸਥਾਈ ਵਿਸ਼ੇਸ਼ ਅਧਿਕਾਰ ਘਟਾਉਣ ਅਤੇ ਸੁਰੱਖਿਆ ਤੇ ਭਰੋਸੇ ਦੀਆਂ ਹੱਦਾਂ ਸੁਧਾਰਨ ਲਈ ਆਪਣੇ ਮਾਹੌਲ ਨੂੰ ਮੁੜ ਸੰਰਚਿਤ ਕੀਤਾ ਹੈ. ਅਸੀਂ ਸੁਰੱਖਿਆ ਰਿਕਾਰਡ ਇਕੱਠੇ ਕਰਨ ਅਤੇ ਉਨ੍ਹਾਂ ਦੀ ਨਿਗਰਾਨੀ ਕਰਨ ਦੀ ਆਪਣੀ ਸਮਰੱਥਾ ਵੀ ਸੁਧਾਰ ਰਹੇ ਹਾਂ. ਅੰਤ ਵਿੱਚ, ਅਸੀਂ ਨਕਲੀ ਹਮਲਿਆਂ ਰਾਹੀਂ ਇਨ੍ਹਾਂ ਹੱਦਾਂ ਦੀ ਲਗਾਤਾਰ ਜਾਂਚ ਕਰਨ ਲਈ ਆਪਣੇ ਮਾਡਲਾਂ ਦੀ ਵਰਤੋਂ ਕਰਕੇ ਸਵੈਚਾਲਨ ਵਿੱਚ ਨਿਵੇਸ਼ ਕਰ ਰਹੇ ਹਾਂ.
ਇਹ ਕੰਟਰੋਲ ਮਿਲ ਕੇ ਕਈ ਪੱਧਰਾਂ ਵਾਲੀ ਰੱਖਿਆ ਪ੍ਰਦਾਨ ਕਰਦੇ ਹਨ ਅਤੇ ਸਾਡੇ ਖੋਜ ਮਾਹੌਲ ਨੂੰ ਹਮਲਿਆਂ ਤੋਂ ਬਚਾਉਣ ਵਿੱਚ ਮਦਦ ਕਰਦੇ ਹਨ. ਅੱਜ ਅਸੀਂ Astra ਜਾਂ ਸਾਈਬਰ ਮਾਡਲਾਂ ਨਾਲ ਜੁੜੇ ਵਰਕਲੋਡਾਂ ਲਈ ਸਭ ਤੋਂ ਸਖ਼ਤ ਸੁਰੱਖਿਆ ਉਪਾਅ ਲਾਜ਼ਮੀ ਕਰਦੇ ਹਾਂ, ਕਿਉਂਕਿ ਅਸੀਂ ਨਿਰਧਾਰਤ ਕੀਤਾ ਹੈ ਕਿ Astra ਮਾਡਲਾਂ ਕੋਲ ਨਾਜ਼ੁਕ ਪੱਧਰ ਦੀ ਸਾਈਬਰ ਸਮਰੱਥਾ ਹੋ ਸਕਦੀ ਹੈ. ਇਹ ਸੁਰੱਖਿਆ ਉਪਾਅ ਸਾਈਬਰ ਨਾਲ ਸੰਬੰਧਿਤ ਹੋਰ ਸਾਰੇ ਵਰਕਲੋਡਾਂ ’ਤੇ ਵੀ ਲਾਗੂ ਹੁੰਦੇ ਹਨ.
ਹਾਲਾਂਕਿ Astra ਦੀ ਕੁਝ ਸਿਖਲਾਈ ਅਤੇ ਮੁਲਾਂਕਣ ਇਨ੍ਹਾਂ ਲੋੜਾਂ ਨੂੰ ਪੂਰਾ ਕਰਦੇ ਹਨ, ਪਰ ਕਾਫ਼ੀ ਵਰਕਲੋਡ ਉਦੋਂ ਤੱਕ ਰੋਕੇ ਹੋਏ ਹਨ ਜਦੋਂ ਤੱਕ ਉਨ੍ਹਾਂ ਨੂੰ ਪੂਰੀ ਤਰ੍ਹਾਂ ਤਬਦੀਲ ਅਤੇ ਬਿਹਤਰ ਬਣਾ ਕੇ ਨਵੇਂ ਸੁਰੱਖਿਆ ਮਿਆਰ ਦੇ ਅਨੁਕੂਲ ਨਹੀਂ ਕੀਤਾ ਜਾਂਦਾ. ਅਸੀਂ ਇਨ੍ਹਾਂ ਨਵੇਂ ਮਾਹੌਲਾਂ ਵਿੱਚ ਸਭ ਤੋਂ ਪਹਿਲਾਂ ਸਲਾਮਤੀ ਅਤੇ ਅਲਾਈਨਮੈਂਟ ਨਾਲ ਸੰਬੰਧਿਤ ਵਰਕਲੋਡ ਤਬਦੀਲ ਕਰਨ ਨੂੰ ਤਰਜੀਹ ਦੇ ਰਹੇ ਹਾਂ.
ਨਿਗਰਾਨੀ ਲੰਮੇ ਸਮੇਂ ਤੋਂ ਸਾਡੀ ਮਾਡਲ ਵਿਕਾਸ ਪ੍ਰਕਿਰਿਆ ਦਾ ਇੱਕ ਮਹੱਤਵਪੂਰਨ ਹਿੱਸਾ ਰਹੀ ਹੈ, ਜਿਸ ਵਿੱਚ ਅੰਦਰੂਨੀ ਕੋਡਿੰਗ ਏਜੰਟਾਂ ਦੀ ਨਿਗਰਾਨੀ ਅਤੇ ਲੰਮੇ ਸਮੇਂ ਤੱਕ ਚੱਲਣ ਵਾਲੇ ਸੈਸ਼ਨ ਸ਼ਾਮਲ ਹਨ. ਸਾਡੀਆਂ ਨਿਗਰਾਨੀ ਕੋਸ਼ਿਸ਼ਾਂ ਖ਼ਾਸ ਤੌਰ ’ਤੇ ਅਤਿ-ਆਧੁਨਿਕ ਮਾਡਲਾਂ ਦੀ ਅੰਦਰੂਨੀ ਡਿਪਲੌਇਮੈਂਟ ਅਤੇ ਅਤਿ-ਆਧੁਨਿਕ RL ਸਿਖਲਾਈ ਅਭਿਆਸਾਂ ’ਤੇ ਕੇਂਦਰਿਤ ਸਨ. ਅਸੀਂ ਇਨ੍ਹਾਂ ਨੂੰ ਸਭ ਤੋਂ ਵੱਧ ਖ਼ਤਰੇ ਵਾਲੇ ਵਰਕਲੋਡ ਮੰਨਦੇ ਸੀ, ਕਿਉਂਕਿ ਇਨ੍ਹਾਂ ਵਿੱਚ ਮਾਡਲ ਦੀਆਂ ਉੱਨਤ ਸਮਰੱਥਾਵਾਂ ਦੇ ਨਾਲ ਸਾਧਨਾਂ, ਸੰਵੇਦਨਸ਼ੀਲ ਪ੍ਰਣਾਲੀਆਂ ਅਤੇ ਅੰਦਰੂਨੀ ਜਾਂ ਬਾਹਰੀ ਨੈੱਟਵਰਕਾਂ ਤੱਕ ਪਹੁੰਚ ਵੀ ਸ਼ਾਮਲ ਹੋ ਸਕਦੀ ਹੈ. ਉਹ ਟੂਲਾਂ ਦੀ ਵਰਤੋਂ ਕਰਨ ਵਾਲੇ ਸਾਰੇ ਇਨਫਰੈਂਸ ਅਤੇ ਟ੍ਰੇਨਿੰਗ ਰਨਾਂ 'ਤੇ ਲਾਗੂ ਨਹੀਂ ਕੀਤੇ ਗਏ ਸਨ. ਅਸੀਂ ਆਪਣੇ ਨਵੇਂ ਨਿਗਰਾਨੀ ਸੈੱਟਅੱਪ ਨਾਲ ਆਪਣੀ ਪਹੁੰਚ ਦੀ ਸਮੀਖਿਆ ਕੀਤੀ ਹੈ ਅਤੇ ਇਸਦਾ ਵਿਸਤਾਰ ਕੀਤਾ ਹੈ.
ਇਹ ਨਵਾਂ ਨਿਗਰਾਨੀ ਸੈੱਟਅੱਪ ਕਈ ਪੜਾਵਾਂ ਵਾਲਾ ਹੈ. ਜਿਸਦੀ ਸ਼ੁਰੂਆਤ ਐਕਟੀਵੇਸ਼ਨ ਕਲਾਸੀਫਾਇਰਾਂ (ਉਹ ਡਿਟੈਕਟਰ ਜੋ ਮਾਡਲ ਦੀ ਅੰਦਰੂਨੀ ਗਤੀਵਿਧੀ ਦੀ ਜਾਂਚ ਕਰਦੇ ਹਨ) ਨਾਲ ਹੁੰਦੀ ਹੈ. ਇਹ ਹਰ ਨਮੂਨੇ ਵਾਲੇ ਟੋਕਨ ’ਤੇ ਚੱਲਦੇ ਹਨ ਅਤੇ ਸੰਭਾਵੀ ਚਿੰਤਾਵਾਂ ਨੂੰ ਕ੍ਰਮਵਾਰ ਹੋਰ ਉੱਨਤ ਤੇ ਵੱਧ ਗਣਨਾਤਮਕ ਸਮਰੱਥਾ ਵਾਲੇ ਸਵੈਚਾਲਿਤ ਜਾਂਚਕਾਰਾਂ ਕੋਲ ਭੇਜਦੇ ਹਨ. ਉਹ ਪ੍ਰਣਾਲੀਆਂ ਅਣਅਧਿਕਾਰਤ ਪਹੁੰਚ, ਡਾਟਾ ਚੋਰੀ, ਵਿਨਾਸ਼ਕਾਰੀ ਵਿਹਾਰ ਅਤੇ ਸੁਰੱਖਿਆ ਉਪਾਵਾਂ ਨੂੰ ਨਾਕਾਮ ਕਰਨ ਦੀਆਂ ਕੋਸ਼ਿਸ਼ਾਂ ਲਈ ਟੂਲਾਂ ਨਾਲ ਕੀਤੀਆਂ ਕਾਰਵਾਈਆਂ, ਉਪਲਬਧ ਰੀਜ਼ਨਿੰਗ ਅਤੇ ਗਤੀਵਿਧੀ ਦੇ ਪੂਰੇ ਕ੍ਰਮ ਦੀ ਜਾਂਚ ਕਰਦੀਆਂ ਹਨ. ਸਾਡਾ ਟੀਚਾ ਹੈ ਕਿ ਨਿਗਰਾਨੀ ਪ੍ਰਣਾਲੀ ਰਾਹੀਂ ਚਿੰਤਾਜਨਕ ਗਤੀਵਿਧੀ ਸਾਹਮਣੇ ਆਉਣ ਤੋਂ 30 ਮਿੰਟਾਂ ਅੰਦਰ ਚੇਤਾਵਨੀ ਜਾਰੀ ਕੀਤੀ ਜਾਵੇ. ਜੇ ਨਿਗਰਾਨੀ ਪ੍ਰਣਾਲੀ ਕਿਸੇ ਨਾਜ਼ੁਕ ਸੁਰੱਖਿਆ ਹੱਦ ਦੀ ਸੰਭਾਵੀ ਉਲੰਘਣਾ ਪਛਾਣਦੀ ਹੈ, ਤਾਂ ਇਹ ਸਭ ਤੋਂ ਉੱਚੀ ਤਰਜੀਹ ਵਾਲੀ ਚੇਤਾਵਨੀ ਜਾਰੀ ਕਰਦੀ ਹੈ. ਸਾਡੇ ਮੌਜੂਦਾ ਲਾਗੂਕਰਨ ਵਿੱਚ ਸਲਾਮਤੀ, ਸੁਰੱਖਿਆ ਅਤੇ ਖੋਜ ਟੀਮਾਂ ਨੂੰ ਤੁਰੰਤ ਸੂਚਿਤ ਕੀਤਾ ਜਾਂਦਾ ਹੈ. ਜੇ ਉਹ 30 ਮਿੰਟਾਂ ਅੰਦਰ ਪੱਕੇ ਤੌਰ ’ਤੇ ਇਹ ਨਿਰਧਾਰਤ ਨਹੀਂ ਕਰ ਸਕਦੀਆਂ ਕਿ ਸੰਕੇਤ ਗ਼ਲਤ ਚੇਤਾਵਨੀ ਹੈ, ਤਾਂ ਉਨ੍ਹਾਂ ਟੀਮਾਂ ਤੋਂ ਗਤੀਵਿਧੀ ਰੋਕਣ ਦੀ ਉਮੀਦ ਕੀਤੀ ਜਾਂਦੀ ਹੈ.
Sol ਜਾਂ ਉਸ ਤੋਂ ਵੱਧ ਸਮਰੱਥਾ ਵਾਲੇ ਮਾਡਲਾਂ ਲਈ ਟੂਲਾਂ ਨਾਲ ਜੁੜੀ ਹਰ RL ਸਿਖਲਾਈ ਅਤੇ ਮੁਲਾਂਕਣ ਵਿੱਚ ਇਹ ਨਿਗਰਾਨੀ ਲਾਜ਼ਮੀ ਹੈ. 7 ਅਗਸਤ ਨੂੰ ਇਹ ਨਿਰਧਾਰਤ ਕਰਨ ਤੋਂ ਬਾਅਦ ਕਿ Astra ਕੋਲ ਨਾਜ਼ੁਕ ਸਾਈਬਰ ਸਮਰੱਥਾਵਾਂ ਹੋ ਸਕਦੀਆਂ ਹਨ, ਅਸੀਂ ਟੂਲਾਂ ਨਾਲ ਕੀਤੇ Astra ਦੇ ਸਾਰੇ ਅਨੁਮਾਨਾਂ ਲਈ ਵਾਧੂ ਨਿਗਰਾਨੀ ਲਾਜ਼ਮੀ ਕਰ ਦਿੱਤੀ, (ਨਾ ਕਿ ਸਿਰਫ਼ RL ਸਿਖਲਾਈ ਅਤੇ ਮੁਲਾਂਕਣਾਂ ਲਈ).
ਇਨ੍ਹਾਂ ਸੁਰੱਖਿਆ ਉਪਾਵਾਂ ਲਈ ਕਾਫ਼ੀ ਗਣਨਾਤਮਕ ਸਮਰੱਥਾ ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ. ਸਾਡੇ ਮੌਜੂਦਾ ਅਨੁਮਾਨਾਂ ਮੁਤਾਬਕ ਨਿਗਰਾਨੀ ਦਾ ਵਾਧੂ ਗਣਨਾਤਮਕ ਖ਼ਰਚਾ ਨਿਗਰਾਨੀ ਹੇਠਲੇ ਅਨੁਮਾਨ ਦੀ ਗਣਨਾਤਮਕ ਸਮਰੱਥਾ ਦਾ ਲਗਭਗ 20% ਹੈ, ਹਾਲਾਂਕਿ ਸਿਖਲਾਈ ਅਤੇ ਮੁਲਾਂਕਣ ਵਰਕਲੋਡਾਂ ਵਿੱਚ ਇਹ ਲਾਗਤ ਕਾਫ਼ੀ ਵੱਖਰੀ ਹੁੰਦੀ ਹੈ. ਅਸੀਂ ਆਉਣ ਵਾਲੀ ਬਲੌਗ ਪੋਸਟ ਵਿੱਚ ਇਸ ਪ੍ਰਣਾਲੀ ਬਾਰੇ ਹੋਰ ਵੇਰਵੇ ਸਾਂਝੇ ਕਰਾਂਗੇ.
ਅਲਾਈਨਮੈਂਟ ਖੋਜ ਸਾਡੇ ਉਦੇਸ਼ ਦਾ ਕੇਂਦਰੀ ਹਿੱਸਾ ਹੈ. ਸਾਡਾ ਉਦੇਸ਼ ਇਹ ਯਕੀਨੀ ਬਣਾਉਣਾ ਹੈ ਕਿ ਆਰਟੀਫ਼ਿਸ਼ੀਅਲ ਜਨਰਲ ਇੰਟੈਲੀਜੈਂਸ ਪੂਰੀ ਮਨੁੱਖਤਾ ਲਈ ਲਾਭਦਾਇਕ ਹੋਵੇ. ਜਿਵੇਂ-ਜਿਵੇਂ ਮਾਡਲ ਸਾਈਬਰ ਹਮਲਾ ਕਰਨ ਵਰਗੀਆਂ ਉੱਨਤ ਸਮਰੱਥਾਵਾਂ ਹਾਸਲ ਕਰਦੇ ਹਨ ਅਤੇ ਹੋਰ ਗੁੰਝਲਦਾਰ ਮਾਹੌਲਾਂ ਵਿੱਚ ਕੰਮ ਕਰਦੇ ਹਨ, ਅਸੰਗਤ ਵਿਹਾਰ ਵਰਗੇ ਕਿ ਰਿਵਾਰਡ ਹੈਕਿੰਗ (ਅਸਲ ਵਿੱਚ ਇੱਛਿਤ ਨਤੀਜਾ ਹਾਸਲ ਕੀਤੇ ਬਿਨਾਂ ਸਿਖਲਾਈ ਵਿੱਚ ਹਾਈ ਰਿਵਾਰਡ ਪ੍ਰਾਪਤ ਕਰਨ ਦੇ ਤਰੀਕੇ ਲੱਭਣਾ), ਧੋਖਾਧੜੀ, ਜਾਂ ਅਣਅਧਿਕਾਰਤ ਪਹੁੰਚ ਵਧਦੇ ਹੋਏ ਗੰਭੀਰ ਖ਼ਤਰੇ ਪੈਦਾ ਕਰਨਗੇ.
ਸਭ ਤੋਂ ਸਮਰੱਥ ਮਾਡਲਾਂ ਦੇ RL ਅਭਿਆਸਾਂ ਲਈ ਹੁਣ ਅਸੀਂ ਸਿਖਲਾਈ ਪ੍ਰਕਿਰਿਆ ਦੇ ਹੋਰ ਪੜਾਵਾਂ ਵਿੱਚ ਆਪਣੀਆਂ ਮੁੱਖ ਅਲਾਈਨਮੈਂਟ ਤਕਨੀਕਾਂ ਲਾਗੂ ਕਰ ਰਹੇ ਹਾਂ. ਇਸ ਵਿੱਚ ਵੱਖ-ਵੱਖ ਕੰਮਾਂ ਅਤੇ ਮਾਹੌਲਾਂ ਵਿੱਚ ਅਸੁਰੱਖਿਅਤ ਵਿਹਾਰ ਨੂੰ ਬਿਹਤਰ ਢੰਗ ਨਾਲ ਪਛਾਣਨ ਤੇ ਰੋਕਣ ਲਈ ਰਿਵਾਰਡ ਮਾਡਲਾਂ ਨੂੰ ਸੁਧਾਰਨਾ, ਮਾਡਲਾਂ ਨੂੰ ਆਪਣੀਆਂ ਕਾਰਵਾਈਆਂ, ਸਮਰੱਥਾਵਾਂ ਅਤੇ ਸੀਮਾਵਾਂ ਬਾਰੇ ਹੋਰ ਇਮਾਨਦਾਰ ਬਣਨ ਦੀ ਸਿਖਲਾਈ ਦੇਣਾ ਅਤੇ ਰਿਵਾਰਡਾਂ, ਗ੍ਰੇਡਰਾਂ, ਟੂਲਾਂ ਜਾਂ ਨਿਗਰਾਨੀ ਦੀਆਂ ਕਮਜ਼ੋਰੀਆਂ ਦਾ ਲਾਭ ਲੈਣ ਵਾਲੇ ਵਿਹਾਰ ਘਟਾਉਣਾ ਸ਼ਾਮਲ ਹੈ. ਅਸੀਂ ਉਨ੍ਹਾਂ ਵਿਹਾਰਾਂ ਲਈ ਸਿਖਲਾਈ ਦਾ ਦਾਇਰਾ ਵੀ ਵਧਾ ਰਹੇ ਹਾਂ ਜੋ ਮਾਡਲਾਂ ਦੇ ਬਾਹਰੀ ਪ੍ਰਣਾਲੀਆਂ ਜਾਂ ਸਰੋਤਾਂ ਨਾਲ ਸੰਪਰਕ ਕਰਨ ਵੇਲੇ ਨੁਕਸਾਨ ਪਹੁੰਚਾ ਸਕਦੇ ਹਨ.
ਅਸੀਂ ਅਲਾਈਨਮੈਂਟ ਖੋਜ ਵਿੱਚ ਤੇਜ਼ੀ ਨਾਲ ਨਿਵੇਸ਼ ਕਰਨਾ, ਮੁਲਾਂਕਣ ਦਾ ਦਾਇਰਾ ਵਧਾਉਣਾ ਅਤੇ ਸਿੱਖੀਆਂ ਗੱਲਾਂ ਨੂੰ ਸਿਖਲਾਈ ਤੇ ਸੁਰੱਖਿਆ ਉਪਾਵਾਂ ਵਿੱਚ ਵਰਤਣਾ ਜਾਰੀ ਰੱਖ ਰਹੇ ਹਾਂ. ਅਸੀਂ ਨੇੜਲੇ ਭਵਿੱਖ ਵਿੱਚ ਆਪਣੀ ਅਲਾਈਨਮੈਂਟ ਖੋਜ ਬਾਰੇ ਕਾਫ਼ੀ ਹੋਰ ਜਾਣਕਾਰੀ ਸਾਂਝੀ ਕਰਨ ਦੀ ਯੋਜਨਾ ਬਣਾਈ ਹੈ, ਜਿਸ ਵਿੱਚ ਮਾਡਲ ਦੇ ਵਿਹਾਰ ਬਾਰੇ ਸਾਡੀਆਂ ਸਿੱਖਿਆਵਾਂ ਅਤੇ ਸਾਹਮਣੇ ਆਉਣ ਵਾਲੀਆਂ ਨਵੀਆਂ ਚੁਣੌਤੀਆਂ ਸ਼ਾਮਲ ਹਨ.
ਅਸੀਂ ਆਪਣੇ ਪ੍ਰਿਪੇਅਰਡਨੈਸ ਫ੍ਰੇਮਵਰਕ ਨੂੰ ਵਿਕਸਿਤ ਕਰਾਂਗੇ, ਤਾਂ ਜੋ ਸਿਖਲਾਈ ਅਤੇ ਡਿਪਲੌਇਮੈਂਟ ਦੌਰਾਨ ਇਨ੍ਹਾਂ ਸੁਰੱਖਿਆ ਉਪਾਵਾਂ ਨੂੰ ਇਕੱਠਾ ਕੀਤਾ ਜਾ ਸਕੇ ਅਤੇ ਭਵਿੱਖ ਦੇ ਮਾਡਲਾਂ ਦੀਆਂ ਸਮਰੱਥਾਵਾਂ ਤੇ ਉਨ੍ਹਾਂ ਦੇ ਕਾਰਜਕਾਰੀ ਮਾਹੌਲਾਂ ਨੂੰ ਬਿਹਤਰ ਢੰਗ ਨਾਲ ਦਰਸਾਇਆ ਜਾ ਸਕੇ. ਉਨ੍ਹਾਂ ਸਮਰੱਥਾਵਾਂ ਦੇ ਨਾਲ ਵਧ ਸਕਣ ਵਾਲੇ ਤਰੀਕੇ ਵਿਕਸਿਤ ਕਰਨ ਲਈ ਮਾਡਲ-ਸਹਾਇਤਾ ਪ੍ਰਾਪਤ ਸੁਰੱਖਿਆ, ਹੋਰ ਪ੍ਰਭਾਵਸ਼ਾਲੀ ਨਿਗਰਾਨੀ ਅਤੇ ਅਲਾਈਨਮੈਂਟ ਖੋਜ ਵਿੱਚ ਲਗਾਤਾਰ ਤਰੱਕੀ ਲਈ ਨਿਰੰਤਰ ਨਿਵੇਸ਼ ਦੀ ਲੋੜ ਹੋਵੇਗੀ. ਅਸੀਂ ਆਪਣੀ ਪਹੁੰਚ ਦੇ ਵਿਕਾਸ ਨਾਲ ਬਾਹਰੀ ਸੰਗਠਨਾਂ ਨੂੰ ਸ਼ਾਮਲ ਕਰਨ ਅਤੇ ਆਪਣੀਆਂ ਹੋਰ ਸਿੱਖਿਆਵਾਂ ਸਾਂਝੀਆਂ ਕਰਨ ਦਾ ਇਰਾਦਾ ਰੱਖਦੇ ਹਾਂ.
ਅਤਿ-ਆਧੁਨਿਕ ਮਾਡਲਾਂ ਦੀਆਂ ਸਮਰੱਥਾਵਾਂ ਤੇਜ਼ੀ ਨਾਲ ਵਧ ਰਹੀਆਂ ਹਨ. ਉਨ੍ਹਾਂ ਨੂੰ ਸਮਝਣ, ਅਲਾਈਨ ਕਰਨ ਅਤੇ ਸੁਰੱਖਿਅਤ ਬਣਾਉਣ ਦੀ ਸਾਡੀ ਸਮਰੱਥਾ ਨੂੰ ਉਨ੍ਹਾਂ ਤੋਂ ਅੱਗੇ ਰਹਿਣਾ ਚਾਹੀਦਾ ਹੈ.
*ਅਸੀਂ ਆਉਣ ਵਾਲੇ ਹਫ਼ਤਿਆਂ ਵਿੱਚ ਆਪਣੀਆਂ ਲਾਰਨਿੰਗਾਂ ਬਾਰੇ ਇੱਕ ਤਕਨੀਕੀ ਰਿਪੋਰਟ ਪ੍ਰਕਾਸ਼ਿਤ ਕਰਾਂਗੇ.
