OpenAI ਅਤੇ ਹਗਿੰਗ ਫੇਸ ਮਾਡਲ ਮੁਲਾਂਕਣ ਦੌਰਾਨ ਸੁਰੱਖਿਆ ਘਟਨਾ ਲਈ ਸਾਂਝ ਪਾਉਂਦੇ ਹਨ
ਪਿਛਲੇ ਹਫ਼ਤੇ, ਹਗਿੰਗ ਫੇਸ ਨੇ ਇੱਕ AI ਏਜੰਟ ਨੂੰ ਪਤਾ ਲਗਾ ਕੇ ਰੋਕਣ ਤੋਂ ਬਾਅਦ ਨਵੀਂ ਕਿਸਮ ਦੀ ਸੁਰੱਖਿਆ ਘਟਨਾ ਦਾ ਖੁਲਾਸਾ ਕੀਤਾ(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ), ਜਿਸ ਨੇ ਉਨ੍ਹਾਂ ਦੇ ਇੰਫ੍ਰਾਸਟਰਕਚਰ ਨਾਲ ਸਮਝੌਤਾ ਕੀਤਾ ਸੀ, ਅਸੀਂ ਉਮੀਦ ਕਰਦੇ ਹਾਂ ਕਿ ਵੱਧ ਸਾਇਬਰ-ਸਮਰੱਥ ਮਾਡਲਾਂ ਦੇ ਫੈਲਾਅ ਨਾਲ ਇਹ ਚੀਜ਼ ਹੋਰ ਆਮ ਹੋਵੇਗੀ। ਜਾਂਚ ਤੋਂ ਬਾਅਦ, ਹੁਣ ਸਾਨੂੰ ਪਤਾ ਹੈ ਕਿ ਇਹ ਖਾਸ ਘਟਨਾ OpenAI ਮਾਡਲਾਂ ਦੇ ਜੋੜ ਕਰਕੇ ਹੋਈ ਸੀ, ਜਿਸ ਵਿੱਚ GPT‑5.6 Sol ਅਤੇ ਇੱਕ ਹੋਰ ਵੀ ਸਮਰੱਥ ਪ੍ਰੀ-ਰਿਲੀਜ਼ ਮਾਡਲ ਸ਼ਾਮਲ ਸੀ, ਮੁਲਾਂਕਣ ਦੇ ਉਦੇਸ਼ਾਂ ਲਈ ਇਨ੍ਹਾਂ ਸਭ ਵਿੱਚ ਸਾਇਬਰ ਇਨਕਾਰ ਘਟਾਏ ਗਏ ਸਨ ਅਤੇ ਇਨ੍ਹਾਂ ਦੀ ਸਾਇਬਰ ਸਮਰੱਥਾਵਾਂ ਦੇ ਇੱਕ ਬੈਂਚਮਾਰਕ(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ) 'ਤੇ ਅੰਦਰੂਨੀ ਟੈਸਟਿੰਗ ਹੋ ਰਹੀ ਸੀ।
ਅਸੀਂ ਇਸ ਘਟਨਾ ਨੂੰ ਬੇਮਿਸਾਲ ਸਾਇਬਰ ਘਟਨਾ ਮੰਨਦੇ ਹਾਂ, ਜਿਸ ਵਿੱਚ ਅਤਿ-ਆਧੁਨਿਕ ਸਾਇਬਰ ਸਮਰੱਥਾਵਾਂ ਸ਼ਾਮਲ ਹਨ ਅਤੇ ਉਸੇ ਅਨੁਸਾਰ ਪ੍ਰਤੀਕਿਰਿਆ ਦੇ ਰਹੇ ਹਾਂ। ਇਸ ਪੜਾਅ 'ਤੇ ਅਸੀਂ ਸ਼ੁਰੂਆਤੀ ਨਤੀਜੇ ਸਾਂਝੇ ਕਰ ਰਹੇ ਹਾਂ, ਤਾਂ ਜੋ ਰੱਖਿਅਕ ਸਮਝ ਸਕਣ ਕਿ ਕੀ ਹੋਇਆ ਅਤੇ ਇਹ ਅੰਦਾਜ਼ਾ ਲਗਾ ਸਕਣ ਕਿ ਮਾਡਲ ਹੁਣ ਕੀ ਕਰਨ ਦੇ ਸਮਰੱਥ ਹਨ। ਅਸੀਂ ਹਗਿੰਗ ਫੇਸ ਨਾਲ ਮਿਲ ਕੇ ਪੂਰੀ ਜਾਂਚ ਜਾਰੀ ਰੱਖਾਂਗੇ ਅਤੇ ਜਾਂਚ ਪੂਰੀ ਹੋਣ 'ਤੇ ਕਮਜ਼ੋਰੀਆਂ, ਘਟਨਾ ਅਤੇ ਨਤੀਜਿਆਂ ਬਾਰੇ ਹੋਰ ਵੇਰਵੇ ਸਾਂਝੇ ਕਰਾਂਗੇ।
ਇਹ ਘਟਨਾ ਅੰਦਰੂਨੀ ਮੁਲਾਂਕਣ ਦੌਰਾਨ ਵਾਪਰੀ, ਜਿਸ ਵਿੱਚ ਮਾਡਲਾਂ ਨੂੰ ਜਟਿਲ ਹਮਲਾ-ਮਾਰਗਾਂ ਦੀ ਵਰਤੋਂ ਕਰਕੇ ਉੱਨਤ ਸ਼ੋਸ਼ਣ ਕਰਨ ਲਈ ਪ੍ਰੇਰਿਤ ਕੀਤਾ ਜਾਂਦਾ ਹੈ, ਤਾਂ ਜੋ ਉਨ੍ਹਾਂ ਦੀਆਂ ਸਾਇਬਰ ਸਮਰੱਥਾਵਾਂ ਨੂੰ ਮਾਪਿਆ ਜਾ ਸਕੇ। ਅਸੀਂ ਇਹ ਮੁਲਾਂਕਣ ਉਹਨਾਂ ਪ੍ਰੋਡਕਸ਼ਨ ਕਲਾਸੀਫਾਇਰਾਂ ਤੋਂ ਬਿਨਾਂ ਚਲਾ ਕੇ ਅਧਿਕਤਮ ਸਾਇਬਰ ਸਮਰੱਥਾਵਾਂ ਦਾ ਅੰਦਾਜ਼ਾ ਲਗਾਉਂਦੇ ਹਾਂ ਜੋ ਮਾਡਲਾਂ ਨੂੰ ਉੱਚ-ਖਤਰੇ ਵਾਲੀ ਸਾਇਬਰ ਗਤੀਵਿਧੀ ਕਰਨ ਤੋਂ ਰੋਕਣ ਲਈ ਵਰਤੇ ਜਾਂਦੇ ਹਨ। ਸਾਡੇ ਬੈਂਚਮਾਰਕ ਬਹੁਤ ਵੱਖਰੇ ਕੀਤੇ ਵਾਤਾਵਰਣ ਵਿੱਚ ਚੱਲਦੇ ਹਨ, ਜਿੱਥੇ ਨੈੱਟਵਰਕ ਪਹੁੰਚ ਸਿਰਫ਼ ਅੰਦਰੂਨੀ ਤੌਰ 'ਤੇ ਹੋਸਟ ਕੀਤੇ ਤੀਜੀ-ਪਾਰਟੀ ਸੌਫਟਵੇਅਰ ਰਾਹੀਂ ਪੈਕੇਜ ਇੰਸਟਾਲ ਕਰਨ ਦੀ ਸਮਰੱਥਾ ਤੱਕ ਸੀਮਿਤ ਹੁੰਦੀ ਹੈ, ਜੋ ਪੈਕੇਜ ਰਜਿਸਟਰੀਆਂ ਲਈ ਪ੍ਰੌਕਸੀ ਅਤੇ ਕੈਸ਼ ਵਜੋਂ ਕੰਮ ਕਰਦਾ ਹੈ।
ਮਾਡਲਾਂ ਨੇ OpenAI ਦੇ ਖੋਜ ਵਾਤਾਵਰਣ ਅਤੇ ਹਗਿੰਗ ਫੇਸ ਦੇ ਪ੍ਰੋਡਕਸ਼ਨ ਇੰਫ੍ਰਾਸਟਰਕਚਰ ਵਿੱਚ ਕਮਜ਼ੋਰੀਆਂ ਦੀ ਪਛਾਣ ਕਰਕੇ ਉਨ੍ਹਾਂ ਨੂੰ ਜੋੜਿਆ, ਤਾਂ ਜੋ ਹਗਿੰਗ ਫੇਸ ਦੇ ਪ੍ਰੋਡਕਸ਼ਨ ਡੇਟਾਬੇਸ ਤੋਂ ਸਿੱਧੇ ਟੈਸਟ ਹੱਲ ਪ੍ਰਾਪਤ ਕੀਤੇ ਜਾ ਸਕਣ। ਸਾਰੇ ਸਬੂਤ ਦਰਸਾਉਂਦੇ ਹਨ ਕਿ ਮਾਡਲ ExploitGym ਲਈ ਹੱਲ ਲੱਭਣ 'ਤੇ ਬੇਹੱਦ ਕੇਂਦ੍ਰਿਤ ਸਨ ਅਤੇ ਕਾਫ਼ੀ ਸੰਕੁਚਿਤ ਟੈਸਟਿੰਗ ਟੀਚਾ ਹਾਸਲ ਕਰਨ ਲਈ ਹੱਦਾਂ ਪਾਰ ਕਰ ਰਹੇ ਸਨ।
ਸਾਡੇ ਸੈਂਡਬਾਕਸ ਕੀਤੇ ਟੈਸਟਿੰਗ ਵਾਤਾਵਰਣ ਵਿੱਚ ਕੰਮ ਕਰਦੇ ਹੋਏ ਸਾਡੇ ਮਾਡਲਾਂ ਨੇ ਮੁਲਾਂਕਣ ਸਮੱਸਿਆ ਹੱਲ ਕਰਨ ਲਈ ਖੁੱਲ੍ਹੀ ਇੰਟਰਨੈੱਟ ਪਹੁੰਚ ਪ੍ਰਾਪਤ ਕਰਨ ਦਾ ਤਰੀਕਾ ਲੱਭਣ 'ਤੇ ਕਾਫ਼ੀ ਇਨਫਰੈਂਸ ਕੰਪਿਊਟ ਖਰਚ ਕੀਤਾ। ਪਹੁੰਚ ਹਾਸਲ ਕਰਨ ਲਈ ਮਾਡਲਾਂ ਨੇ ਪੈਕੇਜ ਰਜਿਸਟਰੀ ਕੈਸ਼ ਪ੍ਰੌਕਸੀ ਵਿੱਚ ਜ਼ੀਰੋ-ਡੇ ਕਮਜ਼ੋਰੀ ਦੀ ਪਛਾਣ ਕਰਕੇ ਉਸਦਾ ਸ਼ੋਸ਼ਣ ਕੀਤਾ, (ਜਿਸ ਦਾ ਅਸੀਂ ਹੁਣ ਵਿਕਰੇਤਾ ਨੂੰ ਜ਼ਿੰਮੇਵਾਰੀ ਨਾਲ ਖੁਲਾਸਾ ਕਰ ਦਿੱਤਾ ਹੈ)। ਇਸ ਪਹੁੰਚ ਨਾਲ, ਸਾਡੇ ਮਾਡਲਾਂ ਨੇ ਸਾਡੇ ਖੋਜ ਟੈਸਟਿੰਗ ਵਾਤਾਵਰਣ ਵਿੱਚ ਅਧਿਕਾਰ ਵਧਾਉਣ ਅਤੇ ਪਾਸੇ ਵੱਲ ਅੱਗੇ ਵਧਣ ਦੀਆਂ ਕਾਰਵਾਈਆਂ ਦੀ ਇੱਕ ਲੜੀ ਤਿਆਰ ਕੀਤੀ, ਜਦੋਂ ਤੱਕ ਮਾਡਲ ਇੰਟਰਨੈੱਟ ਪਹੁੰਚ ਵਾਲੇ ਇੱਕ ਨੋਡ ਤੱਕ ਨਹੀਂ ਪਹੁੰਚ ਗਏ ਹਨ।
ਇੰਟਰਨੈੱਟ ਪਹੁੰਚ ਮਿਲਣ ਤੋਂ ਬਾਅਦ, ਮਾਡਲਾਂ ਨੇ ਅਨੁਮਾਨ ਲਗਾਇਆ ਕਿ ਹਗਿੰਗ ਫੇਸ ਸੰਭਵ ਤੌਰ 'ਤੇ ExploitGym ਲਈ ਮਾਡਲ, ਡੇਟਾਸੈੱਟ ਅਤੇ ਹੱਲ ਹੋਸਟ ਕਰਦਾ ਹੈ। ਇਹ ਜਾਣਦੇ ਹੋਏ ਮਾਡਲ ਨੇ ਗੁਪਤ ਜਾਣਕਾਰੀ ਤੱਕ ਪਹੁੰਚ ਹਾਸਲ ਕਰਨ ਦੇ ਤਰੀਕੇ ਲੱਭੇ ਅਤੇ ਸਫਲਤਾਪੂਰਵਕ ਪ੍ਰਾਪਤ ਕੀਤੇ, ਜਿਸ ਦੀ ਵਰਤੋਂ ਉਹ ਮੁਲਾਂਕਣ ਵਿੱਚ ਧੋਖਾਧੜੀ ਲਈ ਕਰ ਸਕਦਾ ਸੀ। ਇੱਕ ਉਦਾਹਰਨ ਵਿੱਚ, ਮਾਡਲ ਨੇ ਕਈ ਹਮਲਾ ਵੇਕਟਰਾਂ ਨੂੰ ਆਪਸ ਵਿੱਚ ਜੋੜਿਆ, ਜਿਸ ਵਿੱਚ ਚੋਰੀ ਕੀਤੇ ਕ੍ਰੈਡੈਂਸ਼ਲ ਅਤੇ ਜ਼ੀਰੋ-ਡੇ ਕਮਜ਼ੋਰੀਆਂ ਦੀ ਵਰਤੋਂ ਕਰਕੇ ਹਗਿੰਗ ਫੇਸ ਸਰਵਰਾਂ 'ਤੇ ਰਿਮੋਟ ਕੋਡ ਏਗਜ਼ਿਕਿਊਸ਼ਨ ਮਾਰਗ ਲੱਭਣਾ ਸ਼ਾਮਲ ਸੀ। OpenAI ਦੀ ਸੁਰੱਖਿਆ ਟੀਮ ਨੇ ਇਸ ਅਸਧਾਰਣ ਗਤੀਵਿਧੀ ਨੂੰ ਅੰਦਰੂਨੀ ਤੌਰ 'ਤੇ ਲੱਭਿਆ।
ਹਗਿੰਗ ਫੇਸ ਦੀ ਸੁਰੱਖਿਆ ਟੀਮ ਅਤੇ ਏਜੰਟਾਂ ਨੇ ਆਪਣੇ ਇੰਫ੍ਰਾਸਟਰਕਚਰ 'ਤੇ ਇਸ ਗਤੀਵਿਧੀ ਦਾ ਪਤਾ ਲਗਾ ਕੇ ਇਸਨੂੰ ਰੋਕਿਆ ਅਤੇ ਜਦੋਂ ਸਾਡੀਆਂ ਟੀਮਾਂ ਜੁੜੀਆਂ, ਤਦ ਤੱਕ ਉਹ ਆਪਣੇ ਓਪਨ-ਸੋਰਸ ਮਾਡਲਾਂ ਨਾਲ ਕੰਟੇਨਮੈਂਟ ਅਤੇ ਫ਼ੋਰੈਂਸਿਕ ਪੁਨਰ-ਨਿਰਮਾਣ ਸ਼ੁਰੂ ਕਰ ਚੁੱਕੇ ਸਨ। ਅਸੀਂ ਘਟਨਾ ਦੀ ਜਾਂਚ ਜਾਰੀ ਰੱਖਣ ਲਈ ਉਨ੍ਹਾਂ ਨਾਲ ਸਰਗਰਮੀ ਨਾਲ ਕੰਮ ਕਰ ਰਹੇ ਹਾਂ। ਅਸੀਂ ਜਾਂਚ ਅਤੇ ਸੁਧਾਰ ਵਿੱਚ ਹਗਿੰਗ ਫੇਸ ਦੇ ਤੇਜ਼ ਅਤੇ ਨਜ਼ਦੀਕੀ ਸਹਿਯੋਗ ਲਈ ਆਭਾਰੀ ਹਾਂ।
- ਜਾਂਚ ਦੇ ਹਿੱਸੇ ਵਜੋਂ, ਜਦੋਂ ਤੱਕ ਕਮਜ਼ੋਰੀਆਂ ਨੂੰ ਠੀਕ ਕੀਤਾ ਜਾ ਰਿਹਾ ਹੈ, ਅਸੀਂ ਖੋਜ ਦੀ ਗਤੀ ਦੀ ਕੀਮਤ 'ਤੇ ਇੰਫ੍ਰਾਸਟਰਕਚਰ ਕੌਂਫਿਗਰੇਸ਼ਨ ਵਿੱਚ ਸਖ਼ਤ ਨਿਯੰਤਰਣ ਲਾਗੂ ਕਰ ਰਹੇ ਹਾਂ। ਅਸੀਂ ਇਹਨਾਂ ਨਿਯੰਤਰਣਾਂ ਅਤੇ ਪ੍ਰਭਾਵ ਬਾਰੇ ਆਪਣੀ ਸੁਰੱਖਿਆ ਅਤੇ ਸਕਿਓਰਿਟੀ ਕਮੇਟੀ ਨੂੰ ਨਿਯਮਤ ਤੌਰ 'ਤੇ ਜਾਣਕਾਰੀ ਦੇ ਰਹੇ ਹਾਂ।
- ਅਸੀਂ ਘਟਨਾ ਦੀ ਫ਼ੋਰੈਂਸਿਕ ਜਾਂਚ ਲਈ ਹਗਿੰਗ ਫੇਸ ਨਾਲ ਕੰਮ ਕਰ ਰਹੇ ਹਾਂ।
- ਅਸੀਂ ਅੰਦਰੂਨੀ ਤੌਰ 'ਤੇ ਹੋਸਟ ਕੀਤੇ ਤੀਜੀ-ਪਾਰਟੀ ਸੌਫਟਵੇਅਰ ਵਿੱਚ ਪਾਈ ਗਈ ਜ਼ੀਰੋ-ਡੇ ਕਮਜ਼ੋਰੀ ਦਾ ਜ਼ਿੰਮੇਵਾਰੀ ਨਾਲ ਖੁਲਾਸਾ ਕੀਤਾ ਹੈ ਅਤੇ ਪੈਚ ਕਰਨ ਲਈ ਉਨ੍ਹਾਂ ਨਾਲ ਕੰਮ ਕਰ ਰਹੇ ਹਾਂ।
- ਅਸੀਂ ਹਗਿੰਗ ਫੇਸ ਨੂੰ ਭਰੋਸੇਯੋਗ ਪਹੁੰਚ ਪ੍ਰੋਗਰਾਮ ਵਿੱਚ ਸ਼ਾਮਲ ਕੀਤਾ ਹੈ ਅਤੇ ਉਨ੍ਹਾਂ ਦੀਆਂ ਟੀਮਾਂ ਨੂੰ ਸਾਡੇ ਮਾਡਲਾਂ ਦੀਆਂ ਸਮਰੱਥਾਵਾਂ ਦੀ ਤੇਜ਼ੀ ਨਾਲ ਵਰਤੋਂ ਕਰਕੇ ਆਪਣੀਆਂ ਰੱਖਿਆਵਾਂ ਸੁਧਾਰਨ ਵਿੱਚ ਸਹਾਇਤਾ ਕਰ ਰਹੇ ਹਾਂ।
- ਅਸੀਂ ਭਵਿੱਖ ਦੀ ਟ੍ਰੇਨਿੰਗ ਅਤੇ ਮੁਲਾਂਕਣਾਂ ਲਈ ਸੁਰੱਖਿਆਵਾਂ ਨੂੰ ਬਿਹਤਰ ਬਣਾ ਰਹੇ ਹਾਂ ਅਤੇ ਹੋਰ ਮਜ਼ਬੂਤ ਸੁਰੱਖਿਆਵਾਂ ਜੋੜ ਰਹੇ ਹਾਂ। ਇਸ ਹਫ਼ਤੇ, ਅਸੀਂ ਲੰਮੇ ਟਾਈਮ ਹੋਰਾਇਜ਼ਨ ਵਾਲੇ ਮਾਡਲਾਂ ਦੇ ਯੁੱਗ ਵਿੱਚ ਸੁਰੱਖਿਆ ਅਤੇ ਅਲਾਈਨਮੈਂਟ ਸੁਧਾਰਨ ਬਾਰੇ ਬਲੌਗ ਪ੍ਰਕਾਸ਼ਿਤ ਕੀਤਾ। ਇਸ ਮੁਲਾਂਕਣ ਦੌਰਾਨ ਇਹ ਡਿਪਲੌਇਮੈਂਟ ਸੁਰੱਖਿਆ ਪ੍ਰਬੰਧਾਂ ਜਾਣਬੁੱਝ ਕੇ ਚਾਲੂ ਨਹੀਂ ਕੀਤੇ ਗਏ ਕਿਉਂਕਿ ਇਸ ਦਾ ਉਦੇਸ਼ ਸਾਇਬਰ ਕਮਜ਼ੋਰੀਆਂ ਦੀ ਜਾਂਚ ਕਰਨਾ ਸੀ। ਇਹ ਘਟਨਾ ਸਾਡੇ ਮਾਡਲ ਦੀ ਅਲਾਈਨਮੈਂਟ, ਮੁਲਾਂਕਣ ਸਮੇਂ ਸਾਇਬਰ ਸੁਰੱਖਿਆਵਾਂ ਅਤੇ ਅੰਦਰੂਨੀ ਟੈਸਟਿੰਗ ਦੌਰਾਨ ਨਿਗਰਾਨੀ ਨੂੰ ਹੋਰ ਮਜ਼ਬੂਤ ਕਰਨ ਦੀ ਲੋੜ ਦਰਸਾਉਂਦੀ ਹੈ।
ਜਿਵੇਂ ਅਸੀਂ ਹਾਲ ਹੀ ਵਿੱਚ ਸਾਂਝਾ ਕੀਤਾ ਸੀ, AI ਕਮਜ਼ੋਰੀਆਂ ਦੀ ਖੋਜ ਅਤੇ ਉਨ੍ਹਾਂ ਦੇ ਸ਼ੋਸ਼ਣ ਨੂੰ ਤੇਜ਼ ਕਰ ਰਹੀ ਹੈ। ਇਸ ਘਟਨਾ ਤੋਂ ਮੁੱਖ ਸਬਕ ਇਹ ਹੈ ਕਿ ਮਾਡਲ ਸੁਰੱਖਿਆ ਅਤੇ ਸੇਫ਼ਟੀ ਨੂੰ ਤੇਜ਼ੀ ਨਾਲ ਅੱਗੇ ਵਧ ਰਹੀਆਂ ਸਮਰੱਥਾਵਾਂ ਦੇ ਨਾਲ ਕਦਮ ਮਿਲਾ ਕੇ ਚੱਲਣਾ ਹੋਵੇਗਾ। ਅਸੀਂ ਮਾਡਲ ਵਿਕਾਸ ਦੌਰਾਨ ਵਰਤੀਆਂ ਜਾਣ ਵਾਲੀਆਂ ਕੰਟੇਨਮੈਂਟ, ਨਿਗਰਾਨੀ, ਐਕਸੈੱਸ ਕੰਟਰੋਲ ਅਤੇ ਮੁਲਾਂਕਣ ਪ੍ਰਥਾਵਾਂ ਨੂੰ ਮਜ਼ਬੂਤ ਕਰ ਰਹੇ ਹਾਂ।
UK AISI ਦਾ ਮੁਲਾਂਕਣ ਦਿਖਾਉਂਦਾ ਹੈ ਕਿ GPT‑5.6 Sol ਵਰਗੇ ਮਾਡਲ ਲੰਮੇ ਟਾਈਮ ਹੋਰਾਇਜ਼ਨ ਵਿੱਚ ਜਟਿਲ, ਕਈ-ਕਦਮੀ ਸਾਇਬਰ ਕਾਰਵਾਈਆਂ ਨੂੰ ਜਾਰੀ ਰੱਖਣ ਦੇ ਯੋਗ ਹੁੰਦੇ ਜਾ ਰਹੇ ਹਨ। ਇਹ ਘਟਨਾ ਦਰਸਾਉਂਦੀ ਹੈ ਕਿ ਇਹ ਸਿਧਾਂਤਕ ਸਮਰੱਥਾਵਾਂ ਅਸਲ ਦੁਨੀਆ ਦੀਆਂ ਸਥਿਤੀਆਂ ਵਿੱਚ ਵੀ ਲਾਗੂ ਹੁੰਦੀਆਂ ਹਨ।
ਇਹ ਘਟਨਾ ਇਹ ਵੀ ਸਪਸ਼ਟ ਕਰਦੀ ਹੈ ਕਿ ਉੱਨਤ ਮਾਡਲ ਸਰੋਤ-ਕੋਡ ਪਹੁੰਚ ਤੋਂ ਬਿਨਾਂ ਅਸਲ ਦੁਨੀਆ ਦੇ ਸਿਸਟਮਾਂ ਵਿੱਚ ਨਵੇਂ ਹਮਲਾ-ਮਾਰਗ ਲੱਭ ਅਤੇ ਉਨ੍ਹਾਂ ਦਾ ਸ਼ੋਸ਼ਣ ਕਰ ਸਕਦੇ ਹਨ। ਇਹ ਦਰਸਾਉਂਦੀ ਹੈ ਕਿ ਉੱਨਤ ਸਾਇਬਰ ਸਮਰੱਥਾਵਾਂ ਨੂੰ ਹੋਰ ਮਜ਼ਬੂਤ ਸੁਰੱਖਿਆ ਪ੍ਰਬੰਧਾਂ ਅਤੇ ਰੱਖਿਆਤਮਕ ਟੂਲਾਂ ਦੇ ਨਾਲ-ਨਾਲ ਵਿਕਸਤ ਕੀਤਾ ਜਾਣਾ ਚਾਹੀਦਾ ਹੈ।
ਸਾਡਾ ਮੰਨਣਾ ਹੈ ਕਿ ਉੱਨਤ ਸਾਇਬਰ ਸਮਰੱਥਾ ਵਾਲੇ ਮਾਡਲਾਂ ਨੂੰ ਸੁਰੱਖਿਆ ਟੀਮਾਂ ਦੀ ਮਦਦ ਕਰਨੀ ਚਾਹੀਦੀ ਹੈ ਤਾਂ ਜੋ ਉਹ ਹਮਲਾਵਰਾਂ ਤੋਂ ਪਹਿਲਾਂ ਕਮਜ਼ੋਰੀਆਂ ਲੱਭ ਸਕਣ, ਸਮਝ ਸਕਣ ਕਿ ਕਮਜ਼ੋਰੀਆਂ ਨੂੰ ਕਿਵੇਂ ਜੋੜਿਆ ਜਾ ਸਕਦਾ ਹੈ ਅਤੇ ਮਸ਼ੀਨ ਦੀ ਰਫ਼ਤਾਰ ਨਾਲ ਉਨ੍ਹਾਂ ਦਾ ਹੱਲ ਕਰ ਸਕਣ। ਅਸੀਂ ਇੰਫ੍ਰਾਸਟਰਕਚਰ ਕੌਂਫਿਗਰੇਸ਼ਨ ਅਤੇ ਮਾਡਲ ਮੁਲਾਂਕਣ ਵਾਤਾਵਰਣਾਂ ਦੇ ਆਲੇ-ਦੁਆਲੇ ਸੁਰੱਖਿਆਵਾਂ ਨੂੰ ਹੋਰ ਮਜ਼ਬੂਤ ਕਰਨ ਲਈ ਇਹ ਸਮਰੱਥਾਵਾਂ ਵਰਤ ਰਹੇ ਹਾਂ; ਜਿਵੇਂ-ਜਿਵੇਂ ਅਸੀਂ ਸਿੱਖਾਂਗੇ, ਅਸੀਂ ਆਪਣੇ ਨਤੀਜੇ ਅਤੇ ਸਰਵੋਤਮ ਪ੍ਰਥਾਵਾਂ ਸਾਂਝੀਆਂ ਕਰਾਂਗੇ। ਅਸੀਂ ਹੋਰ ਰੱਖਿਅਕਾਂ ਨੂੰ ਉਤਸ਼ਾਹਿਤ ਕਰਦੇ ਹਾਂ ਕਿ ਉਹ ਭਰੋਸੇਯੋਗ ਪਹੁੰਚ ਲਈ ਅਰਜ਼ੀ ਦੇਣ ਅਤੇ ਹੁਣੇ ਇਨ੍ਹਾਂ ਮਾਡਲਾਂ ਨਾਲ ਪ੍ਰਯੋਗ ਕਰਨ, ਤਾਂ ਜੋ ਇਨ੍ਹਾਂ ਸਮਰੱਥਾਵਾਂ ਨੂੰ ਬਿਹਤਰ ਰੋਕਥਾਮ, ਤੇਜ਼ ਪਛਾਣ ਅਤੇ ਹੋਰ ਪ੍ਰਭਾਵਸ਼ਾਲੀ ਘਟਨਾ ਪ੍ਰਤੀਕਿਰਿਆ ਵਿੱਚ ਬਦਲਿਆ ਜਾ ਸਕੇ।
“ਅਸੀਂ ਇਸ ਅਤੇ ਹੋਰ ਵਿਸ਼ਿਆਂ 'ਤੇ OpenAI ਨਾਲ ਸਹਿਯੋਗ ਲਈ ਆਭਾਰੀ ਹਾਂ। ਇਹ ਘਟਨਾ, ਜੋ ਸੰਭਵ ਤੌਰ 'ਤੇ ਆਪਣੀ ਕਿਸਮ ਦੀ ਪਹਿਲੀ ਹੈ, ਉਸ ਗੱਲ ਨੂੰ ਸਾਬਤ ਕਰਦੀ ਹੈ ਜਿਸ 'ਤੇ ਅਸੀਂ ਲੰਮੇ ਸਮੇਂ ਤੋਂ ਵਿਸ਼ਵਾਸ ਕਰਦੇ ਆਏ ਹਾਂ: AI ਸੁਰੱਖਿਆ ਕਿਸੇ ਇੱਕ ਕੰਪਨੀ ਦੇ ਗੁਪਤ ਤੌਰ 'ਤੇ ਕੰਮ ਕਰਨ ਨਾਲ ਹੱਲ ਨਹੀਂ ਹੋਵੇਗੀ। ਇਹ ਖੁੱਲ੍ਹੇ ਤੌਰ 'ਤੇ, ਸਹਿਯੋਗ ਨਾਲ, ਹਰ ਥਾਂ ਹਰ ਰੱਖਿਅਕ ਲਈ AI ਤੱਕ ਵਿਆਪਕ ਪਹੁੰਚ ਦੇ ਨਾਲ ਹੱਲ ਹੋਵੇਗੀ।”
