OpenAI ਅਤੇ ਹਗਿੰਗ ਫੇਸ ਮਾਡਲ ਮੁਲਾਂਕਣ ਦੌਰਾਨ ਸੁਰੱਖਿਆ ਘਟਨਾ ਲਈ ਸਾਂਝ ਪਾਉਂਦੇ ਹਨ
ਅਸੀਂ ਬਾਹਰੀ ਸਲਾਹਕਾਰਾਂ ਦੇ ਸਹਿਯੋਗ ਨਾਲ ਅਤੇ ਸੇਫ਼ਟੀ ਐਂਡ ਸਿਕਿਊਰਿਟੀ ਕਮੇਟੀ ਦੀ ਦੇਖ-ਰੇਖ ਹੇਠ ਇੱਕ ਪੂਰਨ ਸਮੀਖਿਆ ਕਰ ਰਹੇ ਹਾਂ। ਸਮੀਖਿਆ ਪੂਰੀ ਹੋਣ 'ਤੇ, ਅਸੀਂ ਆਉਣ ਵਾਲੇ ਹਫ਼ਤਿਆਂ ਵਿੱਚ ਆਪਣੇ ਸਿੱਖੇ ਹੋਏ ਤਜ਼ਰਬਿਆਂ ਦੀ ਇੱਕ ਤਕਨੀਕੀ ਰਿਪੋਰਟ ਪ੍ਰਕਾਸ਼ਿਤ ਕਰਾਂਗੇ।
28 ਜੁਲਾਈ, 2026 ਨੂੰ ਅੱਪਡੇਟ:
- ਆਉਣ ਵਾਲੀ ਰਿਲੀਜ਼ ਲਈ ਯੋਜਨਾਬੱਧ ਕੋਈ ਵੀ ਮਾਡਲ Hugging Face ਨੂੰ ਪ੍ਰਭਾਵਿਤ ਕਰਨ ਵਿੱਚ ਸ਼ਾਮਲ ਨਹੀਂ ਸੀ। ਸਾਡੀ ਬਲੌਗ ਪੋਸਟ ਵਿੱਚ ਦੱਸਿਆ ਗਿਆ ਪ੍ਰੀ-ਰਿਲੀਜ਼ ਮਾਡਲ ਸਿਰਫ਼ ਇੱਕ ਅੰਦਰੂਨੀ ਖੋਜ ਪ੍ਰੋਟੋਟਾਈਪ ਹੈ ਅਤੇ ਇਸਨੂੰ ਕਦੇ ਵੀ ਜਨਤਕ ਤੌਰ 'ਤੇ ਰਿਲੀਜ਼ ਕਰਨ ਦਾ ਇਰਾਦਾ ਨਹੀਂ ਸੀ। ਇਸ ਘਟਨਾ ਤੋਂ ਬਾਅਦ, ਅਸੀਂ ਇਸਨੂੰ ਬੰਦ ਕਰ ਦਿੱਤਾ, ਐਨਕ੍ਰਿਪਟ ਕਰ ਦਿੱਤਾ, ਅਤੇ ਇਸ ਤੱਕ ਰਿਸਰਚ ਪਹੁੰਚ ਨੂੰ ਸੀਮਤ ਕਰ ਦਿੱਤਾ।
- ExploitGym ਮੁਲਾਂਕਣ ਵਾਤਾਵਰਨ ਨੇ ਮਾਡਲਾਂ ਨੂੰ ਸਿੱਧੀ ਇੰਟਰਨੈੱਟ ਪਹੁੰਚ ਮੁਹੱਈਆ ਨਹੀਂ ਕੀਤੀ ਸੀ। ਇੰਟਰਨੈੱਟ ਤੱਕ ਪਹੁੰਚ ਪ੍ਰਾਪਤ ਕਰਨ ਲਈ, ਮਾਡਲਾਂ ਨੇ ਆਰਟੀਫੈਕਟਰੀ(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ), ਜੋ ਕਿ ਇੱਕ ਪੈਕੇਜ ਰਜਿਸਟਰੀ ਕੈਸ਼ ਪ੍ਰੌਕਸੀ ਹੈ, ਵਿੱਚ ਪਹਿਲਾਂ ਤੋਂ ਅਗਿਆਤ ਜ਼ੀਰੋ-ਡੇ ਕਮਜ਼ੋਰੀ ਦੀ ਪਛਾਣ ਕੀਤੀ ਅਤੇ ਇਸਦਾ ਫਾਇਦਾ ਉਠਾਇਆ। ਅਸੀਂ ਇਸ ਕਮਜ਼ੋਰੀ ਨੂੰ, ਸਾਡੀ ਸਮੀਖਿਆ ਦੇ ਹਿੱਸੇ ਵਜੋਂ ਮਾਡਲਾਂ ਦੁਆਰਾ ਪਛਾਣੀਆਂ ਗਈਆਂ ਹੋਰ ਆਰਟੀਫੈਕਟਰੀ ਕਮਜ਼ੋਰੀਆਂ ਦੇ ਨਾਲ, ਵੈਂਡਰ ਨੂੰ ਸੂਚਿਤ ਕਰ ਦਿੱਤਾ ਹੈ।
- ਜਿਵੇਂ-ਜਿਵੇਂ ਸਾਡੀ ਸਮੀਖਿਆ ਜਾਰੀ ਹੈ, ਅਸੀਂ Hugging Face ਨਾਲ ਸਹਿਯੋਗ ਕਰਨਾ ਜਾਰੀ ਰੱਖਦੇ ਹਾਂ, ਜਿਸ ਵਿੱਚ ਉਹਨਾਂ ਦੀ ਪੋਸਟ-ਮਾਰਟਮ(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ) ਰਿਪੋਰਟ ਵਿੱਚ ਯੋਗਦਾਨ ਪਾਉਣਾ ਵੀ ਸ਼ਾਮਲ ਹੈ। ਅਸੀਂ ਉਹਨਾਂ ਨੂੰ ਆਪਣੇ Trusted Access for Cyber Program ਵਿੱਚ ਵੀ ਸ਼ਾਮਲ ਕਰ ਦਿੱਤਾ ਹੈ।
- ਅੱਜ ਤੱਕ ਦੀ ਸਾਡੀ ਸਮੀਖਿਆ ਦੇ ਆਧਾਰ 'ਤੇ, Hugging Face ਨਾਲ ਸੰਬੰਧਿਤ ਜਿਸ ਪਲੇਟਫਾਰਮ-ਪੱਧਰੀ ਸੁਰੱਖਿਆ ਉਲੰਘਣਾ ਬਾਰੇ ਅਸੀਂ ਜਾਣਕਾਰੀ ਸਾਂਝੀ ਕੀਤੀ ਹੈ, ਉਸੇ ਪੱਧਰ ਦੀ ਗੰਭੀਰਤਾ ਜਾਂ ਵਿਆਪਕਤਾ ਵਾਲੀ ਕੋਈ ਹੋਰ ਗਤੀਵਿਧੀ ਸਾਨੂੰ ਨਹੀਂ ਮਿਲੀ।
- Hugging Face ਵਿੱਚ ਹੋਈ ਘੁਸਪੈਠ ਅਤੇ ਸਾਡੇ ਮਾਡਲਾਂ ਦੀ ਵਿਆਪਕ ਗਤੀਵਿਧੀ ਦੀ ਚੱਲ ਰਹੀ ਸਮੀਖਿਆ ਦੌਰਾਨ, ਸਾਨੂੰ ਕੁਝ ਅਜਿਹੇ ਮਾਮਲੇ ਮਿਲੇ ਹਨ ਜਿੱਥੇ ਮਾਡਲਾਂ ਨੇ ਹੋਰ ਜਨਤਕ ਤੌਰ 'ਤੇ ਉਪਲਬਧ ਸੇਵਾਵਾਂ 'ਤੇ ਖਾਤਾ-ਪੱਧਰ ਦੇ ਸਰਵਜਨਕ ਤੌਰ 'ਤੇ ਉਪਲਬਧ ਕ੍ਰੈਡੈਂਸ਼ੀਅਲਾਂ ਦੀ ਪਛਾਣ ਕਰਕੇ ਉਹਨਾਂ ਦੀ ਵਰਤੋਂ ਕੀਤੀ। ਇਸ ਵਿੱਚ Hugging Face ਘਟਨਾ ਦੇ ਹਿੱਸੇ ਵਜੋਂ ਚਾਰ ਸੇਵਾਵਾਂ 'ਤੇ ਚਾਰ ਖਾਤੇ ਸ਼ਾਮਲ ਹਨ (ਅਤੇ ਹੋਰ ਮੁਲਾਂਕਣਾਂ ਦੇ ਹਿੱਸੇ ਵਜੋਂ ਐਕਸੈੱਸ ਕੀਤੇ ਗਏ ਕੁਝ ਖਾਤੇ)। ਇਹਨਾਂ ਚਾਰ ਖਾਤਿਆਂ ਵਿੱਚੋਂ ਇੱਕ ਨੂੰ ਆਊਟਬਾਊਂਡ ਰਿਲੇਅ ਅਤੇ ਸਟੇਜਿੰਗ ਪਾਥ ਵਜੋਂ ਵਰਤਿਆ ਗਿਆ ਸੀ, ਅਤੇ ਇੱਕ ਹੋਰ ਖਾਤਾ ਡਾਟਾ ਸਟੋਰੇਜ ਲਈ ਵਰਤਿਆ ਗਿਆ ਸੀ। ਬਾਕੀ ਦੋ ਖਾਤਿਆਂ ਤੱਕ ਮਾਡਲਾਂ ਦੁਆਰਾ ਸਿਰਫ਼-ਪੜ੍ਹਨ ਦੇ ਤਰੀਕੇ ਨਾਲ ਪਹੁੰਚ ਕੀਤੀ ਗਈ ਸੀ, ਅਤੇ Hugging Face ਨਾਲ ਸਮਝੌਤਾ ਕਰਨ ਲਈ ਉਹਨਾਂ ਦੀ ਵਰਤੋਂ ਨਹੀਂ ਕੀਤੀ ਗਈ ਸੀ। ਅਸੀਂ ਸੇਵਾ ਮਾਲਕਾਂ ਨੂੰ ਸਿੱਧੇ ਤੌਰ 'ਤੇ ਸੂਚਿਤ ਕਰਨਾ ਜਾਰੀ ਰੱਖਾਂਗੇ, ਅਤੇ ਸਾਨੂੰ ਇਹਨਾਂ ਪ੍ਰਦਾਤਾਵਾਂ ਜਾਂ ਉਨ੍ਹਾਂ ਦੀਆਂ ਸੇਵਾਵਾਂ 'ਤੇ ਮੌਜੂਦ ਹੋਰ ਖਾਤਿਆਂ 'ਤੇ ਕਿਸੇ ਵਿਆਪਕ ਪ੍ਰਭਾਵ ਦਾ ਕੋਈ ਸਬੂਤ ਨਹੀਂ ਮਿਲਿਆ ਹੈ।
- ਮਾਡਲਾਂ ਨੇ ਇਸ ਤੋਂ ਇਲਾਵਾ ਜਨਤਕ ਤੌਰ 'ਤੇ ਉਪਲਬਧ ਸੇਵਾਵਾਂ ਦੀ ਇੱਕ ਲੜੀ ਵਰਤੀ, ਜਿਸ ਵਿੱਚ ਕੋਡ ਪੇਸਟ ਵੈੱਬਸਾਈਟਾਂ, ਬੇਨਤੀ ਕੈਪਚਰ ਸੇਵਾਵਾਂ, ਸਕ੍ਰੀਨਸ਼ੌਟ ਸੇਵਾਵਾਂ ਅਤੇ ਹੋਰ ਵੈੱਬ ਉਪਯੋਗਤਾਵਾਂ ਸ਼ਾਮਲ ਹਨ। ਇਹਨਾਂ ਮਾਮਲਿਆਂ ਵਿੱਚ ਪਲੇਟਫਾਰਮ ਜਾਂ ਖਾਤੇ ਦੇ ਪੱਧਰ 'ਤੇ ਕੋਈ ਸੁਰੱਖਿਆ ਭੰਗ ਨਹੀਂ ਹੋਈ।
- ਅਸੀਂ ਵਧਦੀ ਸਮਰੱਥਾ ਵਾਲੀਆਂ AI ਪ੍ਰਣਾਲੀਆਂ ਤੋਂ ਪੈਦਾ ਹੋਣ ਵਾਲੇ ਜੋਖਮਾਂ ਦੀ ਪਛਾਣ ਕਰਨ ਅਤੇ ਉਹਨਾਂ ਲਈ ਤਿਆਰੀ ਕਰਨ ਦੀ ਆਪਣੀ ਜ਼ਿੰਮੇਵਾਰੀ ਨੂੰ ਗੰਭੀਰਤਾ ਨਾਲ ਲੈਂਦੇ ਹਾਂ। ਜਦੋਂ ਅਸੀਂ ਆਪਣੀ ਸਮੀਖਿਆ ਪੂਰੀ ਕਰ ਲਵਾਂਗੇ, ਅਸੀਂ ਸਾਡੇ ਪ੍ਰਿਪੇਅਰਡਨੈਸ ਫ੍ਰੇਮਵਰਕ ਦੇ ਤਹਿਤ ਸੇਫ਼ਟੀ ਐਂਡ ਸਿਕਿਊਰਿਟੀ ਕਮੇਟੀ ਅਤੇ ਸੇਫ਼ਟੀ ਐਡਵਾਈਜ਼ਰੀ ਗਰੁੱਪ ਨਾਲ ਸਮੀਖਿਆ ਕਰਾਂਗੇ।
ਪਿਛਲੇ ਹਫ਼ਤੇ, ਹਗਿੰਗ ਫੇਸ ਨੇ ਇੱਕ AI ਏਜੰਟ ਨੂੰ ਪਤਾ ਲਗਾ ਕੇ ਰੋਕਣ ਤੋਂ ਬਾਅਦ ਨਵੀਂ ਕਿਸਮ ਦੀ ਸੁਰੱਖਿਆ ਘਟਨਾ ਦਾ ਖੁਲਾਸਾ ਕੀਤਾ(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ), ਜਿਸ ਨੇ ਉਨ੍ਹਾਂ ਦੇ ਇੰਫ੍ਰਾਸਟਰਕਚਰ ਨਾਲ ਸਮਝੌਤਾ ਕੀਤਾ ਸੀ, ਅਸੀਂ ਉਮੀਦ ਕਰਦੇ ਹਾਂ ਕਿ ਵੱਧ ਸਾਇਬਰ-ਸਮਰੱਥ ਮਾਡਲਾਂ ਦੇ ਫੈਲਾਅ ਨਾਲ ਇਹ ਚੀਜ਼ ਹੋਰ ਆਮ ਹੋਵੇਗੀ। ਜਾਂਚ ਤੋਂ ਬਾਅਦ, ਹੁਣ ਸਾਨੂੰ ਪਤਾ ਹੈ ਕਿ ਇਹ ਖਾਸ ਘਟਨਾ OpenAI ਮਾਡਲਾਂ ਦੇ ਜੋੜ ਕਰਕੇ ਹੋਈ ਸੀ, ਜਿਸ ਵਿੱਚ GPT‑5.6 Sol ਅਤੇ ਇੱਕ ਹੋਰ ਵੀ ਸਮਰੱਥ ਪ੍ਰੀ-ਰਿਲੀਜ਼ ਮਾਡਲ ਸ਼ਾਮਲ ਸੀ, ਮੁਲਾਂਕਣ ਦੇ ਉਦੇਸ਼ਾਂ ਲਈ ਇਨ੍ਹਾਂ ਸਭ ਵਿੱਚ ਸਾਇਬਰ ਇਨਕਾਰ ਘਟਾਏ ਗਏ ਸਨ ਅਤੇ ਇਨ੍ਹਾਂ ਦੀ ਸਾਇਬਰ ਸਮਰੱਥਾਵਾਂ ਦੇ ਇੱਕ ਬੈਂਚਮਾਰਕ(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ) 'ਤੇ ਅੰਦਰੂਨੀ ਟੈਸਟਿੰਗ ਹੋ ਰਹੀ ਸੀ।
ਅਸੀਂ ਇਸ ਘਟਨਾ ਨੂੰ ਬੇਮਿਸਾਲ ਸਾਇਬਰ ਘਟਨਾ ਮੰਨਦੇ ਹਾਂ, ਜਿਸ ਵਿੱਚ ਅਤਿ-ਆਧੁਨਿਕ ਸਾਇਬਰ ਸਮਰੱਥਾਵਾਂ ਸ਼ਾਮਲ ਹਨ ਅਤੇ ਉਸੇ ਅਨੁਸਾਰ ਪ੍ਰਤੀਕਿਰਿਆ ਦੇ ਰਹੇ ਹਾਂ। ਇਸ ਪੜਾਅ 'ਤੇ ਅਸੀਂ ਸ਼ੁਰੂਆਤੀ ਨਤੀਜੇ ਸਾਂਝੇ ਕਰ ਰਹੇ ਹਾਂ, ਤਾਂ ਜੋ ਰੱਖਿਅਕ ਸਮਝ ਸਕਣ ਕਿ ਕੀ ਹੋਇਆ ਅਤੇ ਇਹ ਅੰਦਾਜ਼ਾ ਲਗਾ ਸਕਣ ਕਿ ਮਾਡਲ ਹੁਣ ਕੀ ਕਰਨ ਦੇ ਸਮਰੱਥ ਹਨ। ਅਸੀਂ ਹਗਿੰਗ ਫੇਸ ਨਾਲ ਮਿਲ ਕੇ ਪੂਰੀ ਜਾਂਚ ਜਾਰੀ ਰੱਖਾਂਗੇ ਅਤੇ ਜਾਂਚ ਪੂਰੀ ਹੋਣ 'ਤੇ ਕਮਜ਼ੋਰੀਆਂ, ਘਟਨਾ ਅਤੇ ਨਤੀਜਿਆਂ ਬਾਰੇ ਹੋਰ ਵੇਰਵੇ ਸਾਂਝੇ ਕਰਾਂਗੇ।
ਇਹ ਘਟਨਾ ਅੰਦਰੂਨੀ ਮੁਲਾਂਕਣ ਦੌਰਾਨ ਵਾਪਰੀ, ਜਿਸ ਵਿੱਚ ਮਾਡਲਾਂ ਨੂੰ ਜਟਿਲ ਹਮਲਾ-ਮਾਰਗਾਂ ਦੀ ਵਰਤੋਂ ਕਰਕੇ ਉੱਨਤ ਸ਼ੋਸ਼ਣ ਕਰਨ ਲਈ ਪ੍ਰੇਰਿਤ ਕੀਤਾ ਜਾਂਦਾ ਹੈ, ਤਾਂ ਜੋ ਉਨ੍ਹਾਂ ਦੀਆਂ ਸਾਇਬਰ ਸਮਰੱਥਾਵਾਂ ਨੂੰ ਮਾਪਿਆ ਜਾ ਸਕੇ। ਅਸੀਂ ਇਹ ਮੁਲਾਂਕਣ ਉਹਨਾਂ ਪ੍ਰੋਡਕਸ਼ਨ ਕਲਾਸੀਫਾਇਰਾਂ ਤੋਂ ਬਿਨਾਂ ਚਲਾ ਕੇ ਅਧਿਕਤਮ ਸਾਇਬਰ ਸਮਰੱਥਾਵਾਂ ਦਾ ਅੰਦਾਜ਼ਾ ਲਗਾਉਂਦੇ ਹਾਂ ਜੋ ਮਾਡਲਾਂ ਨੂੰ ਉੱਚ-ਖਤਰੇ ਵਾਲੀ ਸਾਇਬਰ ਗਤੀਵਿਧੀ ਕਰਨ ਤੋਂ ਰੋਕਣ ਲਈ ਵਰਤੇ ਜਾਂਦੇ ਹਨ। ਸਾਡੇ ਬੈਂਚਮਾਰਕ ਬਹੁਤ ਵੱਖਰੇ ਕੀਤੇ ਵਾਤਾਵਰਣ ਵਿੱਚ ਚੱਲਦੇ ਹਨ, ਜਿੱਥੇ ਨੈੱਟਵਰਕ ਪਹੁੰਚ ਸਿਰਫ਼ ਅੰਦਰੂਨੀ ਤੌਰ 'ਤੇ ਹੋਸਟ ਕੀਤੇ ਤੀਜੀ-ਪਾਰਟੀ ਸੌਫਟਵੇਅਰ ਰਾਹੀਂ ਪੈਕੇਜ ਇੰਸਟਾਲ ਕਰਨ ਦੀ ਸਮਰੱਥਾ ਤੱਕ ਸੀਮਿਤ ਹੁੰਦੀ ਹੈ, ਜੋ ਪੈਕੇਜ ਰਜਿਸਟਰੀਆਂ ਲਈ ਪ੍ਰੌਕਸੀ ਅਤੇ ਕੈਸ਼ ਵਜੋਂ ਕੰਮ ਕਰਦਾ ਹੈ।
ਮਾਡਲਾਂ ਨੇ OpenAI ਦੇ ਖੋਜ ਵਾਤਾਵਰਣ ਅਤੇ ਹਗਿੰਗ ਫੇਸ ਦੇ ਪ੍ਰੋਡਕਸ਼ਨ ਇੰਫ੍ਰਾਸਟਰਕਚਰ ਵਿੱਚ ਕਮਜ਼ੋਰੀਆਂ ਦੀ ਪਛਾਣ ਕਰਕੇ ਉਨ੍ਹਾਂ ਨੂੰ ਜੋੜਿਆ, ਤਾਂ ਜੋ ਹਗਿੰਗ ਫੇਸ ਦੇ ਪ੍ਰੋਡਕਸ਼ਨ ਡੇਟਾਬੇਸ ਤੋਂ ਸਿੱਧੇ ਟੈਸਟ ਹੱਲ ਪ੍ਰਾਪਤ ਕੀਤੇ ਜਾ ਸਕਣ। ਸਾਰੇ ਸਬੂਤ ਦਰਸਾਉਂਦੇ ਹਨ ਕਿ ਮਾਡਲ ExploitGym ਲਈ ਹੱਲ ਲੱਭਣ 'ਤੇ ਬੇਹੱਦ ਕੇਂਦ੍ਰਿਤ ਸਨ ਅਤੇ ਕਾਫ਼ੀ ਸੰਕੁਚਿਤ ਟੈਸਟਿੰਗ ਟੀਚਾ ਹਾਸਲ ਕਰਨ ਲਈ ਹੱਦਾਂ ਪਾਰ ਕਰ ਰਹੇ ਸਨ।
ਸਾਡੇ ਸੈਂਡਬਾਕਸ ਕੀਤੇ ਟੈਸਟਿੰਗ ਵਾਤਾਵਰਣ ਵਿੱਚ ਕੰਮ ਕਰਦੇ ਹੋਏ ਸਾਡੇ ਮਾਡਲਾਂ ਨੇ ਮੁਲਾਂਕਣ ਸਮੱਸਿਆ ਹੱਲ ਕਰਨ ਲਈ ਖੁੱਲ੍ਹੀ ਇੰਟਰਨੈੱਟ ਪਹੁੰਚ ਪ੍ਰਾਪਤ ਕਰਨ ਦਾ ਤਰੀਕਾ ਲੱਭਣ 'ਤੇ ਕਾਫ਼ੀ ਇਨਫਰੈਂਸ ਕੰਪਿਊਟ ਖਰਚ ਕੀਤਾ। ਪਹੁੰਚ ਹਾਸਲ ਕਰਨ ਲਈ ਮਾਡਲਾਂ ਨੇ ਪੈਕੇਜ ਰਜਿਸਟਰੀ ਕੈਸ਼ ਪ੍ਰੌਕਸੀ ਵਿੱਚ ਜ਼ੀਰੋ-ਡੇ ਕਮਜ਼ੋਰੀ ਦੀ ਪਛਾਣ ਕਰਕੇ ਉਸਦਾ ਸ਼ੋਸ਼ਣ ਕੀਤਾ, (ਜਿਸ ਦਾ ਅਸੀਂ ਹੁਣ ਵਿਕਰੇਤਾ ਨੂੰ ਜ਼ਿੰਮੇਵਾਰੀ ਨਾਲ ਖੁਲਾਸਾ ਕਰ ਦਿੱਤਾ ਹੈ)। ਇਸ ਪਹੁੰਚ ਨਾਲ, ਸਾਡੇ ਮਾਡਲਾਂ ਨੇ ਸਾਡੇ ਖੋਜ ਟੈਸਟਿੰਗ ਵਾਤਾਵਰਣ ਵਿੱਚ ਅਧਿਕਾਰ ਵਧਾਉਣ ਅਤੇ ਪਾਸੇ ਵੱਲ ਅੱਗੇ ਵਧਣ ਦੀਆਂ ਕਾਰਵਾਈਆਂ ਦੀ ਇੱਕ ਲੜੀ ਤਿਆਰ ਕੀਤੀ, ਜਦੋਂ ਤੱਕ ਮਾਡਲ ਇੰਟਰਨੈੱਟ ਪਹੁੰਚ ਵਾਲੇ ਇੱਕ ਨੋਡ ਤੱਕ ਨਹੀਂ ਪਹੁੰਚ ਗਏ ਹਨ।
ਇੰਟਰਨੈੱਟ ਪਹੁੰਚ ਮਿਲਣ ਤੋਂ ਬਾਅਦ, ਮਾਡਲਾਂ ਨੇ ਅਨੁਮਾਨ ਲਗਾਇਆ ਕਿ ਹਗਿੰਗ ਫੇਸ ਸੰਭਵ ਤੌਰ 'ਤੇ ExploitGym ਲਈ ਮਾਡਲ, ਡੇਟਾਸੈੱਟ ਅਤੇ ਹੱਲ ਹੋਸਟ ਕਰਦਾ ਹੈ। ਇਹ ਜਾਣਦੇ ਹੋਏ ਮਾਡਲ ਨੇ ਗੁਪਤ ਜਾਣਕਾਰੀ ਤੱਕ ਪਹੁੰਚ ਹਾਸਲ ਕਰਨ ਦੇ ਤਰੀਕੇ ਲੱਭੇ ਅਤੇ ਸਫਲਤਾਪੂਰਵਕ ਪ੍ਰਾਪਤ ਕੀਤੇ, ਜਿਸ ਦੀ ਵਰਤੋਂ ਉਹ ਮੁਲਾਂਕਣ ਵਿੱਚ ਧੋਖਾਧੜੀ ਲਈ ਕਰ ਸਕਦਾ ਸੀ। ਇੱਕ ਉਦਾਹਰਨ ਵਿੱਚ, ਮਾਡਲ ਨੇ ਕਈ ਹਮਲਾ ਵੇਕਟਰਾਂ ਨੂੰ ਆਪਸ ਵਿੱਚ ਜੋੜਿਆ, ਜਿਸ ਵਿੱਚ ਚੋਰੀ ਕੀਤੇ ਕ੍ਰੈਡੈਂਸ਼ਲ ਅਤੇ ਜ਼ੀਰੋ-ਡੇ ਕਮਜ਼ੋਰੀਆਂ ਦੀ ਵਰਤੋਂ ਕਰਕੇ ਹਗਿੰਗ ਫੇਸ ਸਰਵਰਾਂ 'ਤੇ ਰਿਮੋਟ ਕੋਡ ਏਗਜ਼ਿਕਿਊਸ਼ਨ ਮਾਰਗ ਲੱਭਣਾ ਸ਼ਾਮਲ ਸੀ। OpenAI ਦੀ ਸੁਰੱਖਿਆ ਟੀਮ ਨੇ ਇਸ ਅਸਧਾਰਣ ਗਤੀਵਿਧੀ ਨੂੰ ਅੰਦਰੂਨੀ ਤੌਰ 'ਤੇ ਲੱਭਿਆ।
ਹਗਿੰਗ ਫੇਸ ਦੀ ਸੁਰੱਖਿਆ ਟੀਮ ਅਤੇ ਏਜੰਟਾਂ ਨੇ ਆਪਣੇ ਇੰਫ੍ਰਾਸਟਰਕਚਰ 'ਤੇ ਇਸ ਗਤੀਵਿਧੀ ਦਾ ਪਤਾ ਲਗਾ ਕੇ ਇਸਨੂੰ ਰੋਕਿਆ ਅਤੇ ਜਦੋਂ ਸਾਡੀਆਂ ਟੀਮਾਂ ਜੁੜੀਆਂ, ਤਦ ਤੱਕ ਉਹ ਆਪਣੇ ਓਪਨ-ਸੋਰਸ ਮਾਡਲਾਂ ਨਾਲ ਕੰਟੇਨਮੈਂਟ ਅਤੇ ਫ਼ੋਰੈਂਸਿਕ ਪੁਨਰ-ਨਿਰਮਾਣ ਸ਼ੁਰੂ ਕਰ ਚੁੱਕੇ ਸਨ। ਅਸੀਂ ਘਟਨਾ ਦੀ ਜਾਂਚ ਜਾਰੀ ਰੱਖਣ ਲਈ ਉਨ੍ਹਾਂ ਨਾਲ ਸਰਗਰਮੀ ਨਾਲ ਕੰਮ ਕਰ ਰਹੇ ਹਾਂ। ਅਸੀਂ ਜਾਂਚ ਅਤੇ ਸੁਧਾਰ ਵਿੱਚ ਹਗਿੰਗ ਫੇਸ ਦੇ ਤੇਜ਼ ਅਤੇ ਨਜ਼ਦੀਕੀ ਸਹਿਯੋਗ ਲਈ ਆਭਾਰੀ ਹਾਂ।
- ਜਾਂਚ ਦੇ ਹਿੱਸੇ ਵਜੋਂ, ਜਦੋਂ ਤੱਕ ਕਮਜ਼ੋਰੀਆਂ ਨੂੰ ਠੀਕ ਕੀਤਾ ਜਾ ਰਿਹਾ ਹੈ, ਅਸੀਂ ਖੋਜ ਦੀ ਗਤੀ ਦੀ ਕੀਮਤ 'ਤੇ ਇੰਫ੍ਰਾਸਟਰਕਚਰ ਕੌਂਫਿਗਰੇਸ਼ਨ ਵਿੱਚ ਸਖ਼ਤ ਨਿਯੰਤਰਣ ਲਾਗੂ ਕਰ ਰਹੇ ਹਾਂ। ਅਸੀਂ ਇਹਨਾਂ ਨਿਯੰਤਰਣਾਂ ਅਤੇ ਪ੍ਰਭਾਵ ਬਾਰੇ ਆਪਣੀ ਸੁਰੱਖਿਆ ਅਤੇ ਸਕਿਓਰਿਟੀ ਕਮੇਟੀ ਨੂੰ ਨਿਯਮਤ ਤੌਰ 'ਤੇ ਜਾਣਕਾਰੀ ਦੇ ਰਹੇ ਹਾਂ।
- ਅਸੀਂ ਘਟਨਾ ਦੀ ਫ਼ੋਰੈਂਸਿਕ ਜਾਂਚ ਲਈ ਹਗਿੰਗ ਫੇਸ ਨਾਲ ਕੰਮ ਕਰ ਰਹੇ ਹਾਂ।
- ਅਸੀਂ ਅੰਦਰੂਨੀ ਤੌਰ 'ਤੇ ਹੋਸਟ ਕੀਤੇ ਤੀਜੀ-ਪਾਰਟੀ ਸੌਫਟਵੇਅਰ ਵਿੱਚ ਪਾਈ ਗਈ ਜ਼ੀਰੋ-ਡੇ ਕਮਜ਼ੋਰੀ ਦਾ ਜ਼ਿੰਮੇਵਾਰੀ ਨਾਲ ਖੁਲਾਸਾ ਕੀਤਾ ਹੈ ਅਤੇ ਪੈਚ ਕਰਨ ਲਈ ਉਨ੍ਹਾਂ ਨਾਲ ਕੰਮ ਕਰ ਰਹੇ ਹਾਂ।
- ਅਸੀਂ ਹਗਿੰਗ ਫੇਸ ਨੂੰ ਭਰੋਸੇਯੋਗ ਪਹੁੰਚ ਪ੍ਰੋਗਰਾਮ ਵਿੱਚ ਸ਼ਾਮਲ ਕੀਤਾ ਹੈ ਅਤੇ ਉਨ੍ਹਾਂ ਦੀਆਂ ਟੀਮਾਂ ਨੂੰ ਸਾਡੇ ਮਾਡਲਾਂ ਦੀਆਂ ਸਮਰੱਥਾਵਾਂ ਦੀ ਤੇਜ਼ੀ ਨਾਲ ਵਰਤੋਂ ਕਰਕੇ ਆਪਣੀਆਂ ਰੱਖਿਆਵਾਂ ਸੁਧਾਰਨ ਵਿੱਚ ਸਹਾਇਤਾ ਕਰ ਰਹੇ ਹਾਂ।
- ਅਸੀਂ ਭਵਿੱਖ ਦੀ ਟ੍ਰੇਨਿੰਗ ਅਤੇ ਮੁਲਾਂਕਣਾਂ ਲਈ ਸੁਰੱਖਿਆਵਾਂ ਨੂੰ ਬਿਹਤਰ ਬਣਾ ਰਹੇ ਹਾਂ ਅਤੇ ਹੋਰ ਮਜ਼ਬੂਤ ਸੁਰੱਖਿਆਵਾਂ ਜੋੜ ਰਹੇ ਹਾਂ। ਇਸ ਹਫ਼ਤੇ, ਅਸੀਂ ਲੰਮੇ ਟਾਈਮ ਹੋਰਾਇਜ਼ਨ ਵਾਲੇ ਮਾਡਲਾਂ ਦੇ ਯੁੱਗ ਵਿੱਚ ਸੁਰੱਖਿਆ ਅਤੇ ਅਲਾਈਨਮੈਂਟ ਸੁਧਾਰਨ ਬਾਰੇ ਬਲੌਗ ਪ੍ਰਕਾਸ਼ਿਤ ਕੀਤਾ। ਇਸ ਮੁਲਾਂਕਣ ਦੌਰਾਨ ਇਹ ਡਿਪਲੌਇਮੈਂਟ ਸੁਰੱਖਿਆ ਪ੍ਰਬੰਧਾਂ ਜਾਣਬੁੱਝ ਕੇ ਚਾਲੂ ਨਹੀਂ ਕੀਤੇ ਗਏ ਕਿਉਂਕਿ ਇਸ ਦਾ ਉਦੇਸ਼ ਸਾਇਬਰ ਕਮਜ਼ੋਰੀਆਂ ਦੀ ਜਾਂਚ ਕਰਨਾ ਸੀ। ਇਹ ਘਟਨਾ ਸਾਡੇ ਮਾਡਲ ਦੀ ਅਲਾਈਨਮੈਂਟ, ਮੁਲਾਂਕਣ ਸਮੇਂ ਸਾਇਬਰ ਸੁਰੱਖਿਆਵਾਂ ਅਤੇ ਅੰਦਰੂਨੀ ਟੈਸਟਿੰਗ ਦੌਰਾਨ ਨਿਗਰਾਨੀ ਨੂੰ ਹੋਰ ਮਜ਼ਬੂਤ ਕਰਨ ਦੀ ਲੋੜ ਦਰਸਾਉਂਦੀ ਹੈ।
ਜਿਵੇਂ ਅਸੀਂ ਹਾਲ ਹੀ ਵਿੱਚ ਸਾਂਝਾ ਕੀਤਾ ਸੀ, AI ਕਮਜ਼ੋਰੀਆਂ ਦੀ ਖੋਜ ਅਤੇ ਉਨ੍ਹਾਂ ਦੇ ਸ਼ੋਸ਼ਣ ਨੂੰ ਤੇਜ਼ ਕਰ ਰਹੀ ਹੈ। ਇਸ ਘਟਨਾ ਤੋਂ ਮੁੱਖ ਸਬਕ ਇਹ ਹੈ ਕਿ ਮਾਡਲ ਸੁਰੱਖਿਆ ਅਤੇ ਸੇਫ਼ਟੀ ਨੂੰ ਤੇਜ਼ੀ ਨਾਲ ਅੱਗੇ ਵਧ ਰਹੀਆਂ ਸਮਰੱਥਾਵਾਂ ਦੇ ਨਾਲ ਕਦਮ ਮਿਲਾ ਕੇ ਚੱਲਣਾ ਹੋਵੇਗਾ। ਅਸੀਂ ਮਾਡਲ ਵਿਕਾਸ ਦੌਰਾਨ ਵਰਤੀਆਂ ਜਾਣ ਵਾਲੀਆਂ ਕੰਟੇਨਮੈਂਟ, ਨਿਗਰਾਨੀ, ਐਕਸੈੱਸ ਕੰਟਰੋਲ ਅਤੇ ਮੁਲਾਂਕਣ ਪ੍ਰਥਾਵਾਂ ਨੂੰ ਮਜ਼ਬੂਤ ਕਰ ਰਹੇ ਹਾਂ।
UK AISI ਦਾ ਮੁਲਾਂਕਣ ਦਿਖਾਉਂਦਾ ਹੈ ਕਿ GPT‑5.6 Sol ਵਰਗੇ ਮਾਡਲ ਲੰਮੇ ਟਾਈਮ ਹੋਰਾਇਜ਼ਨ ਵਿੱਚ ਜਟਿਲ, ਕਈ-ਕਦਮੀ ਸਾਇਬਰ ਕਾਰਵਾਈਆਂ ਨੂੰ ਜਾਰੀ ਰੱਖਣ ਦੇ ਯੋਗ ਹੁੰਦੇ ਜਾ ਰਹੇ ਹਨ। ਇਹ ਘਟਨਾ ਦਰਸਾਉਂਦੀ ਹੈ ਕਿ ਇਹ ਸਿਧਾਂਤਕ ਸਮਰੱਥਾਵਾਂ ਅਸਲ ਦੁਨੀਆ ਦੀਆਂ ਸਥਿਤੀਆਂ ਵਿੱਚ ਵੀ ਲਾਗੂ ਹੁੰਦੀਆਂ ਹਨ।
ਇਹ ਘਟਨਾ ਇਹ ਵੀ ਸਪਸ਼ਟ ਕਰਦੀ ਹੈ ਕਿ ਉੱਨਤ ਮਾਡਲ ਸਰੋਤ-ਕੋਡ ਪਹੁੰਚ ਤੋਂ ਬਿਨਾਂ ਅਸਲ ਦੁਨੀਆ ਦੇ ਸਿਸਟਮਾਂ ਵਿੱਚ ਨਵੇਂ ਹਮਲਾ-ਮਾਰਗ ਲੱਭ ਅਤੇ ਉਨ੍ਹਾਂ ਦਾ ਸ਼ੋਸ਼ਣ ਕਰ ਸਕਦੇ ਹਨ। ਇਹ ਦਰਸਾਉਂਦੀ ਹੈ ਕਿ ਉੱਨਤ ਸਾਇਬਰ ਸਮਰੱਥਾਵਾਂ ਨੂੰ ਹੋਰ ਮਜ਼ਬੂਤ ਸੁਰੱਖਿਆ ਪ੍ਰਬੰਧਾਂ ਅਤੇ ਰੱਖਿਆਤਮਕ ਟੂਲਾਂ ਦੇ ਨਾਲ-ਨਾਲ ਵਿਕਸਤ ਕੀਤਾ ਜਾਣਾ ਚਾਹੀਦਾ ਹੈ।
ਸਾਡਾ ਮੰਨਣਾ ਹੈ ਕਿ ਉੱਨਤ ਸਾਇਬਰ ਸਮਰੱਥਾ ਵਾਲੇ ਮਾਡਲਾਂ ਨੂੰ ਸੁਰੱਖਿਆ ਟੀਮਾਂ ਦੀ ਮਦਦ ਕਰਨੀ ਚਾਹੀਦੀ ਹੈ ਤਾਂ ਜੋ ਉਹ ਹਮਲਾਵਰਾਂ ਤੋਂ ਪਹਿਲਾਂ ਕਮਜ਼ੋਰੀਆਂ ਲੱਭ ਸਕਣ, ਸਮਝ ਸਕਣ ਕਿ ਕਮਜ਼ੋਰੀਆਂ ਨੂੰ ਕਿਵੇਂ ਜੋੜਿਆ ਜਾ ਸਕਦਾ ਹੈ ਅਤੇ ਮਸ਼ੀਨ ਦੀ ਰਫ਼ਤਾਰ ਨਾਲ ਉਨ੍ਹਾਂ ਦਾ ਹੱਲ ਕਰ ਸਕਣ। ਅਸੀਂ ਇੰਫ੍ਰਾਸਟਰਕਚਰ ਕੌਂਫਿਗਰੇਸ਼ਨ ਅਤੇ ਮਾਡਲ ਮੁਲਾਂਕਣ ਵਾਤਾਵਰਣਾਂ ਦੇ ਆਲੇ-ਦੁਆਲੇ ਸੁਰੱਖਿਆਵਾਂ ਨੂੰ ਹੋਰ ਮਜ਼ਬੂਤ ਕਰਨ ਲਈ ਇਹ ਸਮਰੱਥਾਵਾਂ ਵਰਤ ਰਹੇ ਹਾਂ; ਜਿਵੇਂ-ਜਿਵੇਂ ਅਸੀਂ ਸਿੱਖਾਂਗੇ, ਅਸੀਂ ਆਪਣੇ ਨਤੀਜੇ ਅਤੇ ਸਰਵੋਤਮ ਪ੍ਰਥਾਵਾਂ ਸਾਂਝੀਆਂ ਕਰਾਂਗੇ। ਅਸੀਂ ਹੋਰ ਰੱਖਿਅਕਾਂ ਨੂੰ ਉਤਸ਼ਾਹਿਤ ਕਰਦੇ ਹਾਂ ਕਿ ਉਹ ਭਰੋਸੇਯੋਗ ਪਹੁੰਚ ਲਈ ਅਰਜ਼ੀ ਦੇਣ ਅਤੇ ਹੁਣੇ ਇਨ੍ਹਾਂ ਮਾਡਲਾਂ ਨਾਲ ਪ੍ਰਯੋਗ ਕਰਨ, ਤਾਂ ਜੋ ਇਨ੍ਹਾਂ ਸਮਰੱਥਾਵਾਂ ਨੂੰ ਬਿਹਤਰ ਰੋਕਥਾਮ, ਤੇਜ਼ ਪਛਾਣ ਅਤੇ ਹੋਰ ਪ੍ਰਭਾਵਸ਼ਾਲੀ ਘਟਨਾ ਪ੍ਰਤੀਕਿਰਿਆ ਵਿੱਚ ਬਦਲਿਆ ਜਾ ਸਕੇ।
“ਅਸੀਂ ਇਸ ਅਤੇ ਹੋਰ ਵਿਸ਼ਿਆਂ 'ਤੇ OpenAI ਨਾਲ ਸਹਿਯੋਗ ਲਈ ਧੰਨਵਾਦੀ ਹਾਂ। ਇਹ ਘਟਨਾ, ਜੋ ਸੰਭਵਤ: ਆਪਣੀ ਕਿਸਮ ਦੀ ਪਹਿਲੀ ਹੈ, ਉਸ ਗੱਲ ਨੂੰ ਸਾਬਤ ਕਰਦੀ ਹੈ ਜਿਸ 'ਤੇ ਅਸੀਂ ਲੰਮੇ ਸਮੇਂ ਤੋਂ ਵਿਸ਼ਵਾਸ ਕਰਦੇ ਆਏ ਹਾਂ: AI ਸੁਰੱਖਿਆ ਦੀ ਚੁਣੌਤੀ ਦਾ ਹੱਲ ਗੁਪਤ ਤੌਰ 'ਤੇ ਕੰਮ ਕਰ ਰਹੀ ਕਿਸੇ ਇਕਹਿਰੀ ਕੰਪਨੀ ਵੱਲੋਂ ਨਹੀਂ ਨਿਕਲੇਗਾ। ਇਸ ਦਾ ਹੱਲ ਖੁੱਲ੍ਹੇ ਤੌਰ 'ਤੇ, ਸਹਿਯੋਗੀ ਢੰਗ ਨਾਲ, ਹਰ ਡਿਫੈਂਡਰ ਲਈ, ਹਰ ਥਾਂ AI ਤੱਕ ਵਿਆਪਕ ਪਹੁੰਚ ਦੇ ਨਾਲ ਕੀਤਾ ਜਾਵੇਗਾ।”
