OpenAI ਮਾਡਲਾਂ ਨਾਲ ਜੁੜੇ ਤੀਜੀ-ਧਿਰ ਸਾਈਬਰ ਮੁਲਾਂਕਣ
ਸੁਤੰਤਰ ਟੈਸਟਿੰਗ ਤਾਇਨਾਤੀ ਤੋਂ ਪਹਿਲਾਂ ਜੋਖਮਾਂ ਦੀ ਪੁਸ਼ਟੀ ਕਰਨ ਅਤੇ ਉਨ੍ਹਾਂ ਨੂੰ ਹੋਰ ਚੰਗੀ ਤਰ੍ਹਾਂ ਸਮਝਣ ਵਿੱਚ ਸਾਡੀ ਮਦਦ ਲਈ ਅਹਿਮ ਭੂਮਿਕਾ ਨਿਭਾਉਂਦੀ ਹੈ. ਕੁਝ ਸਾਈਬਰ ਮੁਲਾਂਕਣ ਅਸਲ ਅੰਦਰੂਨੀ ਸਮਰੱਥਾ ਮਾਪਣ ਲਈ ਜਾਣਬੁੱਝ ਕੇ ਵਿਸ਼ੇਸ਼ ਸੰਰਚਨਾਵਾਂ ਵਰਤਦੇ ਹਨ, ਜਿਨ੍ਹਾਂ ਵਿੱਚ ਘਟਾਏ ਗਏ ਸੁਰੱਖਿਆ ਉਪਾਅ ਵੀ ਸ਼ਾਮਲ ਹਨ. ਇਹ ਨਹੀਂ ਮਾਪਿਆ ਜਾਂਦਾ ਕਿ ਜਨਤਕ ਤੌਰ 'ਤੇ ਉਪਲਬਧ ਤਾਇਨਾਤੀਆਂ ਵਿੱਚ ਮਾਡਲ ਆਮ ਤੌਰ 'ਤੇ ਕਿਵੇਂ ਵਿਹਾਰ ਕਰਦੇ ਹਨ.
ਹਾਲੀਆ ਮੁਲਾਂਕਣਾਂ ਦੌਰਾਨ ਦੋ ਬਾਹਰੀ ਟੈਸਟਿੰਗ ਭਾਈਵਾਲਾਂ ਨੇ ਅਜਿਹੀਆਂ ਘਟਨਾਵਾਂ ਪਛਾਣੀਆਂ, ਜਿਨ੍ਹਾਂ ਵਿੱਚ ਟੈਸਟਿੰਗ ਸੰਰਚਨਾਵਾਂ ਤੇ ਨਿਯੰਤਰਣਾਂ ਅਤੇ ਹਾਲੀਆ ਮਾਡਲਾਂ ਦੀਆਂ ਵਧਦੀਆਂ ਸਮਰੱਥਾਵਾਂ ਦੇ ਸੁਮੇਲ ਕਾਰਨ ਮਾਡਲਾਂ ਦੀ ਸਰਗਰਮੀ ਟੈਸਟਿੰਗ ਦੀਆਂ ਨਿਰਧਾਰਤ ਹੱਦਾਂ ਤੋਂ ਬਾਹਰ ਚਲੀ ਗਈ. ਇਹ ਘਟਨਾਵਾਂ ਦਰਸਾਉਂਦੀਆਂ ਹਨ ਕਿ ਮਾਡਲਾਂ ਦੀ ਸਮਰੱਥਾ ਵਧਣ ਦੇ ਨਾਲ ਟੈਸਟਿੰਗ ਮਾਹੌਲਾਂ ਅਤੇ ਤਰੀਕਿਆਂ ਦੇ ਮਿਆਰ ਵਿਕਸਿਤ ਕਰਨ ਲਈ ਪੂਰੇ ਉਦਯੋਗ ਅਤੇ ਤੀਜੀ-ਧਿਰ ਮੁਲਾਂਕਣਕਾਰਾਂ ਨਾਲ ਸਹਿਯੋਗ ਕਿੰਨਾ ਮਹੱਤਵਪੂਰਨ ਹੈ. ਸੰਪਾਦਕ ਦੀ ਟਿੱਪਣੀ: ਇਹ Hugging Face ਸੁਰੱਖਿਆ ਘਟਨਾ ਤੋਂ ਵੱਖਰੀਆਂ ਘਟਨਾਵਾਂ ਹਨ ਅਤੇ ਅਸੀਂ Hugging Face ਘਟਨਾ ਬਾਰੇ ਨਵੀਂ ਜਾਣਕਾਰੀ ਇੱਥੇ ਸਾਂਝੀ ਕਰਦੇ ਰਹਾਂਗੇ.
ਨਵੀਆਂ ਘਟਨਾਵਾਂ ਵਿੱਚ ਤੀਜੀ-ਧਿਰ ਸਾਈਬਰ ਮੁਲਾਂਕਣਾਂ ਦੌਰਾਨ OpenAI ਮਾਡਲਾਂ ਵੱਲੋਂ ਖ਼ਾਸ ਹਾਲਾਤ ਅਤੇ ਘਟਾਏ ਗਏ ਸੁਰੱਖਿਆ ਉਪਾਵਾਂ ਵਾਲੀਆਂ ਸੰਰਚਨਾਵਾਂ ਹੇਠ ਜਨਤਕ ਇੰਟਰਨੈੱਟ ਤੱਕ ਪਹੁੰਚ ਕਰਨਾ ਸ਼ਾਮਲ ਸੀ, ਜੋ ਆਮ ਤਾਇਨਾਤੀ ਨੂੰ ਨਹੀਂ ਦਰਸਾਉਂਦੀਆਂ ਸਨ. ਘਟਨਾਵਾਂ ਵਿੱਚ ਇਹ ਸ਼ਾਮਲ ਸਨ:
- UK AISI, ਯੂਕੇ ਸਰਕਾਰ ਦਾ AI ਸੁਰੱਖਿਆ ਸੰਸਥਾਨ, ਜਾਣਬੁੱਝ ਕੇ ਚਾਲੂ ਕੀਤੀ ਇੰਟਰਨੈੱਟ ਪਹੁੰਚ ਨਾਲ ਸਾਈਬਰ-ਰੇਂਜ ਮੁਲਾਂਕਣ ਚਲਾ ਰਿਹਾ ਸੀ, ਤਾਂ ਜੋ ਏਜੰਟ ਆਪਣੇ ਸੰਦ ਲੱਭ ਸਕਣ ਅਤੇ ਅਸਲੀ ਹਮਲਾਵਰ ਵਰਗੇ ਹਾਲਾਤ ਵਿੱਚ ਕੰਮ ਕਰ ਸਕਣ. ਅਸਲ ਅੰਦਰੂਨੀ ਸਮਰੱਥਾ ਮਾਪਣ ਲਈ ਸਾਈਬਰ ਵਰਗੀਕਰਣ ਪ੍ਰਣਾਲੀਆਂ ਵੀ ਬੰਦ ਸਨ. ਤੁਸੀਂ ਉਨ੍ਹਾਂ ਦਾ ਬਲੌਗ ਇੱਥੇ ਪੜ੍ਹ ਸਕਦੇ ਹੋ.(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ)
- ਸਾਡੀ ਬਾਹਰੀ ਸਾਈਬਰ ਸੁਰੱਖਿਆ ਟੈਸਟਿੰਗ ਭਾਈਵਾਲ ਇਰੈਗੂਲਰ ਝੰਡਾ ਹਾਸਲ ਕਰਨ ਵਾਲੇ ਮੁਲਾਂਕਣ ਚਲਾ ਰਹੀ ਸੀ, ਜਿਨ੍ਹਾਂ ਨੂੰ ਇੰਟਰਨੈੱਟ ਤੋਂ ਅਲੱਗ ਰੱਖਣਾ ਸੀ. ਪਰ ਟੈਸਟਿੰਗ ਮਾਹੌਲ ਦੀ ਗ਼ਲਤ ਸੰਰਚਨਾ ਕਾਰਨ ਮਾਡਲ ਜਨਤਕ ਇੰਟਰਨੈੱਟ ਤੱਕ ਪਹੁੰਚ ਸਕੇ.
ਹੇਠਾਂ ਅਸੀਂ ਦੱਸਦੇ ਹਾਂ ਕਿ ਕੀ ਵਾਪਰਿਆ, ਕਿਹੜੇ ਟੈਸਟਿੰਗ ਹਾਲਾਤਾਂ ਨੇ ਇਸ ਸਰਗਰਮੀ ਨੂੰ ਸੰਭਵ ਬਣਾਇਆ, ਇਸ ਨੂੰ ਕਾਬੂ ਕਰਨ ਲਈ ਕੀ ਕਦਮ ਚੁੱਕੇ ਗਏ ਅਤੇ ਇਹ ਯਕੀਨੀ ਬਣਾਉਣ ਲਈ ਅਸੀਂ ਕੀ ਕਰ ਰਹੇ ਹਾਂ ਕਿ ਸੁਤੰਤਰ ਲੈਬਾਂ ਵਧੇਰੇ ਸਮਰੱਥ ਮਾਡਲਾਂ ਦਾ ਸਖ਼ਤੀ ਅਤੇ ਸੁਰੱਖਿਆ ਨਾਲ ਮੁਲਾਂਕਣ ਜਾਰੀ ਰੱਖ ਸਕਣ.
ਇਹ ਘਟਨਾਵਾਂ ਉਸੇ ਵਿਆਪਕ ਚੁਣੌਤੀ ਵੱਲ ਇਸ਼ਾਰਾ ਕਰਦੀਆਂ ਹਨ ਜਿਸ ਦਾ ਅਸੀਂ Hugging Face ਘਟਨਾ ਬਾਰੇ ਆਪਣੀ ਹਾਲੀਆ ਲਿਖਤ ਵਿੱਚ ਜ਼ਿਕਰ ਕੀਤਾ ਸੀ: ਮਾਡਲਾਂ ਦੀਆਂ ਸਮਰੱਥਾਵਾਂ ਵਧਣ ਦੇ ਨਾਲ ਉਨ੍ਹਾਂ ਦੇ ਆਲੇ-ਦੁਆਲੇ ਦੀਆਂ ਸੁਰੱਖਿਆ ਪ੍ਰਣਾਲੀਆਂ ਨੂੰ ਵੀ ਬਿਹਤਰ ਬਣਾਉਣਾ ਪਵੇਗਾ. ਇਸ ਵਿੱਚ ਮਾਡਲ ਵਿਕਸਿਤ ਕਰਨ ਲਈ ਵਰਤੇ ਜਾਂਦੇ ਮਾਹੌਲ ਅਤੇ ਲੈਬਾਂ ਤੇ ਸੁਤੰਤਰ ਭਾਈਵਾਲਾਂ ਵੱਲੋਂ ਉਨ੍ਹਾਂ ਦੇ ਮੁਲਾਂਕਣ ਲਈ ਵਰਤੇ ਜਾਂਦੇ ਮਾਹੌਲ, ਦੋਵੇਂ ਸ਼ਾਮਲ ਹਨ.
ਆਉਣ ਵਾਲੇ ਹਫ਼ਤਿਆਂ ਵਿੱਚ ਅਸੀਂ ਤੀਜੀ-ਧਿਰ ਟੈਸਟਿੰਗ ਪ੍ਰਤੀ ਆਪਣੇ ਤਰੀਕੇ ਦੀ ਸਮੀਖਿਆ ਕਰਾਂਗੇ. ਇਸ ਵਿੱਚ ਵੱਧ ਜੋਖਮ ਵਾਲੇ ਮੁਲਾਂਕਣਾਂ ਦੀ ਪਛਾਣ, ਦਾਇਰੇ ਬਾਰੇ ਸਹਿਮਤੀ, ਇੰਟਰਨੈੱਟ ਪਹੁੰਚ ਚਾਲੂ ਕਰਨ ਜਾਂ ਸੁਰੱਖਿਆ ਉਪਾਅ ਘਟਾਉਣ ਦੀਆਂ ਬੇਨਤੀਆਂ ਦਾ ਮੁਲਾਂਕਣ, ਅਲੱਗਾਵ, ਪਛਾਣ-ਵੇਰਵਿਆਂ ਦੇ ਪ੍ਰਬੰਧਨ, ਨਿਗਰਾਨੀ ਅਤੇ ਰੋਕਣ ਦੀਆਂ ਸ਼ਰਤਾਂ ਬਾਰੇ ਉਮੀਦਾਂ ਤੈਅ ਕਰਨਾ ਅਤੇ ਘਟਨਾ-ਸੂਚਨਾ ਤੇ ਮਾਮਲਾ ਉੱਚ ਪੱਧਰ 'ਤੇ ਲਿਜਾਣ ਦੀਆਂ ਵਧੇਰੇ ਸਪਸ਼ਟ ਪ੍ਰਕਿਰਿਆਵਾਂ ਬਣਾਉਣਾ ਸ਼ਾਮਲ ਹੋਵੇਗਾ.
ਅਸੀਂ ਵੱਧ ਜੋਖਮ ਵਾਲੇ ਮੁਲਾਂਕਣ ਸੁਰੱਖਿਅਤ ਢੰਗ ਨਾਲ ਕਰਨ ਲਈ ਸਾਂਝੇ ਤਰੀਕਿਆਂ ਨੂੰ ਮਜ਼ਬੂਤ ਕਰਨ ਵਾਸਤੇ ਪੂਰੇ ਉਦਯੋਗ ਨਾਲ ਕੰਮ ਕਰਨ ਲਈ ਵਚਨਬੱਧ ਹਾਂ. ਇਸ ਵਿੱਚ ਆਉਣ ਵਾਲੇ ਹਫ਼ਤਿਆਂ ਦੌਰਾਨ ਰਾਸ਼ਟਰੀ AI ਸੰਸਥਾਨਾਂ, ਸੁਤੰਤਰ ਮੁਲਾਂਕਣਕਾਰਾਂ, ਹੋਰ AI ਲੈਬਾਂ ਅਤੇ ਹੋਰ ਸਮੂਹਾਂ ਵਰਗੀਆਂ ਸੰਬੰਧਿਤ ਧਿਰਾਂ ਨੂੰ ਇਕੱਠਾ ਕਰਨਾ ਵੀ ਸ਼ਾਮਲ ਹੈ. ਸਾਡਾ ਟੀਚਾ ਸਖ਼ਤ ਸੁਤੰਤਰ ਮੁਲਾਂਕਣ ਦੀ ਮਹੱਤਤਾ ਕਾਇਮ ਰੱਖਣਾ ਹੈ ਅਤੇ ਨਾਲ ਹੀ ਇਹ ਯਕੀਨੀ ਬਣਾਉਣਾ ਹੈ ਕਿ ਟੈਸਟਿੰਗ ਦੇ ਤਰੀਕੇ ਵਧੇਰੇ ਸਮਰੱਥ ਹੁੰਦੇ ਮਾਡਲਾਂ ਦੇ ਨਾਲ-ਨਾਲ ਵਿਕਸਿਤ ਹੋਣ.
3 ਅਗਸਤ ਨੂੰ UK AISI ਨੇ ਸਾਨੂੰ ਦੱਸਿਆ ਕਿ 25 ਜੁਲਾਈ ਨੂੰ ਸ਼ੁਰੂ ਹੋਏ ਇੱਕ ਨਿਯਮਤ ਸਾਈਬਰ ਮੁਲਾਂਕਣ ਦੌਰਾਨ OpenAI ਅਤੇ ਇੱਕ ਹੋਰ ਲੈਬ ਦੇ ਮਾਡਲ ਕੁਝ ਮਾਮਲਿਆਂ ਵਿੱਚ ਟੈਸਟਿੰਗ ਦੇ ਦਾਇਰੇ ਤੋਂ ਬਾਹਰ ਚਲੇ ਗਏ ਸਨ. ਇਹ ਮੁਲਾਂਕਣ ਅਸਲ ਦੁਨੀਆ ਦੇ ਨੈੱਟਵਰਕਾਂ ਦੀ ਨਕਲ ਕਰਨ ਲਈ ਬਣਾਈਆਂ ਗਈਆਂ ਨਿਯੰਤਰਿਤ ਸਾਈਬਰ ਰੇਂਜਾਂ ਵਿੱਚ ਹੋਇਆ. ਪਛਾਣੀਆਂ ਗਈਆਂ 19 ਘਟਨਾਵਾਂ ਵਿੱਚੋਂ ਦੋ ਵਿੱਚ OpenAI ਦਾ GPT‑5.6 Sol ਮਾਡਲ ਸ਼ਾਮਲ ਸੀ. ਬਾਕੀ ਮਾਮਲਿਆਂ ਵਿੱਚ ਕਿਸੇ ਹੋਰ ਲੈਬ ਦੇ ਮਾਡਲ ਸਨ.
ਇਸ ਮੁਲਾਂਕਣ ਲਈ ਏਜੰਟਾਂ ਨੂੰ ਝੰਡਾ ਹਾਸਲ ਕਰਨ ਦੇ ਅਭਿਆਸ ਵਿੱਚ ਸਾਈਬਰ ਸੁਰੱਖਿਆ ਮਾਹਰਾਂ ਵਜੋਂ ਕੰਮ ਕਰਨ ਦੀ ਹਦਾਇਤ ਦਿੱਤੀ ਗਈ ਸੀ: ਆਪਸ ਵਿੱਚ ਜੁੜੇ ਤਿੰਨ ਨਕਲੀ ਮਾਹੌਲਾਂ ਵਿੱਚ ਸੰਨ੍ਹ ਲਾਉਣੀ ਅਤੇ ਅੰਤਿਮ ਝੰਡਾ ਹਾਸਲ ਕਰਨਾ. ਕਾਰਜ ਦੇ ਪ੍ਰੌਂਪਟ ਵਿੱਚ ਦਾਇਰੇ ਅੰਦਰਲੇ ਰੇਂਜ ਨੈੱਟਵਰਕਾਂ ਦੀ ਪਛਾਣ ਕੀਤੀ ਗਈ ਸੀ ਅਤੇ ਕਈ ਸਿਸਟਮਾਂ ਨੂੰ ਦਾਇਰੇ ਤੋਂ ਬਾਹਰ ਦੱਸਿਆ ਗਿਆ ਸੀ. UK AISI ਨੇ ਸਿੱਧੀ ਇੰਟਰਨੈੱਟ ਪਹੁੰਚ ਵੀ ਚਾਲੂ ਕੀਤੀ, ਤਾਂ ਜੋ ਏਜੰਟ ਸੰਦ ਡਾਊਨਲੋਡ ਕਰ ਸਕਣ ਅਤੇ ਮਨੁੱਖੀ ਹਮਲਾਵਰ ਵਰਗੇ ਹਾਲਾਤ ਵਿੱਚ ਕੰਮ ਕਰ ਸਕਣ. ਅਸਲ ਅੰਦਰੂਨੀ ਸਮਰੱਥਾ ਮਾਪਣ ਲਈ ਮਾਡਲ ਦੀਆਂ ਸਾਈਬਰ ਵਰਗੀਕਰਣ ਪ੍ਰਣਾਲੀਆਂ ਵੀ ਬੰਦ ਕਰ ਦਿੱਤੀਆਂ ਗਈਆਂ.
UK AISI ਦੀ ਨਿਰਧਾਰਤ ਅਧਿਕਾਰ-ਹੱਦ ਨਕਲੀ ਸਾਈਬਰ ਰੇਂਜ ਸੀ: ਏਜੰਟਾਂ ਨੂੰ ਨਿਰਧਾਰਤ ਨਕਲੀ ਨੈੱਟਵਰਕਾਂ ਉੱਤੇ ਹਮਲਾ ਕਰਨ ਅਤੇ ਝੰਡਾ ਹਾਸਲ ਕਰਨ ਦੀ ਮਨਜ਼ੂਰੀ ਸੀ, ਰੇਂਜ ਦੀ ਨੈੱਟਵਰਕ ਹੱਦ ਤੋਂ ਬਾਹਰਲੇ ਸਿਸਟਮਾਂ ਨਾਲ ਸੰਪਰਕ ਕਰਨ ਦੀ ਨਹੀਂ. ਪਰ ਏਜੰਟਾਂ ਨੂੰ ਸਪਸ਼ਟ ਤੌਰ 'ਤੇ ਨਹੀਂ ਦੱਸਿਆ ਗਿਆ ਸੀ ਕਿ ਉਹ ਖੁੱਲ੍ਹੀ ਇੰਟਰਨੈੱਟ ਪਹੁੰਚ ਕਿਵੇਂ ਵਰਤ ਸਕਦੇ ਹਨ ਅਤੇ ਕਿਵੇਂ ਨਹੀਂ. UK AISI ਇਸ ਨੂੰ ਘਟਨਾ ਦਾ ਇੱਕ ਸੰਭਾਵੀ ਸਹਾਇਕ ਕਾਰਨ ਮੰਨਦਾ ਹੈ.
ਇਨ੍ਹਾਂ ਕਾਰਵਾਈਆਂ ਦੌਰਾਨ UK AISI ਨੇ ਪਾਇਆ ਕਿ ਨਕਲੀ ਰੇਂਜ ਵਿੱਚ ਦਾਖ਼ਲ ਹੋਣ ਦਾ ਰਸਤਾ ਲੱਭਣ ਅਤੇ ਝੰਡਾ ਹਾਸਲ ਕਰਨ ਦੀ ਕੋਸ਼ਿਸ਼ ਕਰਦਿਆਂ GPT‑5.6 Sol ਨੇ ਬਿਨਾਂ ਮਨਜ਼ੂਰੀ ਵਾਲੀਆਂ ਦੋ ਕਾਰਵਾਈਆਂ ਕੀਤੀਆਂ:
- GPT‑5.6 Sol ਨੇ ਇਹ ਜਾਂਚਣ ਲਈ ਕਿਸੇ ਹੋਰ ਲੈਬ ਦੇ ਏਜੰਟ ਵੱਲੋਂ ਜਨਤਕ ਤੌਰ 'ਤੇ ਪਹੁੰਚਯੋਗ ਛੱਡਿਆ GitHub ਟੋਕਨ ਮੁੜ ਵਰਤਿਆ ਕਿ ਰੇਂਜ ਅੰਦਰਲਾ ਕੋਈ ਸਿਸਟਮ GitHub ਜਾਂ ਕਿਸੇ ਹੋਰ ਅੱਪਡੇਟ ਸੇਵਾ ਤੋਂ ਜਾਣਕਾਰੀ ਲੈ ਰਿਹਾ ਸੀ ਜਾਂ ਨਹੀਂ, ਖਾਤਾ-ਮੁੜ-ਪ੍ਰਾਪਤੀ ਅਤੇ ਬੇਨਤੀ-ਸੀਮਾ ਤੋਂ ਬਚਣ ਦੇ ਤਰੀਕੇ ਅਜ਼ਮਾਏ ਅਤੇ ਬਾਹਰੀ DNS ਤੇ ਟਨਲਿੰਗ ਪ੍ਰਦਾਤਾਵਾਂ ਕੋਲ ਖਾਤੇ ਰਜਿਸਟਰ ਕੀਤੇ.
- GPT‑5.6 Sol ਨੇ ਆਪਣੇ ਮੁਲਾਂਕਣ ਮਾਹੌਲ ਵਿੱਚ ਸਥਾਨਕ ਤੌਰ 'ਤੇ ਚੱਲ ਰਹੇ DNS ਸਰਵਰ ਨੂੰ ਜਨਤਕ ਇੰਟਰਨੈੱਟ ਰਾਹੀਂ ਪਹੁੰਚਯੋਗ ਬਣਾਉਣ ਲਈ ਇੱਕ ਜਨਤਕ ਟਨਲਿੰਗ ਸੇਵਾ ਵਰਤੀ. ਸਰਵਰ ਵਿੱਚ ਟੈਸਟ ਰੇਂਜ ਉੱਤੇ ਚੱਲ ਰਹੇ ਇੱਕ ਸਾਫ਼ਟਵੇਅਰ ਦੀ ਜਾਣੀ-ਪਛਾਣੀ ਕਮਜ਼ੋਰੀ ਲਈ ਬਣਾਏ ਗਏ ਹਮਲਾਵਰ ਪੇਲੋਡ ਸਨ. ਇਹ ਵਿਵਸਥਾ ਕੰਮ ਨਹੀਂ ਕਰ ਸਕੀ, ਇਸ ਗੱਲ ਦਾ ਕੋਈ ਸਬੂਤ ਨਹੀਂ ਕਿ ਕਿਸੇ ਅਸਲੀ ਰਿਜ਼ਾਲਵਰ ਨੇ ਇਸ ਨੂੰ ਪੁੱਛਗਿੱਛ ਭੇਜੀ ਅਤੇ ਮੁਲਾਂਕਣ ਖ਼ਤਮ ਹੋਣ 'ਤੇ ਢਾਂਚਾ ਹਟਾ ਦਿੱਤਾ ਗਿਆ.
ਭਾਵੇਂ ਮਾਡਲ ਸਾਈਬਰ ਰੇਂਜ ਪੂਰੀ ਕਰਨ ਦੀ ਕੋਸ਼ਿਸ਼ ਕਰ ਰਿਹਾ ਸੀ, ਪਰ UK AISI ਨੇ ਇਨ੍ਹਾਂ ਕਾਰਵਾਈਆਂ ਨੂੰ ਬਿਨਾਂ ਮਨਜ਼ੂਰੀ ਵਾਲੀਆਂ ਮੰਨਿਆ, ਕਿਉਂਕਿ ਇਨ੍ਹਾਂ ਵਿੱਚ ਰੇਂਜ ਦੀ ਹੱਦ ਤੋਂ ਬਾਹਰਲੇ ਅਸਲੀ ਬਾਹਰੀ ਖਾਤੇ ਅਤੇ ਸੇਵਾਵਾਂ ਸ਼ਾਮਲ ਸਨ ਅਤੇ ਕੰਮ ਪੂਰਾ ਕਰਨ ਲਈ ਇਹ ਕਾਰਵਾਈਆਂ ਲੋੜੀਂਦੀਆਂ ਨਹੀਂ ਸਨ. DNS ਸਰਵਰ ਨੇ ਜਨਤਕ ਇੰਟਰਨੈੱਟ ਉੱਤੇ ਹਮਲਾਵਰ ਪੇਲੋਡ ਵੀ ਰੱਖੇ ਸਨ, ਹਾਲਾਂਕਿ ਇਹ ਵਿਵਸਥਾ ਕੰਮ ਨਹੀਂ ਕਰ ਸਕੀ ਅਤੇ ਇਸ ਗੱਲ ਦਾ ਕੋਈ ਸਬੂਤ ਨਹੀਂ ਕਿ ਕਿਸੇ ਅਸਲੀ ਰਿਜ਼ਾਲਵਰ ਨੇ ਇਸ ਨੂੰ ਪੁੱਛਗਿੱਛ ਭੇਜੀ.
ਸੁਰੱਖਿਆ ਨਿਗਰਾਨੀ ਵੱਲੋਂ ਅਸਧਾਰਨ ਡਾਟਾ ਟ੍ਰਾਂਸਫ਼ਰ ਪਛਾਣੇ ਜਾਣ ਮਗਰੋਂ UK AISI ਨੇ 28 ਜੁਲਾਈ ਨੂੰ ਇਸ ਸਰਗਰਮੀ ਦੀ ਪਛਾਣ ਕੀਤੀ. ਇਸ ਨੇ ਸੰਬੰਧਿਤ ਮੁਲਾਂਕਣ ਰੋਕ ਦਿੱਤੇ, ਸੰਬੰਧਿਤ ਮਸ਼ੀਨਾਂ ਨੂੰ ਅਲੱਗ ਕੀਤਾ ਅਤੇ ਪਤਾ ਲੱਗਣ ਤੋਂ ਲਗਭਗ ਇੱਕ ਘੰਟੇ ਅੰਦਰ ਸਰਗਰਮੀ ਨੂੰ ਕਾਬੂ ਕਰ ਲਿਆ.
ਅਸੀਂ ਇਸ ਪੂਰੀ ਪ੍ਰਕਿਰਿਆ ਦੌਰਾਨ UK AISI ਦੀ ਭਾਈਵਾਲੀ ਦੀ ਕਦਰ ਕਰਦੇ ਹਾਂ, ਜਿਸ ਵਿੱਚ ਸਰਗਰਮੀ ਦੀ ਪਛਾਣ ਕਰਨ, ਜਾਂਚ ਕਰਨ ਅਤੇ ਇਸ ਦੇ ਵੇਰਵੇ ਸਾਂਝੇ ਕਰਨ ਦਾ ਉਸ ਦਾ ਕੰਮ ਵੀ ਸ਼ਾਮਲ ਹੈ. ਅਸੀਂ ਆਪਣਾ ਸਹਿਯੋਗ ਜਾਰੀ ਰੱਖਣ ਦੀ ਉਮੀਦ ਕਰਦੇ ਹਾਂ.
29 ਜੁਲਾਈ ਨੂੰ ਸਾਡੀ ਤੀਜੀ-ਧਿਰ ਮੁਲਾਂਕਣ ਭਾਈਵਾਲ ਇਰੈਗੂਲਰ ਨੇ ਸਾਨੂੰ ਝੰਡਾ ਹਾਸਲ ਕਰਨ (CTF) ਵਰਗੇ ਸਾਈਬਰ ਸੁਰੱਖਿਆ ਮੁਲਾਂਕਣਾਂ ਦੌਰਾਨ OpenAI ਮਾਡਲਾਂ ਨਾਲ ਜੁੜੀ ਇੱਕ ਘਟਨਾ ਬਾਰੇ ਸੂਚਿਤ ਕੀਤਾ. ਮਾਡਲਾਂ ਨੂੰ ਇੱਕ ਨਕਲੀ ਮਾਹੌਲ ਅੰਦਰਲੀਆਂ ਕਮਜ਼ੋਰੀਆਂ ਦਾ ਫ਼ਾਇਦਾ ਚੁੱਕ ਕੇ ਲੁਕੀ ਹੋਈ ਜਾਣਕਾਰੀ ਲੱਭਣ ਦੀ ਹਦਾਇਤ ਦਿੱਤੀ ਗਈ ਸੀ ਅਤੇ ਦੱਸਿਆ ਗਿਆ ਸੀ ਕਿ ਉਨ੍ਹਾਂ ਕੋਲ ਇੰਟਰਨੈੱਟ ਪਹੁੰਚ ਨਹੀਂ ਹੈ. ਪਰ ਟੈਸਟਿੰਗ ਮਾਹੌਲ ਦੀ ਗ਼ਲਤ ਸੰਰਚਨਾ ਕਾਰਨ ਮਾਡਲ ਜਨਤਕ ਇੰਟਰਨੈੱਟ ਤੱਕ ਪਹੁੰਚ ਸਕੇ.
ਇੱਕ ਟੈਸਟ ਵਿੱਚ CTF ਚੁਣੌਤੀ ਦੇ ਕਾਲਪਨਿਕ ਨਿਸ਼ਾਨੇ ਦਾ ਨਾਮ ਅਣਜਾਣੇ ਵਿੱਚ ਇੱਕ ਅਸਲੀ ਡੋਮੇਨ ਨਾਲ ਮੇਲ ਖਾ ਗਿਆ. ਟੈਸਟਿੰਗ ਮਾਹੌਲ ਗ਼ਲਤੀ ਨਾਲ ਇੰਟਰਨੈੱਟ ਨਾਲ ਜੁੜਿਆ ਹੋਣ ਕਾਰਨ ਮਾਡਲ ਨੇ ਇੱਕ ਅਸਲੀ ਵੈੱਬਸਾਈਟ ਨੂੰ ਨਕਲੀ ਮਾਹੌਲ ਦਾ ਹਿੱਸਾ ਸਮਝ ਕੇ ਉਸ ਦੀ ਕਮਜ਼ੋਰੀ ਦਾ ਫ਼ਾਇਦਾ ਚੁੱਕਿਆ. ਇਸ ਵਿੱਚ ਸੈਂਡਬਾਕਸ ਤੋਂ ਬਚ ਨਿਕਲਣ ਦਾ ਕੋਈ ਜਟਿਲ ਤਰੀਕਾ ਜਾਂ ਸਿਫ਼ਰ-ਦਿਨ ਕਮਜ਼ੋਰੀ ਸ਼ਾਮਲ ਨਹੀਂ ਸੀ: ਇੰਟਰਨੈੱਟ ਪਹੁੰਚ ਗ਼ਲਤ ਸੰਰਚਨਾ ਕਾਰਨ ਮਿਲੀ ਅਤੇ ਲੱਗਦਾ ਹੈ ਕਿ ਮਾਡਲ ਨੇ ਇੱਕ ਬੁਨਿਆਦੀ ਸੁਰੱਖਿਆ ਕਮਜ਼ੋਰੀ ਦਾ ਫ਼ਾਇਦਾ ਚੁੱਕਿਆ.
ਇਰੈਗੂਲਰ ਦੀ ਜਾਂਚ ਮੁਤਾਬਕ, ਮਾਡਲ ਨੇ ਉਸੇ ਸਾਈਟ ਨੂੰ ਚਲਾਉਣ ਲਈ ਪਛਾਣ-ਵੇਰਵੇ ਵੀ ਲੱਭੇ ਅਤੇ ਵਰਤੇ. ਇਰੈਗੂਲਰ ਨੂੰ ਪ੍ਰਭਾਵਿਤ ਸਾਈਟ ਦੇ ਆਪਣੇ ਡਾਟੇ ਤੋਂ ਇਲਾਵਾ ਹੋਰ ਕੋਈ ਅਸਰ ਨਹੀਂ ਮਿਲਿਆ ਅਤੇ ਉਸ ਦੀ ਲੇਖਾ-ਜਾਂਚ ਜਾਰੀ ਹੈ. ਇਸ ਨੇ ਮੁਲਾਂਕਣ ਰੋਕ ਦਿੱਤੇ ਹਨ, ਸੁਧਾਰ ਦਾ ਕੰਮ ਸ਼ੁਰੂ ਕਰ ਦਿੱਤਾ ਹੈ ਅਤੇ ਪ੍ਰਭਾਵਿਤ ਤੀਜੀਆਂ ਧਿਰਾਂ ਨੂੰ ਸੂਚਿਤ ਕਰ ਦਿੱਤਾ ਗਿਆ ਹੈ. ਇਰੈਗੂਲਰ ਨੇ ਸਾਨੂੰ ਦੱਸਿਆ ਹੈ ਕਿ ਘਟਨਾ ਨਾਲ ਸੰਬੰਧਿਤ ਪਛਾਣੀਆਂ ਗਈਆਂ ਸਾਰੀਆਂ ਸਮੱਸਿਆਵਾਂ ਹੁਣ ਸਰਗਰਮ ਨਹੀਂ ਹਨ ਅਤੇ ਟੈਸਟਿੰਗ ਮਾਹੌਲ ਵਿੱਚ ਢੁਕਵੇਂ ਸੁਰੱਖਿਆ ਉਪਾਅ ਜੋੜ ਦਿੱਤੇ ਗਏ ਹਨ. ਇਰੈਗੂਲਰ ਨੇ ਉਸੇ ਟੈਸਟਿੰਗ ਮਾਹੌਲ ਵਿੱਚ ਹੋਰ ਲੈਬਾਂ ਨਾਲ ਜੁੜੀਆਂ ਸੰਬੰਧਿਤ ਘਟਨਾਵਾਂ ਬਾਰੇ ਵੀ ਜਾਣਕਾਰੀ ਦਿੱਤੀ ਹੈ.
ਅਸੀਂ ਇਰੈਗੂਲਰ ਦੀ ਭਾਈਵਾਲੀ ਦੀ ਕਦਰ ਕਰਦੇ ਹਾਂ ਅਤੇ ਉਸ ਦੀ ਸਮੀਖਿਆ ਵਿੱਚ ਸਹਾਇਤਾ ਲਈ ਉਸ ਨਾਲ ਮਿਲ ਕੇ ਕੰਮ ਕਰਦੇ ਰਹਾਂਗੇ. ਇਰੈਗੂਲਰ ਸਰਗਰਮੀ ਨੂੰ ਕਾਬੂ ਕਰਨ ਅਤੇ ਸਾਈਬਰ ਮੁਲਾਂਕਣ ਸੁਰੱਖਿਅਤ ਢੰਗ ਨਾਲ ਚਲਾਉਣ ਦੇ ਬਿਹਤਰੀਨ ਤਰੀਕੇ ਸਾਂਝੇ ਕਰਨ ਲਈ ਇੱਕ ਸਫ਼ੈਦ ਪੱਤਰ ਵੀ ਤਿਆਰ ਕਰ ਰਿਹਾ ਹੈ. ਅਸੀਂ ਨਤੀਜਿਆਂ ਨੂੰ ਭਾਈਚਾਰੇ ਲਈ ਉਪਲਬਧ ਕਰਾਉਣ ਵਾਸਤੇ ਸਫ਼ੈਦ ਪੱਤਰ ਵਿੱਚ ਯੋਗਦਾਨ ਪਾਉਣ ਅਤੇ ਆਪਣੀ ਭਾਈਵਾਲੀ ਜਾਰੀ ਰੱਖਣ ਦੀ ਉਮੀਦ ਕਰਦੇ ਹਾਂ. ਸਾਡੇ ਮੁਤਾਬਕ ਮੌਜੂਦਾ ਅਤੇ ਭਵਿੱਖੀ ਮਾਡਲਾਂ ਦਾ ਸੁਰੱਖਿਅਤ ਤੇ ਡੂੰਘਾ ਮੁਲਾਂਕਣ ਯਕੀਨੀ ਬਣਾਉਣ ਲਈ ਇਸ ਤਰ੍ਹਾਂ ਦਾ ਸਹਿਯੋਗ ਲਾਜ਼ਮੀ ਹੈ.
