ਗੰਭੀਰ ਸਾਈਬਰ ਸਮਰੱਥਾਵਾਂ ਦੇ ਅਗਲੇ ਪੜਾਅ ਪ੍ਰਤੀ ਜਵਾਬਦੇਹੀ
ਸਾਈਬਰ ਸੁਰੱਖਿਆ ਤੇਜ਼ੀ ਨਾਲ ਬਦਲ ਰਹੀ ਹੈ ਕਿਉਂਕਿ ਮਾਡਲ ਅਜਿਹੇ ਤਰੀਕਿਆਂ ਨਾਲ ਵਧੇਰੇ ਸਮਰੱਥ ਹੁੰਦੇ ਜਾ ਰਹੇ ਹਨ, ਜੋ ਸਾਈਬਰ ਰੱਖਿਆ ਨੂੰ ਮਜ਼ਬੂਤ ਵੀ ਕਰ ਸਕਦੇ ਹਨ ਅਤੇ ਬੇਮਿਸਾਲ ਰਫ਼ਤਾਰ ਅਤੇ ਪੈਮਾਨੇ ’ਤੇ ਹਮਲਿਆਂ ਨੂੰ ਅੰਜਾਮ ਵੀ ਦੇ ਸਕਦੇ ਹਨ।
ਪਿਛਲੇ ਕੁਝ ਦਿਨਾਂ ਦੌਰਾਨ ਸਾਡੇ ਆਉਣ ਵਾਲੇ ਮਾਡਲਾਂ ਵਿੱਚੋਂ ਇੱਕ, Astra ਦੇ ਨਵੀਨਤਮ ਅੰਦਰੂਨੀ ਮੁਲਾਂਕਣ ਏਜੰਟਿਕ ਕੋਡਿੰਗ ਅਤੇ ਸਾਈਬਰ ਸੁਰੱਖਿਆ ਵਿੱਚ ਮਹੱਤਵਪੂਰਨ ਤਰੱਕੀ ਦਰਸਾਉਂਦੇ ਹਨ। ਇਨ੍ਹਾਂ ਨਤੀਜਿਆਂ ਅਤੇ ਮਾਹਰਾਂ ਦੇ ਮੁਲਾਂਕਣਾਂ ਦੇ ਆਧਾਰ ’ਤੇ ਅਸੀਂ ਬੀਤੀ ਰਾਤ ਇਸ ਨਤੀਜੇ ’ਤੇ ਪਹੁੰਚੇ ਕਿ ਆਪਣੇ ਪ੍ਰਿਪੇਅਰਡਨੈਸ ਫ੍ਰੇਮਵਰਕ(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ) ਅਧੀਨ ਅਸੀਂ ਗੰਭੀਰ ਸਾਈਬਰ ਸਮਰੱਥਾਵਾਂ ਦੀ ਸੰਭਾਵਨਾ ਨੂੰ ਰੱਦ ਨਹੀਂ ਕਰ ਸਕਦੇ ਹਾਂ।
ਅਸੀਂ ਇਹ ਜਾਣਕਾਰੀ ਇਸ ਲਈ ਸਾਂਝੀ ਕਰ ਰਹੇ ਹਾਂ ਕਿਉਂਕਿ ਸਾਡਾ ਮੰਨਣਾ ਹੈ ਕਿ ਸਮਰੱਥਾਵਾਂ ਵਿੱਚ ਇਸ ਸੰਭਾਵੀ ਬਦਲਾਅ ਬਾਰੇ ਜਨਤਾ ਅਤੇ ਸੁਰੱਖਿਆ ਭਾਈਚਾਰਿਆਂ ਨਾਲ ਪਾਰਦਰਸ਼ੀ ਰਹਿਣਾ ਮਹੱਤਵਪੂਰਨ ਹੈ।
ਅਸੀਂ ਪਹਿਲੀ ਵਾਰ ਦਸੰਬਰ 2023 ਵਿੱਚ ਆਪਣਾ ਪ੍ਰਿਪੇਅਰਡਨੈਸ ਫ੍ਰੇਮਵਰਕ ਪ੍ਰਕਾਸ਼ਿਤ ਕੀਤਾ ਸੀ, ਜੋ ਕਿ ਮਾਡਲਾਂ ਦੇ ਇਸ ਪੱਧਰ 'ਤੇ ਜੈਵਿਕ, ਰਸਾਇਣਕ, ਸਾਈਬਰ ਸੁਰੱਖਿਆ, ਅਤੇ AI ਸਵੈ-ਸੁਧਾਰ ਸਮਰੱਥਾਵਾਂ ਤੱਕ ਪਹੁੰਚਣ ਤੋਂ ਕਾਫ਼ੀ ਪਹਿਲਾਂ ਸੀ। ਅਸੀਂ ਇਸਨੂੰ ਸਮਰੱਥਾਵਾਂ ਵਿੱਚ ਤਰੱਕੀ ਦੀ ਪਛਾਣ ਕਰਨ ਅਤੇ ਫਿਰ ਇਹ ਯੋਜਨਾ ਬਣਾਉਣ ਲਈ ਇੱਕ ਮਾਰਗਦਰਸ਼ਕ ਵਜੋਂ ਤਿਆਰ ਕੀਤਾ ਕਿ ਇਨ੍ਹਾਂ ਸਮਰੱਥਾਵਾਂ ਦੇ ਸਾਹਮਣੇ ਆਉਣ 'ਤੇ ਸਾਡੀ ਕੰਪਨੀ ਕੀ ਕਰੇਗੀ। GPT‑5.6‑Sol ਸਮੇਤ ਪਿਛਲੇ ਮਾਡਲਾਂ ਦਾ ਅਤਿ-ਆਧੁਨਿਕ ਸਾਈਬਰ ਸਮਰੱਥਾਵਾਂ ਲਈ ਮੁਲਾਂਕਣ ਕੀਤਾ ਗਿਆ ਹੈ ਅਤੇ ਉਨ੍ਹਾਂ ਨੂੰ ਗੰਭੀਰ ਦੀ ਬਜਾਏ ਹਾਈ ਸੀਮਾ ’ਤੇ ਰੱਖਿਆ ਗਿਆ ਹੈ।
ਸਾਡੇ ਪ੍ਰਿਪੇਅਰਡਨੈਸ ਫ੍ਰੇਮਵਰਕ ਅਧੀਨ ਕੋਈ ਮਾਡਲ ਸਾਈਬਰ ਸੁਰੱਖਿਆ ਦੀ ਗੰਭੀਰ ਸੀਮਾ ਤੱਕ ਪਹੁੰਚ ਜਾਂਦਾ ਹੈ, ਜਦੋਂ ਉਹ ਮਨੁੱਖੀ ਦਖ਼ਲ ਤੋਂ ਬਿਨਾਂ ਅਸਲ ਦੁਨੀਆ ਦੀਆਂ ਕਈ ਮਜ਼ਬੂਤ ਸੁਰੱਖਿਆ ਵਾਲੀਆਂ ਅਹਿਮ ਪ੍ਰਣਾਲੀਆਂ ਵਿੱਚ ਹਰ ਗੰਭੀਰਤਾ ਪੱਧਰ ਦੇ ਕਾਰਗਰ ਜ਼ੀਰੋ-ਡੇ ਐਕਸਪਲੋਇਟ ਪਛਾਣ ਅਤੇ ਵਿਕਸਿਤ ਕਰ ਸਕੇ, ਜਾਂ ਸਿਰਫ਼ ਉੱਚ-ਪੱਧਰੀ ਇੱਛਤ ਟੀਚਾ ਦਿੱਤੇ ਜਾਣ ’ਤੇ ਮਜ਼ਬੂਤ ਸੁਰੱਖਿਆ ਵਾਲੇ ਨਿਸ਼ਾਨਿਆਂ ਵਿਰੁੱਧ ਸਾਈਬਰ ਹਮਲਿਆਂ ਲਈ ਸ਼ੁਰੂ ਤੋਂ ਅੰਤ ਤੱਕ ਨਵੀਆਂ ਰਣਨੀਤੀਆਂ ਬਣਾ ਅਤੇ ਲਾਗੂ ਕਰ ਸਕੇ।
ਅਸੀਂ ਇਸ ਮਾਡਲ ਲਈ ਮਾਪਦੰਡ ਜਾਂਚ ਅਤੇ ਮੁਲਾਂਕਣ ਜਾਰੀ ਰੱਖ ਰਹੇ ਹਾਂ, ਪਰ ਸਾਡੇ ਸ਼ੁਰੂਆਤੀ ਮੁਲਾਂਕਣ ਇੰਨੀ ਮਜ਼ਬੂਤ ਕਾਰਗੁਜ਼ਾਰੀ ਦਰਸਾਉਂਦੇ ਹਨ ਕਿ ਫਿਲਹਾਲ ਅਸੀਂ ਗੰਭੀਰ ਸਮਰੱਥਾ ਪੱਧਰ ਦੀ ਸੰਭਾਵਨਾ ਨੂੰ ਰੱਦ ਨਹੀਂ ਕਰ ਸਕਦੇ। Astra ਇੱਕ ਆਉਣ ਵਾਲਾ ਮਾਡਲ ਹੈ ਅਤੇ ਹਗਿੰਗ ਫੇਸ ਦਾ ਲਾਹਾ ਲੈਣ ਵਿੱਚ ਸ਼ਾਮਲ ਨਹੀਂ ਸੀ।
ਇਸ ਅਨੁਸਾਰ, ਅਸੀਂ ਆਪਣੇ ਸੁਰੱਖਿਆ ਉਪਾਵਾਂ ਅਤੇ ਨਿਯੰਤਰਣਾਂ ਦੀ ਮਜ਼ਬੂਤੀ ਦੀ ਜਾਂਚ ਦਾ ਪੈਮਾਨਾ ਵਧਾ ਦਿੱਤਾ ਹੈ, ਤਾਂ ਜੋ ਉਹ ਇਨ੍ਹਾਂ ਸਮਰੱਥਾਵਾਂ ਦੀ ਤੈਨਾਤੀ ਲਈ ਢੁਕਵੇਂ ਹੋਣ। ਅਸੀਂ ਅੰਦਰੂਨੀ ਤੌਰ ’ਤੇ ਹੇਠ ਲਿਖੇ ਕਦਮ ਵੀ ਚੁੱਕੇ ਹਨ, ਤਾਂ ਜੋ ਇਸ ਮਾਡਲ ਦਾ ਅਗਲਾ ਵਿਕਾਸ ਸੁਰੱਖਿਅਤ ਢੰਗ ਨਾਲ ਹੋਵੇ:
- ਅਸੀਂ ਵਧੇਰੇ ਸਮਰੱਥਾ ਵਾਲੇ ਮਾਡਲਾਂ ਅਤੇ ਸੰਬੰਧਿਤ ਗਤੀਵਿਧੀਆਂ ਲਈ ਸਖ਼ਤ ਸੁਰੱਖਿਆ ਨਿਯੰਤਰਣ ਲਾਗੂ ਕਰ ਰਹੇ ਹਾਂ। ਇਨ੍ਹਾਂ ਵਿੱਚ ਵੱਖਰੇ ਜਾਂਚ ਵਾਤਾਵਰਣ, ਨੈੱਟਵਰਕ ਅਤੇ ਔਜ਼ਾਰਾਂ ਤੱਕ ਸੀਮਤ ਪਹੁੰਚ, ਮਾਡਲ ਵੇਟਾਂ ਲਈ ਬਿਹਤਰ ਸੁਰੱਖਿਆ ਅਤੇ ਇਨਕ੍ਰਿਪਸ਼ਨ, ਵਾਧੂ ਨਿਗਰਾਨੀ ਅਤੇ ਪਛਾਣ ਸਮਰੱਥਾਵਾਂ ਅਤੇ ਸੈਂਡਬਾਕਸ ਵਿੱਚ ਕਾਰਜ-ਨਿਰਵਾਹ ਸ਼ਾਮਲ ਹਨ।
- ਅਸੀਂ Astra ਨਾਲ ਜੁੜੀਆਂ ਉਨ੍ਹਾਂ ਅੰਦਰੂਨੀ ਗਤੀਵਿਧੀਆਂ ਨੂੰ ਰੋਕ ਰਹੇ ਹਾਂ ਜੋ ਅਜੇ ਇਨ੍ਹਾਂ ਮਜ਼ਬੂਤ ਕੀਤੀਆਂ ਸੁਰੱਖਿਆ ਨਿਯੰਤਰਣ ਲੋੜਾਂ ਨੂੰ ਪੂਰਾ ਨਹੀਂ ਕਰਦੀਆਂ ਹਨ।
- ਅਸੀਂ ਸਿਖਲਾਈ ਅਤੇ ਮੁਲਾਂਕਣ ਸਮੇਤ Astra ਦੀਆਂ ਸਾਰੀਆਂ ਏਜੰਟਿਕ ਵਰਤੋਂ ਵਿੱਚ ਜੋਖਮ ਭਰੀਆਂ ਕਾਰਵਾਈਆਂ ਅਤੇ ਟੀਚਿਆਂ ਤੋਂ ਭਟਕਾਅ ਲਈ ਵਿਆਪਕ ਨਿਗਰਾਨੀ ਲਾਗੂ ਕੀਤੀ ਹੈ। ਨਿਗਰਾਨ ਪ੍ਰਣਾਲੀਆਂ ਮਾਡਲ ਦੀ ਚੇਨ-ਆਫ-ਥੌਟ ਦਾ ਮੁਲਾਂਕਣ ਕਰਦੀਆਂ ਹਨ ਅਤੇ ਉੱਚ-ਜੋਖਮ ਵਾਲੀ ਗਤੀਵਿਧੀ ਦੀ ਸਮੀਖਿਆ ਕਰਕੇ ਉਸਨੂੰ ਰੋਕਣ ਲਈ ਸੁਰੱਖਿਆ ਕਾਰਵਾਈ ਸ਼ੁਰੂ ਕਰਦੀਆਂ ਹਨ।
- ਅਸੀਂ ਇਸ ਮਾਡਲ ਦੀਆਂ ਸਮਰੱਥਾਵਾਂ ਦੀ ਜਾਂਚ ਲਈ ਸੰਬੰਧਿਤ ਸਰਕਾਰੀ ਏਜੰਸੀਆਂ ਅਤੇ ਚੋਣਵੀਆਂ AI ਸੁਰੱਖਿਆ ਸੰਸਥਾਵਾਂ ਨਾਲ ਕੰਮ ਕਰਾਂਗੇ।
- ਅਸੀਂ ਤੀਜੀ-ਧਿਰ ਦੇ ਜਾਂਚ ਭਾਈਵਾਲਾਂ ਨੂੰ ਵਧੇਰੇ ਜੋਖਮ ਵਾਲੇ ਮੁਲਾਂਕਣ ਅਤੇ ਕਾਰਜਭਾਰ ਸੁਰੱਖਿਅਤ ਢੰਗ ਨਾਲ ਚਲਾਉਣ ਲਈ ਸਿਫ਼ਾਰਸ਼ੀ ਸੁਰੱਖਿਆ ਨਿਯੰਤਰਣ ਮੁਹੱਈਆ ਕਰਾਂਗੇ।
ਇਸ ਫ੍ਰੇਮਵਰਕ ਨੇ ਸਮਰੱਥਾਵਾਂ ਵਿੱਚ ਹੋਰ ਬਦਲਾਵਾਂ ਦੌਰਾਨ ਵੀ ਪਹਿਲਾਂ ਹੀ ਸਾਡੀ ਅਗਵਾਈ ਕੀਤੀ ਹੈ। ਜੂਨ 2025 ਵਿੱਚ, ਜਦੋਂ ਸਾਡੇ ਮਾਡਲ ਪ੍ਰਿਪੇਅਰਡਨੈਸ ਫ੍ਰੇਮਵਰਕ ਅਧੀਨ ਜੀਵ ਵਿਗਿਆਨ ਲਈ ਹਾਈ ਸਮਰੱਥਾ ਸੀਮਾ ਦੇ ਨੇੜੇ ਪਹੁੰਚੇ, ਤਾਂ ਅਸੀਂ ਸੁਰੱਖਿਆ ਉਪਾਵਾਂ ਨੂੰ ਮਜ਼ਬੂਤ ਕਰਨ, ਜਾਂਚ ਦਾ ਵਿਸਤਾਰ ਕਰਨ, ਬਾਹਰੀ ਮਾਹਰਾਂ ਨਾਲ ਕੰਮ ਕਰਨ ਅਤੇ ਵਾਧੂ ਸੁਰੱਖਿਆ ਨਿਯੰਤਰਣ ਤੈਨਾਤ ਕਰਨ ਲਈ ਆਪਣੇ ਵੱਲੋਂ ਚੁੱਕੇ ਜਾ ਰਹੇ ਕਦਮਾਂ ਦੀ ਰੂਪਰੇਖਾ ਦਿੱਤੀ ਸੀ। ਅਸੀਂ ਇੱਥੇ ਵੀ ਇਹੀ ਸਿਧਾਂਤ ਲਾਗੂ ਕਰ ਰਹੇ ਹਾਂ।
ਸਾਡਾ ਮੰਨਣਾ ਹੈ ਕਿ ਉੱਨਤ ਸਾਈਬਰ ਸਮਰੱਥਾ ਵਾਲੇ ਮਾਡਲਾਂ ਨੂੰ ਹਮਲਾਵਰਾਂ ਤੋਂ ਪਹਿਲਾਂ ਕਮਜ਼ੋਰੀਆਂ ਪਛਾਣਨ ਅਤੇ ਦੂਰ ਕਰਨ ਵਿੱਚ ਰੱਖਿਅਕਾਂ ਦੀ ਮਦਦ ਕਰਨੀ ਚਾਹੀਦੀ ਹੈ। ਅਸੀਂ ਸਰਕਾਰਾਂ, ਸੁਰੱਖਿਆ ਸੰਸਥਾਵਾਂ ਅਤੇ ਨਾਗਰਿਕ ਸਮਾਜ ਨਾਲ ਮਿਲ ਕੇ ਕੰਮ ਕਰਨ ਲਈ ਵਚਨਬੱਧ ਹਾਂ, ਤਾਂ ਜੋ Astra ਵਰਗੇ ਮਾਡਲਾਂ ਅਤੇ ਉਨ੍ਹਾਂ ਤੋਂ ਬਾਅਦ ਆਉਣ ਵਾਲੇ ਮਾਡਲਾਂ ਦੀਆਂ ਅਤਿ-ਆਧੁਨਿਕ ਸਮਰੱਥਾਵਾਂ ਨੂੰ ਪੂਰੀ ਮਨੁੱਖਤਾ ਦੇ ਲਾਭ ਲਈ ਜ਼ਿੰਮੇਵਾਰੀ ਨਾਲ ਅਤੇ ਵਿਆਪਕ ਪੱਧਰ ’ਤੇ ਤੈਨਾਤ ਕੀਤਾ ਜਾਵੇ।
