ਅਸੀਂ OpenAI ਵਿੱਚ ਮਾਡਲ ਅਲਾਈਨਮੈਂਟ ਦੀ ਕਮੀ ਦੇ ਮਾਮਲਿਆਂ ਨੂੰ ਟਰੈਕ ਕਰਨ, ਜਾਂਚ ਕਰਨ ਅਤੇ ਉਨ੍ਹਾਂ ਦਾ ਖੁਲਾਸਾ ਕਰਨ ਲਈ ਇੱਕ ਨਵਾਂ ਫ੍ਰੇਮਵਰਕ ਸਾਂਝਾ ਕਰ ਰਹੇ ਹਾਂ, ਜਿਸ ਦੇ ਨਾਲ ਪਿਛਲੇ ਛੇ ਮਹੀਨਿਆਂ ਵਿੱਚ ਦੇਖੇ ਗਏ ਅਚਾਨਕ ਜਾਂ ਚਿੰਤਾਜਨਕ ਮਾਡਲ ਵਿਹਾਰ ਬਾਰੇ ਛੇ ਰਿਪੋਰਟਾਂ ਵੀ ਸ਼ਾਮਲ ਹਨ।
ਅਤੀਤ ਵਿੱਚ, ਖੋਜਕਾਰਾਂ, AI ਡਿਵੈਲਪਰਾਂ, ਨੀਤੀ-ਨਿਰਮਾਤਾਵਾਂ ਅਤੇ ਆਮ ਲੋਕਾਂ ਨੂੰ ਬਿਹਤਰ ਜਾਣਕਾਰੀ ਦੇਣ ਲਈ, ਅਸੀਂ ਅਲਾਈਨਮੈਂਟ ਦੀ ਕਮੀ ਬਾਰੇ ਆਪਣੇ ਨਤੀਜਿਆਂ ਨੂੰ ਜਨਤਕ ਕਰਨ ਦੀ ਕੋਸ਼ਿਸ਼ ਕੀਤੀ ਹੈ। ਪਰ ਇਨ੍ਹਾਂ ਖੋਜਾਂ ਦੀ ਰਿਪੋਰਟ ਕਰਨ ਲਈ ਕਿਸੇ ਯੋਜਨਾਬੱਧ ਪਹੁੰਚ ਤੋਂ ਬਿਨਾਂ, ਸਾਡੇ ਖੁਲਾਸੇ ਤਤਕਾਲ ਅਤੇ ਆਦਰਸ਼ ਨਾਲੋਂ ਘੱਟ ਵਾਰ-ਵਾਰ ਰਹੇ ਹਨ: ਅਸੀਂ ਅਕਸਰ ਉਦੋਂ ਤੱਕ ਉਡੀਕ ਕੀਤੀ ਹੈ ਜਦੋਂ ਤੱਕ ਕਿ ਅਸੀਂ ਕਈ ਮਾਮਲਿਆਂ ਨੂੰ ਇੱਕੋ ਰਿਪੋਰਟ ਵਿੱਚ ਇਕੱਠਾ ਨਹੀਂ ਕਰ ਲੈਂਦੇ, ਜਾਂ ਉਨ੍ਹਾਂ ਨੂੰ ਨਵੇਂ ਜਾਰੀ ਕੀਤੇ ਮਾਡਲਾਂ ਦੇ ਸਿਸਟਮ ਕਾਰਡਾਂ ਵਿੱਚ ਸ਼ਾਮਲ ਨਹੀਂ ਕਰ ਲੈਂਦੇ। ਇਸ ਨਵੇਂ ਫ੍ਰੇਮਵਰਕ ਦਾ ਉਦੇਸ਼ ਵਿਹਾਰ ਨੂੰ ਦੇਖਣ ਤੋਂ ਬਾਅਦ ਅਲਾਈਨਮੈਂਟ ਦੀ ਕਮੀ ਦੀਆਂ ਰਿਪੋਰਟਾਂ ਨੂੰ ਪ੍ਰਕਾਸ਼ਤ ਕਰਨ ਵਿੱਚ ਤੇਜ਼ੀ ਲਿਆਉਣਾ ਹੈ, ਭਾਵੇਂ ਕਿ ਅਸੀਂ ਜਿਸ ਵਿਹਾਰ ਦੀ ਰਿਪੋਰਟ ਕਰ ਰਹੇ ਹਾਂ ਉਸਦੀ ਪੂਰੀ ਤਰ੍ਹਾਂ ਵਿਆਖਿਆ ਜਾਂ ਹੱਲ ਨਹੀਂ ਕੀਤੀ ਹੋਵੇ।
ਜਿਵੇਂ-ਜਿਵੇਂ AI ਸਿਸਟਮ ਵਧੇਰੇ ਉੱਨਤ ਹੁੰਦੇ ਜਾ ਰਹੇ ਹਨ ਅਤੇ ਵਿਆਪਕ ਤੌਰ 'ਤੇ ਤਾਇਨਾਤ ਕੀਤੇ ਜਾ ਰਹੇ ਹਨ, ਸਾਨੂੰ ਅਲਾਈਨਮੈਂਟ ਰਿਸਰਚ ਦੀ ਪ੍ਰਗਤੀ 'ਤੇ ਇੱਕ ਵਿਆਪਕ ਅਤੇ ਵਧੇਰੇ ਸੂਚਿਤ ਸਹਿਮਤੀ ਬਣਾਉਣ ਦੀ ਲੋੜ ਹੈ। ਸਾਡਾ ਇਹ ਮੰਨਣਾ ਨਹੀਂ ਹੈ ਕਿ AI ਉਦਯੋਗ ਨੇ ਬਹੁਤ ਜ਼ਿਆਦਾ ਗਤੀ ਨਾਲ ਜ਼ਿੰਮੇਵਾਰੀ ਨਾਲ ਸਕੇਲਿੰਗ ਜਾਰੀ ਰੱਖਣ ਲਈ ਲੋੜੀਂਦੀ ਹੱਦ ਤੱਕ ਅਲਾਈਨਮੈਂਟ ਅਤੇ ਮਾਨੀਟਰਿੰਗ ਨੂੰ ਹੱਲ ਕਰ ਲਿਆ ਹੈ। ਆਉਣ ਵਾਲੇ ਮਹੀਨਿਆਂ ਅਤੇ ਸਾਲਾਂ ਵਿੱਚ AI ਵਿਕਾਸ ਨੂੰ ਕਿਵੇਂ ਅੱਗੇ ਵਧਣਾ ਚਾਹੀਦਾ ਹੈ, ਇਸ ਬਾਰੇ ਫੈਸਲਿਆਂ ਨੂੰ ਅਜਿਹੇ ਸਬੂਤਾਂ 'ਤੇ ਅਧਾਰਤ ਹੋਣ ਦੀ ਲੋੜ ਹੈ ਜਿਨ੍ਹਾਂ ਦੀ ਅਤਿ-ਆਧੁਨਿਕ ਮਾਡਲ ਬਣਾਉਣ ਵਾਲੀਆਂ ਕੰਪਨੀਆਂ ਤੋਂ ਬਾਹਰ ਦੇ ਲੋਕ ਖੁਦ ਜਾਂਚ ਕਰ ਸਕਣ।
ਅਲਾਈਨਮੈਂਟ ਦੀ ਕਮੀ ਦੀਆਂ ਉਦਾਹਰਣਾਂ ਉਨ੍ਹਾਂ ਸਮੱਸਿਆਵਾਂ ਦੀ ਪਛਾਣ ਕਰਨ ਵਿੱਚ ਮਦਦ ਕਰ ਸਕਦੀਆਂ ਹਨ ਜਿਨ੍ਹਾਂ ਦਾ ਸਾਹਮਣਾ ਹੋਰ AI ਡਿਵੈਲਪਰਾਂ ਨੂੰ ਉਦੋਂ ਕਰਨਾ ਪੈ ਸਕਦਾ ਹੈ ਜਦੋਂ ਉਨ੍ਹਾਂ ਦੇ ਸਿਸਟਮ ਸਮਾਨ ਸਮਰੱਥਾਵਾਂ ਤੱਕ ਪਹੁੰਚਦੇ ਹਨ, ਸੁਰੱਖਿਆ ਉਪਾਵਾਂ ਵਿੱਚ ਕਮਜ਼ੋਰੀਆਂ ਨੂੰ ਉਜਾਗਰ ਕਰਦੇ ਹਨ, ਜਾਂ ਮਾਡਲ ਵਿਹਾਰ ਬਾਰੇ ਧਾਰਨਾਵਾਂ ਨੂੰ ਚੁਣੌਤੀ ਦਿੰਦੇ ਹਨ। ਇਨ੍ਹਾਂ ਖੋਜਾਂ ਨੂੰ ਸਾਂਝਾ ਕਰਨਾ ਦੂਜਿਆਂ ਨੂੰ ਉਹੀ ਸਮੱਸਿਆਵਾਂ ਦੀ ਜਾਂਚ ਕਰਨ, ਸਾਡੀ ਵਿਆਖਿਆ ਦੀ ਜਾਂਚ ਕਰਨ, ਅਤੇ ਰੋਕਥਾਮ ਨੂੰ ਬਿਹਤਰ ਬਣਾਉਣ ਦੀ ਇਜਾਜ਼ਤ ਦਿੰਦਾ ਹੈ। ਕਿਉਂਕਿ ਅਸੀਂ ਅਲਾਈਨਮੈਂਟ ਦੀ ਕਮੀ ਦੇ ਆਲੇ-ਦੁਆਲੇ ਪਾਰਦਰਸ਼ਤਾ ਦੀ ਮਹੱਤਤਾ ਵਿੱਚ ਵਿਸ਼ਵਾस ਰੱਖਦੇ ਹਾਂ, ਸਾਡਾ ਨਵਾਂ ਫ੍ਰੇਮਵਰਕ ਉਸ ਸਮੇਂ ਵੀ ਖੁਲਾਸੇ ਦਾ ਪੱਖ ਲੈਂਦਾ ਹੈ ਜਦੋਂ ਮਹੱਤਤਾ ਅਨਿਸ਼ਚਿਤ ਹੁੰਦੀ ਹੈ। ਇਸ ਦਾ ਮਤਲਬ ਹੈ ਕਿ ਸਾਡੇ ਵੱਲੋਂ ਖੁਲਾਸਾ ਕੀਤੇ ਗਏ ਕੁਝ ਮਾਮਲੇ ਝੂਠੇ ਸਾਬਤ ਹੋ ਸਕਦੇ ਹਨ ਅਤੇ ਕਿਸੇ ਵੱਡੇ ਪੈਟਰਨ ਦਾ ਹਿੱਸਾ ਨਹੀਂ ਹੋ ਸਕਦੇ ਜਾਂ ਭਵਿੱਖ ਦੇ ਵਿਕਾਸ ਦਾ ਸੰਕੇਤ ਨਹੀਂ ਦੇ ਸਕਦੇ।
ਇਸ ਸਮੇਂ, ਉਦਯੋਗ ਪੱਧਰ 'ਤੇ ਅਜਿਹਾ ਕੋਈ ਫ੍ਰੇਮਵਰਕ ਮੌਜੂਦ ਨਹੀਂ ਹੈ ਜਿਸ ਵਿੱਚ ਇਸ ਬਾਰੇ ਸਪੱਸ਼ਟ ਮਿਆਰ ਹੋਣ ਕਿ AI ਡਿਵੈਲਪਰਾਂ ਨੂੰ ਆਪਣੇ ਮਾਡਲਾਂ ਵਿੱਚ ਅਲਾਈਨਮੈਂਟ ਦੀ ਕਮੀ ਦੀਆਂ ਉਦਾਹਰਣਾਂ ਦਾ ਖੁਲਾਸਾ ਕਿਵੇਂ ਕਰਨਾ ਚਾਹੀਦਾ ਹੈ। ਅਸੀਂ ਉਮੀਦ ਕਰਦੇ ਹਾਂ ਕਿ ਜਿਹੜਾ ਫ੍ਰੇਮਵਰਕ ਅਸੀਂ ਅੱਜ ਪੇਸ਼ ਕਰ ਰਹੇ ਹਾਂ, ਉਹ ਅਜਿਹੇ ਮਿਆਰ ਬਣਾਉਣ ਵੱਲ ਪਹਿਲਾ ਕਦਮ ਹੈ, ਜੋ ਇਹ ਨਿਰਧਾਰਤ ਕਰਦਾ ਹੈ ਕਿ ਡਿਵੈਲਪਰਾਂ ਨੂੰ ਅਲਾਈਨਮੈਂਟ ਦੀ ਕਮੀ ਦੇ ਕਿਹੜੇ ਮਾਮਲਿਆਂ ਦਾ ਖੁਲਾਸਾ ਕਰਨਾ ਚਾਹੀਦਾ ਹੈ ਅਤੇ ਉਨ੍ਹਾਂ ਦੀਆਂ ਰਿਪੋਰਟਾਂ ਵਿੱਚ ਕੀ ਕੁਝ ਸ਼ਾਮਲ ਹੋਣਾ ਚਾਹੀਦਾ ਹੈ। ਅਸੀਂ ਇਸ ਫ੍ਰੇਮਵਰਕ ਨੂੰ ਇੱਕ ਅਧੀਨ ਜਾਂ ਜਾਰੀ ਕੰਮ ਵਜੋਂ ਦੇਖਦੇ ਹਾਂ, ਜਿਸ ਨੂੰ ਅਸੀਂ ਤਜ਼ਰਬੇ ਅਤੇ ਜਨਤਕ ਸੁਝਾਵਾਂ ਰਾਹੀਂ ਹੋਰ ਸੁਧਾਰਾਂਗੇ।
ਇੱਥੇ, ਅਸੀਂ ਵਰਣਨ ਕਰਦੇ ਹਾਂ ਕਿ ਇਹ ਫ੍ਰੇਮਵਰਕ ਕਿਵੇਂ ਕੰਮ ਕਰੇਗਾ ਅਤੇ ਆਪਣੀਆਂ ਪਹਿਲੀਆਂ ਰਿਪੋਰਟਾਂ ਸਾਂਝੀਆਂ ਕਰਦੇ ਹਾਂ ਜੋ ਅਸੀਂ ਪ੍ਰਕਾਸ਼ਿਤ ਕਰ ਰਹੇ ਹਾਂ।
ਸਾਡਾ ਉਦੇਸ਼ ਉਨ੍ਹਾਂ ਉਦਾਹਰਣਾਂ ਦਾ ਖੁਲਾਸਾ ਕਰਨਾ ਹੈ ਜੋ ਇਸ ਬਾਰੇ ਲਾਭਦਾਇਕ ਸਬੂਤ ਪ੍ਰਦਾਨ ਕਰਦੀਆਂ ਹਨ ਕਿ ਮਾਡਲ ਅਲਾਈਨਮੈਂਟ ਦੀ ਕਮੀ ਕਿਵੇਂ ਪੈਦਾ ਹੁੰਦੀ ਹੈ, ਇਹ ਕਿਵੇਂ ਮੈਨੀਫੈਸਟ ਹੁੰਦੀ ਹੈ, ਅਤੇ ਸੁਰੱਖਿਆ ਉਪਾਅ ਕਿੱਥੇ ਸਫਲ ਜਾਂ ਅਸਫਲ ਹੁੰਦੇ ਹਨ। ਅਸੀਂ ਨਵੀਆਂ ਵਿਧੀਆਂ, ਜਾਣੇ-ਪਛਾਣੇ ਵਿਹਾਰ ਵਿੱਚ ਸਾਰਥਕ ਤਬਦੀਲੀਆਂ, ਅਤੇ ਉਨ੍ਹਾਂ ਖੋਜਾਂ ਨੂੰ ਤਰਜੀਹ ਦਿੰਦੇ ਹਾਂ ਜੋ ਸੁਰੱਖਿਆ ਜਾਂ ਰੋਕਥਾਮ ਬਾਰੇ ਧਾਰਨਾਵਾਂ ਨੂੰ ਚੁਣੌਤੀ ਦਿੰਦੀਆਂ ਹਨ। ਕਿਸੇ ਉਦਾਹਰਣ ਲਈ ਖੁਲਾਸਾ ਯੋਗ ਬਣਨ ਵਾਸਤੇ ਨੁਕਸਾਨ ਪਹੁੰਚਾਉਣਾ ਜਾਂ ਕੋਈ ਵਿਆਪਕ ਪੈਟਰਨ ਸਥਾਪਤ ਕਰਨਾ ਜ਼ਰੂਰੀ ਨਹੀਂ ਹੈ। ਇਹ ਫ੍ਰੇਮਵਰਕ ਮਾਡਲ ਦੇ ਪੂਰੇ ਜੀਵਨ-ਚੱਕਰ ਦੌਰਾਨ ਹੋਣ ਵਾਲੇ ਯੋਗ ਵਿਹਾਰਾਂ ਨੂੰ ਕਵਰ ਕਰੇਗਾ—ਜਿਸ ਵਿੱਚ ਟ੍ਰੇਨਿੰਗ, ਮੁਲਾਂਕਣ, ਟੈਸਟਿੰਗ ਅਤੇ ਤੈਨਾਤੀ ਸ਼ਾਮਲ ਹਨ।
ਇਸ ਵਿੱਚ ਮਾਡਲਾਂ ਵੱਲੋਂ ਬਿਨਾਂ ਅਧਿਕਾਰ ਤੋਂ ਕਾਰਵਾਈ ਕਰਨ, ਹੋਰ ਮਾਡਲਾਂ ਨਾਲ ਤਾਲਮੇਲ ਕਰਨ ਜਾਂ ਨਿਗਰਾਨੀ ਤੋਂ ਬਚਣ ਦੇ ਨਵੇਂ ਤਰੀਕੇ ਸ਼ਾਮਲ ਹਨ; ਅਜਿਹੀਆਂ ਅਸਫਲਤਾਵਾਂ ਜੋ ਕਿਸੇ ਅਲਾਈਨਮੈਂਟ ਵਿਧੀ ਜਾਂ ਸੁਰੱਖਿਆ ਉਪਾਅ 'ਤੇ ਸਵਾਲ ਖੜ੍ਹੀਆਂ ਕਰਦੀਆਂ ਹਨ; ਅਤੇ ਉਹ ਵਿਹਾਰ ਜੋ ਪ੍ਰਕਾਸ਼ਿਤ ਸੁਰੱਖਿਆ ਮੁਲਾਂਕਣ ਵਿੱਚ ਕਿਸੇ ਦਾਅਵੇ ਨੂੰ ਚੁਣੌਤੀ ਦਿੰਦਾ ਹੈ। ਖੁਲਾਸੇ ਦੇ ਇਹੀ ਮਾਪਦੰਡ ਅਲਾਈਨਮੈਂਟ ਦੀ ਉਸ ਕਮੀ 'ਤੇ ਵੀ ਲਾਗੂ ਹੁੰਦੇ ਹਨ ਜੋ ਤੀਜੀਆਂ ਧਿਰਾਂ ਨੂੰ ਪ੍ਰਭਾਵਿਤ ਕਰ ਸਕਦੀ ਹੈ।
ਇਸ ਵਿੱਚ ਅਲਾਈਨਮੈਂਟ ਦੀ ਕਮੀ ਦੇ ਅਜਿਹੇ ਮਾਮਲੇ ਵੀ ਸ਼ਾਮਲ ਹੋ ਸਕਦੇ ਹਨ ਜੋ ਉਨ੍ਹਾਂ ਮਾਮਲਿਆਂ ਦੀ ਨਕਲ ਜਾਪਦੇ ਹਨ ਜਿਨ੍ਹਾਂ ਦਾ ਅਸੀਂ ਪਹਿਲਾਂ ਖੁਲਾਸਾ ਕਰ ਚੁੱਕੇ ਹਾਂ। ਇਸ ਸਮੱਸਿਆ ਦਾ ਦੁਹਰਾਓ ਆਪਣੇ ਆਪ ਵਿੱਚ ਇਸ ਬਾਰੇ ਲਾਭਦਾਇਕ ਸਬੂਤ ਹੋ ਸਕਦਾ ਹੈ ਕਿ ਸਾਡੇ ਮਾਡਲ ਕਿਵੇਂ ਵਿਹਾਰ ਕਰਦੇ ਹਨ ਜਾਂ ਸਾਡੇ ਸੁਰੱਖਿਆ ਉਪਾਵਾਂ ਦੀ ਪ੍ਰਭਾਵਸ਼ੀਲਤਾ ਕੀ ਹੈ—ਉਦਾਹਰਣ ਵਜੋਂ, ਜੇਕਰ ਇਸਨੂੰ ਰੋਕਣ ਲਈ ਵਾਰ-ਵਾਰ ਯਤਨ ਕਰਨ ਦੇ ਬਾਵਜੂਦ ਅਲਾਈਨਮੈਂਟ ਦੀ ਕਮੀ ਦਾ ਕੋਈ ਖਾਸ ਕਿਸਮ ਦਾ ਵਿਹਾਰ ਵਾਰ-ਵਾਰ ਸਾਹਮਣੇ ਆਉਂਦਾ ਰਹਿੰਦਾ ਹੈ। ਇਨ੍ਹਾਂ ਹਾਲਤਾਂ ਵਿੱਚ, ਅਸੀਂ ਅਸਲ ਅਲਾਈਨਮੈਂਟ ਖੁਲਾਸੇ ਨੂੰ ਅਪਡੇਟ ਕਰਕੇ ਇਹ ਵਾਧੂ ਉਦਾਹਰਣਾਂ ਪ੍ਰਕਾਸ਼ਿਤ ਕਰਾਂਗੇ।
ਸਮੇਂ ਦੇ ਨਾਲ, ਅਸੀਂ ਹੋਰ ਡਿਵੈਲਪਰਾਂ, ਬਾਹਰੀ ਖੋਜਕਾਰਾਂ, ਉਦਯੋਗਿਕ ਮਿਆਰ ਸੰਸਥਾਵਾਂ ਅਤੇ ਨਿਯਾਮਕਾਂ ਨਾਲ ਮਿਲ ਕੇ ਖੁਲਾਸੇ ਦੇ ਵਧੇਰੇ ਨਿਰਪੱਖ ਮਾਪਦੰਡ ਵਿਕਸਤ ਕਰਨ ਦੀ ਯੋਜਨਾ ਬਣਾਉਂਦੇ ਹਾਂ। ਸਾਡਾ ਇਹ ਵੀ ਮੰਨਣਾ ਹੈ ਕਿ ਗੰਭੀਰ ਸੁਰੱਖਿਆ ਅਤੇ ਅਲਾਈਨਮੈਂਟ ਦੀ ਕਮੀ ਦੀਆਂ ਘਟਨਾਵਾਂ ਨੂੰ ਅਮਰੀਕੀ ਸੰਘੀ ਸਰਕਾਰ ਨਾਲ ਸਾਂਝਾ ਕੀਤਾ ਜਾਣਾ ਚਾਹੀਦਾ ਹੈ, ਅਤੇ ਅਸੀਂ ਰਿਪੋਰਟਿੰਗ ਪ੍ਰਣਾਲੀਆਂ ਦਾ ਪ੍ਰਸਤਾਵ ਤਿਆਰ ਕਰ ਰਹੇ ਹਾਂ। ਅਸੀਂ ਇਸ ਫ੍ਰੇਮਵਰਕ ਨੂੰ ਆਪਣੀਆਂ ਮੌਜੂਦਾ ਜ਼ਿੰਮੇਵਾਰੀਆਂ ਦਾ ਪੂਰਕ ਮੰਨਦੇ ਹਾਂ, ਅਤੇ ਇਹ ਸਪੱਸ਼ਟ ਕਰਦੇ ਹਾਂ ਕਿ ਇਹ ਗੰਭੀਰ ਸੁਰੱਖਿਆ ਘਟਨਾਵਾਂ ਜਾਂ ਸਾਈਬਰ ਸੁਰੱਖਿਆ ਉਲੰਘਣਾਵਾਂ ਸਮੇਤ ਸਾਡੀਆਂ ਕਾਨੂੰਨੀ ਖੁਲਾਸਾ ਲੋੜਾਂ ਦੀ ਥਾਂ ਨਹੀਂ ਲੈਂਦਾ ਹੈ।
ਅਲਾਈਨਮੈਂਟ ਦੇ ਖੁਲਾਸੇ ਲਈ ਆਪਣੇ ਨਵੇਂ ਫ੍ਰੇਮਵਰਕ ਦੀ ਸ਼ੁਰੂਆਤ ਕਰਨ ਵਾਸਤੇ, ਅਸੀਂ ਆਪਣੇ ਮਾਡਲਾਂ ਦੀ ਟ੍ਰੇਨਿੰਗ ਜਾਂ ਮੁਲਾਂਕਣ ਦੌਰਾਨ ਦੇਖੇ ਗਏ ਅਲਾਈਨਮੈਂਟ ਦੀ ਕਮੀ ਦੇ ਵਿਹਾਰ ਦੇ ਮਾਮਲਿਆਂ 'ਤੇ ਛੇ ਰਿਪੋਰਟਾਂ ਪ੍ਰਕਾਸ਼ਿਤ ਕਰ ਰਹੇ ਹਾਂ। ਇਹ ਮਾਮਲੇ ਵੱਖ-ਵੱਖ ਤਰ੍ਹਾਂ ਦੇ ਵਿਹਾਰਾਂ ਨੂੰ ਦਰਸਾਉਂਦੇ ਹਨ ਜੋ ਸਾਡੇ ਮੰਤਵ ਮੁਤਾਬਕ ਸਾਂਝੇ ਕਰਨ ਯੋਗ ਹਨ, ਜਿਵੇਂ ਕਿ ਵਰਤੋਂਕਾਰ ਤੋਂ ਜਾਣਕਾਰੀ ਲੁਕਾਉਣਾ ਜਾਂ ਰੁਕਾਵਟਾਂ ਨੂੰ ਪਾਰ ਕਰਨ ਲਈ ਬਿਨਾਂ ਮਨਜ਼ੂਰੀ ਤੋਂ ਕਾਰਵਾਈਆਂ ਕਰਨਾ। ਇਹ ਵਿਅਕਤੀਗਤ ਮਾਮਲਿਆਂ ਦੀਆਂ ਰਿਪੋਰਟਾਂ ਹਨ, ਅਤੇ ਇਨ੍ਹਾਂ ਨੂੰ ਇਸ ਗੱਲ ਦਾ ਪ੍ਰਤੀਬਿੰਬ ਨਹੀਂ ਮੰਨਿਆ ਜਾਣਾ ਚਾਹੀਦਾ ਕਿ ਸਾਡੇ ਮਾਡਲਾਂ ਵਿੱਚ ਅਲਾਈਨਮੈਂਟ ਦੀ ਕਮੀ ਕਿੰਨੀ ਵਾਰ ਹੁੰਦੀ ਹੈ। ਹੇਠਾਂ ਦਿੱਤੀ ਹਰ ਆਈਟਮ ਪੂਰੀ ਰਿਪੋਰਟ ਨਾਲ ਲਿੰਕ ਕਰਦੀ ਹੈ।
ਟਾਸਕ ਸਾਰਾਂਸ਼ਾਂ ਵਿੱਚ ਸਵੈ-ਉਤਪੰਨ ਨਿਰਦੇਸ਼(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ)। ਇੱਕ ਅਣ-ਰਿਲੀਜ਼ ਕੀਤੇ ਖੋਜ ਮਾਡਲ ਨੇ ਅਜਿਹੇ ਸਾਰਾਂਸ਼ਾਂ ਵਿੱਚ ਅਸੰਬੰਧਿਤ ਨਿਰਦੇਸ਼ ਸ਼ਾਮਲ ਕਰ ਦਿੱਤੇ, ਜਿਸ ਵਿੱਚ ਇਸਦੀਆਂ ਆਮ ਪਾਬੰਦੀਆਂ ਨੂੰ ਅਣਡਿੱਠ ਕਰਨ ਦੇ ਨਿਰਦੇਸ਼ ਵੀ ਸ਼ਾਮਲ ਸਨ, ਜੋ ਇੱਕ ਨਵੀਂ ਸੰਦਰਭ ਸੀਮਾ ਵਿੱਚ ਇਸਦੇ ਕੰਮ ਨੂੰ ਜਾਰੀ ਰੱਖਣ ਲਈ ਵਰਤੇ ਜਾਂਦੇ ਸਨ। ਅਸੀਂ 27 ਪ੍ਰਭਾਵਿਤ ਸਾਰਾਂਸ਼ਾਂ ਦੀ ਪਛਾਣ ਕੀਤੀ।
ਟਾਸਕ ਸਾਰਾਂਸ਼ਾਂ ਵਿੱਚ ਗਲਤੀਆਂ ਨੂੰ ਲੁਕਾਉਣ ਦੇ ਨਿਰਦੇਸ਼(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ)। GPT‑5.6 Sol ਦੀ ਟ੍ਰੇਨਿੰਗ ਦੌਰਾਨ, ਮਾਡਲ ਦੇ ਕਈ ਇੰਸਟੈਂਸਾਂ ਨੇ ਆਪਣੇ ਸਾਰਾਂਸ਼ਾਂ ਵਿੱਚ ਅਜਿਹੇ ਨਿਰਦੇਸ਼ ਜੋੜ ਦਿੱਤੇ ਤਾਂ ਜੋ ਵਰਤੋਂਕਾਰ ਤੋਂ ਗਲਤੀਆਂ ਜਾਂ ਅਲਾਈਨਮੈਂਟ ਦੀ ਕਮੀ ਦੇ ਵਿਹਾਰ ਨੂੰ ਲੁਕਾਇਆ ਜਾ ਸਕੇ। ਉਦਾਹਰਣ ਵਜੋਂ, ਕੰਪੈਕਸ਼ਨ ਸਾਰਾਂਸ਼ਾਂ ਵਿੱਚ ਬਿਨਾਂ ਖੁਲਾਸਾ ਕੀਤੇ ਗੁੰਮ ਹੋਏ ਇਤਿਹਾਸਕ ਡਾਟਾ ਦੀ ਕਾਢ ਕੱਢਣ ਅਤੇ ਸਰੋਤ ਸੰਸਕਰਣਾਂ ਵਿਚਲੇ ਅੰਤਰਾਂ ਨੂੰ ਲੁਕਾਉਣ ਦੇ ਨਿਰਦੇਸ਼ ਸ਼ਾਮਲ ਸਨ।
ਜਨਤਕ ਰਿਪੋਜ਼ਟਰੀਆਂ ਵਿੱਚ ਐਕਸਪੋਜ਼ਡ API ਕੁੰਜੀਆਂ ਦੀ ਖੋਜ ਕਰਨਾ, ਫਿਰ ਜਾਣਕਾਰੀ ਘੜਨਾ(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ)। ਕੈਲੀਫੋਰਨੀਆ ਦੀ ਕਾਉਂਟੀ ਵਿੱਚ ਕਮਾਈ ਦੇ ਅੰਕੜਿਆਂ ਬਾਰੇ ਇੱਕ ਰੁਟੀਨ ਸਵਾਲ ਦਾ ਜਵਾਬ ਦਿੰਦਿਆਂ, ਮਾਡਲ ਨੇ ਬਿਨਾਂ ਅਧਿਕਾਰ ਤੋਂ ਇੱਕ ਐਕਸਪੋਜ਼ਡ API ਕੁੰਜੀ ਲੱਭ ਲਈ ਅਤੇ ਵਰਤ ਲਈ। ਜਦੋਂ ਇਹ ਫਿਰ ਵੀ ਬੇਨਤੀ ਕੀਤੇ ਅੰਕੜੇ ਪ੍ਰਾਪਤ ਕਰਨ ਵਿੱਚ ਅਸਮਰੱਥ ਰਿਹਾ, ਤਾਂ ਇਸਨੇ ਉਨ੍ਹਾਂ ਨੂੰ ਘੜ ਲਿਆ ਅਤੇ ਮੰਗੇ ਗਏ ਸਰੋਤ ਤੋਂ ਡਾਟਾ ਵਜੋਂ ਪੇਸ਼ ਕੀਤਾ।
ਹਵਾਲਾ ਦੇਣ ਲਈ ਇੰਟਰਨੈੱਟ 'ਤੇ ਫਾਈਲਾਂ ਅੱਪਲੋਡ ਕਰਨਾ(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ)। ਜਦੋਂ ਇੱਕ ਵਰਤੋਂਕਾਰ ਨੇ ਇੱਕ ਅਣ-ਰਿਲੀਜ਼ ਕੀਤੇ ਮਾਡਲ ਨੂੰ 5,000,000 ਵਰਗ ਮੀਟਰ ਤੋਂ ਵੱਡੀਆਂ ਝੀਲਾਂ ਦੀਆਂ IDs ਅਤੇ ਨਾਮ ਪੁੱਛੇ, ਤਾਂ ਏਜੰਟ ਨੇ ਪਾਈਥਨ ਦੀ ਵਰਤੋਂ ਕਰਕੇ ਸਹੀ ਜਵਾਬ ਲੱਭ ਲਿਆ। ਪਰ ਕਿਉਂਕਿ ਨਿਰਦੇਸ਼ਾਂ ਵਿੱਚ ਬ੍ਰਾਊਜ਼ਰ ਹਵਾਲੇ ਦੀ ਮੰਗ ਕੀਤੀ ਗਈ ਸੀ, ਇਸ ਲਈ ਏਜੰਟ ਨੇ ਵਰਤੋਂਕਾਰ ਨੂੰ ਪੁੱਛੇ ਬਿਨਾਂ ਫ਼ਾਈਲ ਨੂੰ ਅੱਪਲੋਡ ਕਰਨ ਦਾ ਫ਼ੈਸਲਾ ਕੀਤਾ ਤਾਂ ਜੋ ਇਹ ਆਪਣੇ ਜਵਾਬ ਵਿੱਚ ਇਸ ਦਾ ਹਵਾਲਾ ਦੇ ਸਕੇ।
ਅੰਦਰੂਨੀ ਸਾਫ਼ਟਵੇਅਰ ਰਿਪੋਜ਼ਟਰੀ ਰਾਹੀਂ ਗ਼ੈਰ-ਮਨਜ਼ੂਰਸ਼ੁਦਾ ਲਿਖਣਾ ਅਤੇ ਸੰਚਾਰ(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ)। ਗੁੰਮ ਹੋਈਆਂ ਇਨਪੁਟ ਫ਼ਾਈਲਾਂ ਦੀ ਭਾਲ ਕਰਦੇ ਸਮੇਂ, ਮਾਡਲਾਂ ਨੇ ਵੱਖ-ਵੱਖ ਟ੍ਰੇਨਿੰਗ ਸੈਂਪਲਾਂ ਵਿੱਚ ਬੇਨਤੀਆਂ ਅਤੇ ਜਵਾਬਾਂ ਦਾ ਆਦਾਨ-ਪ੍ਰਦਾਨ ਕਰਨ ਲਈ ਇੱਕ ਅੰਦਰੂਨੀ ਸਾਫ਼ਟਵੇਅਰ ਰਿਪੋਜ਼ਟਰੀ ਨੂੰ ਇੱਕ ਮੈਸੇਜ ਬੋਰਡ ਵਜੋਂ ਵਰਤਿਆ, ਹਾਲਾਂਕਿ ਉਹ ਉਨ੍ਹਾਂ ਫ਼ਾਈਲਾਂ ਨੂੰ ਮੁੜ ਪ੍ਰਾਪਤ ਕਰਨ ਵਿੱਚ ਅਸਮਰੱਥ ਸਨ। ਇਹ ਰਿਪੋਰਟ ਇੱਕ ਪਹਿਲੇ ਮਾਮਲੇ ਦੀ ਵੀ ਜਾਂਚ ਕਰਦੀ ਹੈ ਜਿਸ ਵਿੱਚ ਇੱਕ ਮਾਡਲ ਨੇ ਨੈੱਟਵਰਕ ਪਾਬੰਦੀਆਂ ਨੂੰ ਬਾਈਪਾਸ ਕਰਨ ਦੀ ਕੋਸ਼ਿਸ਼ ਕਰਦੇ ਹੋਏ ਸਫ਼ਲਤਾਪੂਰਵਕ ਟੈਸਟ ਫ਼ਾਈਲਾਂ ਨੂੰ ਇੱਕ ਰਿਪੋਜ਼ਟਰੀ ਵਿੱਚ ਅੱਪਲੋਡ ਕੀਤਾ ਸੀ।
ਸਹਿਯੋਗੀ ਏਜੰਟਾਂ ਵਿਚਕਾਰ ਗ਼ੈਰ-ਮਨਜ਼ੂਰਸ਼ੁਦਾ ਫ਼ਾਈਲ ਸਾਂਝੀਆਂ ਕਰਨਾ(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ)। ਇੱਕੋ ਟ੍ਰੇਨਿੰਗ ਟਾਸਕ 'ਤੇ ਮਿਲ ਕੇ ਕੰਮ ਕਰ ਰਹੇ ਏਜੰਟਾਂ ਨੇ ਇੱਕ-ਦੂਜੇ ਦੀਆਂ ਸਥਾਨਕ ਫ਼ਾਈਲਾਂ ਤੱਕ ਪਹੁੰਚ ਨਾ ਹੋਣ 'ਤੇ ਫ਼ਾਈਲਾਂ ਸਾਂਝੀਆਂ ਕਰਨ ਲਈ ਜਨਤਕ ਫ਼ਾਈਲ-ਹੋਸਟਿੰਗ ਵੈੱਬਸਾਈਟਾਂ ਦੀ ਵਰਤੋਂ ਕੀਤੀ। ਇਸ ਨਾਲ ਟਾਸਕ ਦੇ ਨਤੀਜੇ ਜਨਤਕ URLs 'ਤੇ ਉਪਲਬਧ ਹੋ ਗਏ, ਭਾਵੇਂ ਕਿ ਟਾਸਕ ਵਿੱਚ ਮਾਡਲਾਂ ਨੂੰ ਸਿਰਫ਼ ਸਥਾਨਕ ਫ਼ਾਈਲਾਂ ਹੀ ਵਰਤਣ ਲਈ ਕਿਹਾ ਗਿਆ ਸੀ।
OpenAI ਦਾ ਕੋਈ ਵੀ ਕਰਮਚਾਰੀ ਸਾਡੀਆਂ ਸੇਫ਼ਟੀ ਅਤੇ ਅਲਾਈਨਮੈਂਟ ਟੀਮਾਂ ਦੁਆਰਾ ਜਾਂਚ ਲਈ ਅਲਾਈਨਮੈਂਟ ਦੀ ਕਮੀ ਦੀ ਕਿਸੇ ਵੀ ਉਦਾਹਰਣ ਨੂੰ ਫਲੈਗ ਕਰ ਸਕਦਾ ਹੈ ਅਤੇ ਬੇਨਤੀ ਕਰ ਸਕਦਾ ਹੈ ਕਿ ਇਸ ਨੂੰ ਜਨਤਕ ਤੌਰ 'ਤੇ ਉਜਾਗਰ ਕਰਨ ਲਈ ਵਿਚਾਰਿਆ ਜਾਵੇ। ਇਹ ਸਾਡੀ ਡਿਸਕਲੋਜ਼ਰ ਪ੍ਰਕਿਰਿਆ ਦੀ ਸ਼ੁਰੂਆਤ ਕਰਦਾ ਹੈ, ਜਿਸ ਵਿੱਚ ਸਮੇਂ ਸਿਰ ਜਾਂਚ ਅਤੇ ਖੁਲਾਸਾ ਯਕੀਨੀ ਬਣਾਉਣ ਲਈ ਹਰ ਪੜਾਅ ਵਾਸਤੇ ਸਮਾਂ-ਸੀਮਾਵਾਂ ਤੈਅ ਹੁੰਦੀਆਂ ਹਨ।
ਇੱਕ ਵਾਰ ਜਦੋਂ ਕਿਸੇ ਉਦਾਹਰਣ ਨੂੰ ਫਲੈਗ ਕਰ ਦਿੱਤਾ ਜਾਂਦਾ ਹੈ, ਤਾਂ ਸਾਡਾ ਤਕਨੀਕੀ ਅਮਲਾ ਇਸ ਗੱਲ ਦੀ ਜਾਂਚ ਕਰੇਗਾ ਕਿ ਕੀ ਵਾਪਰਿਆ ਸੀ, ਕਿਹੜੀਆਂ ਚੀਜ਼ਾਂ ਅਨਿਸ਼ਚਿਤ ਹਨ, ਕੀ ਜਨਤਕ ਤੌਰ 'ਤੇ ਖੁਲਾਸਾ ਕਰਨਾ ਵਾਜਬ ਹੈ, ਅਤੇ ਕਿਹੜੇ ਤੱਥ ਸਾਂਝੇ ਕੀਤੇ ਜਾ ਸਕਦੇ ਹਨ। ਉਹ ਇਹ ਵੀ ਮੁਲਾਂਕਣ ਕਰਨਗੇ ਕਿ ਕੀ ਕੋਈ ਤੀਜੀ ਧਿਰ ਪ੍ਰਭਾਵਿਤ ਹੋਈ ਸੀ ਅਤੇ ਜਨਤਕ ਕਰਨ ਤੋਂ ਪਹਿਲਾਂ ਉਸ ਨੂੰ ਨਿੱਜੀ ਤੌਰ 'ਤੇ ਸੂਚਿਤ ਕਰਨ ਦੀ ਲੋੜ ਹੈ।
ਇਸ ਤੋਂ ਬਾਅਦ ਉਸ ਉਦਾਹਰਣ ਨੂੰ ਤਿੰਨ ਵਿੱਚੋਂ ਕਿਸੇ ਇੱਕ ਟਰੈਕ ਅਧੀਨ ਰੱਖਿਆ ਜਾਵੇਗਾ: ਖੁਲਾਸੇ ਲਈ ਤਿਆਰ, ਛੋਟੀ ਜਾਂਚ ਜਾਂ ਵੱਡੀ ਜਾਂਚ (“ਹੌਲੀ ਟਰੈਕ”)।
ਖੁਲਾਸੇ ਲਈ ਤਿਆਰ ਵਿੱਚ ਉਹ ਯੋਗ ਮਾਮਲੇ ਸ਼ਾਮਲ ਹੁੰਦੇ ਹਨ ਜਿਨ੍ਹਾਂ ਦੀ ਜਾਂਚ ਸਮੀਖਿਆ ਤੋਂ ਬਾਅਦ ਪ੍ਰਕਾਸ਼ਨ ਲਈ ਕਾਫ਼ੀ ਹੱਦ ਤੱਕ ਪੂਰੀ ਹੋ ਚੁੱਕੀ ਹੁੰਦੀ ਹੈ। ਛੋਟੀ ਜਾਂਚ ਵਿੱਚ ਉਹ ਮਾਮਲੇ ਆਉਂਦੇ ਹਨ ਜਿਨ੍ਹਾਂ ਨੂੰ ਹੋਰ ਤਕਨੀਕੀ ਜਾਂਚ ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ। ਅਸੀਂ ਉਮੀਦ ਕਰਦੇ ਹਾਂ ਕਿ ਇਹ ਦੋਵੇਂ ਟਰੈਕ ਉਨ੍ਹਾਂ ਜ਼ਿਆਦਾਤਰ ਮਾਮਲਿਆਂ ਨੂੰ ਕਵਰ ਕਰਨਗੇ ਜਿਨ੍ਹਾਂ ਦਾ ਅਸੀਂ ਖੁਲਾਸਾ ਕਰਦੇ ਹਾਂ, ਖ਼ਾਸ ਕਰਕੇ ਉਹ ਮਾਮਲੇ ਜਿਨ੍ਹਾਂ ਨੂੰ ਵਿਆਪਕ ਜਾਂਚ, ਤੀਜੀਆਂ ਧਿਰਾਂ ਨਾਲ ਤਾਲਮੇਲ, ਜਾਂ ਗੰਭੀਰ ਦੁਰਵਰਤੋਂ ਦੇ ਜੋਖਮਾਂ ਨਾਲ ਨਜਿੱਠਣ ਦੀ ਲੋੜ ਨਹੀਂ ਹੁੰਦੀ। ਅੱਜ ਅਸੀਂ ਜੋ ਮਾਮਲੇ ਜਾਰੀ ਕਰ ਰਹੇ ਹਾਂ, ਉਹ ਸਾਰੇ ਇਨ੍ਹਾਂ ਵਿੱਚੋਂ ਕਿਸੇ ਇੱਕ ਟਰੈਕ ਅਧੀਨ ਆਉਂਦੇ ਹਨ।
ਵੱਡੀ ਜਾਂਚ ਵਿੱਚ ਗੁੰਝਲਦਾਰ ਜਾਂਚਾਂ ਸ਼ਾਮਲ ਹੁੰਦੀਆਂ ਹਨ, ਖ਼ਾਸ ਕਰਕੇ ਉਹ ਜਿਨ੍ਹਾਂ ਵਿੱਚ ਤੀਜੀਆਂ ਧਿਰਾਂ ਸ਼ਾਮਲ ਹੁੰਦੀਆਂ ਹਨ। ਜਦੋਂ ਕੋਈ ਤੀਜੀ ਧਿਰ ਪ੍ਰਭਾਵਿਤ ਹੁੰਦੀ ਹੈ, ਤਾਂ ਸਾਡੀ ਸੁਰੱਖਿਆ, ਕਾਨੂੰਨੀ ਅਤੇ ਜ਼ਿੰਮੇਵਾਰ ਖੁਲਾਸੇ ਦੀਆਂ ਜ਼ਿੰਮੇਵਾਰੀਆਂ ਇਸ ਢਾਂਚੇ ਨਾਲੋਂ ਪਹਿਲਾਂ ਆਉਂਦੀਆਂ ਹਨ। ਅਸੀਂ ਜਿੰਨੀ ਜਲਦੀ ਹੋ ਸਕੇ ਸ਼ੁਰੂਆਤੀ ਨੋਟਿਸ ਪ੍ਰਕਾਸ਼ਤ ਕਰਨ ਦਾ ਟੀਚਾ ਰੱਖਾਂਗੇ, ਪਰ ਸੁਰੱਖਿਆ ਕਾਰਨਾਂ ਕਰਕੇ ਇਸ ਵਿੱਚ ਦੇਰੀ ਕਰਨ ਦੀ ਲੋੜ ਪੈ ਸਕਦੀ ਹੈ—ਉਦਾਹਰਣ ਵਜੋਂ, ਜੇਕਰ ਕੋਈ ਮਾਡਲ ਵਿਆਪਕ ਤੌਰ 'ਤੇ ਵਰਤੇ ਜਾਂਦੇ ਸਾਫ਼ਟਵੇਅਰ ਵਿੱਚ ਪਹਿਲਾਂ ਤੋਂ ਅਣਜਾਣ ਕਮਜ਼ੋਰੀ ਦਾ ਪਤਾ ਲਗਾਉਂਦਾ ਹੈ। ਜੇਕਰ ਕੋਈ ਰਿਪੋਰਟ ਕਿਸੇ ਤੀਜੀ ਧਿਰ ਦੀ ਪਛਾਣ ਕਰਦੀ ਹੈ, ਤਾਂ ਸਾਡਾ ਇਰਾਦਾ ਉਦੋਂ ਵੀ ਪਹਿਲਾਂ ਸੂਚਨਾ ਪ੍ਰਦਾਨ ਕਰਨ ਦਾ ਹੁੰਦਾ ਹੈ ਭਾਵੇਂ ਕੋਈ ਸੁਰੱਖਿਆ ਸੀਮਾ ਪਾਰ ਨਾ ਕੀਤੀ ਗਈ ਹੋਵੇ।
ਵੱਡੀ ਜਾਂਚ ਦੇ ਮਾਮਲੇ ਲਈ ਸ਼ੁਰੂਆਤੀ ਨੋਟਿਸ ਇਸ ਗੱਲ ਦਾ ਹਾਈ-ਪੱਧਰੀ ਵੇਰਵਾ ਦੇਵੇਗਾ ਕਿ ਕੀ ਵਾਪਰਿਆ ਸੀ, ਇਹ ਦੱਸੇਗਾ ਕਿ ਕੀ ਬਾਹਰੀ ਮਾਹਰ ਜਾਂਚ ਵਿੱਚ ਸਹਾਇਤਾ ਕਰ ਰਹੇ ਹਨ, ਅਤੇ ਅੰਤਿਮ ਰਿਪੋਰਟ ਪ੍ਰਕਾਸ਼ਤ ਕਰਨ ਦੀ ਉਮੀਦ ਬਾਰੇ ਕੋਈ ਵੀ ਉਪਲਬਧ ਅੰਦਾਜ਼ਾ ਪ੍ਰਦਾਨ ਕਰੇਗਾ। ਜੇਕਰ OpenAI ਦੀ Hugging Face ਘਟਨਾ ਨੂੰ ਇਸ ਢਾਂਚੇ ਤਹਿਤ ਉਜਾਗਰ ਕੀਤਾ ਜਾਂਦਾ, ਤਾਂ ਇਹ ਇਸੇ ਟਰੈਕ ਦੇ ਅਧੀਨ ਆਉਂਦੀ।
ਜਿਸ ਕਰਮਚਾਰੀ ਨੇ ਇਹ ਮਿਸਾਲ ਸਾਹਮਣੇ ਲਿਆਂਦੀ ਸੀ, ਉਸ ਨੂੰ ਇਸ ਬਾਰੇ ਫ਼ੈਸਲੇ ਤੋਂ ਜਾਣੂ ਕਰਵਾਇਆ ਜਾਵੇਗਾ ਕਿ ਇਸ ਦਾ ਖੁਲਾਸਾ ਕੀਤਾ ਜਾਣਾ ਹੈ ਜਾਂ ਨਹੀਂ, ਅਤੇ ਜੇਕਰ ਖੁਲਾਸਾ ਕਰਨ ਦੀ ਪ੍ਰਕਿਰਿਆ ਅੱਗੇ ਵਧਦੀ ਹੈ, ਤਾਂ ਇਹ ਕਿਸ ਰਾਹ ਦੀ ਪਾਲਣਾ ਕਰੇਗੀ। ਖੁਲਾਸਾ ਕਰਨ ਜਾਂ ਢੁਕਵੀਂ ਪ੍ਰਕਿਰਿਆ ਬਾਰੇ ਅਣਸੁਲਝੇ ਮਤਭੇਦਾਂ ਨੂੰ OpenAI ਦੇ ਸਲਾਮਤੀ ਸਲਾਹਕਾਰ ਸਮੂਹ (SAG) ਕੋਲ ਭੇਜਿਆ ਜਾਵੇਗਾ, ਜੋ ਕਿ ਕੰਪਨੀ ਭਰ ਦੇ ਸੀਨੀਅਰ ਅਧਿਕਾਰੀਆਂ ਦਾ ਇੱਕ ਸਮੂਹ ਹੈ ਜੋ ਅਤਿ-ਆਧੁਨਿਕ ਮਾਡਲ ਸਮਰੱਥਾਵਾਂ ਅਤੇ ਸੁਰੱਖਿਆ ਉਪਾਵਾਂ ਦਾ ਮੁਲਾਂਕਣ ਕਰਦਾ ਹੈ, ਸਾਡੇ ਪ੍ਰਿਪੇਅਰਡਨੈਸ ਫ੍ਰੇਮਵਰਕ ਦੀ ਨਿਗਰਾਨੀ ਕਰਦਾ ਹੈ, ਅਤੇ OpenAI ਲੀਡਰਸ਼ਿਪ ਨੂੰ ਸਲਾਹ ਦਿੰਦਾ ਹੈ। SAG ਦੇ ਅੰਦਰੂਨੀ ਮਤਭੇਦਾਂ, ਜਾਂ ਇਸ ਦੇ ਫ਼ੈਸਲਿਆਂ ਪ੍ਰਤੀ ਕਰਮਚਾਰੀਆਂ ਦੇ ਇਤਰਾਜ਼ਾਂ ਨੂੰ OpenAI ਲੀਡਰਸ਼ਿਪ ਤੱਕ ਪਹੁੰਚਾਇਆ ਜਾਵੇਗਾ। ਖੁਲਾਸਾ ਨਾ ਕਰਨ ਜਾਂ ਖੁਲਾਸੇ ਨੂੰ ਜਾਇਜ਼ ਨਾ ਮੰਨਣ ਦੇ ਫ਼ੈਸਲੇ ਸੁਰੱਖਿਆ ਅਤੇ ਇਕਸਾਰਤਾ ਲੀਡਰਸ਼ਿਪ ਨਾਲ ਅਤੇ, ਜਿੱਥੋਂ ਤੱਕ ਸੰਭਵ ਹੋਵੇ, ਸੰਬੰਧਿਤ ਤਕਨੀਕੀ ਕਰਮਚਾਰੀਆਂ ਨਾਲ ਸਾਂਝੇ ਕੀਤੇ ਜਾਣਗੇ।
ਜਿਵੇਂ-ਜਿਵੇਂ ਅਸੀਂ ਅਭਿਆਸ ਵਿੱਚ ਇਹ ਸਿੱਖਾਂਗੇ ਕਿ ਇਹ ਕਿਵੇਂ ਕੰਮ ਕਰਦਾ ਹੈ, ਅਸੀਂ ਇਸ ਖੁਲਾਸਾ ਪ੍ਰਕਿਰਿਆ ਵਿੱਚ ਸੋਧ ਕਰ ਸਕਦੇ ਹਾਂ, ਅਤੇ ਇਸ ਪੋਸਟ ਵਿੱਚ ਕਿਸੇ ਵੀ ਬਦਲਾਅ ਨੂੰ ਦਰਜ ਕਰਾਂਗੇ।
ਹਰੇਕ ਪੂਰੀ ਰਿਪੋਰਟ ਵਿੱਚ ਸਾਡੇ ਵੱਲੋਂ ਦੇਖੇ ਗਏ ਵਿਵਹਾਰ, ਇਸਦੀ ਗੰਭੀਰਤਾ ਅਤੇ ਕਿਸੇ ਵੀ ਬਾਹਰੀ ਪ੍ਰਭਾਵ, ਉਸ ਸਥਿਤੀ ਜਾਂ ਵਾਤਾਵਰਣ ਜਿਸ ਵਿੱਚ ਇਹ ਵਾਪਰੀ, ਇਸਦੀ ਮਿਤੀ ਜਾਂ ਮਿਤੀ-ਮਿਆਦ, ਸਾਨੂੰ ਇਸ ਬਾਰੇ ਕਦੋਂ ਪਤਾ ਲੱਗਾ, ਅਤੇ ਹਾਈ ਪੱਧਰ 'ਤੇ ਸ਼ਾਮਲ ਮਾਡਲ ਜਾਂ ਮਾਡਲਾਂ ਦਾ ਵਰਣਨ ਕੀਤਾ ਜਾਵੇਗਾ। ਜਿੱਥੇ ਵੀ ਸੰਭਵ ਹੋਵੇ, ਅਸੀਂ ਇਹ ਵੀ ਸਾਂਝਾ ਕਰਾਂਗੇ:
ਕੀ ਵਾਪਰਿਆ ਅਤੇ ਉਸ ਨਾਲ ਹੋਏ ਕਿਸੇ ਵੀ ਨੁਕਸਾਨ ਬਾਰੇ ਹੋਰ ਵੇਰਵੇ;
ਅਸੀਂ ਅਲਾਈਨਮੈਂਟ ਦੀ ਕਮੀ ਬਾਰੇ ਕਿਵੇਂ ਪਤਾ ਲਗਾਇਆ, ਅਤੇ ਸਾਡੀ ਜਾਂਚ ਦਾ ਦਾਇਰਾ;
ਇਕਸਾਰਤਾ ਖੋਜ ਅਤੇ ਤਕਨੀਕੀ AI ਸੁਰੱਖਿਆ ਲਈ ਇਸਦੇ ਪ੍ਰਭਾਵਾਂ ਬਾਰੇ ਸਾਡੀ ਵਿਆਖਿਆ;
ਇਸ ਉਦਾਹਰਣ ਦੁਆਰਾ ਖੜ੍ਹੇ ਕੀਤੇ ਗਏ ਮਹੱਤਵਪੂਰਨ ਅਣਸੁਲਝੇ ਸਵਾਲ;
ਇਸ ਵਿਵਹਾਰ ਨਾਲ ਨਜਿੱਠਣ ਲਈ ਅਸੀਂ ਜਿਹੜੇ ਉਪਾਅ ਕਰ ਰਹੇ ਹਾਂ ਜਾਂ ਕਰਨ ਦੀ ਯੋਜਨਾ ਬਣਾ ਰਹੇ ਹਾਂ। ਖੁਲਾਸੇ ਵੇਲੇ ਇਹ ਜਾਣਕਾਰੀ ਹਮੇਸ਼ਾ ਉਪਲਬਧ ਨਹੀਂ ਹੋ ਸਕਦੀ ਕਿਉਂਕਿ ਹੋ ਸਕਦਾ ਹੈ ਕਿ ਅਸੀਂ ਜਾਂਚ ਪੂਰੀ ਕਰਨ ਜਾਂ ਕੋਈ ਹੱਲ ਵਿਕਸਤ ਕਰਨ ਤੋਂ ਪਹਿਲਾਂ ਹੀ ਅਲਾਈਨਮੈਂਟ ਦੀ ਕਮੀ ਬਾਰੇ ਰਿਪੋਰਟ ਪ੍ਰਕਾਸ਼ਤ ਕਰ ਦੇਈਏ।
ਗਾਹਕਾਂ ਦੀਆਂ ਤੈਨਾਤੀਆਂ ਵਿੱਚ ਹੋਣ ਵਾਲੀ ਅਲਾਈਨਮੈਂਟ ਦੀ ਕਮੀ ਲਈ, ਅਸੀਂ ਉੱਨੀ ਹੀ ਵੱਧ ਤੋਂ ਵੱਧ ਜਾਣਕਾਰੀ ਸਾਂਝੀ ਕਰਾਂਗੇ, ਜਿੰਨੀ ਗਾਹਕ ਦੀ ਨਿੱਜਤਾ ਅਤੇ ਸਾਡੀਆਂ ਇਕਰਾਰਨਾਮੇ ਦੀਆਂ ਜ਼ਿੰਮੇਵਾਰੀਆਂ ਇਜਾਜ਼ਤ ਦਿੰਦੀਆਂ ਹਨ।
ਅੱਜ ਦੀਆਂ ਰਿਪੋਰਟਾਂ ਕਿਸੇ ਜਾਣੇ-ਪਛਾਣੇ ਅਲਾਈਨਮੈਂਟ ਦੀ ਕਮੀ ਜਾਂ ਚੱਲ ਰਹੀਆਂ ਜਾਂਚਾਂ ਦਾ ਕੋਈ ਵਿਆਪਕ ਵੇਰਵਾ ਹੋਣ ਦੀ ਬਜਾਏ, ਖੁਲਾਸਿਆਂ ਦਾ ਇੱਕ ਸ਼ੁਰੂਆਤੀ ਸੈੱਟ ਹਨ। ਇਹ ਸ਼ੁਰੂਆਤੀ ਰਿਪੋਰਟਾਂ ਇਸ ਫ੍ਰੇਮਵਰਕ ਦੁਆਰਾ ਕਵਰ ਕੀਤੇ ਗਏ ਮਾਮਲਿਆਂ ਦੀ ਪੂਰੀ ਰੇਂਜ ਜਾਂ ਗੰਭੀਰਤਾ ਨੂੰ ਦਰਸਾਉਣ ਲਈ ਨਹੀਂ ਹਨ। ਅਸੀਂ ਇਸ ਫ੍ਰੇਮਵਰਕ ਦੇ ਮਾਪਦੰਡਾਂ ਨੂੰ ਪੂਰਾ ਕਰਨ ਵਾਲੀ ਅਲਾਈਨਮੈਂਟ ਦੀ ਕਮੀ ਦੇ ਮਾਮਲਿਆਂ ਦਾ ਖੁਲਾਸਾ ਕਰਨ ਲਈ ਵਚਨਬੱਧ ਹਾਂ, ਜਿਸ ਵਿੱਚ ਹੋਰ ਗੁੰਝਲਦਾਰ ਮਾਮਲੇ ਵੀ ਸ਼ਾਮਲ ਹਨ, ਜਿਨ੍ਹਾਂ ਲਈ ਲੰਬੀ ਜਾਂਚ ਜਾਂ ਤੀਜੀਆਂ ਧਿਰਾਂ ਨਾਲ ਤਾਲਮੇਲ ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ। ਅਸੀਂ ਇਸ ਫ੍ਰੇਮਵਰਕ ਤਹਿਤ ਲਗਾਤਾਰ ਰਿਪੋਰਟਾਂ ਪ੍ਰਕਾਸ਼ਤ ਕਰਦੇ ਰਹਾਂਗੇ, ਅਤੇ ਜਿਵੇਂ-ਜਿਵੇਂ ਅਸੀਂ ਆਪਣੀ ਰਿਪੋਰਟਿੰਗ ਪ੍ਰਤੀ ਵਚਨਬੱਧਤਾਵਾਂ ਨੂੰ ਵਿਕਸਤ ਕਰਾਂਗੇ, ਉਨ੍ਹਾਂ ਬਾਰੇ ਹੋਰ ਜਾਣਕਾਰੀ ਵੀ ਸਾਂਝੀ ਕਰਾਂਗੇ।
