NTIA AI Accountability Policy ਬਾਰੇ ਟਿੱਪਣੀ

OpenAI ਨੂੰ National Telecommunications and Information Administration (NTIA) ਵੱਲੋਂ 13 ਅਪ੍ਰੈਲ, 2023 ਨੂੰ AI Accountability Policy ਬਾਰੇ ਟਿੱਪਣੀਆਂ ਲਈ ਜਾਰੀ ਕੀਤੀ ਬੇਨਤੀ (RFC) ਦਾ ਜਵਾਬ ਦੇਣ ਵਿੱਚ ਖੁਸ਼ੀ ਹੈ।

ਇਸ ਟਿੱਪਣੀ ਵਿੱਚ, ਅਸੀਂ AI ਜਵਾਬਦੇਹੀ ਬਾਰੇ ਆਪਣੀ ਸੋਚ ਦਾ ਵਰਣਨ ਕਰਦੇ ਹਾਂ, ਜੋ ਉਹਨਾਂ ਸੁਰੱਖਿਆ ਪ੍ਰਥਾਵਾਂ ’ਤੇ ਆਧਾਰਿਤ ਹੈ ਜੋ ਅਸੀਂ ਅੱਜ ਪ੍ਰਦਾਨ ਕੀਤੀਆਂ ਸੇਵਾਵਾਂ ’ਤੇ ਲਾਗੂ ਕਰਦੇ ਹਾਂ, ਅਤੇ ਉਹਨਾਂ ਪ੍ਰਥਾਵਾਂ ’ਤੇ ਜੋ ਅਸੀਂ ਭਵਿੱਖ ਵਿੱਚ ਪੇਸ਼ ਕਰਨ ਦੀ ਉਮੀਦ ਵਾਲੀਆਂ ਸੇਵਾਵਾਂ ’ਤੇ ਲਾਗੂ ਕਰਨ ਦੀ ਯੋਜਨਾ ਰੱਖਦੇ ਹਾਂ। ਅਸੀਂ NTIA ਦੇ ਇਸ ਫੈਸਲੇ ਦਾ ਸਵਾਗਤ ਕਰਦੇ ਹਾਂ ਕਿ ਇਸ ਚਰਚਾ ਨੂੰ AI ਜਵਾਬਦੇਹੀ ਦੇ ਇੱਕ “ecosystem” ਦੇ ਰੂਪ ਵਿੱਚ ਪੇਸ਼ ਕੀਤਾ ਗਿਆ ਹੈ। ਜਿਵੇਂ RFC ਵਿੱਚ ਕਿਹਾ ਗਿਆ ਹੈ, ਨੀਤੀ ਹਿੱਸੇਦਾਰ “ਭਰੋਸੇਯੋਗ AI ਸਿਸਟਮ ਟੀਚਿਆਂ ਅਤੇ ਤੈਨਾਤੀ ਸੰਦਰਭਾਂ ਦੀ ਇੱਕ ਵਿਸ਼ਾਲ ਸ਼੍ਰੇਣੀ” ਦੀ ਪੜਤਾਲ ਕਰ ਰਹੇ ਹਨ।¹ ਜਵਾਬਦੇਹੀ ਹਾਸਲ ਕਰਨ ਲਈ ਬਣਾਈਆਂ ਨੀਤੀਆਂ ਅਤੇ ਪ੍ਰਥਾਵਾਂ ਇਸ ਅਨੁਸਾਰ ਵੱਖਰੀਆਂ ਹੋਣਗੀਆਂ। ਇਸੇ ਵੇਲੇ, ਖਾਸ ਜਵਾਬਦੇਹੀ ਉਪਾਅਾਂ ਨੂੰ ਇਕ-ਦੂਜੇ ਨਾਲ ਇਕੱਠੇ ਮੌਜੂਦ ਰਹਿਣ ਦੀ ਲੋੜ ਹੋਵੇਗੀ, ਅਤੇ ਸਭ ਤੋਂ ਵੱਧ ਮਹੱਤਵਪੂਰਨ ਉਹ ਪ੍ਰਭਾਵ ਹੈ ਜੋ ਇਹ ਮਿਲ ਕੇ ਪੈਦਾ ਕਰਦੇ ਹਨ।

ਸਾਡੇ ਵਿਸ਼ਵਾਸ ਅਨੁਸਾਰ, AI ਜਵਾਬਦੇਹੀ ਲਈ ਇੱਕ ਪੱਕੇ ecosystem ਵਿੱਚ ਹੋਰਿਜ਼ਾਂਟਲ ਅਤੇ ਵਰਟਿਕਲ ਦੋਵੇਂ ਤੱਤ ਸ਼ਾਮਲ ਹੋਣਗੇ। ਅਰਥਾਤ, ਅਸੀਂ ਉਮੀਦ ਕਰਦੇ ਹਾਂ ਕਿ ਕੁਝ ਤੱਤ ਵੱਖ-ਵੱਖ ਐਪਲੀਕੇਸ਼ਨ ਖੇਤਰਾਂ ਵਿੱਚ ਕੁਝ AI ਸਿਸਟਮਾਂ ’ਤੇ ਲਾਗੂ ਹੋਣਗੇ, ਅਤੇ ਕੁਝ ਤੱਤ ਖਾਸ ਖੇਤਰਾਂ ਮੁਤਾਬਕ ਤਿਆਰ ਕੀਤੇ ਜਾਣਗੇ। ਅਸੀਂ ਬਹੁਤ ਸਮਰੱਥ ਫਾਊਂਡੇਸ਼ਨ ਮਾਡਲਾਂ ਦੇ ਵਿਕਾਸ ਅਤੇ ਤੈਨਾਤੀ ਵਿੱਚ ਲੱਗੇ ਹੋਏ ਹਾਂ—ਅਜਿਹੇ ਮਾਡਲ ਜੋ ਵੱਡੀ ਮਾਤਰਾ ਦੇ ਡਾਟਾ ਤੋਂ ਸਿੱਖਦੇ ਹਨ ਤਾਂ ਜੋ ਉਹ ਵੱਖ-ਵੱਖ ਡਾਊਨਸਟ੍ਰੀਮ ਕੰਮ ਕਰ ਸਕਣ। ਸਾਡੇ ਵਿਚਾਰ ਵਿੱਚ, ਸਾਡੇ ਵਰਗੇ AI ਡਿਵੈਲਪਰਾਂ ਲਈ ਲਾਜ਼ਮੀ ਹੈ ਕਿ ਉਹ ਜ਼ਿੰਮੇਵਾਰੀ ਨਾਲ ਕੰਮ ਕਰਨ ਅਤੇ ਸਭ ਤੋਂ ਉੱਚੀ ਸਮਰੱਥਾ ਵਾਲੀਆਂ ਯੋਗਤਾਵਾਂ ਦੇ ਵਿਕਾਸ ਅਤੇ ਤੈਨਾਤੀ ਲਈ ਸਾਵਧਾਨ ਅਤੇ ਸੁਰੱਖਿਆ-ਕੇਂਦ੍ਰਿਤ ਦ੍ਰਿਸ਼ਟੀਕੋਣ ਅਪਣਾਉਣ। ਇਹ ਗੱਲ ਇਸ ਤੋਂ ਬੇਪਰਵਾਹ ਸਹੀ ਹੈ ਕਿ ਅਜਿਹੇ ਮਾਡਲ ਕਿਸ ਖੇਤਰ ਵਿੱਚ ਵਰਤੇ ਜਾ ਸਕਦੇ ਹਨ।

ਮੌਜੂਦਾ ਕਾਨੂੰਨਾਂ ਦੀ ਇੱਕ ਵੱਡੀ ਸ਼੍ਰੇਣੀ ਪਹਿਲਾਂ ਹੀ AI ’ਤੇ ਲਾਗੂ ਹੁੰਦੀ ਹੈ—ਸਾਡੇ ਉਤਪਾਦਾਂ ’ਤੇ ਵੀ—ਅਤੇ ਕਾਨੂੰਨੀ ਦ੍ਰਿਸ਼ਯ ਤੇਜ਼ੀ ਨਾਲ ਬਦਲ ਰਿਹਾ ਹੈ, ਜਿਸ ਵਿੱਚ ਕਾਂਗਰਸ ਵਿੱਚ ਵਿਧਾਨਿਕ ਪਹਿਲਾਂ, ਯੂਰਪ ਵਿੱਚ ਵਿਕਾਸ ਅਧੀਨ AI Act, ਅਤੇ ਦੁਨੀਆ ਭਰ ਵਿੱਚ ਚੱਲ ਰਹੀਆਂ ਕਾਨੂੰਨੀ ਅਤੇ ਨੀਤੀ ਪਹਿਲਾਂ ਸ਼ਾਮਲ ਹਨ। ਇਸੇ ਵੇਲੇ, ਦਵਾਈ, ਸਿੱਖਿਆ ਅਤੇ ਰੋਜ਼ਗਾਰ ਵਰਗੇ ਖੇਤਰਾਂ ਵਿੱਚ ਕਾਨੂੰਨ, ਨਿਯਮਾਵਲੀ ਅਤੇ ਹੋਰ ਉਮੀਦਾਂ ਦੇ ਲੰਬੇ ਸਮੇਂ ਤੋਂ ਸਥਾਪਿਤ ਢਾਂਚਿਆਂ ਦੀ ਪਹਿਲਾਂ ਹੀ ਵਿਆਖਿਆ ਅਤੇ ਅਨੁਕੂਲਤਾ ਕੀਤੀ ਜਾ ਰਹੀ ਹੈ, ਜੋ ਇਹ ਨਿਰਧਾਰਤ ਕਰਨਗੇ ਕਿ ਉਹਨਾਂ ਖੇਤਰਾਂ ਵਿੱਚ AI ਦੀ ਕੀ ਭੂਮਿਕਾ ਹੋਵੇਗੀ। ਅਸੀਂ ਇਨ੍ਹਾਂ ਖੇਤਰ-ਵਿਸ਼ੇਸ਼ ਯਤਨਾਂ ਨੂੰ, ਜੋ ਡੂੰਘੀ ਖੇਤਰਕ ਮਹਾਰਤ ਨਾਲ ਪ੍ਰੇਰਿਤ ਹਨ, AI ਜਵਾਬਦੇਹੀ ਦੇ ਦ੍ਰਿਸ਼ਯ ਦਾ ਇੱਕ ਅਤਿ ਮਹੱਤਵਪੂਰਨ ਹਿੱਸਾ ਮੰਨਦੇ ਹਾਂ।

ਅਸੀਂ AI ਲਈ ਉਭਰ ਰਹੀਆਂ ਜਵਾਬਦੇਹੀ ਉਮੀਦਾਂ ਨੂੰ ਸੁਮੇਲਿਤ ਕਰਨ ਦੇ ਯਤਨਾਂ ਦਾ ਪੂਰਾ ਸਮਰਥਨ ਕਰਦੇ ਹਾਂ, ਜਿਸ ਵਿੱਚ NIST AI Risk Management Framework, U.S.-E.U. Trade and Technology Council ਅਤੇ ਹੋਰ ਕਈ ਗਲੋਬਲ ਪਹਿਲਾਂ ਦੇ ਯਤਨ ਸ਼ਾਮਲ ਹਨ। ਜਦੋਂ ਤੱਕ ਇਹ ਯਤਨ ਅੱਗੇ ਵੱਧ ਰਹੇ ਹਨ, ਅਤੇ ਨਵੇਂ ਕਾਨੂੰਨ ਪੂਰੀ ਤਰ੍ਹਾਂ ਲਾਗੂ ਹੋਣ ਤੋਂ ਪਹਿਲਾਂ ਵੀ, ਅਸੀਂ ਆਪਣੇ ਅਤੇ ਹੋਰ ਕੰਪਨੀਆਂ ਲਈ ਪ੍ਰੀ-ਡਿਪਲੋਇਮੈਂਟ ਟੈਸਟਿੰਗ, ਸਮੱਗਰੀ ਸਰੋਤ-ਪਤਾ ਅਤੇ trust and safety ਵਰਗੇ ਮੁੱਦਿਆਂ ’ਤੇ ਸਵੈਛਿਕ ਵਚਨਬੱਧਤਾਵਾਂ ਕਰਨ ਦੀ ਭੂਮਿਕਾ ਵੇਖਦੇ ਹਾਂ।

ਸਾਡਾ ਮੌਜੂਦਾ ਇੰਜੀਨੀਅਰਿੰਗ ਦ੍ਰਿਸ਼ਟੀਕੋਣ ਕੰਪਿਊਟਿੰਗ ਸਰੋਤਾਂ ਦੇ ਵਿਲੱਖਣ ਪੱਧਰ ਦੀ ਮੰਗ ਕਰਦਾ ਹੈ, ਅਤੇ ਅਸੀਂ ਇਸਨੂੰ ਅਜਿਹੀਆਂ ਵਾਧੂ ਅਤੇ ਵਿਲੱਖਣ ਜਵਾਬਦੇਹੀ ਉਮੀਦਾਂ ਨੂੰ ਪਰਿਭਾਸ਼ਿਤ ਕਰਨ ਲਈ ਇੱਕ ਉਮੀਦਜਨਕ ਆਧਾਰ ਮੰਨਦੇ ਹਾਂ ਜੋ ਸਾਡੇ ਵਰਗੇ ਅਦਾਕਾਰਾਂ ’ਤੇ ਲਾਗੂ ਹੋਣ। ਅਸੀਂ ਬਹੁਤ ਸਮਰੱਥ ਫਾਊਂਡੇਸ਼ਨ ਮਾਡਲਾਂ ਲਈ ਕਿਸੇ ਵੀ ਨਵੇਂ ਨਿਯਮਨ ਦੀ ਸੀਮਾ ਧਿਆਨ ਨਾਲ ਨਿਰਧਾਰਤ ਕਰਨ ਦਾ ਸਮਰਥਨ ਕਰਦੇ ਹਾਂ, ਤਾਂ ਜੋ ਸਾਰੇ ਅਦਾਕਾਰਾਂ ਲਈ ਨਿਰਪੱਖ ਮੁਕਾਬਲਾ ਅਤੇ ਨਵੀਨਤਾ ਦੀ ਸਮਰੱਥਾ ਬਰਕਰਾਰ ਰਹੇ।

ਜਵਾਬਦੇਹੀ ਤਕਨਾਲੋਜੀ ਜੀਵਨਚੱਕਰ ਭਰ ਵਿੱਚ ਭੂਮਿਕਾ ਨਿਭਾਉਂਦੀ ਹੈ। ਆਪਣੇ ਮਾਡਲਾਂ ਨੂੰ ਸੁਰੱਖਿਅਤ ਅਤੇ ਭਰੋਸੇਯੋਗ ਬਣਾਉਣ ਲਈ ਸਾਡੇ ਯਤਨ ਵਿਕਾਸ ਸ਼ੁਰੂ ਹੋਣ ਤੋਂ ਪਹਿਲਾਂ ਹੀ ਸ਼ੁਰੂ ਹੋ ਜਾਂਦੇ ਹਨ, ਸਾਡੇ ਮਾਡਲਾਂ ਦੀ ਤੈਨਾਤੀ ਅਤੇ ਸੰਚਾਲਨ ਦੌਰਾਨ ਜਾਰੀ ਰਹਿੰਦੇ ਹਨ, ਅਤੇ ਬਹੁਤ ਸਮਰੱਥ ਫਾਊਂਡੇਸ਼ਨ ਮਾਡਲਾਂ ਦੇ ਨਿਰਮਾਤਾਵਾਂ ਅਤੇ ਵਰਤੋਂਕਾਰਾਂ ਦੋਵਾਂ ਨੂੰ ਸੰਬੋਧਦੇ ਹਨ। ਅਸੀਂ ਡਿਵੈਲਪਰਾਂ ਨੂੰ ਉਨ੍ਹਾਂ ਦੀਆਂ ਐਪਲੀਕੇਸ਼ਨਾਂ ਲਈ ਵਿਸ਼ਵ-ਅਗੇਤਾਰ ਸਮਰੱਥਾਵਾਂ ਦਿੰਦੇ ਹਾਂ, ਅਤੇ ਹਰ ਰੋਜ਼ ChatGPT ਅਤੇ ਸਾਡੀਆਂ ਹੋਰ ਸੇਵਾਵਾਂ ਵਰਤਣ ਵਾਲੇ ਲੱਖਾਂ ਲੋਕਾਂ ਨੂੰ ਸਿੱਧੀਆਂ ਸ਼ਕਤੀਸ਼ਾਲੀ ਸਮਰੱਥਾਵਾਂ ਪ੍ਰਦਾਨ ਕਰਦੇ ਹਾਂ। ਸਾਡੀਆਂ ਵਰਤੋਂ ਨੀਤੀਆਂ ਸਾਡੇ ਮਾਡਲਾਂ, ਟੂਲਾਂ ਅਤੇ ਸੇਵਾਵਾਂ ਦੇ ਸਾਰੇ ਵਰਤੋਂਕਾਰਾਂ ’ਤੇ ਲਾਗੂ ਹੁੰਦੀਆਂ ਹਨ।² ਅਸੀਂ ਮੌਜੂਦਾ ਕਾਨੂੰਨਾਂ ਦੀ ਪਾਲਣਾ ਕਰਦੇ ਹਾਂ ਅਤੇ ਆਪਣੇ ਡਿਵੈਲਪਰਾਂ ਅਤੇ ਵਰਤੋਂਕਾਰਾਂ ਤੋਂ ਵੀ ਮੰਗ ਕਰਦੇ ਹਾਂ ਕਿ ਉਹ ਸਾਡੀਆਂ ਸੇਵਾਵਾਂ ਵਰਤਦੇ ਸਮੇਂ ਅਜਿਹਾ ਕਰਨ।

ਇਸ ਟਿੱਪਣੀ ਦੇ ਬਾਕੀ ਹਿੱਸੇ ਵਿੱਚ ਅਸੀਂ AI ਜਵਾਬਦੇਹੀ ਲਈ ਆਪਣੇ ਮੌਜੂਦਾ ਤਰੀਕਿਆਂ ’ਤੇ ਧਿਆਨ ਕੇਂਦ੍ਰਿਤ ਕਰਦੇ ਹਾਂ, ਅਤੇ ਉਹ ਮਹੱਤਵਪੂਰਨ ਖੇਤਰ ਦਰਸਾਉਂਦੇ ਹਾਂ ਜਿੱਥੇ ਅਸੀਂ ਅਤੇ ਹੋਰ ਲੋਕ ecosystem ਨੂੰ ਮਜ਼ਬੂਤ ਕਰਨ ਲਈ ਕੰਮ ਕਰ ਰਹੇ ਹਾਂ। ਅਸੀਂ ਨੋਟ ਕਰਦੇ ਹਾਂ ਕਿ ਸੰਯੁਕਤ ਰਾਜ ਅਤੇ ਦੁਨੀਆ ਭਰ ਦੇ ਨੀਤਿਨਿਰਧਾਰਕ AI ਜਵਾਬਦੇਹੀ ਹਾਸਲ ਕਰਨ ਲਈ ਨੀਤੀਆਂ ਅਤੇ ਉਪਾਅਾਂ ਦੀ ਇੱਕ ਵਿਸ਼ਾਲ ਸ਼੍ਰੇਣੀ ’ਤੇ ਵਿਚਾਰ ਕਰ ਰਹੇ ਹਨ, ਜਿਸ ਵਿੱਚ ਕਾਨੂੰਨਸਾਜ਼ੀ, ਨਿਯਮਾਵਲੀ, ਅੰਤਰਰਾਸ਼ਟਰੀ ਸਮਝੌਤੇ, ਸਵੈ-ਨਿਯਮਨ ਪ੍ਰੋਗਰਾਮ ਅਤੇ ਲਾਗੂਯੋਗ ਤਕਨੀਕੀ ਅਤੇ ਹੋਰ ਮਿਆਰ ਸ਼ਾਮਲ ਹਨ। ਅਸੀਂ ਇਨ੍ਹਾਂ ਯਤਨਾਂ ਦੀ ਕਦਰ ਕਰਦੇ ਹਾਂ ਅਤੇ AI ਜਵਾਬਦੇਹੀ ਲਈ ਪ੍ਰਭਾਵਸ਼ਾਲੀ ਦ੍ਰਿਸ਼ਟੀਕੋਣਾਂ ਨੂੰ ਵਿਕਸਿਤ ਅਤੇ ਲਾਗੂ ਕਰਨ ਲਈ ਹੋਰ ਹਿੱਸੇਦਾਰਾਂ ਨਾਲ ਭਾਗੀਦਾਰੀ ਲਈ ਤਿਆਰ ਹਾਂ।

ਅਸੀਂ ਵਿਆਪਕ ਜਨਤਕ ਚਰਚਾ ਦੇ ਵਿਕਾਸ ਦੇ ਨਾਲ-ਨਾਲ ਆਪਣੀਆਂ ਪ੍ਰਥਾਵਾਂ ਨੂੰ ਸੁਧਾਰ ਰਹੇ ਹਾਂ। ਇੱਥੇ ਅਸੀਂ ਆਪਣੇ ਦ੍ਰਿਸ਼ਟੀਕੋਣ ਦੇ ਕਈ ਪੱਖਾਂ ਬਾਰੇ ਵੇਰਵਾ ਦਿੰਦੇ ਹਾਂ।

ਜਵਾਬਦੇਹ AI ਸਿਸਟਮ ਬਣਾਉਣ ਵਿੱਚ ਪਾਰਦਰਸ਼ਤਾ ਇੱਕ ਮਹੱਤਵਪੂਰਨ ਤੱਤ ਹੈ। ਜਵਾਬਦੇਹੀ ਲਈ ਸਾਡੇ ਦ੍ਰਿਸ਼ਟੀਕੋਣ ਦਾ ਇੱਕ ਮੁੱਖ ਹਿੱਸਾ ਇਹ ਹੈ ਕਿ ਅਸੀਂ ਨਵੇਂ AI ਸਿਸਟਮਾਂ ਲਈ, ਜਿਨ੍ਹਾਂ ਨੂੰ ਅਸੀਂ ਤੈਨਾਤ ਕਰਦੇ ਹਾਂ, ਇੱਕ ਦਸਤਾਵੇਜ਼ ਪ੍ਰਕਾਸ਼ਿਤ ਕਰਦੇ ਹਾਂ ਜਿਸਨੂੰ ਅਸੀਂ ਇਸ ਵੇਲੇ ਸਿਸਟਮ ਕਾਰਡ ਕਹਿੰਦੇ ਹਾਂ। ਸਾਡਾ ਇਹ ਦ੍ਰਿਸ਼ਟੀਕੋਣ ਮਾਡਲ ਕਾਰਡਾਂ ਅਤੇ ਸਿਸਟਮ ਕਾਰਡਾਂ ਬਾਰੇ ਪਹਿਲਾਂ ਹੋਏ ਖੋਜ ਕੰਮ ਤੋਂ ਪ੍ਰੇਰਣਾ ਲੈਂਦਾ ਹੈ।³ ਅੱਜ ਤੱਕ, OpenAI ਨੇ ਦੋ ਸਿਸਟਮ ਕਾਰਡ ਪ੍ਰਕਾਸ਼ਿਤ ਕੀਤੇ ਹਨ: GPT‑4 ਸਿਸਟਮ ਕਾਰਡ ਅਤੇ DALL-E 2 ਸਿਸਟਮ ਕਾਰਡ।⁴

ਸਾਡੇ ਮੱਤ ਅਨੁਸਾਰ, ਜ਼ਿਆਦਾਤਰ ਮਾਮਲਿਆਂ ਵਿੱਚ ਇਹ ਮਹੱਤਵਪੂਰਨ ਹੈ ਕਿ ਇਹ ਦਸਤਾਵੇਜ਼ ਸਿਰਫ਼ ਮਾਡਲ ਉੱਤੇ ਧਿਆਨ ਕੇਂਦ੍ਰਿਤ ਕਰਨ ਦੀ ਬਜਾਏ ਸਿਸਟਮ ਦੇ ਪ੍ਰਭਾਵਾਂ ਦਾ ਵਿਸ਼ਲੇਸ਼ਣ ਅਤੇ ਵਰਣਨ ਕਰਨ, ਕਿਉਂਕਿ ਸਿਸਟਮ ਦੇ ਪ੍ਰਭਾਵ ਹੱਦ ਤੱਕ ਮਾਡਲ ਤੋਂ ਇਲਾਵਾ ਹੋਰ ਕਾਰਕਾਂ ’ਤੇ ਵੀ ਨਿਰਭਰ ਕਰਦੇ ਹਨ, ਜਿਵੇਂ ਵਰਤੋਂ ਮਾਮਲਾ, ਸੰਦਰਭ ਅਤੇ ਅਸਲੀ ਦੁਨੀਆ ਦੀਆਂ ਪਰਸਪਰ ਕ੍ਰਿਆਵਾਂ। ਇਸੇ ਤਰ੍ਹਾਂ, AI ਸਿਸਟਮ ਦੇ ਪ੍ਰਭਾਵ ਨਿਵਾਰਕ ਉਪਾਅਾਂ ’ਤੇ ਵੀ ਨਿਰਭਰ ਕਰਦੇ ਹਨ, ਜਿਵੇਂ ਵਰਤੋਂ ਨੀਤੀਆਂ, ਪਹੁੰਚ ਨਿਯੰਤਰਣ ਅਤੇ ਦੁਰਵਰਤੋਂ ਦੀ ਨਿਗਰਾਨੀ। ਸਾਨੂੰ ਲੱਗਦਾ ਹੈ ਕਿ ਬਾਹਰੀ ਹਿੱਸੇਦਾਰਾਂ ਲਈ ਇਨ੍ਹਾਂ ਵਿਸ਼ਿਆਂ ਬਾਰੇ ਜਾਣਕਾਰੀ ਦੀ ਉਮੀਦ ਕਰਨੀ ਅਤੇ ਸਾਡੇ ਦ੍ਰਿਸ਼ਟੀਕੋਣ ਨੂੰ ਸਮਝਣ ਦਾ ਮੌਕਾ ਹੋਣਾ ਉਚਿਤ ਹੈ।

ਸਾਡੇ ਸਿਸਟਮ ਕਾਰਡਾਂ ਦਾ ਉਦੇਸ਼ ਪਾਠਕਾਂ ਨੂੰ ਉਹਨਾਂ ਮੁੱਖ ਕਾਰਕਾਂ ਬਾਰੇ ਜਾਣਕਾਰੀ ਦੇਣਾ ਹੈ ਜੋ ਸਿਸਟਮ ਦੇ ਵਿਹਾਰ ਨੂੰ ਪ੍ਰਭਾਵਿਤ ਕਰਦੇ ਹਨ, ਖਾਸਕਰ ਜ਼ਿੰਮੇਵਾਰ ਵਰਤੋਂ ਨਾਲ ਸੰਬੰਧਤ ਖੇਤਰਾਂ ਵਿੱਚ। ਅਸੀਂ ਪਾਇਆ ਹੈ ਕਿ ਸਿਸਟਮ ਕਾਰਡਾਂ ਅਤੇ ਇਸ ਤਰ੍ਹਾਂ ਦੇ ਦਸਤਾਵੇਜ਼ਾਂ ਦੀ ਮਹੱਤਤਾ ਸਿਰਫ਼ ਉਸ ਸੰਖੇਪ ਤੋਂ ਨਹੀਂ ਆਉਂਦੀ ਜੋ ਇਹ ਮਾਡਲ ਪ੍ਰਦਰਸ਼ਨ ਸਮੱਸਿਆਵਾਂ ਬਾਰੇ ਦਿੰਦੇ ਹਨ, ਸਗੋਂ ਉਹਨਾਂ ਉਦਾਹਰਣਾਂ ਤੋਂ ਵੀ ਆਉਂਦੀ ਹੈ ਜੋ ਇਹ ਪੇਸ਼ ਕਰਦੇ ਹਨ। ਅਜਿਹੀਆਂ ਉਦਾਹਰਣਾਂ ਵਰਤੋਂਕਾਰਾਂ ਅਤੇ ਡਿਵੈਲਪਰਾਂ ਨੂੰ ਵਰਣਿਤ ਸਿਸਟਮ ਦੇ ਪ੍ਰਦਰਸ਼ਨ ਅਤੇ ਖਤਰਿਆਂ, ਅਤੇ ਉਹਨਾਂ ਖਤਰਿਆਂ ਨੂੰ ਘਟਾਉਣ ਲਈ ਅਸੀਂ ਜੋ ਕਦਮ ਚੁੱਕਦੇ ਹਾਂ, ਬਾਰੇ ਹੋਰ ਅਧਾਰਭੂਤ ਸਮਝ ਦੇ ਸਕਦੀਆਂ ਹਨ। ਇਨ੍ਹਾਂ ਦਸਤਾਵੇਜ਼ਾਂ ਦੀ ਤਿਆਰੀ ਸਾਡੀਆਂ ਅੰਦਰੂਨੀ ਪ੍ਰਥਾਵਾਂ ਨੂੰ ਆਕਾਰ ਦੇਣ ਵਿੱਚ ਵੀ ਮਦਦ ਕਰਦੀ ਹੈ, ਅਤੇ ਉਨ੍ਹਾਂ ਲੋਕਾਂ ਲਈ ਉਹ ਪ੍ਰਥਾਵਾਂ ਦਰਸਾਉਂਦੀ ਹੈ ਜੋ AI ਲਈ ਜ਼ਿੰਮੇਵਾਰ ਦ੍ਰਿਸ਼ਟੀਕੋਣਾਂ ਨੂੰ ਕਾਰਗਰ ਬਣਾਉਣ ਦੇ ਤਰੀਕੇ ਲੱਭ ਰਹੇ ਹਨ।

ਰੈਡ ਟੀਮਿੰਗ ਉਹ ਪ੍ਰਕਿਰਿਆ ਹੈ ਜਿਸ ਵਿੱਚ ਅਸੀਂ ਆਪਣੇ ਮਾਡਲਾਂ ਅਤੇ ਸਿਸਟਮਾਂ ਨੂੰ ਵੱਖ-ਵੱਖ ਖੇਤਰਾਂ ਵਿੱਚ ਗੁਣਾਤਮਕ ਢੰਗ ਨਾਲ ਪਰਖਦੇ ਹਾਂ, ਤਾਂ ਜੋ ਆਪਣੇ ਮਾਡਲਾਂ ਦੀ ਸੁਰੱਖਿਆ ਪ੍ਰੋਫਾਈਲ ਬਾਰੇ ਹੋਰ ਸਮੂਹਿਕ ਦ੍ਰਿਸ਼ਟੀ ਬਣ ਸਕੇ। ਅਸੀਂ ਮਾਡਲ ਵਿਕਾਸ ਦੇ ਹਿੱਸੇ ਵਜੋਂ ਆਪਣੇ ਸਟਾਫ ਨਾਲ ਅੰਦਰੂਨੀ ਤੌਰ ’ਤੇ ਰੈਡ ਟੀਮਿੰਗ ਕਰਦੇ ਹਾਂ, ਅਤੇ ਉਹਨਾਂ ਲੋਕਾਂ ਨਾਲ ਵੀ ਜੋ ਪਰਖੇ ਜਾ ਰਹੇ ਸਿਸਟਮ ਨੂੰ ਬਣਾਉਣ ਵਾਲੀ ਟੀਮ ਤੋਂ ਸੁਤੰਤਰ ਤੌਰ ’ਤੇ ਕੰਮ ਕਰਦੇ ਹਨ। ਸਾਡੀ ਸੰਸਥਾ ਦੀ ਸਮਰੱਥਾ ਅਤੇ ਹਮਲਿਆਂ ਵਿਰੁੱਧ ਲਚੀਲੇਪਣ ਦੀ ਜਾਂਚ ਤੋਂ ਇਲਾਵਾ, ਰੈਡ ਟੀਮਾਂ ਸਟ੍ਰੈੱਸ ਟੈਸਟਿੰਗ ਅਤੇ ਬਾਊਂਡਰੀ ਟੈਸਟਿੰਗ ਤਰੀਕੇ ਵੀ ਵਰਤਦੀਆਂ ਹਨ, ਜੋ ਐਜ ਕੇਸਾਂ ਅਤੇ ਹੋਰ ਸੰਭਾਵੀ ਨਾਕਾਮੀ ਮੋਡਾਂ ਨੂੰ ਸਾਹਮਣੇ ਲਿਆਉਣ ’ਤੇ ਕੇਂਦ੍ਰਿਤ ਹੁੰਦੀਆਂ ਹਨ, ਜਿਨ੍ਹਾਂ ਨਾਲ ਨੁਕਸਾਨ ਹੋ ਸਕਦਾ ਹੈ।

ਰੈਡ ਟੀਮਿੰਗ, ਮਾਡਲ ਸਮਰੱਥਾਵਾਂ ਅਤੇ ਖਤਰਿਆਂ ਦੇ ਉਹਨਾਂ ਆਟੋਮੈਟਡ, ਗੁਣਾਤਮਕ ਮੁਲਾਂਕਨਾਂ ਦੀ ਪੂਰਕ ਹੈ ਜੋ ਅਸੀਂ ਵੀ ਕਰਦੇ ਹਾਂ ਅਤੇ ਜਿਨ੍ਹਾਂ ਦਾ ਵੇਰਵਾ ਅਸੀਂ ਅਗਲੇ ਭਾਗ ਵਿੱਚ ਦਿੰਦੇ ਹਾਂ। ਇਹ ਉਹਨਾਂ ਖਤਰਿਆਂ ’ਤੇ ਰੌਸ਼ਨੀ ਪਾ ਸਕਦੀ ਹੈ ਜੋ ਅਜੇ ਮਾਪਯੋਗ ਨਹੀਂ ਹਨ, ਜਾਂ ਜਿਨ੍ਹਾਂ ਲਈ ਹੋਰ ਮਿਆਰੀਕ੍ਰਿਤ ਮੁਲਾਂਕਨ ਹਾਲੇ ਵਿਕਸਿਤ ਨਹੀਂ ਹੋਏ। ਰੈਡ ਟੀਮਿੰਗ ਬਾਰੇ ਸਾਡਾ ਪਹਿਲਾਂ ਦਾ ਕੰਮ DALL-E 2 ਸਿਸਟਮ ਕਾਰਡ ਅਤੇ GPT‑4 ਸਿਸਟਮ ਕਾਰਡ ਵਿੱਚ ਵਰਣਿਤ ਹੈ।

ਸਾਡੀ ਰੈਡ ਟੀਮਿੰਗ ਅਤੇ ਟੈਸਟਿੰਗ ਆਮ ਤੌਰ ’ਤੇ ਕਿਸੇ ਨਵੇਂ ਮਾਡਲ ਜਾਂ ਸਿਸਟਮ ਦੇ ਵਿਕਾਸ ਚਰਨ ਦੌਰਾਨ ਕੀਤੀ ਜਾਂਦੀ ਹੈ। ਆਪਣੀ ਅੰਦਰੂਨੀ ਟੈਸਟਿੰਗ ਤੋਂ ਵੱਖਰੇ ਤੌਰ ’ਤੇ, ਅਸੀਂ OpenAI ਤੋਂ ਬਾਹਰ ਦੇ ਟੈਸਟਰਾਂ ਦੀ ਭਰਤੀ ਕਰਦੇ ਹਾਂ ਅਤੇ ਉਨ੍ਹਾਂ ਨੂੰ ਵਿਕਾਸ ਅਧੀਨ ਸਿਸਟਮ ਤੱਕ ਸ਼ੁਰੂਆਤੀ ਪਹੁੰਚ ਦਿੰਦੇ ਹਾਂ। ਟੈਸਟਰਾਂ ਦੀ ਚੋਣ OpenAI ਵੱਲੋਂ ਰੁਚੀ ਦੇ ਖੇਤਰਾਂ ਵਿੱਚ ਪਿਛਲੇ ਕੰਮ ਦੇ ਆਧਾਰ ’ਤੇ ਕੀਤੀ ਜਾਂਦੀ ਹੈ, ਅਤੇ ਇਹ ਆਮ ਤੌਰ ’ਤੇ ਅਕਾਦਮਿਕ ਖੋਜਕਰਤਿਆਂ ਅਤੇ ਉਦਯੋਗਿਕ ਪੇਸ਼ੇਵਰਾਂ ਦਾ ਸੰਯੋਗ ਰਹੇ ਹਨ (ਜਿਵੇਂ ਕਿ Trust & Safety ਸੈਟਿੰਗਾਂ ਵਿੱਚ ਕੰਮ ਦਾ ਅਨੁਭਵ ਰੱਖਣ ਵਾਲੇ ਲੋਕ)। ਅਸੀਂ ਇਨ੍ਹਾਂ ਟੈਸਟਾਂ ਦੇ ਨਤੀਜਿਆਂ ਦਾ ਮੁਲਾਂਕਨ ਅਤੇ ਪ੍ਰਮਾਣੀਕਰਨ ਕਰਦੇ ਹਾਂ, ਅਤੇ ਜਿੱਥੇ ਉਚਿਤ ਹੋਵੇ ਉੱਥੇ ਸੋਧਾਂ ਅਤੇ ਨਿਵਾਰਕ ਕਦਮ ਲਾਗੂ ਕਰਦੇ ਹਾਂ।

OpenAI ਚੱਲ ਰਹੇ ਅਤੇ ਭਵਿੱਖ ਦੇ ਮੁਲਾਂਕਨਾਂ ਲਈ ਬਾਹਰੀ ਟੈਸਟਰਾਂ ਦੀ ਗੁਣਵੱਤਾ, ਵਿਭਿੰਨਤਾ ਅਤੇ ਅਨੁਭਵ ਨੂੰ ਸੁਧਾਰਨ ਲਈ ਕਦਮ ਚੁੱਕਦਾ ਰਹਿੰਦਾ ਹੈ।

ਉੱਪਰ ਵਰਣਿਤ ਗੁਣਾਤਮਕ ਰੈਡ ਟੀਮਿੰਗ ਤੋਂ ਇਲਾਵਾ, ਅਸੀਂ ਵੱਖ-ਵੱਖ ਸਮਰੱਥਾਵਾਂ ਅਤੇ ਸੁਰੱਖਿਆ-ਕੇਂਦ੍ਰਿਤ ਖਤਰਿਆਂ ਲਈ ਆਟੋਮੈਟਡ, ਮਾਤਰਾਤਮਕ ਮੁਲਾਂਕਨ ਤਿਆਰ ਕਰਦੇ ਹਾਂ, ਜਿਨ੍ਹਾਂ ਵਿੱਚ ਉਹ ਖਤਰੇ ਵੀ ਸ਼ਾਮਲ ਹਨ ਜੋ ਸਾਨੂੰ ਰੈਡ ਟੀਮਿੰਗ ਵਰਗੇ ਤਰੀਕਿਆਂ ਰਾਹੀਂ ਮਿਲਦੇ ਹਨ। ਇਹ ਮੁਲਾਂਕਨ ਸਾਨੂੰ ਆਪਣੇ ਮਾਡਲਾਂ ਦੇ ਵੱਖ-ਵੱਖ ਵਰਜਨਾਂ ਦੀ ਆਪਸੀ ਤੁਲਨਾ ਕਰਨ, ਸੁਰੱਖਿਆ ਨੂੰ ਸੁਧਾਰਣ ਵਾਲੀਆਂ ਖੋਜ ਪੱਧਤੀਆਂ ’ਤੇ ਦੁਹਰਾਈ ਕਰਨ, ਅਤੇ ਆਖ਼ਰਕਾਰ ਇਹ ਫੈਸਲਾ ਕਰਨ ਵਿੱਚ ਇਨਪੁੱਟ ਵਜੋਂ ਕੰਮ ਕਰਨ ਦੀ ਇਜਾਜ਼ਤ ਦਿੰਦੇ ਹਨ ਕਿ ਅਸੀਂ ਕਿਹੜੇ ਮਾਡਲ ਵਰਜਨ ਤੈਨਾਤ ਕਰਨੇ ਹਨ। ਮੌਜੂਦਾ ਮੁਲਾਂਕਨ ਕਾਮੁਕ ਸਮੱਗਰੀ, ਘ੍ਰਿਣਾਪੂਰਣ ਸਮੱਗਰੀ ਅਤੇ ਆਤਮ-ਹਾਨੀ ਨਾਲ ਸੰਬੰਧਤ ਸਮੱਗਰੀ ਸਮੇਤ ਹੋਰ ਵਿਸ਼ਿਆਂ ਨੂੰ ਕਵਰ ਕਰਦੇ ਹਨ, ਅਤੇ ਇਹ ਮਾਪਦੇ ਹਨ ਕਿ ਮਾਡਲਾਂ ਵਿੱਚ ਅਜਿਹੀ ਸਮੱਗਰੀ ਪੈਦਾ ਕਰਨ ਦੀ ਪ੍ਰਵਿਰਤੀ ਕਿੰਨੀ ਹੈ।

OpenAI ਸਾਡੀਆਂ ਵਰਤੋਂ ਨੀਤੀਆਂ ਵਿੱਚ ਦਰਸਾਇਆ ਗਿਆ ਅਨੁਸਾਰ ਕੁਝ ਗਤੀਵਿਧੀਆਂ ਅਤੇ ਸਮੱਗਰੀ ਲਈ ਸਾਡੇ ਮਾਡਲਾਂ ਅਤੇ ਟੂਲਾਂ ਦੀ ਵਰਤੋਂ ਦੀ ਇਜਾਜ਼ਤ ਨਹੀਂ ਦਿੰਦਾ।⁵ ਇਹ ਨੀਤੀਆਂ ਸਾਡੇ ਮਾਡਲਾਂ ਅਤੇ ਟੂਲਾਂ ਦੀ ਅਜਿਹੀ ਵਰਤੋਂ ਨੂੰ ਰੋਕਣ ਲਈ ਬਣਾਈਆਂ ਗਈਆਂ ਹਨ ਜੋ ਵਿਅਕਤੀਗਤ ਜਾਂ ਸਮਾਜਕ ਨੁਕਸਾਨ ਕਰਦੀ ਹੋਵੇ। ਅਸੀਂ ਇਨ੍ਹਾਂ ਨੀਤੀਆਂ ਨੂੰ ਨਵੇਂ ਖਤਰਿਆਂ ਅਤੇ ਇਸ ਬਾਰੇ ਅੱਪਡੇਟ ਕੀਤੀ ਜਾਣਕਾਰੀ ਦੇ ਜਵਾਬ ਵਿੱਚ ਅੱਪਡੇਟ ਕਰਦੇ ਹਾਂ ਕਿ ਸਾਡੇ ਮਾਡਲ ਕਿਵੇਂ ਵਰਤੇ ਜਾ ਰਹੇ ਹਨ। ਸਾਡੇ ਮਾਡਲਾਂ ਤੱਕ ਪਹੁੰਚ ਅਤੇ ਉਹਨਾਂ ਦੀ ਵਰਤੋਂ OpenAI ਦੇ ਟਰਮਜ਼ ਆਫ ਯੂਜ਼ ਦੇ ਅਧੀਨ ਵੀ ਹੈ, ਜੋ ਹੋਰ ਗੱਲਾਂ ਦੇ ਨਾਲ-ਨਾਲ ਲੋਕਾਂ ਦੇ ਅਧਿਕਾਰਾਂ ਨੂੰ ਨੁਕਸਾਨ ਪਹੁੰਚਾਉਣ ਲਈ ਸਾਡੀਆਂ ਸੇਵਾਵਾਂ ਦੀ ਵਰਤੋਂ ’ਤੇ ਰੋਕ ਲਗਾਉਂਦੇ ਹਨ, ਅਤੇ ਸਾਡੀਆਂ ਸੇਵਾਵਾਂ ਤੋਂ ਮਿਲੇ ਨਤੀਜੇ ਨੂੰ ਮਨੁੱਖ-ਤਿਆਰ ਹੋਇਆ ਦੱਸਣ ’ਤੇ ਵੀ ਰੋਕ ਲਗਾਉਂਦੇ ਹਨ ਜਦੋਂ ਕਿ ਉਹ ਮਨੁੱਖ-ਤਿਆਰ ਨਾ ਹੋਵੇ।⁶

ਅਸੀਂ ਆਪਣੇ ਮਾਡਲਾਂ ਦੀ ਨੁਕਸਾਨਦਾਇਕ ਗਤੀਵਿਧੀਆਂ ਲਈ ਵਰਤੋਂ ਨੂੰ ਸੀਮਿਤ ਕਰਨ ਲਈ ਮਾਡਲਾਂ ਨੂੰ ਇਹ ਸਿਖਾਉਂਦੇ ਹਾਂ ਕਿ ਉਹ ਕੁਝ ਕਿਸਮ ਦੀਆਂ ਬੇਨਤੀਆਂ ਦਾ ਜਵਾਬ ਦੇਣ ਤੋਂ ਇਨਕਾਰ ਕਰਨ ਜੋ ਸੰਭਾਵਿਤ ਤੌਰ ’ਤੇ ਨੁਕਸਾਨਦਾਇਕ ਜਵਾਬਾਂ ਵੱਲ ਲੈ ਜਾ ਸਕਦੀਆਂ ਹਨ। ਇਸ ਤੋਂ ਇਲਾਵਾ, ਅਸੀਂ ਆਪਣੇ ਮਾਡਲਾਂ ਦੀ ਦੁਰਵਰਤੋਂ ਦੀ ਪਛਾਣ ਕਰਨ ਅਤੇ ਉਸ ਦੇ ਵਿਰੁੱਧ ਕਾਰਵਾਈ ਕਰਨ ਲਈ ਸਮੀਖਿਆਕਾਰਾਂ ਅਤੇ ਆਟੋਮੈਟਡ ਸਿਸਟਮਾਂ ਦੇ ਮਿਲੇ-ਜੁਲੇ ਰੂਪ ਦੀ ਵਰਤੋਂ ਕਰਦੇ ਹਾਂ। ਸਾਡੇ ਆਟੋਮੈਟਡ ਸਿਸਟਮਾਂ ਵਿੱਚ ਮਸ਼ੀਨ ਲਰਨਿੰਗ ਅਤੇ ਨਿਯਮ-ਅਧਾਰਿਤ ਕਲਾਸੀਫਾਇਰ ਡਿਟੈਕਸ਼ਨਾਂ ਦਾ ਇੱਕ ਸੈੱਟ ਸ਼ਾਮਲ ਹੈ, ਜੋ ਅਜਿਹੀ ਸਮੱਗਰੀ ਦੀ ਪਛਾਣ ਕਰਨ ਲਈ ਤਿਆਰ ਕੀਤਾ ਗਿਆ ਹੈ ਜੋ ਸਾਡੀਆਂ ਨੀਤੀਆਂ ਦੀ ਉਲੰਘਣਾ ਕਰ ਸਕਦੀ ਹੋਵੇ। ਜਦੋਂ ਕੋਈ ਵਰਤੋਂਕਾਰ ਵਾਰ-ਵਾਰ ਸਾਡੇ ਮਾਡਲਾਂ ਨੂੰ ਨੀਤੀ-ਉਲੰਘਣਕ ਸਮੱਗਰੀ ਨਾਲ ਪ੍ਰੌੰਪਟ ਕਰਦਾ ਹੈ, ਤਾਂ ਅਸੀਂ ਚੇਤਾਵਨੀ ਜਾਰੀ ਕਰਨ, ਵਰਤੋਂਕਾਰ ਨੂੰ ਅਸਥਾਈ ਤੌਰ ’ਤੇ ਨਿਲੰਬਿਤ ਕਰਨ ਜਾਂ ਗੰਭੀਰ ਮਾਮਲਿਆਂ ਵਿੱਚ ਵਰਤੋਂਕਾਰ ’ਤੇ ਪਾਬੰਦੀ ਲਗਾਉਣ ਵਰਗੀਆਂ ਕਾਰਵਾਈਆਂ ਕਰਦੇ ਹਾਂ।

ਜਿਵੇਂ RFC ਵਿੱਚ ਚਰਚਾ ਕੀਤੀ ਗਈ ਹੈ, AI Accountability ਨਾਲ ਸੰਬੰਧਿਤ ਕਈ ਮਹੱਤਵਪੂਰਨ ਪ੍ਰਸ਼ਨ ਹਨ ਜੋ ਹਾਲੇ ਤੱਕ ਸੁਲਝੇ ਨਹੀਂ ਹਨ। ਅੱਗੇ ਆਉਣ ਵਾਲੇ ਭਾਗਾਂ ਵਿੱਚ ਅਸੀਂ ਇਨ੍ਹਾਂ ਵਿੱਚੋਂ ਕਈ ਪ੍ਰਸ਼ਨਾਂ ਬਾਰੇ ਵਾਧੂ ਦ੍ਰਿਸ਼ਟੀਕੋਣ ਪੇਸ਼ ਕਰਦੇ ਹਾਂ।

ਉੱਚ ਸਮਰੱਥਾ ਵਾਲੇ ਫਾਊਂਡੇਸ਼ਨ ਮਾਡਲਾਂ ਵਿੱਚ ਲਾਭਕਾਰੀ ਸਮਰੱਥਾਵਾਂ ਵੀ ਹੁੰਦੀਆਂ ਹਨ ਅਤੇ ਨੁਕਸਾਨ ਪਹੁੰਚਾਉਣ ਦੀ ਸੰਭਾਵਨਾ ਵੀ। ਜਿਵੇਂ-ਜਿਵੇਂ ਇਨ੍ਹਾਂ ਮਾਡਲਾਂ ਦੀਆਂ ਸਮਰੱਥਾਵਾਂ ਹੋਰ ਅਗੇ ਵਧਦੀਆਂ ਹਨ, ਤਿਵੇਂ-ਤਿਵੇਂ ਉਹਨਾਂ ਵੱਲੋਂ ਪੈਦਾ ਹੋ ਸਕਣ ਵਾਲੇ ਖਤਰਿਆਂ ਦਾ ਪੱਧਰ ਅਤੇ ਗੰਭੀਰਤਾ ਵੀ ਵਧਦੀ ਹੈ, ਖਾਸਕਰ ਜੇ ਇਹ ਕਿਸੇ ਦੁਰਭਾਵਨਾਪੂਰਣ ਅਦਾਕਾਰ ਦੇ ਨਿਰਦੇਸ਼ ਹੇਠ ਹੋਣ ਜਾਂ ਮਾਡਲ ਮਨੁੱਖੀ ਮੁੱਲਾਂ ਨਾਲ ਠੀਕ ਤਰ੍ਹਾਂ ਅਨੁਕੂਲਿਤ ਨਾ ਹੋਵੇ।

ਸੰਭਾਵਿਤ ਤੌਰ ’ਤੇ ਖਤਰਨਾਕ ਸਮਰੱਥਾਵਾਂ ਵਿੱਚ ਹੋ ਰਹੀ ਤਰੱਕੀ ਨੂੰ ਕੜਾਈ ਨਾਲ ਮਾਪਣਾ ਖਤਰੇ ਦੇ ਪ੍ਰਭਾਵਸ਼ਾਲੀ ਮੁਲਾਂਕਨ ਅਤੇ ਪ੍ਰਬੰਧਨ ਲਈ ਬਹੁਤ ਜ਼ਰੂਰੀ ਹੈ। ਅਸੀਂ ਇਸ ਲਈ ਅਜਿਹੀਆਂ ਸੰਭਾਵਿਤ ਤੌਰ ’ਤੇ ਖਤਰਨਾਕ ਸਮਰੱਥਾਵਾਂ ਲਈ ਮੁਲਾਂਕਨ ਖੰਗਾਲ ਅਤੇ ਤਿਆਰ ਕਰ ਰਹੇ ਹਾਂ ਜੋ ਸਧਾਰਣ, ਸਕੇਲੇਬਲ ਅਤੇ ਆਟੋਮੈਟਡ ਟੂਲਾਂ ਤੋਂ ਲੈ ਕੇ ਮਨੁੱਖੀ ਮਾਹਰਾਂ ਵੱਲੋਂ ਕੀਤੇ ਜਾਣ ਵਾਲੇ ਵਿਸ਼ੇਸ਼, ਗਹਿਰੇ ਮੁਲਾਂਕਨਾਂ ਤੱਕ ਫੈਲੇ ਹੋਏ ਹਨ। ਅਸੀਂ ਅਕਾਦਮਿਕ ਅਤੇ ਉਦਯੋਗਿਕ ਮਾਹਰਾਂ ਨਾਲ ਸਹਿਯੋਗ ਕਰ ਰਹੇ ਹਾਂ, ਅਤੇ ਆਖ਼ਰਕਾਰ ਅਜਿਹੇ ਵਿਭਿੰਨ ਮੁਲਾਂਕਨਾਂ ਦੇ ਸੈੱਟ ਦੇ ਵਿਕਾਸ ਵਿੱਚ ਯੋਗਦਾਨ ਦੇਣਾ ਚਾਹੁੰਦੇ ਹਾਂ ਜੋ ਉੱਚ ਸਮਰੱਥਾ ਵਾਲੇ ਫਾਊਂਡੇਸ਼ਨ ਮਾਡਲਾਂ ਵਿੱਚ ਉਭਰਦੇ ਖਤਰਿਆਂ ਦੇ ਮੁਲਾਂਕਨ ਲਈ ਸਭ ਤੋਂ ਵਧੀਆ ਪ੍ਰਥਾਵਾਂ ਦੇ ਨਿਰਮਾਣ ਵਿੱਚ ਸਹਾਇਕ ਹੋ ਸਕਣ। ਸਾਡੇ ਵਿਸ਼ਵਾਸ ਅਨੁਸਾਰ, ਖਤਰਨਾਕ ਸਮਰੱਥਾ ਮੁਲਾਂਕਨ ਅਤਿ-ਆਧੁਨਿਕ AI ਵਿਕਾਸ ਵਿੱਚ ਜਵਾਬਦੇਹੀ ਅਤੇ ਗਵਰਨੈਂਸ ਲਈ ਲਗਾਤਾਰ ਵੱਧਦਾ ਮਹੱਤਵਪੂਰਨ ਬਿਲਡਿੰਗ ਬਲਾਕ ਹਨ।

ਮਾਡਲਾਂ ਅਤੇ ਸਿਸਟਮਾਂ ਦੇ ਸੁਤੰਤਰ ਮੁਲਾਂਕਨ, ਜਿਸ ਵਿੱਚ ਤੀਜੇ ਪੱਖ ਵੱਲੋਂ ਕੀਤੇ ਮੁਲਾਂਕਨ ਵੀ ਸ਼ਾਮਲ ਹਨ, ਮਾਡਲ ਸਮਰੱਥਾਵਾਂ ਦੇ ਵਧਣ ਨਾਲ ਹੋਰ ਵੱਧ ਕੀਮਤੀ ਹੋ ਸਕਦੇ ਹਨ। ਅਜਿਹੇ ਮੁਲਾਂਕਨ AI ਸਿਸਟਮਾਂ ਦੇ ਵਿਹਾਰ ਅਤੇ ਖਤਰਿਆਂ ਬਾਰੇ ਜਵਾਬਦੇਹੀ ਅਤੇ ਪਾਰਦਰਸ਼ਤਾ ਮਜ਼ਬੂਤ ਕਰ ਸਕਦੇ ਹਨ।

ਮੁਲਾਂਕਨ ਦੇ ਕੁਝ ਰੂਪ ਇੱਕ ਹੀ ਸੰਸਥਾ ਦੇ ਅੰਦਰ ਹੋ ਸਕਦੇ ਹਨ, ਜਿਵੇਂ ਜਦੋਂ ਕੋਈ ਟੀਮ ਆਪਣੇ ਕੰਮ ਦਾ ਖੁਦ ਮੁਲਾਂਕਨ ਕਰਦੀ ਹੈ ਜਾਂ ਜਦੋਂ ਸੰਸਥਾ ਦੀ ਇੱਕ ਟੀਮ ਜਾਂ ਹਿੱਸਾ ਮਾਡਲ ਤਿਆਰ ਕਰਦਾ ਹੈ ਅਤੇ ਦੂਜਾ ਸੁਤੰਤਰ ਤੌਰ ’ਤੇ ਉਹ ਮਾਡਲ ਪਰਖਦਾ ਹੈ। ਇੱਕ ਵੱਖਰਾ ਤਰੀਕਾ ਇਹ ਹੈ ਕਿ ਕੋਈ ਬਾਹਰੀ ਤੀਜਾ ਪੱਖ ਮੁਲਾਂਕਨ ਕਰੇ। ਜਿਵੇਂ ਉੱਪਰ ਦਰਸਾਇਆ ਗਿਆ ਹੈ, ਅਸੀਂ ਇਸ ਵੇਲੇ ਆਪਣੇ ਮਾਡਲਾਂ ਦੇ ਅੰਦਰੂਨੀ ਅਤੇ ਬਾਹਰੀ ਦੋਵੇਂ ਕਿਸਮ ਦੇ ਮੁਲਾਂਕਨਾਂ ਦੇ ਮਿਲੇ-ਜੁਲੇ ਰੂਪ ’ਤੇ ਨਿਰਭਰ ਕਰਦੇ ਹਾਂ।

ਤੀਜੇ ਪੱਖ ਦੇ ਮੁਲਾਂਕਨ ਖਾਸ ਤੈਨਾਤੀਆਂ, ਕਿਸੇ ਨਿਰਧਾਰਤ ਸਮੇਂ ਦੇ ਮਾਡਲ ਜਾਂ ਸਿਸਟਮ, ਸੰਸਥਾਗਤ ਗਵਰਨੈਂਸ ਅਤੇ ਰਿਸਕ ਮੈਨੇਜਮੈਂਟ ਪ੍ਰਥਾਵਾਂ, ਮਾਡਲ ਜਾਂ ਸਿਸਟਮ ਦੀਆਂ ਖਾਸ ਐਪਲੀਕੇਸ਼ਨਾਂ ਜਾਂ ਇਨ੍ਹਾਂ ਦੇ ਕਿਸੇ ਸੰਯੋਗ ’ਤੇ ਕੇਂਦ੍ਰਿਤ ਹੋ ਸਕਦੇ ਹਨ। ਅਜਿਹੇ ਮੁਲਾਂਕਨਾਂ ਵਿੱਚ ਵਰਤੀ ਜਾਣ ਵਾਲੀ ਸੋਚ ਅਤੇ ਸੰਭਾਵੀ ਢਾਂਚੇ ਤੇਜ਼ੀ ਨਾਲ ਵਿਕਸਿਤ ਹੋ ਰਹੇ ਹਨ, ਅਤੇ ਅਸੀਂ ਮੁਲਾਂਕਨਾਂ ਲਈ ਆਪਣੇ ਦ੍ਰਿਸ਼ਟੀਕੋਣ ਦੀ ਨਿਗਰਾਨੀ ਅਤੇ ਵਿਚਾਰ ਕਰ ਰਹੇ ਹਾਂ।

ਕਿਸੇ ਵੀ ਤੀਜੇ ਪੱਖ ਦੇ ਮੁਲਾਂਕਨ ਲਈ, ਉਚਿਤ ਮਹਾਰਤ ਅਤੇ ਪ੍ਰੇਰਕ ਢਾਂਚਿਆਂ ਵਾਲੇ ਆਡੀਟਰਾਂ/ਮੁਲਾਂਕਨਕਾਰਾਂ ਦੀ ਚੋਣ ਦੀ ਪ੍ਰਕਿਰਿਆ ਨੂੰ ਹੋਰ ਸਪਸ਼ਟਤਾ ਤੋਂ ਲਾਭ ਹੋਵੇਗਾ। ਇਸ ਤੋਂ ਇਲਾਵਾ, ਉਹਨਾਂ ਉਚਿਤ ਉਮੀਦਾਂ ਦੀ ਚੋਣ ਜਿਨ੍ਹਾਂ ਦੇ ਖਿਲਾਫ ਸੰਸਥਾਵਾਂ ਜਾਂ ਮਾਡਲਾਂ ਦਾ ਮੁਲਾਂਕਨ ਕੀਤਾ ਜਾਣਾ ਹੈ, ਖੋਜ ਦਾ ਇੱਕ ਖੁੱਲ੍ਹਾ ਖੇਤਰ ਹੈ ਜਿਸ ਲਈ ਵੱਖ-ਵੱਖ ਹਿੱਸੇਦਾਰਾਂ ਤੋਂ ਯੋਗਦਾਨ ਦੀ ਲੋੜ ਹੋਵੇਗੀ। ਅੰਤ ਵਿੱਚ, ਇਹ ਮਹੱਤਵਪੂਰਨ ਹੋਵੇਗਾ ਕਿ ਮੁਲਾਂਕਨ ਇਸ ਗੱਲ ਨੂੰ ਧਿਆਨ ਵਿੱਚ ਰੱਖਣ ਕਿ ਸਮੇਂ ਦੇ ਨਾਲ ਸਿਸਟਮ ਕਿਵੇਂ ਵਿਕਸਿਤ ਹੋ ਸਕਦੇ ਹਨ, ਅਤੇ ਇਸ ਨੂੰ ਮੁਲਾਂਕਨ / ਆਡਿਟ ਦੀ ਪ੍ਰਕਿਰਿਆ ਵਿੱਚ ਸ਼ਾਮਲ ਕਰਨ।

ਅਸੀਂ ਭਵਿੱਖੀ ਪੀੜ੍ਹੀਆਂ ਦੇ ਸਭ ਤੋਂ ਉੱਚ ਸਮਰੱਥਾ ਵਾਲੇ ਫਾਊਂਡੇਸ਼ਨ ਮਾਡਲਾਂ ਲਈ ਰਜਿਸਟ੍ਰੇਸ਼ਨ ਅਤੇ ਲਾਇਸੈਂਸਿੰਗ ਲੋੜਾਂ ਦੇ ਵਿਕਾਸ ਦਾ ਸਮਰਥਨ ਕਰਦੇ ਹਾਂ। ਅਜਿਹੇ ਮਾਡਲ ਜਨਤਕ ਸੁਰੱਖਿਆ ਲਈ ਮਹੱਤਵਪੂਰਨ ਖਤਰੇ ਪੈਦਾ ਕਰਨ ਜੋਗੀਆਂ ਕਾਫ਼ੀ ਖਤਰਨਾਕ ਸਮਰੱਥਾਵਾਂ ਰੱਖ ਸਕਦੇ ਹਨ; ਜੇ ਅਜਿਹਾ ਹੈ, ਤਾਂ ਸਾਡੇ ਮੱਤ ਅਨੁਸਾਰ ਉਨ੍ਹਾਂ ’ਤੇ ਉਸਦੇ ਅਨੁਪਾਤਕ ਜਵਾਬਦੇਹੀ ਲੋੜਾਂ ਲਾਗੂ ਹੋਣੀਆਂ ਚਾਹੀਦੀਆਂ ਹਨ।

ਉਹਨਾਂ ਟ੍ਰੇਨਿੰਗ ਪ੍ਰਕਿਰਿਆਵਾਂ ਲਈ ਖੁਲਾਸੇ ਅਤੇ ਰਜਿਸਟ੍ਰੇਸ਼ਨ ਉਮੀਦਾਂ ’ਤੇ ਵਿਚਾਰ ਕਰਨਾ ਉਚਿਤ ਹੋ ਸਕਦਾ ਹੈ ਜਿਨ੍ਹਾਂ ਤੋਂ ਉੱਚ ਸਮਰੱਥਾ ਵਾਲੇ ਫਾਊਂਡੇਸ਼ਨ ਮਾਡਲ ਤਿਆਰ ਹੋਣ ਦੀ ਉਮੀਦ ਹੋਵੇ। ਅਜਿਹਾ ਖੁਲਾਸਾ ਨੀਤਿਨਿਰਧਾਰਕਾਂ ਨੂੰ ਪ੍ਰਭਾਵਸ਼ਾਲੀ ਨਿਯਮਕ ਹੱਲ ਤਿਆਰ ਕਰਨ ਲਈ ਲੋੜੀਂਦੀ ਦਿੱਖ ਦੇ ਸਕਦਾ ਹੈ ਅਤੇ AI ਤਰੱਕੀ ਦੀ ਅਤਿ-ਆਧੁਨਿਕ ਸੀਮਾ ’ਤੇ ਉਭਰ ਰਹੀਆਂ ਰੁਝਾਨਾਂ ਤੋਂ ਪਹਿਲਾਂ ਤਿਆਰ ਹੋਣ ਵਿੱਚ ਮਦਦ ਕਰ ਸਕਦਾ ਹੈ। ਇਹ ਬਹੁਤ ਜ਼ਰੂਰੀ ਹੈ ਕਿ ਅਜਿਹੀਆਂ ਕਿਸੇ ਵੀ ਪ੍ਰਣਾਲੀਆਂ ਵਿੱਚ ਖੁਲਾਸਾ ਕੀਤੀ ਜਾਣਕਾਰੀ ਦੀ ਸੁਰੱਖਿਆ ਨੂੰ ਪ੍ਰਾਥਮਿਕਤਾ ਦਿੱਤੀ ਜਾਵੇ।

AI ਡਿਵੈਲਪਰਾਂ ਲਈ ਅਜਿਹੇ ਉੱਚ ਸਮਰੱਥਾ ਵਾਲੇ ਫਾਊਂਡੇਸ਼ਨ ਮਾਡਲ ਬਣਾਉਣ ਵਾਸਤੇ ਲਾਇਸੈਂਸ ਲੈਣਾ ਲਾਜ਼ਮੀ ਕੀਤਾ ਜਾ ਸਕਦਾ ਹੈ ਜੋ ਪਹਿਲਾਂ ਸੁਰੱਖਿਅਤ ਸਾਬਤ ਹੋਏ ਮਾਡਲਾਂ ਨਾਲੋਂ ਵੱਧ ਸਮਰੱਥ ਸਾਬਤ ਹੋਣ ਦੀ ਸੰਭਾਵਨਾ ਰੱਖਦੇ ਹਨ। ਸੁਰੱਖਿਆ-ਮਹੱਤਵਪੂਰਨ ਅਤੇ ਹੋਰ ਉੱਚ-ਖਤਰੇ ਵਾਲੇ ਸੰਦਰਭਾਂ ਵਿੱਚ, ਜਿਵੇਂ ਹਵਾਈ ਯਾਤਰਾ, ਬਿਜਲੀ ਉਤਪਾਦਨ, ਦਵਾਈ ਨਿਰਮਾਣ ਅਤੇ ਬੈਂਕਿੰਗ, ਲਾਇਸੈਂਸਿੰਗ ਆਮ ਗੱਲ ਹੈ। ਲਾਇਸੈਂਸ ਧਾਰਕਾਂ ਲਈ ਪ੍ਰੀ-ਡਿਪਲੋਇਮੈਂਟ ਰਿਸਕ ਮੁਲਾਂਕਨ ਕਰਨਾ ਅਤੇ state-of-the-art ਸੁਰੱਖਿਆ ਅਤੇ ਤੈਨਾਤੀ ਸੁਰੱਖਿਆ ਉਪਾਅ ਅਪਣਾਉਣਾ ਲਾਜ਼ਮੀ ਕੀਤਾ ਜਾ ਸਕਦਾ ਹੈ; ਦਰਅਸਲ, NTIA ਜਿਨ੍ਹਾਂ ਕਈ ਜਵਾਬਦੇਹੀ ਪ੍ਰਥਾਵਾਂ ’ਤੇ ਵਿਚਾਰ ਕਰੇਗਾ, ਉਹ ਲਾਇਸੈਂਸਿੰਗ ਦੀਆਂ ਉਚਿਤ ਲੋੜਾਂ ਹੋ ਸਕਦੀਆਂ ਹਨ। ਕੰਪਿਊਟਿੰਗ ਪ੍ਰਦਾਤਾ ਪੱਧਰ ’ਤੇ ਲਾਇਸੈਂਸਿੰਗ ਲੋੜਾਂ ਲਾਗੂ ਕਰਨਾ ਵੀ ਪ੍ਰਵਰਤਨ ਲਈ ਇੱਕ ਸ਼ਕਤੀਸ਼ਾਲੀ ਪੂਰਕ ਸਾਧਨ ਹੋ ਸਕਦਾ ਹੈ।

AI ਵਿਕਾਸ ਦੀ ਅਤਿ-ਆਧੁਨਿਕ ਸੀਮਾ ’ਤੇ ਜਵਾਬਦੇਹੀ ਹਾਸਲ ਕਰਨ ਲਈ ਰਜਿਸਟ੍ਰੇਸ਼ਨ ਅਤੇ ਲਾਇਸੈਂਸਿੰਗ ਮਕੈਨਿਜ਼ਮਾਂ ਦੀ ਰਚਨਾ ਵਿੱਚ ਹਾਲੇ ਵੀ ਕਈ ਖੁੱਲ੍ਹੇ ਪ੍ਰਸ਼ਨ ਮੌਜੂਦ ਹਨ। ਅਸੀਂ ਇਨ੍ਹਾਂ ਪ੍ਰਸ਼ਨਾਂ ’ਤੇ ਨੀਤਿਨਿਰਧਾਰਕਾਂ ਨਾਲ ਸਹਿਯੋਗ ਕਰਨ ਦੀ ਉਡੀਕ ਕਰਦੇ ਹਾਂ।