AI ਅਲਾਈਨਮੈਂਟ ਉੱਤੇ ਸੁਤੰਤਰ ਖੋਜ ਨੂੰ ਅੱਗੇ ਵਧਾਉਣਾ

ਜਿਵੇਂ ਜਿਵੇਂ AI ਸਿਸਟਮ ਹੋਰ ਸਮਰੱਥ ਅਤੇ ਹੋਰ ਸਵੈ-ਨਿਰਭਰ ਬਣ ਰਹੇ ਹਨ, ਅਲਾਈਨਮੈਂਟ ਖੋਜ ਨੂੰ ਵੀ ਰਫ਼ਤਾਰ ਨਾਲ ਚੱਲਣ ਦੇ ਨਾਲ ਵਿਭਿੰਨਤਾ ਨੂੰ ਵਧਾਉਣ ਦੀ ਲੋੜ ਹੈ. OpenAI ਵਿੱਚ, ਅਸੀਂ ਅਤਿ-ਆਧੁਨਿਕ ਅਲਾਈਨਮੈਂਟ ਅਤੇ ਸੁਰੱਖਿਆ ਖੋਜ ਵਿੱਚ ਵੱਡਾ ਨਿਵੇਸ਼ ਕਰਦੇ ਹਾਂ ਕਿਉਂਕਿ ਇਹ ਸਾਡੇ ਮਿਸ਼ਨ ਲਈ ਨਿਰਣਾਇਕ ਹੈ. ਅਸੀਂ ਇਹ ਵੀ ਮੰਨਦੇ ਹਾਂ ਕਿ AGI ਨੂੰ ਹਰ ਕਿਸੇ ਲਈ ਸੁਰੱਖਿਅਤ ਅਤੇ ਲਾਭਕਾਰੀ ਬਣਾਉਣਾ ਕਿਸੇ ਇੱਕ ਸੰਸਥਾ ਵੱਲੋਂ ਅਕੇਲੇ ਸੰਭਵ ਨਹੀਂ, ਅਤੇ ਅਸੀਂ ਸੁਤੰਤਰ ਖੋਜ ਅਤੇ ਧਾਰਣਾਤਮਕ ਪਹੁੰਚਾਂ ਦਾ ਸਮਰਥਨ ਕਰਨਾ ਚਾਹੁੰਦੇ ਹਾਂ ਜਿਨ੍ਹਾਂ ਨੂੰ ਅਤਿ-ਆਧੁਨਿਕ ਲੈਬਾਂ ਤੋਂ ਬਾਹਰ ਅੱਗੇ ਵਧਾਇਆ ਜਾ ਸਕੇ.

ਅੱਜ ਅਸੀਂ The Alignment Project⁠(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ) ਲਈ $7.5 ਮਿਲੀਅਨ ਦੀ ਗ੍ਰਾਂਟ ਦਾ ਐਲਾਨ ਕਰ ਰਹੇ ਹਾਂ, ਜੋ UK AI Security Institute (UK AISI) ਦੁਆਰਾ ਬਣਾਇਆ ਗਿਆ ਸੁਤੰਤਰ ਅਲਾਈਨਮੈਂਟ ਖੋਜ ਲਈ ਇੱਕ ਗਲੋਬਲ ਫੰਡ ਹੈ. Renaissance Philanthropy ਇਸ ਗ੍ਰਾਂਟ ਦੇ ਪ੍ਰਸ਼ਾਸਨ ਨੂੰ ਸਮਰਥਨ ਦੇ ਰਹੀ ਹੈ. ਇਹ ਯੋਗਦਾਨ The Alignment Project ਨੂੰ ਅੱਜ ਤੱਕ ਸੁਤੰਤਰ ਅਲਾਈਨਮੈਂਟ ਖੋਜ ਲਈ ਸਭ ਤੋਂ ਵੱਡੀਆਂ ਸਮਰਪਿਤ ਫੰਡਿੰਗ ਕੋਸ਼ਿਸ਼ਾਂ ਵਿੱਚੋਂ ਇੱਕ ਬਣਾਉਣ ਵਿੱਚ ਮਦਦ ਕਰਦਾ ਹੈ ਅਤੇ ਵਿਆਪਕ, ਸੁਤੰਤਰ ਇਕੋਸਿਸਟਮ ਨੂੰ ਮਜ਼ਬੂਤ ਕਰਦਾ ਹੈ.

OpenAI ਵਰਗੀਆਂ ਅਤਿ-ਆਧੁਨਿਕ ਲੈਬਾਂ ਅਜਿਹੀ ਅਲਾਈਨਮੈਂਟ ਖੋਜ ਕਰਨ ਲਈ ਵਿਲੱਖਣ ਸਥਿਤੀ ਵਿੱਚ ਹਨ ਜੋ ਅਤਿ-ਆਧੁਨਿਕ ਮਾਡਲਾਂ ਅਤੇ ਮਹੱਤਵਪੂਰਨ ਕੰਪਿਊਟ ਤੱਕ ਪਹੁੰਚ ਉੱਤੇ ਨਿਰਭਰ ਕਰਦੀ ਹੈ. ਇਹ ਉਹ ਕੰਮ ਹੈ ਜਿਸਦੀ ਪੜਚੋਲ ਕਰਨਾ ਸੁਤੰਤਰ ਖੋਜਕਰਤਿਆਂ ਲਈ ਅਕਸਰ ਮੁਸ਼ਕਲ ਹੁੰਦਾ ਹੈ. ਅਸੀਂ ਆਪਣੇ ਅੰਦਰੂਨੀ ਅਲਾਈਨਮੈਂਟ ਯਤਨਾਂ ਦਾ ਵੱਡਾ ਹਿੱਸਾ ਸਕੇਲ ਹੋ ਸਕਣ ਵਾਲੀਆਂ ਵਿਧੀਆਂ ਵਿਕਸਿਤ ਕਰਨ ਲਈ ਸਮਰਪਿਤ ਕਰਦੇ ਹਾਂ ਤਾਂ ਜੋ ਅਲਾਈਨਮੈਂਟ ਵਿੱਚ ਤਰੱਕੀ ਸਮਰੱਥਾ ਵਿੱਚ ਤਰੱਕੀ ਦੇ ਨਾਲ ਕਦਮ ਮਿਲਾ ਕੇ ਚੱਲੇ. ਅਸੀਂ ਮੰਨਦੇ ਹਾਂ ਕਿ ਦੁਹਰਾਓਵਾਂ ਤਾਇਨਾਤੀ—ਸੁਰੱਖਿਆ ਉਪਾਅ ਮਜ਼ਬੂਤ ਕਰਦੇ ਹੋਏ ਸਮਰੱਥਾਵਾਂ ਨੂੰ ਧੀਰੇ ਧੀਰੇ ਵਧਾਉਣਾ—ਸਮੱਸਿਆਵਾਂ ਨੂੰ ਜਲਦੀ ਸਾਹਮਣੇ ਲਿਆਉਂਦੀ ਹੈ ਅਤੇ ਸਾਨੂੰ ਇਸ ਬਾਰੇ ਠੋਸ ਸਬੂਤ ਦਿੰਦੀ ਹੈ ਕਿ ਅਮਲ ਵਿੱਚ ਕੀ ਕੰਮ ਕਰਦਾ ਹੈ, ਅਤੇ ਇਹ ਕਿ ਜ਼ਿੰਮੇਵਾਰ ਵਿਕਾਸ ਲਈ ਅਹਿਮ ਅਲਾਈਨਮੈਂਟ ਅਤੇ ਸੁਰੱਖਿਆ ਕੰਮ ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ ਜੋ ਮਾਡਲ ਬਣਾਉਣ ਅਤੇ ਤਾਇਨਾਤੀ ਨਾਲ ਘਣੀ ਤਰ੍ਹਾਂ ਜੁੜਿਆ ਹੋਵੇ.

ਇਸਦੇ ਸਮਾਂਤਰ, ਇਹ ਖੇਤਰ ਸੁਤੰਤਰ, ਖੋਜੀਅਤਮਕ ਖੋਜ ਵਿੱਚ ਲਗਾਤਾਰ ਨਿਵੇਸ਼ ਤੋਂ ਲਾਭ ਲੈਂਦਾ ਹੈ, ਜੋ ਵਿਚਾਰਾਂ ਦੀ ਜਗ੍ਹਾ ਨੂੰ ਫੈਲਾ ਸਕਦੀ ਹੈ ਅਤੇ ਨਵੀਆਂ ਦਿਸ਼ਾਵਾਂ ਸਾਹਮਣੇ ਲਿਆ ਸਕਦੀ ਹੈ. ਸੁਤੰਤਰ ਖੋਜ ਅਜੇ ਵੀ ਲਾਜ਼ਮੀ ਹੈ. ਕਈ ਕਿਸਮ ਦੀ ਉਪਯੋਗੀ ਜਾਂਚ ਵਿੱਚ ਲੈਬਾਂ ਆਪਣੀ ਤੁਲਨਾਤਮਕ ਬਰਤਰੀ ਕਾਇਮ ਨਹੀਂ ਰੱਖਦੀਆਂ. ਇੱਕ ਸਿਹਤਮੰਦ ਅਲਾਈਨਮੈਂਟ ਇਕੋਸਿਸਟਮ ਇਸ ਗੱਲ ਉੱਤੇ ਨਿਰਭਰ ਕਰਦਾ ਹੈ ਕਿ ਸੁਤੰਤਰ ਟੀਮਾਂ ਵੱਖ ਵੱਖ ਧਾਰਣਾਵਾਂ ਦੀ ਜਾਂਚ ਕਰਨ, ਵਿਕਲਪੀ ਫਰੇਮਵਰਕ ਬਣਾਉਣ, ਅਤੇ ਧਾਰਣਾਤਮਕ, ਸਿਧਾਂਤਕ ਅਤੇ ਬਲੂ-ਸਕਾਈ ਵਿਚਾਰਾਂ ਦੀ ਖੋਜ ਕਰਨ, ਜੋ ਸ਼ਾਇਦ ਕਿਸੇ ਇੱਕ ਸੰਸਥਾ ਦੇ ਰੋਡਮੈਪ ਨਾਲ ਸਿੱਧੇ ਤੌਰ ਉੱਤੇ ਮੇਲ ਨਾ ਖਾਂਦੇ ਹੋਣ.

ਅਤੇ ਕਿਉਂਕਿ AGI ਵੱਲ ਤਰੱਕੀ ਆਖ਼ਿਰਕਾਰ ਅਜਿਹੀਆਂ ਬੁਨਿਆਦੀ ਉਪਲਬਧੀਆਂ ਉੱਤੇ ਨਿਰਭਰ ਕਰ ਸਕਦੀ ਹੈ ਜੋ ਅਲਾਈਨਮੈਂਟ ਸਮੱਸਿਆ ਦੇ ਰੂਪ ਨੂੰ ਅਤੇ ਕਿਹੜੀਆਂ ਪਹੁੰਚਾਂ ਸਭ ਤੋਂ ਲਾਭਕਾਰੀ ਹਨ, ਇਹ ਦੋਵੇਂ ਬਦਲ ਦੇਣ, ਇਸ ਲਈ ਅਜਿਹੀ ਖੋਜ ਦਾ ਸਮਰਥਨ ਕਰਨਾ ਮਹੱਤਵਪੂਰਨ ਹੈ ਜੋ ਉਸ ਵੇਲੇ ਵੀ ਮਾਇਨੇ ਰੱਖੇ ਜੇ ਅੱਜ ਦੀਆਂ ਪ੍ਰਮੁੱਖ ਵਿਧੀਆਂ ਸਾਡੀ ਉਮੀਦ ਅਨੁਸਾਰ ਸਕੇਲ ਨਾ ਕਰਨ. ਅਜਿਹੀਆਂ ਦੁਨਿਆਵਾਂ ਵਿੱਚ, ਬੁਨਿਆਦੀ, ਧਾਰਣਾਤਮਕ ਅਤੇ ਗੈਰ-ਸੰਬੰਧਿਤ ਕੰਮ ਕਰਨ ਵਾਲਾ ਮਜ਼ਬੂਤ ਬਾਹਰੀ ਇਕੋਸਿਸਟਮ ਹੋਣਾ ਖ਼ਾਸ ਤੌਰ ਉੱਤੇ ਮਹੱਤਵਪੂਰਨ ਬਣ ਜਾਂਦਾ ਹੈ. AI ਅਲਾਈਨਮੈਂਟ ਅਤੇ ਸੁਰੱਖਿਆ ਦੀ ਸਮੱਸਿਆ ਬੇਮਿਸਾਲ ਮਹੱਤਤਾ ਰੱਖਦੀ ਹੈ, ਅਤੇ ਸਾਨੂੰ ਸਭ ਦੀ ਲੋੜ ਹੈ ਕਿਉਂਕਿ ਅਸੀਂ ਹਾਲੇ ਨਹੀਂ ਜਾਣਦੇ ਕਿ ਸਮਰੱਥਾਵਾਂ ਅੱਗੇ ਵਧਦੀਆਂ ਰਹਿਣ ਨਾਲ ਕਿਹੜੀਆਂ ਪਹੁੰਚਾਂ ਸਭ ਤੋਂ ਟਿਕਾਊ ਸਾਬਤ ਹੋਣਗੀਆਂ.

ਸਾਡੀ ਗ੍ਰਾਂਟ—ਮੌਜੂਦਾ ਐਕਸਚੇਂਜ ਰੇਟ ਅਨੁਸਾਰ ਲਗਭਗ £5.6 ਮਿਲੀਅਨ—ਹੋਰ ਸਰਕਾਰੀ, ਪਰਉਪਕਾਰੀ ਅਤੇ ਉਦਯੋਗਿਕ ਸਮਰਥਕਾਂ ਦੇ ਨਾਲ ਮਿਲ ਕੇ The Alignment Project ਨੂੰ ਸਹਿ-ਫੰਡ⁠(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ) ਕਰੇਗੀ. ਕੁੱਲ ਫੰਡ £27 ਮਿਲੀਅਨ ਤੋਂ ਵੱਧ ਹੈ ਅਤੇ ਇਹ ਦੁਨੀਆ ਭਰ ਵਿੱਚ ਅਲਾਈਨਮੈਂਟ ਖੋਜ ਪ੍ਰੋਜੈਕਟਾਂ ਦੇ ਇੱਕ ਵਿਸ਼ਾਲ ਪੋਰਟਫੋਲਿਓ ਨੂੰ ਸਮਰਥਨ ਦੇਣ ਲਈ ਤਿਆਰ ਕੀਤਾ ਗਿਆ ਹੈ, ਜਿਨ੍ਹਾਂ ਵਿੱਚ computational complexity theory, economic theory and game theory, cognitive science, ਅਤੇ information theory and cryptography ਵਰਗੇ ਵੱਖਰੇ ਵਿਸ਼ੇ ਸ਼ਾਮਲ ਹਨ. ਵੱਖ-ਵੱਖ ਪ੍ਰੋਜੈਕਟਾਂ ਨੂੰ ਆਮ ਤੌਰ ਉੱਤੇ £50,000 ਤੋਂ £1 ਮਿਲੀਅਨ ਤੱਕ ਫੰਡ ਮਿਲਦਾ ਹੈ, ਅਤੇ ਉਨ੍ਹਾਂ ਨੂੰ ਚੋਣਵਾਂ ਤੌਰ ਉੱਤੇ ਕੰਪਿਊਟ ਸਰੋਤਾਂ ਅਤੇ ਮਾਹਿਰ ਸਮਰਥਨ ਤੱਕ ਪਹੁੰਚ ਵੀ ਮਿਲ ਸਕਦੀ ਹੈ.

ਸਾਡੀ ਫੰਡਿੰਗ ਕੋਈ ਨਵਾਂ ਪ੍ਰੋਗਰਾਮ ਜਾਂ ਚੋਣ ਪ੍ਰਕਿਰਿਆ ਨਹੀਂ ਬਣਾਉਂਦੀ, ਨਾਹ ਹੀ ਮੌਜੂਦਾ ਪ੍ਰਕਿਰਿਆ ਨੂੰ ਪ੍ਰਭਾਵਿਤ ਕਰਦੀ ਹੈ. ਇਹ ਮੌਜੂਦਾ ਰਾਊਂਡ ਵਿੱਚ ਫੰਡ ਕੀਤੇ ਜਾ ਸਕਣ ਵਾਲੇ ਪਹਿਲਾਂ ਹੀ ਜਾਂਚੇ-ਪਰਖੇ, ਉੱਚ-ਗੁਣਵੱਤਾ ਵਾਲੇ ਪ੍ਰੋਜੈਕਟਾਂ⁠(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ) ਦੀ ਗਿਣਤੀ ਵਧਾਉਂਦੀ ਹੈ.

UK AISI ਇਸ ਪੱਧਰ ਅਤੇ ਵਿਸ਼ਾਲਤਾ ਉੱਤੇ ਅਲਾਈਨਮੈਂਟ ਫੰਡਿੰਗ ਨੂੰ ਦਿਸ਼ਾ ਦੇਣ ਲਈ ਚੰਗੀ ਸਥਿਤੀ ਵਿੱਚ ਹੈ. ਇਹ ਸਰਕਾਰ, ਅਕਾਦਮਿਕ ਜਗਤ, ਪਰਉਪਕਾਰ ਅਤੇ ਉਦਯੋਗ ਨੂੰ ਸਮੇਟਣ ਵਾਲਾ ਇੱਕ ਸਥਾਪਿਤ ਅੰਤਰ-ਖੇਤਰੀ ਗਠਜੋੜ ਲਿਆਉਂਦਾ ਹੈ, ਨਾਲ ਹੀ ਪਹਿਲਾਂ ਤੋਂ ਚੱਲ ਰਹੀ ਗ੍ਰਾਂਟਮੈਕਿੰਗ ਪਾਈਪਲਾਈਨ ਅਤੇ ਮਾਹਿਰ ਸਮੀਖਿਆ ਤੋਂ ਗੁਜ਼ਰੇ ਪ੍ਰਸਤਾਵਾਂ ਦਾ ਵੱਡਾ ਭੰਡਾਰ ਵੀ. Department for Science, Innovation and Technology (DSIT) ਦੇ ਅੰਦਰ UK ਸਰਕਾਰ ਦੀ ਇੱਕ ਖੋਜ ਸੰਸਥਾ ਹੋਣ ਕਰਕੇ, ਇਸਦਾ ਮੰਡੇਟ ਵੀ ਗੰਭੀਰ AI ਖ਼ਤਰਿਆਂ ਉੱਤੇ ਕੇਂਦ੍ਰਿਤ ਹੈ ਅਤੇ ਇਸਨੂੰ ਖੋਜ ਫੰਡਿੰਗ ਪ੍ਰੋਗਰਾਮ ਚਲਾਉਣ ਦਾ ਤਜਰਬਾ ਹੈ.

ਕਿਉਂਕਿ AI ਦਾ ਭਵਿੱਖ ਕਿਸੇ ਦੀ ਭਵਿੱਖਬਾਣੀ ਮੁਤਾਬਕ ਬਿਲਕੁਲ ਨਹੀਂ ਖੁਲੇਗਾ, ਅਤੇ ਹੋ ਸਕਦਾ ਹੈ ਬਹੁਤ ਤੇਜ਼ੀ ਨਾਲ ਅੱਗੇ ਵਧੇ, ਅਸੀਂ ਮੰਨਦੇ ਹਾਂ ਕਿ ਲੋਕਤੰਤਰਿਕਰਨ, “AI resilience,” ਅਤੇ ਦੁਹਰਾਓਵਾਂ ਤਾਇਨਾਤੀ ਲਾਜ਼ਮੀ ਹਨ. ਜਦੋਂ ਕਿ ਅਸੀਂ OpenAI ਵਿੱਚ ਆਪਣੀ ਅਤਿ-ਆਧੁਨਿਕ ਅਲਾਈਨਮੈਂਟ ਅਤੇ ਸੁਰੱਖਿਆ ਖੋਜ ਨੂੰ ਅੱਗੇ ਵਧਾਉਂਦੇ ਰਹਿੰਦੇ ਹਾਂ, ਤਰੱਕੀ ਨੂੰ ਇੱਕ ਮਜ਼ਬੂਤ, ਵਿਭਿੰਨ, ਸੁਤੰਤਰ ਇਕੋਸਿਸਟਮ ਤੋਂ ਲਾਭ ਹੋਵੇਗਾ ਜੋ ਸਮਰੱਥਾਵਾਂ ਦੇ ਅੱਗੇ ਵਧਣ ਨਾਲ ਪੂਰਕ ਪਹੁੰਚਾਂ ਉੱਤੇ ਕੰਮ ਕਰੇ. ਇਹ ਗ੍ਰਾਂਟ ਉਸ ਮੰਜ਼ਿਲ ਵੱਲ ਇੱਕ ਕਦਮ ਹੈ. ਖੇਤਰ ਦੇ ਅੱਗੇ ਵਧਣ ਨਾਲ ਅਸੀਂ ਵਿਆਪਕ ਖੋਜ ਸਮੁਦਾਇ ਨਾਲ ਸਹਿਯੋਗ ਜਾਰੀ ਰੱਖਣ ਲਈ ਉਤਸੁਕ ਹਾਂ.