ਫੋਟੋ: Jake Stangel
AI ਦੇ ਭਵਿੱਖ ਬਾਰੇ ਤੁਹਾਨੂੰ ਸਭ ਤੋਂ ਵੱਧ ਕਿਹੜੀ ਗੱਲ ਉਤਸ਼ਾਹਿਤ ਕਰਦੀ ਹੈ?
ਆਰਟੀਫ਼ਿਸ਼ੀਅਲ ਜਨਰਲ ਇੰਟੈਲੀਜੈਂਸ (AGI) ਨੂੰ ਆਰਥਿਕ ਤੌਰ ‘ਤੇ ਸਭ ਤੋਂ ਕੀਮਤੀ ਬਹੁਤੇ ਕੰਮਾਂ ਵਿੱਚ ਮਨੁੱਖਾਂ ਤੋਂ ਬਿਹਤਰ ਹੋਣਾ ਚਾਹੀਦਾ ਹੈ। ਮੈਂ AGI ਨੂੰ ਮਨੁੱਖੀ ਸਮਾਜ ਦੀ ਇਨ੍ਹਾਂ ਤਰੀਕਿਆਂ ਨਾਲ ਮਦਦ ਕਰਦਾ ਦੇਖਣ ਲਈ ਉਤਸੁਕ ਹਾਂ:
- ਉਹਨਾਂ ਕੰਮਾਂ ‘ਤੇ ਮਨੁੱਖੀ ਮਿਹਨਤ ਨੂੰ ਪੂਰੀ ਤਰ੍ਹਾਂ ਆਟੋਮੇਟ ਕਰਨਾ ਜਾਂ ਕਾਫ਼ੀ ਘਟਾਉਣਾ ਜੋ ਦੁਹਰਾਏ ਜਾਣ ਵਾਲੇ ਅਤੇ ਗੈਰ-ਨਵੀਨਤਮ ਹਨ। ਦੂਜੇ ਸ਼ਬਦਾਂ ਵਿੱਚ, AGI ਨੂੰ ਮਨੁੱਖੀ ਉਤਪਾਦਕਤਾ ਨੂੰ ਡਰਾਮਾਈ ਤਰੀਕੇ ਨਾਲ ਵਧਾਉਣਾ ਚਾਹੀਦਾ ਹੈ।
- ਨਵੀਆਂ ਵਿਗਿਆਨਕ ਖੋਜਾਂ ਦੀਆਂ ਪ੍ਰਗਤੀਆਂ ਨੂੰ ਬਹੁਤ ਤੇਜ਼ ਕਰਨਾ, ਜਿਸ ਵਿੱਚ ਇਹ ਵੀ ਸ਼ਾਮਲ ਹੈ ਪਰ ਇਸ ਤੱਕ ਸੀਮਿਤ ਨਹੀਂ, ਕਿ ਵਾਧੂ ਵਿਸ਼ਲੇਸ਼ਣ ਅਤੇ ਜਾਣਕਾਰੀ ਦੇ ਕੇ ਮਨੁੱਖੀ ਫੈਸਲਾ-ਲੈਣ ਪ੍ਰਕਿਰਿਆ ਨੂੰ ਸੁਗਮ ਬਣਾਇਆ ਜਾਵੇ।
- ਭੌਤਿਕ ਸੰਸਾਰ ਨੂੰ ਪ੍ਰਭਾਵਸ਼ਾਲੀ, ਕੁਸ਼ਲ ਅਤੇ ਸੁਰੱਖਿਅਤ ਢੰਗ ਨਾਲ ਸਮਝਣਾ ਅਤੇ ਉਸ ਨਾਲ ਪਰਸਪਰ ਕਿਰਿਆ ਕਰਨਾ।
OpenAI ਵਿੱਚ ਤੁਸੀਂ ਜਿਨ੍ਹਾਂ ਪ੍ਰੋਜੈਕਟਾਂ ‘ਤੇ ਕੰਮ ਕੀਤਾ, ਉਨ੍ਹਾਂ ਵਿੱਚੋਂ ਸਭ ਤੋਂ ਵੱਧ ਮਾਣ ਕਿਸ ‘ਤੇ ਹੈ?
OpenAI ਵਿੱਚ ਆਪਣੇ ਪਹਿਲੇ 2.5 ਸਾਲਾਂ ਦੌਰਾਨ, ਮੈਂ Robotics ਟੀਮ ‘ਤੇ ਇੱਕ moonshot ਵਿਚਾਰ ‘ਤੇ ਕੰਮ ਕੀਤਾ: ਅਸੀਂ ਇੱਕ ਇਕੱਲੇ, ਮਨੁੱਖ-ਨੁਮਾ ਰੋਬੋਟਿਕ ਹੱਥ ਨੂੰ Rubik’s cube ਹੱਲ ਕਰਨਾ ਸਿਖਾਉਣਾ ਚਾਹੁੰਦੇ ਸੀ। ਇਹ ਬੇਹੱਦ ਰੋਮਾਂਚਕ, ਚੁਣੌਤੀਪੂਰਨ ਅਤੇ ਭਾਵਨਾਤਮਕ ਤਜਰਬਾ ਸੀ। ਅਸੀਂ ਇਹ ਚੁਣੌਤੀ ਹੱਲ ਕੀਤੀ ਡੀਪ ਰੀਇਨਫੋਰਸਮੈਂਟ ਲਰਨਿੰਗ (RL), ਬੇਇੰਤਹਾ domain randomization ਅਤੇ ਬਿਨਾਂ ਕਿਸੇ ਅਸਲ-ਦੁਨੀਆ ਦੇ ਟ੍ਰੇਨਿੰਗ ਡਾਟੇ ਦੇ। ਇਸ ਤੋਂ ਵੀ ਵਧੇਰੇ ਮਹੱਤਵਪੂਰਨ ਗੱਲ ਇਹ ਸੀ ਕਿ ਅਸੀਂ ਇਹ ਚੁਣੌਤੀ ਇੱਕ ਟੀਮ ਵਜੋਂ ਜਿੱਤੀ।
ਸਿਮੂਲੇਸ਼ਨ ਅਤੇ RL ਟ੍ਰੇਨਿੰਗ ਤੋਂ ਲੈ ਕੇ ਵਿਜ਼ਨ ਪਰਸੈਪਸ਼ਨ ਅਤੇ ਹਾਰਡਵੇਅਰ ਫਰਮਵੇਅਰ ਤੱਕ, ਅਸੀਂ ਬਹੁਤ ਨਜ਼ਦੀਕੀ ਅਤੇ ਇੱਕਜੁਟ ਢੰਗ ਨਾਲ ਸਹਿਯੋਗ ਕੀਤਾ। ਇਹ ਇਕ ਕਮਾਲ ਦਾ ਪ੍ਰਯੋਗ ਸੀ ਅਤੇ ਉਸ ਦੌਰਾਨ ਮੈਂ ਅਕਸਰ Steve Jobs ਦੇ reality distortion field(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ) ਬਾਰੇ ਸੋਚਦੀ ਸੀ: ਜਦੋਂ ਤੁਸੀਂ ਕਿਸੇ ਚੀਜ਼ ‘ਤੇ ਇੰਨਾ ਮਜ਼ਬੂਤ ਵਿਸ਼ਵਾਸ ਕਰਦੇ ਹੋ ਅਤੇ ਉਸ ਲਈ ਇੰਨੀ ਡਟੇਪਣ ਨਾਲ ਅੱਗੇ ਵੱਧਦੇ ਹੋ, ਤਾਂ ਕਿਸੇ ਨਾ ਕਿਸੇ ਤਰੀਕੇ ਨਾਲ ਤੁਸੀਂ ਅਸੰਭਵ ਨੂੰ ਸੰਭਵ ਬਣਾ ਸਕਦੇ ਹੋ।
2021 ਦੀ ਸ਼ੁਰੂਆਤ ਤੋਂ, ਮੈਂ Applied AI Research ਟੀਮ ਦੀ ਅਗਵਾਈ ਕਰਨੀ ਸ਼ੁਰੂ ਕੀਤੀ। ਟੀਮ ਨੂੰ ਮੈਨੇਜ ਕਰਨਾ ਵੱਖਰੀਆਂ ਚੁਣੌਤੀਆਂ ਲਿਆਉਂਦਾ ਹੈ ਅਤੇ ਕੰਮ ਕਰਨ ਦੇ ਢੰਗ ਵਿੱਚ ਬਦਲਾਅ ਮੰਗਦਾ ਹੈ। Applied AI ਦੇ ਅੰਦਰ ਭਾਸ਼ਾ ਮਾਡਲ ਸੁਰੱਖਿਆ ਨਾਲ ਜੁੜੇ ਕਈ ਪ੍ਰੋਜੈਕਟਾਂ ‘ਤੇ ਮੈਨੂੰ ਸਭ ਤੋਂ ਵੱਧ ਮਾਣ ਹੈ:
- ਅਸੀਂ ਮੁਲਾਂਕਣ ਡਾਟਾ ਅਤੇ ਟਾਸਕਾਂ ਦਾ ਇੱਕ ਸੈੱਟ ਡਿਜ਼ਾਇਨ ਅਤੇ ਤਿਆਰ ਕੀਤਾ, ਤਾਂ ਜੋ ਪਹਿਲਾਂ ਤੋਂ ਟ੍ਰੇਨ ਕੀਤੇ ਭਾਸ਼ਾ ਮਾਡਲਾਂ ਦੀ ਘ੍ਰਿਣਾਪੂਰਣ, ਯੌਨ ਜਾਂ ਹਿੰਸਕ ਸਮੱਗਰੀ ਤਿਆਰ ਕਰਨ ਦੀ ਪ੍ਰਵਿਰਤੀ ਦਾ ਅੰਕਲਨ ਕੀਤਾ ਜਾ ਸਕੇ।
- ਅਸੀਂ ਇਕ ਵਿਸਤ੍ਰਿਤ taxonomy ਬਣਾਈ ਅਤੇ ਅਣਚਾਹੀ ਸਮੱਗਰੀ ਦੀ ਪਛਾਣ ਕਰਨ ਦੇ ਨਾਲ-ਨਾਲ ਇਹ ਕਾਰਣ ਵੀ ਪਤਾ ਕਰਨ ਲਈ ਕਿ ਸਮੱਗਰੀ ਅਣਉਚਿਤ ਕਿਉਂ ਹੈ, ਇੱਕ ਮਜ਼ਬੂਤ classifier ਤਿਆਰ ਕੀਤਾ।
- ਅਸੀਂ ਮਾਡਲ ਵੱਲੋਂ ਅਸੁਰੱਖਿਅਤ ਆਉਟਪੁੱਟ ਤਿਆਰ ਕਰਨ ਦੀ ਸੰਭਾਵਨਾ ਘਟਾਉਣ ਲਈ ਵੱਖ-ਵੱਖ ਤਕਨੀਕਾਂ ‘ਤੇ ਕੰਮ ਕਰ ਰਹੇ ਹਾਂ।
ਜਿਵੇਂ Applied AI ਟੀਮ cutting-edge AI ਤਕਨੀਕਾਂ, ਜਿਵੇਂ ਵੱਡੇ pre-trained ਭਾਸ਼ਾ ਮਾਡਲਾਂ, ਨੂੰ ਡਿਪਲੌਇ ਕਰਨ ਦੇ ਸਭ ਤੋਂ ਵਧੀਆ ਤਰੀਕੇ ਅਪਣਾ ਰਹੀ ਹੈ, ਅਸੀਂ ਵੇਖਦੇ ਹਾਂ ਕਿ ਅਸਲ-ਦੁਨੀਆ ਦੇ ਕੰਮਾਂ ਲਈ ਇਹ ਕਿੰਨੇ ਸ਼ਕਤੀਸ਼ਾਲੀ ਅਤੇ ਲਾਭਕਾਰੀ ਹਨ। ਅਸੀਂ ਇਨ੍ਹਾਂ ਤਕਨੀਕਾਂ ਨੂੰ ਸੁਰੱਖਿਅਤ ਢੰਗ ਨਾਲ ਡਿਪਲੌਇ ਕਰਨ ਦੀ ਮਹੱਤਤਾ ਤੋਂ ਵੀ ਵਾਕਿਫ ਹਾਂ, ਜਿਵੇਂ ਕਿ ਸਾਡੇ Charter ਵਿੱਚ ਜ਼ੋਰ ਦਿੱਤਾ ਗਿਆ ਹੈ।
ਫੋਟੋ: Jake Stangel
ਮੌਜੂਦਾ ਡੀਪ ਲਰਨਿੰਗ ਮਾਡਲ ਸੰਪੂਰਣ ਨਹੀਂ ਹਨ। ਇਨ੍ਹਾਂ ਨੂੰ ਮਨੁੱਖਾਂ ਦੁਆਰਾ ਬਣਾਏ ਗਏ ਬੇਹੱਦ ਵੱਡੇ ਡਾਟੇ (ਜਿਵੇਂ ਕਿ ਇੰਟਰਨੈੱਟ, ਕਿਊਰੇਟ ਕੀਤੀ ਸਮੱਗਰੀ ਅਤੇ ਸਾਹਿਤ) ਨਾਲ ਟ੍ਰੇਨ ਕੀਤਾ ਜਾਂਦਾ ਹੈ ਅਤੇ ਇਹ ਅਟੱਲ ਤੌਰ ‘ਤੇ ਉਹਨਾਂ ਕਈ ਖਾਮੀਆਂ ਅਤੇ ਪੱਖਪਾਤਾਂ ਨੂੰ ਆਪਣੇ ਅੰਦਰ ਸਮੇਟ ਲੈਂਦੇ ਹਨ ਜੋ ਸਾਡੇ ਸਮਾਜ ਵਿੱਚ ਲੰਮੇ ਸਮੇਂ ਤੋਂ ਮੌਜੂਦ ਹਨ। ਉਦਾਹਰਨ ਵਜੋਂ, ਜਦੋਂ DALL·E ਨੂੰ ਇੱਕ ਨਰਸ ਦੀ ਤਸਵੀਰ ਬਣਾਉਣ ਲਈ ਕਿਹਾ ਗਿਆ, ਤਾਂ ਇਹ ਸਿਰਫ਼ ਮਹਿਲਾ ਕਿਰਦਾਰ ਹੀ ਬਣਾਉਂਦਾ ਸੀ, ਜਾਂ ਇੱਕ ਪ੍ਰੋਫੈਸਰ ਲਈ ਇਹ ਸਿਰਫ਼ ਗੋਰੇ ਲੋਕ ਹੀ ਬਣਾਉਂਦਾ ਸੀ। ਮਾਡਲ ਅਸਲ ਦੁਨੀਆ ਦੇ ਅੰਕੜਿਆਂ ਵਿਚਲੇ ਪੱਖਪਾਤ ਜਾਂ ਸਾਡੇ ਟ੍ਰੇਨਿੰਗ ਡਾਟੇ ਦੇ ਪੱਖਪਾਤ ਨੂੰ ਕੈਪਚਰ ਕਰ ਲੈਂਦਾ ਹੈ।
ਮੈਂ ਇਸ ਕਿਸਮ ਦੇ ਸਮਾਜਿਕ ਪੱਖਪਾਤ ਨੂੰ ਘਟਾਉਣ ਲਈ ਇੱਕ ਵਿਧੀ ਤਿਆਰ ਕਰਨ ਅਤੇ ਇਹ ਜਾਣਚਣ ਲਈ ਪ੍ਰੇਰਿਤ ਹੋਈ ਕਿ ਉਹ ਵਿਧੀ ਕਿੰਨੀ ਪ੍ਰਭਾਵਸ਼ਾਲੀ ਹੈ। ਟੀਮ ਨਾਲ ਮਿਲ ਕੇ ਅਸੀਂ ਇਸ ਤਰ੍ਹਾਂ ਦੇ ਪੱਖਪਾਤ ਨੂੰ ਘਟਾਉਣ ਲਈ ਇੱਕ ਪਾਈਪਲਾਈਨ ਤਿਆਰ ਕੀਤੀ ਅਤੇ ਨਾਲ ਹੀ human-in-the-loop ਮੁਲਾਂਕਣ ਚਲਾਉਣ ਲਈ ਇੱਕ ਵਰਕਫਲੋ ਵੀ ਬਣਾਇਆ। ਸਮਾਜਿਕ ਪੱਖਪਾਤ ਘਟਾਉਣਾ ਆਸਾਨ ਸਮੱਸਿਆ ਨਹੀਂ ਹੈ, ਕਿਉਂਕਿ ਇਹ ਸਾਡੀ ਜ਼ਿੰਦਗੀ ਦੇ ਕਈ ਪੱਖਾਂ ਵਿੱਚ ਦਿਖਾਈ ਦਿੰਦਾ ਹੈ ਅਤੇ ਕਈ ਵਾਰ ਇਸਨੂੰ ਪਹਿਚਾਣਣਾ ਔਖਾ ਵੀ ਹੁੰਦਾ ਹੈ। ਪਰ ਮੈਨੂੰ ਖੁਸ਼ੀ ਹੈ ਕਿ DALL·E ਟੀਮ ਇਸ ਸਮੱਸਿਆ ਨੂੰ ਗੰਭੀਰਤਾ ਨਾਲ ਲੈਂਦੀ ਹੈ ਅਤੇ ਬਹੁਤ ਸ਼ੁਰੂਆਤੀ ਪੜਾਅ ‘ਤੇ ਹੀ ਕਦਮ ਚੁੱਕਦੀ ਹੈ। ਇਸ ਵੇਲੇ ਸਾਡੇ ਕੋਲ ਜੋ ਕੁਝ ਹੈ, ਉਹ ਸਿਰਫ਼ ਇੱਕ ਸ਼ੁਰੂਆਤ ਹੈ ਅਤੇ ਅਸੀਂ ਲਗਾਤਾਰ ਅੱਗੇ ਵੱਧਦੇ ਰਹਾਂਗੇ। ਮੈਨੂੰ ਇਸ ਖੇਤਰ ਵਿੱਚ ਕੰਮ ਕਰਨ ‘ਤੇ ਮਾਣ ਹੈ ਅਤੇ ਇਹ ਦੇਖ ਕੇ ਖੁਸ਼ੀ ਹੁੰਦੀ ਹੈ ਕਿ ਅਸੀਂ ਕਦਮ ਦਰ ਕਦਮ ਆਧੁਨਿਕ AI ਨੂੰ ਹੋਰ ਸੁਰੱਖਿਅਤ ਅਤੇ ਬਿਹਤਰ ਬਣਾ ਰਹੇ ਹਾਂ।
“ਵੱਖ-ਵੱਖ ਵਿਸ਼ਿਆਂ ਜਾਂ ਖੇਤਰਾਂ ਦੇ ਵਿਚਾਰ ਅਕਸਰ ਨਵੇਂ ਵਿਚਾਰਾਂ ਨੂੰ ਪ੍ਰੇਰਿਤ ਕਰ ਸਕਦੇ ਹਨ ਅਤੇ ਸੰਭਾਵਿਤ ਹੱਲਾਂ ਦੀ ਹੱਦ ਨੂੰ ਵਧਾ ਸਕਦੇ ਹਨ।”
OpenAI ਵਿੱਚ ਤੁਸੀਂ ਹਰ ਰੋਜ਼ ਜੋ ਕੰਮ ਕਰਦੇ ਹੋ, ਉਸ ਵਿੱਚ ਆਪਣੇ ਨਿੱਜੀ ਤਜਰਬੇ ਅਤੇ ਮੁੱਲ ਕਿਵੇਂ ਲਾਗੂ ਕਰਦੇ ਹੋ?
ਮੈਂ ਸਿੱਖਣ ਦੀ ਤਾਕਤ ‘ਤੇ ਵਿਸ਼ਵਾਸ ਕਰਦੀ ਹਾਂ ਅਤੇ ਸਿੱਖਣ ਲਈ ਕਦੇ ਵੀ ਦੇਰ ਨਹੀਂ ਹੁੰਦੀ। ਆਪਣੇ ਨਿੱਜੀ ਬਲੌਗ ਨੂੰ ਜਾਰੀ ਰੱਖਣਾ ਇਸ ਜਿਗਿਆਸਾ ਨੂੰ ਜੀਊਂਦਾ ਰੱਖਣ ਅਤੇ ਡੀਪ ਲਰਨਿੰਗ ਭਾਈਚਾਰੇ ਵਿੱਚ ਹੋ ਰਹੀ ਨਵੀਂ ਤਰੱਕੀ ਬਾਰੇ ਨਿਯਮਿਤ ਤੌਰ ‘ਤੇ ਸਿੱਖਣ ਦਾ ਵਧੀਆ ਤਰੀਕਾ ਹੈ। ਮੈਂ ਆਪਣੀ ਟੀਮ ਨੂੰ ਵੀ ਲਗਾਤਾਰ ਸਿੱਖਦੇ ਰਹਿਣ ਲਈ ਪ੍ਰੇਰਿਤ ਕਰਦੀ ਹਾਂ, ਚਾਹੇ ਉਹ ਉਨ੍ਹਾਂ ਦੇ ਮੌਜੂਦਾ ਪ੍ਰੋਜੈਕਟਾਂ ਨਾਲ ਸਬੰਧਤ ਹੋਵੇ ਜਾਂ ਨਾ ਹੋਵੇ। ਵੱਖ-ਵੱਖ ਵਿਸ਼ਿਆਂ ਜਾਂ ਖੇਤਰਾਂ ਦੇ ਵਿਚਾਰ ਅਕਸਰ ਨਵੇਂ ਵਿਚਾਰਾਂ ਨੂੰ ਜਨਮ ਦੇ ਸਕਦੇ ਹਨ ਅਤੇ ਸੰਭਾਵਿਤ ਹੱਲਾਂ ਦੀ ਹੱਦ ਨੂੰ ਵਧਾ ਸਕਦੇ ਹਨ।
ਮੈਂ ਟੀਮਵਰਕ ‘ਤੇ ਵੀ ਪੂਰਾ ਵਿਸ਼ਵਾਸ ਕਰਦੀ ਹਾਂ। ਜੇ ਹਰ ਕੋਈ ਆਪਣੀ ਸਭ ਤੋਂ ਵਧੀਆ ਤਾਕਤ ਵਿੱਚ ਚਮਕੇ, ਤਾਂ ਅਸੀਂ 1+1 > 2 ਹਾਸਲ ਕਰ ਸਕਦੇ ਹਾਂ। ਇਸੇ ਦੌਰਾਨ, ਸਾਨੂੰ ਅਕਸਰ “ਗੰਦਾ” ਕੰਮ ਵੀ ਮਿਲ ਸਕਦਾ ਹੈ ਅਤੇ ਮੈਂ ਨਿੱਜੀ ਤੌਰ ‘ਤੇ ਅਜਿਹੇ ਕੰਮ ਲੈਣ ਲਈ ਪੂਰੀ ਤਰ੍ਹਾਂ ਤਿਆਰ ਰਹਿੰਦੀ ਹਾਂ, ਕਿਉਂਕਿ ਜੇ ਉਹੀ ਸਭ ਤੋਂ ਵੱਡੀ ਰੁਕਾਵਟ ਹੋਵੇ ਜਾਂ ਉਹ ਕੰਮ ਪ੍ਰੋਜੈਕਟ ਲਈ ਸਭ ਤੋਂ ਵੱਧ ਵੈਲਿਊ ਜੋੜ ਸਕੇ, ਤਾਂ ਕਿਸੇ ਵੀ ਕੰਮ ਨੂੰ “ਗੰਦਾ” ਜਾਂ “ਤੁੱਛ” ਨਹੀਂ ਸਮਝਣਾ ਚਾਹੀਦਾ। ਮੈਂ ਆਪਣੇ ਆਲੇ-ਦੁਆਲੇ ਦੇ ਲੋਕਾਂ ਨੂੰ ਵੀ ਇਹੀ ਕਰਨ ਲਈ ਉਤਸ਼ਾਹਿਤ ਕਰਦੀ ਹਾਂ, ਟੀਮ ਪਲੇਅਰ ਬਣਨ ਅਤੇ ਟੀਮ ਦੀ ਉਤਪਾਦਕਤਾ ਤੇਜ਼ ਕਰਨ ਲਈ ਇਕੱਠੇ ਕੰਮ ਕਰਨ ਲਈ।
ਸਾਨੂੰ ਆਪਣੇ ਬਲੌਗ ਬਾਰੇ ਦੱਸੋ. ਤੁਸੀਂ ਇਹ ਕਿਉਂ ਸ਼ੁਰੂ ਕੀਤਾ. ਤੁਹਾਨੂੰ ਕੀ ਆਸ ਹੈ ਕਿ ਇਹ ਕਿਹੜੀ ਪ੍ਰੇਰਣਾ ਦੇਵੇਗਾ.
ਇਹ ਸਭ ਨਿੱਜੀ ਸਿੱਖਣ ਨੋਟਾਂ ਦੇ ਇੱਕ ਸੈੱਟ ਵਜੋਂ ਸ਼ੁਰੂ ਹੋਇਆ। ਮੈਂ ਡੀਪ ਲਰਨਿੰਗ ਦੇ ਖੇਤਰ ਵਿੱਚ ਬਹੁਤ ਜਲਦੀ ਨਹੀਂ ਆਈ ਸੀ ਅਤੇ ਆਪਣੇ ਆਪ ਨੂੰ ਅਜੇ ਵੀ ਇੱਕ “ਨਵਸਿਖੀਆ” ਹੀ ਮੰਨਦੀ ਸੀ। ਸ਼ੁਰੂ ਵਿੱਚ ਜਦੋਂ ਮੈਂ ਬਹੁਤ ਸਾਰੇ ਪੇਪਰਾਂ ਵਿੱਚ ਡੁੱਬਣ ਲੱਗੀ, ਤਾਂ ਮੈਂ ਇਸ ਵਿਚਾਰ ਤੋਂ ਹੈਰਾਨ ਰਹਿ ਗਈ ਕਿ ਕਿਸੇ ਸਮੱਸਿਆ ਨੂੰ ਹੱਲ ਕਰਨ ਲਈ ਐਲਗੋਰਿਦਮ ਡਿਜ਼ਾਇਨ ਕਰਨ ਦੀ ਬਜਾਏ, ਇੱਕ ਮਾਡਲ ਨੂੰ ਉਹ ਐਲਗੋਰਿਦਮ ਸਿੱਖਣ ਲਈ ਟ੍ਰੇਨ ਕੀਤਾ ਜਾਵੇ ਜੋ ਸਮੱਸਿਆ ਹੱਲ ਕਰ ਸਕੇ। ਜਿੰਨਾ ਵੱਧ ਮੈਂ ਪੜ੍ਹਦੀ ਗਈ, ਉੱਨੀ ਹੀ ਜ਼ਿਆਦਾ ਉਤਸੁਕ ਹੁੰਦੀ ਗਈ। ਹਕੀਕਤ ਵਿੱਚ, ਮੈਂ ਜਿੰਨੇ ਪੇਪਰ ਪੜ੍ਹੇ ਅਤੇ ਜਿਹੜੇ ਨਵੇਂ ਧਾਰਣੇ ਸਿੱਖੇ, ਉਨ੍ਹਾਂ ਸਭ ਨੂੰ ਸੰਗਠਿਤ ਕਰਨਾ ਬਹੁਤ ਮੁਸ਼ਕਲ ਹੋ ਗਿਆ। ਇਸ ਲਈ ਮੈਂ ਆਪਣੇ ਸਿੱਖਣ ਨੋਟਾਂ ਨੂੰ ਦਰਜ ਕਰਨ ਅਤੇ ਸੰਗਠਿਤ ਕਰਨ ਲਈ ਇੱਕ ਬਲੌਗ ਸ਼ੁਰੂ ਕਰਨ ਦਾ ਫੈਸਲਾ ਕੀਤਾ। ਮੈਂ ਇਹ ਵੀ ਮੰਨਦੀ ਹਾਂ ਕਿ ਕਿਸੇ ਚੀਜ਼ ਨੂੰ ਸਿੱਖਣ ਦਾ ਸਭ ਤੋਂ ਵਧੀਆ ਤਰੀਕਾ ਇਹ ਯਕੀਨੀ ਬਣਾਉਣਾ ਹੈ ਕਿ ਤੁਸੀਂ ਉਹ ਗਿਆਨ ਦੂਜਿਆਂ ਨੂੰ ਠੀਕ ਅਤੇ ਸਪਸ਼ਟ ਤਰੀਕੇ ਨਾਲ ਸਿਖਾ ਸਕੋ। ਲਿਖਣਾ ਮੈਨੂੰ ਉੱਥੇ ਤੱਕ ਪਹੁੰਚਣ ਵਿੱਚ ਮਦਦ ਕਰਦਾ ਹੈ।
ਮੈਂ ਇਹ ਉਮੀਦ ਨਹੀਂ ਕੀਤੀ ਸੀ ਕਿ ਇਹ ML ਭਾਈਚਾਰੇ ਵਿੱਚ ਲੋਕਪ੍ਰਿਯ ਹੋ ਜਾਵੇਗਾ, ਪਰ ਜਦੋਂ ਵੀ ਮੈਨੂੰ ਧੰਨਵਾਦ ਵਾਲੀ ਈਮੇਲ ਮਿਲਦੀ ਹੈ ਜਾਂ ਕੋਈ ਰੂਬਰੂ ਦੱਸਦਾ ਹੈ ਕਿ ਉਸਨੇ ਮੇਰਾ ਬਲੌਗ ਪੜ੍ਹ ਕੇ ਬਹੁਤ ਕੁਝ ਸਿੱਖਿਆ ਹੈ, ਤਾਂ ਮੈਂ ਆਪਣੇ ਆਪ ਨੂੰ ਬਹੁਤ ਮਾਣਵਾਨ ਅਤੇ ਆਭਾਰੀ ਮਹਿਸੂਸ ਕਰਦੀ ਹਾਂ। 2017 ਵਿੱਚ ਬਲੌਗ ਸ਼ੁਰੂ ਕੀਤੇ ਹੁੰਦੇ ਲਗਭਗ 6 ਸਾਲ ਹੋ ਚੁੱਕੇ ਹਨ ਅਤੇ ਜਿੰਨਾ ਚਿਰ ਮੈਂ ਕਰ ਸਕਾਂਗੀ, ਇਸਨੂੰ ਜਾਰੀ ਰੱਖਾਂਗੀ।
ਤੁਹਾਡੇ ਵਿਚਾਰ ਵਿੱਚ ਸਾਡੇ ਸਮਾਜ ਵਿੱਚ AI ਹੱਲ ਕਰ ਸਕਦੀ ਸਭ ਤੋਂ ਤਾਤਕਾਲੀ ਚੁਣੌਤੀਆਂ ਵਿੱਚੋਂ ਇੱਕ ਕਿਹੜੀ ਹੈ?
ਹਾਲੀਆ ਸਾਲਾਂ ਵਿੱਚ AI ਭਾਈਚਾਰੇ ਨੇ ਬਹੁਤ ਵੱਡੀ ਤਰੱਕੀ ਕੀਤੀ ਹੈ। ਹਾਰਡਵੇਅਰ, ਮਾਡਲ ਆਰਕੀਟੈਕਚਰ ਅਤੇ ਡਾਟੇ ਵਿੱਚ ਹੋਈ ਤਰੱਕੀ ਨੇ ਵਿਸ਼ਾਲ ਮਾਡਲ ਟ੍ਰੇਨ ਕਰਨਾ ਸੰਭਵ ਬਣਾਇਆ ਹੈ ਅਤੇ ਨਤੀਜੇ ਵਜੋਂ ਅਸੀਂ ਹੋਰ ਵੱਧਦੀਆਂ ਸਮਰੱਥਾਵਾਂ ਦੇਖਦੇ ਜਾ ਰਹੇ ਹਾਂ। ਮੇਰਾ ਵਿਸ਼ਵਾਸ ਹੈ ਕਿ ਅਸੀਂ AGI ਵੱਲ ਸਹੀ ਰਸਤੇ ‘ਤੇ ਹਾਂ, ਪਰ ਸਕੇਲਿੰਗ ਹੀ ਇਕੱਲਾ ਨੁਸਖਾ ਨਹੀਂ ਹੈ। ਮੇਰੇ ਵਿਚਾਰ ਵਿੱਚ ਇਸ ਵੇਲੇ ਸਭ ਤੋਂ ਤਾਤਕਾਲੀ ਚੁਣੌਤੀਆਂ ਅਲਾਇਨਮੈਂਟ ਅਤੇ ਸੁਰੱਖਿਆ ਹਨ। ਕੁਝ ਹੱਦ ਤੱਕ, ਇਹ ਕੰਟਰੋਲੇਬਿਲਿਟੀ ਜਾਂ steerability ਦੇ ਇੱਕੋ ਹੀ ਮਸਲੇ ਹੋ ਸਕਦੇ ਹਨ।
ਸਭ ਤੋਂ ਪਹਿਲਾਂ, ਭਾਵੇਂ ਸਾਡੇ ਕੋਲ ਪਹਿਲਾਂ ਹੀ ਬੇਹੱਦ ਸ਼ਕਤੀਸ਼ਾਲੀ AI ਸਿਸਟਮ ਹੋਵੇ, ਜੇ ਅਸੀਂ ਆਪਣੇ ਲਕਸ਼ਾਂ ਨੂੰ ਪ੍ਰਭਾਵਸ਼ਾਲੀ ਤਰੀਕੇ ਨਾਲ ਸੰਚਾਰਿਤ ਨਹੀਂ ਕਰ ਸਕਦੇ ਅਤੇ ਇਹ ਯਕੀਨੀ ਨਹੀਂ ਬਣਾ ਸਕਦੇ ਕਿ ਮਾਡਲ ਸਾਡੇ ਮਨਚਾਹੇ ਨਾਲ ਅਨੁਰੂਪ ਹੈ, ਤਾਂ ਅਸੀਂ ਉਤਨੀ ਵੈਲਿਊ ਨਹੀਂ ਪੈਦਾ ਕਰ ਸਕਾਂਗੇ ਜਿੰਨੀ ਸਾਨੂੰ ਲੋੜ ਹੈ। ਮੌਜੂਦਾ ਸਭ ਤੋਂ ਸ਼ਕਤੀਸ਼ਾਲੀ ਮਾਡਲ ਡਾਟੇ ਦੀ ਇਕ ਵਿਸ਼ਾਲ ਮਾਤਰਾ ਤੋਂ ਸਿੱਖਦਾ ਹੈ ਅਤੇ ਡਾਟਾਸੈੱਟ ਅਟੱਲ ਤੌਰ ‘ਤੇ ਅਸਲ ਦੁਨੀਆ ਦੀਆਂ ਅਪੂਰਣ ਖਾਮੀਆਂ ਅਤੇ ਪੱਖਪਾਤਾਂ ਨੂੰ ਕੈਪਚਰ ਕਰ ਲੈਂਦਾ ਹੈ। ਇਸ ਪੱਖ ਤੋਂ, ਅਨਅਲਾਇਨਡ ਮਾਡਲ ਸੁਰੱਖਿਆ ਸੰਬੰਧੀ ਚਿੰਤਾਵਾਂ ਪੈਦਾ ਕਰਦੇ ਹਨ, ਕਿਉਂਕਿ ਉਨ੍ਹਾਂ ਨੂੰ ਇਹ ਸਮਝ ਨਹੀਂ ਹੁੰਦੀ ਕਿ ਕਿਸ ਚੀਜ਼ ਤੋਂ ਬਚਣਾ ਚਾਹੀਦਾ ਹੈ।
“ਮੇਰਾ ਵਿਸ਼ਵਾਸ ਹੈ ਕਿ ਅਸੀਂ AGI ਵੱਲ ਸਹੀ ਰਸਤੇ ‘ਤੇ ਹਾਂ, ਪਰ ਸਕੇਲਿੰਗ ਹੀ ਇਕੱਲਾ ਨੁਸਖਾ ਨਹੀਂ ਹੈ। ਇਸ ਵੇਲੇ ਸਭ ਤੋਂ ਤਾਤਕਾਲੀ ਚੁਣੌਤੀਆਂ ਅਲਾਇਨਮੈਂਟ ਅਤੇ ਸੁਰੱਖਿਆ ਹਨ।”
OpenAI ਵਿੱਚ ਆਪਣੇ ਕਰੀਅਰ ਦੌਰਾਨ ਮਿਲੀ ਸਭ ਤੋਂ ਵਧੀਆ ਸਲਾਹ ਕੀ ਹੈ?
ਇਹ ਕੋਈ ਖ਼ਾਸ ਸਲਾਹ ਨਹੀਂ ਜੋ ਕਿਸੇ ਨੇ ਮੈਨੂੰ ਦਿੱਤੀ ਹੋਵੇ, ਸਗੋਂ ਹੁਣ ਤੱਕ OpenAI ਵਿੱਚ ਮੇਰੇ ਤਜਰਬੇ ‘ਤੇ ਆਧਾਰਿਤ ਹੈ। ਉਹ ਇਹ ਹੈ ਕਿ ਵੱਡਾ ਸੋਚੋ। ਅਸੀਂ ਕੁਝ ਨਵਾਂ ਰਚ ਰਹੇ ਹਾਂ ਅਤੇ ਸਾਨੂੰ ਮਹੱਤਵਾਕਾਂਕਸ਼ੀ, ਨਿਡਰ ਹੋਣਾ ਚਾਹੀਦਾ ਹੈ ਅਤੇ ਆਪਣੇ ਯਤਨਾਂ ਨੂੰ ਜਾਰੀ ਰੱਖਣ ਲਈ ਕਾਫ਼ੀ ਡਟੇ ਰਹਿਣਾ ਚਾਹੀਦਾ ਹੈ।
ਤੁਸੀਂ ਪ੍ਰੇਰਣਾ ਕਿੱਥੋਂ ਲੈਂਦੇ ਹੋ?
ਕਿਤਾਬਾਂ। ਮੈਂ ਆਮ ਤੌਰ ‘ਤੇ ਡੀਪ ਲਰਨਿੰਗ ਦੇ ਖੇਤਰ ਤੋਂ ਬਾਹਰ ਦੀਆਂ ਕਿਤਾਬਾਂ ਪੜ੍ਹਦੀ ਹਾਂ ਅਤੇ ਵੱਖ-ਵੱਖ ਖੇਤਰਾਂ ਤੋਂ ਪ੍ਰੇਰਿਤ ਹੁੰਦੀ ਹਾਂ। ਉਦਾਹਰਨ ਵਜੋਂ, ਕਿਸੇ ਲੇਖਕ ਲਈ 50 ਸਾਲਾਂ ਤੱਕ ਡਟੇ ਰਹਿਣਾ ਕਿੰਨਾ ਮਹੱਤਵਪੂਰਨ ਹੈ, ਕਿਸੇ ਸਰਜਨ ਲਈ ਬੇਹੱਦ ਬਾਰੀਕੀ-ਕੇਂਦਰਿਤ ਹੋਣਾ ਕਿੰਨਾ ਜ਼ਰੂਰੀ ਹੈ, ਅਤੇ ਕਿਸੇ ਉਦਮੀ ਲਈ “ਪਾਗਲਪੰਤੀ ਵਾਲੇ ਵਿਚਾਰ” ਰੱਖਣੇ ਕਿੰਨੇ ਲਾਜ਼ਮੀ ਹਨ।
ਮੇਰੇ ਆਲੇ-ਦੁਆਲੇ ਦੇ ਲੋਕ। ਮੈਨੂੰ OpenAI ਵਿੱਚ ਬੇਹੱਦ ਪ੍ਰਤਿਭਾਸ਼ਾਲੀ ਸਹਿਕਰਮੀਆਂ ਦੇ ਇੱਕ ਵੱਡੇ ਸਮੂਹ ਨਾਲ ਕੰਮ ਕਰਨ ਦਾ ਮਾਣ ਹੈ। ਹਰ ਕਿਸੇ ਵਿੱਚ ਕੁਝ ਨਾ ਕੁਝ ਚਮਕਦਾਰ, ਪ੍ਰੇਰਕ ਜਾਂ ਆਦਰਯੋਗ ਹੈ ਅਤੇ ਮੈਨੂੰ ਉਨ੍ਹਾਂ ਤੋਂ ਸਿੱਖਣਾ ਚੰਗਾ ਲੱਗਦਾ ਹੈ।
