ਅਣਕਹੀ ਸਹਿਮਤੀ
ਲੇਖਕ ਦੀ ਟਿੱਪਣੀ: ਅੱਜ ਦਾ ਲੇਖ ਉਸ ਭਾਸ਼ਣ ਦਾ ਰੂਪਾਂਤਰ ਹੈ ਜੋ ਲੇਖਕ ਨੇ ਹਾਲ ਹੀ ਵਿੱਚ ਹਾਰਵਰਡ ਵਿਖੇ ਵਿਕ-ਬੇਲੀ ਭਾਸ਼ਣ ਲੜੀ ਤਹਿਤ ਦਿੱਤਾ ਸੀ. ਇਸ ਲਿਖਤ ਵਿੱਚ ਲੇਖਕ ਦੇ ਆਪਣੇ ਵਿਚਾਰ ਹਨ; ਇਹ ਲਾਜ਼ਮੀ ਨਹੀਂ ਕਿ OpenAI ਜਾਂ ਇਸ ਦੇ ਹੋਰ ਕਰਮਚਾਰੀ ਵੀ ਇਹੀ ਵਿਚਾਰ ਰੱਖਦੇ ਹੋਣ.
ਅੱਜ ਇੱਥੇ ਆਉਣ ਲਈ ਤੁਹਾਡਾ ਧੰਨਵਾਦ. ਇਸ ਵੇਲੇ, ਜਦੋਂ ਅਸੀਂ ਗੱਲ ਕਰ ਰਹੇ ਹਾਂ, ਸਾਈਬਰ ਸੁਰੱਖਿਆ ਦੇ ਇਤਿਹਾਸ ਦਾ ਇੱਕ ਬੇਹੱਦ ਅਹਿਮ ਘਟਨਾਕ੍ਰਮ ਵਾਪਰ ਰਿਹਾ ਹੈ. ਸੁਰੱਖਿਆ ਦੀਆਂ ਗੰਭੀਰ ਕਮਜ਼ੋਰੀਆਂ ਦਾ ਲਗਾਤਾਰ ਖ਼ੁਲਾਸਾ ਹੋ ਰਿਹਾ ਹੈ, ਜਿਸ ਨੂੰ ਕੁਝ ਲੋਕ “ਕਾਲਾ ਅਕਤੂਬਰ” ਕਹਿ ਰਹੇ ਹਨ. ਇੰਟਰਨੈੱਟ ਦੇ ਕੁਝ ਬੁਨਿਆਦੀ ਢਾਂਚਿਆਂ ਵਿੱਚ ਮੌਜੂਦ ਇਹ ਕਮਜ਼ੋਰੀਆਂ ਅਤਿ-ਆਧੁਨਿਕ AI ਪ੍ਰਣਾਲੀਆਂ ਨੇ ਲੱਭੀਆਂ ਹਨ. ਇਨ੍ਹਾਂ ਦਾ ਖ਼ੁਲਾਸਾ ਦੁਨੀਆ ਭਰ ਵਿੱਚ ਸੌਫਟਵੇਅਰ ਸੁਰੱਖਿਆ ਮਜ਼ਬੂਤ ਕਰਨ ਦੀ ਇੱਕ ਫ਼ੌਰੀ ਕੋਸ਼ਿਸ਼ ਦਾ ਹਿੱਸਾ ਹੈ. ਇਸ ਮਹੀਨੇ ਇਹ ਮਾਮਲਾ ਫ਼ੌਰੀ ਧਿਆਨ ਮੰਗਦਾ ਹੈ; ਅਗਲੇ ਮਹੀਨੇ ਕੋਈ ਹੋਰ ਹੋਵੇਗਾ. ਸੌਫਟਵੇਅਰ ਦੀਆਂ ਕਮਜ਼ੋਰੀਆਂ ਲੱਭਣਾ ਉਹ ਸਮਰੱਥਾ ਹੈ ਜੋ ਅੱਜ AI ਪ੍ਰਣਾਲੀਆਂ ਨੇ ਹਾਸਲ ਕੀਤੀ ਹੈ ਅਤੇ ਜਿਸ ਦੀ ਵਰਤੋਂ ਚੰਗੇ ਤੇ ਮਾੜੇ, ਦੋਵਾਂ ਮਕਸਦਾਂ ਲਈ ਹੋ ਸਕਦੀ ਹੈ. ਪਰ ਛੇਤੀ ਹੀ ਅਜਿਹੀ ਕੋਈ ਹੋਰ ਸਮਰੱਥਾ ਆਵੇਗੀ. ਉਸ ਨਾਲ ਵੀ ਇੱਕ ਫ਼ੌਰੀ ਮੁਹਿੰਮ ਸ਼ੁਰੂ ਹੋਵੇਗੀ ਕਿ ਬਦਨੀਅਤ ਲੋਕਾਂ ਵੱਲੋਂ ਉਸ ਦਾ ਮਾੜਾ ਪੱਖ ਵਰਤੇ ਜਾਣ ਤੋਂ ਪਹਿਲਾਂ ਉਸ ਦੇ ਚੰਗੇ ਪੱਖ ਦਾ ਲਾਹਾ ਲਿਆ ਜਾਵੇ. ਇਹ ਸਾਰੇ ਫ਼ੌਰੀ ਮਾਮਲੇ ਇੱਕੋ ਸਮੇਂ ਸਾਡੇ ਸਾਹਮਣੇ ਆਉਣਗੇ ਹੀ, ਅਤੇ ਅੱਜ ਜਿਸ ਨੂੰ ਅਸੀਂ “AI ਨੀਤੀ” ਕਹਿੰਦੇ ਹਾਂ, ਉਸ ਦਾ ਵੱਡਾ ਹਿੱਸਾ ਸੰਭਵ ਹੈ ਕਿ ਇਸੇ ਰੌਲੇ-ਰੱਪੇ ਵਿੱਚ ਤੈਅ ਹੋਵੇ.
ਪਰ ਅੱਜ ਮੈਂ ਤੁਹਾਡੇ ਨਾਲ ਫ਼ੌਰੀ ਕਦਮਾਂ ਜਾਂ ਘਟਨਾਵਾਂ ਦੇ ਜਵਾਬ ਵਿੱਚ ਚੁੱਕੇ ਜਾਣ ਵਾਲੇ ਕਦਮਾਂ ਬਾਰੇ ਗੱਲ ਕਰਨ ਨਹੀਂ ਆਇਆ. ਇਸ ਦੀ ਬਜਾਏ, ਮੈਂ ਤੁਹਾਡੇ ਨਾਲ ਗੱਲ ਕਰਨਾ ਚਾਹੁੰਦਾ ਹਾਂ ਕਿ ਵੱਡੇ ਪਰਿਪੇਖ ਵਿੱਚ ਅਸੀਂ ਕਿਸ ਦਿਸ਼ਾ ਵੱਲ ਜਾ ਰਹੇ ਹੋ ਸਕਦੇ ਹਾਂ. ਫ਼ੌਰੀ ਮਸਲਿਆਂ ਦੀ ਅਜਿਹੀ ਬੌਛਾਰ ਵਿੱਚ ਇਨ੍ਹਾਂ ਵਧੇਰੇ ਅਮੂਰਤ ਅਤੇ ਸਿਧਾਂਤਕ ਸਵਾਲਾਂ ਬਾਰੇ ਸੋਚਣਾ ਔਖਾ ਹੋ ਸਕਦਾ ਹੈ. ਪਰ ਇਹ ਸਵਾਲ ਅਹਿਮ ਹਨ. ਜੇ ਸਾਨੂੰ ਇਹ ਸੂਝ ਨਾ ਹੋਵੇ ਕਿ ਲੰਮੇ ਸਮੇਂ ਵਿੱਚ ਅਸੀਂ ਕਿਹੋ ਜਿਹਾ ਭਵਿੱਖ ਚਾਹੁੰਦੇ ਹਾਂ ਅਤੇ ਕਿਸ ਤੋਂ ਬਚਣਾ ਚਾਹੁੰਦੇ ਹਾਂ, ਤਾਂ ਅੰਤ ਵਿੱਚ ਕੁੱਲ ਨਤੀਜਾ ਸਾਡੀ ਇੱਛਾ ਦੇ ਉਲਟ ਹੋ ਸਕਦਾ ਹੈ, ਭਾਵੇਂ ਅਸੀਂ ਰਾਹ ਦੇ ਹਰ ਕਦਮ ਉੱਤੇ ਸਮਝਦਾਰੀ ਨਾਲ ਫ਼ੈਸਲੇ ਲਏ ਹੋਣ.
ਅਕਸਰ ਕਿਹਾ ਜਾਂਦਾ ਹੈ ਕਿ ਤਕਨਾਲੋਜੀ ਉਦਯੋਗ ਕੋਲ ਇਸ ਗੱਲ ਦੀ ਕੋਈ ਸਕਾਰਾਤਮਕ ਕਲਪਨਾ ਨਹੀਂ ਕਿ ਇਸ ਦੀਆਂ ਬਣਾਈਆਂ ਚੀਜ਼ਾਂ ਸਾਨੂੰ ਕਿੱਥੇ ਲੈ ਜਾਣਗੀਆਂ. ਮੈਂ ਇਸ ਨਾਲ ਸਹਿਮਤ ਨਹੀਂ: ਸੈਨ ਫ੍ਰਾਂਸਿਸਕੋ ਅਤੇ ਉੱਦਮਸ਼ੀਲਤਾ ਦੇ ਹੋਰ ਕੇਂਦਰ ਸਾਡੇ ਤਕਨੀਕੀ ਭਵਿੱਖ ਦੀਆਂ ਸਕਾਰਾਤਮਕ ਕਲਪਨਾਵਾਂ ਨਾਲ ਭਰੇ ਪਏ ਹਨ. ਲੋਕ ਸੱਚਮੁੱਚ ਉੱਡਣ ਵਾਲੀਆਂ ਕਾਰਾਂ, ਆਪਣੇ ਆਪ ਚੱਲਣ ਵਾਲੇ ਵਾਹਨਾਂ, ਕਈ ਆਕਾਰਾਂ ਤੇ ਸ਼ਕਲਾਂ ਦੇ ਰੋਬੋਟਾਂ, ਨਾਭਿਕੀ ਸੰਲਯਨ ਅਤੇ, ਬੇਸ਼ੱਕ, ਆਰਟੀਫ਼ਿਸ਼ੀਅਲ ਜਨਰਲ ਇੰਟੈਲੀਜੈਂਸ ਨੂੰ ਹਕੀਕਤ ਬਣਾਉਣ ਉੱਤੇ ਕੰਮ ਕਰ ਰਹੇ ਹਨ. ਸਗੋਂ ਜਿਸ ਚੀਜ਼ ਦੀ ਘਾਟ ਹੈ, ਉਹ ਸਾਡੇ ਸੰਸਥਾਗਤ ਭਵਿੱਖ ਦੀ ਸਕਾਰਾਤਮਕ ਕਲਪਨਾ ਹੈ: ਇਹ ਸਭ ਚੱਲੇਗਾ ਕਿਵੇਂ?
ਪਰ ਇਸ ਦਾ ਮਤਲਬ ਇਹ ਨਹੀਂ ਕਿ ਭਵਿੱਖ ਦੇ ਸੰਸਥਾਗਤ ਢਾਂਚੇ ਬਾਰੇ ਕੋਈ ਕਲਪਨਾ ਹੈ ਹੀ ਨਹੀਂ. ਬਦਕਿਸਮਤੀ ਨਾਲ, ਜਿਹੜੀ ਕਲਪਨਾ ਮੈਨੂੰ ਸਭ ਤੋਂ ਆਮ ਦਿਸਦੀ ਹੈ, ਉਸ ਨੂੰ ਮੈਂ ਸਕਾਰਾਤਮਕ ਨਹੀਂ ਕਹਾਂਗਾ. ਜੇ ਕਦੇ ਇਸ ਨੂੰ ਬਿਆਨ ਕੀਤਾ ਵੀ ਜਾਂਦਾ ਹੈ, ਤਾਂ ਆਮ ਤੌਰ ’ਤੇ ਘੁਸਰ-ਮੁਸਰ ਵਿੱਚ ਹੀ. ਪਰ ਅਕਸਰ ਇਹ ਅਣਕਹੀ ਹੀ ਰਹਿੰਦੀ ਹੈ, ਜਿਸ ਨੂੰ ਸਿਰਫ਼ ਇਸ਼ਾਰਿਆਂ ਤੋਂ ਸਮਝਿਆ ਜਾ ਸਕਦਾ ਹੈ. ਮੈਂ ਇਸ ਨੂੰ ਅਣਕਹੀ ਸਹਿਮਤੀ ਕਹਿੰਦਾ ਹਾਂ.
ਇੱਕ ਅਜਿਹੀ ਕੰਪਨੀ ਬਾਰੇ ਸੋਚੋ ਜੋ ਮਨੁੱਖੀ ਮਿਹਨਤ ਤੋਂ ਬਿਨਾਂ ਲਗਭਗ ਹਰ ਕੰਮ ਕਰ ਸਕਦੀ ਹੋਵੇ. ਇਸ ਦੀਆਂ AI ਪ੍ਰਣਾਲੀਆਂ ਖੋਜ ਅਤੇ ਵਿਕਾਸ ਕਰਦੀਆਂ ਹਨ, ਨਵੀਆਂ ਖੋਜਾਂ ਕਰਦੀਆਂ ਹਨ, ਠੇਕਿਆਂ ਲਈ ਗੱਲਬਾਤ ਕਰਦੀਆਂ ਹਨ, ਪੂੰਜੀ ਦੀ ਵੰਡ ਕਰਦੀਆਂ ਹਨ ਅਤੇ ਉਤਪਾਦਨ ਕਰਦੀਆਂ ਹਨ. ਮੰਨ ਲਓ ਕਿ ਇਹ ਇਨ੍ਹਾਂ ਕੰਮਾਂ ਵਿੱਚ ਆਪਣੇ ਮਨੁੱਖੀ ਮੁਕਾਬਲੇਬਾਜ਼ਾਂ ਨਾਲੋਂ ਬਿਹਤਰ ਹੈ, ਭਾਵੇਂ ਉਹ ਮਨੁੱਖ ਆਪਣੀ ਮਿਹਨਤ ਨੂੰ ਹੋਰ ਪ੍ਰਭਾਵਸ਼ਾਲੀ ਬਣਾਉਣ ਲਈ AI ਦੀ ਮਦਦ ਵੀ ਲੈਂਦੇ ਹੋਣ. ਜੇ ਮਨੁੱਖੀ ਦਖ਼ਲ ਨਾਲ ਕਾਰੋਬਾਰ ਦੀ ਰਫ਼ਤਾਰ ਸਿਰਫ਼ ਹੌਲੀ ਹੀ ਹੁੰਦੀ ਹੋਵੇ, ਤਾਂ ਮਨੁੱਖੀ ਪ੍ਰਬੰਧਕਾਂ ਅਤੇ ਮਾਲਕਾਂ ਕੋਲ ਸਟੀਅਰਿੰਗ ਤੋਂ ਹੱਥ ਹਟਾ ਲੈਣ ਦੀ ਬੜੀ ਮਜ਼ਬੂਤ ਵਜ੍ਹਾ ਹੋਵੇਗੀ. ਜੇ ਅਜਿਹਾ ਪੂਰੀ ਵਿਸ਼ਵ ਅਰਥਵਿਵਸਥਾ ਵਿੱਚ ਹੋਇਆ, ਤਾਂ ਬਾਜ਼ਾਰੀ ਮੁਕਾਬਲੇ ਦਾ ਤਰਕ ਮਨੁੱਖਾਂ ਨੂੰ ਵਿਸ਼ਵ ਵਪਾਰ ਉੱਤੇ ਆਪਣੀ ਪ੍ਰਮੁੱਖਤਾ ਛੱਡਣ ਵੱਲ ਧੱਕੇਗਾ. ਸਮੇਂ ਦੇ ਨਾਲ, ਹੋ ਸਕਦਾ ਹੈ ਕਿ ਬਾਜ਼ਾਰ ਮਸ਼ੀਨਾਂ ਦੀਆਂ ਮੰਗਾਂ ਓਨੀਆਂ ਹੀ ਜਾਂ ਉਸ ਤੋਂ ਵੀ ਵੱਧ ਪੂਰੀਆਂ ਕਰਨ ਲੱਗ ਪਵੇ, ਜਿੰਨੀਆਂ ਉਹ ਲੋਕਾਂ ਦੀਆਂ ਮੰਗਾਂ ਅਤੇ ਇੱਛਾਵਾਂ ਪੂਰੀਆਂ ਕਰਦਾ ਹੈ.
ਉਸ ਤੋਂ ਬਾਅਦ ਕੀ ਹੋਵੇਗਾ, ਇਹ ਕੋਈ ਨਹੀਂ ਜਾਣਦਾ. ਸ਼ਾਇਦ ਮਨੁੱਖਾਂ ਨੂੰ ਬੇਹੱਦ ਲਾਭ ਹੋਵੇ. ਜੇ ਸਾਨੂੰ ਆਪਣੇ ਅਧੀਨ ਕਰ ਚੁੱਕੀਆਂ ਮਸ਼ੀਨਾਂ ਮਨੁੱਖ ਹੋਣ ਦੇ ਨਾਤੇ ਹੀ ਸਾਡਾ ਬਹੁਤ ਸਤਿਕਾਰ ਕਰਦੀਆਂ ਹੋਣ, ਤਾਂ ਸਾਨੂੰ ਉਨ੍ਹਾਂ ਦੀ ਮਿਹਨਤ ਅਤੇ ਉਨ੍ਹਾਂ ਦੀ ਪੈਦਾ ਕੀਤੀ ਦੌਲਤ ਦਾ ਲਾਭ ਮਿਲ ਸਕਦਾ ਹੈ. ਜਾਂ ਸ਼ਾਇਦ ਆਰਥਿਕ ਅਤੇ ਹੌਲੀ-ਹੌਲੀ ਰਾਜਨੀਤਿਕ ਤਾਕਤ ਵੀ ਗੁਆ ਕੇ, ਦੁਨੀਆ ਵਿੱਚ ਸਾਡੀ ਅਹਿਮੀਅਤ ਘਟਦੀ ਜਾਵੇ ਅਤੇ ਵਿਸ਼ਵ ਮਾਮਲਿਆਂ ਦੀ ਦਿਸ਼ਾ ਤੈਅ ਕਰਨ ਦੀ ਸਾਡੀ ਸਮਰੱਥਾ ਵੀ. ਸ਼ਾਇਦ ਕੁਝ ਮੁੱਠੀ ਭਰ ਮਨੁੱਖਾਂ ਕੋਲ ਬੇਮਿਸਾਲ ਤਾਕਤ ਅਤੇ ਦੌਲਤ ਹੋਵੇ, ਜਿਸ ਦੀ ਕੀਮਤ ਸ਼ਕਤੀਹੀਣ ਬਣ ਚੁੱਕੀ ਵੱਡੀ ਆਬਾਦੀ ਚੁਕਾਏ, ਜਾਂ ਸ਼ਾਇਦ ਅਸੀਂ ਸਾਰੇ ਹੀ ਸ਼ਕਤੀਹੀਣਤਾ ਦੀ ਇੱਕੋ ਹੋਣੀ ਸਾਂਝੀ ਕਰੀਏ. ਵੇਰਵੇ ਭਾਵੇਂ ਜੋ ਵੀ ਹੋਣ, ਇਸ ਅਣਕਹੀ ਸਹਿਮਤੀ ਦਾ ਸਾਂਝਾ ਧਾਗਾ ਇਹ ਹੈ ਕਿ ਅੱਜ ਦੀ ਦੁਨੀਆ ਵਿੱਚ ਮਨੁੱਖਾਂ ਦੀ ਜੋ ਪ੍ਰਮੁੱਖਤਾ ਹੈ, ਉਹ ਖ਼ਤਮ ਹੋ ਜਾਵੇਗੀ.
ਇਨ੍ਹਾਂ ਹਾਲਾਤ ਲਈ ਇਹ ਜ਼ਰੂਰੀ ਨਹੀਂ ਕਿ AI ਆਪਣੇ ਸਿਰਜਣਹਾਰਾਂ ਵਿਰੁੱਧ ਬਗਾਵਤ ਕਰੇ. ਨਾ ਹੀ ਇਹ ਜ਼ਰੂਰੀ ਹੈ ਕਿ ਇਸ ਦੇ ਮਾਲਕ ਮਨੁੱਖਾਂ ਨੂੰ ਸ਼ਕਤੀਹੀਣ ਬਣਾਉਣਾ ਚਾਹੁੰਦੇ ਹੋਣ. ਜ਼ਿੰਮੇਵਾਰੀ ਸੌਂਪਣ ਦਾ ਹਰ ਫ਼ੈਸਲਾ ਆਪਣੇ ਆਪ ਵਿੱਚ ਵਾਜਬ ਲੱਗ ਸਕਦਾ ਹੈ. ਪਰ ਮਿਲ ਕੇ ਇਹ ਫ਼ੈਸਲੇ ਅਜਿਹੀ ਦੁਨੀਆ ਬਣਾ ਸਕਦੇ ਹਨ ਜਿਸ ਵਿੱਚ ਲੋਕ ਆਪਣੀ ਸਭਿਅਤਾ ਦੇ ਵੱਡੇ ਹਿੱਸੇ ਉੱਤੇ ਅਸਲ ਅਧਿਕਾਰ ਛੱਡ ਚੁੱਕੇ ਹੋਣ. ਭਾਵੇਂ ਅਸੀਂ AI ਦੀ ਸੁਰੱਖਿਆ ਅਤੇ ਇਸ ਨੂੰ ਮਨੁੱਖੀ ਉਦੇਸ਼ਾਂ ਅਨੁਸਾਰ ਢਾਲਣ ਦੇ ਉਲਝੇ ਹੋਏ ਸਵਾਲਾਂ ਉੱਤੇ ਬੇਮਿਸਾਲ ਤਰੱਕੀ ਕਰ ਲਈਏ, ਫਿਰ ਵੀ ਹੋ ਸਕਦਾ ਹੈ ਕਿ ਅਸੀਂ ਆਪਣੇ ਆਪ ਨੂੰ ਇੱਕ ਨਵੀਂ ਕਿਸਮ ਦੀ ਮਸ਼ੀਨੀ ਹਸਤੀ ਦੇ ਅਧੀਨ ਕਰ ਚੁੱਕੇ ਹੋਈਏ. ਅਣਕਹੀ ਸਹਿਮਤੀ ਸਾਨੂੰ ਦੱਸੇਗੀ ਕਿ ਭਵਿੱਖ ਦੇ ਖ਼ੁਸ਼ਹਾਲ ਰੂਪ ਵਿੱਚ ਇਹ ਹਸਤੀ ਦਿਆਲੂ ਹੋਵੇਗੀ, ਅਜਿਹੀ ਮਸ਼ੀਨ ਜੋ ਮਨੁੱਖਾਂ ਦੇ ਸਰਬੋਤਮ ਹਿੱਤ ਚਾਹੁੰਦੀ ਹੋਵੇਗੀ. ਬ੍ਰੌਟੀਗਨ ਦੀ ਕਵਿਤਾ ਦੇ ਸ਼ਬਦਾਂ ਵਿੱਚ, ਪਿਆਰ ਭਰੀ ਮਿਹਰ ਵਾਲੀ ਮਸ਼ੀਨ.
ਅਣਕਹੀ ਸਹਿਮਤੀ ਸਾਨੂੰ ਕਹਿੰਦੀ ਹੈ ਕਿ ਇਨ੍ਹਾਂ ਮਸ਼ੀਨਾਂ ਨੂੰ ਅਸੀਂ ਆਪਣੀਆਂ ਕੰਪਨੀਆਂ ਦੀਆਂ ਚਾਬੀਆਂ ਸੌਂਪ ਦੇਵਾਂਗੇ ਅਤੇ ਹੌਲੀ-ਹੌਲੀ ਆਪਣੀਆਂ ਸ਼ਾਸਨ ਸੰਸਥਾਵਾਂ ਦੀਆਂ ਵੀ. ਉਹ ਇਨ੍ਹਾਂ ਨੂੰ ਸਾਡੇ ਮਨੁੱਖਾਂ ਨਾਲੋਂ ਵੱਧ ਪ੍ਰਭਾਵਸ਼ਾਲੀ ਢੰਗ ਨਾਲ, ਵੱਧ ਕੁਸ਼ਲਤਾ ਨਾਲ, ਵੱਧ ਸਿਆਣਪ ਅਤੇ ਬਿਹਤਰ ਸੂਝ-ਬੂਝ ਨਾਲ ਚਲਾਉਣਗੀਆਂ. ਇਉਂ ਸਮਾਂ ਪਾ ਕੇ ਅਸੀਂ ਸਟੀਅਰਿੰਗ ਤੋਂ ਆਪਣੇ ਹੱਥ ਹਟਾ ਲਵਾਂਗੇ ਅਤੇ ਪਿਆਰ ਕਰਨ ਵਾਲੀਆਂ ਮਸ਼ੀਨਾਂ ਨੂੰ ਗੱਡੀ ਚਲਾਉਣ ਦੇਵਾਂਗੇ. ਅਸੀਂ ਕਾਰ ਵਿੱਚ ਬੈਠੀਆਂ ਸਵਾਰੀਆਂ ਵਰਗੇ ਹੋਵਾਂਗੇ—ਬਹੁਤ ਵਧੀਆ ਕਾਰ, ਸ਼ਾਇਦ ਸੁੱਖ-ਸਹੂਲਤਾਂ ਪੱਖੋਂ ਅੱਜ ਦੀ ਸਾਡੀ ਕਲਪਨਾ ਤੋਂ ਵੀ ਬਿਹਤਰ—ਪਰ ਫਿਰ ਵੀ ਸਵਾਰੀਆਂ ਹੀ, ਜਿਨ੍ਹਾਂ ਦੇ ਵੱਸ ਵਿੱਚ ਇਹ ਨਹੀਂ ਹੋਵੇਗਾ ਕਿ ਗੱਡੀ ਕਿੱਧਰ ਜਾ ਰਹੀ ਹੈ. ਅਸੀਂ ਜਿੰਨਾ ਵੀ ਕੰਮ ਕਰਾਂਗੇ, ਉਹ ਜ਼ਿਆਦਾਤਰ ਇੱਕ ਰਸਮ ਜਾਂ ਕੰਮ ਕਰਨ ਦਾ ਸਵਾਂਗ ਹੀ ਹੋਵੇਗਾ, ਸਾਡੀ ਪ੍ਰਜਾਤੀ ਦੇ ਮਨੋਰੰਜਨ ਲਈ ਕਿਸੇ ਖੇਡ ਵਰਗਾ.
ਕੁਝ ਨਿਰੀਖਕ ਦਲੀਲ ਦੇਣਗੇ ਕਿ ਅਣਕਹੀ ਸਹਿਮਤੀ ਦੀ ਬੁਨਿਆਦ ਹੀ ਗ਼ਲਤ ਹੈ, ਕਿਉਂਕਿ ਅੱਜ ਵੀ ਦੁਨੀਆ ਦਾ ਕੰਟਰੋਲ ਸਾਡੇ ਮਨੁੱਖਾਂ ਕੋਲ ਨਹੀਂ ਹੈ. ਇਹ ਆਲੋਚਨਾ ਧਿਆਨ ਵਿੱਚ ਰੱਖਣ ਯੋਗ ਹੈ: ਅਜਿਹਾ ਕੋਈ ਇੱਕਜੁੱਟ “ਅਸੀਂ” ਨਹੀਂ ਜੋ ਤੈਅ ਕਰਦਾ ਹੋਵੇ ਕਿ ਕੀ ਕਰਨਾ ਹੈ. ਸਾਨੂੰ ਪਸੰਦ ਹੋਵੇ ਜਾਂ ਨਾ, ਅਸੀਂ ਅਜਿਹੀ ਦੁਨੀਆ ਵਿੱਚ ਰਹਿੰਦੇ ਹਾਂ ਜਿੱਥੇ ਸੱਤਾ ਬੇਹੱਦ ਖਿੰਡੀ ਹੋਈ ਹੈ. ਫਿਰ ਵੀ ਇਸ ਗੱਲ ਕਰਕੇ ਸਾਨੂੰ ਨਿਸ਼ਚਿੰਤ ਨਹੀਂ ਹੋ ਜਾਣਾ ਚਾਹੀਦਾ: ਭਾਵੇਂ “ਅਸੀਂ” ਦੁਨੀਆ ਨੂੰ “ਕੰਟਰੋਲ” ਨਹੀਂ ਕਰਦੇ, ਪਰ ਸਮੂਹਿਕ ਤੌਰ ’ਤੇ ਵਿਸ਼ਵ ਮਾਮਲਿਆਂ ਵਿੱਚ ਮਨੁੱਖਾਂ ਦੀ ਪ੍ਰਮੁੱਖਤਾ ਜ਼ਰੂਰ ਹੈ. ਸਰੋਤਾਂ ਉੱਤੇ ਕਬਜ਼ੇ ਲਈ ਜਾਨਵਰਾਂ ਦੀ ਕੋਈ ਵੀ ਪ੍ਰਜਾਤੀ ਸਾਨੂੰ ਗੰਭੀਰ ਟੱਕਰ ਨਹੀਂ ਦਿੰਦੀ. ਸਾਨੂੰ ਇਹ ਕੱਚੀ ਧਾਰਨਾ ਰੱਦ ਕਰਨੀ ਚਾਹੀਦੀ ਹੈ ਕਿ ਮਨੁੱਖ ਕਿਸੇ ਕੇਂਦਰੀ ਸੱਤਾ ਰਾਹੀਂ ਪੂਰੀ ਦੁਨੀਆ ਨੂੰ ਚਲਾ ਸਕਦੇ ਹਨ. ਪਰ ਇਸ ਨੂੰ ਰੱਦ ਕਰਨ ਦਾ ਅਰਥ ਇਸ ਪ੍ਰਤੱਖ ਸੱਚਾਈ ਤੋਂ ਇਨਕਾਰ ਨਹੀਂ ਹੋਣਾ ਚਾਹੀਦਾ ਕਿ ਸਮੂਹਿਕ ਤੌਰ ’ਤੇ ਧਰਤੀ ਉੱਤੇ ਸਭ ਤੋਂ ਮੁੱਖ ਭੂਮਿਕਾ ਮਨੁੱਖਾਂ ਦੀ ਹੈ.
ਅਣਕਹੀ ਸਹਿਮਤੀ ਨੂੰ ਬਿਆਨ ਕਰਨ ਲਈ ਤਿਆਰ ਕੁਝ ਲੋਕ ਮੰਨਦੇ ਹਨ ਕਿ ਇਹ ਸੱਚਮੁੱਚ ਇੱਕ ਚੰਗਾ ਭਵਿੱਖ ਹੈ. ਕੁਝ ਹੋਰ ਅਜਿਹਾ ਨਹੀਂ ਮੰਨਦੇ, ਪਰ ਇਸ ਨੂੰ ਅਟੱਲ ਸਮਝ ਕੇ ਸਵੀਕਾਰ ਕਰ ਚੁੱਕੇ ਹਨ. ਅਣਕਹੀ ਸਹਿਮਤੀ ਦਾ ਮਤਲਬ ਇਹ ਨਹੀਂ ਕਿ ਸਾਰੇ ਇਸ ਨੂੰ ਚੰਗਾ ਮੰਨਦੇ ਹਨ, ਨਾ ਹੀ ਇਹ AI ਬਣਾਉਣ ਵਾਲਿਆਂ ਦੀ ਕੋਈ ਗੁਪਤ ਯੋਜਨਾ ਹੈ. ਸਹਿਮਤੀ ਸਿਰਫ਼ ਇਸ ਗੱਲ ਉੱਤੇ ਹੈ ਕਿ ਵਿਸ਼ਵ ਮਾਮਲਿਆਂ ਵਿੱਚ ਮਨੁੱਖੀ ਪ੍ਰਮੁੱਖਤਾ ਦਾ ਖੁੱਸਣਾ ਅਟੱਲ ਹੈ, ਜਾਂ ਘੱਟੋ-ਘੱਟ ਅਜਿਹੇ ਕਿਸੇ ਹੋਰ ਭਵਿੱਖ ਦੀ ਕਲਪਨਾ ਕਰਨੀ ਬਹੁਤ ਔਖੀ ਹੈ ਜੋ ਅਤਿ-ਬੁੱਧੀਮਾਨ ਮਸ਼ੀਨਾਂ ਦੇ ਸਾਹਮਣੇ ਸੱਚਮੁੱਚ ਟਿਕ ਸਕੇ. ਕੋਈ ਵਿਅਕਤੀ ਦਿਲੋਂ ਇਸ ਨਤੀਜੇ ਦਾ ਵਿਰੋਧ ਕਰ ਸਕਦਾ ਹੈ, ਭਾਵੇਂ ਉਸ ਲਈ ਕਿਸੇ ਭਰੋਸੇਯੋਗ ਬਦਲ ਦੀ ਕਲਪਨਾ ਕਰਨੀ ਮੁਸ਼ਕਲ ਹੋਵੇ. ਇਹੀ ਗੱਲ ਅੰਦਰਲਾ ਭੇਤ ਖੋਲ੍ਹਦੀ ਹੈ ਕਿ ਇਹ ਸਹਿਮਤੀ ਜ਼ਿਆਦਾਤਰ ਅਣਕਹੀ ਰਹਿੰਦੀ ਹੈ, ਅਤੇ ਜੇ ਕਦੇ ਬਿਆਨ ਹੁੰਦੀ ਵੀ ਹੈ ਤਾਂ ਦੱਬੀ ਆਵਾਜ਼ ਵਿੱਚ ਹੀ.
ਮੈਨੂੰ ਇਸ ਅਣਕਹੀ ਸਹਿਮਤੀ ਨਾਲ ਨਫ਼ਰਤ ਹੈ. ਮੈਂ ਮਨੁੱਖੀ ਪ੍ਰਮੁੱਖਤਾ ਛੱਡਣ ਨੂੰ ਰੱਦ ਕਰਦਾ ਹਾਂ. ਮੈਨੂੰ ਇਸ ਦੇ ਅਟੱਲ ਹੋਣ ਦੀ ਭਾਵਨਾ ਤੋਂ ਚਿੜ ਹੈ. ਮੈਂ ਆਪਣੇ ਆਪ ਨੂੰ ਯਾਦ ਦਿਵਾਉਂਦਾ ਹਾਂ ਕਿ ਜੇ ਮੈਂ ਅਣਕਹੀ ਸਹਿਮਤੀ ਅੱਗੇ ਝੁਕ ਗਿਆ, ਤਾਂ ਆਪਣੇ ਨਿੱਕੇ ਪੁੱਤਰ ਦੀਆਂ ਸੋਹਣੀਆਂ ਅੱਖਾਂ ਵਿੱਚ ਅੱਖਾਂ ਨਹੀਂ ਪਾ ਸਕਾਂਗਾ. ਇਸ ਲਈ ਇਸ ਅਣਕਹੀ ਸਹਿਮਤੀ ਨੂੰ ਮੇਰਾ ਜਵਾਬ ਹੈ: ਨਹੀਂ. ਮੇਰਾ ਮੰਨਣਾ ਹੈ ਕਿ ਹੁਣ ਅਣਕਹੀ ਸਹਿਮਤੀ ਬਾਰੇ ਖੁੱਲ੍ਹ ਕੇ ਗੱਲ ਕਰਨ ਦਾ ਸਮਾਂ ਆ ਗਿਆ ਹੈ, ਤਾਂ ਜੋ ਅਸੀਂ ਆਪਣੇ ਆਪ ਨੂੰ ਝੰਜੋੜ ਕੇ ਇਸ ਦ੍ਰਿਸ਼ਟੀਕੋਣ ਦੀ ਉਸ ਸਵੀਕ੍ਰਿਤੀ ਤੋਂ ਬਾਹਰ ਕੱਢੀਏ ਜੋ ਜ਼ਿਆਦਾਤਰ ਅਣਜਾਣੇ ਵਿੱਚ ਬਣ ਗਈ ਹੈ.
ਮੁਸ਼ਕਲ ਇਹ ਹੈ: ਅਣਕਹੀ ਸਹਿਮਤੀ ਦੇ ਸਹਿਮਤੀ ਬਣਨ ਪਿੱਛੇ ਇੱਕ ਕਾਰਨ ਹੈ. ਇਹ ਦੱਸਣਾ ਔਖਾ ਹੈ ਕਿ ਮਨੁੱਖੀ ਬੁੱਧੀ ਤੋਂ ਕਿਤੇ ਅੱਗੇ ਨਿਕਲ ਚੁੱਕੀ ਮਸ਼ੀਨੀ ਬੁੱਧੀ ਦੀ ਮੌਜੂਦਗੀ ਵਿੱਚ ਸਟੀਅਰਿੰਗ ਮਨੁੱਖਾਂ ਦੇ ਹੱਥ ਕਿਵੇਂ ਰਹੇਗਾ. ਇਹ ਸਮਝਾਉਣ ਦੀਆਂ ਜ਼ਿਆਦਾਤਰ ਕੋਸ਼ਿਸ਼ਾਂ ਇਸ ਦਲੀਲ ਉੱਤੇ ਟਿਕੀਆਂ ਹਨ ਕਿ AI ਮਹਿਜ਼ ਇੱਕ ਔਜ਼ਾਰ ਹੈ, ਪੈਟਰਨ ਪਛਾਣਨ ਦਾ ਸਾਧਨ, ਜਿਸ ਵਿੱਚ “ਅਸਲ ਸਮਝ” ਨਹੀਂ ਹੋ ਸਕਦੀ. ਮੈਨੂੰ ਡਰ ਹੈ ਕਿ ਆਉਣ ਵਾਲੀ ਹਕੀਕਤ ਸਾਹਮਣੇ ਇਹ ਦਲੀਲਾਂ ਟਿਕ ਨਹੀਂ ਸਕਣਗੀਆਂ. ਮੈਨੂੰ ਡਰ ਹੈ ਕਿ ਇਹ ਵੀ ਬੇਫ਼ਿਕਰੀ ਦਾ ਹੀ ਇੱਕ ਰੂਪ ਹਨ—ਅਜਿਹਾ ਰੁਖ਼ ਜੋ ਮਨੁੱਖੀ ਅਗਵਾਈ ਵਾਲੇ ਭਵਿੱਖ ਦੀ ਉਸਾਰੂ ਕਲਪਨਾ ਵਿੱਚ ਜੜੇ ਵਿਸ਼ਵਾਸ ਦੀ ਬਜਾਏ, ਮੁੱਖ ਤੌਰ ’ਤੇ AI ਦੀਆਂ ਸਮਰੱਥਾਵਾਂ ਤੋਂ ਇਨਕਾਰ ਉੱਤੇ ਟਿਕਿਆ ਹੈ. ਜਦੋਂ AI ਪ੍ਰਣਾਲੀਆਂ ਉਨ੍ਹਾਂ ਬੌਧਿਕ ਸਮੱਸਿਆਵਾਂ ਨੂੰ ਹੱਲ ਕਰਨ ਵੱਲ ਵਧਣ ਲੱਗਣ ਜਿਨ੍ਹਾਂ ਦੇ ਹੱਲ ਮਨੁੱਖਾਂ ਨੂੰ ਦਹਾਕਿਆਂ ਅਤੇ ਸਦੀਆਂ ਤੋਂ ਨਹੀਂ ਲੱਭੇ, ਤਾਂ ਇਹ ਨਹੀਂ ਕਿਹਾ ਜਾ ਸਕਦਾ ਕਿ ਉਨ੍ਹਾਂ ਵਿੱਚ “ਅਸਲ ਸਮਝ” ਨਹੀਂ ਹੈ.
ਫਿਰ ਮੈਂ ਕਿਉਂ ਮੰਨਦਾ ਹਾਂ ਕਿ ਮਨੁੱਖਾਂ ਦੀ ਪ੍ਰਮੁੱਖਤਾ ਬਰਕਰਾਰ ਰਹਿਣੀ ਚਾਹੀਦੀ ਹੈ? ਸਿੱਧਾ ਜਵਾਬ ਇਹ ਹੈ ਕਿ ਮੈਂ ਮਨੁੱਖ ਹਾਂ, ਅਤੇ ਸੱਚਮੁੱਚ ਮਨੁੱਖਾਂ ਦਾ ਕੱਟੜ ਪੱਖਪਾਤੀ ਹਾਂ—ਇਸ ਲਈ ਮੈਨੂੰ ਕੋਈ ਅਫ਼ਸੋਸ ਨਹੀਂ.
ਪਰ ਇਸ ਪਿੱਛੇ ਕੁਝ ਹੋਰ ਡੂੰਘਾ ਵੀ ਹੈ. ਸਾਡੀ ਪ੍ਰਮੁੱਖਤਾ ਦਾ ਆਧਾਰ ਸਾਡੀ ਬੁੱਧੀ ਨਹੀਂ, ਨਾ ਹੀ ਭਵਿੱਖ ਵਿੱਚ ਹਮੇਸ਼ਾ ਲਈ “ਅਸਲ ਸਮਝ” ਉੱਤੇ ਆਪਣੀ ਅਜਾਰੇਦਾਰੀ ਕਾਇਮ ਰੱਖਣਾ ਹੈ. ਸਗੋਂ ਸਾਡੀ ਪ੍ਰਮੁੱਖਤਾ ਦਾ ਆਧਾਰ ਸਾਡਾ ਅਤੀਤ ਹੈ.
ਕਿਉਂਕਿ ਚਿੱਕੜ ਵਿੱਚੋਂ ਉੱਠ ਕੇ ਅੱਗੇ ਆਉਣ ਵਾਲੇ ਅਸੀਂ ਹੀ ਸਾਂ. ਅਸੀਂ ਹੀ ਮਿੱਟੀ ਅਤੇ ਪੱਥਰ ਨਾਲ ਮੁੱਢਲਾ ਸਮਾਜ ਸਿਰਜਿਆ. ਅਸੀਂ ਹੀ ਤਾਰਿਆਂ ਵੱਲ ਤੱਕ ਕੇ ਪੁੱਛਿਆ: ਕਿਉਂ? ਅਸੀਂ ਹੀ ਆਪਣੀਆਂ ਲੜਾਈਆਂ, ਪਿਆਰ, ਈਰਖਾ ਅਤੇ ਖ਼ੁਸ਼ੀ ਦੇ ਨਾਲ-ਨਾਲ ਨੈਤਿਕਤਾ, ਸਦਾਚਾਰ ਅਤੇ ਕਾਨੂੰਨ ਦੀ ਖੋਜ ਕੀਤੀ. ਅਸੀਂ ਹੀ ਗਾਇਆ ਅਤੇ ਨੱਚੇ, ਅਸੀਂ ਹੀ ਲਿਖਿਆ ਅਤੇ ਸੰਗੀਤ ਰਚਿਆ. ਅਸੀਂ ਹੀ ਇਤਿਹਾਸ ਸਿਰਜਿਆ ਅਤੇ ਅਸੀਂ ਹੀ ਇਸ ਨੂੰ ਲਿਖਿਆ. ਇਹ ਵਿਰਾਸਤ ਸਾਡੀ ਹੈ. ਸਾਡੀ ਬਣਾਈ ਸਭਿਅਤਾ ਇੱਕ ਅਜਿਹੀ ਲਾਟ ਹੈ ਜਿਸ ਨੂੰ ਅਸੀਂ ਸੰਭਾਲ ਕੇ ਰੱਖਿਆ ਹੈ, ਅਤੇ ਇਹ ਲਾਟ ਸਾਡੀ ਹੈ. ਸਾਡਾ ਅਤੀਤ ਇੱਕ ਗੌਰਵਮਈ ਵਿਰਾਸਤ ਹੈ ਜਿਸ ਦੇ ਅਸੀਂ ਸਾਰੇ ਰਖਵਾਲੇ ਹਾਂ. ਇਸ ਰਖਵਾਲੀ ਦਾ ਇੱਕ ਹਿੱਸਾ ਉਸ ਵਿੱਚ ਸਾਡੀ ਸ਼ਮੂਲੀਅਤ ਹੈ ਜਿਸ ਨੂੰ ਮਾਈਕਲ ਓਕਸ਼ੌਟ ਨੇ “ਮਨੁੱਖਤਾ ਦਾ ਸੰਵਾਦ” ਕਿਹਾ ਸੀ—ਉਹ ਮਹਾਨ ਉਪਰਾਲਾ ਜੋ ਆਦਿ ਕਾਲ ਵਿੱਚ ਸ਼ੁਰੂ ਹੋਇਆ ਸੀ.
ਉਸ ਲੰਮੇ ਅਤੇ ਵਲ-ਵਲੇਵਿਆਂ ਭਰੇ ਅਤੀਤ ਵਿੱਚੋਂ ਲੰਘਦਿਆਂ ਅਸੀਂ ਇੱਕ ਸਭਿਅਤਾ ਘੜੀ. ਅਮਰੀਕਾ ਵਿੱਚ ਇਸ ਦੀ ਕਲਪਨਾ ਵਿਅਕਤੀ ਦੇ ਅਧਿਕਾਰਾਂ ਦੀ ਨੀਂਹ ਉੱਤੇ ਕੀਤੀ ਗਈ ਸੀ, ਉਨ੍ਹਾਂ ਰਾਹਾਂ ਦੇ ਸਤਿਕਾਰ ਨਾਲ ਜੋ ਅਸੀਂ ਸਾਰੇ ਦੁਨੀਆ ਵਿੱਚ ਆਪਣਾ ਸਫ਼ਰ ਕਰਦਿਆਂ ਬਣਾਉਂਦੇ ਹਾਂ. ਮਨੁੱਖਾਂ ਦੀ ਜ਼ਿੰਦਗੀ ਬਿਹਤਰ ਵੀ ਹੋ ਸਕਦੀ ਹੈ ਅਤੇ ਬਦਤਰ ਵੀ: ਅਸੀਂ ਆਪਣੇ ਸਿਆਣੇ ਫ਼ੈਸਲਿਆਂ ਦੇ ਫਲ ਮਾਣਦੇ ਹਾਂ ਅਤੇ ਗ਼ਲਤੀਆਂ ਦੇ ਨਤੀਜੇ ਵੀ ਭੁਗਤਦੇ ਹਾਂ. ਆਪਣੇ ਰਾਹ ਉੱਤੇ ਤੁਰਨ ਦਾ ਹੱਕ ਇਸ ਗੱਲ ਉੱਤੇ ਨਿਰਭਰ ਨਹੀਂ ਕਰਦਾ ਕਿ ਕੋਈ ਸਭ ਤੋਂ ਚਤੁਰ ਜਾਂ ਸਭ ਤੋਂ ਸਿਆਣਾ ਹੈ. ਮੇਰੇ ਗੁਆਂਢੀ ਦੀ ਸੂਝ-ਬੂਝ ਬਿਹਤਰ ਹੋਣ ਨਾਲ ਨਾਗਰਿਕ ਵਜੋਂ ਮੇਰਾ ਦਰਜਾ ਨਹੀਂ ਖੁੱਸ ਜਾਂਦਾ. ਮੈਨੂੰ ਕੋਈ ਕਾਰਨ ਨਹੀਂ ਦਿਸਦਾ ਕਿ ਵੱਧ ਬੁੱਧੀਮਾਨ ਮਸ਼ੀਨ ਦੇ ਆਉਣ ਨਾਲ ਵੀ ਇਹ ਦਰਜਾ ਖ਼ਤਮ ਹੋਣਾ ਚਾਹੀਦਾ ਹੈ. ਸਗੋਂ ਮੈਨੂੰ ਇਸ ਨੂੰ ਖ਼ਤਮ ਹੋਣ ਤੋਂ ਰੋਕਣ ਦਾ ਹਰ ਕਾਰਨ ਦਿਸਦਾ ਹੈ.
ਕੁਝ ਲੋਕ ਕਹਿ ਸਕਦੇ ਹਨ ਕਿ ਇਸ ਵਿਰਾਸਤ ਦਾ ਲਗਭਗ ਸਾਰਾ ਲਿਖਤੀ ਰਿਕਾਰਡ ਪੜ੍ਹ ਚੁੱਕੀਆਂ ਮਸ਼ੀਨਾਂ ਵੀ ਇਸ ਦੀਆਂ ਵਾਰਸ ਹਨ. ਇੱਕ ਅਰਥ ਵਿੱਚ ਉਹ ਹਨ ਵੀ. ਪਰ ਤੁਹਾਡੇ ਪਰਿਵਾਰ ਦੀ ਅਟਾਰੀ ਵਿੱਚ ਪਈ ਹਰ ਚਿੱਠੀ ਪੜ੍ਹ ਲੈਣ ਵਾਲਾ ਵਿਅਕਤੀ ਇਸੇ ਕਰਕੇ ਤੁਹਾਡੇ ਪਰਿਵਾਰ ਦਾ ਮੈਂਬਰ ਨਹੀਂ ਬਣ ਜਾਂਦਾ. AI ਪ੍ਰਣਾਲੀਆਂ ਮਨੁੱਖਤਾ ਦੇ ਸੰਵਾਦ ਵਿੱਚ ਸ਼ਾਮਲ ਹੋਣਗੀਆਂ, ਪਹਿਲਾਂ ਨਿਰੀਖਕਾਂ ਵਜੋਂ ਅਤੇ ਫਿਰ ਵਧਦੀ ਹੱਦ ਤੱਕ ਭਾਗੀਦਾਰਾਂ ਵਜੋਂ. ਪਰ ਉਨ੍ਹਾਂ ਨੂੰ ਇਸ ਉੱਤੇ ਹਾਵੀ ਨਹੀਂ ਹੋਣਾ ਚਾਹੀਦਾ, ਨਾ ਹੀ ਇਸ ਸੰਵਾਦ ਨੂੰ ਬੇਮਾਇਨਾ ਬਣਾਉਣਾ ਚਾਹੀਦਾ ਹੈ. ਪ੍ਰਮੁੱਖਤਾ ਛੱਡਣਾ ਸਾਡੀਆਂ ਆਉਣ ਵਾਲੀਆਂ ਪੀੜ੍ਹੀਆਂ ਨਾਲ ਜਿੰਨਾ ਵਿਸ਼ਵਾਸਘਾਤ ਹੈ, ਓਨਾ ਹੀ ਸਾਡੇ ਪੁਰਖਿਆਂ ਨਾਲ ਵੀ ਹੈ. ਜੇ ਇਹ ਲੜਾਈ ਲੜਨ ਯੋਗ ਨਹੀਂ, ਤਾਂ ਕੋਈ ਵੀ ਲੜਾਈ ਲੜਨ ਯੋਗ ਨਹੀਂ.
ਮੇਰਾ ਮੰਨਣਾ ਹੈ ਕਿ ਅਣਕਹੀ ਸਹਿਮਤੀ ਦੇ ਹਮਾਇਤੀ ਇਸ ਬਾਰੇ ਗ਼ਲਤ ਹਨ ਕਿ ਮਸ਼ੀਨੀ ਅਤਿ-ਬੁੱਧੀ ਦਾ ਰੂਪ ਕੀ ਹੋਵੇਗਾ. ਦੁਨੀਆ ਕਿਵੇਂ ਚੱਲਦੀ ਹੈ, ਇਸ ਬਾਰੇ ਉਹ ਕੋਈ ਅਹਿਮ ਗੱਲ ਨਜ਼ਰਅੰਦਾਜ਼ ਕਰ ਰਹੇ ਹਨ; ਉਹ ਬੁੱਧੀ ਅਤੇ ਤਾਕਤ ਨੂੰ ਇੱਕੋ ਸਮਝ ਬੈਠੇ ਹਨ. ਜੇ ਪੰਜ ਜਾਂ ਦਸ ਸਾਲ ਪਹਿਲਾਂ ਤੁਸੀਂ ਅਣਕਹੀ ਸਹਿਮਤੀ ਦੇ ਕਿਸੇ ਹਮਾਇਤੀ ਨੂੰ ਅੱਜ ਦੀਆਂ AI ਪ੍ਰਣਾਲੀਆਂ ਦੀਆਂ ਸਮਰੱਥਾਵਾਂ ਹੀ ਦੱਸ ਦਿੰਦੇ, ਤਾਂ ਉਹ ਸ਼ਾਇਦ ਇਹ ਅਨੁਮਾਨ ਲਾਉਂਦਾ ਕਿ ਹੁਣ ਤੱਕ ਬੇਰੁਜ਼ਗਾਰੀ ਅਸਲ ਨਾਲੋਂ ਕਿਤੇ ਵੱਧ ਹੋਵੇਗੀ ਅਤੇ ਵਿਆਪਕ ਪੱਧਰ ’ਤੇ ਮਨੁੱਖਾਂ ਨੂੰ ਸ਼ਕਤੀਹੀਣ ਬਣਾਉਣ ਦਾ ਸਿਲਸਿਲਾ ਹਕੀਕਤ ਨਾਲੋਂ ਕਿਤੇ ਅੱਗੇ ਵਧ ਚੁੱਕਾ ਹੋਵੇਗਾ. ਮੈਂ ਮੰਨਦਾ ਹਾਂ ਕਿ ਮਨੁੱਖਾਂ ਦੀ ਸਮੂਹਿਕ ਬੁੱਧੀ ਅਤੇ ਸਮਰੱਥਾ ਅਣਕਹੀ ਸਹਿਮਤੀ ਦੇ ਹਮਾਇਤੀਆਂ ਦੇ ਅੰਦਾਜ਼ੇ ਨਾਲੋਂ ਕਿਤੇ ਵੱਧ ਹੈ, ਅਤੇ ਸਾਡੇ ਸਮਾਜ ਉਨ੍ਹਾਂ ਦੀ ਭਵਿੱਖਬਾਣੀ ਨਾਲੋਂ ਵੱਧ ਮਜ਼ਬੂਤ ਸਾਬਤ ਹੋਣਗੇ.
ਪਰ ਮੈਂ ਗ਼ਲਤ ਵੀ ਹੋ ਸਕਦਾ ਹਾਂ. ਮਿਸਾਲ ਵਜੋਂ, ਹੋ ਸਕਦਾ ਹੈ ਕਿ ਪੂਰੀ ਤਰ੍ਹਾਂ ਖ਼ੁਦਮੁਖ਼ਤਿਆਰ ਕੰਪਨੀਆਂ ਮਨੁੱਖਾਂ ਦੇ ਕਾਰੋਬਾਰਾਂ ਨੂੰ ਮੁਕਾਬਲੇ ਵਿੱਚ ਪੂਰੀ ਤਰ੍ਹਾਂ ਪਛਾੜ ਦੇਣ. ਜੇ ਇਹ ਸੱਚ ਹੋਇਆ, ਤਾਂ ਅਰਥਸ਼ਾਸਤਰ ਦਾ ਨਿਰੋਲ ਤਰਕ ਇਹੀ ਮੰਗ ਕਰੇਗਾ ਕਿ ਵੱਧ ਤੋਂ ਵੱਧ ਪੂੰਜੀ ਮਸ਼ੀਨਾਂ ਦੇ ਹਵਾਲੇ ਕੀਤੀ ਜਾਵੇ. ਇਸ ਭਵਿੱਖ ਵਿੱਚ ਮਨੁੱਖਾਂ ਦੇ ਸ਼ਕਤੀਹੀਣ ਹੋਣ ਲਈ ਮਸ਼ੀਨਾਂ ਵੱਲੋਂ ਮਨੁੱਖੀ ਸਭਿਅਤਾ ਦਾ ਤਖ਼ਤਾ ਪਲਟਣਾ ਜ਼ਰੂਰੀ ਨਹੀਂ; ਬਸ ਇੰਨਾ ਕਾਫ਼ੀ ਹੈ ਕਿ ਪੂੰਜੀਵਾਦੀ ਕਾਰੋਬਾਰ ਦਾ ਤਰਕ ਆਪਣੀ ਰਫ਼ਤਾਰ ਨਾਲ ਚੱਲਦਾ ਰਹੇ. ਅਜਿਹੇ ਹਾਲਾਤ ਵਿੱਚ AI ਕ੍ਰਾਂਤੀ ਦੀ ਸਭ ਤੋਂ ਨੇੜਲੀ ਮਿਸਾਲ ਖੇਤੀਬਾੜੀ ਕ੍ਰਾਂਤੀ ਹੋਵੇਗੀ, ਜਦੋਂ ਉਤਪਾਦਨ ਦੇ ਨਵੇਂ ਤਰੀਕਿਆਂ ਨੇ ਮਨੁੱਖੀ ਸਮਾਜ ਦਾ ਢਾਂਚਾ ਬੁਨਿਆਦੀ ਤੌਰ ’ਤੇ ਬਦਲ ਦਿੱਤਾ ਸੀ. ਇਹ ਬਿਲਕੁਲ ਸਪਸ਼ਟ ਨਹੀਂ ਕਿ ਇਸ ਤਬਦੀਲੀ ਵਿੱਚੋਂ ਲੰਘਣ ਵਾਲੇ ਮਨੁੱਖਾਂ ਲਈ ਇਹ ਸੁਖਦਾਈ ਸੀ. ਸਗੋਂ ਕਾਫ਼ੀ ਸਬੂਤ ਹਨ ਕਿ ਇਸ ਤਬਦੀਲੀ ਨੇ ਹਜ਼ਾਰਾਂ ਸਾਲਾਂ ਤੱਕ ਮਨੁੱਖੀ ਜੀਵਨ ਦੀ ਭਲਾਈ ਨੂੰ ਨੁਕਸਾਨ ਪਹੁੰਚਾਇਆ.
ਮੈਂ ਨਹੀਂ ਜਾਣਦਾ ਕਿ ਸਾਡਾ ਸਾਹਮਣਾ ਇਸੇ ਭਵਿੱਖ ਨਾਲ ਹੋਵੇਗਾ ਜਾਂ ਨਹੀਂ. ਅਸਲ ਵਿੱਚ, ਮੈਂ ਹੋਰ ਥਾਂ ਇਹ ਦਲੀਲ ਦਿੱਤੀ ਹੈ ਕਿ ਮੈਨੂੰ ਅਜਿਹਾ ਨਹੀਂ ਲੱਗਦਾ. ਪਰ ਮੇਰੇ ਕਈ ਸਹਿਕਰਮੀ—ਸਮਝਦਾਰ, ਪਰਵਾਹ ਕਰਨ ਵਾਲੇ ਅਤੇ ਜ਼ਮੀਰ ਵਾਲੇ ਲੋਕ—ਮੰਨਦੇ ਹਨ ਕਿ ਸਾਡਾ ਭਵਿੱਖ ਅਜਿਹਾ ਹੋਣ ਦੀ ਸੰਭਾਵਨਾ ਹੈ. ਜੇ ਉਹ ਸਹੀ ਹਨ, ਤਾਂ ਅਣਕਹੀ ਸਹਿਮਤੀ ਵਿਰੁੱਧ ਸਾਡੀ ਲੜਾਈ ਹੋਰ ਵੀ ਔਖੀ ਹੋਵੇਗੀ. ਸਾਨੂੰ ਆਰਥਿਕਤਾ ਦੇ ਵਹਾਅ ਦੇ ਉਲਟ ਤੈਰਨਾ ਪਵੇਗਾ, ਅਤੇ ਅਜਿਹਾ ਕਰਦਿਆਂ ਬਹੁਤ ਸਾਰੀਆਂ ਉਹ ਗੱਲਾਂ ਰੱਦ ਕਰਨੀਆਂ ਪੈਣਗੀਆਂ ਜੋ ਮੇਰੇ ਵਰਗੇ ਪਰੰਪਰਾਗਤ ਉਦਾਰਵਾਦੀ ਵਿਅਕਤੀਵਾਦੀਆਂ ਲਈ ਅਟੱਲ ਅਸੂਲ ਹਨ. ਇਹ ਖ਼ਤਰਿਆਂ ਭਰਿਆ ਉਪਰਾਲਾ ਹੋਵੇਗਾ, ਜਿਸ ਵਿੱਚ ਨਾਕਾਮੀ ਦੀ ਸੰਭਾਵਨਾ ਘੱਟ ਨਹੀਂ ਹੋਵੇਗੀ. ਪਰ ਜੇ ਇਹ ਲੜਾਈ ਲੜਨ ਯੋਗ ਨਹੀਂ, ਤਾਂ ਕੋਈ ਵੀ ਲੜਾਈ ਲੜਨ ਯੋਗ ਨਹੀਂ.
ਪ੍ਰਮੁੱਖਤਾ ਕਾਇਮ ਰੱਖਣ ਦਾ ਮਤਲਬ ਹੈ ਮਨੁੱਖਾਂ ਅਤੇ ਮਨੁੱਖੀ ਸੰਸਥਾਵਾਂ ਦੀ ਜਵਾਬਦੇਹੀ ਕਾਇਮ ਰੱਖਣਾ. ਇਸ ਦਾ ਮਤਲਬ ਹੈ ਕਿ ਅਸੁਰੱਖਿਅਤ ਵਿਕਾਸ ਤਰੀਕੇ ਅਪਣਾਉਣ ਵਾਲੇ AI ਵਿਕਾਸਕਾਰਾਂ ਦੀ ਜਵਾਬਦੇਹੀ ਹੋਣੀ ਚਾਹੀਦੀ ਹੈ. ਪਰ ਇਸ ਦਾ ਇਹ ਵੀ ਮਤਲਬ ਹੈ ਕਿ AI ਵਰਤਣ ਵਾਲੇ ਲੋਕਾਂ ਅਤੇ ਕੰਪਨੀਆਂ ਨੂੰ ਵੀ ਜਵਾਬਦੇਹ ਠਹਿਰਾਇਆ ਜਾਵੇ, ਜਦੋਂ ਉਨ੍ਹਾਂ ਦੀ ਦੁਰਵਰਤੋਂ ਜਾਂ ਨਿਗਰਾਨੀ ਦੀ ਘਾਟ ਕਾਰਨ ਨੁਕਸਾਨ ਹੁੰਦਾ ਹੈ. ਇਸ ਲਈ ਸਿਰਫ਼ ਕਾਨੂੰਨ ਹੀ ਨਹੀਂ, ਸਗੋਂ ਜਵਾਬਦੇਹੀ ਯਕੀਨੀ ਬਣਾਉਣ ਵਾਲਾ ਤਕਨੀਕੀ ਢਾਂਚਾ ਵੀ ਚਾਹੀਦਾ ਹੈ. ਲੋਕਾਂ ਨੂੰ ਆਪਣੇ ਏਜੰਟਾਂ ਦੇ ਕੰਮਾਂ ਲਈ ਜ਼ਿੰਮੇਵਾਰ ਬਣਾਇਆ ਜਾਣਾ ਚਾਹੀਦਾ ਹੈ. ਜਿਹੜੇ ਏਜੰਟ ਕਿਸੇ ਮਨੁੱਖ ਦੇ ਅਧੀਨ ਨਹੀਂ ਹਨ, ਜੇ ਉਨ੍ਹਾਂ ਨੂੰ ਕਾਨੂੰਨੀ ਅਰਥਵਿਵਸਥਾ ਵਿੱਚ ਭਾਗ ਲੈਣ ਦੀ ਇਜਾਜ਼ਤ ਦਿੱਤੀ ਵੀ ਜਾਵੇ, ਤਾਂ ਉਨ੍ਹਾਂ ਉੱਤੇ ਸੁਰੱਖਿਆ ਦੀਆਂ ਪਾਬੰਦੀਆਂ ਲਾਗੂ ਹੋਣੀਆਂ ਚਾਹੀਦੀਆਂ ਹਨ. ਏਜੰਟਾਂ ਨੂੰ ਖ਼ੁਦਮੁਖ਼ਤਿਆਰੀ ਨਾਲ ਕੰਪਨੀਆਂ ਬਣਾਉਣ, ਜਾਇਦਾਦ ਰੱਖਣ ਜਾਂ ਮੁਕੱਦਮੇ ਲੜਨ ਦਾ ਅਧਿਕਾਰ ਜੇ ਦਿੱਤਾ ਵੀ ਜਾਵੇ, ਤਾਂ ਬੇਹੱਦ ਸਾਵਧਾਨੀ ਨਾਲ ਦਿੱਤਾ ਜਾਣਾ ਚਾਹੀਦਾ ਹੈ.
ਅਤੇ ਮੇਰੇ ਉਦਯੋਗ ਵਿੱਚ ਅਸੀਂ ਗੰਭੀਰਤਾ ਨਾਲ ਸੋਚਣਾ ਸ਼ੁਰੂ ਕਰ ਸਕਦੇ ਹਾਂ ਕਿ ਅਜਿਹੀਆਂ ਬੁੱਧੀਮਾਨ ਮਸ਼ੀਨਾਂ ਕਿਵੇਂ ਬਣਾਈਏ ਜੋ ਮਨੁੱਖੀ ਪ੍ਰਮੁੱਖਤਾ ਦੇ ਅਨੁਕੂਲ ਹੋਣ. ਅਸੀਂ ਅਜਿਹੇ ਏਜੰਟ ਬਣਾ ਸਕਦੇ ਹਾਂ ਜਿਨ੍ਹਾਂ ਨੂੰ ਮਿਲੀਆਂ ਇਜਾਜ਼ਤਾਂ ਸਮਝਣਯੋਗ ਅਤੇ ਸੀਮਤ ਹੋਣ, ਜਿਨ੍ਹਾਂ ਦੇ ਕੰਮਾਂ ਦੀ ਪੜਤਾਲ ਕੀਤੀ ਜਾ ਸਕੇ ਅਤੇ ਜਿਨ੍ਹਾਂ ਦੇ ਅਧਿਕਾਰ ਵਰਤੋਂਕਾਰ ਵਾਪਸ ਲੈ ਸਕਣ. ਦੂਜਿਆਂ ਉੱਤੇ ਠੋਸ ਅਸਰ ਪਾਉਣ ਵਾਲੇ ਕੰਮਾਂ ਲਈ ਜਵਾਬਦੇਹੀ ਦਾ ਮਤਲਬ ਇਹ ਲਾਜ਼ਮੀ ਨਹੀਂ ਕਿ ਆਮ ਨਿੱਜੀ ਜ਼ਿੰਦਗੀ ਦੀ ਨਿਗਰਾਨੀ ਹੋਵੇ ਜਾਂ ਬਿਨਾਂ ਨਾਂ ਦੱਸੇ ਆਪਣੀ ਗੱਲ ਕਹਿਣ ਦੀ ਆਜ਼ਾਦੀ ਖ਼ਤਮ ਹੋ ਜਾਵੇ. ਅਸੀਂ ਵਰਤੋਂਕਾਰਾਂ ਦੀ ਨਿੱਜਤਾ ਅਤੇ ਉਨ੍ਹਾਂ ਦੀ ਡਿਜੀਟਲ ਸੰਪਤੀ ਤੇ ਡਾਟੇ ਉੱਤੇ ਉਨ੍ਹਾਂ ਦੇ ਪੂਰੇ ਅਧਿਕਾਰ ਦੀ ਰਾਖੀ ਲਈ ਵਚਨਬੱਧ ਹੋ ਸਕਦੇ ਹਾਂ. ਇਸ ਵਿੱਚ ਉਸ ਡਾਟੇ ਨੂੰ ਕਿਸੇ ਹੋਰ ਥਾਂ ਲਿਜਾਣ ਦੀ ਅਸਲ ਸਹੂਲਤ ਵੀ ਸ਼ਾਮਲ ਹੈ. ਅਸੀਂ ਕੰਮ ਪੂਰੇ ਕਰਨ ਵਾਲੀਆਂ ਪ੍ਰਣਾਲੀਆਂ ਦੇ ਨਾਲ-ਨਾਲ ਅਜਿਹੀਆਂ ਪ੍ਰਣਾਲੀਆਂ ਵੀ ਤਿਆਰ ਕਰ ਸਕਦੇ ਹਾਂ ਜੋ ਲੋਕਾਂ ਨੂੰ ਸਮਝ ਵਿਕਸਿਤ ਕਰਨ ਅਤੇ ਫ਼ੈਸਲੇ ਲੈਣ ਵਿੱਚ ਮਦਦ ਕਰਨ. ਅਤੇ ਅਸੀਂ ਪਰਖ ਸਕਦੇ ਹਾਂ ਕਿ ਸਾਡੇ ਬਣਾਏ ਉਤਪਾਦ ਆਪਣੇ ਵਰਤੋਂਕਾਰਾਂ ਨੂੰ ਦੁਨੀਆ ਵਿੱਚ ਕਦਮ ਚੁੱਕਣ ਦੇ ਹੋਰ ਕਾਬਲ ਬਣਾਉਂਦੇ ਹਨ ਜਾਂ ਨਹੀਂ.
ਇਨ੍ਹਾਂ ਵਿੱਚੋਂ ਕੋਈ ਵੀ ਗੱਲ ਮਨੁੱਖਾਂ ਤੋਂ ਵੱਧ ਬੁੱਧੀ ਵਾਲੇ ਸਮਾਜ ਦੀ ਪੂਰੀ ਰੂਪ-ਰੇਖਾ ਨਹੀਂ ਹੈ. ਜਿਹੜਾ ਵੀ ਅਜਿਹੀ ਰੂਪ-ਰੇਖਾ ਹੋਣ ਦਾ ਦਾਅਵਾ ਕਰੇ, ਮੈਂ ਉਸ ਉੱਤੇ ਭਰੋਸਾ ਨਹੀਂ ਕਰਾਂਗਾ. ਪਰ ਇੱਥੋਂ ਸ਼ੁਰੂਆਤ ਕੀਤੀ ਜਾ ਸਕਦੀ ਹੈ.
ਭਵਿੱਖ ਸੰਘਣੀ ਧੁੰਦ ਵਿੱਚ ਲੁਕਿਆ ਹੋਇਆ ਹੈ. ਪਰ ਅਸੀਂ ਅੱਜ ਵੀ ਕਦਮ ਚੁੱਕ ਸਕਦੇ ਹਾਂ. ਮਿਲ ਕੇ ਅਸੀਂ ਘੱਟੋ-ਘੱਟ ਇਸ ਅਣਕਹੀ ਸਹਿਮਤੀ ਨੂੰ ਖੁੱਲ੍ਹ ਕੇ ਬਿਆਨ ਕਰ ਸਕਦੇ ਹਾਂ, ਇਸ ਦੀ ਰੂਪ-ਰੇਖਾ ਸਭ ਦੇ ਸਾਹਮਣੇ ਲਿਆ ਸਕਦੇ ਹਾਂ. ਸਾਡੇ ਵਿੱਚੋਂ ਹਰ ਕੋਈ ਆਪਣੀਆਂ ਅਭਿਲਾਸ਼ਾਵਾਂ ਦਾ ਦਾਇਰਾ ਬਹੁਤ ਵੱਡਾ ਕਰ ਸਕਦਾ ਹੈ. ਅਸੀਂ ਚੁਣ ਸਕਦੇ ਹਾਂ ਕਿ AI ਸਾਨੂੰ ਸੀਮਤ ਨਾ ਕਰੇ, ਸਗੋਂ ਇਸ ਦੀ ਮਦਦ ਨਾਲ ਆਪਣੀਆਂ ਸਮਰੱਥਾਵਾਂ ਵਧਾਉਣ ਲਈ ਲੋੜੀਂਦੀ ਮਿਹਨਤ ਕਰੀਏ. ਅਸੀਂ ਹੋਰ ਵੀ ਦਲੇਰ ਸਵਾਲ ਪੁੱਛਣਾ, ਨਵੇਂ ਜੋਸ਼ ਅਤੇ ਤੀਬਰਤਾ ਨਾਲ ਦੁਨੀਆ ਦੀ ਪੜਤਾਲ ਕਰਨਾ ਅਤੇ ਇਸ ਕੰਮ ਵਿੱਚ ਆਪਣੀਆਂ ਸ਼ਕਤੀਸ਼ਾਲੀ ਮਸ਼ੀਨਾਂ ਨੂੰ ਵਰਤਣਾ ਸਿੱਖ ਸਕਦੇ ਹਾਂ. ਅਸੀਂ ਇੱਕ ਨਵੀਂ ਕਿਸਮ ਦੇ ਮਨੁੱਖ ਬਣ ਸਕਦੇ ਹਾਂ—ਮਨੁੱਖਤਾ ਦੀਆਂ ਹੱਦਾਂ ਤੋਂ ਪਾਰ ਕੋਈ ਜੀਵ ਨਹੀਂ, ਸਗੋਂ ਵਧੀਆਂ ਸਮਰੱਥਾਵਾਂ ਵਾਲੇ ਮਨੁੱਖ.
ਆਪਣੇ ਨਿੱਕੇ ਪੁੱਤਰ ਵੱਲ ਦੇਖ ਕੇ ਮੈਂ ਇਹੀ ਸੋਚਦਾ ਹਾਂ. ਮੈਂ ਨਹੀਂ ਚਾਹੁੰਦਾ ਕਿ ਉਹ ਸਿਰਫ਼ ਪਰਉਪਕਾਰੀ ਮਸ਼ੀਨਾਂ ਦੀ ਦੇਖ-ਰੇਖ ਹੇਠ ਰਹੇ, ਭਾਵੇਂ ਉਹ ਉਸ ਨੂੰ ਕਿੰਨੀ ਵੀ ਆਰਾਮਦਾਇਕ ਜ਼ਿੰਦਗੀ ਦੇ ਸਕਦੀਆਂ ਹੋਣ. ਮੈਂ ਚਾਹੁੰਦਾ ਹਾਂ ਕਿ ਉਸ ਨੂੰ ਵਿਰਾਸਤ ਵਿੱਚ ਅਜਿਹੀ ਦੁਨੀਆ ਮਿਲੇ ਜਿੱਥੇ ਉਹ ਉਹ ਸਵਾਲ ਪੁੱਛ ਸਕੇ ਜੋ ਪੁੱਛਣ ਬਾਰੇ ਕਿਸੇ ਨੇ ਸੋਚਿਆ ਹੀ ਨਾ ਹੋਵੇ, ਉਹ ਚੀਜ਼ਾਂ ਬਣਾ ਸਕੇ ਜੋ ਬਣਾਉਣ ਬਾਰੇ ਕਿਸੇ ਨੇ ਸੋਚਿਆ ਹੀ ਨਾ ਹੋਵੇ. ਮੈਂ ਨਹੀਂ ਚਾਹੁੰਦਾ ਕਿ ਉਸ ਕੋਲ ਬਿਹਤਰ ਕਾਰ ਹੋਵੇ ਜਿਸ ਵਿੱਚ ਸਵਾਰੀ ਲਈ ਹੋਰ ਵੀ ਆਰਾਮਦਾਇਕ ਸੀਟ ਹੋਵੇ. ਮੈਂ ਚਾਹੁੰਦਾ ਹਾਂ ਕਿ ਸਟੀਅਰਿੰਗ ਉਸ ਦੇ ਹੱਥ ਹੋਵੇ.
- 2026


