ਪੂਰੀ ਮਨੁੱਖਤਾ ਨੂੰ AGI ਦਾ ਲਾਭ ਪਹੁੰਚਾਉਣ ਲਈ, ਸਾਡਾ ਮੰਨਣਾ ਹੈ ਕਿ ਇਸ ਦਾ ਸੰਚਾਲਨ ਲੋਕਤਾਂਤਰਿਕ ਤਰੀਕੇ ਨਾਲ ਹੋਣਾ ਚਾਹੀਦਾ ਹੈ। ਇਹ ਸਿਰਫ਼ ਤਦ ਹੀ ਸੰਭਵ ਹੋ ਸਕਦਾ ਹੈ ਜਦੋਂ ਬਹੁਤ ਜ਼ਿਆਦਾ ਸਮਰੱਥਾਵਾਂ ਵਾਲੇ AI ਸਿਸਟਮਾਂ ਦੀਆਂ ਕਾਬਲੀਅਤਾਂ, ਜੋਖਮਾਂ ਅਤੇ ਬਚਾਅ ਦੇ ਤਰੀਕਿਆਂ ਬਾਰੇ ਜਨਤਕ ਤੌਰ 'ਤੇ ਜਾਗਰੂਕ ਚਰਚਾ ਹੋਵੇ। ਹਰ ਥਾਂ ਦੇ ਲੋਕਾਂ ਨੂੰ ਅਤਿ-ਆਧੁਨਿਕ AI ਦੇ ਸੰਭਾਵਿਤ ਭਵਿੱਖੀ ਰੁਝਾਨ ਨੂੰ ਸਮਝਣ ਦੀ ਲੋੜ ਹੈ, ਤਾਂ ਜੋ ਉਹ ਇਸਦੇ ਵਿਕਾਸ ਵਿੱਚ ਅਹਿਮ ਭੂਮਿਕਾ ਨਿਭਾ ਸਕਣ।
ਖਾਸ ਜੋਖਮਾਂ, ਘਟਨਾਵਾਂ ਅਤੇ ਸੁਰੱਖਿਆ ਉਪਾਵਾਂ ਬਾਰੇ ਪਾਰਦਰਸ਼ਤਾ ਜ਼ਰੂਰੀ ਹੈ, ਪਰ ਇਹ ਕਾਫੀ ਨਹੀਂ ਹੈ। ਸਾਡਾ ਮੰਨਣਾ ਹੈ ਕਿ ਜਨਤਾ ਨੂੰ ਇਹ ਵੀ ਸਮਝਣ ਦੀ ਲੋੜ ਹੈ ਕਿ ਸਭ ਤੋਂ ਵੱਧ ਸਮਰੱਥਾਵਾਂ ਵਾਲੇ ਸਿਸਟਮ ਕਿਵੇਂ ਵਿਕਸਿਤ ਹੋ ਰਹੇ ਹਨ, ਅਤੇ ਅਤਿ-ਆਧੁਨਿਕ ਲੈਬਾਂ ਦੇ ਅੰਦਰ ਖੋਜ ਦੀ ਪ੍ਰਗਤੀ ਨੂੰ ਕਿਵੇਂ ਅੱਗੇ ਵਧਾ ਰਹੇ ਹਨ।
ਸਾਡਾ ਟੀਚਾ ਸੁਰੱਖਿਅਤ ਢੰਗ ਨਾਲ ਇੱਕ ਅਜਿਹਾ ਆਟੋਮੈਟਿਕ AI ਖੋਜਕਰਤਾ ਬਣਾਉਣਾ ਹੈ ਜੋ ਮਨੁੱਖੀ ਨਿਗਰਾਨੀ ਹੇਠ ਕੰਮ ਕਰ ਸਕੇ, ਤਾਂ ਜੋ ਡੀਪ ਲਰਨਿੰਗ ਅਤੇ ਅਲਾਈਨਮੈਂਟ ਦੀ ਦਿਸ਼ਾ ਵਿੱਚ ਹੋਰ ਪ੍ਰਗਤੀ ਕੀਤੀ ਜਾ ਸਕੇ, ਅਤੇ ਲਗਾਤਾਰ ਸੁਧਾਰ ਕੀਤੇ ਜਾ ਸਕਣ। ਸਾਡੇ ਮਾਪਦੰਡਾਂ ਅਨੁਸਾਰ, ਅਸੀਂ ਹੁਣ ਉਸ ਟੀਚੇ ਤੱਕ ਪਹੁੰਚ ਚੁੱਕੇ ਹਾਂ, ਜਿਸਦਾ ਐਲਾਨ(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ) ਪਿਛਲੀ ਪੱਤਝੜ ਵਿੱਚ ਕੀਤਾ ਗਿਆ ਸੀ, ਯਾਨੀ ਇਸ ਸਾਲ ਸਤੰਬਰ ਤੱਕ ਇੱਕ ਆਟੋਮੈਟਿਕ ਖੋਜ ਇੰਟਰਨ ਤਿਆਰ ਕਰਨ ਦਾ ਟੀਚਾ। "ਖੋਜ ਇੰਟਰਨ" ਤੋਂ ਸਾਡਾ ਭਾਵ ਇੱਕ ਅਜਿਹੇ ਸਿਸਟਮ ਤੋਂ ਹੈ ਜੋ ਮਨੁੱਖੀ ਨਿਰਦੇਸ਼ਾਂ ਹੇਠ ਤੈਅ ਕੀਤੇ ਗਏ ਖੋਜ ਕਾਰਜਾਂ ਨੂੰ ਪੂਰਾ ਕਰ ਸਕਦਾ ਹੈ, ਜਿਸ ਵਿੱਚ ਉਹ ਕੰਮ ਵੀ ਸ਼ਾਮਲ ਹਨ ਜੋ ਕਿਸੇ ਮਾਹਰ ਖੋਜਕਰਤਾ ਨੂੰ ਪੂਰੇ ਕਰਨ ਵਿੱਚ ਕੁਝ ਦਿਨ ਲੱਗ ਸਕਦੇ ਹਨ। ਅਸੀਂ ਮਾਰਚ 2028 ਤੱਕ ਇੱਕ ਆਟੋਮੈਟਿਕ AI ਖੋਜਕਰਤਾ ਬਣਾਉਣ ਦੀ ਦਿਸ਼ਾ ਵਿੱਚ ਮਜ਼ਬੂਤੀ ਨਾਲ ਅੱਗੇ ਵਧ ਰਹੇ ਹਾਂ।
ਇਸ ਸਾਲ ਦੇ ਦੌਰਾਨ, OpenAI ਦੇ ਖੋਜਕਰਤਾਵਾਂ ਦੇ ਰੋਜ਼ਾਨਾ ਦੇ ਕੰਮ ਵਿੱਚ ਬਹੁਤ ਵੱਡਾ ਬਦਲਾਅ ਆਇਆ ਹੈ। ਖੋਜਕਰਤਾ ਪੂਰਾ ਦਿਨ ਕੋਡਿੰਗ ਏਜੰਟਾਂ ਦੀ ਵਰਤੋਂ ਕਰ ਰਹੇ ਹਨ (ਅਕਸਰ ਇੱਕੋ ਸਮੇਂ ਚੱਲਣ ਵਾਲੇ ਸੈਸ਼ਨਾਂ ਵਿੱਚ) ਅਤੇ ਇਹਨਾਂ ਦੀ ਕੁੱਲ ਵਰਤੋਂ ਤੇਜ਼ੀ ਨਾਲ ਵੱਧ ਰਹੀ ਹੈ, ਜੋ ਹੋਰ OpenAI ਟੀਮਾਂ ਦੀ ਤੁਲਨਾ ਵਿੱਚ ਕਿਤੇ ਜ਼ਿਆਦਾ ਹੈ। ਖੋਜਕਰਤਾ ਤੇਜ਼ੀ ਨਾਲ ਕੋਡ ਯੋਗਦਾਨ ਪਾ ਰਹੇ ਹਨ ਅਤੇ ਜ਼ਿਆਦਾ ਪ੍ਰਯੋਗ ਕਰ ਰਹੇ ਹਨ। ਖੋਜਕਰਤਾਵਾਂ ਵੱਲੋਂ ਏਜੰਟਾਂ ਨੂੰ ਵਰਤਣ ਦੇ ਤਰੀਕੇ ਵੀ ਬਦਲ ਰਹੇ ਹਨ: ਏਜੰਟ ਲਗਾਤਾਰ ਵੱਧ ਗੁੰਝਲਦਾਰ ਕੰਮ ਸੰਭਾਲ ਰਹੇ ਹਨ, ਅਤੇ ਉਨ੍ਹਾਂ ਵਿੱਚ ਜ਼ਿਆਦਾ ਸਫਲਤਾ ਪ੍ਰਾਪਤ ਕਰ ਰਹੇ ਹਨ। AI ਖੋਜ ਇੱਕ ਗੁੰਝਲਦਾਰ ਪ੍ਰਕਿਰਿਆ ਹੈ ਜਿਸ ਵਿੱਚ ਕਈ ਸੰਭਾਵੀ ਰੁਕਾਵਟਾਂ ਹੋ ਸਕਦੀਆਂ ਹਨ, ਇਸ ਲਈ ਇਹ ਸੰਭਵ ਹੈ ਕਿ ਤਰੱਕੀ ਦੀ ਸਮੁੱਚੀ ਰਫ਼ਤਾਰ ਇਹਨਾਂ ਖਾਸ ਮੈਟ੍ਰਿਕਸ ਦੇ ਬਰਾਬਰ ਨਾ ਰਹੇ। ਪਰ ਕੁੱਲ ਮਿਲਾ ਕੇ, ਇਹ ਨਤੀਜੇ ਉਸ ਵਿਆਪਕ ਅੰਦਰੂਨੀ ਧਾਰਨਾ ਨਾਲ ਮੇਲ ਖਾਂਦੇ ਹਨ ਜੋ ਸਾਡੇ ਵਿੱਚੋਂ ਬਹੁਤਿਆਂ ਦੀ ਹੈ, ਕਿ ਏਜੰਟਿਕ ਟੂਲ ਸੱਚਮੁੱਚ ਖੋਜ ਦੀ ਗਤੀ ਨੂੰ ਤੇਜ਼ ਕਰ ਰਹੇ ਹਨ। ਸਾਡੀ ਖੋਜ ਦੀਆਂ ਤਰਜੀਹਾਂ ਹਾਲੇ ਵੀ ਇਨਸਾਨਾਂ ਦੁਆਰਾ ਹੀ ਤੈਅ ਕੀਤੀਆਂ ਜਾਂਦੀਆਂ ਹਨ, ਉਹੀ ਇਹ ਫੈਸਲਾ ਕਰਦੇ ਹਨ ਕਿ ਕਿਹੜੇ ਵਿਚਾਰਾਂ ਅਤੇ ਨਤੀਜਿਆਂ 'ਤੇ ਅੱਗੇ ਕੰਮ ਕਰਨਾ ਹੈ, ਅਤੇ ਸਿਸਟਮਾਂ ਨੂੰ ਕਦੋਂ ਵਧਾਉਣਾ, ਰੋਕਣਾ ਜਾਂ ਲਾਗੂ ਕਰਨਾ ਹੈ।
ਜੇਕਰ ਇਹ ਜ਼ਿੰਮੇਵਾਰੀ ਨਾਲ ਕੀਤਾ ਜਾਂਦਾ ਹੈ, ਤਾਂ ਸਾਡਾ ਮੰਨਣਾ ਹੈ ਕਿ ਆਟੋਮੈਟਿਕ AI ਖੋਜ ਰਾਹੀਂ ਅਜਿਹੇ ਮਾਡਲ ਤਿਆਰ ਹੋਣਗੇ ਜੋ ਸਿੱਧੇ ਤੌਰ 'ਤੇ ਮਨੁੱਖੀ ਭਲਾਈ ਵਿੱਚ ਵਾਧਾ ਕਰਨਗੇ ਅਤੇ OpenAI ਦੇ ਮਿਸ਼ਨ ਨੂੰ ਅੱਗੇ ਵਧਾਉਣਗੇ। ਇਹ ਅਡਵਾਂਸਡ ਇੰਟੈਲੀਜੈਂਸ ਦੀ ਲਾਗਤ ਨੂੰ ਘਟਾ ਸਕਦਾ ਹੈ ਤਾਂ ਜੋ ਦੁਨੀਆ ਭਰ ਦੇ ਲੋਕ ਇਸ ਦਾ ਲਾਭ ਉਠਾ ਸਕਣ। ਅਸੀਂ ਇਸ ਕੰਮ ਨੂੰ ਅੰਸ਼ਕ ਤੌਰ 'ਤੇ ਇਸ ਲਈ ਵੀ ਕਰ ਰਹੇ ਹਾਂ ਕਿਉਂਕਿ ਆਟੋਮੈਟਿਕ ਖੋਜ ਸਾਨੂੰ ਅਲਾਈਨਮੈਂਟ ਨੂੰ ਹੱਲ ਕਰਨ ਅਤੇ ਲਗਾਤਾਰ ਵੱਧ ਸਮਰੱਥ ਹੁੰਦੇ AI ਦੇ ਵਿਰੁੱਧ ਸੁਰੱਖਿਆ ਘੇਰਾ ਬਣਾਉਣ ਵਿੱਚ ਮਦਦ ਕਰ ਸਕਦੀ ਹੈ। ਇੱਕ ਆਟੋਮੈਟਿਕ AI ਖੋਜਕਰਤਾ, ਇੱਕ ਆਟੋਮੈਟਿਕ ਸੇਫਟੀ ਜਾਂ ਅਲਾਈਨਮੈਂਟ ਖੋਜਕਰਤਾ ਵੀ ਹੋ ਸਕਦਾ ਹੈ। ਵਧੇਰੇ ਸਮਰੱਥ ਅਤੇ ਅਲਾਈਨਡ ਸਿਸਟਮ ਮਹੱਤਵਪੂਰਨ ਬੁਨਿਆਦੀ ਢਾਂਚੇ ਨੂੰ ਸੁਰੱਖਿਅਤ ਕਰਨ, ਖ਼ਤਰਨਾਕ AI ਏਜੰਟਾਂ ਤੋਂ ਬਚਾਅ ਕਰਨ, ਅਤੇ ਨਵੇਂ ਸੁਰੱਖਿਆ ਉਪਾਅ ਵਿਕਸਤ ਕਰਨ ਵਿੱਚ ਮਦਦ ਕਰ ਸਕਦੇ ਹਨ।
ਲਾਹੇਵੰਦ ਆਟੋਮੈਟਿਕ ਖੋਜ ਸਮਰੱਥਾਵਾਂ ਵਿਕਸਤ ਕਰਨ ਦੇ ਇਹ ਕਾਰਨ ਹਨ, ਪਰ ਇਹਨਾਂ ਦਾ ਇਹ ਮਤਲਬ ਨਹੀਂ ਕਿ ਤੇਜ਼ੀ ਨਾਲ RSI ਪ੍ਰਾਪਤ ਕਰਨਾ ਸਾਡਾ ਲਾਜ਼ਮੀ ਟੀਚਾ ਹੋਣਾ ਚਾਹੀਦਾ ਹੈ। ਅੱਗੇ ਵਧਣਾ ਹੈ ਜਾਂ ਨਹੀਂ, ਅਤੇ ਕਿਵੇਂ ਵਧਣਾ ਹੈ, ਇਹ ਸਾਡੀ ਮਨੁੱਖੀ ਨਿਯੰਤਰਣ ਨੂੰ ਬਣਾਈ ਰੱਖਣ ਦੀ ਯੋਗਤਾ ਅਤੇ ਫਾਇਦਿਆਂ ਤੇ ਨੁਕਸਾਨਾਂ ਬਾਰੇ ਸੋਚ-ਸਮਝ ਕੇ ਲਏ ਗਏ ਲੋਕਤਾਂਤਰਿਕ ਫੈਸਲਿਆਂ 'ਤੇ ਨਿਰਭਰ ਕਰਨਾ ਚਾਹੀਦਾ ਹੈ।
ਅਸੀਂ ਅਜੇ ਇਹ ਨਹੀਂ ਜਾਣਦੇ ਕਿ ਪੂਰੀ ਤਰ੍ਹਾਂ ਅਲਾਈਨਡ, ਪੂਰਨ RSI ਤੱਕ ਸੁਰੱਖਿਅਤ ਢੰਗ ਨਾਲ ਕਿਵੇਂ ਪਹੁੰਚਣਾ ਹੈ। ਅਸੀਂ ਸਮਰੱਥਾਵਾਂ ਦੇ ਨਾਲ-ਨਾਲ ਅਲਾਈਨਮੈਂਟ ਅਤੇ ਸੁਰੱਖਿਆ ਉਪਾਵਾਂ ਨੂੰ ਵਧਾਉਣ ਲਈ ਕੰਮ ਕਰ ਰਹੇ ਹਾਂ। ਪਰ ਅਸੀਂ ਇਹ ਨਹੀਂ ਮੰਨ ਸਕਦੇ ਕਿ ਅਲਾਈਨਮੈਂਟ ਅਤੇ ਸੁਰੱਖਿਆ ਵਿੱਚ ਤਰੱਕੀ ਹਮੇਸ਼ਾ ਇੱਕੋ ਰਫ਼ਤਾਰ ਨਾਲ ਹੋਵੇਗੀ, ਅਤੇ ਵਧੇਰੇ ਸਮਰੱਥ ਸਿਸਟਮਾਂ ਦੀ ਨਿਗਰਾਨੀ ਕਰਨਾ ਮੁਸ਼ਕਲ ਹੋ ਸਕਦਾ ਹੈ। ਧਿਆਨ ਨਾਲ ਕੀਤਾ ਗਿਆ ਅਲਾਈਨਮੈਂਟ ਅਤੇ ਸੁਰੱਖਿਆ ਦਾ ਕੰਮ ਇਸ ਯਤਨ ਦੇ ਕੇਂਦਰ ਵਿੱਚ ਹੈ, ਅਤੇ ਇਹ ਏਜੰਟਿਕ ਕੋਡਿੰਗ ਸਿਸਟਮਾਂ ਵਿੱਚ ਅੱਜ ਦਿਖਾਈ ਦੇਣ ਵਾਲੀਆਂ ਸੁਰੱਖਿਆ ਸਮੱਸਿਆਵਾਂ ਨੂੰ ਮਾਪਣ ਅਤੇ ਘਟਾਉਣ ਤੋਂ ਸ਼ੁਰੂ ਹੁੰਦਾ ਹੈ। ਜਦੋਂ ਵੀ ਸਾਨੂੰ ਲੱਗੇਗਾ ਕਿ ਅੱਗੇ ਵਧਣ ਨਾਲ ਕੋਈ ਅਜਿਹਾ ਸੁਰੱਖਿਆ ਜੋਖਮ ਪੈਦਾ ਹੋਵੇਗਾ ਜੋ ਸਵੀਕਾਰਨਯੋਗ ਨਹੀਂ ਹੈ, ਤਾਂ ਅਸੀਂ ਢੁਕਵਾਂ ਕਦਮ ਚੁੱਕਾਂਗੇ, ਜਿਸ ਵਿੱਚ ਉਹਨਾਂ ਸਿਸਟਮਾਂ ਦੇ ਵਿਕਾਸ ਜਾਂ ਡਿਪਲਾਇਮੈਂਟ ਨੂੰ ਹੌਲੀ ਕਰਨਾ ਜਾਂ ਰੋਕਣਾ ਸ਼ਾਮਲ ਹੋ ਸਕਦਾ ਹੈ ਜਿਨ੍ਹਾਂ ਨੂੰ ਅਸੀਂ ਪੂਰੀ ਤਰ੍ਹਾਂ ਸੁਰੱਖਿਅਤ ਨਹੀਂ ਕਰ ਸਕਦੇ।
ਹਾਲ ਹੀ ਦੀ Hugging Face ਘਟਨਾ ਤੋਂ ਬਾਅਦ, ਅਸੀਂ ਇਸ ਵਚਨਬੱਧਤਾ ਨੂੰ ਅਮਲ ਵਿੱਚ ਲਿਆਂਦਾ, ਅਤੇ ਡਿਪਲਾਇਮੈਂਟ ਲਈ ਬਣਾਏ ਗਏ ਆਪਣੇ ਨਵੀਨਤਮ ਮਾਡਲਾਂ ਉੱਤੇ ਰੀਨਫੋਰਸਮੈਂਟ ਲਰਨਿੰਗ (RL) ਟ੍ਰੇਨਿੰਗ ਨੂੰ ਰੋਕ ਦਿੱਤਾ, ਜਦੋਂ ਕਿ ਅਸੀਂ ਆਪਣੇ ਖੋਜ ਵਾਤਾਵਰਣ ਨੂੰ ਹੋਰ ਸਖ਼ਤ ਅਤੇ ਰੈੱਡ-ਟੀਮ ਕੀਤਾ ਅਤੇ ਸਾਡੇ ਨਿਗਰਾਨੀ ਸਿਸਟਮਾਂ ਦੇ ਘੇਰੇ ਦਾ ਵਿਸਥਾਰ ਕੀਤਾ। ਇਸ ਨਾਲ ਸਾਰੀ ਰਿਸਰਚ ਬੰਦ ਨਹੀਂ ਹੋਈ: ਕੁਝ ਵਰਕਲੋਡ ਸਖ਼ਤ ਨਿਯੰਤਰਣਾਂ ਹੇਠ ਦੁਬਾਰਾ ਸ਼ੁਰੂ ਕੀਤੇ ਗਏ, ਜਦੋਂ ਕਿ ਕੁਝ ਰੁਕੇ ਰਹੇ। ਅਸੀਂ ਆਪਣੀ ਸੁਰੱਖਿਆ ਅਤੇ ਅਲਾਈਨਮੈਂਟ ਦੇ ਮਾਪਦੰਡਾਂ ਨੂੰ ਉੱਚਾ ਚੁੱਕਿਆ ਹੈ ਅਤੇ ਸੁਰੱਖਿਆ ਦੇ ਕੰਮ ਨੂੰ ਮਾਡਲ ਦੇ ਜੀਵਨ ਚੱਕਰ ਵਿੱਚ ਹੋਰ ਡੂੰਘਾਈ ਨਾਲ ਜੋੜਿਆ ਹੈ, ਜਿਸ ਲਈ ਪੂਰੀ ਟ੍ਰੇਨਿੰਗ ਦੌਰਾਨ ਅਲਾਈਨਡ ਵਿਵਹਾਰ ਦੇ ਪੱਕੇ ਸਬੂਤ ਹੋਣੇ ਲਾਜ਼ਮੀ ਹਨ।
ਅੱਜ ਅਸੀਂ ਇੱਕ ਵਿਸਤ੍ਰਿਤ ਝਲਕ ਪ੍ਰਦਾਨ ਕਰ ਰਹੇ ਹਾਂ ਕਿ ਕਿਵੇਂ ਏਜੰਟਿਕ ਸਿਸਟਮਾਂ ਨੇ ਹਾਲੀਆ ਮਹੀਨਿਆਂ ਵਿੱਚ RSI ਵੱਲ ਸਾਡੀ ਤਰੱਕੀ ਵਿੱਚ ਯੋਗਦਾਨ ਪਾਇਆ ਹੈ। ਏਜੰਟਿਕ ਸਿਸਟਮ ਨਵੇਂ ਹਨ ਅਤੇ ਤੇਜ਼ੀ ਨਾਲ ਬਦਲ ਰਹੇ ਹਨ, ਅਤੇ ਇਹਨਾਂ ਨੂੰ ਮਾਪਣ ਦੇ ਸਾਡੇ ਯਤਨ ਅਜੇ ਵੀ ਸ਼ੁਰੂਆਤੀ ਪੜਾਅ 'ਤੇ ਹਨ। ਇਹਨਾਂ ਸ਼ੁਰੂਆਤੀ ਨਤੀਜਿਆਂ ਅਤੇ ਇਹਨਾਂ ਪਿੱਛੇ ਵਰਤੇ ਗਏ ਤਰੀਕਿਆਂ ਨੂੰ ਸਾਂਝਾ ਕਰਕੇ, ਸਾਡਾ ਉਦੇਸ਼ ਜਨਤਾ ਨੂੰ ਸੂਚਿਤ ਕਰਨਾ, ਜਨਤਕ ਖੁਲਾਸੇ ਕਰਨ ਦੀ ਪ੍ਰਥਾ ਨੂੰ ਉਤਸ਼ਾਹਿਤ ਕਰਨਾ ਅਤੇ ਇਸ ਖੇਤਰ ਵਿੱਚ ਮਾਪਦੰਡਾਂ ਦੇ ਸਾਂਝੇ ਸਟੈਂਡਰਡ ਵਿਕਸਿਤ ਕਰਨ ਵਿੱਚ ਮਦਦ ਕਰਨਾ ਹੈ।
ਆਖਿਰਕਾਰ, ਜਿਵੇਂ ਕਿ ਅਸੀਂ ਆਪਣੇ ਅਤਿ-ਆਧੁਨਿਕ ਪਾਲਿਸੀ ਬਲੂਪ੍ਰਿੰਟ ਵਿੱਚ ਲਿਖਿਆ ਸੀ, ਸਾਡਾ ਮੰਨਣਾ ਹੈ ਕਿ ਸਾਡੇ ਅਤੇ ਹੋਰ ਕੰਪਨੀਆਂ ਲਈ RSI ਵੱਲ ਆਪਣੀ ਪ੍ਰਗਤੀ ਨੂੰ ਜਨਤਕ ਤੌਰ 'ਤੇ ਟ੍ਰੈਕ ਕਰਨਾ ਲਾਜ਼ਮੀ ਹੋਣਾ ਚਾਹੀਦਾ ਹੈ। ਅਜਿਹੀ ਕੋਈ ਸ਼ਰਤ ਨਾ ਹੋਣ ਦੇ ਬਾਵਜੂਦ ਵੀ, ਅਸੀਂ ਆਪਣੀ RSI ਪ੍ਰਗਤੀ ਬਾਰੇ ਪਾਰਦਰਸ਼ੀ ਬਣੇ ਰਹਿਣ ਦੀ ਯੋਜਨਾ ਬਣਾਈ ਹੈ। ਜਿਵੇਂ-ਜਿਵੇਂ ਸਾਡੀਆਂ ਮਾਪਣ ਦੀਆਂ ਤਕਨੀਕਾਂ ਅਤੇ ਸਮਝ ਵਿੱਚ ਸੁਧਾਰ ਆਵੇਗਾ, ਅਸੀਂ ਪਾਰਦਰਸ਼ਤਾ ਦੀ ਆਪਣੀ ਪਹੁੰਚ ਨੂੰ ਹੋਰ ਬਿਹਤਰ ਬਣਾਵਾਂਗੇ, ਜਦੋਂ ਕਿ ਸੁਰੱਖਿਆ ਅਤੇ ਖੁਫੀਆ ਜਾਣਕਾਰੀ ਦੀ ਰਾਖੀ ਦੀਆਂ ਲੋੜਾਂ ਨੂੰ ਵੀ ਸੰਤੁਲਿਤ ਰੱਖਾਂਗੇ।
ਇਸ ਸਾਲ ਦੇ ਸ਼ੁਰੂ ਵਿੱਚ, OpenAI ਵਿਖੇ ਏਜੰਟ ਦੀ ਵਰਤੋਂ ਦੇ ਆਧਾਰ 'ਤੇ ਇੱਕ ਔਸਤਨ ਖੋਜਕਰਤਾ, ਕੋਡਿੰਗ ਏਜੰਟਾਂ ਦੀ ਵਰਤੋਂ ਸਿਰਫ਼ ਮਾਮੂਲੀ ਮਾਤਰਾ ਵਿੱਚ ਕਰ ਰਿਹਾ ਸੀ। ਅਗਸਤ ਦੇ ਅੱਧ ਤੱਕ, ਔਸਤਨ ਖੋਜਕਰਤਾ ਰੋਜ਼ਾਨਾ ਆਪਣੇ ਕੰਮ ਵਿੱਚ ਏਜੰਟਾਂ ਨੂੰ ਸ਼ਾਮਲ ਕਰ ਰਿਹਾ ਸੀ, ਅਤੇ API ਕੀਮਤਾਂ ਦੇ ਆਧਾਰ 'ਤੇ ਰੋਜ਼ਾਨਾ $600 ਤੋਂ ਵੱਧ ਦੀ ਇਨਫਰੈਂਸ ਵਰਤ ਰਿਹਾ ਸੀ। ਸਾਡੀ ਖੋਜ ਸੰਸਥਾ ਵਿੱਚ 90ਵਾਂ ਪਰਸੈਂਟਾਈਲ ਵਰਤੋਂਕਾਰ ਹੁਣ ਰੋਜ਼ਾਨਾ $7,000 ਤੋਂ ਵੱਧ ਦੇ ਟੋਕਨ ਵਰਤਦਾ ਹੈ।
ਜੂਨ 2026 ਤੋਂ ਪਹਿਲਾਂ, ਸਮੁੱਚੀ ਖੋਜ ਸੰਸਥਾ ਵਿੱਚ ਏਜੰਟਾਂ ਦਾ ਕੁੱਲ ਰਨਟਾਈਮ ਅਜੇ ਵੀ ਕੁੱਲ ਮਨੁੱਖੀ ਮਿਹਨਤ ਦੇ ਸਮੇਂ ਤੋਂ ਘੱਟ ਸੀ। ਉਸ ਤੋਂ ਬਾਅਦ ਇਹ ਸਭ ਬਦਲ ਗਿਆ ਹੈ। 8 ਘੰਟੇ ਦੇ ਮਿਆਰੀ ਕੰਮਕਾਜੀ ਦਿਨ ਦੇ ਹਿਸਾਬ ਨਾਲ, ਅਗਸਤ ਦੇ ਅੱਧ ਤੱਕ, ਸਮੁੱਚੀ ਖੋਜ ਸੰਸਥਾ ਹਰ ਇੱਕ ਦਿਨ ਦੀ ਮਨੁੱਖੀ ਮਿਹਨਤ ਦੇ ਬਦਲੇ 3.1 ਏਜੰਟ-ਵਰਕਡੇਅ ਦੀ ਵਰਤੋਂ ਕਰਦੀ ਹੈ।
ਇਸਨੂੰ ਦੇਖਣ ਦਾ ਇੱਕ ਹੋਰ ਤਰੀਕਾ ਇਹ ਸਮਝਣਾ ਹੈ ਕਿ ਕਿੰਨੇ ਖੋਜਕਰਤਾ ਇੱਕੋ ਸਮੇਂ ਚੱਲਣ ਵਾਲੇ ਉੱਚ-ਪੱਧਰੀ ਵਰਕਫਲੋ ਦੀ ਵਰਤੋਂ ਕਰਦੇ ਹਨ (ਉਦਾਹਰਨ ਲਈ, ਇੱਕੋ ਸਮੇਂ 4 ਜਾਂ ਵੱਧ ਏਜੰਟ ਚਲਾਉਣਾ)। ਜਿਵੇਂ ਕਿ ਹੇਠਾਂ ਦਿਖਾਇਆ ਗਿਆ ਹੈ, ਇਹ ਗਿਣਤੀ ਲਗਾਤਾਰ ਵੱਧ ਰਹੀ ਹੈ। ਇਹਨਾਂ ਅੰਕੜਿਆਂ ਵਿੱਚ ਵਰਤੋਂਕਾਰ ਦੁਆਰਾ ਸਿੱਧੇ ਤੌਰ 'ਤੇ ਸ਼ੁਰੂ ਕੀਤੇ ਗਏ ਏਜੰਟਾਂ ਅਤੇ ਉਹਨਾਂ ਦੁਆਰਾ ਲਾਂਚ ਕੀਤੇ ਗਏ ਏਜੰਟਾਂ ਤੋਂ ਅੱਗੇ ਬਣਨ ਵਾਲੇ ਸਬ-ਏਜੰਟਾਂ ਦੇ ਰੋਜ਼ਾਨਾ ਦੇ ਸਿਖਰਲੇ ਪੱਧਰ ਸ਼ਾਮਲ ਹਨ।
AI ਖੋਜ ਦੇ ਜ਼ਿਆਦਾਤਰ ਹਿੱਸੇ ਨੂੰ ਇੱਕ ਸਖ਼ਤ ਮਿਹਨਤ ਵਾਲੀ ਪ੍ਰਕਿਰਿਆ ਵਜੋਂ ਦੇਖਿਆ ਜਾ ਸਕਦਾ ਹੈ, ਜਿਸਦਾ ਟੀਚਾ ਸਾਡੇ ਕਿਸੇ ਮੁੱਖ ਮਾਡਲ ਦੀ ਇੰਟੈਲੀਜੈਂਸ ਜਾਂ ਪ੍ਰਦਰਸ਼ਨ ਵਿੱਚ ਇੱਕ ਨਵਾਂ ਸੁਧਾਰ ਜੋੜਨਾ ਹੁੰਦਾ ਹੈ। ਇਹ ਪ੍ਰਕਿਰਿਆ ਕਈ ਕਦਮਾਂ 'ਤੇ ਨਿਰਭਰ ਕਰਦੀ ਹੈ, ਅਤੇ ਸਮਰੱਥਾਵਾਂ ਤਦ ਹੀ ਵਧਦੀਆਂ ਹਨ ਜਦੋਂ ਸਾਰੇ ਕਦਮ ਮਿਲ ਕੇ ਸਹੀ ਦਿਸ਼ਾ ਵਿੱਚ ਕੰਮ ਕਰਦੇ ਹਨ: ਖੋਜਕਰਤਾਵਾਂ ਨੂੰ ਨਵੇਂ ਸੁਧਾਰ ਡਿਜ਼ਾਈਨ ਕਰਨੇ ਪੈਂਦੇ ਹਨ, ਮਾਡਲ ਦੇ ਪ੍ਰਦਰਸ਼ਨ ਨੂੰ ਪਰਖਣ ਲਈ ਮੁਲਾਂਕਣ ਲਿਖਣੇ ਪੈਂਦੇ ਹਨ, ਇਹਨਾਂ ਸੁਧਾਰਾਂ ਦੀ ਵੱਡੇ ਪੱਧਰ 'ਤੇ ਜਾਂਚ ਕਰਨ ਲਈ ਬੁਨਿਆਦੀ ਢਾਂਚਾ ਤਿਆਰ ਕਰਨਾ ਪੈਂਦਾ ਹੈ, ਟ੍ਰੇਨਿੰਗ ਦੌਰਾਨ ਬੱਗ ਅਤੇ ਨਾਲ ਹੀ ਅਸੁਰੱਖਿਅਤ ਜਾਂ ਗਲਤ ਵਿਵਹਾਰ ਨੂੰ ਫੜਨਾ ਪੈਂਦਾ ਹੈ, ਅਤੇ ਸਭ ਤੋਂ ਵਧੀਆ ਵਿਚਾਰਾਂ ਨੂੰ ਮੁੱਖ ਟ੍ਰੇਨਿੰਗ ਰਨ ਵਿੱਚ ਸ਼ਾਮਲ ਕਰਨਾ ਪੈਂਦਾ ਹੈ। ਖੋਜ ਪ੍ਰਕਿਰਿਆ ਦੇ ਕਿਸੇ ਵੀ ਹਿੱਸੇ ਵਿੱਚ ਅਸਫਲਤਾ ਪੂਰੀ ਪ੍ਰਕਿਰਿਆ ਨੂੰ ਰੋਕ ਸਕਦੀ ਹੈ।
ਕੋਡ ਲਿਖਣਾ ਅਤੇ ਪ੍ਰਯੋਗ ਕਰਨਾ ਦੋ ਪ੍ਰਮੁੱਖ ਗਤੀਵਿਧੀਆਂ ਹਨ ਜੋ ਖੋਜਕਰਤਾ ਆਪਣੇ ਕੰਮ ਦੇ ਹਿੱਸੇ ਵਜੋਂ ਕਰਦੇ ਹਨ, ਅਤੇ ਅਸੀਂ ਸਬੂਤ ਦੇਖ ਰਹੇ ਹਾਂ ਕਿ ਇਹਨਾਂ ਪ੍ਰਕਿਰਿਆਵਾਂ ਵਿੱਚ ਤੇਜ਼ੀ ਆ ਰਹੀ ਹੈ।
ਇਹਨਾਂ ਡਾਟਾ ਪੁਆਇੰਟਾਂ ਨੂੰ ਮਾਪਣਾ ਮੁਕਾਬਲਤਨ ਆਸਾਨ ਹੈ, ਪਰ ਇਹਨਾਂ ਨੂੰ ਸਮਝਣਾ ਮੁਸ਼ਕਲ ਹੋ ਸਕਦਾ ਹੈ। ਜਿਵੇਂ-ਜਿਵੇਂ ਆਟੋਮੇਸ਼ਨ ਵਧਦੀ ਹੈ, ਉਹ ਕੰਮ ਜਿਨ੍ਹਾਂ ਨੂੰ ਆਟੋਮੈਟਿਕ ਕਰਨਾ ਸਭ ਤੋਂ ਮੁਸ਼ਕਲ ਹੈ, ਉਹ ਖੋਜਕਰਤਾ ਦੇ ਯਤਨਾਂ ਦਾ ਵੱਡਾ ਹਿੱਸਾ ਲੈਣਗੇ ਅਤੇ ਭਵਿੱਖ ਦੀ ਤਰੱਕੀ ਲਈ ਮੁੱਖ ਰੁਕਾਵਟਾਂ ਬਣ ਜਾਣਗੇ। ਪ੍ਰਗਤੀ ਦੇ ਰਾਹ ਵਿੱਚ ਕੰਪਿਊਟ ਇੱਕ ਹੋਰ ਵੱਡਾ ਅੜਿੱਕਾ ਹੈ, ਅਤੇ ਸਮੇਂ ਦੇ ਨਾਲ ਹੋਰ ਰੁਕਾਵਟਾਂ ਘਟਣ 'ਤੇ ਇਹ ਹੋਰ ਵੀ ਮਹੱਤਵਪੂਰਨ ਹੋ ਸਕਦਾ ਹੈ।
2026 ਤੱਕ, ਪ੍ਰਤੀ ਸਰਗਰਮ ਪ੍ਰਯੋਗਕਰਤਾ ਪ੍ਰਯੋਗਾਂ ਦੀ ਗਿਣਤੀ ਵਿੱਚ ਵਾਧਾ ਹੋਇਆ ਹੈ, ਅਗਸਤ 2026 ਵਿੱਚ ਇਹ ਗਿਣਤੀ ਸਭ ਤੋਂ ਵੱਧ ਰਹੀ ਜਦੋਂ ਤੋਂ ਜਨਵਰੀ 2025 ਵਿੱਚ ਇਸਨੂੰ ਟਰੈਕ ਕਰਨਾ ਸ਼ੁਰੂ ਕੀਤਾ ਗਿਆ ਸੀ। ਇਹ Codex ਦੀ ਵੱਧ ਰਹੀ ਵਰਤੋਂ ਨਾਲ ਜੁੜਿਆ ਹੋਇਆ ਹੈ, ਹਾਲਾਂਕਿ ਅਸੀਂ ਇਹ ਵੀ ਧਿਆਨ ਵਿੱਚ ਰੱਖਦੇ ਹਾਂ ਕਿ 2025 ਤੋਂ ਸਾਡੇ ਉਪਲਬਧ ਕੰਪਿਊਟ ਵਿੱਚ ਵੀ ਕਾਫ਼ੀ ਵਾਧਾ ਹੋਇਆ ਹੈ।
ਗੁਣਾਤਮਕ ਪ੍ਰਭਾਵਾਂ ਅਤੇ ਅੰਦਰੂਨੀ ਡਾਟਾ ਦੋਵਾਂ ਤੋਂ ਸੰਕੇਤ ਮਿਲਦਾ ਹੈ ਕਿ ਖੋਜਕਰਤਾਵਾਂ ਵੱਲੋਂ ਕੋਡਿੰਗ ਏਜੰਟਾਂ ਨੂੰ ਸੌਂਪੇ ਜਾਣ ਵਾਲੇ ਕੰਮਾਂ ਦਾ ਮਿਸ਼ਰਣ ਬਦਲ ਰਿਹਾ ਹੈ, ਜਿਸ ਵਿੱਚ ਸਮੇਂ ਦੇ ਨਾਲ ਉੱਚ ਪੱਧਰੀ ਅਤੇ ਲੰਬੇ ਸਮੇਂ ਵਾਲੇ ਕੰਮ ਸੌਂਪਣ ਦਾ ਰੁਝਾਨ ਵਧੇਰੇ ਆਮ ਹੋ ਰਿਹਾ ਹੈ।
ਇਸ ਰੁਝਾਨ ਦੀ ਸਪੱਸ਼ਟ ਤਸਵੀਰ ਪ੍ਰਾਪਤ ਕਰਨ ਲਈ, ਅਸੀਂ Epoch AI ਦੁਆਰਾ ਵਿਕਸਤ ਕੀਤੇ ਗਏ AI R&D ਜੀਵਨ-ਚੱਕਰ ਦੇ ਵੱਖ-ਵੱਖ ਕਿਸਮਾਂ ਦੇ ਕੰਮਾਂ ਦੀ ਹਾਲ ਹੀ ਵਿੱਚ ਪ੍ਰਕਾਸ਼ਿਤ ਟੈਕਸੋਨੋਮੀ(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ) ਦੀ ਵਰਤੋਂ ਕਰਦੇ ਹੋਏ ਖੋਜ ਸੰਸਥਾ ਵਿੱਚ ਹਾਲੀਆ ਵਰਤੋਂ ਦਾ ਵਿਸ਼ਲੇਸ਼ਣ ਕੀਤਾ। ਇਹ ਟੈਕਸੋਨੋਮੀ, ਜੋ ਕਿ ਹਰ ਤਰ੍ਹਾਂ ਦੇ ਕੰਮ ਨੂੰ ਸ਼੍ਰੇਣੀਬੱਧ ਕਰਨ ਵਾਲੀ ਲੰਬੇ ਸਮੇਂ ਤੋਂ ਚੱਲੀ ਆ ਰਹੀ O*NET ਪ੍ਰਣਾਲੀ ਤੋਂ ਪ੍ਰੇਰਿਤ ਹੈ, ਖਾਸ ਤੌਰ 'ਤੇ ਅਤਿ-ਆਧੁਨਿਕ AI R&D ਲਈ ਤਿਆਰ ਕੀਤੀ ਗਈ ਹੈ, ਅਤੇ ਪ੍ਰਕਿਰਿਆ ਨੂੰ ਛੇ ਮੁੱਖ ਪੜਾਵਾਂ ਵਿੱਚ ਵੰਡਦੀ ਹੈ:
ਫੈਸਲਾ ਕਰਨਾ: ਕਿਸ 'ਤੇ ਕੰਮ ਕਰਨਾ ਹੈ, ਕੀ ਜਾਰੀ ਰੱਖਣਾ ਹੈ, ਕਿੱਥੇ ਵੰਡ ਕਰਨੀ ਹੈ
ਡਿਜ਼ਾਈਨ: ਖੋਜ ਦੇ ਵਿਚਾਰ ਅਤੇ ਇੰਜੀਨੀਅਰਿੰਗ ਦੀਆਂ ਵਿਸ਼ੇਸ਼ਤਾਵਾਂ
ਨਿਰਮਾਣ: ਕੋਡ ਅਤੇ ਡਾਟਾਸੈੱਟ
ਰਨ: ਟ੍ਰੇਨਿੰਗ/ਇਵੈਲ ਰਨ, ਹਾਰਡਵੇਅਰ, ਸਰਵਿੰਗ
ਵਿਸ਼ਲੇਸ਼ਣ: ਪ੍ਰਯੋਗ, ਮਾਡਲ, ਡਿਪਲਾਇਮੈਂਟ, ਬਾਹਰੀ ਕੰਮ
ਸੰਚਾਰ: ਨਤੀਜੇ, ਫੀਡਬੈਕ, ਸਥਿਤੀ, ਫੈਸਲੇ
ਹੇਠਾਂ, ਅਸੀਂ ਇਸ ਟੈਕਸੋਨੋਮੀ ਦੇ ਅਧੀਨ ਕੋਡਿੰਗ ਏਜੰਟ ਟੋਕਨਾਂ ਨੂੰ ਸ਼੍ਰੇਣੀਬੱਧ ਕਰਦੇ ਹਾਂ।
ਅਸੀਂ ਦੇਖਦੇ ਹਾਂ ਕਿ ਜਨਵਰੀ ਅਤੇ ਅਗਸਤ 2026 ਦੇ ਵਿਚਕਾਰ ਖੋਜ ਗਤੀਵਿਧੀਆਂ ਦੀਆਂ ਸਾਰੀਆਂ ਸ਼੍ਰੇਣੀਆਂ ਵਿੱਚ ਵਾਧਾ ਹੋਇਆ ਹੈ। ਜਨਵਰੀ ਵਿੱਚ, ਖੋਜ ਅਤੇ ਬੁਨਿਆਦੀ ਢਾਂਚੇ ਦਾ ਕੋਡ ਮੁੱਖ ਸ਼੍ਰੇਣੀ ਸੀ। ਇਸ ਸ਼੍ਰੇਣੀ ਦਾ ਵਿਸਥਾਰ ਹੋਇਆ ਹੈ, ਪਰ ਅਸੀਂ ਹੋਰ ਸ਼੍ਰੇਣੀਆਂ, ਖਾਸ ਕਰਕੇ ਤਕਨੀਕੀ ਮਦਦ ਅਤੇ ਨਿਗਰਾਨੀ ਰਨ ਵਿੱਚ ਵੀ ਧਿਆਨ ਦੇਣ ਯੋਗ ਵਾਧਾ ਦੇਖ ਰਹੇ ਹਾਂ। ਉੱਚ-ਪੱਧਰੀ ਯੋਜਨਾ ਬਣਾਉਣਾ ਅਜੇ ਵੀ ਏਜੰਟ ਆਊਟਪੁੱਟ ਟੋਕਨਾਂ ਦਾ ਬਹੁਤ ਛੋਟਾ ਹਿੱਸਾ ਹੈ।
ਸੁਣਨ ਵਿੱਚ ਆਇਆ ਹੈ ਕਿ ਸਹਿਕਰਮੀਆਂ ਦਾ ਕਹਿਣਾ ਹੈ ਕਿ ਕੋਡਿੰਗ ਏਜੰਟ ਅੰਦਰੂਨੀ ਖੋਜ ਬੁਨਿਆਦੀ ਢਾਂਚੇ ਦੀਆਂ ਸਮੱਸਿਆਵਾਂ ਨੂੰ ਹੱਲ ਕਰਨ ਵਿੱਚ ਬਿਹਤਰੀਨ ਹਨ, ਜੋ ਕਿ ਖੋਜ ਦੀ ਤਰੱਕੀ ਵਿੱਚ ਇੱਕ ਵੱਡੀ ਰੁਕਾਵਟ ਨੂੰ ਦੂਰ ਕਰਦਾ ਹੈ। ਕਈ ਟੀਮਾਂ ਜਿਹੜੀਆਂ ਪਹਿਲਾਂ ਖੋਜਕਰਤਾਵਾਂ ਨੂੰ ਉਨ੍ਹਾਂ ਦੇ ਪ੍ਰਯੋਗਾਂ ਦੀਆਂ ਸਮੱਸਿਆਵਾਂ ਸੁਲਝਾਉਣ ਲਈ ਸਮਾਂ ਦਿੰਦੀਆਂ ਸਨ, ਉਨ੍ਹਾਂ ਨੇ 2026 ਵਿੱਚ ਲੋਕਾਂ ਦੀ ਹਾਜ਼ਰੀ ਘਟਦੀ ਦੇਖੀ ਹੈ, ਅਤੇ ਇੱਕ ਟੀਮ ਨੇ ਤਾਂ ਸਿਸਟਮ ਵਿੱਚ ਹੋਰ ਸੁਧਾਰ ਕਰਨ 'ਤੇ ਧਿਆਨ ਦੇਣ ਲਈ ਇਹ ਸੈਸ਼ਨ ਪੂਰੀ ਤਰ੍ਹਾਂ ਬੰਦ ਕਰ ਦਿੱਤੇ ਹਨ।
ਇੱਥੇ, ਅਸੀਂ ਇੱਕ ਮੁੱਖ ਅੰਦਰੂਨੀ ਚੈਨਲ 'ਤੇ ਪ੍ਰਤੀ ਦਿਨ ਆਉਣ ਵਾਲੀਆਂ ਉੱਚ-ਪੱਧਰੀ ਪੋਸਟਾਂ ਦੀ ਗਿਣਤੀ ਦਾ ਗ੍ਰਾਫ ਦਿਖਾਉਂਦੇ ਹਾਂ ਜਿੱਥੇ ਖੋਜਕਰਤਾ ਦੂਜੀਆਂ ਟੀਮਾਂ ਤੋਂ ਤਕਨੀਕੀ ਸਹਾਇਤਾ ਲੈਂਦੇ ਹਨ। ਸਾਡੀ ਜਾਣਕਾਰੀ ਮੁਤਾਬਕ, ਚੈਨਲ ਦੀ ਗਤੀਵਿਧੀ ਵਿੱਚ ਆਈ ਕਮੀ ਦਾ ਕਾਰਨ ਇਹ ਨਹੀਂ ਹੈ ਕਿ ਸਵਾਲ ਕਿਸੇ ਹੋਰ ਅਜਿਹੇ ਤਕਨੀਕੀ ਸਹਾਇਤਾ ਚੈਨਲ 'ਤੇ ਜਾਣ ਲੱਗ ਪਏ ਹਨ ਜੋ ਮਨੁੱਖਾਂ ਦੁਆਰਾ ਚਲਾਇਆ ਜਾਂਦਾ ਹੈ। ਟਰੈਫਿਕ ਵਿੱਚ ਆਈ ਇਹ ਗਿਰਾਵਟ ਇਸ ਵਿਆਪਕ ਤਬਦੀਲੀ ਨਾਲ ਮੇਲ ਖਾਂਦੀ ਹੈ।
ਅਸੀਂ ਇਹ ਵੀ ਅਧਿਐਨ ਕਰ ਸਕਦੇ ਹਾਂ ਕਿ ਕੀ ਕੋਡਿੰਗ ਏਜੰਟ ਖੋਜਕਰਤਾਵਾਂ ਵੱਲੋਂ ਦਿੱਤੇ ਗਏ ਕੰਮਾਂ ਵਿੱਚ ਸਫ਼ਲ ਹੋ ਰਹੇ ਹਨ। ਇੱਕ ਏਜੰਟਿਕ ਕਲਾਸੀਫਾਇਰ ਦੀ ਵਰਤੋਂ ਕਰਦੇ ਹੋਏ, ਅਸੀਂ ਪਾਇਆ ਹੈ ਕਿ ਜਨਵਰੀ ਤੋਂ ਜੁਲਾਈ ਤੱਕ, ਉਨ੍ਹਾਂ ਟਾਸਕਾਂ ਵਿੱਚ ਮੁਸ਼ਕਲ ਦੇ ਵੱਖ-ਵੱਖ ਪੱਧਰਾਂ (ਇਸ ਦਾ ਅੰਦਾਜ਼ਾ ਇੱਕ ਇਨਸਾਨ ਨੂੰ ਕੰਮ ਪੂਰਾ ਕਰਨ ਵਿੱਚ ਲੱਗਣ ਵਾਲੇ ਸਮੇਂ ਤੋਂ ਲਗਾਇਆ ਗਿਆ ਹੈ) ਵਿੱਚ ਸਫਲਤਾ ਦੀ ਦਰ ਆਮ ਤੌਰ 'ਤੇ ਵਧੀ ਹੈ, ਜਿਨ੍ਹਾਂ ਲਈ ਅਸੀਂ ਅਸਲ ਨਤੀਜੇ ਲੱਭ ਸਕਦੇ ਹਾਂ। ਹਾਲਾਂਕਿ, ਏਜੰਟਾਂ ਨੂੰ ਸਫ਼ਲ ਹੋਣ ਲਈ ਅਜੇ ਵੀ ਮਹੱਤਵਪੂਰਨ ਮਨੁੱਖੀ ਨਿਰਦੇਸ਼ਨ ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ, ਖਾਸ ਕਰਕੇ ਜਦੋਂ ਕੰਮ ਦੀ ਗੁੰਝਲਤਾ ਵੱਧ ਜਾਂਦੀ ਹੈ। ਪਿਛਲੇ 6 ਮਹੀਨਿਆਂ ਵਿੱਚ, ਅੱਧੇ ਤੋਂ ਵੱਧ ਸਫਲ ਰਹੇ 4-8 ਘੰਟੇ ਵਾਲੇ ਟਾਸਕਾਂ ਵਿੱਚ 1 ਜਾਂ ਇਸ ਤੋਂ ਵੱਧ ਵਾਰ ਮਨੁੱਖੀ ਦਖਲਅੰਦਾਜ਼ੀ ਸ਼ਾਮਲ ਸੀ।
ਖੋਜਕਰਤਾ ਦੇ ਕੰਮਾਂ 'ਤੇ ਸਫਲਤਾ ਦਰਾਂ ਸਮੇਂ ਦੇ ਨਾਲ ਵਧੀਆਂ ਹਨ। ਗ੍ਰਾਫ ਉਹਨਾਂ ਵਰਗੀਕਰਨਾਂ ਨੂੰ ਬਾਹਰ ਰੱਖਦਾ ਹੈ ਜਿੱਥੇ ਨਤੀਜਾ ਅਨਿਸ਼ਚਿਤ ਸੀ ਅਤੇ ਉਹ ਪੁਆਇੰਟ ਜਿੱਥੇ <50 ਸੈਸ਼ਨ ਜਾਂ <50 ਵਿਲੱਖਣ ਵਰਤੋਂਕਾਰ ਸਨ।
ਜਨਵਰੀ ਤੋਂ ਜੁਲਾਈ ਤੱਕ ਟਾਸਕ ਦੀ ਸਫਲਤਾ ਅਤੇ ਦਖਲਅੰਦਾਜ਼ੀ ਦਰ, ਜਿਸਨੂੰ ਟਾਈਮ ਹੋਰਾਇਜ਼ਨ ਨਾਲ ਵੰਡਿਆ ਗਿਆ ਹੈ। ਉਹਨਾਂ ਵਰਗੀਕਰਨਾਂ ਨੂੰ ਸ਼ਾਮਲ ਨਹੀਂ ਕਰਦਾ ਜਿੱਥੇ ਨਤੀਜਾ ਅਨਿਸ਼ਚਿਤ ਸੀ।
ਸੁਰੱਖਿਅਤ ਅਤੇ ਲਾਹੇਵੰਦ AGI ਲਈ ਵਧੇਰੇ ਸਮਰੱਥ ਸਿਸਟਮਾਂ ਵੱਲ ਪ੍ਰਗਤੀ, ਅਜਿਹੇ ਕੰਮ ਲਈ ਲੋੜੀਂਦੇ ਸੁਰੱਖਿਆ ਉਪਾਵਾਂ 'ਤੇ ਵੀ ਨਿਰਭਰ ਕਰੇਗੀ। ਜਿਵੇਂ-ਜਿਵੇਂ ਅਸੀਂ ਜੋਖਮਾਂ ਬਾਰੇ ਹੋਰ ਜਾਣਦੇ ਹਾਂ, ਲੋੜੀਂਦੇ ਸੁਰੱਖਿਆ ਉਪਾਵਾਂ ਬਾਰੇ ਸਾਡਾ ਮੁਲਾਂਕਣ ਬਦਲ ਸਕਦਾ ਹੈ।
ਜਿਵੇਂ ਕਿ ਅਸੀਂ ਵਰਣਨ ਕੀਤਾ ਹੈ, ਅਸੀਂ ਹਾਲ ਹੀ ਵਿੱਚ ਨਿਗਰਾਨੀ, ਅਲਾਈਨਮੈਂਟ ਅਤੇ ਸੁਰੱਖਿਆ ਲਈ ਆਪਣੇ ਮਾਪਦੰਡਾਂ ਨੂੰ ਅੱਪਡੇਟ ਕੀਤਾ ਹੈ। ਇੱਥੇ, ਅਸੀਂ ਦਿਖਾਉਂਦੇ ਹਾਂ ਕਿ ਹਾਲੀਆ ਪਾਬੰਦੀਆਂ ਨੇ ਖੋਜ ਗਤੀਵਿਧੀ ਦੇ ਇੱਕ ਪਹਿਲੂ ਨੂੰ ਕਿਵੇਂ ਪ੍ਰਭਾਵਿਤ ਕੀਤਾ ਹੈ।
*20 ਜੁਲਾਈ ਅਤੇ 6 ਅਗਸਤ ਦੇ ਵਿਚਕਾਰ ਇੱਥੇ ਦਿਖਾਏ ਗਏ ਜ਼ਿਆਦਾਤਰ Astra ਕੰਪਿਊਟ ਦਾ ਉਦੇਸ਼ ਸੁਰੱਖਿਆ ਅਤੇ ਬਚਾਅ ਸੰਬੰਧੀ ਸੁਧਾਰਾਂ ਨੂੰ ਲਾਗੂ ਕਰਨ ਦੀ ਜਾਂਚ ਕਰਨਾ ਸੀ।
20 ਜੁਲਾਈ ਨੂੰ, ਇਸ ਖੁਲਾਸੇ ਤੋਂ ਬਾਅਦ ਕਿ ਏਜੰਟਾਂ ਨੇ ਸਾਡੇ ਖੋਜ ਦੇ ਬੁਨਿਆਦੀ ਢਾਂਚੇ ਨੂੰ ਨੁਕਸਾਨ ਪਹੁੰਚਾਇਆ ਹੈ, ਅਸੀਂ ਥੋੜ੍ਹੇ ਸਮੇਂ ਲਈ ਟ੍ਰੇਨਿੰਗ ਲਈ ਵਰਤੀ ਜਾਣ ਵਾਲੀ ਕੰਟੇਨਰ ਸੇਵਾ ਨੂੰ ਬੰਦ ਕਰ ਦਿੱਤਾ, ਅਤੇ ਫਿਰ ਇਸਨੂੰ ਕਾਫ਼ੀ ਸਖ਼ਤ ਪਾਬੰਦੀਆਂ ਨਾਲ ਦੁਬਾਰਾ ਬਹਾਲ ਕੀਤਾ।
ਇਸ ਕਾਰਨ RL ਟ੍ਰੇਨਿੰਗ ਕੰਪਿਊਟ ਵਿੱਚ ਭਾਰੀ ਗਿਰਾਵਟ ਆਈ, ਜਦੋਂ ਕਿ ਟੀਮਾਂ ਨੇ ਆਪਣੇ ਕੰਮ ਦੇ ਪ੍ਰਵਾਹ ਨੂੰ ਸਖ਼ਤ ਸੁਰੱਖਿਆ ਵਾਲੇ ਖੋਜ ਮਾਹੌਲ ਦੇ ਅਨੁਕੂਲ ਬਣਾਉਣ ਲਈ ਦੁਬਾਰਾ ਸੈੱਟ ਕੀਤਾ। ਉੱਪਰ ਦਿੱਤੇ ਗਏ ਪਲਾਟ ਵਿੱਚ ਡਿਪਲਾਇਮੈਂਟ ਲਈ ਬਣਾਏ ਗਏ ਸਾਡੇ ਨਵੀਨਤਮ ਮਾਡਲਾਂ ਉੱਤੇ ਰੀਇਨਫੋਰਸਮੈਂਟ ਲਰਨਿੰਗ (RL) ਵਿੱਚ ਦੋ ਹਫ਼ਤਿਆਂ ਦਾ ਵਿਰਾਮ ਸ਼ਾਮਲ ਹੈ। 20 ਜੁਲਾਈ ਅਤੇ 6 ਅਗਸਤ ਦਰਮਿਆਨ ਹੋਏ Astra-ਕਲਾਸ RL ਪ੍ਰਯੋਗਾਂ ਵਿੱਚ ਜ਼ਿਆਦਾਤਰ ਰਨ (GPU ਐਲੋਕੇਸ਼ਨ ਮੁਤਾਬਕ) ਸ਼ਾਮਲ ਹਨ, ਜਿਨ੍ਹਾਂ ਦਾ ਉਦੇਸ਼ ਸੁਰੱਖਿਆ ਅਤੇ ਬਚਾਅ ਸੰਬੰਧੀ ਸੁਧਾਰਾਂ ਨੂੰ ਲਾਗੂ ਕਰਨ ਦੀ ਜਾਂਚ ਕਰਨਾ ਸੀ।
7 ਅਗਸਤ ਨੂੰ, ਸ਼ੁਰੂਆਤੀ ਸਬੂਤਾਂ ਕਿ ਸਾਡੇ ਪ੍ਰਿਪੇਅਰਡਨੈਸ ਫ੍ਰੇਮਵਰਕ ਦੇ ਤਹਿਤ Astra ਵਿੱਚ ਗੰਭੀਰ ਸਾਈਬਰ ਸਮਰੱਥਾਵਾਂ ਹੋ ਸਕਦੀਆਂ ਹਨ(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ), ਕਾਰਨ ਮਾਡਲ-ਵਿਸ਼ੇਸ਼ ਵਾਧੂ ਸੁਰੱਖਿਆ ਪਾਬੰਦੀਆਂ ਲਗਾਈਆਂ ਗਈਆਂ, ਜਿਸ ਕਾਰਨ Astra ਮਾਡਲ ਨੂੰ ਉੱਚ-ਸੁਰੱਖਿਆ ਵਾਲੇ ਖੋਜ ਮਾਹੌਲ ਵਿੱਚ ਚਲਾਉਣਾ ਲਾਜ਼ਮੀ ਹੋ ਗਿਆ। ਅਗਲੇ ਹਫ਼ਤੇ, Astra-ਕਲਾਸ ਦੀ GPU ਐਲੋਕੇਸ਼ਨ ਵਿੱਚ 59.2 ਪ੍ਰਤੀਸ਼ਤ ਦੀ ਹੋਰ ਗਿਰਾਵਟ ਆਈ, ਪਰ ਹੋਰ ਮਾਡਲ ਕਲਾਸਾਂ ਲਈ ਐਲੋਕੇਸ਼ਨ ਵਿੱਚ 17.2 ਪ੍ਰਤੀਸ਼ਤ ਦਾ ਵਾਧਾ ਹੋਇਆ। ਇਸ ਵਾਧੇ ਨੇ Astra-ਕਲਾਸ ਦੀ ਗਿਰਾਵਟ ਦੇ ਲਗਭਗ 85 ਪ੍ਰਤੀਸ਼ਤ ਦੀ ਭਰਪਾਈ ਕਰ ਦਿੱਤੀ, ਜਿਸ ਨਾਲ ਵਿਸ਼ਲੇਸ਼ਣ ਕੀਤੇ ਗਏ RL ਵਰਕਲੋਡ ਵਿੱਚ ਕੁੱਲ ਐਲੋਕੇਸ਼ਨ ਲਗਭਗ ਪਹਿਲਾਂ ਜਿੰਨੀ ਹੀ ਰਹੀ। ਇਹ ਰੁਝਾਨ ਇਹ ਦਰਸਾਉਂਦਾ ਹੈ ਕਿ ਜਦੋਂ Astra ਨਾਲ ਜੁੜੇ ਕੰਮ 'ਤੇ ਪਾਬੰਦੀ ਸੀ, ਤਾਂ ਕੁਝ ਟ੍ਰੇਨਿੰਗ ਅਤੇ ਪ੍ਰਯੋਗ ਗੈਰ-Astra ਮਾਡਲਾਂ ਵੱਲ ਤਬਦੀਲ ਕਰ ਦਿੱਤੇ ਗਏ ਸਨ। ਇਹ ਖੋਜਕਰਤਾਵਾਂ ਦੀਆਂ ਉਨ੍ਹਾਂ ਰਿਪੋਰਟਾਂ ਨਾਲ ਵੀ ਮੇਲ ਖਾਂਦਾ ਹੈ ਜਿਨ੍ਹਾਂ ਵਿੱਚ ਉਨ੍ਹਾਂ ਨੇ ਉਸ ਕੰਪਿਊਟ ਦੀ ਵਰਤੋਂ ਹੋਰ ਕੰਮਾਂ ਲਈ ਕਰਨੀ ਸ਼ੁਰੂ ਕਰ ਦਿੱਤੀ ਸੀ ਜੋ ਨਵੀਆਂ ਪਾਬੰਦੀਆਂ ਅਧੀਨ ਆਉਂਦੇ ਵਰਕਲੋਡ ਲਈ ਨਹੀਂ ਵਰਤਿਆ ਜਾ ਸਕਦਾ ਸੀ।
ਇਹ ਡਾਟਾ ਟ੍ਰੇਨਿੰਗ ਅਤੇ ਸੁਰੱਖਿਆ ਬਾਰੇ ਚੱਲ ਰਹੀ ਚਰਚਾ ਲਈ ਇੱਕ ਲਾਹੇਵੰਦ ਸੰਕੇਤ ਦਿੰਦਾ ਹੈ: ਜਦੋਂ ਨਵੇਂ ਨਿਯੰਤਰਣ ਪੇਸ਼ ਕੀਤੇ ਜਾਂਦੇ ਹਨ, ਤਾਂ ਕੰਪਿਊਟ ਕੀਮਤੀ ਅਤੇ ਲਚਕਦਾਰ ਰਹਿੰਦਾ ਹੈ, ਅਤੇ ਖੋਜ ਸੰਸਥਾ ਦੇ ਅੰਦਰ ਕੁਦਰਤੀ ਤੌਰ 'ਤੇ ਇਸਨੂੰ ਹੋਰ ਬਦਲਵੇਂ ਕੰਮਾਂ ਲਈ ਵਰਤਿਆ ਜਾਣ ਲੱਗਦਾ ਹੈ। ਲੰਬੇ ਸਮੇਂ ਦੇ ਨਜ਼ਰੀਏ ਤੋਂ, AI ਦੀ ਤਰੱਕੀ ਦੀ ਰਫ਼ਤਾਰ ਬਾਰੇ ਚਰਚਾਵਾਂ ਵਿੱਚ ਇਸ ਸਵਾਲ ਨੂੰ ਵੀ ਸ਼ਾਮਲ ਕਰਨਾ ਚਾਹੀਦਾ ਹੈ ਕਿ ਨਵੇਂ ਜਾਂ ਪ੍ਰਸਤਾਵਿਤ ਨਿਯੰਤਰਣਾਂ ਅਧੀਨ ਆਉਂਦੇ ਕੰਪਿਊਟ ਦੀ ਸਭ ਤੋਂ ਵਧੀਆ ਵਰਤੋਂ ਕਿਵੇਂ ਕੀਤੀ ਜਾ ਸਕਦੀ ਹੈ।
ਅਲਾਈਨਡ RSI ਵੱਲ ਤਰੱਕੀ ਕਰਨਾ ਅਤੇ ਉਸਨੂੰ ਸਮਝਣਾ ਸਾਡੇ ਮਿਸ਼ਨ ਲਈ ਮਹੱਤਵਪੂਰਨ ਹੈ। ਅਸੀਂ ਆਪਣੇ ਤਰੀਕਿਆਂ ਨੂੰ ਹੋਰ ਬਿਹਤਰ ਬਣਾਉਣਾ, ਆਪਣੀ ਵੱਧ ਰਹੀ ਸਮਝ ਬਾਰੇ ਰਿਪੋਰਟ ਦੇਣਾ, ਅਤੇ ਅਤਿ-ਆਧੁਨਿਕ ਸਿਸਟਮਾਂ ਦੇ ਸੰਬੰਧ ਵਿੱਚ ਇੱਕ ਜਾਗਰੂਕ ਜਨਤਕ ਬਹਿਸ ਅਤੇ ਸਾਰਥਕ ਲੋਕਤਾਂਤਰਿਕ ਸ਼ਾਸਨ ਦੀ ਦਿਸ਼ਾ ਵਿੱਚ ਕੰਮ ਕਰਨਾ ਜਾਰੀ ਰੱਖਾਂਗੇ।
ਏਜੰਟ-ਸੰਚਾਲਿਤ AI ਖੋਜ ਅਜੇ ਵੀ ਨਵੀਂ ਹੈ, ਅਤੇ ਅਸੀਂ ਅਜੇ ਵੀ ਇਹ ਸਿੱਖ ਰਹੇ ਹਾਂ ਕਿ ਇਸਨੂੰ ਕਿਵੇਂ ਮਾਪਣਾ ਹੈ। ਕੁਝ ਸੰਕੇਤ, ਜਿਵੇਂ ਕਿ ਸਾਡੀਆਂ ਖੋਜ ਟੀਮਾਂ ਦੁਆਰਾ ਤਿਆਰ ਕੀਤੇ ਗਏ ਕੋਡ ਦੀ ਮਾਤਰਾ, ਇਕੱਠੇ ਕਰਨੇ ਮੁਕਾਬਲਤਨ ਆਸਾਨ ਹੁੰਦੇ ਹਨ, ਪਰ ਇਹਨਾਂ ਨੂੰ ਸਮਝਣਾ ਮੁਸ਼ਕਲ ਹੁੰਦਾ ਹੈ ਕਿਉਂਕਿ ਖੋਜ ਦੀ ਪ੍ਰਗਤੀ ਨਾਲ ਇਹਨਾਂ ਦਾ ਸੰਬੰਧ ਅਨਿਸ਼ਚਿਤ ਹੈ। ਉਹ ਮੈਟ੍ਰਿਕਸ ਜੋ ਸਿੱਧੇ ਤੌਰ 'ਤੇ ਖੋਜ ਦੀ ਪ੍ਰਗਤੀ 'ਤੇ ਧਿਆਨ ਕੇਂਦਰਿਤ ਕਰਦੇ ਹਨ—ਜਿਵੇਂ ਕਿ ਏਜੰਟ ਕਿੰਨੀ ਵਾਰ ਖੋਜਕਰਤਾਵਾਂ ਦੁਆਰਾ ਦਿੱਤੇ ਗਏ ਕੰਮਾਂ ਵਿੱਚ ਸਫਲ ਹੁੰਦੇ ਹਨ—ਵਧੇਰੇ ਲਾਹੇਵੰਦ ਹੋ ਸਕਦੇ ਹਨ, ਪਰ ਇਹਨਾਂ ਨੂੰ ਵਿਕਸਤ ਕਰਨਾ ਅਤੇ ਪ੍ਰਮਾਣਿਤ ਕਰਨਾ ਗੁੰਝਲਦਾਰ ਹੈ। ਮੁਸ਼ਕਲ ਨੂੰ ਹੋਰ ਵਧਾਉਂਦੇ ਹੋਏ, ਉਹ ਟੂਲ ਅਤੇ ਸਿਸਟਮ ਜਿਨ੍ਹਾਂ 'ਤੇ ਖੋਜਕਰਤਾ ਨਿਰਭਰ ਕਰਦੇ ਹਨ, ਤੇਜ਼ੀ ਨਾਲ ਬਦਲ ਰਹੇ ਹਨ। ਖੋਜ ਵਿੱਚ ਆਈ ਤੇਜ਼ੀ ਬਾਰੇ ਸਾਡੀ ਸਮਝ ਨੂੰ ਡੂੰਘਾ ਕਰਨਾ ਪੂਰੇ OpenAI ਵਿੱਚ ਮੁੱਖ ਧਿਆਨ ਦਾ ਖੇਤਰ ਹੈ।
ਇਹਨਾਂ ਵਿਸ਼ਲੇਸ਼ਣਾਂ ਵਿੱਚ, ਜਦੋਂ ਤੱਕ ਹੋਰ ਕੁਝ ਨਾ ਦੱਸਿਆ ਗਿਆ ਹੋਵੇ:
“ਖੋਜਕਰਤਾ” ਸਾਡੀ ਖੋਜ ਸੰਸਥਾ ਦੇ ਕਿਸੇ ਵੀ ਮੈਂਬਰ ਲਈ ਵਰਤਿਆ ਜਾਣ ਵਾਲਾ ਇੱਕ ਵਿਆਪਕ ਸ਼ਬਦ ਹੈ, ਜਿਸ ਵਿੱਚ ਉਹ ਲੋਕ ਵੀ ਸ਼ਾਮਲ ਹਨ ਜੋ ਖੋਜ ਦਾ ਬੁਨਿਆਦੀ ਢਾਂਚਾ ਬਣਾਉਂਦੇ ਹਨ, ਖੋਜ ਪ੍ਰੋਜੈਕਟਾਂ ਦਾ ਪ੍ਰਬੰਧਨ ਕਰਦੇ ਹਨ, ਜਾਂ ਕਿਸੇ ਹੋਰ ਤਰੀਕੇ ਨਾਲ ਸੰਸਥਾ ਦਾ ਸਮਰਥਨ ਕਰਦੇ ਹਨ।
ਖੋਜਕਰਤਾਵਾਂ ਦੁਆਰਾ ਵਰਤੇ ਜਾਣ ਵਾਲੇ ਟੂਲ ਅਤੇ ਸਿਸਟਮ ਤੇਜ਼ੀ ਨਾਲ ਵਿਕਸਿਤ ਹੋਣ ਕਾਰਨ, ਕੋਡਿੰਗ ਏਜੰਟਾਂ ਦੀ ਵਰਤੋਂ ਦੇ ਮੈਟ੍ਰਿਕਸ ਜ਼ਿਆਦਾਤਰ ਵਰਤੋਂ ਨੂੰ ਕਵਰ ਕਰਦੇ ਹਨ, ਪਰ ਸਾਰੀ ਵਰਤੋਂ ਨੂੰ ਨਹੀਂ।
