ਅਸੀਂ Zico Kolter ਦੀ OpenAI ਦੇ ਬੋਰਡ ਆਫ ਡਾਇਰੈਕਟਰਜ਼ ਵਿੱਚ ਨਿਯੁਕਤੀ ਦਾ ਐਲਾਨ ਕਰ ਰਹੇ ਹਾਂ। ਕਾਰਨੇਗੀ ਮੇਲਨ ਯੂਨੀਵਰਸਿਟੀ ਵਿੱਚ ਪ੍ਰੋਫੈਸਰ ਅਤੇ ਮਸ਼ੀਨ ਲਰਨਿੰਗ ਡਿਪਾਰਟਮੈਂਟ ਦੇ ਡਾਇਰੈਕਟਰ ਵਜੋਂ, Zico ਦਾ ਕੰਮ ਮੁੱਖ ਤੌਰ ‘ਤੇ AI ਸੁਰੱਖਿਆ, ਅਲਾਈਨਮੈਂਟ ਅਤੇ ਮਸ਼ੀਨ ਲਰਨਿੰਗ ਕਲਾਸੀਫਾਇਰਾਂ ਦੀ ਮਜ਼ਬੂਤੀ ‘ਤੇ ਕੇਂਦ੍ਰਿਤ ਹੈ। ਉਨ੍ਹਾਂ ਦੀ ਖੋਜ ਅਤੇ ਮਹਾਰਤ ਵਿੱਚ ਨਵੀਆਂ ਡੀਪ ਨੈੱਟਵਰਕ ਆਰਕੀਟੈਕਚਰਾਂ, ਮਾਡਲਾਂ ‘ਤੇ ਡਾਟਾ ਦੇ ਪ੍ਰਭਾਵ ਨੂੰ ਸਮਝਣ ਲਈ ਨਵੋਨਮੇਸ਼ੀ ਤਰੀਕੇ, ਅਤੇ AI ਮਾਡਲ ਦੀ ਮਜ਼ਬੂਤੀ ਦਾ ਮੁਲਾਂਕਣ ਕਰਨ ਲਈ ਸਵੈਚਾਲਿਤ ਵਿਧੀਆਂ ਸ਼ਾਮਲ ਹਨ, ਜੋ ਉਨ੍ਹਾਂ ਨੂੰ ਸਾਡੇ ਗਵਰਨੈਂਸ ਲਈ ਇਕ ਅਮੂਲ ਤਕਨੀਕੀ ਡਾਇਰੈਕਟਰ ਬਣਾਉਂਦੀਆਂ ਹਨ.
Zico ਡਾਇਰੈਕਟਰ Bret Taylor, Adam D’Angelo, Paul Nakasone, Nicole Seligman ਅਤੇ Sam Altman (CEO) ਅਤੇ OpenAI ਦੇ ਤਕਨੀਕੀ ਵਿਸ਼ੇਸ਼ਗਿਆਨਾਂ ਦੇ ਨਾਲ ਬੋਰਡ ਦੀ ਸੇਫਟੀ ਐਂਡ ਸਿਕਿਉਰਿਟੀ ਕਮੇਟੀ ਵਿੱਚ ਵੀ ਸ਼ਾਮਲ ਹੋਣਗੇ। ਇਹ ਕਮੇਟੀ ਸਾਰੇ OpenAI ਪ੍ਰੋਜੈਕਟਾਂ ਲਈ ਮਹੱਤਵਪੂਰਨ ਸੁਰੱਖਿਆ ਅਤੇ ਸਿਕਿਉਰਿਟੀ ਫ਼ੈਸਲਿਆਂ ਬਾਰੇ ਸਿਫ਼ਾਰਸ਼ਾਂ ਕਰਨ ਲਈ ਜ਼ਿੰਮੇਵਾਰ ਹੈ.
ਬੋਰਡ ਵਿੱਚ Zico ਦਾ ਸਵਾਗਤ ਕਰਦੇ ਹੋਏ, ਬੋਰਡ ਦੇ ਚੇਅਰਮੈਨ Bret Taylor ਨੇ ਕਿਹਾ, “Zico AI ਸੁਰੱਖਿਆ ਅਤੇ ਮਜ਼ਬੂਤੀ ਬਾਰੇ ਡੂੰਘੀ ਤਕਨੀਕੀ ਸਮਝ ਅਤੇ ਦ੍ਰਿਸ਼ਟੀਕੋਣ ਲਿਆਉਂਦੇ ਹਨ, ਜੋ ਸਾਨੂੰ ਇਹ ਯਕੀਨੀ ਬਣਾਉਣ ਵਿੱਚ ਮਦਦ ਕਰੇਗਾ ਕਿ ਸਧਾਰਣ ਕ੍ਰਿਤ੍ਰਿਮ ਬੁੱਧੀਮਤਾ ਪੂਰੀ ਮਨੁੱਖਤਾ ਦੇ ਭਲੇ ਲਈ ਹੋਵੇ.”
Zico Kolter ਕਾਰਨੇਗੀ ਮੇਲਨ ਯੂਨੀਵਰਸਿਟੀ ਵਿੱਚ ਕੰਪਿਊਟਰ ਸਾਇੰਸ ਦੇ ਪ੍ਰੋਫੈਸਰ ਅਤੇ ਮਸ਼ੀਨ ਲਰਨਿੰਗ ਡਿਪਾਰਟਮੈਂਟ ਦੇ ਮੁਖੀ ਹਨ, ਜਿੱਥੇ ਉਹ 12 ਸਾਲਾਂ ਤੋਂ ਇੱਕ ਮਹੱਤਵਪੂਰਨ ਹਸਤੀ ਰਹੇ ਹਨ। Zico ਨੇ 2010 ਵਿੱਚ ਸਟੈਨਫੋਰਡ ਯੂਨੀਵਰਸਿਟੀ ਤੋਂ ਕੰਪਿਊਟਰ ਸਾਇੰਸ ਵਿੱਚ ਆਪਣੀ Ph.D. ਪੂਰੀ ਕੀਤੀ, ਜਿਸ ਤੋਂ ਬਾਅਦ 2010 ਤੋਂ 2012 ਤੱਕ MIT ਵਿੱਚ ਪੋਸਟਡਾਕਟੋਰਲ ਫੈਲੋਸ਼ਿਪ ਕੀਤੀ। ਆਪਣੇ ਕਰੀਅਰ ਦੌਰਾਨ, ਉਨ੍ਹਾਂ ਨੇ ਮਸ਼ੀਨ ਲਰਨਿੰਗ ਦੇ ਖੇਤਰ ਵਿੱਚ ਮਹੱਤਵਪੂਰਨ ਯੋਗਦਾਨ ਦਿੱਤੇ ਹਨ ਅਤੇ NeurIPS, ICML, ਅਤੇ AISTATS ਵਰਗੀਆਂ ਮਸ਼ਹੂਰ ਕਾਨਫਰੰਸਾਂ ਵਿੱਚ ਕਈ ਇਨਾਮ-ਜੇਤੂ ਪੇਪਰ ਲਿਖੇ ਹਨ.
Zico ਦੀ ਖੋਜ ਵਿੱਚ ਗਾਰੰਟੀਸ਼ੁਦਾ ਮਜ਼ਬੂਤੀ ਵਾਲੇ ਡੀਪ ਲਰਨਿੰਗ ਮਾਡਲ ਬਣਾਉਣ ਲਈ ਪਹਿਲੀਆਂ ਵਿਧੀਆਂ ਵਿਕਸਿਤ ਕਰਨਾ ਸ਼ਾਮਲ ਹੈ। ਉਨ੍ਹਾਂ ਨੇ ਨਿਊਰਲ ਨੈੱਟਵਰਕ ਲੇਅਰਾਂ ਦੇ ਅੰਦਰ ਕਲਾਸੀਕਲ ਆਪਟੀਮਾਈਜ਼ੇਸ਼ਨ ਦੀ ਵਰਤੋਂ ਕਰਕੇ AI ਮਾਡਲਾਂ ਵਿੱਚ ਕਠੋਰ ਪਾਬੰਦੀਆਂ ਐਂਬੈਡ ਕਰਨ ਦੀਆਂ ਤਕਨੀਕਾਂ ਦੀ ਅਗਵਾਈ ਕੀਤੀ। ਹੋਰ ਹਾਲ ਹੀ ਵਿੱਚ, 2023 ਵਿੱਚ, ਉਨ੍ਹਾਂ ਦੀ ਟੀਮ ਨੇ ਵੱਡੇ ਭਾਸ਼ਾਈ ਮਾਡਲਾਂ (LLMs) ਦੀ ਸੁਰੱਖਿਆ ਦਾ ਆਪਣੇ ਆਪ ਮੁਲਾਂਕਣ ਕਰਨ ਲਈ ਨਵੋਨਮੇਸ਼ੀ ਵਿਧੀਆਂ ਵਿਕਸਿਤ ਕੀਤੀਆਂ, ਜਿਨ੍ਹਾਂ ਨਾਲ ਸਵੈਚਾਲਿਤ ਆਪਟੀਮਾਈਜ਼ੇਸ਼ਨ ਤਕਨੀਕਾਂ ਰਾਹੀਂ ਮੌਜੂਦਾ ਮਾਡਲ ਸੁਰੱਖਿਆ ਪ੍ਰਬੰਧਾਂ ਨੂੰ ਬਾਈਪਾਸ ਕਰਨ ਦੀ ਸੰਭਾਵਨਾ ਦਿਖਾਈ ਗਈ। ਆਪਣੀਆਂ ਅਕਾਦਮਿਕ ਕੋਸ਼ਿਸ਼ਾਂ ਦੇ ਨਾਲ-ਨਾਲ, Zico ਨੇ ਆਪਣੇ ਪੂਰੇ ਕਰੀਅਰ ਦੌਰਾਨ ਉਦਯੋਗ ਵਿੱਚ ਨੇੜੇ ਤੋਂ ਕੰਮ ਕੀਤਾ ਹੈ, ਪਹਿਲਾਂ C3.ai ਵਿੱਚ Chief Data Scientist ਵਜੋਂ, ਅਤੇ ਇਸ ਵੇਲੇ Bosch ਵਿੱਚ Chief Expert ਅਤੇ Gray Swan ਵਿੱਚ Chief Technical Advisor ਵਜੋਂ, ਜੋ AI ਸੁਰੱਖਿਆ ਅਤੇ ਸਿਕਿਉਰਿਟੀ ਵਿੱਚ ਮਾਹਿਰ ਇੱਕ ਸਟਾਰਟਅੱਪ ਹੈ.