DALL·E 2 ਵਿੱਚ ਪੱਖਪਾਤ ਘਟਾਉਣਾ ਅਤੇ ਸੁਰੱਖਿਆ ਸੁਧਾਰਣਾ

ਅੱਜ ਅਸੀਂ ਇੱਕ ਨਵੀਂ ਤਕਨੀਕ ਲਾਗੂ ਕਰ ਰਹੇ ਹਾਂ ਤਾਂ ਜੋ DALL·E ਲੋਕਾਂ ਦੀਆਂ ਅਜਿਹੀਆਂ ਤਸਵੀਰਾਂ ਬਣਾਏ ਜੋ ਦੁਨੀਆ ਦੀ ਆਬਾਦੀ ਦੀ ਵਿਭਿੰਨਤਾ ਨੂੰ ਹੋਰ ਸਹੀ ਢੰਗ ਨਾਲ ਦਰਸਾਉਣ. ਇਹ ਤਕਨੀਕ ਸਿਸਟਮ ਪੱਧਰ 'ਤੇ ਲਾਗੂ ਹੁੰਦੀ ਹੈ ਜਦੋਂ DALL·E ਨੂੰ ਕਿਸੇ ਅਜਿਹੇ ਵਿਅਕਤੀ ਦਾ ਵਰਣਨ ਕਰਨ ਵਾਲਾ ਪ੍ਰੌੰਪਟ ਦਿੱਤਾ ਜਾਂਦਾ ਹੈ ਜਿਸ ਵਿੱਚ ਨਸਲ ਜਾਂ ਲਿੰਗ ਨਿਰਧਾਰਤ ਨਾ ਹੋਵੇ, ਜਿਵੇਂ “ਫਾਇਰਫਾਇਟਰ.”

ਸਾਡੇ ਅੰਦਰੂਨੀ ਮੁਲਾਂਕਣ ਦੇ ਆਧਾਰ 'ਤੇ, ਤਕਨੀਕ ਲਾਗੂ ਹੋਣ ਤੋਂ ਬਾਅਦ ਵਰਤੋਂਕਾਰਾਂ ਵੱਲੋਂ ਇਹ ਕਹਿਣ ਦੀ ਸੰਭਾਵਨਾ 12 ਗੁਣਾ ਵੱਧ ਸੀ ਕਿ DALL·E ਦੀਆਂ ਤਸਵੀਰਾਂ ਵਿੱਚ ਵੱਖ-ਵੱਖ ਪਿਛੋਕੜਾਂ ਵਾਲੇ ਲੋਕ ਸ਼ਾਮਲ ਸਨ. ਅਸੀਂ ਹੋਰ ਡੇਟਾ ਅਤੇ ਫੀਡਬੈਕ ਇਕੱਠਾ ਕਰਨ ਦੇ ਨਾਲ ਸਮੇਂ ਦੇ ਨਾਲ ਇਸ ਤਕਨੀਕ ਨੂੰ ਹੋਰ ਸੁਧਾਰਣ ਦੀ ਯੋਜਨਾ ਬਣਾਈ ਹੈ.

ਅਪ੍ਰੈਲ ਵਿੱਚ, ਅਸੀਂ ਸੀਮਿਤ ਗਿਣਤੀ ਦੇ ਲੋਕਾਂ ਲਈ DALL·E 2 ਖੋਜ ਦਾ ਪ੍ਰੀਵਿਊ ਸ਼ੁਰੂ ਕੀਤਾ ਸੀ, ਜਿਸ ਨਾਲ ਸਾਨੂੰ ਸਿਸਟਮ ਦੀਆਂ ਸਮਰੱਥਾਵਾਂ ਅਤੇ ਸੀਮਾਵਾਂ ਨੂੰ ਹੋਰ ਚੰਗੀ ਤਰ੍ਹਾਂ ਸਮਝਣ ਅਤੇ ਆਪਣੇ ਸੁਰੱਖਿਆ ਸਿਸਟਮਾਂ ਨੂੰ ਸੁਧਾਰਣ ਵਿੱਚ ਮਦਦ ਮਿਲੀ.

ਇਸ ਪ੍ਰੀਵਿਊ ਚਰਨ ਦੌਰਾਨ, ਸ਼ੁਰੂਆਤੀ ਵਰਤੋਂਕਾਰਾਂ ਨੇ ਸੰਵੇਦਨਸ਼ੀਲ ਅਤੇ ਪੱਖਪਾਤੀ ਚਿੱਤਰਾਂ ਦੀ ਨਿਸ਼ਾਨਦੇਹੀ ਕੀਤੀ, ਜਿਸ ਨਾਲ ਇਸ ਨਵੇਂ ਨਿਵਾਰਣ ਬਾਰੇ ਜਾਣਕਾਰੀ ਇਕੱਠੀ ਕਰਨ ਅਤੇ ਇਸ ਦਾ ਮੁਲਾਂਕਣ ਕਰਨ ਵਿੱਚ ਮਦਦ ਮਿਲੀ.

ਅਸੀਂ ਇਹ ਖੋਜ ਜਾਰੀ ਰੱਖ ਰਹੇ ਹਾਂ ਕਿ DALL·E ਵਰਗੇ AI ਸਿਸਟਮ ਆਪਣੇ ਟ੍ਰੇਨਿੰਗ ਡੇਟਾ ਵਿੱਚ ਮੌਜੂਦ ਪੱਖਪਾਤਾਂ ਨੂੰ ਕਿਵੇਂ ਦਰਸਾ ਸਕਦੇ ਹਨ ਅਤੇ ਅਸੀਂ ਉਨ੍ਹਾਂ ਨੂੰ ਹੱਲ ਕਰਨ ਲਈ ਕਿਹੜੇ ਵੱਖ-ਵੱਖ ਤਰੀਕੇ ਅਪਣਾ ਸਕਦੇ ਹਾਂ.

ਖੋਜ ਪ੍ਰੀਵਿਊ ਦੌਰਾਨ ਅਸੀਂ ਆਪਣੇ ਸੁਰੱਖਿਆ ਸਿਸਟਮਾਂ ਨੂੰ ਬਿਹਤਰ ਬਣਾਉਣ ਲਈ ਹੋਰ ਕਦਮ ਵੀ ਚੁੱਕੇ ਹਨ, ਜਿਨ੍ਹਾਂ ਵਿੱਚ ਸ਼ਾਮਲ ਹਨ:

• ਵਾਸਤਵਿਕ ਚਿਹਰਿਆਂ ਵਾਲੀਆਂ ਤਸਵੀਰ ਅਪਲੋਡਾਂ ਅਤੇ ਮਸ਼ਹੂਰ ਹਸਤੀਆਂ ਅਤੇ ਪ੍ਰਮੁੱਖ ਰਾਜਨੀਤਿਕ ਸ਼ਖਸੀਅਤਾਂ ਸਮੇਤ ਜਨਤਕ ਸ਼ਖਸੀਅਤਾਂ ਦੀ ਸ਼ਕਲ-ਸੂਰਤ ਬਣਾਉਣ ਦੇ ਯਤਨਾਂ ਨੂੰ ਰੱਦ ਕਰਕੇ, DALL·E ਦੇ ਭਰਮਕ ਸਮੱਗਰੀ ਬਣਾਉਣ ਲਈ ਦੁਰਵਰਤੋਂ ਦੇ ਖਤਰੇ ਨੂੰ ਘਟਾਉਣਾ.
• ਆਪਣੇ ਸਮੱਗਰੀ ਫਿਲਟਰਾਂ ਨੂੰ ਹੋਰ ਸਹੀ ਬਣਾਉਣਾ ਤਾਂ ਜੋ ਉਹ ਸਾਡੇ ਸਮੱਗਰੀ ਨੀਤੀ⁠(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ) ਦੀ ਉਲੰਘਣਾ ਕਰਨ ਵਾਲੇ ਪ੍ਰੌੰਪਟਾਂ ਅਤੇ ਤਸਵੀਰ ਅਪਲੋਡਾਂ ਨੂੰ ਰੋਕਣ ਵਿੱਚ ਹੋਰ ਪ੍ਰਭਾਵਸ਼ਾਲੀ ਹੋਣ, ਅਤੇ ਨਾਲ ਹੀ ਰਚਨਾਤਮਕ ਅਭਿਵਿਅਕਤੀ ਦੀ ਇਜਾਜ਼ਤ ਵੀ ਦੇਣ.
• ਦੁਰਵਰਤੋਂ ਤੋਂ ਬਚਾਅ ਲਈ ਸਵੈਚਾਲਿਤ ਅਤੇ ਮਾਨਵੀ ਨਿਗਰਾਨੀ ਸਿਸਟਮਾਂ ਨੂੰ ਹੋਰ ਸੁਧਾਰਣਾ.

ਇਨ੍ਹਾਂ ਸੁਧਾਰਾਂ ਨੇ ਸਾਨੂੰ ਹੋਰ ਵਰਤੋਂਕਾਰਾਂ ਨੂੰ DALL·E ਦਾ ਅਨੁਭਵ ਕਰਨ ਲਈ ਸੱਦਾ ਦੇਣ ਦੀ ਸਮਰੱਥਾ ਬਾਰੇ ਵਿਸ਼ਵਾਸ ਦਿੱਤਾ ਹੈ.

ਪਹੁੰਚ ਦਾ ਵਿਸਤਾਰ ਕਰਨਾ ਸਾਡੇ AI ਸਿਸਟਮਾਂ ਨੂੰ ਜ਼ਿੰਮੇਵਾਰੀ ਨਾਲ ਤੈਨਾਤ ਕਰਨ⁠ ਦਾ ਇੱਕ ਮਹੱਤਵਪੂਰਣ ਹਿੱਸਾ ਹੈ, ਕਿਉਂਕਿ ਇਸ ਨਾਲ ਸਾਨੂੰ ਅਸਲ ਦੁਨੀਆ ਵਿੱਚ ਵਰਤੋਂ ਬਾਰੇ ਹੋਰ ਸਿੱਖਣ ਅਤੇ ਆਪਣੇ ਸੁਰੱਖਿਆ ਸਿਸਟਮਾਂ 'ਤੇ ਲਗਾਤਾਰ ਸੁਧਾਰ ਕਰਨ ਦਾ ਮੌਕਾ ਮਿਲਦਾ ਹੈ.