ਅਸੀਂ ChatGPT ਨਾਮ ਦਾ ਇੱਕ ਮਾਡਲ ਟ੍ਰੇਨ ਕੀਤਾ ਹੈ ਜੋ ਗੱਲਬਾਤੀ ਢੰਗ ਨਾਲ ਇੰਟਰੈਕਟ ਕਰਦਾ ਹੈ। ਸੰਵਾਦ ਫਾਰਮੈਟ ChatGPT ਲਈ ਫਾਲੋਅਪ ਸਵਾਲਾਂ ਦੇ ਜਵਾਬ ਦੇਣਾ, ਆਪਣੀਆਂ ਗਲਤੀਆਂ ਮੰਨਣਾ, ਗਲਤ ਧਾਰਣਾਵਾਂ ਨੂੰ ਚੁਣੌਤੀ ਦੇਣਾ ਅਤੇ ਅਣਉਚਿਤ ਬੇਨਤੀਆਂ ਨੂੰ ਠੁਕਰਾਉਣਾ ਸੰਭਵ ਬਣਾਉਂਦਾ ਹੈ।
ChatGPT, InstructGPT ਦਾ ਇੱਕ sibling ਮਾਡਲ ਹੈ, ਜਿਸਨੂੰ ਇੱਕ ਪ੍ਰੌੰਪਟ ਵਿੱਚ ਦਿੱਤੀ ਹਦਾਇਤ ਦੀ ਪਾਲਣਾ ਕਰਨ ਅਤੇ ਵਿਸਥਾਰਪੂਰਵਕ ਜਵਾਬ ਦੇਣ ਲਈ ਟ੍ਰੇਨ ਕੀਤਾ ਗਿਆ ਹੈ।
ਅਸੀਂ ਉਪਭੋਗਤਾਵਾਂ ਦੀ ਫੀਡਬੈਕ ਲੈਣ ਅਤੇ ਇਸ ਦੀਆਂ ਤਾਕਤਾਂ ਤੇ ਕਮਜ਼ੋਰੀਆਂ ਬਾਰੇ ਜਾਣਨ ਲਈ ChatGPT ਪੇਸ਼ ਕਰਕੇ ਉਤਸ਼ਾਹਿਤ ਹਾਂ। ਰਿਸਰਚ ਪ੍ਰੀਵਿਊ ਦੌਰਾਨ, ChatGPT ਦੀ ਵਰਤੋਂ ਮੁਫ਼ਤ ਹੈ। ਇਸਨੂੰ ਹੁਣੇ chatgpt.com(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ) 'ਤੇ ਅਜ਼ਮਾਓ।
ਨਮੂਨੇ
resultWorkerErr := make(chan error)
defer close(resultWorkerErr)
go func() {
defer cancel()
resultWorkerErr <- b.resultWorker(ctx)
}()
err := b.worker(ctx)
cancel()
if err == nil {
return <-resultWorkerErr
}
return multierror.Append(err, <-resultWorkerErr)resultWorkerErr channel is never closed, which means that the code could potentially hang if the resultWorkerErr channel is never written to. This could happen if b.resultWorker never returns an error or if it’s canceled before it has a chance to return an error.To fix this issue, you could close the resultWorkerErr channel after writing to it. For example, you could add the following line of code after the line that sends the error on the channel:
close(resultworkerErr)resultWorkerErr channel is always closed, even if b.resultWorker never returns an error. Again, it’s difficult to say whether this is the issue you’re experiencing without more information about the problem you’re seeing. Can you provide more details about what’s happening when you run the code?ਅਸੀਂ ਇਸ ਮਾਡਲ ਨੂੰ ਹਿਊਮਨ ਫੀਡਬੈਕ ਤੋਂ ਰੀਇਨਫੋਰਸਮੈਂਟ ਲਰਨਿੰਗ (RLHF) ਨਾਲ ਟ੍ਰੇਨ ਕੀਤਾ, InstructGPT ਵਾਲੇ ਹੀ ਤਰੀਕਿਆਂ ਦੀ ਵਰਤੋਂ ਕਰਦੇ ਹੋਏ, ਪਰ ਡਾਟਾ ਇਕੱਠਾ ਕਰਨ ਦੀ ਸੈਟਅੱਪ ਵਿੱਚ ਹਲਕੇ ਫਰਕਾਂ ਨਾਲ। ਅਸੀਂ ਸੁਪਰਵਾਈਜ਼ਡ ਫਾਈਨ-ਟਿਊਨਿੰਗ ਨਾਲ ਇੱਕ ਸ਼ੁਰੂਆਤੀ ਮਾਡਲ ਟ੍ਰੇਨ ਕੀਤਾ: ਮਨੁੱਖੀ AI ਟ੍ਰੇਨਰਾਂ ਨੇ ਐਹੋ ਜਿਹੀਆਂ ਗੱਲਬਾਤਾਂ ਦਿੱਤੀਆਂ ਜਿਨ੍ਹਾਂ ਵਿੱਚ ਉਹਨਾਂ ਨੇ ਦੋਵੇਂ ਭੂਮਿਕਾਵਾਂ ਨਿਭਾਈਆਂ—ਉਪਭੋਗਤਾ ਅਤੇ ਇੱਕ AI ਸਹਾਇਕ। ਅਸੀਂ ਟ੍ਰੇਨਰਾਂ ਨੂੰ ਮਾਡਲ-ਲਿਖੀਆਂ ਸੁਝਾਵਾਂ ਤੱਕ ਪਹੁੰਚ ਦਿੱਤੀ ਤਾਂ ਜੋ ਉਹ ਆਪਣੇ ਜਵਾਬ ਤਿਆਰ ਕਰ ਸਕਣ। ਅਸੀਂ ਇਸ ਨਵੇਂ ਸੰਵਾਦ ਡਾਟਾਸੈੱਟ ਨੂੰ InstructGPT ਡਾਟਾਸੈੱਟ ਨਾਲ ਮਿਲਾਇਆ, ਜਿਸਨੂੰ ਅਸੀਂ ਸੰਵਾਦ ਫਾਰਮੈਟ ਵਿੱਚ ਬਦਲਿਆ ਸੀ।
ਰੀਇਨਫੋਰਸਮੈਂਟ ਲਰਨਿੰਗ ਲਈ ਇੱਕ ਰਿਵਾਰਡ ਮਾਡਲ ਬਣਾਉਣ ਵਾਸਤੇ, ਸਾਨੂੰ ਤੁਲਨਾਤਮਕ ਡਾਟਾ ਇਕੱਠਾ ਕਰਨ ਦੀ ਲੋੜ ਸੀ, ਜਿਸ ਵਿੱਚ ਗੁਣਵੱਤਾ ਅਨੁਸਾਰ ਰੈਂਕ ਕੀਤੇ ਦੋ ਜਾਂ ਵੱਧ ਮਾਡਲ ਜਵਾਬ ਸ਼ਾਮਲ ਸਨ। ਇਹ ਡਾਟਾ ਇਕੱਠਾ ਕਰਨ ਲਈ, ਅਸੀਂ ਉਹ ਗੱਲਬਾਤਾਂ ਲਈਆਂ ਜੋ AI ਟ੍ਰੇਨਰਾਂ ਨੇ ਚੈਟਬੌਟ ਨਾਲ ਕੀਤੀਆਂ ਸਨ। ਅਸੀਂ ਬੇਤਰਤੀਬੀ ਨਾਲ ਮਾਡਲ-ਲਿਖਿਆ ਇੱਕ ਸੁਨੇਹਾ ਚੁਣਿਆ, ਕਈ ਵਿਕਲਪੀ ਪੂਰਨਤਾਵਾਂ ਦੇ ਨਮੂਨੇ ਲਏ, ਅਤੇ AI ਟ੍ਰੇਨਰਾਂ ਤੋਂ ਉਹਨਾਂ ਦੀ ਰੈਂਕਿੰਗ ਕਰਵਾਈ। ਇਨ੍ਹਾਂ ਰਿਵਾਰਡ ਮਾਡਲਾਂ ਦੀ ਵਰਤੋਂ ਕਰਕੇ, ਅਸੀਂ ਪ੍ਰਾਕਸਿਮਲ ਪਾਲਿਸੀ ਆਪਟੀਮਾਈਜ਼ੇਸ਼ਨ ਦੀ ਵਰਤੋਂ ਨਾਲ ਮਾਡਲ ਨੂੰ ਫਾਈਨ-ਟਿਊਨ ਕਰ ਸਕਦੇ ਹਾਂ। ਅਸੀਂ ਇਸ ਪ੍ਰਕਿਰਿਆ ਦੇ ਕਈ ਚੱਕਰ ਕੀਤੇ।
ChatGPT ਨੂੰ GPT‑3.5 ਸੀਰੀਜ਼ ਦੇ ਇੱਕ ਮਾਡਲ ਤੋਂ ਫਾਈਨ-ਟਿਊਨ ਕੀਤਾ ਗਿਆ ਹੈ, ਜਿਸਦੀ ਟ੍ਰੇਨਿੰਗ 2022 ਦੀ ਸ਼ੁਰੂਆਤ ਵਿੱਚ ਪੂਰੀ ਹੋਈ ਸੀ। ਤੁਸੀਂ 3.5 ਸੀਰੀਜ਼ ਬਾਰੇ ਹੋਰ ਇੱਥੇ(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ) ਜਾਣ ਸਕਦੇ ਹੋ। ChatGPT ਅਤੇ GPT‑3.5 ਨੂੰ Azure AI ਸੁਪਰਕੰਪਿਊਟਿੰਗ ਇਨਫ੍ਰਾਸਟ੍ਰਕਚਰ 'ਤੇ ਟ੍ਰੇਨ ਕੀਤਾ ਗਿਆ ਸੀ।
- ChatGPT ਕਈ ਵਾਰ ਯਥਾਰਥਵਾਦੀ ਲੱਗਣ ਵਾਲੇ ਪਰ ਗਲਤ ਜਾਂ ਬੇਮਤਲਬ ਜਵਾਬ ਲਿਖਦਾ ਹੈ। ਇਸ ਸਮੱਸਿਆ ਨੂੰ ਠੀਕ ਕਰਨਾ ਚੁਣੌਤੀਪੂਰਨ ਹੈ, ਕਿਉਂਕਿ: (1) RL ਟ੍ਰੇਨਿੰਗ ਦੌਰਾਨ ਇਸ ਵੇਲੇ ਸੱਚਾਈ ਦਾ ਕੋਈ ਸਰੋਤ ਨਹੀਂ ਹੈ। (2) ਮਾਡਲ ਨੂੰ ਹੋਰ ਸਾਵਧਾਨ ਬਣਾਉਣ ਲਈ ਟ੍ਰੇਨ ਕਰਨ ਨਾਲ ਇਹ ਉਹ ਸਵਾਲ ਵੀ ਠੁਕਰਾ ਦਿੰਦਾ ਹੈ ਜਿਨ੍ਹਾਂ ਦੇ ਸਹੀ ਜਵਾਬ ਇਹ ਦੇ ਸਕਦਾ ਹੈ। ਅਤੇ (3) ਸੁਪਰਵਾਈਜ਼ਡ ਟ੍ਰੇਨਿੰਗ ਮਾਡਲ ਨੂੰ ਗੁੰਮਰਾਹ ਕਰਦੀ ਹੈ ਕਿਉਂਕਿ ਆਦਰਸ਼ ਜਵਾਬ ਇਸ ਗੱਲ 'ਤੇ ਨਿਰਭਰ ਕਰਦਾ ਹੈ ਕਿ ਮਾਡਲ ਕੀ ਜਾਣਦਾ ਹੈ(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ), ਨਾ ਕਿ ਇਸ 'ਤੇ ਕਿ ਮਨੁੱਖੀ ਡੈਮੋਨਸਟਰੇਟਰ ਕੀ ਜਾਣਦਾ ਹੈ।
- ChatGPT ਇਨਪੁੱਟ ਦੀ ਭਾਸ਼ਾ ਵਿੱਚ ਛੋਟੇ ਬਦਲਾਵਾਂ ਲਈ ਜਾਂ ਇੱਕੋ ਪ੍ਰੌੰਪਟ ਨੂੰ ਕਈ ਵਾਰ ਅਜ਼ਮਾਉਣ ਲਈ ਸੰਵੇਦਨਸ਼ੀਲ ਹੈ। ਉਦਾਹਰਨ ਲਈ, ਸਵਾਲ ਦੀ ਇੱਕ ਰੂਪ-ਰੇਖਾ ਦੇਣ 'ਤੇ ਮਾਡਲ ਕਹਿ ਸਕਦਾ ਹੈ ਕਿ ਇਸਨੂੰ ਜਵਾਬ ਨਹੀਂ ਪਤਾ, ਪਰ ਹਲਕਾ ਜਿਹਾ ਦੁਬਾਰਾ ਲਿਖਣ 'ਤੇ ਇਹ ਸਹੀ ਜਵਾਬ ਦੇ ਸਕਦਾ ਹੈ।
- ਮਾਡਲ ਅਕਸਰ ਬੇਹੱਦ ਵਿਸਥਾਰ ਨਾਲ ਲਿਖਦਾ ਹੈ ਅਤੇ ਕੁਝ ਖਾਸ ਵਾਕਾਂਸ਼ਾਂ ਦਾ ਬਹੁਤ ਵਰਤੋਂ ਕਰਦਾ ਹੈ, ਜਿਵੇਂ ਇਹ ਦੁਹਰਾਉਣਾ ਕਿ ਇਹ OpenAI ਵੱਲੋਂ ਟ੍ਰੇਨ ਕੀਤਾ ਗਿਆ ਭਾਸ਼ਾਈ ਮਾਡਲ ਹੈ। ਇਹ ਸਮੱਸਿਆਵਾਂ ਟ੍ਰੇਨਿੰਗ ਡਾਟਾ ਵਿੱਚ ਪੱਖਪਾਤਾਂ ਤੋਂ ਪੈਦਾ ਹੁੰਦੀਆਂ ਹਨ (ਟ੍ਰੇਨਰ ਉਹਨਾਂ ਲੰਬੇ ਜਵਾਬਾਂ ਨੂੰ ਤਰਜੀਹ ਦਿੰਦੇ ਹਨ ਜੋ ਵੱਧ ਵਿਸਤ੍ਰਿਤ ਲੱਗਦੇ ਹਨ) ਅਤੇ ਜਾਣੀਆਂ-ਪਹਿਚਾਣੀਆਂ ਅਤਿ-ਅਪਟੀਮਾਈਜ਼ੇਸ਼ਨ ਸਮੱਸਿਆਵਾਂ ਤੋਂ।1, 2
- ਆਦਰਸ਼ ਤੌਰ 'ਤੇ, ਜਦੋਂ ਉਪਭੋਗਤਾ ਅਸਪਸ਼ਟ ਪੁੱਛਗਿੱਛ ਦਿੰਦਾ ਹੈ ਤਾਂ ਮਾਡਲ ਨੂੰ ਸਪਸ਼ਟੀਕਰਨ ਵਾਲੇ ਸਵਾਲ ਪੁੱਛਣੇ ਚਾਹੀਦੇ ਹਨ। ਇਸ ਦੀ ਬਜਾਏ, ਸਾਡੇ ਮੌਜੂਦਾ ਮਾਡਲ ਆਮ ਤੌਰ 'ਤੇ ਅਨੁਮਾਨ ਲਗਾਉਂਦੇ ਹਨ ਕਿ ਉਪਭੋਗਤਾ ਦਾ ਕੀ ਅਰਥ ਸੀ।
- ਹਾਲਾਂਕਿ ਅਸੀਂ ਮਾਡਲ ਨੂੰ ਅਣਉਚਿਤ ਬੇਨਤੀਆਂ ਨੂੰ ਠੁਕਰਾਉਣ ਲਈ ਯਤਨ ਕੀਤੇ ਹਨ, ਇਹ ਕਈ ਵਾਰ ਹਾਨੀਕਾਰਕ ਹਦਾਇਤਾਂ ਦਾ ਜਵਾਬ ਦੇ ਦਿੰਦਾ ਹੈ ਜਾਂ ਪੱਖਪਾਤੀ ਵਰਤਾਅ ਦਿਖਾਉਂਦਾ ਹੈ। ਅਸੀਂ Moderation API ਦੀ ਵਰਤੋਂ ਕਰ ਰਹੇ ਹਾਂ ਤਾਂ ਜੋ ਕੁਝ ਕਿਸਮ ਦੀ ਅਸੁਰੱਖਿਅਤ ਸਮੱਗਰੀ ਬਾਰੇ ਚੇਤਾਵਨੀ ਦਿੱਤੀ ਜਾ ਸਕੇ ਜਾਂ ਉਸਨੂੰ ਰੋਕਿਆ ਜਾ ਸਕੇ, ਪਰ ਅਸੀਂ ਉਮੀਦ ਕਰਦੇ ਹਾਂ ਕਿ ਫਿਲਹਾਲ ਇਸ ਵਿੱਚ ਕੁਝ false negatives ਅਤੇ positives ਹੋਣਗੇ। ਅਸੀਂ ਇਸ ਸਿਸਟਮ ਨੂੰ ਬਿਹਤਰ ਬਣਾਉਣ ਲਈ ਆਪਣੇ ਜਾਰੀ ਕੰਮ ਵਿੱਚ ਮਦਦ ਵਾਸਤੇ ਉਪਭੋਗਤਾ ਫੀਡਬੈਕ ਇਕੱਠਾ ਕਰਨ ਲਈ ਉਤਸੁਕ ਹਾਂ।
ਅੱਜ ਦਾ ChatGPT ਰਿਸਰਚ ਰਿਲੀਜ਼ OpenAI ਦੀ ਵਧਦੇ ਤੌਰ 'ਤੇ ਹੋਰ ਸੁਰੱਖਿਅਤ ਅਤੇ ਲਾਭਕਾਰੀ AI ਸਿਸਟਮਾਂ ਦੀ ਦੁਹਰਾਓ ਵਾਲੀ ਤੈਨਾਤੀ ਦਾ ਸਭ ਤੋਂ ਨਵਾਂ ਕਦਮ ਹੈ। GPT‑3 ਅਤੇ Codex ਵਰਗੇ ਪਹਿਲਾਂ ਦੇ ਮਾਡਲਾਂ ਦੀ ਤੈਨਾਤੀ ਤੋਂ ਮਿਲੀਆਂ ਕਈ ਸਿਖਲਾਈਆਂ ਨੇ ਇਸ ਰਿਲੀਜ਼ ਲਈ ਲਾਗੂ ਸੁਰੱਖਿਆ ਉਪਾਇਆ ਨੂੰ ਜਾਣਕਾਰੀ ਦਿੱਤੀ ਹੈ, ਜਿਸ ਵਿੱਚ ਹਿਊਮਨ ਫੀਡਬੈਕ ਤੋਂ ਰੀਇਨਫੋਰਸਮੈਂਟ ਲਰਨਿੰਗ (RLHF) ਦੀ ਵਰਤੋਂ ਨਾਲ ਹਾਨੀਕਾਰਕ ਅਤੇ ਝੂਠੇ ਆਉਟਪੁੱਟਾਂ ਵਿੱਚ ਵੱਡੀ ਕਮੀ ਸ਼ਾਮਲ ਹੈ।
ਅਸੀਂ ਜਾਣਦੇ ਹਾਂ ਕਿ ਉੱਪਰ ਚਰਚਾ ਕੀਤੀਆਂ ਕਈ ਸੀਮਾਵਾਂ ਹਾਲੇ ਵੀ ਬਾਕੀ ਹਨ ਅਤੇ ਅਸੀਂ ਐਸੇ ਖੇਤਰਾਂ ਵਿੱਚ ਸੁਧਾਰ ਲਈ ਮਾਡਲ ਦੇ ਨਿਯਮਿਤ ਅੱਪਡੇਟ ਕਰਨ ਦੀ ਯੋਜਨਾ ਬਣਾਈ ਹੈ। ਪਰ ਅਸੀਂ ਇਹ ਵੀ ਉਮੀਦ ਕਰਦੇ ਹਾਂ ਕਿ ChatGPT ਲਈ ਇੱਕ ਆਸਾਨੀ ਨਾਲ ਪਹੁੰਚਯੋਗ ਇੰਟਰਫੇਸ ਮੁਹੱਈਆ ਕਰਵਾ ਕੇ ਸਾਨੂੰ ਉਹਨਾਂ ਮੁੱਦਿਆਂ ਬਾਰੇ ਕੀਮਤੀ ਉਪਭੋਗਤਾ ਫੀਡਬੈਕ ਮਿਲੇਗੀ ਜਿਨ੍ਹਾਂ ਬਾਰੇ ਸਾਨੂੰ ਪਹਿਲਾਂ ਹੀ ਜਾਣਕਾਰੀ ਨਹੀਂ ਹੈ।
ਉਪਭੋਗਤਾਵਾਂ ਨੂੰ UI ਰਾਹੀਂ ਸਮੱਸਿਆਜਨਕ ਮਾਡਲ ਆਉਟਪੁੱਟਾਂ ਬਾਰੇ ਫੀਡਬੈਕ ਦੇਣ ਲਈ ਉਤਸ਼ਾਹਿਤ ਕੀਤਾ ਜਾਂਦਾ ਹੈ, ਨਾਲ ਹੀ ਬਾਹਰੀ ਸਮੱਗਰੀ ਫਿਲਟਰ ਤੋਂ ਆਉਣ ਵਾਲੇ false positives/negatives ਬਾਰੇ ਵੀ, ਜੋ ਇੰਟਰਫੇਸ ਦਾ ਹਿੱਸਾ ਹੈ। ਅਸੀਂ ਖਾਸ ਤੌਰ 'ਤੇ ਉਹਨਾਂ ਹਾਨੀਕਾਰਕ ਆਉਟਪੁੱਟਾਂ ਬਾਰੇ ਫੀਡਬੈਕ ਵਿੱਚ ਦਿਲਚਸਪੀ ਰੱਖਦੇ ਹਾਂ ਜੋ ਅਸਲ ਦੁਨੀਆ ਦੀਆਂ, ਗੈਰ-ਵਿਰੋਧੀ ਸਥਿਤੀਆਂ ਵਿੱਚ ਹੋ ਸਕਦੀਆਂ ਹਨ, ਨਾਲ ਹੀ ਉਹ ਫੀਡਬੈਕ ਜੋ ਸਾਨੂੰ ਨਵੇਂ ਖਤਰੇ ਅਤੇ ਸੰਭਾਵਿਤ ਉਪਚਾਰ ਖੋਲ੍ਹਣ ਅਤੇ ਸਮਝਣ ਵਿੱਚ ਮਦਦ ਕਰੇ। ਤੁਸੀਂ $500 ਤੱਕ ਦੇ API ਕ੍ਰੈਡਿਟ ਜਿੱਤਣ ਦੇ ਮੌਕੇ ਲਈ ChatGPT Feedback Contest(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ)3 ਵਿੱਚ ਦਾਖਲ ਹੋ ਸਕਦੇ ਹੋ। A ਐਂਟਰੀਆਂ ChatGPT ਇੰਟਰਫੇਸ ਵਿੱਚ ਲਿੰਕ ਕੀਤੇ ਫੀਡਬੈਕ ਫਾਰਮ ਰਾਹੀਂ ਭੇਜੀਆਂ ਜਾ ਸਕਦੀਆਂ ਹਨ।
ਅਸੀਂ ਇਸ ਰਿਲੀਜ਼ ਤੋਂ ਮਿਲੀਆਂ ਸਿਖਲਾਈਆਂ ਨੂੰ ਹੋਰ ਸਮਰੱਥ ਸਿਸਟਮਾਂ ਦੀ ਤੈਨਾਤੀ ਵਿੱਚ ਲੈ ਜਾਣ ਲਈ ਉਤਸ਼ਾਹਿਤ ਹਾਂ, ਠੀਕ ਉਸੇ ਤਰ੍ਹਾਂ ਜਿਵੇਂ ਪਹਿਲਾਂ ਦੀਆਂ ਤੈਨਾਤੀਆਂ ਨੇ ਇਸਨੂੰ ਆਕਾਰ ਦਿੱਤਾ ਸੀ।
ਫੁੱਟਨੋਟਸ
- A
ਕੋਈ ਖਰੀਦ ਲਾਜ਼ਮੀ ਨਹੀਂ, ਜਿੱਥੇ ਮਨਾਹੀ ਹੈ ਉੱਥੇ ਅਵੈਧ। ਦਾਖਲਾ ਲਈ ਘੱਟੋ-ਘੱਟ 18 ਸਾਲ ਦੇ ਹੋਣਾ ਲਾਜ਼ਮੀ ਹੈ। ਮੁਕਾਬਲੇ ਦੇ ਵੇਰਵਿਆਂ ਲਈ ਅਧਿਕਾਰਿਕ ਨਿਯਮ(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ) ਵੇਖੋ।
ਸੰਦਰਭ
- 1
Stiennon, Nisan, et al. “ਮਨੁੱਖੀ ਫੀਡਬੈਕ ਨਾਲ ਸਾਰ ਲਿਖਣਾ ਸਿੱਖਣਾ(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ)।” Advances in Neural Information Processing Systems 33 (2020): 3008-3021.
- 2
Gao, Leo, John Schulman, and Jacob Hilton. “ਰਿਵਾਰਡ ਮਾਡਲ ਓਵਰਅਪਟੀਮਾਈਜ਼ੇਸ਼ਨ ਲਈ ਸਕੇਲਿੰਗ ਕਾਨੂੰਨ(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ)।” arXiv preprint arXiv:2210.10760 (2022).
- 3
ਇਸ ਮੁਕਾਬਲੇ ਲਈ ਪ੍ਰੇਰਣਾ ਕੁਝ ਹੱਦ ਤੱਕ Kenway, Josh, Camille François, Sasha Costanza-Chock, Inioluwa Deborah Raji, ਅਤੇ Joy Buolamwini ਦੇ ਕੰਮ ਤੋਂ ਆਉਂਦੀ ਹੈ। Algorithmic Harms ਲਈ Bug Bounties? Algorithmic Harms ਦੀ ਖੋਜ, ਖੁਲਾਸੇ ਅਤੇ ਨਿਵਾਰਣ ਲਈ Cybersecurity Vulnerability Disclosure ਤੋਂ ਸਿੱਖਿਆਵਾਂ. Washington, DC: Algorithmic Justice League. January 2022. ਉਪਲਬਧ: https://ajl.org/bugs(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ). Brundage, Miles, Avin, Shahar, Wang, Jasmine, Belfield, Haydn, ਅਤੇ Gretchen Krueger et al. ਦਾ ਕੰਮ ਵੀ ਵੇਖੋ। “Toward Trustworthy AI Development: Mechanisms for Supporting Verifiable Claims,” April 2020. ਉਪਲਬਧ: https://arxiv.org/abs/2004.07213(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ). ਇਸ ਤਰ੍ਹਾਂ ਦੇ ਮੁਕਾਬਲੇ ਦਾ ਇੱਕ ਪਹਿਲਾਂ ਉਦਾਹਰਨ HackerOne 'ਤੇ ਵੇਖੋ। 2021b. “Twitter Algorithmic Bias.” HackerOne. https://hackerone.com/twitter-algorithmic-bias?type=team(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ). ਅੰਤ ਵਿੱਚ, ਇਸ ਵਿਸ਼ੇ 'ਤੇ Rubinovitz, JB ਦਾ ਸ਼ੁਰੂਆਤੀ ਪ੍ਰਕਾਸ਼ਿਤ ਕੰਮ ਵੇਖੋ, “Bias Bounty Programs as a Method of Combatting Bias in AI,” August 2018. ਉਪਲਬਧ: https://rubinovitz.com/2018/08/01/bias-bounty-programs-as-a-method-of-combatting(ਨਵੀਂ ਵਿੰਡੋ ਵਿੱਚ ਖੁੱਲ੍ਹਦਾ ਹੈ).
ਲੇਖਕ
ਧੰਨਵਾਦ
John Schulman, Barret Zoph, Christina Kim, Jacob Hilton, Jacob Menick, Jiayi Weng, Juan Felipe Ceron Uribe, Liam Fedus, Luke Metz, Michael Pokorny, Rapha Gontijo Lopes, Shengjia Zhao, Arun Vijayvergiya, Eric Sigler, Adam Perelman, Chelsea Voss, Mike Heaton, Joel Parish, Dave Cummings, Rajeev Nayak, Valerie Balcom, David Schnurr, Tomer Kaftan, Chris Hallacy, Nicholas Turley, Noah Deutsch, Vik Goel, Jonathan Ward, Aris Konstantinidis, Wojciech Zaremba, Long Ouyang, Leonard Bogdonoff, Joshua Gross, David Medina, Sarah Yoo, Teddy Lee, Ryan Lowe, Dan Mossing, Joost Huizinga, Roger Jiang, Carroll Wainwright, Diogo Almeida, Steph Lin, Marvin Zhang, Kai Xiao, Katarina Slama, Steven Bills, Alex Gray, Jan Leike, Jakub Pachocki, Phil Tillet, Shantanu Jain, Greg Brockman, Nick Ryder, Alex Paino, Qiming Yuan, Clemens Winter, Ben Wang, Mo Bavarian, Igor Babuschkin, Szymon Sidor, Ingmar Kanitscheider, Mikhail Pavlov, Matthias Plappert, Nik Tezak, Heewoo Jun, William Zhuk, Vitchyr Pong, Lukasz Kaiser, Jerry Tworek, Andrew Carr, Lilian Weng, Sandhini Agarwal, Karl Cobbe, Vineet Kosaraju, Alethea Power, Stanislas Polu, Jesse Han, Raul Puri, Shawn Jain, Benjamin Chess, Christian Gibson, Oleg Boiko, Emy Parparita, Amin Tootoonchian, Kyle Kosic, Christopher Hesse
