ChatGPT ಅನ್ನು ಪರಿಚಯಿಸಲಾಗುತ್ತಿದೆ
ಸಂಭಾಷಣಾ ರೀತಿಯಲ್ಲಿ ಸಂವಹನ ನಡೆಸುವ ChatGPT ಎಂಬ ಮಾಡೆಲ್ ಅನ್ನು ನಾವು ಟ್ರೈನ್ ಮಾಡಿದ್ದೇವೆ. ಸಂವಾದ ಸ್ವರೂಪವು ChatGPT ಗೆ ಫಾಲೋ-ಅಪ್ ಪ್ರಶ್ನೆಗಳಿಗೆ ಉತ್ತರಿಸಲು, ಅದರ ತಪ್ಪುಗಳನ್ನು ಒಪ್ಪಿಕೊಳ್ಳಲು, ತಪ್ಪಾದ ಆವರಣಗಳನ್ನು ಪ್ರಶ್ನಿಸಲು ಮತ್ತು ಅನುಚಿತ ವಿನಂತಿಗಳನ್ನು ತಿರಸ್ಕರಿಸಲು ಸಾಧ್ಯವಾಗಿಸುತ್ತದೆ.
ChatGPT InstructGPT ಗೆ ಸಹೋದರ ಮಾಡೆಲ್ ಆಗಿದ್ದು, ಇದು ಪ್ರಾಂಪ್ಟ್ನಲ್ಲಿ ಸೂಚನೆಯನ್ನು ಅನುಸರಿಸಲು ಮತ್ತು ವಿವರವಾದ ಪ್ರತಿಕ್ರಿಯೆಯನ್ನು ಒದಗಿಸಲು ಟ್ರೈನಿಂಗ್ ಪಡೆದಿದೆ.
ಬಳಕೆದಾರರ ಪ್ರತಿಕ್ರಿಯೆಯನ್ನು ಪಡೆಯಲು ಮತ್ತು ಅದರ ಸಾಮರ್ಥ್ಯ ಮತ್ತು ದೌರ್ಬಲ್ಯಗಳ ಬಗ್ಗೆ ತಿಳಿದುಕೊಳ್ಳಲು ChatGPT ಅನ್ನು ಪರಿಚಯಿಸಲು ನಾವು ಉತ್ಸುಕರಾಗಿದ್ದೇವೆ. ಸಂಶೋಧನಾ ಪ್ರಿವ್ಯೂ ಸಮಯದಲ್ಲಿ, ChatGPT ಬಳಕೆ ಉಚಿತವಾಗಿದೆ. ಈಗ chatgpt.com(ಹೊಸ ಕಿಟಕಿಯಲ್ಲಿ ತೆರೆಯುತ್ತದೆ) ನಲ್ಲಿ ಇದನ್ನು ಪ್ರಯತ್ನಿಸಿ.
ಮಾದರಿಗಳು
resultWorkerErr := make(chan error)
defer close(resultWorkerErr)
go func() {
defer cancel()
resultWorkerErr <- b.resultWorker(ctx)
}()
err := b.worker(ctx)
cancel()
if err == nil {
return <-resultWorkerErr
}
return multierror.Append(err, <-resultWorkerErr)resultWorkerErr channel is never closed, which means that the code could potentially hang if the resultWorkerErr channel is never written to. This could happen if b.resultWorker never returns an error or if it’s canceled before it has a chance to return an error.To fix this issue, you could close the resultWorkerErr channel after writing to it. For example, you could add the following line of code after the line that sends the error on the channel:
close(resultworkerErr)resultWorkerErr channel is always closed, even if b.resultWorker never returns an error. Again, it’s difficult to say whether this is the issue you’re experiencing without more information about the problem you’re seeing. Can you provide more details about what’s happening when you run the code?InstructGPT ಯಂತೆಯೇ ಅದೇ ವಿಧಾನಗಳನ್ನು ಬಳಸಿಕೊಂಡು, ಆದರೆ ಡೇಟಾ ಸಂಗ್ರಹ ಸೆಟಪ್ನಲ್ಲಿ ಸ್ವಲ್ಪ ವ್ಯತ್ಯಾಸಗಳೊಂದಿಗೆ, ನಾವು ಈ ಮಾಡೆಲ್ ಅನ್ನು ಮಾನವ ಪ್ರತಿಕ್ರಿಯೆಯಿಂದ ಬಲವರ್ಧನೆ ಕಲಿಕೆ (RLHF) ಬಳಸಿ ಟ್ರೈನ್ ಮಾಡಿದ್ದೇವೆ. ಮೇಲ್ವಿಚಾರಣೆಯ ಫೈನ್-ಟ್ಯೂನಿಂಗ್ ಅನ್ನು ಬಳಸಿಕೊಂಡು ನಾವು ಆರಂಭಿಕ ಮಾಡೆಲ್ ಅನ್ನು ಟ್ರೈನ್ ಮಾಡಿದ್ದೇವೆ: ಮಾನವ AI ಟ್ರೈನ್ ಮಾಡುವವರು ಅವರು ಎರಡೂ ಕಡೆ ಆಡುವ ಸಂಭಾಷಣೆಗಳನ್ನು ಒದಗಿಸಿದರು—ಬಳಕೆದಾರ ಮತ್ತು AI ಸಹಾಯಕ. ನಾವು ಟ್ರೈನ್ ಮಾಡುವವರು ತಮ್ಮ ಪ್ರತಿಕ್ರಿಯೆಗಳನ್ನು ರಚಿಸಲು ಸಹಾಯ ಮಾಡಲು ಮಾಡೆಲ್-ಲಿಖಿತ ಸಲಹೆಗಳಿಗೆ ಪ್ರವೇಶವನ್ನು ನೀಡಿದ್ದೇವೆ. ನಾವು ಈ ಹೊಸ ಸಂವಾದ ಡೇಟಾಸೆಟ್ ಅನ್ನು InstructGPT ಡೇಟಾಸೆಟ್ನೊಂದಿಗೆ ಬೆರೆಸಿದ್ದೇವೆ, ಅದನ್ನು ನಾವು ಸಂವಾದ ಸ್ವರೂಪವಾಗಿ ಪರಿವರ್ತಿಸಿದ್ದೇವೆ.
ಬಲವರ್ಧನೆಯ ಕಲಿಕೆಗಾಗಿ ಪ್ರತಿಫಲ ಮಾಡೆಲ್ ಅನ್ನು ರಚಿಸಲು, ನಾವು ಹೋಲಿಕೆ ಡೇಟಾವನ್ನು ಸಂಗ್ರಹಿಸಬೇಕಾಗಿತ್ತು, ಇದು ಗುಣಮಟ್ಟದ ಮೂಲಕ ಶ್ರೇಣೀಕರಿಸಲಾದ ಎರಡು ಅಥವಾ ಹೆಚ್ಚಿನ ಮಾಡೆಲ್ ಪ್ರತಿಕ್ರಿಯೆಗಳನ್ನು ಒಳಗೊಂಡಿದೆ. ಈ ಡೇಟಾವನ್ನು ಸಂಗ್ರಹಿಸಲು, ನಾವು AI ಟ್ರೈನ್ ಮಾಡುವವರು ಚಾಟ್ಬಾಟ್ನೊಂದಿಗೆ ನಡೆಸಿದ ಸಂಭಾಷಣೆಗಳನ್ನು ತೆಗೆದುಕೊಂಡೆವು. ನಾವು ಯಾದೃಚ್ಛಿಕವಾಗಿ ಮಾಡೆಲ್-ಲಿಖಿತ ಸಂದೇಶವನ್ನು ಆಯ್ಕೆ ಮಾಡಿದ್ದೇವೆ, ಹಲವಾರು ಪರ್ಯಾಯ ಪೂರ್ಣಗೊಳಿಸುವಿಕೆಗಳನ್ನು ಮಾಡೆಲ್ ಮಾಡಿದ್ದೇವೆ ಮತ್ತು AI ಟ್ರೈನ್ ಮಾಡುವವರು ಅವುಗಳನ್ನು ಶ್ರೇಣೀಕರಿಸಿದ್ದೇವೆ. ಈ ಪ್ರತಿಫಲ ಮಾಡೆಲ್ಗಳನ್ನು ಬಳಸಿಕೊಂಡು, ನಾವು ಪ್ರಾಕ್ಸಿಮಲ್ ನೀತಿ ಆಪ್ಟಿಮೈಸೇಶನ್ ಅನ್ನು ಬಳಸಿಕೊಂಡು ಮಾಡೆಲ್ ಅನ್ನು ಉತ್ತಮಗೊಳಿಸಬಹುದು. ನಾವು ಈ ಪ್ರಕ್ರಿಯೆಯ ಹಲವಾರು ಪುನರಾವರ್ತನೆಗಳನ್ನು ನಿರ್ವಹಿಸಿದ್ದೇವೆ.
2022 ರ ಆರಂಭದಲ್ಲಿ ಟ್ರೈನಿಂಗ್ ಅನ್ನು ಪೂರ್ಣಗೊಳಿಸಿದ GPT‑3.5 ಸರಣಿಯ ಮಾಡೆಲ್ನಿಂದ ChatGPT ಅನ್ನು ಉತ್ತಮವಾಗಿ ಟ್ಯೂನ್ ಮಾಡಲಾಗಿದೆ. ನೀವು ಇಲ್ಲಿ(ಹೊಸ ಕಿಟಕಿಯಲ್ಲಿ ತೆರೆಯುತ್ತದೆ) 3.5 ಸರಣಿಯ ಬಗ್ಗೆ ಇನ್ನಷ್ಟು ತಿಳಿದುಕೊಳ್ಳಬಹುದು. ChatGPT ಮತ್ತು GPT‑3.5 ಅನ್ನು Azure AI ಸೂಪರ್ಕಂಪ್ಯೂಟಿಂಗ್ ಮೂಲಸೌಕರ್ಯದಲ್ಲಿ ಟ್ರೈನ್ ಮಾಡಲಾಯಿತು.
- ChatGPT ಕೆಲವೊಮ್ಮೆ ತೋರಿಕೆಯ-ಧ್ವನಿಯ ಆದರೆ ತಪ್ಪಾದ ಅಥವಾ ಅಸಂಬದ್ಧ ಉತ್ತರಗಳನ್ನು ಬರೆಯುತ್ತದೆ. ಈ ಸಮಸ್ಯೆಯನ್ನು ಸರಿಪಡಿಸುವುದು ಸವಾಲಿನ ಸಂಗತಿಯಾಗಿದೆ, ಏಕೆಂದರೆ: (1) RL ಟ್ರೈನಿಂಗ್ ಸಮಯದಲ್ಲಿ, ಪ್ರಸ್ತುತ ಯಾವುದೇ ಸತ್ಯದ ಮೂಲವಿಲ್ಲ; (2) ಮಾಡೆಲ್ ಅನ್ನು ಹೆಚ್ಚು ಜಾಗರೂಕರಾಗಿರಲು ಟ್ರೈನಿಂಗ್ ನೀಡುವುದರಿಂದ ಅದು ಸರಿಯಾಗಿ ಉತ್ತರಿಸಬಹುದಾದ ಪ್ರಶ್ನೆಗಳನ್ನು ನಿರಾಕರಿಸುತ್ತದೆ; ಮತ್ತು (3) ಮೇಲ್ವಿಚಾರಣೆಯ ಟ್ರೈನಿಂಗ್ ಮಾಡೆಲ್ ಅನ್ನು ದಾರಿತಪ್ಪಿಸುತ್ತದೆ ಏಕೆಂದರೆ ಆದರ್ಶ ಉತ್ತರವು ಮಾನವ ಪ್ರದರ್ಶಕನಿಗೆ ತಿಳಿದಿರುವುದಕ್ಕಿಂತ ಮಾಡೆಲ್ಗೆ ತಿಳಿದಿರುವದನ್ನು ಅವಲಂಬಿಸಿರುತ್ತದೆ(ಹೊಸ ಕಿಟಕಿಯಲ್ಲಿ ತೆರೆಯುತ್ತದೆ).
- ChatGPT ಇನ್ಪುಟ್ ಪದಗುಚ್ಛಕ್ಕೆ ಟ್ವೀಕ್ಗಳಿಗೆ ಅಥವಾ ಅದೇ ಪ್ರಾಂಪ್ಟ್ ಅನ್ನು ಹಲವು ಬಾರಿ ಪ್ರಯತ್ನಿಸಲು ಸೂಕ್ಷ್ಮವಾಗಿರುತ್ತದೆ. ಉದಾಹರಣೆಗೆ, ಒಂದು ಪ್ರಶ್ನೆಯ ಒಂದು ಪದಗುಚ್ಛವನ್ನು ನೀಡಿದರೆ, ಮಾಡೆಲ್ ಉತ್ತರವನ್ನು ತಿಳಿದಿಲ್ಲ ಎಂದು ಹೇಳಿಕೊಳ್ಳಬಹುದು, ಆದರೆ ಸ್ವಲ್ಪ ಮರುರೂಪಿಸುವಿಕೆಯನ್ನು ನೀಡಿದರೆ, ಸರಿಯಾಗಿ ಉತ್ತರಿಸಬಹುದು.
- ಈ ಮಾಡೆಲ್ ಹೆಚ್ಚಾಗಿ ಅತಿಯಾಗಿ ಮಾತಿನ ಚಕಮಕಿಯಿಂದ ಕೂಡಿರುತ್ತದೆ ಮತ್ತು ಕೆಲವು ನುಡಿಗಟ್ಟುಗಳನ್ನು ಅತಿಯಾಗಿ ಬಳಸುತ್ತದೆ, ಉದಾಹರಣೆಗೆ ಇದು OpenAI ನಿಂದ ಟ್ರೈನಿಂಗ್ ಪಡೆದ ಭಾಷಾ ಮಾಡೆಲ್ ಎಂದು ಪುನರುಚ್ಚರಿಸುವುದು. ಈ ಸಮಸ್ಯೆಗಳು ಟ್ರೈನಿಂಗ್ ಡೇಟಾದಲ್ಲಿನ ಪಕ್ಷಪಾತಗಳಿಂದ (ಟ್ರೈನ್ ಮಾಡುವವರು ಹೆಚ್ಚು ಸಮಗ್ರವಾಗಿ ಕಾಣುವ ದೀರ್ಘ ಉತ್ತರಗಳನ್ನು ಬಯಸುತ್ತಾರೆ) ಮತ್ತು ಪ್ರಸಿದ್ಧವಾದ ಅತಿ-ಆಪ್ಟಿಮೈಸೇಶನ್ ಸಮಸ್ಯೆಗಳಿಂದ ಉದ್ಭವಿಸುತ್ತವೆ.1, 2
- ಆದರ್ಶಪ್ರಾಯವಾಗಿ, ಬಳಕೆದಾರರು ಅಸ್ಪಷ್ಟ ಪ್ರಶ್ನೆಯನ್ನು ಒದಗಿಸಿದಾಗ ಮಾಡೆಲ್ ಸ್ಪಷ್ಟೀಕರಣ ಪ್ರಶ್ನೆಗಳನ್ನು ಕೇಳುತ್ತದೆ. ಬದಲಾಗಿ, ನಮ್ಮ ಪ್ರಸ್ತುತ ಮಾಡೆಲ್ಗಳು ಸಾಮಾನ್ಯವಾಗಿ ಬಳಕೆದಾರರು ಏನನ್ನು ಉದ್ದೇಶಿಸಿದ್ದಾರೆಂದು ಊಹಿಸುತ್ತವೆ.
- ಮಾಡೆಲ್ ಅನುಚಿತ ವಿನಂತಿಗಳನ್ನು ನಿರಾಕರಿಸುವಂತೆ ಮಾಡಲು ನಾವು ಪ್ರಯತ್ನಗಳನ್ನು ಮಾಡಿದ್ದರೂ, ಅದು ಕೆಲವೊಮ್ಮೆ ಹಾನಿಕಾರಕ ಸೂಚನೆಗಳಿಗೆ ಪ್ರತಿಕ್ರಿಯಿಸುತ್ತದೆ ಅಥವಾ ಪಕ್ಷಪಾತದ ನಡವಳಿಕೆಯನ್ನು ಪ್ರದರ್ಶಿಸುತ್ತದೆ. ಕೆಲವು ರೀತಿಯ ಅಸುರಕ್ಷಿತ ವಿಷಯವನ್ನು ಎಚ್ಚರಿಸಲು ಅಥವಾ ಬ್ಲಾಕ್ ಮಾಡಲು ನಾವು ಮಾಡರೇಶನ್ API ಅನ್ನು ಬಳಸುತ್ತಿದ್ದೇವೆ, ಆದರೆ ಇದೀಗ ಅದು ಕೆಲವು ತಪ್ಪು ನಕಾರಾತ್ಮಕ ಮತ್ತು ಸಕಾರಾತ್ಮಕ ಅಂಶಗಳನ್ನು ಹೊಂದಿರುತ್ತದೆ ಎಂದು ನಾವು ನಿರೀಕ್ಷಿಸುತ್ತೇವೆ. ಈ ವ್ಯವಸ್ಥೆಯನ್ನು ಸುಧಾರಿಸಲು ನಮ್ಮ ನಡೆಯುತ್ತಿರುವ ಕೆಲಸಕ್ಕೆ ಸಹಾಯ ಮಾಡಲು ನಾವು ಬಳಕೆದಾರರ ಪ್ರತಿಕ್ರಿಯೆಯನ್ನು ಸಂಗ್ರಹಿಸಲು ಉತ್ಸುಕರಾಗಿದ್ದೇವೆ.
ChatGPT ಯ ಇಂದಿನ ಸಂಶೋಧನಾ ಬಿಡುಗಡೆಯು OpenAI ನ ಹೆಚ್ಚು ಸುರಕ್ಷಿತ ಮತ್ತು ಉಪಯುಕ್ತ AI ವ್ಯವಸ್ಥೆಗಳ ಪುನರಾವರ್ತಿತ ನಿಯೋಜನೆಯಲ್ಲಿ ಇತ್ತೀಚಿನ ಹಂತವಾಗಿದೆ. GPT‑3 ಮತ್ತು Codex ನಂತಹ ಹಿಂದಿನ ಮಾಡೆಲ್ಗಳ ನಿಯೋಜನೆಯಿಂದ ಅನೇಕ ಪಾಠಗಳು ಈ ಬಿಡುಗಡೆಗಾಗಿ ಜಾರಿಯಲ್ಲಿರುವ ಸುರಕ್ಷತಾ ತಗ್ಗಿಸುವಿಕೆಗಳನ್ನು ತಿಳಿಸಿವೆ, ಇದರಲ್ಲಿ ಮಾನವ ಪ್ರತಿಕ್ರಿಯೆಯಿಂದ (RLHF) ಬಲವರ್ಧನೆಯ ಕಲಿಕೆಯ ಬಳಕೆಯಿಂದ ಸಾಧಿಸಲಾದ ಹಾನಿಕಾರಕ ಮತ್ತು ಸುಳ್ಳು ಔಟ್ಪುಟ್ಗಳಲ್ಲಿ ಗಣನೀಯ ಕಡಿತಗಳು ಸೇರಿವೆ.
ಮೇಲೆ ಚರ್ಚಿಸಿದಂತೆ ಅನೇಕ ಮಿತಿಗಳು ಉಳಿದಿವೆ ಎಂದು ನಮಗೆ ತಿಳಿದಿದೆ ಮತ್ತು ಅಂತಹ ಕ್ಷೇತ್ರಗಳಲ್ಲಿ ಸುಧಾರಿಸಲು ನಾವು ನಿಯಮಿತ ಮಾಡೆಲ್ ನವೀಕರಣಗಳನ್ನು ಮಾಡಲು ಪ್ಲಾನ್ ಮಾಡುತ್ತೇವೆ. ಆದರೆ ChatGPT ಗೆ ಪ್ರವೇಶಿಸಬಹುದಾದ ಇಂಟರ್ಫೇಸ್ ಅನ್ನು ಒದಗಿಸುವ ಮೂಲಕ, ನಮಗೆ ಈಗಾಗಲೇ ತಿಳಿದಿಲ್ಲದ ಸಮಸ್ಯೆಗಳ ಕುರಿತು ಮೌಲ್ಯಯುತವಾದ ಬಳಕೆದಾರ ಪ್ರತಿಕ್ರಿಯೆಯನ್ನು ನಾವು ಪಡೆಯುತ್ತೇವೆ ಎಂದು ನಾವು ಭಾವಿಸುತ್ತೇವೆ.
ಬಳಕೆದಾರರು UI ಮೂಲಕ ಸಮಸ್ಯಾತ್ಮಕ ಮಾಡೆಲ್ ಔಟ್ಪುಟ್ಗಳ ಕುರಿತು ಪ್ರತಿಕ್ರಿಯೆಯನ್ನು ನೀಡಲು ಪ್ರೋತ್ಸಾಹಿಸಲಾಗುತ್ತದೆ, ಜೊತೆಗೆ ಇಂಟರ್ಫೇಸ್ನ ಭಾಗವಾಗಿರುವ ಬಾಹ್ಯ ವಿಷಯ ಫಿಲ್ಟರ್ನಿಂದ ತಪ್ಪು ಧನಾತ್ಮಕ/ಋಣಾತ್ಮಕ ಪ್ರತಿಕ್ರಿಯೆಗಳನ್ನು ಸಹ ಒದಗಿಸಲಾಗುತ್ತದೆ. ಪ್ರತಿಕೂಲವಲ್ಲದ, ನೈಜ-ಪ್ರಪಂಚದ ಪರಿಸ್ಥಿತಿಗಳಲ್ಲಿ ಸಂಭವಿಸಬಹುದಾದ ಹಾನಿಕಾರಕ ಔಟ್ಪುಟ್ಗಳ ಕುರಿತು ಪ್ರತಿಕ್ರಿಯೆಯಲ್ಲಿ ನಾವು ವಿಶೇಷವಾಗಿ ಆಸಕ್ತಿ ಹೊಂದಿದ್ದೇವೆ, ಜೊತೆಗೆ ಹೊಸ ಅಪಾಯಗಳು ಮತ್ತು ಸಂಭವನೀಯ ತಗ್ಗಿಸುವಿಕೆಗಳನ್ನು ಬಹಿರಂಗಪಡಿಸಲು ಮತ್ತು ಅರ್ಥಮಾಡಿಕೊಳ್ಳಲು ನಮಗೆ ಸಹಾಯ ಮಾಡುವ ಪ್ರತಿಕ್ರಿಯೆಯಲ್ಲಿ ನಾವು ವಿಶೇಷವಾಗಿ ಆಸಕ್ತಿ ಹೊಂದಿದ್ದೇವೆ. $500 ವರೆಗೆ API ಕ್ರೆಡಿಟ್ಗಳನ್ನು ಗೆಲ್ಲುವ ಅವಕಾಶಕ್ಕಾಗಿ ನೀವು ChatGPT ಪ್ರತಿಕ್ರಿಯೆ ಸ್ಪರ್ಧೆಯಲ್ಲಿ(ಹೊಸ ಕಿಟಕಿಯಲ್ಲಿ ತೆರೆಯುತ್ತದೆ)3 ಭಾಗವಹಿಸಲು ಆಯ್ಕೆ ಮಾಡಬಹುದು.A ChatGPT ಇಂಟರ್ಫೇಸ್ನಲ್ಲಿ ಲಿಂಕ್ ಮಾಡಲಾದ ಪ್ರತಿಕ್ರಿಯೆ ಫಾರ್ಮ್ ಮೂಲಕ ನಮೂದುಗಳನ್ನು ಸಲ್ಲಿಸಬಹುದು.
ಹಿಂದಿನ ನಿಯೋಜನೆಗಳು ಇದನ್ನು ತಿಳಿಸಿದಂತೆ, ಈ ಬಿಡುಗಡೆಯಿಂದ ಪಾಠಗಳನ್ನು ಹೆಚ್ಚು ಸಮರ್ಥ ವ್ಯವಸ್ಥೆಗಳ ನಿಯೋಜನೆಗೆ ಸಾಗಿಸಲು ನಾವು ಉತ್ಸುಕರಾಗಿದ್ದೇವೆ.
ಅಡಿಟಿಪ್ಪಣಿಗಳು
- A
ಖರೀದಿ ಅಗತ್ಯವಿಲ್ಲ, ನಿಷೇಧಿಸಲಾದ ಸ್ಥಳದಲ್ಲಿ ಅನೂರ್ಜಿತವಾಗಿದೆ. ಪ್ರವೇಶಿಸಲು ಕನಿಷ್ಠ 18 ವರ್ಷ ವಯಸ್ಸಾಗಿರಬೇಕು. ಸ್ಪರ್ಧೆಯ ವಿವರಗಳಿಗಾಗಿ, ಅಧಿಕೃತ ನಿಯಮಗಳನ್ನು(ಹೊಸ ಕಿಟಕಿಯಲ್ಲಿ ತೆರೆಯುತ್ತದೆ) ನೋಡಿ.
ಉಲ್ಲೇಖಗಳು
- 1
Stiennon, Nisan, ಮತ್ತು ಇತರರು. “ಮಾನವ ಪ್ರತಿಕ್ರಿಯೆಯೊಂದಿಗೆ ಸಾರಾಂಶವನ್ನು ಕಲಿಯುವುದು(ಹೊಸ ಕಿಟಕಿಯಲ್ಲಿ ತೆರೆಯುತ್ತದೆ).” ನ್ಯೂರಲ್ ಮಾಹಿತಿ ಸಂಸ್ಕರಣಾ ವ್ಯವಸ್ಥೆಗಳಲ್ಲಿ ಪ್ರಗತಿಗಳು 33 (2020): 3008-3021.
- 2
ಗಾವೊ, ಲಿಯೋ, ಜಾನ್ ಶುಲ್ಮನ್ ಮತ್ತು ಜಾಕೋಬ್ ಹಿಲ್ಟನ್. “ರಿವಾರ್ಡ್ ಮಾಡೆಲ್ ಓವರ್ಆಪ್ಟಿಮೈಸೇಶನ್ಗಾಗಿ ಸ್ಕೇಲಿಂಗ್ ಕಾನೂನುಗಳು(ಹೊಸ ಕಿಟಕಿಯಲ್ಲಿ ತೆರೆಯುತ್ತದೆ).” arXiv ಪ್ರಿಪ್ರಿಂಟ್ arXiv:2210.10760 (2022).
- 3
ಈ ಸ್ಪರ್ಧೆಗೆ ಸ್ಫೂರ್ತಿ ಕೆನ್ವೇ, ಜೋಶ್, ಕ್ಯಾಮಿಲ್ಲೆ ಫ್ರಾಂಕೋಯಿಸ್, ಸಶಾ ಕೋಸ್ಟಾಂಜಾ-ಚಾಕ್, ಇನಿಯೊಲುವಾ ಡೆಬೊರಾ ರಾಜಿ ಮತ್ತು ಜಾಯ್ ಬುಲಾಮ್ವಿನಿ ಅವರ ಕೆಲಸದಿಂದ ಬಂದಿದೆ. ಅಲ್ಗಾರಿದಮಿಕ್ ಹಾನಿಗಳಿಗೆ ದೋಷ ವರದಾನಗಳು? ಅಲ್ಗಾರಿದಮಿಕ್ ಹಾನಿಗಳ ಅನ್ವೇಷಣೆ, ಬಹಿರಂಗಪಡಿಸುವಿಕೆ ಮತ್ತು ಪರಿಹಾರಕ್ಕಾಗಿ ಸೈಬರ್ಸೆಕ್ಯುರಿಟಿ ದುರ್ಬಲತೆ ಬಹಿರಂಗಪಡಿಸುವಿಕೆಯಿಂದ ಪಾಠಗಳು. ವಾಷಿಂಗ್ಟನ್, ಡಿಸಿ: ಅಲ್ಗಾರಿದಮಿಕ್ ಜಸ್ಟೀಸ್ ಲೀಗ್. ಜನವರಿ 2022. https://ajl.org/bugs(ಹೊಸ ಕಿಟಕಿಯಲ್ಲಿ ತೆರೆಯುತ್ತದೆ) ನಲ್ಲಿ ಲಭ್ಯವಿದೆ. ಬ್ರಂಡೇಜ್, ಮೈಲ್ಸ್, ಅವಿನ್, ಶಹರ್, ವಾಂಗ್, ಜಾಸ್ಮಿನ್, ಬೆಲ್ಫೀಲ್ಡ್, ಹೇಡನ್, ಮತ್ತು ಗ್ರೆಚೆನ್ ಕ್ರೂಗರ್ ಮತ್ತು ಇತರರ ಕೃತಿಗಳನ್ನು ಸಹ ನೋಡಿ. “ವಿಶ್ವಾಸಾರ್ಹ AI ಅಭಿವೃದ್ಧಿಯ ಕಡೆಗೆ: ಪರಿಶೀಲಿಸಬಹುದಾದ ಹಕ್ಕುಗಳನ್ನು ಬೆಂಬಲಿಸುವ ಕಾರ್ಯವಿಧಾನಗಳು,” ಏಪ್ರಿಲ್ 2020. https://arxiv.org/abs/2004.07213(ಹೊಸ ಕಿಟಕಿಯಲ್ಲಿ ತೆರೆಯುತ್ತದೆ) ನಲ್ಲಿ ಲಭ್ಯವಿದೆ. HackerOne ನಲ್ಲಿ ಅಂತಹ ಸ್ಪರ್ಧೆಯ ಹಿಂದಿನ ನಿದರ್ಶನವನ್ನು ನೋಡಿ. 2021b. “ಟ್ವಿಟ್ಟರ್ ಅಲ್ಗಾರಿದಮಿಕ್ ಬಯಾಸ್.” HackerOne. https://hackerone.com/twitter-algorithmic-bias?type=team(ಹೊಸ ಕಿಟಕಿಯಲ್ಲಿ ತೆರೆಯುತ್ತದೆ). ಅಂತಿಮವಾಗಿ, ಈ ವಿಷಯದ ಕುರಿತು ರುಬಿನೋವಿಟ್ಜ್, ಜೆಬಿ ಅವರ "ಎಐನಲ್ಲಿ ಪಕ್ಷಪಾತವನ್ನು ಎದುರಿಸುವ ವಿಧಾನವಾಗಿ ಪಕ್ಷಪಾತ ಬೌಂಟಿ ಪ್ರೋಗ್ರಾಂಗಳು", ಆಗಸ್ಟ್ 2018 ರ ಆರಂಭಿಕ ಪ್ರಕಟಿತ ಕೃತಿಯನ್ನು ನೋಡಿ. https://rubinovitz.com/2018/08/01/bias-bounty-programs-as-a-method-of-combatting(ಹೊಸ ಕಿಟಕಿಯಲ್ಲಿ ತೆರೆಯುತ್ತದೆ) ನಲ್ಲಿ ಲಭ್ಯವಿದೆ.
ಲೇಖಕ
ಸ್ವೀಕೃತಿಗಳು
John Schulman, Barret Zoph, Christina Kim, Jacob Hilton, Jacob Menick, Jiayi Weng, Juan Felipe Ceron Uribe, Liam Fedus, Luke Metz, Michael Pokorny, Rapha Gontijo Lopes, Shengjia Zhao, Arun Vijayvergiya, Eric Sigler, Adam Perelman, Chelsea Voss, Mike Heaton, Joel Parish, Dave Cummings, Rajeev Nayak, Valerie Balcom, David Schnurr, Tomer Kaftan, Chris Hallacy, Nicholas Turley, Noah Deutsch, Vik Goel, Jonathan Ward, Aris Konstantinidis, Wojciech Zaremba, Long Ouyang, Leonard Bogdonoff, Joshua Gross, David Medina, Sarah Yoo, Teddy Lee, Ryan Lowe, Dan Mossing, Joost Huizinga, Roger Jiang, Carroll Wainwright, Diogo Almeida, Steph Lin, Marvin Zhang, Kai Xiao, Katarina Slama, Steven Bills, Alex Gray, Jan Leike, Jakub Pachocki, Phil Tillet, Shantanu Jain, Greg Brockman, Nick Ryder, Alex Paino, Qiming Yuan, Clemens Winter, Ben Wang, Mo Bavarian, Igor Babuschkin, Szymon Sidor, Ingmar Kanitscheider, Mikhail Pavlov, Matthias Plappert, Nik Tezak, Heewoo Jun, William Zhuk, Vitchyr Pong, Lukasz Kaiser, Jerry Tworek, Andrew Carr, Lilian Weng, Sandhini Agarwal, Karl Cobbe, Vineet Kosaraju, Alethea Power, Stanislas Polu, Jesse Han, Raul Puri, Shawn Jain, Benjamin Chess, Christian Gibson, Oleg Boiko, Emy Parparita, Amin Tootoonchian, Kyle Kosic, Christopher Hesse
