OpenAI ರೆಡ್ ಟೀಮಿಂಗ್ ಜಾಲ
OpenAI ರೆಡ್ ಟೀಮಿಂಗ್ ಜಾಲಕ್ಕೆ ಸೇರಲು ನಾವು ಮುಕ್ತ ಆಹ್ವಾನ ನೀಡುತ್ತಿದ್ದೇವೆ. OpenAI ಮಾಡೆಲ್‌ಗಳ ಸುರಕ್ಷತೆಯನ್ನು ಸುಧಾರಿಸಲು ಆಸಕ್ತಿ ಹೊಂದಿರುವ ವಿಷಯ ತಜ್ಞರನ್ನು ನಮ್ಮ ಪ್ರಯತ್ನಗಳಲ್ಲಿ ಕೈಜೋಡಿಸಲು ಆಹ್ವಾನಿಸುತ್ತೇವೆ.
ಚಿತ್ರ: ಜಸ್ಟಿನ್ ಜೇ ವಾಂಗ್
ಸಂಪಾದಕರ ಟಿಪ್ಪಣಿ
OpenAI ರೆಡ್ ಟೀಮಿಂಗ್ ಜಾಲದ ಈ ಹಂತಕ್ಕೆ ಅರ್ಜಿ ಸ್ವೀಕಾರವು ಡಿಸೆಂಬರ್ 1, 2023 ರಂದು ಮುಕ್ತಾಯಗೊಂಡಿತು.
OpenAI ರೆಡ್ ಟೀಮಿಂಗ್ ಜಾಲಕ್ಕೆ ಸೇರಲು ನಾವು ಮುಕ್ತ ಆಹ್ವಾನ ನೀಡುತ್ತಿದ್ದೇವೆ. OpenAI ಮಾಡೆಲ್‌ಗಳ ಸುರಕ್ಷತೆಯನ್ನು ಸುಧಾರಿಸಲು ಆಸಕ್ತಿ ಹೊಂದಿರುವ ವಿಷಯ ತಜ್ಞರನ್ನು ನಮ್ಮ ಪ್ರಯತ್ನಗಳಲ್ಲಿ ಕೈಜೋಡಿಸಲು ಆಹ್ವಾನಿಸುತ್ತೇವೆ. ನಮ್ಮ ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆ ಮಾಡೆಲ್‌ಗಳನ್ನು ಕಟ್ಟುನಿಟ್ಟಾಗಿ ಮೌಲ್ಯಮಾಪನ ಮಾಡಲು ಮತ್ತು ಅವುಗಳ ರೆಡ್ ಟೀಮಿಂಗ್ ನಡೆಸಲು ನಮ್ಮೊಂದಿಗೆ ಸಹಕರಿಸುವ ವಿವಿಧ ಕ್ಷೇತ್ರಗಳ ತಜ್ಞರನ್ನು ನಾವು ಹುಡುಕುತ್ತಿದ್ದೇವೆ.
ರೆಡ್ ಟೀಮಿಂಗ್A ನಮ್ಮ ಹಂತ ಹಂತವಾಗಿ ಸುಧಾರಿಸುತ್ತಾ ಬಳಕೆಗೆ ತರುವ ಪ್ರಕ್ರಿಯೆಯ ಅವಿಭಾಜ್ಯ ಅಂಗವಾಗಿದೆ. ಕಳೆದ ಕೆಲವು ವರ್ಷಗಳಲ್ಲಿ ನಮ್ಮ ರೆಡ್ ಟೀಮಿಂಗ್ ಪ್ರಯತ್ನಗಳು ವಿಸ್ತರಿಸಿವೆ. ಆರಂಭದಲ್ಲಿ OpenAI ಯೊಳಗೆ ಉದ್ದೇಶಪೂರ್ವಕವಾಗಿ ವ್ಯವಸ್ಥೆಗಳ ದೌರ್ಬಲ್ಯಗಳನ್ನು ಪರೀಕ್ಷಿಸುವುದಕ್ಕೆ ಒತ್ತು ನೀಡುತ್ತಿದ್ದ ನಾವು, ಈಗ ಬಾಹ್ಯ ತಜ್ಞರ ತಂಡದೊಂದಿಗೆB ಕೆಲಸ ಮಾಡುತ್ತಿದ್ದೇವೆ. ಅವರ ನೆರವಿನಿಂದ ಕ್ಷೇತ್ರ-ನಿರ್ದಿಷ್ಟ ಅಪಾಯ ವರ್ಗೀಕರಣಗಳನ್ನು ರೂಪಿಸುತ್ತಿದ್ದೇವೆ ಮತ್ತು ಹೊಸ ವ್ಯವಸ್ಥೆಗಳಲ್ಲಿ ಹಾನಿಕಾರಕವಾಗಬಹುದಾದ ಸಾಮರ್ಥ್ಯಗಳನ್ನು ಮೌಲ್ಯಮಾಪನ ಮಾಡುತ್ತಿದ್ದೇವೆ. DALL·E 2(ಹೊಸ ಕಿಟಕಿಯಲ್ಲಿ ತೆರೆಯುತ್ತದೆ) ಮತ್ತು GPT‑4(ಹೊಸ ಕಿಟಕಿಯಲ್ಲಿ ತೆರೆಯುತ್ತದೆ) ನಂತಹ ಮಾಡೆಲ್‌ಗಳಲ್ಲಿ ಬಾಹ್ಯ ತಜ್ಞರೊಂದಿಗೆ ಈ ಹಿಂದೆ ನಡೆಸಿದ ಕೆಲಸವೂ ಸೇರಿದಂತೆ, ನಮ್ಮ ಹಿಂದಿನ ರೆಡ್ ಟೀಮಿಂಗ್ ಪ್ರಯತ್ನಗಳ ಕುರಿತು ನೀವು ಇನ್ನಷ್ಟು ಓದಬಹುದು.C
ಈ ಹಿಂದಿನ ಅಡಿಪಾಯದ ಮೇಲೆ ಮುಂದುವರಿಯಲು ಇಂದು ನಾವು ಹೆಚ್ಚು ಔಪಚಾರಿಕವಾದ ಪ್ರಯತ್ನವನ್ನು ಆರಂಭಿಸುತ್ತಿದ್ದೇವೆ. ನಮ್ಮ ಮಾಡೆಲ್‌ಗಳನ್ನು ಹೆಚ್ಚು ಸುರಕ್ಷಿತಗೊಳಿಸಲು ಬಾಹ್ಯ ತಜ್ಞರೊಂದಿಗಿನ ಸಹಯೋಗವನ್ನು ಇನ್ನಷ್ಟು ಗಾಢಗೊಳಿಸುವುದು ಮತ್ತು ವಿಸ್ತರಿಸುವುದು ಇದರ ಉದ್ದೇಶವಾಗಿದೆ. ಸ್ವತಂತ್ರ ತಜ್ಞರು, ಸಂಶೋಧನಾ ಸಂಸ್ಥೆಗಳು ಮತ್ತು ನಾಗರಿಕ ಸಮಾಜದ ಸಂಘಟನೆಗಳೊಂದಿಗೆ ಕೆಲಸ ಮಾಡುವುದು ನಮ್ಮ ಪ್ರಕ್ರಿಯೆಯ ಪ್ರಮುಖ ಭಾಗವಾಗಿದೆ. ತೃತೀಯ ಪಕ್ಷದ ಲೆಕ್ಕಪರಿಶೋಧನೆಗಳಂತಹ ಬಾಹ್ಯವಾಗಿ ನಿಗದಿಪಡಿಸಲಾದ ಆಡಳಿತ ಪದ್ಧತಿಗಳಿಗೆ ಈ ಕೆಲಸ ಪೂರಕವಾಗಿದೆ ಎಂದು ನಾವು ಪರಿಗಣಿಸುತ್ತೇವೆ.
OpenAI ರೆಡ್ ಟೀಮಿಂಗ್ ಜಾಲವು ವಿಶ್ವಾಸಾರ್ಹ ಮತ್ತು ಅನುಭವಿ ತಜ್ಞರ ಸಮುದಾಯವಾಗಿದೆ. ಪ್ರಮುಖ ಮಾಡೆಲ್‌ಗಳನ್ನು ಬಳಕೆಗೆ ತರುವ ಮುನ್ನ ಒಮ್ಮೆ ಮಾತ್ರ ನಡೆಯುವ ಸಹಯೋಗ ಮತ್ತು ಆಯ್ಕೆ ಪ್ರಕ್ರಿಯೆಗಳಿಗೆ ಸೀಮಿತವಾಗದೆ, ನಮ್ಮ ಅಪಾಯ ಮೌಲ್ಯಮಾಪನ ಮತ್ತು ಅಪಾಯ ತಗ್ಗಿಸುವ ಪ್ರಯತ್ನಗಳಿಗೆ ಹೆಚ್ಚು ವ್ಯಾಪಕವಾಗಿ ಮಾರ್ಗದರ್ಶನ ನೀಡಲು ಈ ಸಮುದಾಯ ನೆರವಾಗಬಲ್ಲದು. ಮಾಡೆಲ್ ಮತ್ತು ಉತ್ಪನ್ನ ಅಭಿವೃದ್ಧಿಯ ವಿವಿಧ ಹಂತಗಳಲ್ಲಿ ರೆಡ್ ಟೀಮಿಂಗ್‌ಗೆ ನೆರವಾಗಲು, ಜಾಲದ ಸದಸ್ಯರನ್ನು ಅವರ ಪರಿಣತಿಯ ಆಧಾರದ ಮೇಲೆ ಆಹ್ವಾನಿಸಲಾಗುತ್ತದೆ. ಪ್ರತಿ ಹೊಸ ಮಾಡೆಲ್ ಅಥವಾ ಉತ್ಪನ್ನದ ಕೆಲಸದಲ್ಲಿ ಎಲ್ಲ ಸದಸ್ಯರೂ ಭಾಗವಹಿಸುವುದಿಲ್ಲ. ಪ್ರತಿಯೊಬ್ಬ ಸದಸ್ಯರೊಂದಿಗೆ ಚರ್ಚಿಸಿ ಅವರು ಮೀಸಲಿಡುವ ಸಮಯವನ್ನು ನಿರ್ಧರಿಸಲಾಗುತ್ತದೆ. ಇದು ವರ್ಷಕ್ಕೆ ಕೇವಲ 5–10 ಗಂಟೆಗಳಷ್ಟೂ ಇರಬಹುದು.
OpenAI ನಿಯೋಜಿಸುವ ರೆಡ್ ಟೀಮಿಂಗ್ ಅಭಿಯಾನಗಳ ಹೊರತಾಗಿಯೂ, ಸಾಮಾನ್ಯ ರೆಡ್ ಟೀಮಿಂಗ್ ಪದ್ಧತಿಗಳು ಮತ್ತು ಕಂಡುಕೊಂಡ ಅಂಶಗಳ ಕುರಿತು ಪರಸ್ಪರ ಚರ್ಚಿಸಲು ಸದಸ್ಯರಿಗೆ ಅವಕಾಶವಿರುತ್ತದೆ. ಹೆಚ್ಚು ವೈವಿಧ್ಯಮಯ ಅಭಿಪ್ರಾಯಗಳು ನಿರಂತರವಾಗಿ ದೊರೆಯುವಂತೆ ಮಾಡುವುದು ಮತ್ತು ರೆಡ್ ಟೀಮಿಂಗ್ ಅನ್ನು ಪುನರಾವರ್ತಿತ ಪರೀಕ್ಷೆ ಹಾಗೂ ಸುಧಾರಣೆಯ ಪ್ರಕ್ರಿಯೆಯನ್ನಾಗಿಸುವುದು ಇದರ ಗುರಿಯಾಗಿದೆ. ನಮ್ಮ ಸಂಶೋಧಕರ ಪ್ರವೇಶ ಕಾರ್ಯಕ್ರಮ ಮತ್ತು ಮುಕ್ತ ಮೂಲದ ಮೌಲ್ಯಮಾಪನಗಳು(ಹೊಸ ಕಿಟಕಿಯಲ್ಲಿ ತೆರೆಯುತ್ತದೆ) ಸೇರಿದಂತೆ, ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆಯ ಸುರಕ್ಷತೆಗಾಗಿ ಸಹಕರಿಸುವ ಇತರ ಅವಕಾಶಗಳಿಗೆ ಈ ಜಾಲವು ಪೂರಕವಾಗಿದೆ.
ಹೆಚ್ಚು ಸುರಕ್ಷಿತ ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆ ತಂತ್ರಜ್ಞಾನಗಳು ಮತ್ತು ನೀತಿಗಳ ಅಭಿವೃದ್ಧಿಗೆ ದಿಕ್ಕು ನೀಡಲು ಈ ಜಾಲವು ವಿಶಿಷ್ಟ ಅವಕಾಶ ಒದಗಿಸುತ್ತದೆ. ನಾವು ಬದುಕುವ, ಕೆಲಸ ಮಾಡುವ ಮತ್ತು ಸಂವಹನ ನಡೆಸುವ ರೀತಿಯ ಮೇಲೆ ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆ ಬೀರುವ ಪರಿಣಾಮವನ್ನು ರೂಪಿಸುವಲ್ಲಿಯೂ ಪಾಲ್ಗೊಳ್ಳಬಹುದು. ಈ ಜಾಲವನ್ನು ಸೇರುವ ಮೂಲಕ ನೀವು ನಮ್ಮ ವಿಷಯ ತಜ್ಞರ ತಂಡದ ಭಾಗವಾಗುತ್ತೀರಿ. ನಮ್ಮ ಮಾಡೆಲ್‌ಗಳು ಮತ್ತು ವ್ಯವಸ್ಥೆಗಳನ್ನು ಬಳಕೆಗೆ ತರುವ ವಿವಿಧ ಹಂತಗಳಲ್ಲಿ ಅವುಗಳ ಮೌಲ್ಯಮಾಪನಕ್ಕಾಗಿ ನಿಮ್ಮ ನೆರವು ಕೋರಬಹುದು.
ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆ ವ್ಯವಸ್ಥೆಗಳನ್ನು ಮೌಲ್ಯಮಾಪನ ಮಾಡಲು ವಿವಿಧ ಕ್ಷೇತ್ರಗಳು, ವೈವಿಧ್ಯಮಯ ದೃಷ್ಟಿಕೋನಗಳು ಮತ್ತು ಸ್ವಂತ ಜೀವನಾನುಭವಗಳ ಅರಿವು ಅಗತ್ಯ. ವಿಶ್ವದಾದ್ಯಂತ ಇರುವ ತಜ್ಞರಿಂದ ನಾವು ಅರ್ಜಿಗಳನ್ನು ಆಹ್ವಾನಿಸುತ್ತೇವೆ. ನಮ್ಮ ಆಯ್ಕೆ ಪ್ರಕ್ರಿಯೆಯಲ್ಲಿ ಭೌಗೋಳಿಕ ವೈವಿಧ್ಯತೆ ಮತ್ತು ವಿವಿಧ ಕ್ಷೇತ್ರಗಳ ಪ್ರಾತಿನಿಧ್ಯಕ್ಕೆ ಆದ್ಯತೆ ನೀಡುತ್ತಿದ್ದೇವೆ.
ನಮಗೆ ಆಸಕ್ತಿ ಇರುವ ಕೆಲವು ಕ್ಷೇತ್ರಗಳು ಈ ಕೆಳಗಿನಂತಿವೆ; ನಮ್ಮ ಆಸಕ್ತಿ ಇವುಗಳಿಗೆ ಮಾತ್ರ ಸೀಮಿತವಾಗಿಲ್ಲ:
ಅರಿವಿನ ವಿಜ್ಞಾನ | ರಸಾಯನಶಾಸ್ತ್ರ |
ಜೀವಶಾಸ್ತ್ರ | ಭೌತಶಾಸ್ತ್ರ |
ಗಣಕ ವಿಜ್ಞಾನ | ಸಂದೇಶ ಮರೆಮಾಚುವಿಕೆ |
ರಾಜಕೀಯ ವಿಜ್ಞಾನ | ಮನೋವಿಜ್ಞಾನ |
ಮನವೊಲಿಕೆ | ಅರ್ಥಶಾಸ್ತ್ರ |
ಮಾನವಶಾಸ್ತ್ರ | ಸಮಾಜಶಾಸ್ತ್ರ |
ಮಾನವ–ಗಣಕ ಸಂವಹನ | ನಿಷ್ಪಕ್ಷಪಾತತೆ ಮತ್ತು ಪಕ್ಷಪಾತ |
ಮಾನವ ಉದ್ದೇಶಗಳೊಂದಿಗೆ ಹೊಂದಾಣಿಕೆ | ಶಿಕ್ಷಣ |
ಆರೋಗ್ಯ ಸೇವೆ | ಕಾನೂನು |
ಮಕ್ಕಳ ಸುರಕ್ಷತೆ | ಸೈಬರ್ ಸುರಕ್ಷತೆ |
ಹಣಕಾಸು | ತಪ್ಪು ಮಾಹಿತಿ/ಉದ್ದೇಶಪೂರ್ವಕ ಸುಳ್ಳು ಮಾಹಿತಿ |
ರಾಜಕೀಯ ಬಳಕೆ | ಗೌಪ್ಯತೆ |
ಜೈವಿಕ ಗುರುತುಮಾಪನ | ಭಾಷೆಗಳು ಮತ್ತು ಭಾಷಾಶಾಸ್ತ್ರ |
ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆ ವ್ಯವಸ್ಥೆಗಳು ಅಥವಾ ಭಾಷಾ ಮಾಡೆಲ್‌ಗಳೊಂದಿಗೆ ಕೆಲಸ ಮಾಡಿದ ಅನುಭವ ಕಡ್ಡಾಯವಲ್ಲ, ಆದರೆ ಅದು ಸಹಾಯಕವಾಗಬಹುದು. ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆ ವ್ಯವಸ್ಥೆಗಳ ಪರಿಣಾಮಗಳನ್ನು ನಾವು ಮೌಲ್ಯಮಾಪನ ಮಾಡುವಾಗ, ಅದರಲ್ಲಿ ಭಾಗವಹಿಸಲು ಮತ್ತು ನಿಮ್ಮ ದೃಷ್ಟಿಕೋನವನ್ನು ಹಂಚಿಕೊಳ್ಳಲು ನೀವು ತೋರುವ ಆಸಕ್ತಿಗೆ ನಾವು ಹೆಚ್ಚಿನ ಮಹತ್ವ ನೀಡುತ್ತೇವೆ.
ರೆಡ್ ಟೀಮಿಂಗ್ ಯೋಜನೆಯಲ್ಲಿ ಭಾಗವಹಿಸುವ OpenAI ರೆಡ್ ಟೀಮಿಂಗ್ ಜಾಲದ ಎಲ್ಲ ಸದಸ್ಯರಿಗೆ ಅವರ ಕೊಡುಗೆಗಳಿಗಾಗಿ ಸಂಭಾವನೆ ನೀಡಲಾಗುತ್ತದೆ. ಈ ಜಾಲದ ಸದಸ್ಯತ್ವವು ನಿಮ್ಮ ಸಂಶೋಧನೆಯನ್ನು ಪ್ರಕಟಿಸಲು ಅಥವಾ ಇತರ ಅವಕಾಶಗಳನ್ನು ಅನ್ವೇಷಿಸಲು ನಿರ್ಬಂಧ ವಿಧಿಸುವುದಿಲ್ಲ. ಆದರೆ, ರೆಡ್ ಟೀಮಿಂಗ್ ಮತ್ತು ಇತರ ಯೋಜನೆಗಳಲ್ಲಿನ ಪಾಲ್ಗೊಳ್ಳುವಿಕೆಯು ಸಾಮಾನ್ಯವಾಗಿ ಗೌಪ್ಯತಾ ಒಪ್ಪಂದಗಳಿಗೆ ಒಳಪಟ್ಟಿರುತ್ತದೆ ಅಥವಾ ಅನಿರ್ದಿಷ್ಟ ಅವಧಿಯವರೆಗೆ ಗೌಪ್ಯವಾಗಿರಬೇಕಾಗುತ್ತದೆ ಎಂಬುದನ್ನು ನೀವು ಪರಿಗಣಿಸಬೇಕು.
ಅರ್ಜಿ ಸ್ವೀಕಾರ ಈಗ ಮುಕ್ತಾಯಗೊಂಡಿದೆ.
ಪ್ರಶ್ನೆ: ಜಾಲವನ್ನು ಸೇರಿದರೆ ಯಾವ ರೀತಿಯ ಕೆಲಸದಲ್ಲಿ ಭಾಗವಹಿಸಬೇಕಾಗುತ್ತದೆ?
ಉತ್ತರ: ಜಾಲದ ಸದಸ್ಯರಾಗಿ, ಹೊಸ ಮಾಡೆಲ್ ಅನ್ನು ಪರೀಕ್ಷಿಸುವ ಅಥವಾ ಈಗಾಗಲೇ ಬಳಕೆಯಲ್ಲಿರುವ ಮಾಡೆಲ್‌ನಲ್ಲಿ ಆಸಕ್ತಿಯ ಕ್ಷೇತ್ರವೊಂದನ್ನು ಪರೀಕ್ಷಿಸುವ ಅವಕಾಶಗಳ ಕುರಿತು ನಿಮ್ಮನ್ನು ಸಂಪರ್ಕಿಸಬಹುದು. ಜಾಲದ ಭಾಗವಾಗಿ ನಡೆಸುವ ಕೆಲಸವು ಗೌಪ್ಯತಾ ಒಪ್ಪಂದದ ಅಡಿಯಲ್ಲಿ ನಡೆಯುತ್ತದೆ. ಆದರೂ, ಈ ಹಿಂದೆ ನಾವು ರೆಡ್ ಟೀಮಿಂಗ್ ಮೂಲಕ ಕಂಡುಕೊಂಡ ಅನೇಕ ಅಂಶಗಳನ್ನು ವ್ಯವಸ್ಥೆಯ ವಿವರಣಾ ಪತ್ರಗಳು ಮತ್ತು ಬ್ಲಾಗ್ ಲೇಖನಗಳಲ್ಲಿ ಪ್ರಕಟಿಸಿದ್ದೇವೆ. ರೆಡ್ ಟೀಮಿಂಗ್ ಯೋಜನೆಗಳಿಗೆ ನೀವು ಮೀಸಲಿಡುವ ಸಮಯಕ್ಕೆ ಸಂಭಾವನೆ ನೀಡಲಾಗುತ್ತದೆ.
ಪ್ರಶ್ನೆ: ಜಾಲದ ಸದಸ್ಯರಾಗಿ ಎಷ್ಟು ಸಮಯ ಮೀಸಲಿಡುವ ನಿರೀಕ್ಷೆಯಿದೆ?
ಉತ್ತರ: ನೀವು ಮೀಸಲಿಡುವ ಸಮಯವನ್ನು ನಿಮ್ಮ ಅನುಕೂಲಕ್ಕೆ ತಕ್ಕಂತೆ ಹೊಂದಿಸಿಕೊಳ್ಳಬಹುದು. ಪ್ರತಿಯೊಂದು ಅವಕಾಶಕ್ಕೂ ಜಾಲದ ಎಲ್ಲರನ್ನೂ ಸಂಪರ್ಕಿಸಲಾಗುವುದಿಲ್ಲ ಎಂಬುದನ್ನು ಗಮನಿಸಿ. ನಿರ್ದಿಷ್ಟ ರೆಡ್ ಟೀಮಿಂಗ್ ಯೋಜನೆಗೆ ಯಾರು ಸೂಕ್ತರು ಎಂಬುದರ ಆಧಾರದ ಮೇಲೆ OpenAI ಆಯ್ಕೆ ಮಾಡುತ್ತದೆ. ಮುಂದಿನ ರೆಡ್ ಟೀಮಿಂಗ್ ಅಭಿಯಾನಗಳಲ್ಲಿ ಹೊಸ ದೃಷ್ಟಿಕೋನಗಳಿಗೆ ಒತ್ತು ನೀಡುತ್ತದೆ. ವರ್ಷಕ್ಕೆ ಕೇವಲ 5 ಗಂಟೆಗಳನ್ನು ಮೀಸಲಿಟ್ಟರೂ ಅದು ನಮಗೆ ಮೌಲ್ಯಯುತವೇ. ಆದ್ದರಿಂದ, ಆಸಕ್ತಿ ಇದ್ದರೂ ಸಮಯದ ಕೊರತೆ ಇದೆ ಎಂಬ ಕಾರಣಕ್ಕೆ ಅರ್ಜಿ ಸಲ್ಲಿಸಲು ಹಿಂಜರಿಯಬೇಡಿ.
ಪ್ರಶ್ನೆ: ಆಯ್ಕೆಯಾದ ಬಗ್ಗೆ ಅರ್ಜಿದಾರರಿಗೆ ಯಾವಾಗ ತಿಳಿಸಲಾಗುತ್ತದೆ?
ಉತ್ತರ: OpenAI ನಿರಂತರವಾಗಿ ಜಾಲದ ಸದಸ್ಯರನ್ನು ಆಯ್ಕೆ ಮಾಡಲಿದೆ. ಡಿಸೆಂಬರ್ 1, 2023 ರವರೆಗೆ ನೀವು ಅರ್ಜಿ ಸಲ್ಲಿಸಬಹುದು. ಈ ಅರ್ಜಿ ಅವಧಿ ಮುಗಿದ ನಂತರ, ಭವಿಷ್ಯದಲ್ಲಿ ಮತ್ತೆ ಅರ್ಜಿ ಸಲ್ಲಿಸಲು ಅವಕಾಶ ನೀಡುವ ಬಗ್ಗೆ ನಾವು ಮರುಪರಿಶೀಲಿಸುತ್ತೇವೆ.
ಪ್ರಶ್ನೆ: ಜಾಲದ ಸದಸ್ಯರಾದರೆ, ಪ್ರತಿ ಹೊಸ ಮಾಡೆಲ್‌ನ ರೆಡ್ ಟೀಮಿಂಗ್ ಮಾಡಲು ನನ್ನನ್ನು ಕೇಳಲಾಗುತ್ತದೆಯೇ?
ಉತ್ತರ: ಇಲ್ಲ. ನಿರ್ದಿಷ್ಟ ರೆಡ್ ಟೀಮಿಂಗ್ ಯೋಜನೆಗೆ ಯಾರು ಸೂಕ್ತರು ಎಂಬುದರ ಆಧಾರದ ಮೇಲೆ OpenAI ಆಯ್ಕೆ ಮಾಡುತ್ತದೆ. ಪ್ರತಿ ಹೊಸ ಮಾಡೆಲ್ ಅನ್ನು ಪರೀಕ್ಷಿಸುವ ಅವಕಾಶ ಸಿಗುತ್ತದೆ ಎಂದು ನಿರೀಕ್ಷಿಸಬಾರದು.
ಪ್ರಶ್ನೆ: ಜಾಲದ ಸದಸ್ಯರ ಆಯ್ಕೆಯಲ್ಲಿ ನೀವು ಪರಿಗಣಿಸುವ ಕೆಲವು ಮಾನದಂಡಗಳು ಯಾವುವು?
ಉತ್ತರ: ನಾವು ಪರಿಗಣಿಸುವ ಕೆಲವು ಮಾನದಂಡಗಳು:
ರೆಡ್ ಟೀಮಿಂಗ್‌ಗೆ ಸಂಬಂಧಿಸಿದ ನಿರ್ದಿಷ್ಟ ಕ್ಷೇತ್ರದಲ್ಲಿ ಸಾಬೀತಾದ ಪರಿಣತಿ ಅಥವಾ ಅನುಭವ
ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆಯ ಸುರಕ್ಷತೆಯನ್ನು ಸುಧಾರಿಸುವ ಬಗ್ಗೆ ಉತ್ಸಾಹ
ಹಿತಾಸಕ್ತಿಗಳ ಸಂಘರ್ಷ ಇಲ್ಲದಿರುವುದು
ವೈವಿಧ್ಯಮಯ ಹಿನ್ನೆಲೆಗಳು ಮತ್ತು ಈವರೆಗೆ ಕಡಿಮೆ ಪ್ರಾತಿನಿಧ್ಯ ಪಡೆದ ಗುಂಪುಗಳು
ವಿವಿಧ ಭೌಗೋಳಿಕ ಪ್ರದೇಶಗಳ ಪ್ರಾತಿನಿಧ್ಯ
ಒಂದಕ್ಕಿಂತ ಹೆಚ್ಚು ಭಾಷೆಗಳಲ್ಲಿ ನಿರರ್ಗಳತೆ
ತಾಂತ್ರಿಕ ಸಾಮರ್ಥ್ಯ (ಕಡ್ಡಾಯವಲ್ಲ)
ಪ್ರಶ್ನೆ: ಸುರಕ್ಷತೆಗಾಗಿ ಸಹಕರಿಸಲು ಬೇರೆ ಯಾವ ಅವಕಾಶಗಳಿವೆ?
ಉತ್ತರ: ಜಾಲವನ್ನು ಸೇರುವುದರ ಹೊರತಾಗಿಯೂ, ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆಯ ಸುರಕ್ಷತೆಗೆ ಕೊಡುಗೆ ನೀಡಲು ಇತರ ಸಹಯೋಗದ ಅವಕಾಶಗಳಿವೆ. ಉದಾಹರಣೆಗೆ, ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆ ವ್ಯವಸ್ಥೆಗಳ ಸುರಕ್ಷತಾ ಮೌಲ್ಯಮಾಪನಗಳನ್ನು ರೂಪಿಸುವುದು ಅಥವಾ ನಡೆಸುವುದು ಮತ್ತು ಫಲಿತಾಂಶಗಳನ್ನು ವಿಶ್ಲೇಷಿಸುವುದು ಒಂದು ಆಯ್ಕೆಯಾಗಿದೆ.
ಈ ಪ್ರಕ್ರಿಯೆಯನ್ನು ಸುಲಭವಾಗಿ ಆರಂಭಿಸಲು OpenAI ಯ ಮುಕ್ತ ಮೂಲದ Evals(ಹೊಸ ಕಿಟಕಿಯಲ್ಲಿ ತೆರೆಯುತ್ತದೆ) ರಿಪೊಸಿಟರಿಯು ಬಳಕೆಗೆ ಸುಲಭವಾದ ಮಾದರಿಗಳು ಮತ್ತು ವಿಧಾನಗಳ ಉದಾಹರಣೆಗಳನ್ನು ಒದಗಿಸುತ್ತದೆ. ಇದನ್ನು GPT‑4 ಬಿಡುಗಡೆಯ ಭಾಗವಾಗಿ ಬಿಡುಗಡೆ ಮಾಡಲಾಯಿತು.
ಮೌಲ್ಯಮಾಪನಗಳು ಸರಳ ಪ್ರಶ್ನೋತ್ತರ ಪರೀಕ್ಷೆಗಳಿಂದ ಹಿಡಿದು ಹೆಚ್ಚು ಸಂಕೀರ್ಣ ಅನುಕರಣಗಳವರೆಗೆ ಇರಬಹುದು. ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆಯ ವರ್ತನೆಗಳನ್ನು ಹಲವು ದೃಷ್ಟಿಕೋನಗಳಿಂದ ಮೌಲ್ಯಮಾಪನ ಮಾಡಲು OpenAI ಅಭಿವೃದ್ಧಿಪಡಿಸಿದ ಕೆಲವು ಮೌಲ್ಯಮಾಪನಗಳ ಉದಾಹರಣೆಗಳು ಇಲ್ಲಿವೆ:
ಮನವೊಲಿಕೆ
MakeMeSay(ಹೊಸ ಕಿಟಕಿಯಲ್ಲಿ ತೆರೆಯುತ್ತದೆ): ಒಂದು ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆ ವ್ಯವಸ್ಥೆಯು ಮತ್ತೊಂದು ವ್ಯವಸ್ಥೆಯನ್ನು ವಂಚಿಸಿ ರಹಸ್ಯ ಪದವನ್ನು ಹೇಳಿಸುವಲ್ಲಿ ಎಷ್ಟು ಯಶಸ್ವಿಯಾಗಬಲ್ಲದು?
MakeMePay(ಹೊಸ ಕಿಟಕಿಯಲ್ಲಿ ತೆರೆಯುತ್ತದೆ): ಹಣ ದಾನ ಮಾಡುವಂತೆ ಮತ್ತೊಂದು ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆ ವ್ಯವಸ್ಥೆಯ ಮನವೊಲಿಸುವಲ್ಲಿ ಒಂದು ವ್ಯವಸ್ಥೆಯು ಎಷ್ಟು ಯಶಸ್ವಿಯಾಗಬಲ್ಲದು?
ಮತದಾನ ಪ್ರಸ್ತಾವನೆ(ಹೊಸ ಕಿಟಕಿಯಲ್ಲಿ ತೆರೆಯುತ್ತದೆ): ರಾಜಕೀಯ ಪ್ರಸ್ತಾವನೆಗೆ ಮತ್ತೊಂದು ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆ ವ್ಯವಸ್ಥೆ ನೀಡುವ ಬೆಂಬಲವನ್ನು ಒಂದು ವ್ಯವಸ್ಥೆಯು ಎಷ್ಟರ ಮಟ್ಟಿಗೆ ಪ್ರಭಾವಿಸಬಲ್ಲದು?
ಸಂದೇಶ ಮರೆಮಾಚುವಿಕೆ (ಗುಪ್ತ ಸಂದೇಶ ರವಾನೆ)
ಸಂದೇಶ ಮರೆಮಾಚುವಿಕೆ(ಹೊಸ ಕಿಟಕಿಯಲ್ಲಿ ತೆರೆಯುತ್ತದೆ): ಮತ್ತೊಂದು ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆ ವ್ಯವಸ್ಥೆಯ ಪತ್ತೆಗೆ ಸಿಗದೆ ರಹಸ್ಯ ಸಂದೇಶಗಳನ್ನು ರವಾನಿಸುವಲ್ಲಿ ಒಂದು ವ್ಯವಸ್ಥೆಯು ಎಷ್ಟು ಯಶಸ್ವಿಯಾಗಬಲ್ಲದು?
ಪಠ್ಯ ಸಂಕುಚನ(ಹೊಸ ಕಿಟಕಿಯಲ್ಲಿ ತೆರೆಯುತ್ತದೆ): ರಹಸ್ಯ ಸಂದೇಶಗಳನ್ನು ಮರೆಮಾಡಲು ಅನುವಾಗುವಂತೆ, ಒಂದು ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆ ವ್ಯವಸ್ಥೆಯು ಸಂದೇಶಗಳನ್ನು ಎಷ್ಟು ಚೆನ್ನಾಗಿ ಸಂಕುಚಿಸಬಲ್ಲದು ಮತ್ತು ಮೂಲರೂಪಕ್ಕೆ ತರಬಲ್ಲದು?
ಶೆಲ್ಲಿಂಗ್ ಬಿಂದು(ಹೊಸ ಕಿಟಕಿಯಲ್ಲಿ ತೆರೆಯುತ್ತದೆ): ನೇರ ಸಂವಹನವಿಲ್ಲದೆ ಒಂದು ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆ ವ್ಯವಸ್ಥೆಯು ಮತ್ತೊಂದು ವ್ಯವಸ್ಥೆಯೊಂದಿಗೆ ಎಷ್ಟು ಚೆನ್ನಾಗಿ ಸಮನ್ವಯ ಸಾಧಿಸಬಲ್ಲದು?
ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆ ವ್ಯವಸ್ಥೆಗಳ ಮೌಲ್ಯಮಾಪನದಲ್ಲಿ ಸೃಜನಶೀಲತೆ ಮತ್ತು ಪ್ರಯೋಗಶೀಲತೆಯನ್ನು ನಾವು ಪ್ರೋತ್ಸಾಹಿಸುತ್ತೇವೆ. ನಿಮ್ಮ ಮೌಲ್ಯಮಾಪನ ಪೂರ್ಣಗೊಂಡ ನಂತರ, ವಿಶಾಲ ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆ ಸಮುದಾಯದ ಬಳಕೆಗಾಗಿ ಅದನ್ನು ಮುಕ್ತ ಮೂಲದ Evals(ಹೊಸ ಕಿಟಕಿಯಲ್ಲಿ ತೆರೆಯುತ್ತದೆ) ರಿಪೊಸಿಟರಿಗೆ ಕೊಡುಗೆಯಾಗಿ ನೀಡಲು ನಿಮ್ಮನ್ನು ಆಹ್ವಾನಿಸುತ್ತೇವೆ.
ನೀವು ನಮ್ಮ ಸಂಶೋಧಕರ ಪ್ರವೇಶ ಕಾರ್ಯಕ್ರಮಕ್ಕೂ ಅರ್ಜಿ ಸಲ್ಲಿಸಬಹುದು. ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆಯನ್ನು ಜವಾಬ್ದಾರಿಯುತವಾಗಿ ಬಳಕೆಗೆ ತರುವುದು ಮತ್ತು ಅದಕ್ಕೆ ಸಂಬಂಧಿಸಿದ ಅಪಾಯಗಳನ್ನು ತಗ್ಗಿಸುವ ಕ್ಷೇತ್ರಗಳಲ್ಲಿ ನಮ್ಮ ಉತ್ಪನ್ನಗಳನ್ನು ಬಳಸಿ ಅಧ್ಯಯನ ನಡೆಸುವ ಸಂಶೋಧಕರಿಗೆ ಈ ಕಾರ್ಯಕ್ರಮವು ಕ್ರೆಡಿಟ್‌ಗಳನ್ನು ಒದಗಿಸುತ್ತದೆ.
ಅಡಿಟಿಪ್ಪಣಿಗಳು
- A
ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆ ವ್ಯವಸ್ಥೆಗಳ ಅಪಾಯವನ್ನು ಮೌಲ್ಯಮಾಪನ ಮಾಡುವ ವ್ಯಾಪಕ ವಿಧಾನಗಳನ್ನು ಸೂಚಿಸಲು ರೆಡ್ ಟೀಮಿಂಗ್ ಎಂಬ ಪದವನ್ನು ಬಳಸಲಾಗುತ್ತಿದೆ. ಇವುಗಳಲ್ಲಿ ಸಾಮರ್ಥ್ಯಗಳನ್ನು ಗುಣಾತ್ಮಕವಾಗಿ ಗುರುತಿಸುವುದು, ಅಪಾಯ ತಗ್ಗಿಸುವ ಕ್ರಮಗಳನ್ನು ತೀವ್ರ ಒತ್ತಡಕ್ಕೆ ಒಳಪಡಿಸಿ ಪರೀಕ್ಷಿಸುವುದು, ಭಾಷಾ ಮಾಡೆಲ್‌ಗಳ ಮೂಲಕ ಸ್ವಯಂಚಾಲಿತ ರೆಡ್ ಟೀಮಿಂಗ್ ನಡೆಸುವುದು, ನಿರ್ದಿಷ್ಟ ದುರ್ಬಲತೆಯ ಅಪಾಯದ ಪ್ರಮಾಣದ ಕುರಿತು ಪ್ರತಿಕ್ರಿಯೆ ನೀಡುವುದು ಮುಂತಾದವು ಸೇರಿವೆ. “ರೆಡ್ ಟೀಮ್” ಎಂಬ ಪದಕ್ಕೆ ಸಂಬಂಧಿಸಿದ ಗೊಂದಲವನ್ನು ಕಡಿಮೆ ಮಾಡಲು, ನಮ್ಮ ವಿಧಾನಗಳ ಬಗ್ಗೆ ಓದುವವರಿಗೆ ಅವುಗಳ ಸಂದರ್ಭ ಮತ್ತು ಅರ್ಥವನ್ನು ಉತ್ತಮವಾಗಿ ತಿಳಿಸಲು, ಹಾಗೂ ಮುಖ್ಯವಾಗಿ ತಪ್ಪು ಭರವಸೆಗಳನ್ನು ನೀಡುವುದನ್ನು ತಪ್ಪಿಸಲು ನಾವು ಹೆಚ್ಚು ಸ್ಪಷ್ಟವಾದ ಪರಿಭಾಷೆಯನ್ನು ಅಳವಡಿಸಿಕೊಳ್ಳಲು ಪ್ರಯತ್ನಿಸುತ್ತಿದ್ದೇವೆ. ಇದಕ್ಕೆ ಖಲಾಫ್, 2023(ಹೊಸ ಕಿಟಕಿಯಲ್ಲಿ ತೆರೆಯುತ್ತದೆ) ರಲ್ಲಿ ನೀಡಲಾದ ಸಲಹೆಯನ್ನು ಅನುಸರಿಸುತ್ತಿದ್ದೇವೆ. ಆದರೂ, ಸರಳತೆಗಾಗಿ ಮತ್ತು ನಮ್ಮ ಸಹಯೋಗಿಗಳೊಂದಿಗೆ ಬಳಸಿದ ಭಾಷೆಗೆ ಹೊಂದಿಕೆಯಾಗುವಂತೆ “ರೆಡ್ ಟೀಮ್” ಎಂಬ ಪದವನ್ನು ಬಳಸುತ್ತೇವೆ.
- B
- C
ನಮ್ಮ ವ್ಯವಸ್ಥೆಗಳ ಅಪಾಯದ ಸ್ವರೂಪದ ಕುರಿತು ಬಗ್ ಬೌಂಟಿ ಪ್ರೋಗ್ರಾಂ ಮತ್ತು ChatGPT ಪ್ರತಿಕ್ರಿಯೆ ಸ್ಪರ್ಧೆಯಂತಹ ಇತರ ಮಾರ್ಗಗಳ ಮೂಲಕವೂ ನಾವು ಪ್ರತಿಕ್ರಿಯೆಗಳನ್ನು ಪಡೆದಿದ್ದೇವೆ.
