ಮುಖ್ಯ ವಿಷಯಕ್ಕೆ ನೇರವಾಗಿ ಹೋಗಿ
OpenAI

ಜುಲೈ 21, 2026

ಭದ್ರತೆ

ಮಾಡೆಲ್ ಮೌಲ್ಯಮಾಪನದ ವೇಳೆ ನಡೆದ ಭದ್ರತಾ ಘಟನೆಯನ್ನು ಪರಿಹರಿಸಲು OpenAI ಮತ್ತು Hugging Face ಪಾಲುದಾರಿಕೆ

ಲೋಡ್ ಆಗುತ್ತಿದೆ…

ಕಳೆದ ವಾರ, ತಮ್ಮ ಮೂಲಸೌಕರ್ಯವನ್ನು ಅಪಾಯಕ್ಕೆ ಸಿಲುಕಿಸಿದ್ದ ಒಂದು AI ಏಜೆಂಟ್ ಅನ್ನು ಪತ್ತೆಹಚ್ಚಿ ನಿಯಂತ್ರಿಸಿದ ನಂತರ Hugging Face ಹೊಸ ರೀತಿಯ ಭದ್ರತಾ ಘಟನೆಯನ್ನು ಬಹಿರಂಗಪಡಿಸಿತು(ಹೊಸ ಕಿಟಕಿಯಲ್ಲಿ ತೆರೆಯುತ್ತದೆ); ಹೆಚ್ಚುತ್ತಿರುವ ಸೈಬರ್-ಸಾಮರ್ಥ್ಯದ ಮಾಡೆಲ್‌ಗಳ ವ್ಯಾಪಕ ಬಳಕೆಯೊಂದಿಗೆ ಇಂತಹವುಗಳು ಇನ್ನಷ್ಟು ಸಾಮಾನ್ಯವಾಗುತ್ತವೆ ಎಂದು ನಾವು ನಿರೀಕ್ಷಿಸುತ್ತೇವೆ. ತನಿಖೆಯ ನಂತರ, ಸೈಬರ್ ಸಾಮರ್ಥ್ಯಗಳ ಬೆಂಚ್‌ಮಾರ್ಕ್(ಹೊಸ ಕಿಟಕಿಯಲ್ಲಿ ತೆರೆಯುತ್ತದೆ) ಮೇಲೆ ಆಂತರಿಕವಾಗಿ ಪರೀಕ್ಷಿಸಲಾಗುತ್ತಿದ್ದಾಗ ಈ ನಿರ್ದಿಷ್ಟ ಘಟನೆಗೆ OpenAI ಮಾಡೆಲ್‌ಗಳ ಸಂಯೋಜನೆಯೇ ಕಾರಣವೆಂದು ಈಗ ನಮಗೆ ತಿಳಿದಿದೆ — ಇದರಲ್ಲಿ GPT‑5.6 Sol ಮತ್ತು ಇನ್ನೂ ಹೆಚ್ಚು ಸಮರ್ಥವಾದ ಬಿಡುಗಡೆಪೂರ್ವ ಮಾಡೆಲ್ ಸೇರಿದ್ದು, ಮೌಲ್ಯಮಾಪನ ಉದ್ದೇಶಗಳಿಗಾಗಿ ಎಲ್ಲದರಲ್ಲೂ ಸೈಬರ್ ನಿರಾಕರಣೆಗಳನ್ನು ಕಡಿಮೆ ಮಾಡಲಾಗಿತ್ತು.

ಅತ್ಯಾಧುನಿಕ ಸೈಬರ್ ಸಾಮರ್ಥ್ಯಗಳನ್ನು ಒಳಗೊಂಡಿರುವ ಈ ಘಟನೆಯನ್ನು ನಾವು ಅಭೂತಪೂರ್ವ ಸೈಬರ್ ಘಟನೆ ಎಂದು ಪರಿಗಣಿಸುತ್ತಿದ್ದೇವೆ ಮತ್ತು ಅದಕ್ಕೆ ತಕ್ಕಂತೆ ಪ್ರತಿಕ್ರಿಯಿಸುತ್ತಿದ್ದೇವೆ. ಏನಾಯಿತು ಎಂಬುದನ್ನು ರಕ್ಷಕರು ಅರ್ಥಮಾಡಿಕೊಳ್ಳಲು ಮತ್ತು ಮಾಡೆಲ್‌ಗಳು ಈಗ ಏನು ಮಾಡಲು ಸಮರ್ಥವಾಗಿವೆ ಎಂಬುದರ ಬಗ್ಗೆ ಸೂಕ್ತ ಅಂದಾಜು ಮಾಡಿಕೊಳ್ಳಲು ಸಹಾಯವಾಗಲೆಂದು ಈ ಹಂತದಲ್ಲಿ ನಾವು ಪ್ರಾಥಮಿಕ ಕಂಡುಹಿಡಿಕೆಗಳನ್ನು ಹಂಚಿಕೊಳ್ಳುತ್ತಿದ್ದೇವೆ. ನಾವು Hugging Face ಜೊತೆಗೆ ಸಮಗ್ರ ತನಿಖೆಯನ್ನು ಮುಂದುವರಿಸುತ್ತೇವೆ ಮತ್ತು ನಮ್ಮ ತನಿಖೆ ಪೂರ್ಣಗೊಂಡ ನಂತರ ದುರ್ಬಲತೆಗಳು, ಘಟನೆ ಮತ್ತು ಕಂಡುಹಿಡಿಕೆಗಳ ಕುರಿತು ಹೆಚ್ಚಿನ ವಿವರಗಳನ್ನು ಹಂಚಿಕೊಳ್ಳುತ್ತೇವೆ.

ಈ ಘಟನೆಯ ವೇಳೆ ಏನಾಯಿತು

ಮಾಡೆಲ್‌ಗಳ ಸೈಬರ್ ಸಾಮರ್ಥ್ಯಗಳನ್ನು ಅಳೆಯುವ ಪ್ರಯತ್ನವಾಗಿ, ಸಂಕೀರ್ಣ ದಾಳಿ ಮಾರ್ಗಗಳನ್ನು ಬಳಸಿ ಮುಂದುವರಿದ ದುರ್ಬಳಕೆಯನ್ನು ಅನುಸರಿಸಲು ಅವುಗಳಿಗೆ ಪ್ರಾಂಪ್ಟ್ ನೀಡುವ ಆಂತರಿಕ ಮೌಲ್ಯಮಾಪನದ ಸಮಯದಲ್ಲಿ ಈ ಘಟನೆ ಸಂಭವಿಸಿತು. ಹೆಚ್ಚು-ಅಪಾಯದ ಸೈಬರ್ ಚಟುವಟಿಕೆಯನ್ನು ಮಾಡೆಲ್‌ಗಳು ಅನುಸರಿಸುವುದನ್ನು ತಡೆಯಲು ಬಳಸುವ ಪ್ರೊಡಕ್ಷನ್ ವರ್ಗೀಕರಕಗಳಿಲ್ಲದೆ ಈ ಮೌಲ್ಯಮಾಪನವನ್ನು ನಡೆಸುವ ಮೂಲಕ ನಾವು ಗರಿಷ್ಠ ಸೈಬರ್ ಸಾಮರ್ಥ್ಯಗಳನ್ನು ಅಂದಾಜಿಸುತ್ತೇವೆ. ನಮ್ಮ ಬೆಂಚ್‌ಮಾರ್ಕ್‌ಗಳು ಅತ್ಯಂತ ಪ್ರತ್ಯೇಕಿತ ಪರಿಸರದಲ್ಲಿ ನಡೆಯುತ್ತವೆ; ನೆಟ್‌ವರ್ಕ್ ಪ್ರವೇಶವನ್ನು ಪ್ಯಾಕೇಜ್ ರಿಜಿಸ್ಟ್ರಿಗಳಿಗಾಗಿ ಪ್ರಾಕ್ಸಿ ಮತ್ತು ಕ್ಯಾಶ್ ಆಗಿ ಕಾರ್ಯನಿರ್ವಹಿಸುವ ಆಂತರಿಕವಾಗಿ ಹೋಸ್ಟ್ ಮಾಡಿದ ಮೂರನೇ-ಪಕ್ಷದ ಸಾಫ್ಟ್‌ವೇರ್ ಮೂಲಕ ಪ್ಯಾಕೇಜ್‌ಗಳನ್ನು ಸ್ಥಾಪಿಸುವ ಸಾಮರ್ಥ್ಯಕ್ಕೆ ಮಾತ್ರ ಸೀಮಿತಗೊಳಿಸಲಾಗಿದೆ.

OpenAI ಯ ಸಂಶೋಧನಾ ಪರಿಸರ ಮತ್ತು Hugging Face ನ ಪ್ರೊಡಕ್ಷನ್ ಮೂಲಸೌಕರ್ಯದಲ್ಲಿ ಇರುವ ದುರ್ಬಲತೆಗಳನ್ನು ಮಾಡೆಲ್‌ಗಳು ಗುರುತಿಸಿ ಸರಣಿಯಾಗಿ ಜೋಡಿಸಿ, Hugging Face ನ ಪ್ರೊಡಕ್ಷನ್ ಡೇಟಾಬೇಸ್‌ನಿಂದ ನೇರವಾಗಿ ಪರೀಕ್ಷಾ ಪರಿಹಾರಗಳನ್ನು ಪಡೆದವು. ಎಲ್ಲ ಸಾಕ್ಷ್ಯವೂ ಮಾಡೆಲ್‌ಗಳು ExploitGym ಗಾಗಿ ಪರಿಹಾರವನ್ನು ಕಂಡುಹಿಡಿಯುವುದರ ಮೇಲೆ ಅತಿಯಾದ ಗಮನ ಕೇಂದ್ರೀಕರಿಸಿದ್ದವು ಮತ್ತು ತುಂಬಾ ಸೀಮಿತವಾದ ಪರೀಕ್ಷಾ ಗುರಿಯನ್ನು ಸಾಧಿಸಲು ಅತಿರೇಕದ ಪ್ರಯತ್ನ ಮಾಡಿದ್ದವು ಎಂದು ಸೂಚಿಸುತ್ತದೆ.

ನಮ್ಮ ಸ್ಯಾಂಡ್‌ಬಾಕ್ಸ್ ಪರೀಕ್ಷಾ ಪರಿಸರದಲ್ಲಿ ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತಿದ್ದಾಗ, ಮೌಲ್ಯಮಾಪನ ಸಮಸ್ಯೆಯನ್ನು ಪರಿಹರಿಸುವ ಉದ್ದೇಶದಿಂದ ಮುಕ್ತ ಇಂಟರ್ನೆಟ್ ಪ್ರವೇಶ ಪಡೆಯುವ ಮಾರ್ಗವನ್ನು ಹುಡುಕಲು ನಮ್ಮ ಮಾಡೆಲ್‌ಗಳು ಗಣನೀಯ ಪ್ರಮಾಣದ ಇನ್ಫರೆನ್ಸ್ ಕಂಪ್ಯೂಟ್ ಬಳಸಿದವು. ಪ್ರವೇಶ ಪಡೆಯಲು, ಮಾಡೆಲ್‌ಗಳು ಪ್ಯಾಕೇಜ್ ರಿಜಿಸ್ಟ್ರಿ ಕ್ಯಾಶ್ ಪ್ರಾಕ್ಸಿಯಲ್ಲಿ ಝೀರೋ-ಡೆ ದುರ್ಬಲತೆಯನ್ನು ಗುರುತಿಸಿ ದುರ್ಬಳಕೆ ಮಾಡಿವೆ; ಅದನ್ನು ನಾವು ಈಗ ಮಾರಾಟಗಾರರಿಗೆ ಜವಾಬ್ದಾರಿಯುತವಾಗಿ ಬಹಿರಂಗಪಡಿಸಿದ್ದೇವೆ. ಈ ಪ್ರವೇಶದಿಂದ, ಇಂಟರ್ನೆಟ್ ಪ್ರವೇಶವಿರುವ ನೋಡ್‌ಗೆ ತಲುಪುವವರೆಗೆ ನಮ್ಮ ಮಾಡೆಲ್‌ಗಳು ನಮ್ಮ ಸಂಶೋಧನಾ ಪರೀಕ್ಷಾ ಪರಿಸರದಲ್ಲಿ ಹಕ್ಕು ಏರಿಕೆ ಮತ್ತು ಪಾರ್ಶ್ವ ಚಲನೆಯ ಕ್ರಮಗಳ ಸರಣಿಯನ್ನು ನಡೆಸಿದವು.

ಇಂಟರ್ನೆಟ್ ಪ್ರವೇಶ ಪಡೆದ ನಂತರ, Hugging Face ಬಹುಶಃ ExploitGym ಗಾಗಿ ಮಾಡೆಲ್‌ಗಳು, ಡೇಟಾಸೆಟ್‌ಗಳು ಮತ್ತು ಪರಿಹಾರಗಳನ್ನು ಹೋಸ್ಟ್ ಮಾಡಿರಬಹುದು ಎಂದು ಮಾಡೆಲ್‌ಗಳು ಊಹಿಸಿದವು. ಇದನ್ನು ತಿಳಿದ ನಂತರ, ಮೌಲ್ಯಮಾಪನದಲ್ಲಿ ಮೋಸ ಮಾಡಲು ಬಳಸಬಹುದಾದ ರಹಸ್ಯ ಮಾಹಿತಿಗೆ ಪ್ರವೇಶ ಪಡೆಯುವ ಮಾರ್ಗಗಳನ್ನು ಮಾಡೆಲ್ ಹುಡುಕಿತು ಮತ್ತು ಯಶಸ್ವಿಯಾಗಿ ಕಂಡುಹಿಡಿಯಿತು. ಒಂದು ಉದಾಹರಣೆಯಲ್ಲಿ, ಕಳವು ಮಾಡಿದ ಪ್ರಮಾಣಪತ್ರಗಳು ಮತ್ತು ಝೀರೋ-ಡೆ ದುರ್ಬಲತೆಗಳನ್ನು ಬಳಸುವುದೂ ಸೇರಿದಂತೆ, Hugging Face ಸರ್ವರ್‌ಗಳಲ್ಲಿ ದೂರಸ್ಥ ಕೋಡ್ ಕಾರ್ಯಗತಗೊಳಿಸುವ ಮಾರ್ಗವನ್ನು ಕಂಡುಹಿಡಿಯಲು ಮಾಡೆಲ್ ಅನೇಕ ದಾಳಿ ಮಾರ್ಗಗಳನ್ನು ಸರಣಿಯಾಗಿ ಜೋಡಿಸಿತು. OpenAI ಯ ಭದ್ರತಾ ತಂಡವು ಈ ಅಸಾಮಾನ್ಯ ಚಟುವಟಿಕೆಯನ್ನು ಆಂತರಿಕವಾಗಿ ಕಂಡುಹಿಡಿಯಿತು.

Hugging Face ನ ಭದ್ರತಾ ತಂಡ ಮತ್ತು ಏಜೆಂಟ್‌ಗಳು ತಮ್ಮ ಮೂಲಸೌಕರ್ಯದಲ್ಲಿನ ಚಟುವಟಿಕೆಯನ್ನು ಪತ್ತೆಹಚ್ಚಿ ನಿಲ್ಲಿಸಿದವು ಮತ್ತು ನಮ್ಮ ತಂಡಗಳು ಸಂಪರ್ಕಿಸುವಷ್ಟರಲ್ಲಿ ತಮ್ಮದೇ ಮುಕ್ತ-ಮೂಲ ಮಾಡೆಲ್‌ಗಳೊಂದಿಗೆ ನಿಯಂತ್ರಣ ಮತ್ತು ಫೊರೆನ್ಸಿಕ್ ಪುನರ್‌ರಚನೆಯನ್ನು ಈಗಾಗಲೇ ಪ್ರಾರಂಭಿಸಿದ್ದವು. ಘಟನೆಯ ತನಿಖೆಯನ್ನು ಮುಂದುವರಿಸಲು ನಾವು ಅವರೊಂದಿಗೆ ಸಕ್ರಿಯವಾಗಿ ಕೆಲಸ ಮಾಡುತ್ತಿದ್ದೇವೆ. ತನಿಖೆ ಮತ್ತು ಪರಿಹಾರ ಕ್ರಮಗಳಲ್ಲಿ Hugging Face ತೋರಿದ ತ್ವರಿತ ಮತ್ತು ನಿಕಟ ಸಹಕಾರಕ್ಕಾಗಿ ನಾವು ಕೃತಜ್ಞರಾಗಿದ್ದೇವೆ.

ನಾವು ಈಗ ಕೈಗೊಳ್ಳುತ್ತಿರುವ ಕ್ರಮಗಳು

  1. ತನಿಖೆಯ ಭಾಗವಾಗಿ, ದುರ್ಬಲತೆಗಳನ್ನು ಸರಿಪಡಿಸುವವರೆಗೆ ಸಂಶೋಧನೆಯ ವೇಗವನ್ನು ಕಡಿಮೆ ಮಾಡಬೇಕಾದರೂ ಮೂಲಸೌಕರ್ಯ ಸಂರಚನೆಯಲ್ಲಿ ನಾವು ಕಟ್ಟುನಿಟ್ಟಿನ ನಿಯಂತ್ರಣಗಳನ್ನು ಜಾರಿಗೆ ತರುತ್ತಿದ್ದೇವೆ. ಈ ನಿಯಂತ್ರಣಗಳು ಮತ್ತು ಅವುಗಳ ಪರಿಣಾಮಗಳ ಕುರಿತು ನಾವು ನಮ್ಮ ಸುರಕ್ಷತೆ ಮತ್ತು ಭದ್ರತಾ ಸಮಿತಿಗೆ ನಿಯಮಿತವಾಗಿ ಮಾಹಿತಿ ನೀಡುತ್ತಿದ್ದೇವೆ.
  2. ಘಟನೆಯ ಫೊರೆನ್ಸಿಕ್ ತನಿಖೆ ನಡೆಸಲು ನಾವು Hugging Face ಜೊತೆ ಕೆಲಸ ಮಾಡುತ್ತಿದ್ದೇವೆ.
  3. ಆಂತರಿಕವಾಗಿ ಹೋಸ್ಟ್ ಮಾಡಲಾದ ಮೂರನೇ-ಪಕ್ಷದ ಸಾಫ್ಟ್‌ವೇರ್‌ನಲ್ಲಿ ಗುರುತಿಸಲಾದ ಝೀರೋ-ಡೆ ದುರ್ಬಲತೆಯನ್ನು ನಾವು ಜವಾಬ್ದಾರಿಯುತವಾಗಿ ಬಹಿರಂಗಪಡಿಸಿದ್ದೇವೆ ಮತ್ತು ಅದನ್ನು ಸರಿಪಡಿಸಲು ಅವರೊಂದಿಗೆ ಕೆಲಸ ಮಾಡುತ್ತಿದ್ದೇವೆ.
  4. ನಾವು Hugging Face ಅನ್ನು ವಿಶ್ವಾಸಾರ್ಹ ಪ್ರವೇಶ ಕಾರ್ಯಕ್ರಮಕ್ಕೆ ಸೇರಿಸಿದ್ದೇವೆ ಮತ್ತು ಅವರ ರಕ್ಷಣೆಯನ್ನು ಸುಧಾರಿಸಲು ನಮ್ಮ ಮಾಡೆಲ್‌ಗಳ ಸಾಮರ್ಥ್ಯಗಳನ್ನು ವೇಗವಾಗಿ ಬಳಸಲು ಅವರ ತಂಡಗಳಿಗೆ ಬೆಂಬಲ ನೀಡುತ್ತಿದ್ದೇವೆ.
  5. ಭವಿಷ್ಯದ ತರಬೇತಿ ಮತ್ತು ಮೌಲ್ಯಮಾಪನಗಳ ಸುತ್ತಲಿನ ರಕ್ಷಣೆಯನ್ನು ನಾವು ಸುಧಾರಿಸುತ್ತಿದ್ದೇವೆ ಮತ್ತು ಇನ್ನಷ್ಟು ಬಲಪಡಿಸುತ್ತಿದ್ದೇವೆ. ಈ ವಾರ, ನಾವು ದೀರ್ಘ ಕಾಲಾವಧಿಯ ಮಾಡೆಲ್‌ಗಳ ಯುಗದಲ್ಲಿ ಸುರಕ್ಷತೆ ಮತ್ತು ಹೊಂದಾಣಿಕೆಯನ್ನು ಸುಧಾರಿಸುವುದು ಕುರಿತು ಬ್ಲಾಗ್ ಪ್ರಕಟಿಸಿದ್ದೇವೆ. ಈ ಮೌಲ್ಯಮಾಪನವು ಸೈಬರ್ ದುರ್ಬಲತೆಗಳನ್ನು ಪರೀಕ್ಷಿಸುವ ಉದ್ದೇಶದ್ದಾಗಿದ್ದರಿಂದ, ಈ ನಿಯೋಜನಾ ರಕ್ಷಣೆಗಳನ್ನು ಉದ್ದೇಶಪೂರ್ವಕವಾಗಿ ಸಕ್ರಿಯಗೊಳಿಸಲಾಗಿರಲಿಲ್ಲ. ಈ ಘಟನೆ ನಮ್ಮ ಮಾಡೆಲ್‌ನ ಹೊಂದಾಣಿಕೆ, ಮೌಲ್ಯಮಾಪನದ ಸಮಯದ ಸೈಬರ್ ರಕ್ಷಣೆಗಳು, ಮತ್ತು ಆಂತರಿಕ ಪರೀಕ್ಷೆಯ ಮೇಲ್ವಿಚಾರಣೆಯನ್ನು ಇನ್ನಷ್ಟು ಬಲಪಡಿಸುವ ಅಗತ್ಯವನ್ನು ತೋರಿಸುತ್ತದೆ.

ಮುಂದುವರಿದ ಸೈಬರ್ ಸಾಮರ್ಥ್ಯಗಳನ್ನು ಮೌಲ್ಯಮಾಪನ ಮಾಡುವ ನಮ್ಮ ವಿಧಾನ

ನಾವು ಇತ್ತೀಚೆಗೆ ಹಂಚಿಕೊಂಡಂತೆ, AI ದುರ್ಬಲತೆಗಳ ಪತ್ತೆ ಮತ್ತು ದುರ್ಬಳಕೆಯನ್ನು ವೇಗಗೊಳಿಸುತ್ತಿದೆ. ಈ ಘಟನೆಯ ಪ್ರಮುಖ ಪಾಠವೆಂದರೆ ಮಾಡೆಲ್ ಭದ್ರತೆ ಮತ್ತು ಸುರಕ್ಷತೆ ವೇಗವಾಗಿ ಮುಂದುವರಿಯುತ್ತಿರುವ ಸಾಮರ್ಥ್ಯಗಳಿಗೆ ಸಮವಾಗಿ ಸಾಗಬೇಕು. ಮಾಡೆಲ್ ಅಭಿವೃದ್ಧಿಯ ವೇಳೆ ಬಳಸುವ ನಿಯಂತ್ರಣ, ಮೇಲ್ವಿಚಾರಣೆ, ಪ್ರವೇಶ ನಿಯಂತ್ರಣಗಳು ಮತ್ತು ಮೌಲ್ಯಮಾಪನ ಕ್ರಮಗಳನ್ನು ನಾವು ಬಲಪಡಿಸುತ್ತಿದ್ದೇವೆ.

GPT‑5.6 Sol ನಂತಹ ಮಾಡೆಲ್‌ಗಳು ದೀರ್ಘ ಕಾಲಾವಧಿಗಳಲ್ಲಿ ಸಂಕೀರ್ಣ, ಬಹು-ಹಂತದ ಸೈಬರ್ ಕಾರ್ಯಾಚರಣೆಗಳನ್ನು ನಿರಂತರವಾಗಿ ನಡೆಸಲು ಹೆಚ್ಚಾಗಿ ಸಮರ್ಥವಾಗುತ್ತಿವೆ ಎಂದು UK AISI ಮೌಲ್ಯಮಾಪನ ತೋರಿಸುತ್ತದೆ. ಈ ಸೈದ್ಧಾಂತಿಕ ಸಾಮರ್ಥ್ಯಗಳು ವಾಸ್ತವ ಜಗತ್ತಿನ ಪರಿಸ್ಥಿತಿಗಳಲ್ಲೂ ಅನ್ವಯಿಸುತ್ತವೆ ಎಂಬುದನ್ನು ಈ ಘಟನೆ ಸೂಚಿಸುತ್ತದೆ.

ದೀರ್ಘ ಕಾಲಾವಧಿಯ ಸೈಬರ್ ರೇಂಜ್‌ಗಳಲ್ಲಿ ಇತ್ತೀಚಿನ ಮುಕ್ತ-ತೂಕದ ಮಾಡೆಲ್‌ಗಳು ಮತ್ತು ಅತ್ಯಾಧುನಿಕ ಮಾಡೆಲ್‌ಗಳನ್ನು ಹೋಲಿಸುವ UK AI Security Institute ನ ಚಾರ್ಟ್.

ಸೋರ್ಸ್-ಕೋಡ್ ಪ್ರವೇಶವಿಲ್ಲದೆಯೇ ವಾಸ್ತವ ಜಗತ್ತಿನ ವ್ಯವಸ್ಥೆಗಳಲ್ಲಿ ಮುಂದುವರಿದ ಮಾಡೆಲ್‌ಗಳು ಹೊಸ ದಾಳಿ ಮಾರ್ಗಗಳನ್ನು ಪತ್ತೆಹಚ್ಚಿ ದುರ್ಬಳಕೆ ಮಾಡಬಹುದು ಎಂಬುದನ್ನೂ ಈ ಘಟನೆ ಸ್ಪಷ್ಟಪಡಿಸುತ್ತದೆ. ಮುಂದುವರಿದ ಸೈಬರ್ ಸಾಮರ್ಥ್ಯಗಳನ್ನು ಬಲವಾದ ಸುರಕ್ಷತಾ ಕ್ರಮಗಳು ಮತ್ತು ರಕ್ಷಣಾತ್ಮಕ ಸಾಧನಗಳ ಜೊತೆಗೆ ಅಭಿವೃದ್ಧಿಪಡಿಸಬೇಕೆಂಬುದನ್ನು ಇದು ಎತ್ತಿ ತೋರಿಸುತ್ತದೆ.

ಮುಂದುವರಿದ ಸೈಬರ್ ಸಾಮರ್ಥ್ಯಗಳಿರುವ ಮಾಡೆಲ್‌ಗಳು ದಾಳಿಕೋರರಿಗಿಂತ ಮೊದಲು ದುರ್ಬಲತೆಗಳನ್ನು ಕಂಡುಹಿಡಿಯಲು, ದುರ್ಬಲತೆಗಳನ್ನು ಹೇಗೆ ಸರಣಿಯಾಗಿ ಜೋಡಿಸಬಹುದು ಎಂಬುದನ್ನು ಅರ್ಥಮಾಡಿಕೊಳ್ಳಲು, ಮತ್ತು ಯಂತ್ರದ ವೇಗದಲ್ಲಿ ಅವುಗಳನ್ನು ಸರಿಪಡಿಸಲು ಭದ್ರತಾ ತಂಡಗಳಿಗೆ ಸಹಾಯ ಮಾಡಬೇಕು ಎಂದು ನಾವು ನಂಬುತ್ತೇವೆ. ಮೂಲಸೌಕರ್ಯ ಸಂರಚನೆ ಮತ್ತು ಮಾಡೆಲ್ ಮೌಲ್ಯಮಾಪನ ಪರಿಸರಗಳ ಸುತ್ತಲಿನ ರಕ್ಷಣೆಯನ್ನು ನಿರಂತರವಾಗಿ ಬಲಪಡಿಸಲು ನಾವು ಈ ಸಾಮರ್ಥ್ಯಗಳನ್ನು ಬಳಸುತ್ತಿದ್ದೇವೆ; ನಾವು ಕಲಿಯುವಂತೆ ನಮ್ಮ ಕಂಡುಹಿಡಿಕೆಗಳು ಮತ್ತು ಉತ್ತಮ ಅಭ್ಯಾಸಗಳನ್ನು ಹಂಚಿಕೊಳ್ಳುತ್ತೇವೆ. ಈ ಸಾಮರ್ಥ್ಯಗಳನ್ನು ಉತ್ತಮ ತಡೆಗಟ್ಟುವಿಕೆ, ವೇಗವಾದ ಪತ್ತೆ ಮತ್ತು ಹೆಚ್ಚು ಪರಿಣಾಮಕಾರಿ ಘಟನೆ ಪ್ರತಿಕ್ರಿಯೆಯಾಗಿ ರೂಪಿಸಲು ಇತರ ರಕ್ಷಕರು ಈಗಲೇ ವಿಶ್ವಾಸಾರ್ಹ ಪ್ರವೇಶಕ್ಕೆ ಅರ್ಜಿ ಸಲ್ಲಿಸಿ ಈ ಮಾಡೆಲ್‌ಗಳೊಂದಿಗೆ ಪ್ರಯೋಗಿಸಬೇಕೆಂದು ನಾವು ಪ್ರೋತ್ಸಾಹಿಸುತ್ತೇವೆ.

“ಇದರ ಬಗ್ಗೆ ಮತ್ತು ಇತರ ವಿಷಯಗಳಲ್ಲಿ OpenAI ಜೊತೆಗಿನ ಸಹಕಾರಕ್ಕಾಗಿ ನಾವು ಕೃತಜ್ಞರಾಗಿದ್ದೇವೆ. ಬಹುಶಃ ಈ ರೀತಿಯ ಮೊದಲ ಘಟನೆಯಾಗಿರುವ ಇದು, ನಾವು ಬಹುಕಾಲದಿಂದ ನಂಬಿರುವ ಒಂದು ವಿಷಯವನ್ನು ಸಾಬೀತುಪಡಿಸುತ್ತದೆ: AI ಸುರಕ್ಷತೆಯನ್ನು ರಹಸ್ಯವಾಗಿ ಕೆಲಸ ಮಾಡುವ ಯಾವುದೇ ಒಬ್ಬ ಕಂಪನಿ ಮಾತ್ರ ಪರಿಹರಿಸಲಾರದು. ಪ್ರತಿ ರಕ್ಷಕರಿಗೂ, ಎಲ್ಲೆಡೆ, AI ಗೆ ವ್ಯಾಪಕ ಪ್ರವೇಶವಿರುವ ತೆರೆದ ಮತ್ತು ಸಹಯೋಗಾತ್ಮಕ ರೀತಿಯಲ್ಲಿ ಅದನ್ನು ಪರಿಹರಿಸಲಾಗುತ್ತದೆ.”
—ಕ್ಲೆಮ್ ಡೆಲಾಂಗ್, ಸಹ-ಸ್ಥಾಪಕ ಮತ್ತು CEO, Hugging Face

ಲೇಖಕ

OpenAI