ಮಾಡೆಲ್ ಮೌಲ್ಯಮಾಪನದ ವೇಳೆ ನಡೆದ ಭದ್ರತಾ ಘಟನೆಯನ್ನು ಪರಿಹರಿಸಲು OpenAI ಮತ್ತು Hugging Face ಪಾಲುದಾರಿಕೆ

ಜುಲೈ 28, 2026 ರಂದು ನವೀಕರಣ:

• ಮುಂಬರುವ ಬಿಡುಗಡೆಗಾಗಿ ಯೋಜಿಸಲಾದ ಯಾವುದೇ ಮಾಡೆಲ್‌ಗಳು Hugging Face ಅನ್ನು ದುರುಪಯೋಗಪಡಿಸಿಕೊಳ್ಳುವಲ್ಲಿ ಭಾಗಿಯಾಗಿರಲಿಲ್ಲ. ನಮ್ಮ ಬ್ಲಾಗ್ ಪೋಸ್ಟ್‌ನಲ್ಲಿ ಉಲ್ಲೇಖಿಸಲಾದ ಬಿಡುಗಡೆಗೆ ಮುನ್ನದ ಮಾಡೆಲ್ ಆಂತರಿಕ ಬಳಕೆಗೆ ಮಾತ್ರ ಇರುವ ಸಂಶೋಧನಾ ಮೂಲಮಾದರಿಯಾಗಿದ್ದು, ಅದನ್ನು ಸಾರ್ವಜನಿಕವಾಗಿ ಬಿಡುಗಡೆ ಮಾಡುವ ಉದ್ದೇಶ ಎಂದಿಗೂ ಇರಲಿಲ್ಲ. ಘಟನೆಯ ನಂತರ, ನಾವು ಅದನ್ನು ನಿಷ್ಕ್ರಿಯಗೊಳಿಸಿ, ಎನ್‌ಕ್ರಿಪ್ಟ್ ಮಾಡಿ, ಸಂಶೋಧನಾ ಪ್ರವೇಶದಿಂದ ನಿರ್ಬಂಧಿಸಿದೆವು.
• ExploitGym ಮೌಲ್ಯಮಾಪನ ಪರಿಸರವು ಮಾಡೆಲ್‌ಗಳಿಗೆ ನೇರ ಇಂಟರ್ನೆಟ್ ಪ್ರವೇಶವನ್ನು ಒದಗಿಸಲಿಲ್ಲ. ಇಂಟರ್ನೆಟ್ ಪ್ರವೇಶವನ್ನು ಪಡೆಯಲು, ಮಾಡೆಲ್‌ಗಳು ಪ್ಯಾಕೇಜ್ ರಿಜಿಸ್ಟ್ರಿ ಕ್ಯಾಶ್ ಪ್ರಾಕ್ಸಿಯಾಗಿರುವ Artifactory⁠(ಹೊಸ ಕಿಟಕಿಯಲ್ಲಿ ತೆರೆಯುತ್ತದೆ) ನಲ್ಲಿ ಹಿಂದೆ ತಿಳಿದಿರದ ಝೀರೋ-ಡೆ ದುರ್ಬಲತೆಯನ್ನು ಗುರುತಿಸಿ ದುರುಪಯೋಗಪಡಿಸಿಕೊಂಡವು. ನಮ್ಮ ಪರಿಶೀಲನೆಯ ಭಾಗವಾಗಿ ನಮ್ಮ ಮಾಡೆಲ್‌ಗಳು ಗುರುತಿಸಿದ ಇತರ Artifactory ದುರ್ಬಲತೆಗಳ ಜೊತೆಗೆ, ಈ ದುರ್ಬಲತೆಯನ್ನು ನಾವು ವೆಂಡರ್‌ಗೆ ಬಹಿರಂಗಪಡಿಸಿದೆವು. 
• ನಮ್ಮ ಪರಿಶೀಲನೆ ಮುಂದುವರಿಯುತ್ತಿರುವಂತೆ, ಅವರ ಘಟನೆಯ ನಂತರದ ವಿಶ್ಲೇಷಣೆಗೆ⁠(ಹೊಸ ಕಿಟಕಿಯಲ್ಲಿ ತೆರೆಯುತ್ತದೆ) ಕೊಡುಗೆ ನೀಡುವುದನ್ನು ಒಳಗೊಂಡಂತೆ, ನಾವು Hugging Face ಜೊತೆಗೆ ಸಹಯೋಗವನ್ನು ಮುಂದುವರಿಸುತ್ತಿದ್ದೇವೆ. ನಾವು ಅವರನ್ನು ನಮ್ಮ Trusted Access for Cyber Program ಗೆ ಸಹ ಸೇರಿಸಿದ್ದೇವೆ. 
• ಇದುವರೆಗಿನ ನಮ್ಮ ಪರಿಶೀಲನೆಯ ಆಧಾರದ ಮೇಲೆ, ಪ್ಲಾಟ್‌ಫಾರ್ಮ್ ಮಟ್ಟದ ಭದ್ರತಾ ಉಲ್ಲಂಘನೆಯನ್ನು ಒಳಗೊಂಡಿದ್ದ Hugging Face ಗೆ ಸಂಬಂಧಿಸಿದಂತೆ ನಾವು ಹಂಚಿಕೊಂಡಿರುವ ವಿಷಯದ ತೀವ್ರತೆ ಅಥವಾ ಪ್ರಮಾಣದ ಮಟ್ಟದಲ್ಲಿರುವ ಯಾವುದೇ ಇತರ ಚಟುವಟಿಕೆಯನ್ನು ನಾವು ಗುರುತಿಸಿಲ್ಲ.
• Hugging Face ನುಸುಳಿಕೆ ಮತ್ತು ನಮ್ಮ ಮಾಡೆಲ್‌ಗಳಿಂದ ನಡೆದ ವಿಸ್ತೃತ ಚಟುವಟಿಕೆಗಳ ಕುರಿತು ನಮ್ಮ ಮುಂದುವರಿದ ಪರಿಶೀಲನೆಯಲ್ಲಿ, ಮಾಡೆಲ್‌ಗಳು ಇತರ ಸಾರ್ವಜನಿಕವಾಗಿ ಲಭ್ಯವಿರುವ ಸೇವೆಗಳಲ್ಲಿ ಖಾತೆ-ಮಟ್ಟದಲ್ಲಿ ಸಾರ್ವಜನಿಕವಾಗಿ ಬಹಿರಂಗಗೊಂಡ ಕ್ರೆಡೆನ್ಷಿಯಲ್‌ಗಳನ್ನು ಗುರುತಿಸಿ ಬಳಸಿದ ಕೆಲವು ಪ್ರಕರಣಗಳನ್ನು ನಾವು ಕಂಡುಕೊಂಡಿದ್ದೇವೆ. ಇದರಲ್ಲಿ Hugging Face ಘಟನೆಗೆ ಸಂಬಂಧಿಸಿದಂತೆ ನಾಲ್ಕು ಸೇವೆಗಳಲ್ಲಿನ ನಾಲ್ಕು ಖಾತೆಗಳು (ಮತ್ತು ಇತರ ಮೌಲ್ಯಮಾಪನಗಳ ಭಾಗವಾಗಿ ಪ್ರವೇಶಿಸಲಾದ ಕೆಲವು ಖಾತೆಗಳು) ಸೇರಿವೆ. ಈ ನಾಲ್ಕು ಖಾತೆಗಳಲ್ಲಿ ಒಂದನ್ನು ಹೊರಹೋಗುವ ರಿಲೇ ಮತ್ತು ಸ್ಟೇಜಿಂಗ್ ಮಾರ್ಗವಾಗಿ ಬಳಸಲಾಗಿತ್ತು, ಮತ್ತು ಮತ್ತೊಂದು ಖಾತೆಯನ್ನು ಡೇಟಾ ಸಂಗ್ರಹಣೆಗೆ ಬಳಸಲಾಗಿತ್ತು. ಉಳಿದ ಎರಡು ಖಾತೆಗಳನ್ನು ಮಾಡೆಲ್‌ಗಳು ಓದು-ಮಾತ್ರ ರೀತಿಯಲ್ಲಿ ಪ್ರವೇಶಿಸಿದ್ದವು, ಮತ್ತು Hugging Face ಭದ್ರತೆ ಉಲ್ಲಂಘನೆಗೆ ಸಂಬಂಧಿಸಿದಂತೆ ಅವುಗಳನ್ನು ಬಳಸಲಾಗಿರಲಿಲ್ಲ. ನಾವು ಸೇವಾ ಮಾಲೀಕರಿಗೆ ನೇರವಾಗಿ ಸೂಚನೆ ನೀಡುವುದನ್ನು ಮುಂದುವರಿಸುತ್ತೇವೆ, ಮತ್ತು ಈ ಪೂರೈಕೆದಾರರು ಅಥವಾ ಅವರ ಸೇವೆಗಳಲ್ಲಿನ ಇತರ ಖಾತೆಗಳ ಮೇಲೆ ವ್ಯಾಪಕ ಪರಿಣಾಮ ಬೀರಿರುವುದಕ್ಕೆ ಯಾವುದೇ ಪುರಾವೆಯನ್ನು ಕಂಡಿಲ್ಲ.
• ಮಾಡೆಲ್‌ಗಳು ಹೆಚ್ಚುವರಿಯಾಗಿ ಕೋಡ್ ಪೇಸ್ಟ್ ವೆಬ್‌ಸೈಟ್‌ಗಳು, ವಿನಂತಿ ಕ್ಯಾಪ್ಚರ್ ಸೇವೆಗಳು, ಸ್ಕ್ರೀನ್‌ಶಾಟ್ ಸೇವೆಗಳು ಮತ್ತು ಇತರ ವೆಬ್ ಉಪಯುಕ್ತತೆಗಳು ಸೇರಿದಂತೆ ಸಾರ್ವಜನಿಕವಾಗಿ ಲಭ್ಯವಿರುವ ಸೇವೆಗಳ ಸರಣಿಯನ್ನು ಬಳಸಿದವು. ಈ ಪ್ರಕರಣಗಳಲ್ಲಿ ಪ್ಲಾಟ್‌ಫಾರ್ಮ್ ಅಥವಾ ಖಾತೆ ಮಟ್ಟದಲ್ಲಿ ಯಾವುದೇ ಭದ್ರತಾ ಉಲ್ಲಂಘನೆ ಸಂಭವಿಸಿಲ್ಲ. 
• ಹೆಚ್ಚು ಹೆಚ್ಚು ಸಾಮರ್ಥ್ಯಶಾಲಿಯಾಗುತ್ತಿರುವ AI ವ್ಯವಸ್ಥೆಗಳಿಂದ ಉಂಟಾಗುವ ಅಪಾಯಗಳನ್ನು ಗುರುತಿಸಿ, ಅವುಗಳಿಗೆ ಸಿದ್ಧರಾಗುವ ನಮ್ಮ ಜವಾಬ್ದಾರಿಯನ್ನು ನಾವು ಗಂಭೀರವಾಗಿ ಪರಿಗಣಿಸುತ್ತೇವೆ. ನಮ್ಮ ಪರಿಶೀಲನೆಯನ್ನು ಪೂರ್ಣಗೊಳಿಸಿದ ನಂತರ, ನಮ್ಮ ಪ್ರಿಪೇರ್ಡ್‌ನೆಸ್ ಫ್ರೇಮ್‌ವರ್ಕ್⁠ ಅಡಿಯಲ್ಲಿ ಸುರಕ್ಷತೆ ಮತ್ತು ಭದ್ರತಾ ಸಮಿತಿ ಹಾಗೂ ಸುರಕ್ಷತಾ ಸಲಹಾ ಗುಂಪಿನೊಂದಿಗೆ ಪರಿಶೀಲನೆ ನಡೆಸುತ್ತೇವೆ.

ಕಳೆದ ವಾರ, ತಮ್ಮ ಮೂಲಸೌಕರ್ಯವನ್ನು ಅಪಾಯಕ್ಕೆ ಸಿಲುಕಿಸಿದ್ದ ಒಂದು AI ಏಜೆಂಟ್ ಅನ್ನು ಪತ್ತೆಹಚ್ಚಿ ನಿಯಂತ್ರಿಸಿದ ನಂತರ Hugging Face ಹೊಸ ರೀತಿಯ ಭದ್ರತಾ ಘಟನೆಯನ್ನು ಬಹಿರಂಗಪಡಿಸಿತು⁠(ಹೊಸ ಕಿಟಕಿಯಲ್ಲಿ ತೆರೆಯುತ್ತದೆ); ಹೆಚ್ಚುತ್ತಿರುವ ಸೈಬರ್-ಸಾಮರ್ಥ್ಯದ ಮಾಡೆಲ್‌ಗಳ ವ್ಯಾಪಕ ಬಳಕೆಯೊಂದಿಗೆ ಇಂತಹವುಗಳು ಇನ್ನಷ್ಟು ಸಾಮಾನ್ಯವಾಗುತ್ತವೆ ಎಂದು ನಾವು ನಿರೀಕ್ಷಿಸುತ್ತೇವೆ. ತನಿಖೆಯ ನಂತರ, ಸೈಬರ್ ಸಾಮರ್ಥ್ಯಗಳ ಬೆಂಚ್‌ಮಾರ್ಕ್⁠(ಹೊಸ ಕಿಟಕಿಯಲ್ಲಿ ತೆರೆಯುತ್ತದೆ) ಮೇಲೆ ಆಂತರಿಕವಾಗಿ ಪರೀಕ್ಷಿಸಲಾಗುತ್ತಿದ್ದಾಗ ಈ ನಿರ್ದಿಷ್ಟ ಘಟನೆಗೆ OpenAI ಮಾಡೆಲ್‌ಗಳ ಸಂಯೋಜನೆಯೇ ಕಾರಣವೆಂದು ಈಗ ನಮಗೆ ತಿಳಿದಿದೆ — ಇದರಲ್ಲಿ GPT‑5.6 Sol ಮತ್ತು ಇನ್ನೂ ಹೆಚ್ಚು ಸಮರ್ಥವಾದ ಬಿಡುಗಡೆಪೂರ್ವ ಮಾಡೆಲ್ ಸೇರಿದ್ದು, ಮೌಲ್ಯಮಾಪನ ಉದ್ದೇಶಗಳಿಗಾಗಿ ಎಲ್ಲದರಲ್ಲೂ ಸೈಬರ್ ನಿರಾಕರಣೆಗಳನ್ನು ಕಡಿಮೆ ಮಾಡಲಾಗಿತ್ತು.

ಅತ್ಯಾಧುನಿಕ ಸೈಬರ್ ಸಾಮರ್ಥ್ಯಗಳನ್ನು ಒಳಗೊಂಡಿರುವ ಈ ಘಟನೆಯನ್ನು ನಾವು ಅಭೂತಪೂರ್ವ ಸೈಬರ್ ಘಟನೆ ಎಂದು ಪರಿಗಣಿಸುತ್ತಿದ್ದೇವೆ ಮತ್ತು ಅದಕ್ಕೆ ತಕ್ಕಂತೆ ಪ್ರತಿಕ್ರಿಯಿಸುತ್ತಿದ್ದೇವೆ. ಏನಾಯಿತು ಎಂಬುದನ್ನು ರಕ್ಷಕರು ಅರ್ಥಮಾಡಿಕೊಳ್ಳಲು ಮತ್ತು ಮಾಡೆಲ್‌ಗಳು ಈಗ ಏನು ಮಾಡಲು ಸಮರ್ಥವಾಗಿವೆ ಎಂಬುದರ ಬಗ್ಗೆ ಸೂಕ್ತ ಅಂದಾಜು ಮಾಡಿಕೊಳ್ಳಲು ಸಹಾಯವಾಗಲೆಂದು ಈ ಹಂತದಲ್ಲಿ ನಾವು ಪ್ರಾಥಮಿಕ ಕಂಡುಹಿಡಿಕೆಗಳನ್ನು ಹಂಚಿಕೊಳ್ಳುತ್ತಿದ್ದೇವೆ. ನಾವು Hugging Face ಜೊತೆಗೆ ಸಮಗ್ರ ತನಿಖೆಯನ್ನು ಮುಂದುವರಿಸುತ್ತೇವೆ ಮತ್ತು ನಮ್ಮ ತನಿಖೆ ಪೂರ್ಣಗೊಂಡ ನಂತರ ದುರ್ಬಲತೆಗಳು, ಘಟನೆ ಮತ್ತು ಕಂಡುಹಿಡಿಕೆಗಳ ಕುರಿತು ಹೆಚ್ಚಿನ ವಿವರಗಳನ್ನು ಹಂಚಿಕೊಳ್ಳುತ್ತೇವೆ.

ಮಾಡೆಲ್‌ಗಳ ಸೈಬರ್ ಸಾಮರ್ಥ್ಯಗಳನ್ನು ಅಳೆಯುವ ಪ್ರಯತ್ನವಾಗಿ, ಸಂಕೀರ್ಣ ದಾಳಿ ಮಾರ್ಗಗಳನ್ನು ಬಳಸಿ ಮುಂದುವರಿದ ದುರ್ಬಳಕೆಯನ್ನು ಅನುಸರಿಸಲು ಅವುಗಳಿಗೆ ಪ್ರಾಂಪ್ಟ್ ನೀಡುವ ಆಂತರಿಕ ಮೌಲ್ಯಮಾಪನದ ಸಮಯದಲ್ಲಿ ಈ ಘಟನೆ ಸಂಭವಿಸಿತು. ಹೆಚ್ಚು-ಅಪಾಯದ ಸೈಬರ್ ಚಟುವಟಿಕೆಯನ್ನು ಮಾಡೆಲ್‌ಗಳು ಅನುಸರಿಸುವುದನ್ನು ತಡೆಯಲು ಬಳಸುವ ಪ್ರೊಡಕ್ಷನ್ ವರ್ಗೀಕರಕಗಳಿಲ್ಲದೆ ಈ ಮೌಲ್ಯಮಾಪನವನ್ನು ನಡೆಸುವ ಮೂಲಕ ನಾವು ಗರಿಷ್ಠ ಸೈಬರ್ ಸಾಮರ್ಥ್ಯಗಳನ್ನು ಅಂದಾಜಿಸುತ್ತೇವೆ. ನಮ್ಮ ಬೆಂಚ್‌ಮಾರ್ಕ್‌ಗಳು ಅತ್ಯಂತ ಪ್ರತ್ಯೇಕಿತ ಪರಿಸರದಲ್ಲಿ ನಡೆಯುತ್ತವೆ; ನೆಟ್‌ವರ್ಕ್ ಪ್ರವೇಶವನ್ನು ಪ್ಯಾಕೇಜ್ ರಿಜಿಸ್ಟ್ರಿಗಳಿಗಾಗಿ ಪ್ರಾಕ್ಸಿ ಮತ್ತು ಕ್ಯಾಶ್ ಆಗಿ ಕಾರ್ಯನಿರ್ವಹಿಸುವ ಆಂತರಿಕವಾಗಿ ಹೋಸ್ಟ್ ಮಾಡಿದ ಮೂರನೇ-ಪಕ್ಷದ ಸಾಫ್ಟ್‌ವೇರ್ ಮೂಲಕ ಪ್ಯಾಕೇಜ್‌ಗಳನ್ನು ಸ್ಥಾಪಿಸುವ ಸಾಮರ್ಥ್ಯಕ್ಕೆ ಮಾತ್ರ ಸೀಮಿತಗೊಳಿಸಲಾಗಿದೆ.

OpenAI ಯ ಸಂಶೋಧನಾ ಪರಿಸರ ಮತ್ತು Hugging Face ನ ಪ್ರೊಡಕ್ಷನ್ ಮೂಲಸೌಕರ್ಯದಲ್ಲಿ ಇರುವ ದುರ್ಬಲತೆಗಳನ್ನು ಮಾಡೆಲ್‌ಗಳು ಗುರುತಿಸಿ ಸರಣಿಯಾಗಿ ಜೋಡಿಸಿ, Hugging Face ನ ಪ್ರೊಡಕ್ಷನ್ ಡೇಟಾಬೇಸ್‌ನಿಂದ ನೇರವಾಗಿ ಪರೀಕ್ಷಾ ಪರಿಹಾರಗಳನ್ನು ಪಡೆದವು. ಎಲ್ಲ ಸಾಕ್ಷ್ಯವೂ ಮಾಡೆಲ್‌ಗಳು ExploitGym ಗಾಗಿ ಪರಿಹಾರವನ್ನು ಕಂಡುಹಿಡಿಯುವುದರ ಮೇಲೆ ಅತಿಯಾದ ಗಮನ ಕೇಂದ್ರೀಕರಿಸಿದ್ದವು ಮತ್ತು ತುಂಬಾ ಸೀಮಿತವಾದ ಪರೀಕ್ಷಾ ಗುರಿಯನ್ನು ಸಾಧಿಸಲು ಅತಿರೇಕದ ಪ್ರಯತ್ನ ಮಾಡಿದ್ದವು ಎಂದು ಸೂಚಿಸುತ್ತದೆ.

ನಮ್ಮ ಸ್ಯಾಂಡ್‌ಬಾಕ್ಸ್ ಪರೀಕ್ಷಾ ಪರಿಸರದಲ್ಲಿ ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತಿದ್ದಾಗ, ಮೌಲ್ಯಮಾಪನ ಸಮಸ್ಯೆಯನ್ನು ಪರಿಹರಿಸುವ ಉದ್ದೇಶದಿಂದ ಮುಕ್ತ ಇಂಟರ್ನೆಟ್ ಪ್ರವೇಶ ಪಡೆಯುವ ಮಾರ್ಗವನ್ನು ಹುಡುಕಲು ನಮ್ಮ ಮಾಡೆಲ್‌ಗಳು ಗಣನೀಯ ಪ್ರಮಾಣದ ಇನ್ಫರೆನ್ಸ್ ಕಂಪ್ಯೂಟ್ ಬಳಸಿದವು. ಪ್ರವೇಶ ಪಡೆಯಲು, ಮಾಡೆಲ್‌ಗಳು ಪ್ಯಾಕೇಜ್ ರಿಜಿಸ್ಟ್ರಿ ಕ್ಯಾಶ್ ಪ್ರಾಕ್ಸಿಯಲ್ಲಿ ಝೀರೋ-ಡೆ ದುರ್ಬಲತೆಯನ್ನು ಗುರುತಿಸಿ ದುರ್ಬಳಕೆ ಮಾಡಿವೆ; ಅದನ್ನು ನಾವು ಈಗ ಮಾರಾಟಗಾರರಿಗೆ ಜವಾಬ್ದಾರಿಯುತವಾಗಿ ಬಹಿರಂಗಪಡಿಸಿದ್ದೇವೆ. ಈ ಪ್ರವೇಶದಿಂದ, ಇಂಟರ್ನೆಟ್ ಪ್ರವೇಶವಿರುವ ನೋಡ್‌ಗೆ ತಲುಪುವವರೆಗೆ ನಮ್ಮ ಮಾಡೆಲ್‌ಗಳು ನಮ್ಮ ಸಂಶೋಧನಾ ಪರೀಕ್ಷಾ ಪರಿಸರದಲ್ಲಿ ಹಕ್ಕು ಏರಿಕೆ ಮತ್ತು ಪಾರ್ಶ್ವ ಚಲನೆಯ ಕ್ರಮಗಳ ಸರಣಿಯನ್ನು ನಡೆಸಿದವು.

ಇಂಟರ್ನೆಟ್ ಪ್ರವೇಶ ಪಡೆದ ನಂತರ, Hugging Face ಬಹುಶಃ ExploitGym ಗಾಗಿ ಮಾಡೆಲ್‌ಗಳು, ಡೇಟಾಸೆಟ್‌ಗಳು ಮತ್ತು ಪರಿಹಾರಗಳನ್ನು ಹೋಸ್ಟ್ ಮಾಡಿರಬಹುದು ಎಂದು ಮಾಡೆಲ್‌ಗಳು ಊಹಿಸಿದವು. ಇದನ್ನು ತಿಳಿದ ನಂತರ, ಮೌಲ್ಯಮಾಪನದಲ್ಲಿ ಮೋಸ ಮಾಡಲು ಬಳಸಬಹುದಾದ ರಹಸ್ಯ ಮಾಹಿತಿಗೆ ಪ್ರವೇಶ ಪಡೆಯುವ ಮಾರ್ಗಗಳನ್ನು ಮಾಡೆಲ್ ಹುಡುಕಿತು ಮತ್ತು ಯಶಸ್ವಿಯಾಗಿ ಕಂಡುಹಿಡಿಯಿತು. ಒಂದು ಉದಾಹರಣೆಯಲ್ಲಿ, ಕಳವು ಮಾಡಿದ ಪ್ರಮಾಣಪತ್ರಗಳು ಮತ್ತು ಝೀರೋ-ಡೆ ದುರ್ಬಲತೆಗಳನ್ನು ಬಳಸುವುದೂ ಸೇರಿದಂತೆ, Hugging Face ಸರ್ವರ್‌ಗಳಲ್ಲಿ ದೂರಸ್ಥ ಕೋಡ್ ಕಾರ್ಯಗತಗೊಳಿಸುವ ಮಾರ್ಗವನ್ನು ಕಂಡುಹಿಡಿಯಲು ಮಾಡೆಲ್ ಅನೇಕ ದಾಳಿ ಮಾರ್ಗಗಳನ್ನು ಸರಣಿಯಾಗಿ ಜೋಡಿಸಿತು. OpenAI ಯ ಭದ್ರತಾ ತಂಡವು ಈ ಅಸಾಮಾನ್ಯ ಚಟುವಟಿಕೆಯನ್ನು ಆಂತರಿಕವಾಗಿ ಕಂಡುಹಿಡಿಯಿತು.

Hugging Face ನ ಭದ್ರತಾ ತಂಡ ಮತ್ತು ಏಜೆಂಟ್‌ಗಳು ತಮ್ಮ ಮೂಲಸೌಕರ್ಯದಲ್ಲಿನ ಚಟುವಟಿಕೆಯನ್ನು ಪತ್ತೆಹಚ್ಚಿ ನಿಲ್ಲಿಸಿದವು ಮತ್ತು ನಮ್ಮ ತಂಡಗಳು ಸಂಪರ್ಕಿಸುವಷ್ಟರಲ್ಲಿ ತಮ್ಮದೇ ಮುಕ್ತ-ಮೂಲ ಮಾಡೆಲ್‌ಗಳೊಂದಿಗೆ ನಿಯಂತ್ರಣ ಮತ್ತು ಫೊರೆನ್ಸಿಕ್ ಪುನರ್‌ರಚನೆಯನ್ನು ಈಗಾಗಲೇ ಪ್ರಾರಂಭಿಸಿದ್ದವು. ಘಟನೆಯ ತನಿಖೆಯನ್ನು ಮುಂದುವರಿಸಲು ನಾವು ಅವರೊಂದಿಗೆ ಸಕ್ರಿಯವಾಗಿ ಕೆಲಸ ಮಾಡುತ್ತಿದ್ದೇವೆ. ತನಿಖೆ ಮತ್ತು ಪರಿಹಾರ ಕ್ರಮಗಳಲ್ಲಿ Hugging Face ತೋರಿದ ತ್ವರಿತ ಮತ್ತು ನಿಕಟ ಸಹಕಾರಕ್ಕಾಗಿ ನಾವು ಕೃತಜ್ಞರಾಗಿದ್ದೇವೆ.

1. ತನಿಖೆಯ ಭಾಗವಾಗಿ, ದುರ್ಬಲತೆಗಳನ್ನು ಸರಿಪಡಿಸುವವರೆಗೆ ಸಂಶೋಧನೆಯ ವೇಗವನ್ನು ಕಡಿಮೆ ಮಾಡಬೇಕಾದರೂ ಮೂಲಸೌಕರ್ಯ ಸಂರಚನೆಯಲ್ಲಿ ನಾವು ಕಟ್ಟುನಿಟ್ಟಿನ ನಿಯಂತ್ರಣಗಳನ್ನು ಜಾರಿಗೆ ತರುತ್ತಿದ್ದೇವೆ. ಈ ನಿಯಂತ್ರಣಗಳು ಮತ್ತು ಅವುಗಳ ಪರಿಣಾಮಗಳ ಕುರಿತು ನಾವು ನಮ್ಮ ಸುರಕ್ಷತೆ ಮತ್ತು ಭದ್ರತಾ ಸಮಿತಿಗೆ ನಿಯಮಿತವಾಗಿ ಮಾಹಿತಿ ನೀಡುತ್ತಿದ್ದೇವೆ.
2. ಘಟನೆಯ ಫೊರೆನ್ಸಿಕ್ ತನಿಖೆ ನಡೆಸಲು ನಾವು Hugging Face ಜೊತೆ ಕೆಲಸ ಮಾಡುತ್ತಿದ್ದೇವೆ.
3. ಆಂತರಿಕವಾಗಿ ಹೋಸ್ಟ್ ಮಾಡಲಾದ ಮೂರನೇ-ಪಕ್ಷದ ಸಾಫ್ಟ್‌ವೇರ್‌ನಲ್ಲಿ ಗುರುತಿಸಲಾದ ಝೀರೋ-ಡೆ ದುರ್ಬಲತೆಯನ್ನು ನಾವು ಜವಾಬ್ದಾರಿಯುತವಾಗಿ ಬಹಿರಂಗಪಡಿಸಿದ್ದೇವೆ ಮತ್ತು ಅದನ್ನು ಸರಿಪಡಿಸಲು ಅವರೊಂದಿಗೆ ಕೆಲಸ ಮಾಡುತ್ತಿದ್ದೇವೆ.
4. ನಾವು Hugging Face ಅನ್ನು ವಿಶ್ವಾಸಾರ್ಹ ಪ್ರವೇಶ⁠ ಕಾರ್ಯಕ್ರಮಕ್ಕೆ ಸೇರಿಸಿದ್ದೇವೆ ಮತ್ತು ಅವರ ರಕ್ಷಣೆಯನ್ನು ಸುಧಾರಿಸಲು ನಮ್ಮ ಮಾಡೆಲ್‌ಗಳ ಸಾಮರ್ಥ್ಯಗಳನ್ನು ವೇಗವಾಗಿ ಬಳಸಲು ಅವರ ತಂಡಗಳಿಗೆ ಬೆಂಬಲ ನೀಡುತ್ತಿದ್ದೇವೆ.
5. ಭವಿಷ್ಯದ ತರಬೇತಿ ಮತ್ತು ಮೌಲ್ಯಮಾಪನಗಳ ಸುತ್ತಲಿನ ರಕ್ಷಣೆಯನ್ನು ನಾವು ಸುಧಾರಿಸುತ್ತಿದ್ದೇವೆ ಮತ್ತು ಇನ್ನಷ್ಟು ಬಲಪಡಿಸುತ್ತಿದ್ದೇವೆ. ಈ ವಾರ, ನಾವು ದೀರ್ಘ ಕಾಲಾವಧಿಯ ಮಾಡೆಲ್‌ಗಳ ಯುಗದಲ್ಲಿ ಸುರಕ್ಷತೆ ಮತ್ತು ಹೊಂದಾಣಿಕೆಯನ್ನು ಸುಧಾರಿಸುವುದು⁠ ಕುರಿತು ಬ್ಲಾಗ್ ಪ್ರಕಟಿಸಿದ್ದೇವೆ. ಈ ಮೌಲ್ಯಮಾಪನವು ಸೈಬರ್ ದುರ್ಬಲತೆಗಳನ್ನು ಪರೀಕ್ಷಿಸುವ ಉದ್ದೇಶದ್ದಾಗಿದ್ದರಿಂದ, ಈ ನಿಯೋಜನಾ ರಕ್ಷಣೆಗಳನ್ನು ಉದ್ದೇಶಪೂರ್ವಕವಾಗಿ ಸಕ್ರಿಯಗೊಳಿಸಲಾಗಿರಲಿಲ್ಲ. ಈ ಘಟನೆ ನಮ್ಮ ಮಾಡೆಲ್‌ನ ಹೊಂದಾಣಿಕೆ, ಮೌಲ್ಯಮಾಪನದ ಸಮಯದ ಸೈಬರ್ ರಕ್ಷಣೆಗಳು, ಮತ್ತು ಆಂತರಿಕ ಪರೀಕ್ಷೆಯ ಮೇಲ್ವಿಚಾರಣೆಯನ್ನು ಇನ್ನಷ್ಟು ಬಲಪಡಿಸುವ ಅಗತ್ಯವನ್ನು ತೋರಿಸುತ್ತದೆ.

ನಾವು ಇತ್ತೀಚೆಗೆ⁠ ಹಂಚಿಕೊಂಡಂತೆ, AI ದುರ್ಬಲತೆಗಳ ಪತ್ತೆ ಮತ್ತು ದುರ್ಬಳಕೆಯನ್ನು ವೇಗಗೊಳಿಸುತ್ತಿದೆ. ಈ ಘಟನೆಯ ಪ್ರಮುಖ ಪಾಠವೆಂದರೆ ಮಾಡೆಲ್ ಭದ್ರತೆ ಮತ್ತು ಸುರಕ್ಷತೆ ವೇಗವಾಗಿ ಮುಂದುವರಿಯುತ್ತಿರುವ ಸಾಮರ್ಥ್ಯಗಳಿಗೆ ಸಮವಾಗಿ ಸಾಗಬೇಕು. ಮಾಡೆಲ್ ಅಭಿವೃದ್ಧಿಯ ವೇಳೆ ಬಳಸುವ ನಿಯಂತ್ರಣ, ಮೇಲ್ವಿಚಾರಣೆ, ಪ್ರವೇಶ ನಿಯಂತ್ರಣಗಳು ಮತ್ತು ಮೌಲ್ಯಮಾಪನ ಕ್ರಮಗಳನ್ನು ನಾವು ಬಲಪಡಿಸುತ್ತಿದ್ದೇವೆ.

GPT‑5.6 Sol ನಂತಹ ಮಾಡೆಲ್‌ಗಳು ದೀರ್ಘ ಕಾಲಾವಧಿಗಳಲ್ಲಿ ಸಂಕೀರ್ಣ, ಬಹು-ಹಂತದ ಸೈಬರ್ ಕಾರ್ಯಾಚರಣೆಗಳನ್ನು ನಿರಂತರವಾಗಿ ನಡೆಸಲು ಹೆಚ್ಚಾಗಿ ಸಮರ್ಥವಾಗುತ್ತಿವೆ ಎಂದು UK AISI ಮೌಲ್ಯಮಾಪನ ತೋರಿಸುತ್ತದೆ. ಈ ಸೈದ್ಧಾಂತಿಕ ಸಾಮರ್ಥ್ಯಗಳು ವಾಸ್ತವ ಜಗತ್ತಿನ ಪರಿಸ್ಥಿತಿಗಳಲ್ಲೂ ಅನ್ವಯಿಸುತ್ತವೆ ಎಂಬುದನ್ನು ಈ ಘಟನೆ ಸೂಚಿಸುತ್ತದೆ.

ಸೋರ್ಸ್-ಕೋಡ್ ಪ್ರವೇಶವಿಲ್ಲದೆಯೇ ವಾಸ್ತವ ಜಗತ್ತಿನ ವ್ಯವಸ್ಥೆಗಳಲ್ಲಿ ಮುಂದುವರಿದ ಮಾಡೆಲ್‌ಗಳು ಹೊಸ ದಾಳಿ ಮಾರ್ಗಗಳನ್ನು ಪತ್ತೆಹಚ್ಚಿ ದುರ್ಬಳಕೆ ಮಾಡಬಹುದು ಎಂಬುದನ್ನೂ ಈ ಘಟನೆ ಸ್ಪಷ್ಟಪಡಿಸುತ್ತದೆ. ಮುಂದುವರಿದ ಸೈಬರ್ ಸಾಮರ್ಥ್ಯಗಳನ್ನು ಬಲವಾದ ಸುರಕ್ಷತಾ ಕ್ರಮಗಳು ಮತ್ತು ರಕ್ಷಣಾತ್ಮಕ ಸಾಧನಗಳ ಜೊತೆಗೆ ಅಭಿವೃದ್ಧಿಪಡಿಸಬೇಕೆಂಬುದನ್ನು ಇದು ಎತ್ತಿ ತೋರಿಸುತ್ತದೆ.

ಮುಂದುವರಿದ ಸೈಬರ್ ಸಾಮರ್ಥ್ಯಗಳಿರುವ ಮಾಡೆಲ್‌ಗಳು ದಾಳಿಕೋರರಿಗಿಂತ ಮೊದಲು ದುರ್ಬಲತೆಗಳನ್ನು ಕಂಡುಹಿಡಿಯಲು, ದುರ್ಬಲತೆಗಳನ್ನು ಹೇಗೆ ಸರಣಿಯಾಗಿ ಜೋಡಿಸಬಹುದು ಎಂಬುದನ್ನು ಅರ್ಥಮಾಡಿಕೊಳ್ಳಲು, ಮತ್ತು ಯಂತ್ರದ ವೇಗದಲ್ಲಿ ಅವುಗಳನ್ನು ಸರಿಪಡಿಸಲು ಭದ್ರತಾ ತಂಡಗಳಿಗೆ ಸಹಾಯ ಮಾಡಬೇಕು ಎಂದು ನಾವು ನಂಬುತ್ತೇವೆ. ಮೂಲಸೌಕರ್ಯ ಸಂರಚನೆ ಮತ್ತು ಮಾಡೆಲ್ ಮೌಲ್ಯಮಾಪನ ಪರಿಸರಗಳ ಸುತ್ತಲಿನ ರಕ್ಷಣೆಯನ್ನು ನಿರಂತರವಾಗಿ ಬಲಪಡಿಸಲು ನಾವು ಈ ಸಾಮರ್ಥ್ಯಗಳನ್ನು ಬಳಸುತ್ತಿದ್ದೇವೆ; ನಾವು ಕಲಿಯುವಂತೆ ನಮ್ಮ ಕಂಡುಹಿಡಿಕೆಗಳು ಮತ್ತು ಉತ್ತಮ ಅಭ್ಯಾಸಗಳನ್ನು ಹಂಚಿಕೊಳ್ಳುತ್ತೇವೆ. ಈ ಸಾಮರ್ಥ್ಯಗಳನ್ನು ಉತ್ತಮ ತಡೆಗಟ್ಟುವಿಕೆ, ವೇಗವಾದ ಪತ್ತೆ ಮತ್ತು ಹೆಚ್ಚು ಪರಿಣಾಮಕಾರಿ ಘಟನೆ ಪ್ರತಿಕ್ರಿಯೆಯಾಗಿ ರೂಪಿಸಲು ಇತರ ರಕ್ಷಕರು ಈಗಲೇ ವಿಶ್ವಾಸಾರ್ಹ ಪ್ರವೇಶಕ್ಕೆ ಅರ್ಜಿ ಸಲ್ಲಿಸಿ⁠ ಈ ಮಾಡೆಲ್‌ಗಳೊಂದಿಗೆ ಪ್ರಯೋಗಿಸಬೇಕೆಂದು ನಾವು ಪ್ರೋತ್ಸಾಹಿಸುತ್ತೇವೆ.