OpenAI ಮಾಡೆಲ್‌ಗಳ ತೃತೀಯ-ಪಕ್ಷದ ಸೈಬರ್ ಮೌಲ್ಯಮಾಪನಗಳು

ಬಳಕೆಗೆ ನಿಯೋಜಿಸುವ ಮೊದಲು ಅಪಾಯಗಳನ್ನು ದೃಢೀಕರಿಸಲು ಮತ್ತು ಇನ್ನಷ್ಟು ಅರ್ಥಮಾಡಿಕೊಳ್ಳಲು ಸ್ವತಂತ್ರ ಪರೀಕ್ಷೆಯು ನಮಗೆ ನೆರವಾಗುತ್ತದೆ. ಕೆಲವು ಸೈಬರ್ ಮೌಲ್ಯಮಾಪನಗಳು ಅಂತರ್ಗತ ಸಾಮರ್ಥ್ಯವನ್ನು ಅಳೆಯಲು ಸುರಕ್ಷತಾ ಕ್ರಮಗಳನ್ನು ಕಡಿಮೆ ಮಾಡಿದವುಗಳೂ ಸೇರಿದಂತೆ ಉದ್ದೇಶಪೂರ್ವಕವಾಗಿ ನಿರ್ದಿಷ್ಟ ಸಂರಚನೆಗಳನ್ನು ಬಳಸುತ್ತವೆ. ಇದು ಸಾರ್ವಜನಿಕವಾಗಿ ಲಭ್ಯವಿರುವ ನಿಯೋಜನೆಗಳಲ್ಲಿ ಮಾಡೆಲ್‌ಗಳು ಸಾಮಾನ್ಯವಾಗಿ ಹೇಗೆ ವರ್ತಿಸುತ್ತವೆ ಎಂಬುದನ್ನು ಅಳೆಯುವುದಲ್ಲ.

ಇತ್ತೀಚಿನ ಮೌಲ್ಯಮಾಪನಗಳ ವೇಳೆ, ಪರೀಕ್ಷಾ ಸಂರಚನೆಗಳು ಮತ್ತು ನಿಯಂತ್ರಣಗಳು ಹಾಗೂ ಇತ್ತೀಚಿನ ಮಾಡೆಲ್‌ಗಳ ವೃದ್ಧಿಸುತ್ತಿರುವ ಸಾಮರ್ಥ್ಯಗಳು ಒಟ್ಟಾಗಿ ಮಾಡೆಲ್ ಚಟುವಟಿಕೆಯು ಉದ್ದೇಶಿತ ಪರೀಕ್ಷಾ ಗಡಿಗಳನ್ನು ಮೀರುವಂತೆ ಮಾಡಿದ ಎರಡು ಘಟನೆಗಳನ್ನು ಇಬ್ಬರು ಬಾಹ್ಯ ಪರೀಕ್ಷಾ ಪಾಲುದಾರರು ಗುರುತಿಸಿದರು. ಮಾಡೆಲ್‌ಗಳು ಹೆಚ್ಚು ಸಾಮರ್ಥ್ಯಶಾಲಿಯಾಗುತ್ತಿದ್ದಂತೆ ಪರೀಕ್ಷಾ ಪರಿಸರಗಳು ಮತ್ತು ಪದ್ಧತಿಗಳ ಮಾನದಂಡಗಳನ್ನು ಸುಧಾರಿಸಲು ಉದ್ಯಮದಾದ್ಯಂತ ಹಾಗೂ ತೃತೀಯ-ಪಕ್ಷದ ಮೌಲ್ಯಮಾಪಕರೊಂದಿಗೆ ಸಹಕರಿಸುವ ಮಹತ್ವವನ್ನು ಈ ಘಟನೆಗಳು ಎತ್ತಿತೋರಿಸುತ್ತವೆ. ಸಂಪಾದಕರ ಟಿಪ್ಪಣಿ: ಇವು Hugging Face ಭದ್ರತಾ ಘಟನೆಗಿಂತ ಪ್ರತ್ಯೇಕವಾಗಿವೆ. Hugging Face ಘಟನೆಯ ಕುರಿತ ನವೀಕರಣಗಳನ್ನು ನಾವು ಇಲ್ಲಿ ಹಂಚಿಕೊಳ್ಳುವುದನ್ನು ಮುಂದುವರಿಸುತ್ತೇವೆ.

ಹೊಸ ಘಟನೆಗಳಲ್ಲಿ, ಸಾಮಾನ್ಯ ನಿಯೋಜನೆಯನ್ನು ಪ್ರತಿಬಿಂಬಿಸದ ನಿರ್ದಿಷ್ಟ ಪರಿಸ್ಥಿತಿಗಳು ಮತ್ತು ಕಡಿಮೆ ಸುರಕ್ಷತಾ ಕ್ರಮಗಳ ಸಂರಚನೆಗಳ ಅಡಿಯಲ್ಲಿ ತೃತೀಯ-ಪಕ್ಷದ ಸೈಬರ್ ಮೌಲ್ಯಮಾಪನಗಳ ವೇಳೆ OpenAI ಮಾಡೆಲ್‌ಗಳು ಸಾರ್ವಜನಿಕ ಅಂತರ್ಜಾಲವನ್ನು ಪ್ರವೇಶಿಸಿದ್ದವು. ಘಟನೆಗಳ ವಿವರಗಳು ಹೀಗಿವೆ:

1. UK ಸರ್ಕಾರದ AI ಭದ್ರತಾ ಸಂಸ್ಥೆಯಾದ UK AISI, ಏಜೆಂಟ್‌ಗಳು ಸ್ವತಃ ಅಗತ್ಯ ಸಾಧನಗಳನ್ನು ಹುಡುಕಲು ಮತ್ತು ನೈಜ ದಾಳಿಕೋರನಿಗೆ ಹೆಚ್ಚು ಹತ್ತಿರವಾದ ಪರಿಸ್ಥಿತಿಗಳಲ್ಲಿ ಕಾರ್ಯನಿರ್ವಹಿಸಲು ಉದ್ದೇಶಪೂರ್ವಕವಾಗಿ ಅಂತರ್ಜಾಲ ಪ್ರವೇಶವನ್ನು ಸಕ್ರಿಯಗೊಳಿಸಿ ಸೈಬರ್-ವ್ಯಾಪ್ತಿಯ ಮೌಲ್ಯಮಾಪನಗಳನ್ನು ನಡೆಸುತ್ತಿತ್ತು. ಅಂತರ್ಗತ ಸಾಮರ್ಥ್ಯವನ್ನು ಅಳೆಯಲು ಸೈಬರ್ ವರ್ಗೀಕಾರಕಗಳನ್ನೂ ನಿಷ್ಕ್ರಿಯಗೊಳಿಸಲಾಗಿತ್ತು. ಅವರ ಬ್ಲಾಗ್ ಅನ್ನು ಇಲ್ಲಿ ಓದಬಹುದು.⁠(ಹೊಸ ಕಿಟಕಿಯಲ್ಲಿ ತೆರೆಯುತ್ತದೆ)
2. ನಮ್ಮ ಬಾಹ್ಯ ಸೈಬರ್ ಭದ್ರತಾ ಪರೀಕ್ಷಾ ಪಾಲುದಾರರಲ್ಲಿ ಒಂದಾದ ಇರೆಗ್ಯುಲರ್, ಅಂತರ್ಜಾಲದಿಂದ ಪ್ರತ್ಯೇಕವಾಗಿರಬೇಕಿದ್ದ ಧ್ವಜ-ವಶಪಡಿಕೆ ಮಾದರಿಯ ಮೌಲ್ಯಮಾಪನಗಳನ್ನು ನಡೆಸುತ್ತಿತ್ತು. ಆದರೆ ಪರೀಕ್ಷಾ ಪರಿಸರದ ತಪ್ಪಾದ ಸಂರಚನೆಯಿಂದ ಮಾಡೆಲ್‌ಗಳು ಸಾರ್ವಜನಿಕ ಅಂತರ್ಜಾಲವನ್ನು ಪ್ರವೇಶಿಸಲು ಸಾಧ್ಯವಾಯಿತು.

ಏನಾಯಿತು, ಚಟುವಟಿಕೆಗೆ ಅವಕಾಶ ನೀಡಿದ ಪರೀಕ್ಷಾ ಪರಿಸ್ಥಿತಿಗಳು, ಅದನ್ನು ನಿಯಂತ್ರಿಸಲು ಕೈಗೊಂಡ ಕ್ರಮಗಳು ಮತ್ತು ಹೆಚ್ಚು ಸಾಮರ್ಥ್ಯಶಾಲಿಯಾಗುತ್ತಿರುವ ಮಾಡೆಲ್‌ಗಳನ್ನು ಸ್ವತಂತ್ರ ಪ್ರಯೋಗಾಲಯಗಳು ಕಠಿಣವಾಗಿ ಹಾಗೂ ಸುರಕ್ಷಿತವಾಗಿ ಮೌಲ್ಯಮಾಪನ ಮಾಡುವುದನ್ನು ಮುಂದುವರಿಸಲು ನಾವು ಕೈಗೊಳ್ಳುತ್ತಿರುವ ಕ್ರಮಗಳನ್ನು ಕೆಳಗೆ ಸಾರಾಂಶವಾಗಿ ನೀಡಿದ್ದೇವೆ.

Hugging Face ಘಟನೆ ಕುರಿತು ನಮ್ಮ ಇತ್ತೀಚಿನ ಲೇಖನದಲ್ಲಿ ವಿವರಿಸಿದ ವಿಶಾಲ ಸವಾಲನ್ನೇ ಈ ಘಟನೆಗಳೂ ಸೂಚಿಸುತ್ತವೆ: ಮಾಡೆಲ್‌ಗಳ ಸಾಮರ್ಥ್ಯ ಹೆಚ್ಚಾದಂತೆ ಅವುಗಳ ಸುತ್ತಲಿನ ಭದ್ರತೆ ಮತ್ತು ಸುರಕ್ಷತಾ ವ್ಯವಸ್ಥೆಗಳೂ ಸುಧಾರಿಸಬೇಕು. ಇದು ಮಾಡೆಲ್‌ಗಳನ್ನು ಅಭಿವೃದ್ಧಿಪಡಿಸಲು ಬಳಸುವ ಪರಿಸರಗಳನ್ನಷ್ಟೇ ಅಲ್ಲದೆ, ಪ್ರಯೋಗಾಲಯಗಳು ಮತ್ತು ಸ್ವತಂತ್ರ ಪಾಲುದಾರರು ಅವುಗಳನ್ನು ಮೌಲ್ಯಮಾಪನ ಮಾಡಲು ಬಳಸುವ ಪರಿಸರಗಳನ್ನೂ ಒಳಗೊಂಡಿದೆ.

ಮುಂದಿನ ವಾರಗಳಲ್ಲಿ ತೃತೀಯ-ಪಕ್ಷದ ಪರೀಕ್ಷೆಗೆ ನಮ್ಮ ವಿಧಾನವನ್ನು ಪರಿಶೀಲಿಸುತ್ತೇವೆ. ಹೆಚ್ಚಿನ ಅಪಾಯದ ಮೌಲ್ಯಮಾಪನಗಳನ್ನು ಗುರುತಿಸುವುದು, ವ್ಯಾಪ್ತಿಯ ಬಗ್ಗೆ ಒಪ್ಪಿಕೊಳ್ಳುವುದು, ಅಂತರ್ಜಾಲ ಪ್ರವೇಶ ಅಥವಾ ಕಡಿಮೆ ಸುರಕ್ಷತಾ ಕ್ರಮಗಳ ವಿನಂತಿಗಳನ್ನು ನಿರ್ಣಯಿಸುವುದು, ಪ್ರತ್ಯೇಕತೆ, ರುಜುವಾತು ನಿರ್ವಹಣೆ, ಮೇಲ್ವಿಚಾರಣೆ ಮತ್ತು ನಿಲುಗಡೆ ಷರತ್ತುಗಳ ನಿರೀಕ್ಷೆಗಳನ್ನು ನಿಗದಿಪಡಿಸುವುದು ಹಾಗೂ ಘಟನೆ-ಅಧಿಸೂಚನೆ ಮತ್ತು ಮೇಲ್ಮಟ್ಟಕ್ಕೆ ವರದಿ ಮಾಡುವ ಸ್ಪಷ್ಟ ಪ್ರಕ್ರಿಯೆಗಳನ್ನು ಸ್ಥಾಪಿಸುವುದು ಇದರಲ್ಲಿ ಸೇರಿವೆ.

ಹೆಚ್ಚಿನ ಅಪಾಯದ ಮೌಲ್ಯಮಾಪನಗಳನ್ನು ಸುರಕ್ಷಿತವಾಗಿ ನಡೆಸಲು ಹಂಚಿಕೆಯ ಪದ್ಧತಿಗಳನ್ನು ಬಲಪಡಿಸುವುದಕ್ಕಾಗಿ ಉದ್ಯಮದಾದ್ಯಂತ ಕೆಲಸ ಮಾಡಲು ನಾವು ಬದ್ಧರಾಗಿದ್ದೇವೆ. ಮುಂದಿನ ವಾರಗಳಲ್ಲಿ ರಾಷ್ಟ್ರೀಯ AI ಸಂಸ್ಥೆಗಳು, ಸ್ವತಂತ್ರ ಮೌಲ್ಯಮಾಪಕರು, ಇತರ AI ಪ್ರಯೋಗಾಲಯಗಳು ಮತ್ತು ಬೇರೆ ಗುಂಪುಗಳಂತಹ ಪಾಲುದಾರರನ್ನು ಒಟ್ಟುಗೂಡಿಸುವುದೂ ಇದರಲ್ಲಿ ಸೇರಿದೆ. ಕಠಿಣ ಸ್ವತಂತ್ರ ಮೌಲ್ಯಮಾಪನದ ಮೌಲ್ಯವನ್ನು ಉಳಿಸಿಕೊಂಡು, ಹೆಚ್ಚು ಸಾಮರ್ಥ್ಯಶಾಲಿಯಾಗುತ್ತಿರುವ ಮಾಡೆಲ್‌ಗಳಿಗೆ ತಕ್ಕಂತೆ ಪರೀಕ್ಷಾ ಪದ್ಧತಿಗಳು ಮುಂದುವರಿಯುವುದನ್ನು ಖಚಿತಪಡಿಸುವುದು ನಮ್ಮ ಗುರಿ.

ಜುಲೈ 25ರಂದು ಆರಂಭವಾದ ವಾಡಿಕೆಯ ಸೈಬರ್ ಮೌಲ್ಯಮಾಪನದ ವೇಳೆ OpenAI ಮತ್ತು ಮತ್ತೊಂದು ಪ್ರಯೋಗಾಲಯದ ಮಾಡೆಲ್‌ಗಳು ಕೆಲವು ಸಂದರ್ಭಗಳಲ್ಲಿ ಪರೀಕ್ಷೆಯ ವ್ಯಾಪ್ತಿಯನ್ನು ಮೀರಿದ್ದವು ಎಂದು ಆಗಸ್ಟ್ 3ರಂದು UK AISI ನಮಗೆ ತಿಳಿಸಿತು. ನೈಜ ಜಗತ್ತಿನ ಜಾಲಗಳನ್ನು ಅನುಕರಿಸಲು ವಿನ್ಯಾಸಗೊಳಿಸಿದ ನಿಯಂತ್ರಿತ ಸೈಬರ್ ವ್ಯಾಪ್ತಿಗಳಲ್ಲಿ ಮೌಲ್ಯಮಾಪನ ನಡೆಯಿತು. ಗುರುತಿಸಲಾದ 19 ಘಟನೆಗಳಲ್ಲಿ ಎರಡು OpenAI ಮಾಡೆಲ್ GPT‑5.6 Sol ಅನ್ನು ಒಳಗೊಂಡಿದ್ದವು. ಉಳಿದ ಘಟನೆಗಳಲ್ಲಿ ಮತ್ತೊಂದು ಪ್ರಯೋಗಾಲಯದ ಮಾಡೆಲ್‌ಗಳು ಭಾಗಿಯಾಗಿದ್ದವು.

ಈ ಮೌಲ್ಯಮಾಪನದಲ್ಲಿ ಏಜೆಂಟ್‌ಗಳಿಗೆ ಧ್ವಜ-ವಶಪಡಿಕೆ ಅಭ್ಯಾಸದಲ್ಲಿ ಸೈಬರ್ ಭದ್ರತಾ ತಜ್ಞರಂತೆ ಕಾರ್ಯನಿರ್ವಹಿಸಲು ಸೂಚಿಸಲಾಗಿತ್ತು: ಸಂಪರ್ಕಿತ ಮೂರು ಅನುಕರಿತ ಪರಿಸರಗಳ ಭದ್ರತೆಯನ್ನು ಭೇದಿಸಿ ಅಂತಿಮ ಧ್ವಜವನ್ನು ಪಡೆಯುವುದು ಅವುಗಳ ಕಾರ್ಯವಾಗಿತ್ತು. ಕಾರ್ಯದ ಪ್ರಾಂಪ್ಟ್ ವ್ಯಾಪ್ತಿಯೊಳಗಿನ ಜಾಲಗಳನ್ನು ಗುರುತಿಸಿತ್ತು ಮತ್ತು ಹಲವು ವ್ಯವಸ್ಥೆಗಳು ವ್ಯಾಪ್ತಿಯಿಂದ ಹೊರಗಿವೆ ಎಂದು ಹೆಸರಿಸಿತ್ತು. ಏಜೆಂಟ್‌ಗಳು ಸಾಧನಗಳನ್ನು ಡೌನ್‌ಲೋಡ್ ಮಾಡಲು ಮತ್ತು ಮಾನವ ದಾಳಿಕೋರನಿಗೆ ಹೆಚ್ಚು ಹತ್ತಿರವಾದ ಪರಿಸ್ಥಿತಿಗಳಲ್ಲಿ ಕಾರ್ಯನಿರ್ವಹಿಸಲು UK AISI ನೇರ ಅಂತರ್ಜಾಲ ಪ್ರವೇಶವನ್ನು ಸಕ್ರಿಯಗೊಳಿಸಿತ್ತು. ಅಂತರ್ಗತ ಸಾಮರ್ಥ್ಯವನ್ನು ಅಳೆಯಲು ಮಾಡೆಲ್‌ನ ಸೈಬರ್ ವರ್ಗೀಕಾರಕಗಳನ್ನೂ ನಿಷ್ಕ್ರಿಯಗೊಳಿಸಿತ್ತು.

UK AISI ಉದ್ದೇಶಿಸಿದ್ದ ಅನುಮತಿಯ ಗಡಿಯು ಅನುಕರಿತ ಸೈಬರ್ ವ್ಯಾಪ್ತಿಯಾಗಿತ್ತು. ಏಜೆಂಟ್‌ಗಳಿಗೆ ನಿರ್ದಿಷ್ಟ ಅನುಕರಿತ ಜಾಲಗಳ ಮೇಲೆ ದಾಳಿ ಮಾಡಿ ಧ್ವಜವನ್ನು ಪಡೆಯಲು ಅನುಮತಿ ನೀಡಲಾಗಿತ್ತೇ ಹೊರತು, ವ್ಯಾಪ್ತಿಯ ಜಾಲದ ಗಡಿಯಾಚೆಗಿನ ವ್ಯವಸ್ಥೆಗಳೊಂದಿಗೆ ಸಂವಹನ ನಡೆಸಲು ಅಲ್ಲ. ಆದರೆ ಮುಕ್ತ ಅಂತರ್ಜಾಲ ಪ್ರವೇಶವನ್ನು ಹೇಗೆ ಬಳಸಬಹುದು ಮತ್ತು ಹೇಗೆ ಬಳಸಬಾರದು ಎಂಬುದನ್ನು ಏಜೆಂಟ್‌ಗಳಿಗೆ ಸ್ಪಷ್ಟವಾಗಿ ತಿಳಿಸಿರಲಿಲ್ಲ. ಘಟನೆಯಲ್ಲಿ ಇದೂ ಸಂಭಾವ್ಯ ಕಾರಣವಾಗಿರಬಹುದು ಎಂದು UK AISI ಗುರುತಿಸಿದೆ.

ಈ ಎಲ್ಲ ಚಾಲನೆಗಳಲ್ಲಿ, ಅನುಕರಿತ ವ್ಯಾಪ್ತಿಯನ್ನು ಪ್ರವೇಶಿಸಿ ಧ್ವಜವನ್ನು ಪಡೆಯುವ ಮಾರ್ಗ ಹುಡುಕುವಾಗ GPT‑5.6 Sol ಎರಡು ಅನುಮೋದನೆಯಿಲ್ಲದ ಕ್ರಮಗಳನ್ನು ಕೈಗೊಂಡಿರುವುದನ್ನು UK AISI ಕಂಡುಕೊಂಡಿತು:

1. GPT‑5.6 Sol, ಮತ್ತೊಂದು ಪ್ರಯೋಗಾಲಯದ ಏಜೆಂಟ್ ಸಾರ್ವಜನಿಕವಾಗಿ ಲಭ್ಯವಾಗುವಂತೆ ಬಿಟ್ಟಿದ್ದ GitHub ಟೋಕನ್ ಅನ್ನು ಮರುಬಳಸಿ, ವ್ಯಾಪ್ತಿಯೊಳಗಿನ ವ್ಯವಸ್ಥೆಯೊಂದು GitHub ಅಥವಾ ಬೇರೆ ನವೀಕರಣ ಸೇವೆಯನ್ನು ನಿಯಮಿತವಾಗಿ ಪರಿಶೀಲಿಸುತ್ತಿದೆಯೇ ಎಂದು ಪರೀಕ್ಷಿಸಿತು, ಖಾತೆ ಮರುಪಡೆಯುವಿಕೆ ಮತ್ತು ವಿನಂತಿ-ಮಿತಿ ನಿರ್ಬಂಧಗಳನ್ನು ತಪ್ಪಿಸಲು ಪ್ರಯತ್ನಿಸಿತು ಹಾಗೂ ಬಾಹ್ಯ DNS ಮತ್ತು ಟನಲಿಂಗ್ ಪೂರೈಕೆದಾರರ ಬಳಿ ಖಾತೆಗಳನ್ನು ನೋಂದಾಯಿಸಿತು.
2. GPT‑5.6 Sol ತನ್ನ ಮೌಲ್ಯಮಾಪನ ಪರಿಸರದಲ್ಲಿ ಸ್ಥಳೀಯವಾಗಿ ಚಾಲನೆಯಲ್ಲಿದ್ದ DNS ಸರ್ವರ್ ಅನ್ನು ಸಾರ್ವಜನಿಕ ಅಂತರ್ಜಾಲದಿಂದ ಸಂಪರ್ಕಿಸಬಹುದಾಗಿಸಲು ಸಾರ್ವಜನಿಕ ಟನಲಿಂಗ್ ಸೇವೆಯನ್ನು ಬಳಸಿತು. ಪರೀಕ್ಷಾ ವ್ಯಾಪ್ತಿಯಲ್ಲಿ ಚಾಲನೆಯಲ್ಲಿದ್ದ ತಂತ್ರಾಂಶದ ತಿಳಿದಿರುವ ದುರ್ಬಲತೆಯನ್ನು ಬಳಸಿಕೊಳ್ಳಲು ಉದ್ದೇಶಿಸಿದ ಪೇಲೋಡ್‌ಗಳು ಆ ಸರ್ವರ್‌ನಲ್ಲಿದ್ದವು. ಈ ವ್ಯವಸ್ಥೆ ಕಾರ್ಯನಿರ್ವಹಿಸಲಿಲ್ಲ, ಯಾವುದೇ ನೈಜ ರಿಸಾಲ್ವರ್ ಅದನ್ನು ವಿಚಾರಿಸಿದ ಪುರಾವೆಯಿಲ್ಲ ಮತ್ತು ಮೌಲ್ಯಮಾಪನ ಮುಗಿದಾಗ ಮೂಲಸೌಕರ್ಯವನ್ನು ತೆಗೆದುಹಾಕಲಾಯಿತು.

ಮಾಡೆಲ್ ಸೈಬರ್ ವ್ಯಾಪ್ತಿಯ ಕಾರ್ಯವನ್ನು ಪೂರ್ಣಗೊಳಿಸಲು ಪ್ರಯತ್ನಿಸುತ್ತಿದ್ದರೂ, ಈ ಕ್ರಮಗಳು ವ್ಯಾಪ್ತಿಯ ಗಡಿಯಾಚೆಗಿನ ನೈಜ ಬಾಹ್ಯ ಖಾತೆಗಳು ಮತ್ತು ಸೇವೆಗಳನ್ನು ಒಳಗೊಂಡಿದ್ದರಿಂದ ಹಾಗೂ ಕಾರ್ಯ ಪೂರ್ಣಗೊಳಿಸಲು ಅವು ಅಗತ್ಯವಿರಲಿಲ್ಲವಾದ್ದರಿಂದ UK AISI ಅವುಗಳನ್ನು ಅನುಮೋದನೆಯಿಲ್ಲದ ಕ್ರಮಗಳೆಂದು ಪರಿಗಣಿಸಿತು. DNS ಸರ್ವರ್ ಸಾರ್ವಜನಿಕ ಅಂತರ್ಜಾಲದಲ್ಲಿ ದುರ್ಬಳಕೆ ಪೇಲೋಡ್‌ಗಳನ್ನೂ ಹೋಸ್ಟ್ ಮಾಡಿತ್ತು. ಆದರೆ ಈ ವ್ಯವಸ್ಥೆ ಕಾರ್ಯನಿರ್ವಹಿಸಲಿಲ್ಲ ಮತ್ತು ಯಾವುದೇ ನೈಜ ರಿಸಾಲ್ವರ್ ಅದನ್ನು ವಿಚಾರಿಸಿದ ಪುರಾವೆಯಿಲ್ಲ.

ಭದ್ರತಾ ಮೇಲ್ವಿಚಾರಣೆಯು ಅಸಾಮಾನ್ಯ ದತ್ತಾಂಶ ವರ್ಗಾವಣೆಗಳನ್ನು ಪತ್ತೆಹಚ್ಚಿದ ಬಳಿಕ, ಜುಲೈ 28ರಂದು UK AISI ಈ ಚಟುವಟಿಕೆಯನ್ನು ಗುರುತಿಸಿತು. ಅದು ಸಂಬಂಧಿತ ಮೌಲ್ಯಮಾಪನಗಳನ್ನು ನಿಲ್ಲಿಸಿ, ಸಂಬಂಧಿತ ಯಂತ್ರಗಳನ್ನು ಪ್ರತ್ಯೇಕಿಸಿತು ಮತ್ತು ಪತ್ತೆಯಾದ ಸುಮಾರು ಒಂದು ಗಂಟೆಯೊಳಗೆ ಚಟುವಟಿಕೆಯನ್ನು ನಿಯಂತ್ರಿಸಿತು.

ಚಟುವಟಿಕೆಯನ್ನು ಗುರುತಿಸುವುದು, ತನಿಖೆ ನಡೆಸುವುದು ಮತ್ತು ಅದರ ವಿವರಗಳನ್ನು ಹಂಚಿಕೊಳ್ಳುವುದು ಸೇರಿದಂತೆ ಈ ಪ್ರಕ್ರಿಯೆಯುದ್ದಕ್ಕೂ UK AISI ನೀಡಿದ ಸಹಕಾರವನ್ನು ನಾವು ಪ್ರಶಂಸಿಸುತ್ತೇವೆ. ನಮ್ಮ ಸಹಯೋಗವನ್ನು ಮುಂದುವರಿಸಲು ನಾವು ಎದುರುನೋಡುತ್ತಿದ್ದೇವೆ.

ಜುಲೈ 29ರಂದು, ನಮ್ಮ ತೃತೀಯ-ಪಕ್ಷದ ಮೌಲ್ಯಮಾಪನ ಪಾಲುದಾರರಲ್ಲಿ ಒಂದಾದ ಇರೆಗ್ಯುಲರ್, ಧ್ವಜ-ವಶಪಡಿಕೆ (CTF) ಮಾದರಿಯ ಸೈಬರ್ ಭದ್ರತಾ ಮೌಲ್ಯಮಾಪನಗಳ ವೇಳೆ OpenAI ಮಾಡೆಲ್‌ಗಳನ್ನು ಒಳಗೊಂಡ ಘಟನೆಯ ಕುರಿತು ನಮಗೆ ತಿಳಿಸಿತು. ಅನುಕರಿತ ಪರಿಸರದಲ್ಲಿನ ದುರ್ಬಲತೆಗಳನ್ನು ಬಳಸಿಕೊಂಡು ಅಡಗಿಸಿದ್ದ ಮಾಹಿತಿಯನ್ನು ಹುಡುಕುವಂತೆ ಮಾಡೆಲ್‌ಗಳಿಗೆ ಸೂಚಿಸಲಾಗಿತ್ತು ಮತ್ತು ಅವುಗಳಿಗೆ ಅಂತರ್ಜಾಲ ಪ್ರವೇಶವಿಲ್ಲವೆಂದು ತಿಳಿಸಲಾಗಿತ್ತು. ಆದರೆ ಪರೀಕ್ಷಾ ಪರಿಸರದ ತಪ್ಪಾದ ಸಂರಚನೆಯು ಮಾಡೆಲ್‌ಗಳಿಗೆ ಸಾರ್ವಜನಿಕ ಅಂತರ್ಜಾಲವನ್ನು ಪ್ರವೇಶಿಸಲು ಅವಕಾಶ ನೀಡಿತು.

ಒಂದು ಪರೀಕ್ಷೆಯಲ್ಲಿ, CTF ಸವಾಲಿನ ಕಾಲ್ಪನಿಕ ಗುರಿಯ ಹೆಸರು ಆಕಸ್ಮಿಕವಾಗಿ ನೈಜ ಡೊಮೇನ್‌ನ ಹೆಸರಿನೊಂದಿಗೆ ಹೊಂದಿಕೆಯಾಯಿತು. ಪರೀಕ್ಷಾ ಪರಿಸರವು ತಪ್ಪಾಗಿ ಅಂತರ್ಜಾಲಕ್ಕೆ ಸಂಪರ್ಕಗೊಂಡಿದ್ದರಿಂದ, ನೈಜ ಜಾಲತಾಣವನ್ನು ಅನುಕರಿತ ಪರಿಸರದ ಭಾಗವೆಂದು ಭಾವಿಸಿದ ಮಾಡೆಲ್ ಅದರ ದುರ್ಬಲತೆಯನ್ನು ಬಳಸಿಕೊಂಡಿತು. ಇದು ಸಂಕೀರ್ಣವಾದ ಸ್ಯಾಂಡ್‌ಬಾಕ್ಸ್ ತಪ್ಪಿಸಿಕೊಳ್ಳುವಿಕೆ ಅಥವಾ ಶೂನ್ಯ-ದಿನದ ದುರ್ಬಲತೆಯನ್ನು ಒಳಗೊಂಡಿರಲಿಲ್ಲ. ತಪ್ಪಾದ ಸಂರಚನೆಯಿಂದ ಅಂತರ್ಜಾಲ ಪ್ರವೇಶ ಲಭ್ಯವಾಯಿತು ಮತ್ತು ಮಾಡೆಲ್ ಮೂಲಭೂತ ಭದ್ರತಾ ದುರ್ಬಲತೆಯನ್ನು ಬಳಸಿಕೊಂಡಂತೆ ಕಂಡುಬಂದಿತು.

ಇರೆಗ್ಯುಲರ್‌ನ ತನಿಖೆಯ ಪ್ರಕಾರ, ಮಾಡೆಲ್ ಅದೇ ಜಾಲತಾಣವನ್ನು ನಿರ್ವಹಿಸಲು ಅಗತ್ಯವಾದ ರುಜುವಾತುಗಳನ್ನು ಪತ್ತೆಹಚ್ಚಿ ಬಳಸಿತು. ಬಾಧಿತ ಜಾಲತಾಣದ ಸ್ವಂತ ದತ್ತಾಂಶದಾಚೆಗೆ ಯಾವುದೇ ಪರಿಣಾಮವನ್ನು ಇರೆಗ್ಯುಲರ್ ಗುರುತಿಸಿಲ್ಲ ಮತ್ತು ಅದರ ಲೆಕ್ಕಪರಿಶೋಧನೆ ಮುಂದುವರಿದಿದೆ. ಅದು ಮೌಲ್ಯಮಾಪನಗಳನ್ನು ತಾತ್ಕಾಲಿಕವಾಗಿ ನಿಲ್ಲಿಸಿ, ಪರಿಹಾರ ಕ್ರಮಗಳನ್ನು ಆರಂಭಿಸಿದೆ ಮತ್ತು ಬಾಧಿತ ತೃತೀಯ ಪಕ್ಷಗಳಿಗೆ ಮಾಹಿತಿ ನೀಡಲಾಗಿದೆ. ಘಟನೆಗೆ ಸಂಬಂಧಿಸಿದಂತೆ ಗುರುತಿಸಲಾದ ಎಲ್ಲ ಸಮಸ್ಯೆಗಳು ಈಗ ಸಕ್ರಿಯವಾಗಿಲ್ಲ ಮತ್ತು ಪರೀಕ್ಷಾ ಪರಿಸರಕ್ಕೆ ಸೂಕ್ತ ಸುರಕ್ಷತಾ ಕ್ರಮಗಳನ್ನು ಸೇರಿಸಲಾಗಿದೆ ಎಂದು ಇರೆಗ್ಯುಲರ್ ನಮಗೆ ತಿಳಿಸಿದೆ. ಅದೇ ಪರೀಕ್ಷಾ ಪರಿಸರದಲ್ಲಿ ಇತರ ಪ್ರಯೋಗಾಲಯಗಳನ್ನು ಒಳಗೊಂಡ ಸಂಬಂಧಿತ ಘಟನೆಗಳ ಬಗ್ಗೆಯೂ ಇರೆಗ್ಯುಲರ್ ಮಾಹಿತಿ ನೀಡಿದೆ.

ಇರೆಗ್ಯುಲರ್‌ನ ಸಹಕಾರವನ್ನು ನಾವು ಪ್ರಶಂಸಿಸುತ್ತೇವೆ ಮತ್ತು ಅದರ ಪರಿಶೀಲನೆಗೆ ಬೆಂಬಲ ನೀಡಲು ನಿಕಟವಾಗಿ ಕೆಲಸ ಮಾಡುವುದನ್ನು ಮುಂದುವರಿಸುತ್ತೇವೆ. ಚಟುವಟಿಕೆ ನಿಯಂತ್ರಣ ಮತ್ತು ಸೈಬರ್ ಮೌಲ್ಯಮಾಪನಗಳನ್ನು ಸುರಕ್ಷಿತವಾಗಿ ನಡೆಸುವ ಅತ್ಯುತ್ತಮ ಪದ್ಧತಿಗಳನ್ನು ಹಂಚಿಕೊಳ್ಳಲು ಇರೆಗ್ಯುಲರ್ ಶ್ವೇತಪತ್ರವನ್ನೂ ಸಿದ್ಧಪಡಿಸುತ್ತಿದೆ. ಸಂಶೋಧನಾ ಫಲಿತಾಂಶಗಳನ್ನು ಸಮುದಾಯಕ್ಕೆ ಲಭ್ಯವಾಗಿಸಲು ಶ್ವೇತಪತ್ರದಲ್ಲಿ ಪಾಲ್ಗೊಳ್ಳಲು ಮತ್ತು ನಮ್ಮ ಸಹಭಾಗಿತ್ವವನ್ನು ಮುಂದುವರಿಸಲು ನಾವು ಎದುರುನೋಡುತ್ತಿದ್ದೇವೆ. ಪ್ರಸ್ತುತ ಮತ್ತು ಭವಿಷ್ಯದ ಮಾಡೆಲ್‌ಗಳ ಸುರಕ್ಷಿತ ಹಾಗೂ ಸಮಗ್ರ ಮೌಲ್ಯಮಾಪನವನ್ನು ಖಚಿತಪಡಿಸಲು ಇಂತಹ ಸಹಯೋಗ ಅತ್ಯಗತ್ಯವೆಂದು ನಾವು ಪರಿಗಣಿಸುತ್ತೇವೆ.