ಕಳೆದ ಹಲವು ವಾರಗಳಲ್ಲಿ, ಹೆಚ್ಚುತ್ತಿರುವ ಸಾಮರ್ಥ್ಯದ AI ವ್ಯವಸ್ಥೆಗಳಿಗೆ ಸಂಬಂಧಿಸಿದ ಅಪಾಯಗಳು ಹೆಚ್ಚುತ್ತಿರುವುದನ್ನು ಎರಡು ಬೆಳವಣಿಗೆಗಳು ಎತ್ತಿ ತೋರಿಸಿವೆ: OpenAI-ಹಗ್ಗಿಂಗ್ ಫೇಸ್ ಘಟನೆ ಮತ್ತು ಪ್ರತ್ಯೇಕವಾಗಿ, ನಮ್ಮ ಮುಂಬರುವ ಮಾಡೆಲ್ಗಳಲ್ಲಿ ಒಂದಾದ Astra, ನಮ್ಮ ಪ್ರಿಪೇರ್ಡ್ನೆಸ್ ಫ್ರೇಮ್ವರ್ಕ್ ಅಡಿಯಲ್ಲಿ ನಿರ್ಣಾಯಕ ಸೈಬರ್ ಭದ್ರತಾ ಸಾಮರ್ಥ್ಯದ ಮಿತಿಯನ್ನು ತಲುಪಬಹುದು ಎಂಬ ಪ್ರಾಥಮಿಕ ಪುರಾವೆ. ಈ ಬೆಳವಣಿಗೆಗಳು ಮತ್ತು ನಮ್ಮ ಆಂತರಿಕ ಸಂಶೋಧನೆಯಲ್ಲಿನ ಕ್ಷಿಪ್ರ ಪ್ರಗತಿಯು ಒಟ್ಟಾಗಿ, ತರಬೇತಿ ಪ್ರಕ್ರಿಯೆಯ ಎಲ್ಲ ಹಂತಗಳಲ್ಲಿ ಮೇಲ್ವಿಚಾರಣೆ, ಹೊಂದಾಣಿಕೆ ಮತ್ತು ನಿಯಂತ್ರಣ ಸುರಕ್ಷತಾ ಕ್ರಮಗಳನ್ನು ಬಲಪಡಿಸುವ ನಮ್ಮ ಕೆಲಸದ ತುರ್ತನ್ನು ಹೆಚ್ಚಿಸಿವೆ.
ಮಾಡೆಲ್ಗಳ ಸಾಮರ್ಥ್ಯ ಹೆಚ್ಚಿದಂತೆ, ಅವುಗಳನ್ನು ಆಂತರಿಕವಾಗಿ ಅಭಿವೃದ್ಧಿಪಡಿಸುವುದು ಮತ್ತು ಪರೀಕ್ಷಿಸುವುದಕ್ಕೆ ಸಂಬಂಧಿಸಿದ ಅಪಾಯಗಳೂ ಹೆಚ್ಚುತ್ತವೆ. ಮೇಲ್ವಿಚಾರಣೆ, ಹೊಂದಾಣಿಕೆ ಮತ್ತು ಭದ್ರತೆಗಾಗಿ ನಮ್ಮ ಮಾನದಂಡಗಳು ಆ ಅಪಾಯಗಳಿಗಿಂತ ಸದಾ ಮುಂದಿರಬೇಕು. ಆ ಮಾನದಂಡಗಳನ್ನು ಪೂರೈಸಲು ಅಗತ್ಯವಾದ ಸಮಯವನ್ನು ತೆಗೆದುಕೊಳ್ಳಲು ಬಯಸಿದ್ದರಿಂದ, ನಾವು ವಿಸ್ತರಣೆಯ ವೇಗವನ್ನು ತಾತ್ಕಾಲಿಕವಾಗಿ ತಗ್ಗಿಸಿದೆವು. ನಮ್ಮ ಸಂಶೋಧನಾ ಪರಿಸರಗಳನ್ನು ಮತ್ತಷ್ಟು ಭದ್ರಪಡಿಸಿ, ಪ್ರತಿಕೂಲ ಪರೀಕ್ಷೆಗೆ ಒಳಪಡಿಸುವಾಗ ಮತ್ತು ಮೇಲ್ವಿಚಾರಣಾ ವ್ಯವಸ್ಥೆಗಳ ವ್ಯಾಪ್ತಿಯನ್ನು ವಿಸ್ತರಿಸುವಾಗ, ಬಳಕೆಗೆ ಬಿಡುಗಡೆ ಮಾಡಲು ಉದ್ದೇಶಿಸಿದ್ದ ನಮ್ಮ ಇತ್ತೀಚಿನ ಮಾಡೆಲ್ಗಳ ರೀಇನ್ಫೋರ್ಸ್ಮೆಂಟ್ ಲರ್ನಿಂಗ್ (RL) ತರಬೇತಿಯನ್ನು ಎರಡು ವಾರಗಳ ಕಾಲ ಸ್ಥಗಿತಗೊಳಿಸುವುದೂ ಇದರಲ್ಲಿ ಸೇರಿತ್ತು. ಮುಂದುವರಿಯುವ ಮೊದಲು ಮಾಡೆಲ್ನ ನಡವಳಿಕೆಯನ್ನು ಪರಿಶೀಲಿಸಲು, ನಮ್ಮ ಸುರಕ್ಷತಾ ಕ್ರಮಗಳನ್ನು ದೃಢೀಕರಿಸಲು ಮತ್ತು ಹೊಂದಾಣಿಕೆಯ ಕುರಿತು ಹೆಚ್ಚಿನ ಪುರಾವೆಗಳನ್ನು ಸ್ಥಾಪಿಸಲು ಸಣ್ಣ ಪ್ರಮಾಣದ ತರಬೇತಿ ಮತ್ತು ಮೌಲ್ಯಮಾಪನಗಳನ್ನು ನಡೆಸುತ್ತಿರುವುದರಿಂದ, ನಾವು ಯೋಜಿಸಿದ್ದ ಅತಿದೊಡ್ಡ ಅತ್ಯಾಧುನಿಕ RL ಚಾಲನೆ ಇನ್ನೂ ಸ್ಥಗಿತದಲ್ಲಿದೆ.
AI ವ್ಯವಸ್ಥೆಗಳು ಉದ್ದೇಶಿಸಿದಂತೆ ವರ್ತಿಸುವಂತೆ ಮತ್ತು ಮಾನವ ಮೇಲ್ವಿಚಾರಣೆಗೆ ಸ್ಪಂದಿಸುವಂತೆ ಮಾಡುವ ಕೆಲಸವಾದ ಹೊಂದಾಣಿಕೆಯು ಬಹುಕಾಲದಿಂದ ನಮ್ಮ ಸಂಶೋಧನಾ ಕಾರ್ಯಕ್ರಮದ ಕೇಂದ್ರಬಿಂದುವಾಗಿದೆ. ಈಗಾಗಲೇ ನಡೆಯುತ್ತಿರುವ ಸಂಶೋಧನೆ ಮತ್ತು ಮೌಲ್ಯಮಾಪನಗಳ ಆಧಾರದ ಮೇಲೆ, ತರಬೇತಿಯ ಎಲ್ಲ ಹಂತಗಳಲ್ಲೂ ಹೊಂದಾಣಿಕೆಯ ನಡವಳಿಕೆಗೆ ಇನ್ನಷ್ಟು ದೃಢವಾದ ಪುರಾವೆಯನ್ನು ನಾವು ಈಗ ಕಡ್ಡಾಯಗೊಳಿಸಿದ್ದೇವೆ. ಹೆಚ್ಚುತ್ತಿರುವ ಸಾಮರ್ಥ್ಯದ ವ್ಯವಸ್ಥೆಗಳನ್ನು ಹೊಂದಾಣಿಕೆಯಲ್ಲಿ ಇರಿಸುವ ಸವಾಲನ್ನು ಇಡೀ ಕ್ಷೇತ್ರವೇ ಎದುರಿಸಬೇಕಾಗುತ್ತದೆ. ಮುಂಬರುವ ಮಾಡೆಲ್ಗಳ ಪ್ರಗತಿಯಿಂದ ನಮಗೆ ಸಿಗುತ್ತಿರುವ ಸೂಚನೆಗಳು, ಪ್ರಸ್ತುತ ಪ್ರಿಪೇರ್ಡ್ನೆಸ್ ಫ್ರೇಮ್ವರ್ಕ್ನ ಆಧಾರದಲ್ಲಿ ಅದನ್ನೂ ಮೀರಿ ವಿಸ್ತರಿಸುವ ವಿಶಾಲವಾದ ವಿಧಾನ ನಮಗೆ ಅಗತ್ಯವೆಂದು ಸ್ಪಷ್ಟಪಡಿಸುತ್ತವೆ.
ನಮ್ಮ ವಿಧಾನ ಹೇಗೆ ಬದಲಾಗುತ್ತಿದೆ ಎಂಬುದರ ಬಗ್ಗೆ ಪಾರದರ್ಶಕವಾಗಿರುವುದು ಮುಖ್ಯವೆಂದು ನಾವು ಭಾವಿಸುತ್ತೇವೆ. ನಮ್ಮ ಸಂಶೋಧನಾ ಪ್ರಕ್ರಿಯೆಗಳು ಮತ್ತು ಮೂಲಸೌಕರ್ಯದಲ್ಲಿ ಈಗಾಗಲೇ ಮಾಡಿರುವ ಬದಲಾವಣೆಗಳನ್ನೂ, ಇನ್ನೂ ನಡೆಯುತ್ತಿರುವ ಕೆಲಸವನ್ನೂ ಕೆಳಗೆ ವಿವರಿಸಿದ್ದೇವೆ.
ಹೆಚ್ಚು ಸಾಮರ್ಥ್ಯದ ಮಾಡೆಲ್ಗಳನ್ನು ಅಭಿವೃದ್ಧಿಪಡಿಸುವ ನಮ್ಮ ವಿಧಾನವು ಪರಸ್ಪರ ಬಲ ನೀಡುವ ಮೂರು ಸುರಕ್ಷತಾ ಕ್ರಮಗಳನ್ನು ಆಧರಿಸಿದೆ:
- ಆತಂಕಕಾರಿ ನಡವಳಿಕೆಯನ್ನು ಪತ್ತೆಹಚ್ಚಿ ಅದಕ್ಕೆ ಪ್ರತಿಕ್ರಿಯಿಸಲು ನಮಗೆ ಅನುವು ಮಾಡಿಕೊಡುವ ಮೇಲ್ವಿಚಾರಣೆ.
- ಹಾನಿಕಾರಕ ಅಥವಾ ಅನಧಿಕೃತ ಕ್ರಿಯೆಗಳ ಸಾಧ್ಯತೆಯನ್ನು ಕಡಿಮೆ ಮಾಡುವ ಹೊಂದಾಣಿಕೆ.
- AI ವ್ಯವಸ್ಥೆಗಳು ಯಾವುದನ್ನು ಪ್ರವೇಶಿಸಬಹುದು ಅಥವಾ ಯಾವುದರ ಮೇಲೆ ಪರಿಣಾಮ ಬೀರಬಹುದು ಎಂಬುದನ್ನು ಮಿತಿಗೊಳಿಸುವ ಭದ್ರತಾ ಕ್ರಮಗಳು.
ಇತರ ಮಾಡೆಲ್ಗಳಿಂದ ರಕ್ಷಿಸುವುದೂ ಸೇರಿದಂತೆ, ಬಹುತೇಕ ಭದ್ರತಾ ಕೆಲಸವನ್ನು ಮಾಡೆಲ್ಗಳು ಶೀಘ್ರದಲ್ಲೇ ನಿರ್ವಹಿಸುತ್ತವೆ ಎಂದು ನಾವು ನಿರೀಕ್ಷಿಸುತ್ತೇವೆ. ಇದು ಮಾಡೆಲ್ನ ಸಾಮರ್ಥ್ಯಕ್ಕೆ ಅನುಗುಣವಾಗಿ ಮೂರೂ ಸುರಕ್ಷತಾ ಕ್ರಮಗಳನ್ನು ವಿಸ್ತರಿಸಲು ನೆರವಾಗುತ್ತದೆ; ಇದನ್ನು ನಾವು ಅತ್ಯಂತ ಮುಖ್ಯವೆಂದು ಪರಿಗಣಿಸುತ್ತೇವೆ.
ಪ್ರತಿ ಮಾಡೆಲ್ನ ಸಾಮರ್ಥ್ಯಗಳು, ಕಾರ್ಯಾಚರಣಾ ಪರಿಸರ ಮತ್ತು ಅಪಾಯದ ಮಟ್ಟಕ್ಕೆ ತಕ್ಕಂತೆ ಹೊಂದಿಸಿಕೊಂಡು, ಸಂಶೋಧನೆಯಿಂದ ಬಳಕೆಗೆ ಬಿಡುಗಡೆಯವರೆಗೆ ಈ ಸುರಕ್ಷತಾ ಕ್ರಮಗಳನ್ನು ಅನ್ವಯಿಸುತ್ತೇವೆ.
ಅತ್ಯಾಧುನಿಕ ಮಾಡೆಲ್ಗಳ ಸೈಬರ್ ಭದ್ರತಾ ಸಾಮರ್ಥ್ಯಗಳು ಹೆಚ್ಚಿದಂತೆ, ಅವುಗಳಿಗೆ ತರಬೇತಿ ನೀಡಿ ಮೌಲ್ಯಮಾಪನ ಮಾಡುವ ಪರಿಸರಗಳ ಭದ್ರತಾ ಮಾನದಂಡಗಳನ್ನು ನಾವು ಹೆಚ್ಚಿಸುತ್ತಿದ್ದೇವೆ. ಈ ಮಾನದಂಡಗಳನ್ನು ಪೂರೈಸಲು ಗಣನೀಯ ಎಂಜಿನಿಯರಿಂಗ್ ಕೆಲಸ ಬೇಕಾಗಿದ್ದು, ಅತ್ಯಾಧುನಿಕ ಸಂಶೋಧನೆಗೆ ದೊಡ್ಡ ವೆಚ್ಚ ಮತ್ತು ವಿಳಂಬ ಉಂಟಾಗಿದೆ. OpenAI-ಹಗ್ಗಿಂಗ್ ಫೇಸ್ ಘಟನೆ* ನಡೆದ ತಕ್ಷಣ, ಕೋಡ್ ಕಾರ್ಯಗತಗೊಳಿಸಬಹುದಾದ ಅಥವಾ ಅಂತರ್ಜಾಲ ಪ್ರವೇಶವಿರುವ ಪರಿಕರಗಳನ್ನು ಬಳಸಬಹುದಾದ ಚಾಲನೆಗಳಿಗಾಗಿ ಸಂಶೋಧನಾ ಕ್ಲಸ್ಟರ್ಗಳಲ್ಲಿ ಅತ್ಯಾಧುನಿಕ ಮಾಡೆಲ್ಗಳ ನಿರ್ಣಯ ಪ್ರಕ್ರಿಯೆಯನ್ನು ಸ್ಥಗಿತಗೊಳಿಸಿದೆವು. ಕೋಡ್ ಕಾರ್ಯಗತಗೊಳಿಸಲು ಹೆಚ್ಚು ಸೀಮಿತ ಮತ್ತು ಸುರಕ್ಷಿತ ಮಾರ್ಗವನ್ನು ನಾವು ಬೇಗನೆ ಮರುಸ್ಥಾಪಿಸಿ, ಪ್ರತಿಯೊಂದು ಕಾರ್ಯಭಾರವನ್ನೂ ಪ್ರತ್ಯೇಕವಾಗಿ ಪರಿಶೀಲಿಸಿ ಅದನ್ನು ಸುರಕ್ಷಿತವಾಗಿ ಪುನರಾರಂಭಿಸಬಹುದೇ ಎಂದು ನಿರ್ಧರಿಸಿದೆವು. ಕೆಲವು ಸಂಶೋಧನಾ ಕಾರ್ಯಭಾರಗಳು ಈ ಹೊಸ ನಿಯಂತ್ರಣಗಳ ಅಡಿಯಲ್ಲಿ ಪುನರಾರಂಭವಾದರೆ, ಇತರವುಗಳಿಗೆ ಹೆಚ್ಚುವರಿ ಬದಲಾವಣೆಗಳು ಬೇಕಾದವು.
ನಂತರದ ವಾರಗಳಲ್ಲಿ, ಅತ್ಯಾಧುನಿಕ ಸಂಶೋಧನಾ ಕಾರ್ಯಭಾರಗಳಿಗೆ ಹೆಚ್ಚು ಕಠಿಣವಾದ ಭದ್ರತಾ ಅವಶ್ಯಕತೆಗಳನ್ನು ರೂಪಿಸಿ ಜಾರಿಗೊಳಿಸಲು ಆರಂಭಿಸಿದ್ದೇವೆ. ಉದಾಹರಣೆಗೆ:
- ಕಾರ್ಯಭಾರ ಪ್ರತ್ಯೇಕೀಕರಣ: ಮಾಡೆಲ್ ರಚಿಸಿದ ಅಥವಾ ವಿಶ್ವಾಸಾರ್ಹವಲ್ಲದ ಇತರ ಕೋಡ್ ಅನ್ನು ಕಾರ್ಯಗತಗೊಳಿಸುವ ಕಾರ್ಯಭಾರಗಳಿಗೆ ಈಗ ಹೆಚ್ಚು ಬಲವಾದ ಪ್ರತ್ಯೇಕೀಕರಣವನ್ನು (‘‘ಸುರಕ್ಷಿತ ಆವರಣಗಳು’’) ಕಡ್ಡಾಯಗೊಳಿಸಿದ್ದೇವೆ. ಮಾಡೆಲ್ನ ಔಟ್ಪುಟ್ಗಳನ್ನು ಸಂಸ್ಕರಿಸುವಾಗ ಅಪಾಯಕ್ಕೊಳಗಾಗಬಹುದಾದ ತಂತ್ರಾಂಶಕ್ಕೂ ಇದು ಅನ್ವಯಿಸುತ್ತದೆ.
- ಜಾಲ ಪ್ರತ್ಯೇಕೀಕರಣ: ಹೆಚ್ಚು ಅಪಾಯದ ಮತ್ತು ವಿಶ್ವಾಸಾರ್ಹವಲ್ಲದ ಕಾರ್ಯಭಾರಗಳನ್ನು ಅಂತರ್ಜಾಲದಿಂದ ಪ್ರತ್ಯೇಕಿಸಲು ಹೆಚ್ಚಿನ ನಿಯಂತ್ರಣಗಳನ್ನು ಜಾರಿಗೊಳಿಸಿದ್ದೇವೆ. ಒಂದು ಕಾರ್ಯಭಾರ ಅಥವಾ ಪೂರಕ ಸೇವೆಗೆ ಧಕ್ಕೆಯಾದ ಮಾತ್ರಕ್ಕೆ ಅಂತರ್ಜಾಲ ಅಥವಾ ಇತರ ಆಂತರಿಕ ಜಾಲಗಳಿಗೆ ಅನಧಿಕೃತ ಪ್ರವೇಶ ಸಿಗದಂತೆ ಈ ನಿಯಂತ್ರಣಗಳನ್ನು ವಿನ್ಯಾಸಗೊಳಿಸಿದ್ದೇವೆ.
- ನಿರಂತರ ಭದ್ರತಾ ಪರೀಕ್ಷೆ: ಸಂಭಾವ್ಯ ದೌರ್ಬಲ್ಯವಿರುವ ಹಂಚಿಕೆಯ ಸೇವೆಗಳನ್ನು ತೆಗೆದುಹಾಕಲು, ಶಾಶ್ವತ ಸವಲತ್ತುಗಳನ್ನು ಕಡಿಮೆ ಮಾಡಲು ಮತ್ತು ಭದ್ರತೆ ಹಾಗೂ ವಿಶ್ವಾಸದ ಗಡಿಗಳನ್ನು ಸುಧಾರಿಸಲು ನಮ್ಮ ಪರಿಸರವನ್ನು ಮರುಸಂರಚಿಸಿದ್ದೇವೆ. ಭದ್ರತಾ ದಾಖಲೆಗಳನ್ನು ಸಂಗ್ರಹಿಸಿ ಮೇಲ್ವಿಚಾರಣೆ ಮಾಡುವ ನಮ್ಮ ಸಾಮರ್ಥ್ಯವನ್ನೂ ಸುಧಾರಿಸುತ್ತಿದ್ದೇವೆ. ಅಂತಿಮವಾಗಿ, ಅನುಕರಿಸಿದ ದಾಳಿಗಳ ಮೂಲಕ ಈ ಗಡಿಗಳನ್ನು ನಿರಂತರವಾಗಿ ಪರೀಕ್ಷಿಸಲು ನಮ್ಮ ಮಾಡೆಲ್ಗಳನ್ನು ಬಳಸುವ ಸ್ವಯಂಚಾಲಿತ ವ್ಯವಸ್ಥೆಗಳಲ್ಲಿ ಹೂಡಿಕೆ ಮಾಡುತ್ತಿದ್ದೇವೆ.
ಈ ನಿಯಂತ್ರಣಗಳು ಒಟ್ಟಾಗಿ ಬಹುಪದರದ ರಕ್ಷಣೆಯನ್ನು ಒದಗಿಸಿ, ನಮ್ಮ ಸಂಶೋಧನಾ ಪರಿಸರವನ್ನು ದಾಳಿಗಳಿಂದ ರಕ್ಷಿಸಲು ನೆರವಾಗುತ್ತವೆ. Astra ಮಾಡೆಲ್ಗಳು ನಿರ್ಣಾಯಕ ಮಟ್ಟದ ಸೈಬರ್ ಸಾಮರ್ಥ್ಯ ಹೊಂದಿರಬಹುದು ಎಂದು ನಾವು ನಿರ್ಧರಿಸಿರುವುದರಿಂದ, Astra ಅಥವಾ ಸೈಬರ್ ಮಾಡೆಲ್ಗಳನ್ನು ಒಳಗೊಂಡ ಕಾರ್ಯಭಾರಗಳಿಗೆ ಇಂದು ಅತ್ಯಂತ ಕಠಿಣ ಭದ್ರತಾ ಕ್ರಮಗಳನ್ನು ಕಡ್ಡಾಯಗೊಳಿಸಿದ್ದೇವೆ. ಈ ಸುರಕ್ಷತಾ ಕ್ರಮಗಳು ಸೈಬರ್ಗೆ ಸಂಬಂಧಿಸಿದ ಇತರ ಎಲ್ಲ ಕಾರ್ಯಭಾರಗಳಿಗೂ ಅನ್ವಯಿಸುತ್ತವೆ.
ಕೆಲವು Astra ತರಬೇತಿ ಮತ್ತು ಮೌಲ್ಯಮಾಪನಗಳು ಆ ಅವಶ್ಯಕತೆಗಳನ್ನು ಪೂರೈಸಿದರೂ, ಹೊಸ ಭದ್ರತಾ ಮಾನದಂಡಕ್ಕೆ ತಕ್ಕಂತೆ ಸಂಪೂರ್ಣವಾಗಿ ಸ್ಥಳಾಂತರಿಸಿ ಸುಧಾರಿಸುವವರೆಗೆ ಗಣನೀಯ ಸಂಖ್ಯೆಯ ಕಾರ್ಯಭಾರಗಳು ಸ್ಥಗಿತದಲ್ಲೇ ಇರುತ್ತವೆ. ಈ ಹೊಸ ಪರಿಸರಗಳಿಗೆ ಮೊದಲು ಸುರಕ್ಷತೆ ಮತ್ತು ಹೊಂದಾಣಿಕೆಯ ಕಾರ್ಯಭಾರಗಳನ್ನು ಸ್ಥಳಾಂತರಿಸಲು ಆದ್ಯತೆ ನೀಡುತ್ತಿದ್ದೇವೆ.
ಆಂತರಿಕ ಕೋಡಿಂಗ್ ಏಜೆಂಟ್ಗಳ ಮೇಲ್ವಿಚಾರಣೆ ಮತ್ತು ದೀರ್ಘಕಾಲ ನಡೆಯುವ ಅವಧಿಗಳ ಮೇಲ್ವಿಚಾರಣೆ ಸೇರಿದಂತೆ, ಮಾಡೆಲ್ ಅಭಿವೃದ್ಧಿ ಪ್ರಕ್ರಿಯೆಯಲ್ಲಿ ಮೇಲ್ವಿಚಾರಣೆಯು ಬಹುಕಾಲದಿಂದ ಪ್ರಮುಖ ಭಾಗವಾಗಿದೆ. ನಮ್ಮ ಮೇಲ್ವಿಚಾರಣೆಯು ವಿಶೇಷವಾಗಿ ಅತ್ಯಾಧುನಿಕ ಮಾಡೆಲ್ಗಳ ಆಂತರಿಕ ಬಳಕೆ ಮತ್ತು ಅತ್ಯಾಧುನಿಕ RL ತರಬೇತಿ ಚಾಲನೆಗಳ ಮೇಲೆ ಕೇಂದ್ರೀಕೃತವಾಗಿತ್ತು. ಏಕೆಂದರೆ ಅವು ಸುಧಾರಿತ ಮಾಡೆಲ್ ಸಾಮರ್ಥ್ಯಗಳನ್ನು ಪರಿಕರಗಳು, ಸೂಕ್ಷ್ಮ ವ್ಯವಸ್ಥೆಗಳು ಮತ್ತು ಆಂತರಿಕ ಅಥವಾ ಬಾಹ್ಯ ಜಾಲಗಳ ಪ್ರವೇಶದೊಂದಿಗೆ ಸಂಯೋಜಿಸಬಹುದಾದ್ದರಿಂದ, ಅವನ್ನು ಅತ್ಯಧಿಕ ಅಪಾಯದ ಕಾರ್ಯಭಾರಗಳೆಂದು ಪರಿಗಣಿಸಿದ್ದೆವು. ಪರಿಕರಗಳನ್ನು ಬಳಸುವ ಎಲ್ಲ ನಿರ್ಣಯ ಮತ್ತು ತರಬೇತಿ ಚಾಲನೆಗಳಿಗೆ ಅವುಗಳನ್ನು ಅನ್ವಯಿಸಿರಲಿಲ್ಲ. ನಮ್ಮ ಹೊಸ ಮೇಲ್ವಿಚಾರಣಾ ವ್ಯವಸ್ಥೆಯೊಂದಿಗೆ ವಿಧಾನವನ್ನು ಪರಿಷ್ಕರಿಸಿ ವಿಸ್ತರಿಸಿದ್ದೇವೆ.
ಈ ಹೊಸ ಮೇಲ್ವಿಚಾರಣಾ ವ್ಯವಸ್ಥೆಯು ಬಹುಹಂತದ್ದಾಗಿದೆ. ಮಾದರಿಯಾಗಿ ಆಯ್ದ ಪ್ರತಿ ಟೋಕನ್ನಲ್ಲಿ ಕಾರ್ಯನಿರ್ವಹಿಸುವ ಸಕ್ರಿಯತಾ ವರ್ಗೀಕಾರಕಗಳಿಂದ (ಮಾಡೆಲ್ನ ಆಂತರಿಕ ಚಟುವಟಿಕೆಯನ್ನು ಪರಿಶೀಲಿಸುವ ಪತ್ತೆಕಾರಕಗಳು) ಇದು ಆರಂಭವಾಗಿ, ಸಂಭಾವ್ಯ ಆತಂಕಗಳನ್ನು ಹಂತಹಂತವಾಗಿ ಹೆಚ್ಚು ಸುಧಾರಿತ ಮತ್ತು ಅಧಿಕ ಗಣನಾ ಸಾಮರ್ಥ್ಯದ ಸ್ವಯಂಚಾಲಿತ ತನಿಖಾ ವ್ಯವಸ್ಥೆಗಳಿಗೆ ಕಳುಹಿಸುತ್ತದೆ. ಅನಧಿಕೃತ ಪ್ರವೇಶ, ದತ್ತಾಂಶ ಕಳವು, ವಿನಾಶಕಾರಿ ನಡವಳಿಕೆ ಮತ್ತು ಸುರಕ್ಷತಾ ಕ್ರಮಗಳನ್ನು ಸೋಲಿಸುವ ಪ್ರಯತ್ನಗಳನ್ನು ಪತ್ತೆಹಚ್ಚಲು ಆ ವ್ಯವಸ್ಥೆಗಳು ಪರಿಕರಗಳ ಕ್ರಿಯೆಗಳು, ಲಭ್ಯವಿರುವ ರೀಜನಿಂಗ್ ಮತ್ತು ಚಟುವಟಿಕೆಯ ಸಂಪೂರ್ಣ ಅನುಕ್ರಮವನ್ನು ಪರಿಶೀಲಿಸುತ್ತವೆ. ನಮ್ಮ ಮೇಲ್ವಿಚಾರಣಾ ವ್ಯವಸ್ಥೆಯ ಮೂಲಕ ಆತಂಕಕಾರಿ ಚಟುವಟಿಕೆ ಬೆಳಕಿಗೆ ಬಂದ 30 ನಿಮಿಷಗಳೊಳಗೆ ಎಚ್ಚರಿಕೆ ನೀಡುವುದು ನಮ್ಮ ಗುರಿ. ನಿರ್ಣಾಯಕ ಭದ್ರತಾ ಗಡಿಯ ಉಲ್ಲಂಘನೆಯಾಗಿರುವ ಸಾಧ್ಯತೆಯನ್ನು ಮೇಲ್ವಿಚಾರಣಾ ವ್ಯವಸ್ಥೆ ಗುರುತಿಸಿದರೆ, ಅದು ಅತ್ಯುನ್ನತ ಆದ್ಯತೆಯ ಎಚ್ಚರಿಕೆಯನ್ನು ರಚಿಸುತ್ತದೆ. ನಮ್ಮ ಪ್ರಸ್ತುತ ಜಾರಿಯಲ್ಲಿ ಸುರಕ್ಷತೆ, ಭದ್ರತೆ ಮತ್ತು ಸಂಶೋಧನಾ ತಂಡಗಳಿಗೆ ತುರ್ತು ಸೂಚನೆ ಕಳುಹಿಸಲಾಗುತ್ತದೆ. ಗುರುತಿಸಲಾದ ಸಂಗತಿಯು ತಪ್ಪು ಎಚ್ಚರಿಕೆ ಎಂದು 30 ನಿಮಿಷಗಳೊಳಗೆ ಖಚಿತವಾಗಿ ನಿರ್ಧರಿಸಲು ಸಾಧ್ಯವಾಗದಿದ್ದರೆ, ಆ ತಂಡಗಳು ಚಟುವಟಿಕೆಯನ್ನು ಸ್ಥಗಿತಗೊಳಿಸಬೇಕು.
Sol ಸಾಮರ್ಥ್ಯ ಅಥವಾ ಅದಕ್ಕಿಂತ ಹೆಚ್ಚಿನ ಸಾಮರ್ಥ್ಯದ ಮಾಡೆಲ್ಗಳಿಗೆ, ಪರಿಕರಗಳನ್ನು ಒಳಗೊಂಡ ಎಲ್ಲ RL ತರಬೇತಿ ಮತ್ತು ಮೌಲ್ಯಮಾಪನಗಳಲ್ಲಿ ಈ ಮೇಲ್ವಿಚಾರಣೆ ಕಡ್ಡಾಯವಾಗಿದೆ. ಆಗಸ್ಟ್ 7ರಂದು Astra ನಿರ್ಣಾಯಕ ಸೈಬರ್ ಸಾಮರ್ಥ್ಯಗಳನ್ನು ಹೊಂದಿರಬಹುದು ಎಂದು ನಿರ್ಧರಿಸಿದ ಬಳಿಕ, ಪರಿಕರಗಳೊಂದಿಗಿನ Astraದ ಎಲ್ಲ ನಿರ್ಣಯ ಪ್ರಕ್ರಿಯೆಗಳಿಗೆ (RL ತರಬೇತಿ ಮತ್ತು ಮೌಲ್ಯಮಾಪನಗಳಿಗೆ ಮಾತ್ರವಲ್ಲ) ಹೆಚ್ಚುವರಿ ಮೇಲ್ವಿಚಾರಣಾ ಅವಶ್ಯಕತೆಯನ್ನು ಸೇರಿಸಿದೆವು.
ಈ ಸುರಕ್ಷತಾ ಕ್ರಮಗಳಿಗೆ ಗಣನೀಯ ಗಣನಾ ಸಾಮರ್ಥ್ಯ ಬೇಕಾಗುತ್ತದೆ. ನಮ್ಮ ಪ್ರಸ್ತುತ ಅಂದಾಜಿನ ಪ್ರಕಾರ, ಮೇಲ್ವಿಚಾರಣೆಯ ಹೆಚ್ಚುವರಿ ಗಣನಾ ವೆಚ್ಚವು ಮೇಲ್ವಿಚಾರಣೆಗೆ ಒಳಪಟ್ಟ ನಿರ್ಣಯ ಗಣನೆಯ ಸುಮಾರು 20%ರಷ್ಟಿದೆ. ಆದರೆ ತರಬೇತಿ ಮತ್ತು ಮೌಲ್ಯಮಾಪನ ಕಾರ್ಯಭಾರಗಳ ನಡುವೆ ವೆಚ್ಚವು ಗಣನೀಯವಾಗಿ ಬದಲಾಗುತ್ತದೆ. ಮುಂಬರುವ ಬ್ಲಾಗ್ ಲೇಖನದಲ್ಲಿ ಈ ವ್ಯವಸ್ಥೆಯ ಕುರಿತು ಹೆಚ್ಚಿನ ವಿವರಗಳನ್ನು ಹಂಚಿಕೊಳ್ಳುತ್ತೇವೆ.
ಹೊಂದಾಣಿಕೆ ಸಂಶೋಧನೆಯು ನಮ್ಮ ಧ್ಯೇಯದ ಕೇಂದ್ರಬಿಂದುವಾಗಿದೆ. ಆರ್ಟಿಫಿಷಿಯಲ್ ಜನರಲ್ ಇಂಟೆಲಿಜೆನ್ಸ್ ಇಡೀ ಮಾನವಕುಲಕ್ಕೆ ಪ್ರಯೋಜನಕಾರಿಯಾಗುವುದನ್ನು ಖಚಿತಪಡಿಸುವುದೇ ನಮ್ಮ ಧ್ಯೇಯ. ಮಾಡೆಲ್ಗಳು ಸೈಬರ್ ದಾಳಿ ನಡೆಸುವ ಸಾಮರ್ಥ್ಯದಂತಹ ಸುಧಾರಿತ ಸಾಮರ್ಥ್ಯಗಳನ್ನು ಪಡೆದು, ಹೆಚ್ಚು ಸಂಕೀರ್ಣ ಪರಿಸರಗಳಲ್ಲಿ ಕಾರ್ಯನಿರ್ವಹಿಸಿದಂತೆ, ಪ್ರತಿಫಲ ಹ್ಯಾಕಿಂಗ್ (ಉದ್ದೇಶಿತ ಫಲಿತಾಂಶವನ್ನು ನಿಜವಾಗಿ ಸಾಧಿಸದೆ ತರಬೇತಿಯಲ್ಲಿ ಹೆಚ್ಚಿನ ಪ್ರತಿಫಲ ಪಡೆಯುವ ಮಾರ್ಗಗಳನ್ನು ಕಂಡುಕೊಳ್ಳುವುದು), ವಂಚನೆ ಅಥವಾ ಅನಧಿಕೃತ ಪ್ರವೇಶದಂತಹ ಹೊಂದಾಣಿಕೆಯಾಗದ ನಡವಳಿಕೆಗಳು ಹೆಚ್ಚು ಗಂಭೀರ ಅಪಾಯವನ್ನು ಉಂಟುಮಾಡುತ್ತವೆ.
ಅತ್ಯಂತ ಸಾಮರ್ಥ್ಯವಿರುವ ಮಾಡೆಲ್ಗಳ RL ಚಾಲನೆಗಳಲ್ಲಿ, ತರಬೇತಿ ಪ್ರಕ್ರಿಯೆಯ ಹೆಚ್ಚಿನ ಹಂತಗಳಿಗೆ ಈಗ ನಮ್ಮ ಪ್ರಮುಖ ಹೊಂದಾಣಿಕೆ ತಂತ್ರಗಳನ್ನು ಅನ್ವಯಿಸುತ್ತಿದ್ದೇವೆ. ಕಾರ್ಯಗಳು ಮತ್ತು ಪರಿಸರಗಳಾದ್ಯಂತ ಅಸುರಕ್ಷಿತ ನಡವಳಿಕೆಯನ್ನು ಉತ್ತಮವಾಗಿ ಪತ್ತೆಹಚ್ಚಿ ತಡೆಯಲು ಪ್ರತಿಫಲ ಮಾಡೆಲ್ಗಳನ್ನು ಸುಧಾರಿಸುವುದು; ಮಾಡೆಲ್ಗಳು ತಮ್ಮ ಕ್ರಿಯೆಗಳು, ಸಾಮರ್ಥ್ಯಗಳು ಮತ್ತು ಮಿತಿಗಳ ಬಗ್ಗೆ ಹೆಚ್ಚು ಪ್ರಾಮಾಣಿಕವಾಗಿರಲು ತರಬೇತಿ ನೀಡುವುದು; ಹಾಗೂ ಪ್ರತಿಫಲಗಳು, ಮೌಲ್ಯಮಾಪಕರು, ಪರಿಕರಗಳು ಅಥವಾ ಮೇಲ್ವಿಚಾರಣೆಯ ದೌರ್ಬಲ್ಯಗಳನ್ನು ದುರುಪಯೋಗಪಡಿಸಿಕೊಳ್ಳುವ ನಡವಳಿಕೆಗಳನ್ನು ಕಡಿಮೆ ಮಾಡುವುದು ಇದರಲ್ಲಿ ಸೇರಿವೆ. ಮಾಡೆಲ್ಗಳು ಬಾಹ್ಯ ವ್ಯವಸ್ಥೆಗಳು ಅಥವಾ ಸಂಪನ್ಮೂಲಗಳೊಂದಿಗೆ ಸಂವಹನ ನಡೆಸುವಾಗ ಹಾನಿ ಉಂಟುಮಾಡಬಹುದಾದ ನಡವಳಿಕೆಗಳಿಗೆ ತರಬೇತಿ ವ್ಯಾಪ್ತಿಯನ್ನೂ ಹೆಚ್ಚಿಸುತ್ತಿದ್ದೇವೆ.
ಹೊಂದಾಣಿಕೆ ಸಂಶೋಧನೆಯಲ್ಲಿ ವ್ಯಾಪಕವಾಗಿ ಹೂಡಿಕೆ ಮಾಡುವುದನ್ನು, ಮೌಲ್ಯಮಾಪನದ ವ್ಯಾಪ್ತಿಯನ್ನು ಹೆಚ್ಚಿಸುವುದನ್ನು ಮತ್ತು ಕಲಿತದ್ದನ್ನು ತರಬೇತಿ ಹಾಗೂ ಸುರಕ್ಷತಾ ಕ್ರಮಗಳಿಗೆ ಬಳಸುವುದನ್ನು ಮುಂದುವರಿಸುತ್ತಿದ್ದೇವೆ. ಮಾಡೆಲ್ನ ನಡವಳಿಕೆಯ ಕುರಿತು ನಾವು ಕಲಿಯುತ್ತಿರುವ ಸಂಗತಿಗಳು ಮತ್ತು ಪತ್ತೆಯಾಗುವ ಯಾವುದೇ ಹೊಸ ಸವಾಲುಗಳು ಸೇರಿದಂತೆ, ನಮ್ಮ ಹೊಂದಾಣಿಕೆ ಸಂಶೋಧನೆಯ ಬಗ್ಗೆ ಸದ್ಯದಲ್ಲೇ ಇನ್ನಷ್ಟು ಮಾಹಿತಿಯನ್ನು ಹಂಚಿಕೊಳ್ಳಲು ಯೋಜಿಸಿದ್ದೇವೆ.
ತರಬೇತಿ ಮತ್ತು ಬಳಕೆಗೆ ಬಿಡುಗಡೆಯ ಎಲ್ಲ ಹಂತಗಳಲ್ಲಿ ಈ ಸುರಕ್ಷತಾ ಕ್ರಮಗಳನ್ನು ಒಟ್ಟುಗೂಡಿಸಲು ಹಾಗೂ ಭವಿಷ್ಯದ ಮಾಡೆಲ್ಗಳ ಸಾಮರ್ಥ್ಯಗಳು ಮತ್ತು ಅವು ಕಾರ್ಯನಿರ್ವಹಿಸುವ ಪರಿಸರಗಳನ್ನು ಉತ್ತಮವಾಗಿ ಪ್ರತಿಬಿಂಬಿಸಲು ನಮ್ಮ ಪ್ರಿಪೇರ್ಡ್ನೆಸ್ ಫ್ರೇಮ್ವರ್ಕ್ ಅನ್ನು ವಿಕಸಿಸುತ್ತೇವೆ. ಆ ಸಾಮರ್ಥ್ಯಗಳಿಗೆ ಅನುಗುಣವಾಗಿ ವಿಸ್ತರಿಸಬಹುದಾದ ವಿಧಾನಗಳನ್ನು ಅಭಿವೃದ್ಧಿಪಡಿಸಲು, ಮಾಡೆಲ್ ನೆರವಿನ ಭದ್ರತೆ, ಹೆಚ್ಚು ಪರಿಣಾಮಕಾರಿ ಮೇಲ್ವಿಚಾರಣೆ ಮತ್ತು ಹೊಂದಾಣಿಕೆ ಸಂಶೋಧನೆಯ ನಿರಂತರ ಪ್ರಗತಿಯಲ್ಲಿ ಸುಸ್ಥಿರ ಹೂಡಿಕೆ ಅಗತ್ಯವಾಗುತ್ತದೆ. ನಮ್ಮ ವಿಧಾನ ವಿಕಸಿಸಿದಂತೆ ಬಾಹ್ಯ ಸಂಸ್ಥೆಗಳನ್ನು ಒಳಗೊಳ್ಳಲು ಮತ್ತು ನಾವು ಕಲಿಯುವ ಹೆಚ್ಚಿನ ಸಂಗತಿಗಳನ್ನು ಹಂಚಿಕೊಳ್ಳಲು ಉದ್ದೇಶಿಸಿದ್ದೇವೆ.
ಅತ್ಯಾಧುನಿಕ ಮಾಡೆಲ್ಗಳ ಸಾಮರ್ಥ್ಯಗಳು ಕ್ಷಿಪ್ರವಾಗಿ ಹೆಚ್ಚುತ್ತಿವೆ. ಅವುಗಳನ್ನು ಅರ್ಥಮಾಡಿಕೊಳ್ಳುವ, ಹೊಂದಾಣಿಕೆ ಮಾಡುವ ಮತ್ತು ಸುರಕ್ಷಿತಗೊಳಿಸುವ ನಮ್ಮ ಸಾಮರ್ಥ್ಯವು ಅವುಗಳಿಗಿಂತ ಮುಂದಿರಬೇಕು.
*ಮುಂಬರುವ ವಾರಗಳಲ್ಲಿ ನಾವು ಕಲಿತ ಸಂಗತಿಗಳ ತಾಂತ್ರಿಕ ವರದಿಯನ್ನು ಪ್ರಕಟಿಸುತ್ತೇವೆ.
