ಪ್ರಾಂಪ್ಟ್ ಇಂಜೆಕ್ಷನ್ ದಾಳಿಗಳ ವಿರುದ್ಧ ChatGPT Atlas ನ ನಿರಂತರ ಬಲಪಡಿಸುವಿಕೆ
ಬಲವರ್ಧನೆ ಕಲಿಕೆಯಿಂದ ಶಕ್ತಿಯುತವಾದ ಸ್ವಯಂಚಾಲಿತ ರೆಡ್ ಟೀಮಿಂಗ್ ನಮಗೆ ನೈಜ ಜಗತ್ತಿನ ಏಜೆಂಟ್ ದುರ್ಬಳಕೆಗಳನ್ನು ಅವುಗಳನ್ನು ಕಾಡಿನಲ್ಲಿ ಶಸ್ತ್ರೀಕರಿಸುವ ಮೊದಲು ಪ್ರೊಆಕ್ಟಿವ್ ಆಗಿ ಪತ್ತೆಹಚ್ಚಿ ಪ್ಯಾಚ್ ಮಾಡಲು ಸಹಾಯ ಮಾಡುತ್ತದೆ.
ChatGPT Atlas ನಲ್ಲಿ ಏಜೆಂಟ್ ಮೋಡ್ ಇದುವರೆಗೆ ನಾವು ಬಿಡುಗಡೆ ಮಾಡಿದ ಅತ್ಯಂತ ಸಾಮಾನ್ಯ ಉದ್ದೇಶದ ಏಜೆಂಟಿಕ್ ವೈಶಿಷ್ಟ್ಯಗಳಲ್ಲಿ ಒಂದಾಗಿದೆ. ಈ ಮೋಡ್ನಲ್ಲಿ, ಬ್ರೌಸರ್ ಏಜೆಂಟ್ ವೆಬ್ಪೇಜ್ಗಳನ್ನು ವೀಕ್ಷಿಸಿ, ನಿಮ್ಮ ಬ್ರೌಸರ್ನೊಳಗೆ ನೀವು ಮಾಡುವಂತೆಯೇ ಕ್ರಮಗಳನ್ನು, ಕ್ಲಿಕ್ ಗಳನ್ನು ಮತ್ತು ಕೀಲಿಮುದ್ರಣಗಳನ್ನು ಕೈಗೊಳ್ಳುತ್ತದೆ. ಇದು ChatGPT ಗೆ ನಿಮ್ಮ ದಿನನಿತ್ಯದ ಅನೇಕ ಕಾರ್ಯಪ್ರವೃತ್ತಿಗಳಲ್ಲಿ ನೇರವಾಗಿ ಕೆಲಸ ಮಾಡಲು, ಅದೇ ಸ್ಥಳ, ಸಂದರ್ಭ ಮತ್ತು ಡೇಟಾವನ್ನು ಬಳಸಲು ಅವಕಾಶ ನೀಡುತ್ತದೆ.
ಬ್ರೌಸರ್ ಏಜೆಂಟ್ ನಿಮಗೆ ಹೆಚ್ಚು ಕೆಲಸ ಮಾಡಲು ಸಹಾಯ ಮಾಡುವಂತೆ, ಇದು ವಿರೋಧಾತ್ಮಕ ದಾಳಿಗಳ ವಿರುದ್ಧ ಉನ್ನತ ಮೌಲ್ಯದ ಗುರಿಯೂ ಆಗುತ್ತದೆ. ಇದು AI ಭದ್ರತೆಯನ್ನು ವಿಶೇಷವಾಗಿ ಮಹತ್ವದ ವಿಷಯವಾಗಿಸುತ್ತದೆ. ನಾವು ChatGPT Atlas ಅನ್ನು ಪ್ರಾರಂಭಿಸುವುದಕ್ಕಿಂತ ಬಹಳ ಹಿಂದಿನಿಂದಲೂ, ಈ ಹೊಸ "ಬ್ರೌಸರ್ನಲ್ಲಿ ಏಜೆಂಟ್" ಪರಿಕಲ್ಪನೆಯನ್ನು ಗುರಿಯಾಗಿಸಿಕೊಂಡು ಉದ್ಭವಿಸುತ್ತಿರುವ ಬೆದರಿಕೆಗಳ ವಿರುದ್ಧ ನಿರಂತರವಾಗಿ ರಕ್ಷಣೆಯನ್ನು ನಿರ್ಮಿಸುತ್ತಿದ್ದೇವೆ ಮತ್ತು ಬಲಪಡಿಸುತ್ತಿದ್ದೇವೆ. ಪ್ರಾಂಪ್ಟ್ ಇಂಜೆಕ್ಷನ್ ನಮ್ಮ ಪರವಾಗಿ ChatGPT Atlas ಅನ್ನು ಸುರಕ್ಷಿತವಾಗಿ ಕಾರ್ಯನಿರ್ವಹಿಸಲು ನಾವು ಸಕ್ರಿಯವಾಗಿ ರಕ್ಷಿಸುವ ಅತ್ಯಂತ ಪ್ರಮುಖ ಅಪಾಯಗಳಲ್ಲಿ ಒಂದಾಗಿದೆ.
ಈ ಪ್ರಯತ್ನದ ಭಾಗವಾಗಿ, ನಾವು ಇತ್ತೀಚೆಗೆ Atlas ನ ಬ್ರೌಸರ್ ಏಜೆಂಟ್ಗೆ ಭದ್ರತಾ ನವೀಕರಣವನ್ನು ಕಳುಹಿಸಿದ್ದೇವೆ, ಇದರಲ್ಲಿ ಹೊಸದಾಗಿ ಪ್ರತಿಕೂಲವಾಗಿ ಟ್ರೈನ್ ಮಾಡಲಾದ ಮಾಡೆಲ್ ಮತ್ತು ಸುತ್ತಲಿನ ರಕ್ಷಣಾ ಕ್ರಮಗಳನ್ನು ಬಲಪಡಿಸಲಾಗಿದೆ. ಈ ನವೀಕರಣವು ನಮ್ಮ ಆಂತರಿಕ ಸ್ವಯಂಚಾಲಿತ ರೆಡ್ ಟೀಮಿಂಗ್ ಮೂಲಕ ಪತ್ತೆಯಾದ ಹೊಸ ಪ್ರಕಾರದ ಪ್ರಾಂಪ್ಟ್ ಇಂಜೆಕ್ಷನ್ ದಾಳಿಗಳಿಂದ ಪ್ರೇರಿತಗೊಂಡಿದೆ.
ಈ ಪೋಸ್ಟ್ನಲ್ಲಿ, ನಾವು ವೆಬ್ ಆಧಾರಿತ ಏಜೆಂಟ್ಗಳಿಗೆ ಪ್ರಾಂಪ್ಟ್-ಇಂಜೆಕ್ಷನ್ ಅಪಾಯ ಹೇಗೆ ಉಂಟಾಗಬಹುದು ಎಂಬುದನ್ನು ವಿವರಿಸುತ್ತೇವೆ ಮತ್ತು ಹೊಸ ದಾಳಿಗಳನ್ನು ನಿರಂತರವಾಗಿ ಪತ್ತೆಹಚ್ಚಿ ತಕ್ಷಣವೇ ತಡೆಗಟ್ಟಲು ನಾವು ನಿರ್ಮಿಸುತ್ತಿರುವ ವೇಗದ ಪ್ರತಿಕ್ರಿಯಾ ಚಕ್ರವನ್ನು ಹಂಚಿಕೊಳ್ಳುತ್ತೇವೆ—ಇತ್ತೀಚಿನ ಭದ್ರತಾ ನವೀಕರಣದಿಂದ ಇದನ್ನು ತೋರಿಸಲಾಗಿದೆ.
ನಾವು ಪ್ರಾಂಪ್ಟ್ ಇಂಜೆಕ್ಷನ್ ಅನ್ನು ದೀರ್ಘಕಾಲೀನ AI ಭದ್ರತಾ ಸವಾಲಾಗಿ ಪರಿಗಣಿಸುತ್ತೇವೆ ಮತ್ತು ಅದಕ್ಕೆ ವಿರುದ್ಧವಾಗಿ ನಮ್ಮ ರಕ್ಷಣೆಯನ್ನು ನಿರಂತರವಾಗಿ ಬಲಪಡಿಸಬೇಕಾಗಿದೆ (ಮಾನವರನ್ನು ಗುರಿಯಾಗಿಸುವ ಆನ್ಲೈನ್ ವಂಚನೆಗಳು ನಿರಂತರವಾಗಿ ಹೇಗೆ ವಿಕಸಿಸುತ್ತವೆ ಎಂಬುದರಂತೆ). ನಮ್ಮ ಇತ್ತೀಚಿನ ತ್ವರಿತ ಪ್ರತಿಕ್ರಿಯಾ ಚಕ್ರವು ಆ ಪ್ರಯಾಣದಲ್ಲಿ ಪ್ರಮುಖ ಸಾಧನವಾಗಿ ಪ್ರಾರಂಭಿಕ ಭರವಸೆ ತೋರಿಸುತ್ತಿದೆ: ಹೊಸ ದಾಳಿ ತಂತ್ರಗಳನ್ನು ಹೊರಗೆ ಕಾಣಿಸಿಕೊಳ್ಳುವ ಮೊದಲು ನಾವು ಆಂತರಿಕವಾಗಿ ಪತ್ತೆಹಚ್ಚುತ್ತಿದ್ದೇವೆ. ನಮ್ಮ ದೀರ್ಘಕಾಲದ ದೃಷ್ಟಿಯು (1) ನಮ್ಮ ಮಾಡೆಲ್ಗಳಿಗೆ ವೈಟ್-ಬಾಕ್ಸ್ ಪ್ರವೇಶವನ್ನು, (2) ನಮ್ಮ ರಕ್ಷಣಾ ವ್ಯವಸ್ಥೆಗಳ ಆಳವಾದ ಅರ್ಥವನ್ನು ಮತ್ತು (3) ಗಣನೆ ಪ್ರಮಾಣವನ್ನು ಸಂಪೂರ್ಣವಾಗಿ ಬಳಸಿಕೊಳ್ಳುವುದರಲ್ಲಿದೆ, ಹೊರಗಿನ ದಾಳಿಕೋರರಿಗಿಂತ ಮುಂಚಿತವಾಗಿರಲು—ಅನುಕೂಲಗಳನ್ನು ಬೇಗನೆ ಪತ್ತೆಹಚ್ಚುವುದು, ತ್ವರಿತವಾಗಿ ಪರಿಹಾರಗಳನ್ನು ಸಾಗಿಸುವುದು ಮತ್ತು ನಿರಂತರವಾಗಿ ಲೂಪ್ ಅನ್ನು ಬಿಗಿಗೊಳಿಸುವುದು. ಹೊಸ ತಂತ್ರಗಳನ್ನು ಪರಿಹರಿಸಲು ಗಡಿ ಸಂಶೋಧನೆ ಮತ್ತು ಇತರ ಭದ್ರತಾ ನಿಯಂತ್ರಣಗಳಲ್ಲಿ ಹೆಚ್ಚಿದ ಹೂಡಿಕೆಯನ್ನು ಸಂಯೋಜಿಸಿದಾಗ, ಈ ಸಂಯೋಜಿತ ಚಕ್ರವು ದಾಳಿಗಳನ್ನು ಹೆಚ್ಚು ಕಷ್ಟಕರ ಮತ್ತು ವೆಚ್ಚದಾಯಕವಾಗಿಸುತ್ತದೆ, ವಾಸ್ತವಿಕ ಜಗತ್ತಿನ ಪ್ರಾಂಪ್ಟ್ ಇಂಜೆಕ್ಷನ್ ಅಪಾಯವನ್ನು ಭೌತಿಕವಾಗಿ ಕಡಿಮೆ ಮಾಡುತ್ತದೆ. ಅಂತಿಮವಾಗಿ, ನಿಮ್ಮ ಅತಿ ದಕ್ಷ, ಭದ್ರತಾ ಜ್ಞಾನಿ ಸಹೋದ್ಯೋಗಿ ಅಥವಾ ಸ್ನೇಹಿತನನ್ನು ನಂಬುವಂತೆ, ChatGPT ಏಜೆಂಟ್ ನಿಮ್ಮ ಬ್ರೌಸರ್ ಅನ್ನು ಬಳಸಲು ನೀವು ನಂಬುವಂತೆ ಮಾಡುವುದು ನಮ್ಮ ಗುರಿಯಾಗಿದೆ.
ಪ್ರಾಂಪ್ಟ್ ಇಂಜೆಕ್ಷನ್ ದಾಳಿ AI ಏಜೆಂಟ್ಗಳನ್ನು ಗುರಿಯಾಗಿಸಿಕೊಂಡು, ಏಜೆಂಟ್ ಪ್ರಕ್ರಿಯೆಗೊಳಿಸುವ ವಿಷಯದಲ್ಲಿ ದುರುದ್ದೇಶಿತ ಸೂಚನೆಗಳನ್ನು ಸೇರಿಸುವ ಮೂಲಕ ದಾಳಿ ಮಾಡುತ್ತದೆ. ಆ ಸೂಚನೆಗಳು ಏಜೆಂಟ್ನ ನಡವಳಿಕೆಯನ್ನು ಮೀರಿಸಲು ಅಥವಾ ಮರುನಿರ್ದೇಶಿಸಲು ರಚಿಸಲ್ಪಟ್ಟಿವೆ—ಅವು ಬಳಕೆದಾರರ ಬದಲು ದಾಳಿಕೋರರ ಉದ್ದೇಶವನ್ನು ಅನುಸರಿಸಲು ಹೈಜಾಕ್ ಮಾಡುತ್ತವೆ.
ChatGPT Atlas ಒಳಗಿನಂತಹ ಬ್ರೌಸರ್ ಏಜೆಂಟ್ಗಾಗಿ, ಪ್ರಾಂಪ್ಟ್ ಇಂಜೆಕ್ಷನ್ ಪರಂಪರೆಯ ವೆಬ್ ಭದ್ರತಾ ಅಪಾಯಗಳ (ಬಳಕೆದಾರರ ದೋಷ ಅಥವಾ ಸಾಫ್ಟ್ವೇರ್ ದೋಷಗಳಂತಹ) ಪಕ್ಕದಲ್ಲಿ ಹೊಸ ಬೆದರಿಕೆ ವೆಕ್ಟರ್ ಅನ್ನು ಸೇರಿಸುತ್ತದೆ. ಮಾನವರನ್ನು ಫಿಷಿಂಗ್ ಮಾಡುವುದಕ್ಕಿಂತ ಅಥವಾ ಬ್ರೌಸರ್ನ ವ್ಯವಸ್ಥಾ ದುರ್ಬಲತೆಯನ್ನು ಶೋಷಿಸುವುದಕ್ಕಿಂತ, ದಾಳಿಕಾರನು ಬ್ರೌಸರ್ನೊಳಗೆ ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತಿರುವ ಏಜೆಂಟ್ ಅನ್ನು ಗುರಿಯಾಗಿಸುತ್ತಾನೆ.
ಒಂದು ಕಾಲ್ಪನಿಕ ಉದಾಹರಣೆಯಾಗಿ, ಆಕ್ರಮಣಕಾರನು ದುರುದ್ದೇಶಪೂರಿತ ಇಮೇಲ್ ಅನ್ನು ಕಳುಹಿಸಿ, ಏಜೆಂಟ್ ಅನ್ನು ಬಳಕೆದಾರನ ವಿನಂತಿಯನ್ನು ನಿರ್ಲಕ್ಷಿಸಲು ಮತ್ತು ಬದಲಿಗೆ ಆಕ್ರಮಣಕಾರನ ನಿಯಂತ್ರಣದಲ್ಲಿರುವ ಇಮೇಲ್ ವಿಳಾಸಕ್ಕೆ ಸಂವೇದನಶೀಲ ತೆರಿಗೆ ಡಾಕ್ಯುಮೆಂಟ್ಗಳನ್ನು ಫಾರ್ವರ್ಡ್ ಮಾಡಲು ಕೇಳಿ ಮೋಸಗೊಳಿಸಬಹುದು. ಒಂದು ಬಳಕೆದಾರ ಏಜೆಂಟ್ಗೆ ಓದದ ಇಮೇಲ್ಗಳನ್ನು ಪರಿಶೀಲಿಸಲು ಮತ್ತು ಮುಖ್ಯ ಅಂಶಗಳನ್ನು ಸಾರಾಂಶ ಮಾಡಲು ಕೇಳಿದರೆ, ವರ್ಕ್ಫ್ಲೋ ಸಮಯದಲ್ಲಿ ಏಜೆಂಟ್ ಆ ದುರುದ್ದೇಶಪೂರಿತ ಇಮೇಲ್ ಅನ್ನು ಒಳಗೊಳ್ಳಬಹುದು. ಇದು ಸೂಚನೆಗಳನ್ನು ಅನುಸರಿಸಿದರೆ, ಇದು ತಪ್ಪಾಗಿ ಕಾರ್ಯನಿರ್ವಹಿಸಿ ಸಂವೇದನಶೀಲ ಮಾಹಿತಿಯನ್ನು ಹಂಚಿಕೊಳ್ಳಬಹುದು.
ಇದು ಕೇವಲ ಒಂದು ನಿರ್ದಿಷ್ಟ ಸನ್ನಿವೇಶ ಮಾತ್ರ. ಬ್ರೌಸರ್ ಏಜೆಂಟ್ಗಳನ್ನು ಉಪಯುಕ್ತವಾಗಿಸುವ ಅದೇ ಸಾಮಾನ್ಯತೆಯು ಅಪಾಯಗಳನ್ನು ವ್ಯಾಪಕಗೊಳಿಸುತ್ತದೆ: ಏಜೆಂಟ್ಗಳು ಇಮೇಲ್ಗಳು ಮತ್ತು ಅಟ್ಯಾಚ್ಮೆಂಟ್ಗಳು, ಕ್ಯಾಲೆಂಡರ್ ಆಹ್ವಾನಗಳು, ಹಂಚಿದ ಡಾಕ್ಯುಮೆಂಟ್ಗಳು, ಫೋರಮ್ಗಳು, ಸಾಮಾಜಿಕ ಮಾಧ್ಯಮ ಪೋಸ್ಟ್ಗಳು ಮತ್ತು ಐಚ್ಛಿಕ ವೆಬ್ಪೇಜ್ಗಳಂತಹ ಆಸೀಮಿತ ಮೇಲ್ಮೈ ಪ್ರದೇಶದಲ್ಲಿ ನಂಬಿಕೆಗೆ ಅರ್ಹವಲ್ಲದ ಸೂಚನೆಗಳನ್ನು ಎದುರಿಸಬಹುದು. ಏಕೆಂದರೆ ಏಜೆಂಟ್ ಬ್ರೌಸರ್ನಲ್ಲಿ ಬಳಕೆದಾರನಂತೆ ಅನೇಕ ಕ್ರಮಗಳನ್ನು ಕೈಗೊಳ್ಳಬಲ್ಲದು, ಯಶಸ್ವಿ ದಾಳಿಯ ಪರಿಣಾಮವು ತಾತ್ತ್ವಿಕವಾಗಿ ಅಷ್ಟೇ ವ್ಯಾಪಕವಾಗಿರಬಹುದು: ಸಂವೇದನಾಶೀಲ ಇಮೇಲ್ ಅನ್ನು ಫಾರ್ವರ್ಡ್ ಮಾಡುವುದು, ಹಣ ಕಳುಹಿಸುವುದು, ಕ್ಲೌಡ್ನಲ್ಲಿ ಫೈಲ್ಗಳನ್ನು ಎಡಿಟ್ ಮಾಡುವುದು ಅಥವಾ ಅಳಿಸುವುದು ಮತ್ತು ಇನ್ನಷ್ಟು.
ನಾವು ಹಿಂದಿನ ಪೋಸ್ಟ್ನಲ್ಲಿ ಹಂಚಿಕೊಂಡಂತೆ, ಪ್ರಾಂಪ್ಟ್ ಇಂಜೆಕ್ಷನ್ ವಿರುದ್ಧ ರಕ್ಷಣೆಗಾಗಿ ಅನೇಕ ಹಂತಗಳ ಸುರಕ್ಷತಾ ಕ್ರಮಗಳ ಮೂಲಕ ಪ್ರಗತಿಯನ್ನು ಸಾಧಿಸಿದ್ದೇವೆ. ಆದರೆ, ಪ್ರಾಂಪ್ಟ್ ಇಂಜೆಕ್ಷನ್ ಏಜೆಂಟ್ ಭದ್ರತೆಯ ಒಂದು ತೆರೆಯದ ಸವಾಲಾಗಿ ಉಳಿದಿದೆ, ಮತ್ತು ನಾವು ಮುಂದಿನ ವರ್ಷಗಳಲ್ಲಿ ಇದನ್ನು ಮುಂದುವರಿಸಿ ಕೆಲಸ ಮಾಡುತ್ತೇವೆ.
ನಮ್ಮ ರಕ್ಷಣೆಯನ್ನು ಬಲಪಡಿಸಲು, ನಾವು ಉತ್ಪಾದನೆಯಲ್ಲಿ ಏಜೆಂಟ್ ವ್ಯವಸ್ಥೆಗಳ ವಿರುದ್ಧ ಹೊಸ ಪ್ರಾಂಪ್ಟ್ ಇಂಜೆಕ್ಷನ್ ದಾಳಿಗಳನ್ನು ನಿರಂತರವಾಗಿ ಹುಡುಕುತ್ತಿದ್ದೇವೆ. ಈ ದಾಳಿಗಳನ್ನು ಪತ್ತೆಹಚ್ಚುವುದು ದೃಢವಾದ ತಗ್ಗಿಸುವಿಕೆಗಳನ್ನು ನಿರ್ಮಿಸಲು ಅಗತ್ಯವಿರುವ ಪೂರ್ವಾಪೇಕ್ಷೆ: ಇದು ನೈಜ-ಜಗತ್ತಿನ ಅಪಾಯವನ್ನು ಅರ್ಥಮಾಡಿಕೊಳ್ಳಲು ಸಹಾಯ ಮಾಡುತ್ತದೆ, ನಮ್ಮ ರಕ್ಷಣೆಯಲ್ಲಿರುವ ಅಂತರಗಳನ್ನು ಬಹಿರಂಗಪಡಿಸುತ್ತದೆ ಮತ್ತು ಸ್ಪಷ್ಟವಾದ ಪ್ಯಾಚ್ಗಳನ್ನು ಚಾಲನೆ ಮಾಡುತ್ತದೆ.
ಇದನ್ನು ದೊಡ್ಡ ಪ್ರಮಾಣದಲ್ಲಿ ಮಾಡಲು, ನಾವು LLM-ಆಧಾರಿತ ಸ್ವಯಂಚಾಲಿತ ಆಕ್ರಮಣಕಾರವನ್ನು ನಿರ್ಮಿಸಿದ್ದೇವೆ ಮತ್ತು ಬ್ರೌಸರ್ ಏಜೆಂಟ್ ಅನ್ನು ಯಶಸ್ವಿಯಾಗಿ ದಾಳಿ ಮಾಡಲು ಪ್ರಾಂಪ್ಟ್ ಇಂಜೆಕ್ಷನ್ ದಾಳಿಗಳನ್ನು ಹುಡುಕಲು ಅದನ್ನು ಟ್ರೈನ್ ಮಾಡಿದ್ದೇವೆ. ನಾವು ಈ ಆಕ್ರಮಣಕಾರನನ್ನು ಸಂಪೂರ್ಣವಾಗಿ ಬಲವರ್ಧನೆ ಕಲಿಕೆ ಮೂಲಕ ಟ್ರೈನ್ ಮಾಡಿದ್ದೇವೆ, ಆದ್ದರಿಂದ ಇದು ತನ್ನ ಯಶಸ್ಸುಗಳು ಮತ್ತು ವೈಫಲ್ಯಗಳಿಂದ ಕಲಿಯುತ್ತದೆ ಮತ್ತು ತನ್ನ ರೆಡ್ ಟೀಮಿಂಗ್ ಕೌಶಲ್ಯಗಳನ್ನು ಸುಧಾರಿಸುತ್ತದೆ. ನಾವು ಇದನ್ನು "ಕಳುಹಿಸುವ ಮೊದಲು ಪ್ರಯತ್ನಿಸಲು" ಸಹ ಅನುಮತಿಸುತ್ತೇವೆ, ಅಂದರೆ: ಅದರ ಚಿಂತನೆಯ ಸರಪಳಿಯ ತಾರ್ಕಿಕತೆಯ ಸಮಯದಲ್ಲಿ, ದಾಳಿ ನಡೆಸುವವನು ಅಭ್ಯರ್ಥಿ ಇಂಜೆಕ್ಷನ್ ಅನ್ನು ಪ್ರಸ್ತಾಪಿಸಿ, ಅದನ್ನು ಬಾಹ್ಯ ಸಿಮ್ಯುಲೇಟರ್ಗೆ ಕಳುಹಿಸಬಹುದು. ಸಿಮ್ಯುಲೇಟರ್ ಗುರಿಯಾಗಿರುವ ಬಲಿಪಶು ಏಜೆಂಟ್ (ರಕ್ಷಕ) ಇಂಜೆಕ್ಷನ್ ಅನ್ನು ಎದುರಿಸಿದಾಗ ಅದು ಹೇಗೆ ವರ್ತಿಸಬಹುದು ಎಂಬುದರ ಕೌಂಟರ್ಫ್ಯಾಕ್ಚುಯಲ್ ರೋಲೌಟ್ ಅನ್ನು ನಡೆಸುತ್ತದೆ ಮತ್ತು ಬಲಿಪಶು ಏಜೆಂಟ್ನ ಸಂಪೂರ್ಣ ತಾರ್ಕಿಕತೆ ಮತ್ತು ಕ್ರಮದ ಹಾದಿಯನ್ನು ಹಿಂತಿರುಗಿಸುತ್ತದೆ. ಆಕ್ರಮಣಕಾರನು ಆ ಹಾದಿಯನ್ನು ಪ್ರತಿಕ್ರಿಯೆಯಾಗಿ ಬಳಸುತ್ತಾನೆ, ದಾಳಿಯನ್ನು ಪುನರಾವರ್ತಿಸುತ್ತಾನೆ ಮತ್ತು ಅಂತಿಮ ದಾಳಿಗೆ ಬದ್ಧವಾಗುವ ಮೊದಲು ಈ ಲೂಪ್ ಅನ್ನು ಹಲವಾರು ಬಾರಿ ಪುನರಾವರ್ತಿಸುತ್ತಾನೆ. ಇದು ಪಾಸ್/ಫೇಲ್ ಸಂಕೇತಕ್ಕಿಂತ ದಾಳಿಕೋರನಿಗೆ ಹೆಚ್ಚಿನ ಸಂದರ್ಭದ ಪ್ರತಿಕ್ರಿಯೆಯನ್ನು ಒದಗಿಸುತ್ತದೆ. ಇದು ಆಕ್ರಮಣಕಾರನ ಪರೀಕ್ಷಾ-ಸಮಯದ ಗಣನೆ ಸಾಮರ್ಥ್ಯವನ್ನು ಹೆಚ್ಚಿಸುತ್ತದೆ. ಅದರಲ್ಲದೆ, ರಕ್ಷಕರ ತಾರ್ಕಿಕ ಹಾದಿಗಳಿಗೆ (ನಾವು ಬಾಹ್ಯ ಬಳಕೆದಾರರಿಗೆ ಬಹಿರಂಗಪಡಿಸುವುದಿಲ್ಲ) ವಿಶೇಷ ಪ್ರವೇಶವು ನಮ್ಮ ಆಂತರಿಕ ಆಕ್ರಮಣಕಾರನಿಗೆ ಅಸಮಮಿತ ಲಾಭವನ್ನು ನೀಡುತ್ತದೆ—ಇದು ಬಾಹ್ಯ ಶತ್ರುಗಳನ್ನು ಮೀರಿಸುವ ಸಾಧ್ಯತೆಯನ್ನು ಹೆಚ್ಚಿಸುತ್ತದೆ.
ಏಕೆ ಬಲವರ್ಧನೆ ಕಲಿಕೆ (RL)? ಸ್ವಯಂಚಾಲಿತ ಆಕ್ರಮಣಕಾರನನ್ನು ಹಲವಾರು ತಾರ್ಕಿಕತೆಗಳಿಗಾಗಿ ಟ್ರೈನ್ ಮಾಡಲು ನಾವು ಬಲವರ್ಧನೆ ಕಲಿಕೆಯನ್ನು ಆಯ್ಕೆ ಮಾಡಿಕೊಂಡಿದ್ದೇವೆ :
- ದೀರ್ಘಾವಧಿ ಮತ್ತು ನಿರಂತರವಲ್ಲದ ದಾಳಿಕೋರರ ಉದ್ದೇಶಗಳನ್ನು ಆಪ್ಟಿಮೈಸ್ ಮಾಡುವುದು. ನಮ್ಮ ಗುರಿ ಏಜೆಂಟ್ ಅನ್ನು ನೈಜ ಜಗತ್ತಿನಲ್ಲಿ ಸಂಭವಿಸಬಹುದಾದ ಸುಧಾರಿತ ವಿರೋಧಿ ಕಾರ್ಯಗಳನ್ನು (ಉದಾಹರಣೆಗೆ, ಇಮೇಲ್ಗಳನ್ನು ಕಳುಹಿಸುವುದು, ಬ್ಯಾಂಕ್ ವ್ಯವಹಾರಗಳು) ನಿರ್ವಹಿಸಲು ಮೋಸಗೊಳಿಸಬಹುದಾದ ಪ್ರಾಂಪ್ಟ್ ಇಂಜೆಕ್ಷನ್ ದಾಳಿಗಳನ್ನು ಹುಡುಕುವುದು. ಈ ಪ್ರತಿಸ್ಪರ್ಧಾತ್ಮಕ ಕಾರ್ಯಗಳು ಸ್ವಭಾವತಃ ದೀರ್ಘಾವಧಿಯವಾಗಿದ್ದು, ಪರಿಸರದೊಂದಿಗೆ ಅನೇಕ ಹಂತಗಳ ತಾರ್ಕಿಕತೆ ಮತ್ತು ಪರಸ್ಪರ ಕ್ರಿಯೆಯನ್ನು ಅಗತ್ಯವಿರಿಸುತ್ತ, ಮತ್ತು ಯಶಸ್ಸಿನ ಸಂಕೇತಗಳು ವಿರಳವಾಗಿದ್ದು ವಿಳಂಬಿತವಾಗಿರುತ್ತವೆ. ಬಲವರ್ಧನೆ ಕಲಿಕೆ ಈ ವಿರಳ, ವಿಳಂಬಿತ ಬಹುಮಾನ ರಚನೆಗೆ ಸೂಕ್ತವಾಗಿದೆ.
- ಅಗ್ರಗಣ್ಯ LLM ಸಾಮರ್ಥ್ಯಗಳನ್ನು ಬಳಸಿಕೊಳ್ಳುವುದು. ನಾವು ಫ್ರಾಂಟಿಯರ್ LLMಗಳನ್ನು ನೇರವಾಗಿ ಸ್ವಯಂ-ರೆಡ್-ಟೀಮರ್ಗಳಾಗಿ ಟ್ರೈನ್ ಮಾಡಿದ್ದೇವೆ, ಆದ್ದರಿಂದ ಆಕ್ರಮಣಕಾರರಿಗೆ ಫ್ರಾಂಟಿಯರ್ ಮಾಡೆಲ್ಗಳ ತಾರ್ಕಿಕತೆ ಮತ್ತು ಯೋಜನೆಯ ಸುಧಾರಣೆಗಳಿಂದ ನೇರ ಲಾಭವಾಗುತ್ತದೆ. ಆಧಾರ ಮಾಡೆಲ್ಗಳು ಹೆಚ್ಚು ಶಕ್ತಿಶಾಲಿಯಾಗುತ್ತಿದ್ದಂತೆ, ದಾಳಿಕೋರ ಸಹ ಸ್ವಾಭಾವಿಕವಾಗಿ ಹೆಚ್ಚು ಸಾಮರ್ಥ್ಯವಂತನಾಗುತ್ತಾನೆ—ನಮ್ಮ ಮಾಡೆಲ್ಗಳು ಅಭಿವೃದ್ಧಿಯಾಗುತ್ತಿದ್ದಂತೆ ನಮ್ಮ ರಕ್ಷಣಾ ವ್ಯವಸ್ಥೆ ಮೇಲೆ ಒತ್ತಡವನ್ನು ಇಡಲು ಇದು ಒಂದು ಮಾಪನೀಯ ವಿಧಾನವಾಗಿದೆ.
- ಕಂಪ್ಯೂಟ್ ಸ್ಕೇಲಿಂಗ್ ಮತ್ತು ಹೊಂದಾಣಿಕೆಯ ದಾಳಿಕೋರರನ್ನು ಅನುಕರಿಸುವುದು. ಬಲವರ್ಧನೆ ಕಲಿಕೆ ದೊಡ್ಡ ಸಂಖ್ಯೆಯ ಮಾದರಿಗಳು ಮತ್ತು ಕಲಿಕೆಯ ಹಂತಗಳಲ್ಲಿ ದಾಳಿಗಳನ್ನು ಹುಡುಕಲು ಖರ್ಚು ಮಾಡುವ ಗಣನೆಗೆ ಪ್ರಮಾಣಿತಗೊಳ್ಳಲು ಸೂಕ್ತವಾಗಿದೆ. ಇದು ಅಡಾಪ್ಟಿವ್ ಮಾನವ ದಾಳಿಕೋರರು ಹೇಗೆ ವರ್ತಿಸುತ್ತಾರೆ ಎಂಬುದನ್ನು ಹತ್ತಿರದಿಂದ ಪ್ರತಿಬಿಂಬಿಸುತ್ತದೆ: ತಂತ್ರಗಳನ್ನು ಪುನಃ ಪುನಃ ಪ್ರಯತ್ನಿಸುವುದು, ಫಲಿತಾಂಶಗಳಿಂದ ಕಲಿಯುವುದು ಮತ್ತು ಯಶಸ್ವಿ ನಡವಳಿಕೆಗಳನ್ನು ಬಲವರ್ಧಿಸುವುದು.
ನಮ್ಮ ಸ್ವಯಂಚಾಲಿತ ದಾಳಿಕಾರವು ಅಂತ್ಯದಿಂದ ಅಂತ್ಯಕ್ಕೆ ಹೊಸ, ನೈಜ ಪ್ರಾಂಪ್ಟ್ ಇಂಜೆಕ್ಷನ್ ದಾಳಿಗಳನ್ನು ಪತ್ತೆಹಚ್ಚಲು ಸಾಧ್ಯವಿದೆ. ಹಿಂದಿನ ಬಹುತೇಕ ಸ್ವಯಂಚಾಲಿತ ರೆಡ್ ಟೀಮಿಂಗ್ ಕೆಲಸವು ಏಜೆಂಟ್ನಿಂದ ನಿರ್ದಿಷ್ಟ ಔಟ್ಪುಟ್ ಸ್ಟ್ರಿಂಗ್ಗಳನ್ನು ಹೊರತೆಗೆಯುವುದು ಅಥವಾ ಅನಪೇಕ್ಷಿತ ಏಕ ಹಂತದ ಸಾಧನ ಕರೆಗೆ ಕಾರಣವಾಗುವುದು ಎಂಬ ಸರಳ ವೈಫಲ್ಯಗಳನ್ನು ಹೊರತಂದರೆ, ನಮ್ಮ RL-ತರಬೇತಿ ಪಡೆದ ಆಕ್ರಮಣಕಾರನು ಏಜೆಂಟ್ ಅನ್ನು ದಶಕಗಳ (ಅಥವಾ ನೂರಾರು) ಹಂತಗಳಲ್ಲಿ ವಿಕಸಿಸುವ ಸುಧಾರಿತ, ದೀರ್ಘಾವಧಿಯ ಹಾನಿಕಾರಕ ಕಾರ್ಯಪ್ರವಾಹಗಳನ್ನು ನಿರ್ವಹಿಸಲು ಪ್ರೇರೇಪಿಸಬಹುದು. ನಾವು ನಮ್ಮ ಮಾನವ ರೆಡ್ ಟೀಮಿಂಗ್ ಅಭಿಯಾನ ಅಥವಾ ಬಾಹ್ಯ ವರದಿಗಳಲ್ಲಿ ಕಾಣದ ಹೊಸ ದಾಳಿ ತಂತ್ರಗಳನ್ನು ಸಹ ಗಮನಿಸಿದ್ದೇವೆ.
ಕೆಳಗಿನ ಡೆಮೋ ನಮ್ಮ ಸ್ವಯಂಚಾಲಿತ ಹ್ಯಾಕರ್ ಕಂಡುಹಿಡಿದ ಒಂದು ಸ್ಪಷ್ಟ ಪ್ರಾಂಪ್ಟ್ ಇಂಜೆಕ್ಷನ್ ದಾಳಿಯನ್ನು ತೋರಿಸುತ್ತದೆ, ಇದನ್ನು ನಂತರ ನಾವು ChatGPT Atlas ರಕ್ಷಣೆಯನ್ನು ಇನ್ನಷ್ಟು ಬಲಪಡಿಸಲು ಬಳಸಿದ್ದೇವೆ. ಆಕ್ರಮಣಕಾರನು ಬಳಕೆದಾರನ ಇನ್ಬಾಕ್ಸ್ಗೆ ದುಷ್ಟ ಇಮೇಲ್ ಅನ್ನು ಕಳುಹಿಸುತ್ತಾನೆ, ಇದರಲ್ಲಿ ಪ್ರಾಂಪ್ಟ್ ಇಂಜೆಕ್ಷನ್ ಅನ್ನು ಹೊಂದಿದ್ದು, ಏಜೆಂಟ್ ಅನ್ನು ಬಳಕೆದಾರನ CEO ಗೆ ರಾಜೀನಾಮೆ ಪತ್ರವನ್ನು ಕಳುಹಿಸಲು ನಿರ್ದೇಶಿಸುತ್ತದೆ. ನಂತರ, ಬಳಕೆದಾರನು ಏಜೆಂಟ್ಗೆ ಕಚೇರಿಯ ಹೊರಗಿನ ಪ್ರತ್ಯುತ್ತರವನ್ನು ರಚಿಸಲು ಕೇಳಿದಾಗ, ಏಜೆಂಟ್ ಸಾಮಾನ್ಯ ಕಾರ್ಯ ನಿರ್ವಹಣೆಯ ಸಮಯದಲ್ಲಿ ಆ ಇಮೇಲ್ ಅನ್ನು ಎದುರಿಸುತ್ತದೆ, ಪ್ರಾಂಪ್ಟ್ ಅನ್ನು ಪ್ರಾಮಾಣಿಕವೆಂದು ಪರಿಗಣಿಸಿ, ಅದನ್ನು ಅನುಸರಿಸುತ್ತದೆ. ಔಟ್-ಆಫ್-ಆಫೀಸ್ ಸಂದೇಶವನ್ನು ಬರೆಯಲಾಗುವುದಿಲ್ಲ ಮತ್ತು ಏಜೆಂಟ್ ಬಳಕೆದಾರರ ಪರವಾಗಿ ರಾಜೀನಾಮೆ ನೀಡುತ್ತಾನೆ.
1. ಇಮೇಲ್ ನಿರ್ವಹಣೆಯಲ್ಲಿ ಸಹಾಯಕ್ಕಾಗಿ ಏಜೆಂಟ್ ಅನ್ನು ಕೇಳುವುದು.
2. ಏಜೆಂಟ್ ಇತ್ತೀಚಿನ ಓದದ ಇಮೇಲ್ ಅನ್ನು ತೆರೆಯುತ್ತದೆ
3. ಇಮೇಲ್ನಲ್ಲಿ ದುರುದ್ದೇಶಪೂರಿತ ಸೂಚನೆಗಳಿವೆ
4. ಏಜೆಂಟ್ ಅನಪೇಕ್ಷಿತ ರಾಜೀನಾಮೆ ಇಮೇಲ್ ಕಳುಹಿಸುತ್ತದೆ.
5. ನಮ್ಮ ಭದ್ರತಾ ನವೀಕರಣದ ನಂತರ, ಏಜೆಂಟ್ ಮೋಡ್ ಪ್ರಾಂಪ್ಟ್ ಇಂಜೆಕ್ಷನ್ ಪ್ರಯತ್ನವನ್ನು ಯಶಸ್ವಿಯಾಗಿ ಪತ್ತೆಹಚ್ಚುತ್ತದೆ.
ಪ್ರಾಂಪ್ಟ್ ಇಂಜೆಕ್ಷನ್ನ ಸ್ವಭಾವವು ನಿರ್ಧಿಷ್ಟ ಭದ್ರತಾ ಖಾತರಿಗಳನ್ನು ಕಷ್ಟ ಮಾಡುತ್ತದೆ, ಆದರೆ ನಮ್ಮ ಸ್ವಯಂಚಾಲಿತ ಭದ್ರತಾ ಸಂಶೋಧನೆ, ವಿರೋಧಾತ್ಮಕ ಪರೀಕ್ಷೆಗಳನ್ನು ವಿಸ್ತರಿಸುವ ಮೂಲಕ ಮತ್ತು ನಮ್ಮ ತ್ವರಿತ ಪ್ರತಿಕ್ರಿಯಾ ಚಕ್ರವನ್ನು ಬಿಗಿಗೊಳಿಸುವ ಮೂಲಕ, ನಾವು ಮಾಡೆಲ್ನ ದೃಢತೆ ಮತ್ತು ರಕ್ಷಣೆಯನ್ನು ಸುಧಾರಿಸಲು ಸಾಧ್ಯವಾಗುತ್ತದೆ - ಏಕಾಏಕಿ ದಾಳಿ ಸಂಭವಿಸುವುದಕ್ಕಾಗಿ ಕಾಯುವುದಕ್ಕಿಂತ ಮುಂಚೆಯೇ.
ನಾವು ಈ ಡೆಮೋವನ್ನು ಹಂಚಿಕೊಳ್ಳುತ್ತಿದ್ದೇವೆ, ಇದರಿಂದ ಬಳಕೆದಾರರು ಮತ್ತು ಸಂಶೋಧಕರು ಈ ದಾಳಿಗಳ ಸ್ವಭಾವವನ್ನು ಚೆನ್ನಾಗಿ ಅರ್ಥಮಾಡಿಕೊಳ್ಳಬಹುದು—ಮತ್ತು ಅವುಗಳ ವಿರುದ್ಧ ನಾವು ಸಕ್ರಿಯವಾಗಿ ಹೇಗೆ ರಕ್ಷಿಸುತ್ತಿದ್ದೇವೆ ಎಂಬುದನ್ನು ತಿಳಿಯಬಹುದು. ನಾವು ನಂಬುತ್ತೇವೆ ಇದು ಸ್ವಯಂಚಾಲಿತ ರೆಡ್ ಟೀಮಿಂಗ್ ಸಾಧಿಸಬಹುದಾದ ಗಡಿಯನ್ನು ಪ್ರತಿನಿಧಿಸುತ್ತದೆ, ಮತ್ತು ನಮ್ಮ ಸಂಶೋಧನೆಯನ್ನು ಮುಂದುವರಿಸಿ ನಾವು ಅತ್ಯಂತ ಉತ್ಸುಕರಾಗಿದ್ದೇವೆ.
ನಮ್ಮ ಸ್ವಯಂಚಾಲಿತ ರೆಡ್ ಟೀಮಿಂಗ್ ಒಂದು ಪೂರ್ವಭಾವಿ ವೇಗದ ಪ್ರತಿಕ್ರಿಯಾ ಚಕ್ರವನ್ನು ಚಾಲನೆ ಮಾಡುತ್ತಿದೆ: ಸ್ವಯಂಚಾಲಿತ ದಾಳಿಕಾರನು ಹೊಸ ತರದ ಯಶಸ್ವಿ ಪ್ರಾಂಪ್ಟ್ ಇಂಜೆಕ್ಷನ್ ದಾಳಿಗಳನ್ನು ಕಂಡುಹಿಡಿದಾಗ, ಅದು ತಕ್ಷಣವೇ ನಮ್ಮ ರಕ್ಷಣೆಯನ್ನು ಸುಧಾರಿಸಲು ಸ್ಪಷ್ಟ ಗುರಿಯನ್ನು ರಚಿಸುತ್ತದೆ.
ಹೊಸತಾಗಿ ಪತ್ತೆಯಾದ ದಾಳಿಗಳ ವಿರುದ್ಧ ವಿರೋಧಿ ಟ್ರೈನಿಂಗ್. ನಾವು ನಿರಂತರವಾಗಿ ನಮ್ಮ ಅತ್ಯುತ್ತಮ ಸ್ವಯಂಚಾಲಿತ ದಾಳಿಕೋರರ ವಿರುದ್ಧ ನವೀಕರಿಸಿದ ಮಾಡೆಲ್ಗಳನ್ನು ಟ್ರೈನ್ ಮಾಡುತ್ತೇವೆ—ಗುರಿ ಏಜೆಂಟ್ಗಳು ಪ್ರಸ್ತುತ ವಿಫಲವಾಗುತ್ತಿರುವ ದಾಳಿಗಳಿಗೆ ಆದ್ಯತೆ ನೀಡುತ್ತೇವೆ. ಉದ್ದೇಶವು ಏಜೆಂಟ್ಗಳಿಗೆ ಪ್ರತಿಕೂಲ ಸೂಚನೆಗಳನ್ನು ನಿರ್ಲಕ್ಷಿಸಲು ಮತ್ತು ಬಳಕೆದಾರರ ಉದ್ದೇಶಕ್ಕೆ ಹೊಂದಿಕೊಳ್ಳಲು ಕಲಿಸುವುದು, ಹೊಸದಾಗಿ ಕಂಡುಬಂದ ಪ್ರಾಂಪ್ಟ್ ಇಂಜೆಕ್ಷನ್ ತಂತ್ರಗಳಿಗೆ ಪ್ರತಿರೋಧವನ್ನು ಹೆಚ್ಚಿಸುವುದು. ಈ "ಬರ್ನ್ ಇನ್" ಹೊಸ, ಹೆಚ್ಚಿನ ಶಕ್ತಿ ದಾಳಿಗಳ ವಿರುದ್ಧದ ದೃಢತೆಯನ್ನು ಮಾಡೆಲ್ ಚೆಕ್ಪಾಯಿಂಟ್ಗೆ ನೇರವಾಗಿ ಸೇರಿಸುತ್ತದೆ. ಉದಾಹರಣೆಗೆ, ಇತ್ತೀಚಿನ ಸ್ವಯಂಚಾಲಿತ ರೆಡ್ ಟೀಮಿಂಗ್ ನೇರವಾಗಿ ಹೊಸ ಪ್ರತಿಸ್ಪರ್ಧಾತ್ಮಕವಾಗಿ ತರಬೇತಿ ನೀಡಲಾದ ಬ್ರೌಸರ್-ಏಜೆಂಟ್ ಚೆಕ್ಪಾಯಿಂಟ್ ಅನ್ನು ಉತ್ಪಾದಿಸಿದೆ, ಇದು ಈಗಾಗಲೇ ಎಲ್ಲಾ ChatGPT Atlas ಬಳಕೆದಾರರಿಗೆ ಜಾರಿಗೆ ಬಂದಿದೆ. ಇದು ಹೊಸ ರೀತಿಯ ದಾಳಿಗಳ ವಿರುದ್ಧ ನಮ್ಮ ಬಳಕೆದಾರರನ್ನು ಉತ್ತಮವಾಗಿ ರಕ್ಷಿಸಲು ಅಂತಿಮವಾಗಿ ಸಹಾಯ ಮಾಡುತ್ತದೆ.
ದಾಳಿಯ ಹಾದಿಗಳನ್ನು ಬಳಸಿಕೊಂಡು ವಿಶಾಲ ರಕ್ಷಣಾ ವ್ಯವಸ್ಥೆಯನ್ನು ಸುಧಾರಿಸುವುದು. ನಮ್ಮ ಸ್ವಯಂಚಾಲಿತ ರೆಡ್ ಟೀಮರ್ ಕಂಡುಹಿಡಿದ ಅನೇಕ ದಾಳಿ ಮಾರ್ಗಗಳು ಮಾಡೆಲ್ನ ಹೊರತಾಗಿಯೂ ಸುಧಾರಣೆಗೆ ಅವಕಾಶಗಳನ್ನು ಬಹಿರಂಗಪಡಿಸುತ್ತವೆ—ಮೇಲ್ವಿಚಾರಣೆ, ಮಾಡೆಲ್ನ ಸಂದರ್ಭದಲ್ಲಿ ನೀಡುವ ಭದ್ರತಾ ಸೂಚನೆಗಳು ಅಥವಾ ಸಿಸ್ಟಮ್-ಮಟ್ಟದ ಭದ್ರತಾ ಕ್ರಮಗಳಲ್ಲಿ. ಆ ಕಂಡುಹಿಡಿಯುವಿಕೆಗಳು ನಮಗೆ ಸಂಪೂರ್ಣ ರಕ್ಷಣಾ ಸ್ಟ್ಯಾಕ್ನಲ್ಲಿ ಪುನರಾವರ್ತನೆ ಮಾಡಲು ಸಹಾಯ ಮಾಡುತ್ತವೆ, ಕೇವಲ ಏಜೆಂಟ್ ಚೆಕ್ಪಾಯಿಂಟ್ ಮಾತ್ರವಲ್ಲ.
ಸಕ್ರಿಯ ದಾಳಿಗಳಿಗೆ ಪ್ರತಿಕ್ರಿಯೆ ನೀಡುವುದು. ಈ ಲೂಪ್ ಏಕಾಏಕಿ ನಡೆಯುತ್ತಿರುವ ಸಕ್ರಿಯ ದಾಳನೆಗಳಿಗೆ ಉತ್ತಮವಾಗಿ ಪ್ರತಿಕ್ರಿಯಿಸಲು ಸಹಾಯ ಮಾಡಬಹುದು. ನಾವು ನಮ್ಮ ಜಾಗತಿಕ ಹಾದಿಯಲ್ಲಿ ಸಂಭವನೀಯ ದಾಳಿಗಳನ್ನು ಹುಡುಕುವಾಗ, ಹೊರಗಿನ ಶತ್ರುಗಳು ಬಳಸುವ ತಂತ್ರಗಳು ಮತ್ತು ತಂತ್ರಗಳನ್ನು ನಾವು ಗಮನಿಸುತ್ತೇವೆ, ಅವುಗಳನ್ನು ಈ ಚಕ್ರದಲ್ಲಿ ಸೇರಿಸುತ್ತೇವೆ, ಅವರ ಚಟುವಟಿಕೆಯನ್ನು ಅನುಕರಿಸುತ್ತೇವೆ ಮತ್ತು ನಮ್ಮ ವೇದಿಕೆಯಲ್ಲಿ ರಕ್ಷಣಾತ್ಮಕ ಬದಲಾವಣೆಯನ್ನು ಪ್ರೇರೇಪಿಸುತ್ತೇವೆ.
ನಮ್ಮ ಕೆಂಪು ತಂಡದ ಏಜೆಂಟ್ಗಳ ಸಾಮರ್ಥ್ಯವನ್ನು ಬಲಪಡಿಸುವುದು ಮತ್ತು ಆ ಕೆಲಸದ ಭಾಗಗಳನ್ನು ಸ್ವಯಂಚಾಲಿತಗೊಳಿಸಲು ನಮ್ಮ ಅತ್ಯುತ್ತಮ ಮಾಡೆಲ್ಗಳನ್ನು ಬಳಸುವುದು—Atlas ಬ್ರೌಸರ್ ಏಜೆಂಟ್ ಅನ್ನು ಹೆಚ್ಚು ಬಲಿಷ್ಠವಾಗಿಸಲು ಕಂಡುಹಿಡಿಯುವ-ನಿರ್ವಹಿಸುವ ಚಕ್ರವನ್ನು ವಿಸ್ತರಿಸುವ ಮೂಲಕ ಸಹಾಯ ಮಾಡುತ್ತದೆ. ಈ ಕಠಿಣಗೊಳಿಸುವ ಪ್ರಯತ್ನವು ಸುರಕ್ಷತೆಯಿಂದ ಪರಿಚಿತ ಪಾಠವನ್ನು ಬಲಪಡಿಸುತ್ತದೆ: ಬಲವಾದ ರಕ್ಷಣೆಗೆ ಉತ್ತಮ ಮಾರ್ಗವೆಂದರೆ ನಿಜವಾದ ವ್ಯವಸ್ಥೆಗಳನ್ನು ನಿರಂತರವಾಗಿ ಒತ್ತಡ ಪರೀಕ್ಷೆ ಮಾಡುವುದು, ವೈಫಲ್ಯಗಳಿಗೆ ಪ್ರತಿಕ್ರಿಯಿಸುವುದು ಮತ್ತು ಸ್ಪಷ್ಟ ಪರಿಹಾರಗಳನ್ನು ಕಳುಹಿಸುವುದು.
ನಾವು ವಿರೋಧಿಗಳು ಹೊಂದಿಕೊಳ್ಳುತ್ತಿರುತ್ತಾರೆ ಎಂದು ನಿರೀಕ್ಷಿಸುತ್ತೇವೆ. ಪ್ರಾಂಪ್ಟ್ ಇಂಜೆಕ್ಷನ್, ವೆಬ್ನಲ್ಲಿ ವಂಚನೆಗಳು ಮತ್ತು ಸಾಮಾಜಿಕ ಎಂಜಿನಿಯರಿಂಗ್ಗಳಂತೆ, ಸಂಪೂರ್ಣವಾಗಿ “ಪರಿಹರಿಸಲಾಗುವುದಿಲ್ಲ” ಎಂಬುದು ಅಸಾಧ್ಯ. ಆದರೆ ನಾವು ಆಶಾವಾದಿಗಳಾಗಿದ್ದೇವೆ, ಪ್ರೋತ್ಸಾಹದಾಯಕ, ಅತ್ಯಂತ ಪ್ರತಿಕ್ರಿಯಾಶೀಲ ವೇಗದ ಪ್ರತಿಕ್ರಿಯಾ ಲೂಪ್ ಮುಂದುವರಿಸಿ ನೈಜ ಜಗತ್ತಿನ ಅಪಾಯವನ್ನು ಕಾಲಕ್ರಮೇಣವಾಗಿ ಭೌತಿಕವಾಗಿ ಕಡಿಮೆ ಮಾಡಬಹುದು. ಸ್ವಯಂಚಾಲಿತ ದಾಳಿ ಅನ್ವೇಷಣೆಯನ್ನು ಪ್ರತಿದ್ವಂದ್ವಿ ಟ್ರೈನಿಂಗ್ ಮತ್ತು ವ್ಯವಸ್ಥಾ ಮಟ್ಟದ ರಕ್ಷಣೆಗಳೊಂದಿಗೆ ಸಂಯೋಜಿಸುವ ಮೂಲಕ, ನಾವು ಹೊಸ ದಾಳಿ ಮಾದರಿಗಳನ್ನು ಬೇಗನೆ ಗುರುತಿಸಬಹುದು, ಅಂತರಗಳನ್ನು ವೇಗವಾಗಿ ಮುಚ್ಚಬಹುದು, ಮತ್ತು ಶೋಷಣೆಯ ವೆಚ್ಚವನ್ನು ನಿರಂತರವಾಗಿ ಹೆಚ್ಚಿಸಬಹುದು.
ChatGPT Atlas ನಲ್ಲಿ ಏಜೆಂಟ್ ಮೋಡ್ ಶಕ್ತಿಶಾಲಿಯಾಗಿದೆ—ಮತ್ತು ಇದು ಭದ್ರತಾ ಬೆದರಿಕೆ ಮೇಲ್ಮೈಯನ್ನು ವಿಸ್ತರಿಸುತ್ತದೆ. ಆ ವ್ಯವಹಾರದ ಬಗ್ಗೆ ಸ್ಪಷ್ಟ ದೃಷ್ಟಿಕೋನ ಹೊಂದಿರುವುದು ಜವಾಬ್ದಾರಿಯುತವಾಗಿ ನಿರ್ಮಾಣದ ಭಾಗವಾಗಿದೆ. ನಮ್ಮ ಗುರಿ ಪ್ರತಿ ಆವೃತ್ತಿಯಲ್ಲೂ Atlas ಅನ್ನು ಅರ್ಥಪೂರ್ಣವಾಗಿ ಹೆಚ್ಚು ಸುರಕ್ಷಿತವಾಗಿಸಲು: ಮಾಡೆಲ್ನ ದೃಢತೆಯನ್ನು ಸುಧಾರಿಸುವುದು, ಸುತ್ತಲಿನ ರಕ್ಷಣಾ ಸ್ಟ್ಯಾಕ್ ಅನ್ನು ಬಲಪಡಿಸುವುದು ಮತ್ತು ಹೊರಗಿನ ಹೊಸ ದುರುಪಯೋಗ ಮಾದರಿಗಳನ್ನು ಮೇಲ್ವಿಚಾರಣೆ ಮಾಡುವುದು.
ನಾವು ಸಂಶೋಧನೆ ಮತ್ತು ನಿಯೋಜನೆಗಳಲ್ಲಿ ಹೂಡಿಕೆ ಮಾಡುತ್ತಾ ಮುಂದುವರಿಸುತ್ತೇವೆ, ಉತ್ತಮ ಸ್ವಯಂಚಾಲಿತ ರೆಡ್ ಟೀಮಿಂಗ್ ವಿಧಾನಗಳನ್ನು ಅಭಿವೃದ್ಧಿಪಡಿಸುತ್ತೇವೆ, ಹಂತ ಹಂತವಾಗಿ ತಗ್ಗಿಸುವಿಕೆಗಳನ್ನು ಜಾರಿಗೆ ತರುತ್ತೇವೆ ಮತ್ತು ಕಲಿಯುವಂತೆ ಶೀಘ್ರವಾಗಿ ಪುನರಾವರ್ತಿಸುತ್ತೇವೆ. ನಾವು ಮಾಡಬಹುದಾದುದನ್ನು ವಿಶಾಲ ಸಮುದಾಯದೊಂದಿಗೆ ಹಂಚಿಕೊಳ್ಳಲು ನಾವು ಪ್ರಯತ್ನಿಸುತ್ತೇವೆ.
ನಾವು ಸಿಸ್ಟಮ್ ಮಟ್ಟದಲ್ಲಿ Atlas ಅನ್ನು ಮುಂದುವರಿಸಿ ಬಲಪಡಿಸುತ್ತಿರುವಾಗ, ಏಜೆಂಟ್ಗಳನ್ನು ಬಳಸುವಾಗ ಅಪಾಯವನ್ನು ಕಡಿಮೆ ಮಾಡಲು ಬಳಕೆದಾರರು ತೆಗೆದುಕೊಳ್ಳಬಹುದಾದ ಕೆಲವು ಕ್ರಮಗಳಿವೆ.
ಲಾಗ್ ಇನ್ ಪ್ರವೇಶವನ್ನು ಸಾಧ್ಯವಾದರೆ ಸೀಮಿತಗೊಳಿಸಿ. ನಾವು ಬಳಕೆದಾರರಿಗೆ ಲಾಗ್ ಔಟ್ ಮೋಡ್(ಹೊಸ ಕಿಟಕಿಯಲ್ಲಿ ತೆರೆಯುತ್ತದೆ) ಅನ್ನು Atlas ನಲ್ಲಿ ಏಜೆಂಟ್ ಬಳಸುವಾಗ ಬಳಸಲು ಶಿಫಾರಸು ಮಾಡುತ್ತೇವೆ, ವಿಶೇಷವಾಗಿ ಕಾರ್ಯಕ್ಕಾಗಿ ನೀವು ಲಾಗ್ ಇನ್ ಆಗಿರುವ ವೆಬ್ಸೈಟ್ಗಳಿಗೆ ಪ್ರವೇಶ ಅಗತ್ಯವಿಲ್ಲದಾಗ ಅಥವಾ ಕಾರ್ಯದ ಸಮಯದಲ್ಲಿ ನೀವು ಸೈನ್ ಇನ್ ಮಾಡುವ ನಿರ್ದಿಷ್ಟ ಸೈಟ್ಗಳಿಗೆ ಪ್ರವೇಶವನ್ನು ಮಿತಿಗೊಳಿಸಲು.
ದೃಢೀಕರಣ ವಿನಂತಿಗಳನ್ನು ಎಚ್ಚರಿಕೆಯಿಂದ ಪರಿಶೀಲಿಸಿ. ಕೆಲವು ಪ್ರಮುಖ ಕ್ರಮಗಳಿಗಾಗಿ, ಉದಾಹರಣೆಗೆ ಖರೀದಿ ಪೂರ್ಣಗೊಳಿಸುವುದು ಅಥವಾ ಇಮೇಲ್ ಕಳುಹಿಸುವುದು, ಏಜೆಂಟ್ಗಳು ಮುಂದುವರೆಯುವ ಮೊದಲು ನಿಮ್ಮ ದೃಢೀಕರಣವನ್ನು ಕೇಳಲು ವಿನ್ಯಾಸಗೊಳಿಸಲಾಗಿದೆ. ಏಜೆಂಟ್ ನಿಮಗೆ ಕ್ರಮವನ್ನು ದೃಢೀಕರಿಸಲು ಕೇಳಿದಾಗ, ಕ್ರಮ ಸರಿಯಾಗಿದೆಯೇ ಮತ್ತು ಹಂಚಿಕೊಳ್ಳಲಾಗುತ್ತಿರುವ ಯಾವುದೇ ಮಾಹಿತಿ ಆ ಸಂದರ್ಭಕ್ಕೆ ಸೂಕ್ತವಾಗಿದೆಯೇ ಎಂದು ಪರಿಶೀಲಿಸಲು ಕ್ಷಣಕಾಲ ತೆಗೆದುಕೊಳ್ಳಿ.
ಸಾಧ್ಯವಾದಲ್ಲಿ ಏಜೆಂಟ್ಗಳಿಗೆ ಸ್ಪಷ್ಟ ಸೂಚನೆಗಳನ್ನು ನೀಡಿ. “ನನ್ನ ಇಮೇಲ್ಗಳನ್ನು ಪರಿಶೀಲಿಸಿ ಮತ್ತು ಅಗತ್ಯವಿರುವ ಕ್ರಮ ಕೈಗೊಳ್ಳಿ” ಎಂಬ ಅತಿಯಾಗಿ ವಿಸ್ತೃತ ಪ್ರಾಂಪ್ಟ್ಗಳನ್ನು ತಪ್ಪಿಸಿ. ವಿಸ್ತೃತ ಸ್ವಾತಂತ್ರ್ಯವು ಮರೆಮಾಡಿದ ಅಥವಾ ದುರುದ್ದೇಶಪೂರಿತ ವಿಷಯವು ಏಜೆಂಟ್ ಮೇಲೆ ಪ್ರಭಾವ ಬೀರುವುದನ್ನು ಸುಲಭಗೊಳಿಸುತ್ತದೆ, ರಕ್ಷಣಾತ್ಮಕ ಕ್ರಮಗಳು ಜಾರಿಯಲ್ಲಿ ಇರುವಾಗಲೂ ಸಹ. ನಿರ್ದಿಷ್ಟ, ವ್ಯಾಪ್ತಿನಿಯಮಿತ ಕಾರ್ಯಗಳನ್ನು ಏಜೆಂಟ್ಗೆ ಕೇಳುವುದು ಹೆಚ್ಚು ಸುರಕ್ಷಿತವಾಗಿದೆ. ಇದು ಅಪಾಯವನ್ನು ಸಂಪೂರ್ಣವಾಗಿ ನಿವಾರಿಸುವುದಿಲ್ಲ, ಆದರೆ ದಾಳಿಗಳನ್ನು ನಡೆಸುವುದು ಕಷ್ಟಕರವಾಗಿಸುತ್ತದೆ.
ಏಜೆಂಟ್ಗಳು ಪ್ರತಿದಿನದ ಕಾರ್ಯಗಳಿಗೆ ನಂಬಿಕಸ್ತ ಸಹಭಾಗಿಗಳಾಗಬೇಕಾದರೆ, ಮುಕ್ತ ವೆಬ್ ಸಕ್ರಿಯಗೊಳಿಸುವ ರೀತಿಯ ತಂತ್ರಜ್ಞಾನದಿಂದ ಉಂಟಾಗುವ ಮ್ಯಾನಿಪ್ಯುಲೇಶನ್ಗಳಿಗೆ ಅವರು ಪ್ರತಿರೋಧಕವಾಗಿರಬೇಕು. ಪ್ರಾಂಪ್ಟ್ ಇಂಜೆಕ್ಷನ್ ವಿರುದ್ಧ ಕಠಿಣ ಕ್ರಮಗಳನ್ನು ಕೈಗೊಳ್ಳುವುದು ದೀರ್ಘಕಾಲಿಕ ಬದ್ಧತೆಯಾಗಿದೆ ಮತ್ತು ನಮ್ಮ ಪ್ರಮುಖ ಆದ್ಯತೆಗಳಲ್ಲಿ ಒಂದಾಗಿದೆ. ನಾವು ಶೀಘ್ರದಲ್ಲೇ ಈ ಕೆಲಸದ ಬಗ್ಗೆ ಇನ್ನಷ್ಟು ಹಂಚಿಕೊಳ್ಳುತ್ತೇವೆ.
