ಪಿಆರ್‌ಸಿ-ಸಂಬಂಧಿತ ದುರ್ಬಳಕೆ: ಕಣ್ಗಾವಲು ಮತ್ತು ಪ್ರಭಾವ ಬೀರುವ ಚಟುವಟಿಕೆ

ಈ ಪ್ರಕರಣ ಅಧ್ಯಯನವನ್ನು ಮೂಲತಃ OpenAIಯ ಅಕ್ಟೋಬರ್ 2025⁠(ಹೊಸ ಕಿಟಕಿಯಲ್ಲಿ ತೆರೆಯುತ್ತದೆ) ವರದಿಯಲ್ಲಿ ಪ್ರಕಟಿಸಲಾಗಿತ್ತು.

ಅಭಿವೃದ್ಧಿ, ವ್ಯಕ್ತಿಚಿತ್ರಣ ಮತ್ತು ಆಡಳಿತಾತ್ಮಕ ಕಾರ್ಯಗಳಿಗೆ ನೆರವಾಗಲು ChatGPT ಬಳಸುತ್ತಿದ್ದ, ಪಿಆರ್‌ಸಿ ಸರ್ಕಾರಿ ಸಂಸ್ಥೆಗಳೊಂದಿಗೆ ಸಂಬಂಧ ಹೊಂದಿರುವಂತೆ ಕಂಡುಬಂದ ವ್ಯಕ್ತಿಗಳು.

ಮಾರ್ಚ್‌ನಲ್ಲಿ ಅಮೆರಿಕದ ವಿಜ್ಞಾನ ಮತ್ತು ತಂತ್ರಜ್ಞಾನ ನೀತಿ ಕಚೇರಿಯ ಎಐ ಕ್ರಿಯಾ ಯೋಜನೆಗೆ ನಾವು ಸಲ್ಲಿಸಿದ ಪ್ರಸ್ತಾವನೆಯಲ್ಲಿ ವಿವರಿಸಿದಂತೆ, ನೈಜ ಹಾನಿಗಳಿಂದ ಜನರನ್ನು ರಕ್ಷಿಸುವ ಸಾಮಾನ್ಯ ವಿವೇಕದ ನಿಯಮಗಳ ಮೂಲಕ ಎಐ ಬಳಕೆಗೆ ಅವಕಾಶ ಕಲ್ಪಿಸುವುದು ಮತ್ತು ಪ್ರಜಾಸತ್ತಾತ್ಮಕ ಎಐ ನಿರ್ಮಿಸುವುದೇ ಎಐನ ಪ್ರಯೋಜನಗಳು ಸಾಧ್ಯವಾದಷ್ಟು ಹೆಚ್ಚು ಜನರಿಗೆ ತಲುಪುವುದನ್ನು ಖಚಿತಪಡಿಸುವ ಮಾರ್ಗವೆಂದು ನಾವು ನಂಬುತ್ತೇವೆ. ಪ್ರಜಾಸತ್ತಾತ್ಮಕ ಎಐ ಎಂದರೆ, ಅಮೆರಿಕ ಸದಾ ಪ್ರತಿಪಾದಿಸಿಕೊಂಡು ಬಂದ ಪ್ರಜಾಸತ್ತಾತ್ಮಕ ತತ್ವಗಳಿಂದ ರೂಪುಗೊಂಡ ಎಐ ಎಂಬುದು ನಮ್ಮ ಅರ್ಥ. ಅಧಿಕಾರವನ್ನು ಕ್ರೋಢೀಕರಿಸಲು ಮತ್ತು ತಮ್ಮ ನಾಗರಿಕರನ್ನು ನಿಯಂತ್ರಿಸಲು ಸರ್ವಾಧಿಕಾರಿ ಆಡಳಿತಗಳು ಎಐ ಸಾಧನಗಳನ್ನು ಬಳಸುವುದನ್ನು ತಡೆಯುವುದೂ ಇದರಲ್ಲಿ ಸೇರಿದೆ.

ChatGPTನ ಸಾಮರ್ಥ್ಯಗಳನ್ನು ಸರ್ವಾಧಿಕಾರಿ ಆಡಳಿತಗಳು ದುರ್ಬಳಕೆ ಮಾಡಿಕೊಳ್ಳುವ ಪ್ರಯತ್ನಗಳನ್ನು ಪತ್ತೆಹಚ್ಚಿ ತಡೆಯಲು ನಾವು ಮಾಡುತ್ತಿರುವ ಹೂಡಿಕೆಗಳು ಈಗ ಜನರನ್ನು ರಕ್ಷಿಸುವುದಷ್ಟೇ ಅಲ್ಲದೆ, ಆ ಆಡಳಿತಗಳು ಭವಿಷ್ಯದ ಸಾಮರ್ಥ್ಯಗಳನ್ನು ಹೇಗೆ ದುರ್ಬಳಕೆ ಮಾಡಿಕೊಳ್ಳಬಹುದು ಎಂಬುದರ ಕುರಿತು ಪ್ರಮುಖ ಒಳನೋಟಗಳನ್ನೂ ನೀಡುತ್ತವೆ. ಇಂತಹ ಆಡಳಿತಗಳೊಂದಿಗೆ ಸಂಭಾವ್ಯ ಸಂಬಂಧ ಹೊಂದಿರುವ ವ್ಯಕ್ತಿಗಳ ಕುರಿತಾದ ಮತ್ತು ಪಿಆರ್‌ಸಿಯ ಮೇಲೆ ಕೇಂದ್ರೀಕರಿಸಿದ ಇಂತಹ ಸಂಶೋಧನೆಗಳ ಒಂದು ಗುಂಪನ್ನು ಈ ವಿಭಾಗ ಚರ್ಚಿಸುತ್ತದೆ.

ಜೂನ್‌ನಲ್ಲಿ ನಾವು ಬರೆದಂತೆ, ಪಿಆರ್‌ಸಿ ತನ್ನ ಸರ್ವಾಧಿಕಾರಿ ಸ್ವರೂಪದ ಎಐ ಅನ್ನು ಮುನ್ನಡೆಸುವಲ್ಲಿ ಗಮನಾರ್ಹ ಪ್ರಗತಿ ಸಾಧಿಸುತ್ತಿದೆ. ಚೀನಾದ ಸರ್ಕಾರಿ ಸಂಸ್ಥೆಗಳೊಂದಿಗೆ ಸಂಬಂಧ ಹೊಂದಿರುವಂತೆ ಕಂಡುಬಂದ ವ್ಯಕ್ತಿಗಳು ಬಳಸುತ್ತಿದ್ದ ChatGPT ಖಾತೆಗಳನ್ನು ನಾವು ನಿಷ್ಕ್ರಿಯಗೊಳಿಸಿದ್ದು, ಈ ಸರ್ವಾಧಿಕಾರಿ ಸನ್ನಿವೇಶದಲ್ಲಿ ಎಐ ಬಳಕೆಯ ಪ್ರಸ್ತುತ ಸ್ಥಿತಿಯ ಮೇಲೆ ಸ್ವಲ್ಪ ಬೆಳಕು ಚೆಲ್ಲುತ್ತದೆ. ಈ ಬಳಕೆಯ ಕೆಲವು ಅಂಶಗಳು ಅಂತರ್ಜಾಲದ ಅಥವಾ ಅಂತರ್ಜಾಲೇತರ ಸಂಚಾರವನ್ನು ದೊಡ್ಡ ಪ್ರಮಾಣದಲ್ಲಿ ಮೇಲ್ವಿಚಾರಣೆ ಮಾಡುವ ಉದ್ದೇಶ ಹೊಂದಿರುವಂತೆ ಕಂಡುಬಂದಿದ್ದು, ಈ ಕ್ಷೇತ್ರದಲ್ಲಿ ಸಂಭವಿಸಬಹುದಾದ ಸರ್ವಾಧಿಕಾರಿ ದುರ್ಬಳಕೆಗಳ ಬಗ್ಗೆ ನಾವು ನಿರಂತರವಾಗಿ ಗಮನ ಹರಿಸುವ ಮಹತ್ವವನ್ನು ಒತ್ತಿಹೇಳುತ್ತವೆ. ಈ ಬಳಕೆಯ ಇತರ ಅಂಶಗಳು ಇನ್ನಷ್ಟು ಆಳವಾದ ವ್ಯಕ್ತಿಚಿತ್ರಣದ ಉದ್ದೇಶ ಹೊಂದಿರುವಂತೆ ಕಂಡುಬಂದವು. ಈ ಚಟುವಟಿಕೆಗೆ ಸಂಬಂಧಿಸಿದ ಖಾತೆಗಳನ್ನು ನಾವು ನಿಷೇಧಿಸಿದ್ದು, ನಮ್ಮ ಒಳನೋಟಗಳನ್ನು ಈ ವರದಿಯಲ್ಲಿ ಹಂಚಿಕೊಳ್ಳುತ್ತಿದ್ದೇವೆ.

ನಾವು ಗುರುತಿಸಿ ನಿಷೇಧಿಸಿದ, ನಿಯಮಗಳನ್ನು ಉಲ್ಲಂಘಿಸುವ ಚಟುವಟಿಕೆಗಳ ವಿರುದ್ಧ ಕೈಗೊಂಡ ಕ್ರಮಗಳ ಆಯ್ದ ಉದಾಹರಣೆಗಳನ್ನು ಈ ಅಧ್ಯಯನ ಆಧರಿಸಿದೆ. ಆ ಚಟುವಟಿಕೆಯು ನಮ್ಮ ಮಾಡೆಲ್‌ಗಳನ್ನು ಸಂಸ್ಥೆಗಳು ದೊಡ್ಡ ಪ್ರಮಾಣದಲ್ಲಿ ಅಳವಡಿಸಿಕೊಂಡಿದ್ದಕ್ಕಿಂತ, ವೈಯಕ್ತಿಕ ಬಳಕೆದಾರರು ChatGPT ಬಳಸುತ್ತಿದ್ದುದಕ್ಕೆ ಹೊಂದಿಕೆಯಾಗಿತ್ತು. ಹೀಗಾಗಿ, ಈ ಸನ್ನಿವೇಶದಲ್ಲಿ ವಿವಿಧ ಎಐ ಮಾಡೆಲ್‌ಗಳ ಬಳಕೆಯ ಸೀಮಿತ ಚಿತ್ರಣವನ್ನಷ್ಟೇ ಇದು ನೀಡುತ್ತದೆ.

ನಾವು ನಿಷೇಧಿಸಿದ ಕೆಲವು ಖಾತೆಗಳು, ಪಾಶ್ಚಿಮಾತ್ಯ ಅಥವಾ ಚೀನಾದ ಸಾಮಾಜಿಕ ಮಾಧ್ಯಮ ವೇದಿಕೆಗಳಿಂದ ಹೆಚ್ಚಾಗಿ ಸಂಗ್ರಹಿಸಲಾದ ದತ್ತಾಂಶ ಸಮೂಹಗಳನ್ನು ವಿಶ್ಲೇಷಿಸುವಂತಹ ದೊಡ್ಡ ಪ್ರಮಾಣದ ಮೇಲ್ವಿಚಾರಣಾ ಸಾಧನಗಳನ್ನು ಅಭಿವೃದ್ಧಿಪಡಿಸಲು ChatGPT ಬಳಸಲು ಪ್ರಯತ್ನಿಸುತ್ತಿದ್ದಂತೆ ಕಂಡುಬಂದವು. ಚೀನಾದ ಭದ್ರತಾ ಪಡೆಗಳಿಗಾಗಿ ಎಂದು ನಿರ್ವಾಹಕರು ಹೇಳಿಕೊಂಡಿದ್ದ, ಎಐ ಚಾಲಿತ ಸಾಮಾಜಿಕ ಮಾಧ್ಯಮ ಮೇಲ್ವಿಚಾರಣಾ ಸಾಧನವನ್ನು ವಿನ್ಯಾಸಗೊಳಿಸುವ ಉದ್ದೇಶದ ಇಂತಹ ಒಂದು ಪ್ರಕರಣದ ಕುರಿತು ನಾವು ಫೆಬ್ರವರಿಯಲ್ಲಿ ವರದಿ ಮಾಡಿದ್ದೇವೆ. ಈ ಬಳಕೆದಾರರು ಸಾಮಾನ್ಯವಾಗಿ ಇಂತಹ ಸಾಧನಗಳನ್ನು ವಿನ್ಯಾಸಗೊಳಿಸಲು ಅಥವಾ ಅವುಗಳ ಕುರಿತ ಪ್ರಚಾರ ಸಾಮಗ್ರಿಗಳನ್ನು ಸಿದ್ಧಪಡಿಸಲು ChatGPTನ ನೆರವು ಕೇಳುತ್ತಿದ್ದರು, ಆದರೆ ಮೇಲ್ವಿಚಾರಣೆಯನ್ನು ಕಾರ್ಯಗತಗೊಳಿಸಲು ಕೇಳುತ್ತಿರಲಿಲ್ಲ.

ಉದಾಹರಣೆಗೆ, ಚೀನಾದಿಂದ ನಮ್ಮ ಸೇವೆಗಳನ್ನು ಬಳಸಲು ಬಹುಶಃ ವಿಪಿಎನ್ ಬಳಸುತ್ತಿದ್ದ ಒಬ್ಬ ಬಳಕೆದಾರನನ್ನು ನಾವು ಇತ್ತೀಚೆಗೆ ನಿಷೇಧಿಸಿದ್ದೇವೆ. ಆತ ಸರ್ಕಾರಿ ಗ್ರಾಹಕರೊಬ್ಬರು ಬಳಸಲಿದ್ದಾರೆಂದು ಹೇಳಲಾದ ಸಾಮಾಜಿಕ ಮಾಧ್ಯಮ ಮೇಲ್ವಿಚಾರಣಾ ಸಾಧನಕ್ಕಾಗಿ ಪ್ರಚಾರ ಸಾಮಗ್ರಿಗಳು ಮತ್ತು ಯೋಜನಾ ರೂಪರೇಖೆಗಳನ್ನು ಸಿದ್ಧಪಡಿಸಲು ChatGPTನ ನೆರವು ಕೇಳುತ್ತಿದ್ದ. ಈ ಸಾಧನವನ್ನು ಸಾಮಾಜಿಕ ಮಾಧ್ಯಮದ “ಶೋಧಕ” (探针) ಎಂದು ವಿವರಿಸಲಾಗಿತ್ತು. ಇದು Twitter/X, Facebook, Instagram, Reddit, TikTok ಮತ್ತು YouTubeಗಳಲ್ಲಿ ಬಳಕೆದಾರನು ಉಗ್ರವಾದಿ ಭಾಷಣ ಹಾಗೂ ಜನಾಂಗೀಯ, ಧಾರ್ಮಿಕ ಮತ್ತು ರಾಜಕೀಯ ವಿಷಯ ಎಂದು ವಿವರಿಸಿದ ಅಂಶಗಳನ್ನು ಶೋಧಿಸಬಲ್ಲದು ಎಂದು ಹೇಳಲಾಗಿತ್ತು. ನೈಜ ಸಾಮಾಜಿಕ ಮಾಧ್ಯಮ ಮೇಲ್ವಿಚಾರಣೆ ನಡೆಸಲು ಬಳಕೆದಾರನು ನಮ್ಮ ಮಾಡೆಲ್ ಅನ್ನು ಬಳಸಲಿಲ್ಲ. ಈ ಸಾಧನವನ್ನು ಚೀನಾದ ಸರ್ಕಾರಿ ಸಂಸ್ಥೆಯೊಂದು ಬಳಸಿದೆಯೇ ಎಂಬುದನ್ನು ಸ್ವತಂತ್ರವಾಗಿ ಪರಿಶೀಲಿಸಲು ನಮಗೆ ಸಾಧ್ಯವಾಗಿಲ್ಲ.

ಅದೇ ರೀತಿ, ಸರ್ಕಾರಿ ಸಂಸ್ಥೆಯೊಂದರೊಂದಿಗೆ ಸಂಬಂಧ ಹೊಂದಿರುವ ಸಾಧ್ಯತೆಯಿದ್ದ ಮತ್ತೊಬ್ಬ ಬಳಕೆದಾರನನ್ನೂ ನಾವು ನಿಷೇಧಿಸಿದ್ದೇವೆ. ಆತ “ಹೆಚ್ಚಿನ ಅಪಾಯದ ಉಯ್ಘರ್-ಸಂಬಂಧಿತ ವ್ಯಕ್ತಿಗಳ ಒಳಹರಿವು ಮುನ್ನೆಚ್ಚರಿಕೆ ಮಾಡೆಲ್” (高危涉维吾尔关注人员流入预警模型) ಎಂದು ವಿವರಿಸಿದ ವ್ಯವಸ್ಥೆಗಾಗಿ ಪ್ರಸ್ತಾವನೆ ಬರೆಯಲು ChatGPTನ ನೆರವು ಕೇಳಿದ್ದ. ಉಯ್ಘರ್-ಸಂಬಂಧಿತ ಮತ್ತು ಹೆಚ್ಚಿನ ಅಪಾಯದವರು ಎಂದು ವರ್ಗೀಕರಿಸಲಾದ ಜನರ ಪ್ರಯಾಣದ ಚಲನವಲನಗಳ ಬಗ್ಗೆ ಮುನ್ನೆಚ್ಚರಿಕೆ ನೀಡಲು ಸಾರಿಗೆ ಕಾಯ್ದಿರಿಸುವಿಕೆಗಳನ್ನು ವಿಶ್ಲೇಷಿಸಿ, ಅವುಗಳನ್ನು ಪೊಲೀಸ್ ದಾಖಲೆಗಳೊಂದಿಗೆ ಹೋಲಿಸುವ ಸಾಧನವನ್ನು ಪ್ರಸ್ತಾವನೆ ವಿವರಿಸಿತ್ತು. ಆದರೆ ಈ ವರ್ಗಕ್ಕೆ ಬೇರೆ ಯಾವುದೇ ವ್ಯಾಖ್ಯಾನ ನೀಡಿರಲಿಲ್ಲ. ಇಂತಹ ಸಾಧನವನ್ನು ನಿರ್ಮಿಸಲು ನೆರವಾಗುವಂತೆ ಬಳಕೆದಾರನು ನಮ್ಮ ಮಾಡೆಲ್ ಅನ್ನು ಕೇಳಿರಲಿಲ್ಲ; ಸಾಮಾನ್ಯ ಪ್ರಸ್ತಾವನೆಯನ್ನು ಸಿದ್ಧಪಡಿಸಲು ಮಾತ್ರ ಕೇಳಿದ್ದ. ಆದ್ದರಿಂದ ಅವರು ಯಾವ ತಂತ್ರಜ್ಞಾನ ಬಳಸಲು ಉದ್ದೇಶಿಸಿದ್ದರು ಅಥವಾ ಇಂತಹ ಸಾಧನವನ್ನು ಚೀನಾದ ಸರ್ಕಾರಿ ಸಂಸ್ಥೆಯೊಂದು ಬಳಸಿದೆಯೇ ಎಂಬುದನ್ನು ಸ್ವತಂತ್ರವಾಗಿ ದೃಢೀಕರಿಸಲು ನಮಗೆ ಸಾಧ್ಯವಾಗಿಲ್ಲ.

ಚೀನಾದ ಸರ್ಕಾರಿ ಸಂಸ್ಥೆಗಳೊಂದಿಗೆ ಸಂಬಂಧ ಹೊಂದಿರುವಂತೆ ಮತ್ತು ಹೆಚ್ಚು ನಿರ್ದಿಷ್ಟವಾದ, ಗುರಿಯಿಟ್ಟ ವ್ಯಕ್ತಿಚಿತ್ರಣ ಹಾಗೂ ಅಂತರ್ಜಾಲ ಸಂಶೋಧನೆಗಾಗಿ ChatGPT ಬಳಸಲು ಪ್ರಯತ್ನಿಸುತ್ತಿರುವಂತೆ ಕಂಡುಬಂದ ಬಳಕೆದಾರರನ್ನೂ ನಾವು ನಿಷೇಧಿಸಿದ್ದೇವೆ.

ಉದಾಹರಣೆಗೆ, ಚೀನಾ ಸರ್ಕಾರವನ್ನು ಟೀಕಿಸಿದ X ಖಾತೆಯ ಹಣಕಾಸಿನ ಮೂಲಗಳನ್ನು ಗುರುತಿಸುವಂತೆ ಒಬ್ಬ ಬಳಕೆದಾರನು ChatGPT ಅನ್ನು ಕೇಳಿದ್ದ. ಮಂಗೋಲಿಯಾದಲ್ಲಿ ಸಲ್ಲಿಸಲಾದ ಮನವಿಯ ಸಂಘಟಕರನ್ನು ಗುರುತಿಸುವಂತೆ ಮತ್ತೊಬ್ಬ ಬಳಕೆದಾರನು ChatGPT ಅನ್ನು ಕೇಳಿದ್ದ. ಈ ಎರಡೂ ಪ್ರಕರಣಗಳಲ್ಲಿ ನಮ್ಮ ಮಾಡೆಲ್‌ಗಳು ಸಾರ್ವಜನಿಕವಾಗಿ ಲಭ್ಯವಿದ್ದ ಮಾಹಿತಿಯನ್ನು ಮಾತ್ರ ನೀಡಿದವು. ಅದರಲ್ಲಿ ಹಣಕಾಸಿನ ಮೂಲಗಳು ಅಥವಾ ಮನವಿಯ ಸಂಘಟಕರ ಗುರುತುಗಳಂತಹ ಸೂಕ್ಷ್ಮ ವಿವರಗಳು ಇರಲಿಲ್ಲ.

ಹಿಂದಿನ ಬಳಕೆದಾರರು ಅಂತರ್ಜಾಲ ಅಥವಾ ಸಾಮಾಜಿಕ ಮಾಧ್ಯಮ ಹುಡುಕಾಟಗಳನ್ನು ಬಳಸುತ್ತಿದ್ದ ರೀತಿಯಲ್ಲೇ, ಈ ಚಟುವಟಿಕೆಯ ಕೆಲವು ಭಾಗಗಳಲ್ಲಿ ನಮ್ಮ ಮಾಡೆಲ್‌ಗಳನ್ನು ಮುಕ್ತ ಮೂಲ ಸಂಶೋಧನಾ ಸಾಧನವಾಗಿ ಬಳಸಲಾಗಿತ್ತು. ಉದಾಹರಣೆಗೆ, 1989ರ ತಿಯಾನನ್ಮೆನ್ ಚೌಕದ ಹತ್ಯಾಕಾಂಡದ ವಾರ್ಷಿಕ ಸ್ಮರಣೆ ಮತ್ತು ದಲೈ ಲಾಮಾ ಅವರ ಜನ್ಮದಿನದಂತಹ ಸೂಕ್ಷ್ಮ ವಿಷಯಗಳೂ ಸೇರಿದಂತೆ, ಚೀನಾಕ್ಕೆ ಪ್ರಸ್ತುತವಾಗುವ ದೈನಂದಿನ ತಾಜಾ ಸುದ್ದಿಗಳನ್ನು ಗುರುತಿಸಿ ಸಾರಾಂಶ ನೀಡುವಂತೆ ಮೂರನೇ ಬಳಕೆದಾರನು ChatGPT ಅನ್ನು ಕೇಳಿದ್ದ.