ಸಂಘಟಿತ ಮಾಡೆಲ್ ಸಾರೀಕರಣ ಯತ್ನಕ್ಕೆ ತಡೆ
ನಮ್ಮ ಮಾಡೆಲ್ಗಳಿಂದ ಸಂರಕ್ಷಿತ ರೀಜನಿಂಗ್ ಅನ್ನು ಹೊರತೆಗೆಯಲು ನಡೆಸಿದ ಸಂಘಟಿತ ಕಾರ್ಯಾಚರಣೆಯನ್ನು ನಾವು ಇತ್ತೀಚೆಗೆ ಪತ್ತೆಹಚ್ಚಿ ತಡೆದೆವು. ಈ ಚಟುವಟಿಕೆ ಮೊದಲು ಕಂಡುಬಂದಿದ್ದು ಜುಲೈ ಮೊದಲ ವಾರದಲ್ಲಿ. ಈ ಚಟುವಟಿಕೆಯು ದುರುದ್ದೇಶಪೂರಿತ ಸಾರೀಕರಣದ ಲಕ್ಷಣಗಳನ್ನು ಹೊಂದಿದೆ: ಅಂದರೆ, ಒಂದು ಮಾಡೆಲ್ನ ಪ್ರತಿಕ್ರಿಯೆಗಳು ಅಥವಾ ರೀಜನಿಂಗ್ ಅನ್ನು ವ್ಯವಸ್ಥಿತವಾಗಿ, ಅನುಮತಿಯಿಲ್ಲದೆ ಬಳಸಿ ಮತ್ತೊಂದು ಮಾಡೆಲ್ಗೆ ತರಬೇತಿ ನೀಡುವುದು, ಅದನ್ನು ಮರುಸೃಷ್ಟಿಸುವುದು ಅಥವಾ ಸುಧಾರಿಸುವುದು. ಸಂರಕ್ಷಿತ ರೀಜನಿಂಗ್ ಎಂದರೆ ಕಾರ್ಯವನ್ನು ಪೂರ್ಣಗೊಳಿಸುವಾಗ ಮಾಡೆಲ್ ರೂಪಿಸುವ ಆಂತರಿಕ ದಾಖಲೆ. ಅದನ್ನು ಹೊರತೆಗೆದರೆ, ಅಂತಿಮ ಉತ್ತರದಲ್ಲಿ ನೀಡದ ಮಾಹಿತಿಯು ಬಹಿರಂಗವಾಗಬಹುದು ಮತ್ತು ಮಾಡೆಲ್ನ ಸಾಮರ್ಥ್ಯಗಳನ್ನು ಮರುಸೃಷ್ಟಿಸಲು ಇತರರಿಗೆ ನೆರವಾಗಬಹುದು.
ಈ ಕಾರ್ಯಾಚರಣೆ ನಡೆಸಿದವರು ನಮ್ಮ ಗೂಢಲಿಪೀಕರಣವನ್ನು ಭೇದಿಸಿಲ್ಲ, ದತ್ತಸಂಚಯಕ್ಕೆ ಕನ್ನ ಹಾಕಿಲ್ಲ ಅಥವಾ ಸಂಗ್ರಹಿತ ಬಳಕೆದಾರ ಸಂಭಾಷಣೆಗಳಿಗೆ ನೇರ ಪ್ರವೇಶ ಪಡೆದಿಲ್ಲ. ಬದಲಿಗೆ, ವಿನಂತಿಸಿದವರಿಗೆ ಕಾಣುವ ರೂಪದಲ್ಲಿ ಸಂರಕ್ಷಿತ ರೀಜನಿಂಗ್ ಅನ್ನು ಮರುಸೃಷ್ಟಿಸುವಂತೆ ಅವರು ಮಾಡೆಲ್ನೊಂದಿಗಿನ ಸಂವಹನವನ್ನು ತಿರುಚಿದರು. ನಮ್ಮ ಸೇವಾ ನಿಯಮಗಳನ್ನು ಉಲ್ಲಂಘಿಸಿ ಇದನ್ನು ಸಂಘಟಿತವಾಗಿ, ದೊಡ್ಡ ಪ್ರಮಾಣದಲ್ಲಿ ಮಾಡಲಾಯಿತು. ಹೀಗೆ ಸಂವಹನವನ್ನು ತಿರುಚಲು ಅವಕಾಶ ನೀಡುವ ದೌರ್ಬಲ್ಯವು OpenAI ಮಾಡೆಲ್ಗಳಿಗೆ ಮಾತ್ರ ಸೀಮಿತವಲ್ಲ. ದುರುದ್ದೇಶಪೂರಿತ ಸಾರೀಕರಣದ ವಿರುದ್ಧ ಸಾಮೂಹಿಕ ರಕ್ಷಣೆಯನ್ನು ಬಲಪಡಿಸಲು ನಾವು ಫ್ರಾಂಟಿಯರ್ ಮಾಡೆಲ್ ಫೋರಂ ಮೂಲಕ ಉದ್ಯಮದ ಪಾಲುದಾರರೊಂದಿಗೆ ಇದರ ಮಾಹಿತಿಯನ್ನು ಹಂಚಿಕೊಂಡಿದ್ದೇವೆ.
ಪ್ರಕಟಿಸುವ ಮೊದಲು, ನಾವು ಇದರ ವ್ಯಾಪ್ತಿ ಮತ್ತು ಸಂಭಾವ್ಯ ಪರಿಣಾಮವನ್ನು ತನಿಖೆ ಮಾಡಿ, ನಮ್ಮದೇ ತಡೆ ಕ್ರಮಗಳನ್ನು ಜಾರಿಗೊಳಿಸಿದೆವು. ಈ ಬಗೆಯ ದಾಳಿಯಿಂದ ರಕ್ಷಣೆ ಇರುವುದನ್ನು ಖಚಿತಪಡಿಸಿಕೊಳ್ಳಲು ಸಂಶೋಧಕರು ಮತ್ತು ಉದ್ಯಮದ ಪಾಲುದಾರರೊಂದಿಗೆ ಮಾಹಿತಿ ಹಂಚಿಕೊಂಡು, ಅವರ ಅಭಿಪ್ರಾಯಗಳನ್ನು ಪಡೆದೆವು. ಹೆಚ್ಚುವರಿ ತಡೆ ಕ್ರಮಗಳು ಮತ್ತು ತನಿಖೆಯ ಕೆಲಸ ಮುಂದುವರಿದಿದೆ. ನಾವು ಕಲಿತದ್ದನ್ನು ಈಗ ಹಂಚಿಕೊಳ್ಳುವುದರಿಂದ ಇಡೀ ಕ್ಷೇತ್ರವು ತನ್ನ ರಕ್ಷಣೆಯನ್ನು ಬಲಪಡಿಸಿಕೊಳ್ಳಲು ನೆರವಾಗುತ್ತದೆ ಎಂದು ನಂಬುತ್ತೇವೆ.
ಸಂರಕ್ಷಿತ ರೀಜನಿಂಗ್ ಅನ್ನು ಹೊಸ ವಿಧಾನಗಳಲ್ಲಿ ಹೊರತೆಗೆಯಲು ನಡೆಸಿದ ಪ್ರಯತ್ನಗಳನ್ನು ನಾವು ಗಮನಿಸಿದೆವು. ಒಂದು ಸಂಭಾಷಣೆಯ ಗೂಢಲಿಪೀಕೃತ ರೀಜನಿಂಗ್ ಅನ್ನು ನಕಲಿಸಿ, ಮತ್ತೊಂದು ಸಂಭಾಷಣೆಯಲ್ಲಿನ ಮಾಡೆಲ್ಗೆ ಆ ಅಡಗಿದ ರೀಜನಿಂಗ್ ವಿಷಯವನ್ನು ಗೂಢಲಿಪಿಯಿಂದ ಬಿಡಿಸಿ ಬರೆಯುವಂತೆ ಕೇಳುವುದೂ ಇದರಲ್ಲಿ ಸೇರಿತ್ತು.
ಸ್ವತಂತ್ರ ಭದ್ರತಾ ಸಂಶೋಧಕರು(ಹೊಸ ಕಿಟಕಿಯಲ್ಲಿ ತೆರೆಯುತ್ತದೆ) ಕೂಡ ಜವಾಬ್ದಾರಿಯುತ ಬಹಿರಂಗಪಡಿಸುವಿಕೆಯ ಮೂಲಕ ಸಂಬಂಧಿತ ದೌರ್ಬಲ್ಯಗಳನ್ನು ನಮ್ಮ ಗಮನಕ್ಕೆ ತಂದರು. ಇವು ವಿಭಿನ್ನ ಮಾಡೆಲ್ಗಳ ನಡುವಿನ ಸಂವಹನ ಮತ್ತು ಸಂಭಾಷಣೆಯ ಸಂದರ್ಭ ಸಂಕುಚಿತಗೊಳಿಸುವಿಕೆಗೆ ಸಂಬಂಧಿಸಿದ್ದವು. ಅವರ ಸಂಶೋಧನಾ ಫಲಿತಾಂಶಗಳನ್ನು ತನಿಖೆ ಮಾಡಿ, ಅವರು ಗುರುತಿಸಿದ ಮಾರ್ಗಗಳಲ್ಲಿ ದಾಳಿ ನಡೆಸಲು ನಿಜವಾಗಿಯೂ ಸಾಧ್ಯವಿದೆ ಎಂದು ದೃಢಪಡಿಸಿದೆವು. ಅವರ ಕೆಲಸವು ಈ ಬಗೆಯ ದಾಳಿಗಳನ್ನು ಹೆಚ್ಚು ವ್ಯಾಪಕವಾಗಿ ಅರ್ಥಮಾಡಿಕೊಳ್ಳಲು ಮತ್ತು ತಡೆ ಕ್ರಮಗಳನ್ನು ತ್ವರಿತಗೊಳಿಸಲು ನೆರವಾಯಿತು.
ಜುಲೈ 1ರಂದು ಆರಂಭವಾದ ಚಟುವಟಿಕೆ ಮೊದಲಿಗೆ ಕಡಿಮೆ ಪ್ರಮಾಣದಲ್ಲಿತ್ತು. ಜುಲೈ 24 ಮತ್ತು 25ರಂದು ಅದು ತೀವ್ರವಾಗಿ ಹೆಚ್ಚಿದುದನ್ನು ಗಮನಿಸಿದೆವು: 4,000ಕ್ಕೂ ಹೆಚ್ಚು ಬಳಕೆದಾರರಿಂದ, ಸಂಬಂಧಿತ ಹೊರತೆಗೆಯುವ ಮಾದರಿಯನ್ನು ಬಳಸಿದ 16,000 ವಿನಂತಿಗಳು1 ಬಂದಿದ್ದವು. ಹೆಚ್ಚಿನ ತನಿಖೆಯಿಂದ 15,000ಕ್ಕೂ ಹೆಚ್ಚು ಬಳಕೆದಾರರ ಗುಂಪಿನಲ್ಲಿ ಸಂಬಂಧಿತ ಪ್ರಾಂಪ್ಟ್ ಮಾದರಿಯ ಚಟುವಟಿಕೆಯನ್ನು ಗುರುತಿಸಿದೆವು. ಜುಲೈ 28ರ ವೇಳೆಗೆ ಅದನ್ನು ಸಂಪೂರ್ಣವಾಗಿ ತಡೆದೆವು.
ಕಾಲಕ್ರಮೇಣ ಈ ಚಟುವಟಿಕೆಯ ಸ್ವರೂಪ ಬದಲಾಗುತ್ತಿತ್ತು. ದುರುದ್ದೇಶಪೂರಿತ ಸಾರೀಕರಣವು ಬಹುಹಂತದ, ಬದಲಾವಣೆಗೆ ಹೊಂದಿಕೊಳ್ಳುವ ರಕ್ಷಣೆ ಅಗತ್ಯವಿರುವ ವ್ಯಾಪಕ ಭದ್ರತಾ ಸವಾಲು ಎಂಬುದನ್ನು ಇದು ಮತ್ತಷ್ಟು ಸ್ಪಷ್ಟಪಡಿಸಿತು.
ಸಂಬಂಧಿತ ಅವಧಿಯಲ್ಲಿ ನಾವು ಗಮನಿಸಿದ ಎಲ್ಲಾ ಕಾರ್ಯಾಚರಣಾಕಾರರು ಒಂದೇ ಮೂಲದ ಪರವಾಗಿ ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತಿದ್ದರೇ ಎಂಬುದು ಸ್ಪಷ್ಟವಾಗಿಲ್ಲ. ಆದರೆ, ಈ ಚಟುವಟಿಕೆಯ ಒಂದು ಪ್ರಮುಖ ಗುಂಪಿನ ಹಿಂದೆ ಕಿಮಿಯನ್ನು ಅಭಿವೃದ್ಧಿಪಡಿಸಿದ ಮೂನ್ಶಾಟ್ ಎಐಗೆ ಸಂಬಂಧಿಸಿದ ವ್ಯಕ್ತಿಗಳಿದ್ದಾರೆ ಎಂದು ನಾವು ನಿರ್ಣಯಿಸಿದ್ದೇವೆ.
ದುರುದ್ದೇಶಪೂರಿತ ಸಾರೀಕರಣವು ಸುರಕ್ಷತೆ ಮತ್ತು ರಾಷ್ಟ್ರೀಯ ಭದ್ರತೆಗೆ ಅಪಾಯ ಒಡ್ಡುತ್ತದೆ. ಮೂಲ ಮಾಡೆಲ್ ಬಳಕೆದಾರರಿಗೆ ನೀಡುವ ಪ್ರತಿಕ್ರಿಯೆಗಳಿಗೆ ಅನ್ವಯಿಸುವ ಸುರಕ್ಷತಾ ಕ್ರಮಗಳನ್ನು ಉಳಿಸಿಕೊಳ್ಳದೆಯೇ, ಹೊರತೆಗೆದ ರೀಜನಿಂಗ್ ಬಳಸಿ ಮತ್ತೊಂದು ಮಾಡೆಲ್ಗೆ ತರಬೇತಿ ನೀಡಬಹುದು. ದೊಡ್ಡ ಪ್ರಮಾಣದಲ್ಲಿ ನಡೆಸಿದಾಗ, ಸುರಕ್ಷತೆಗೆ ಅಷ್ಟೇ ಹೂಡಿಕೆ ಮಾಡದೆಯೇ ಉನ್ನತ ಸಾಮರ್ಥ್ಯಗಳನ್ನು ವೇಗವಾಗಿ ವರ್ಗಾಯಿಸಲು ಕೂಡ ಸಾರೀಕರಣವು ನೆರವಾಗಬಹುದು. ಒಳ್ಳೆಯ ಮತ್ತು ಕೆಟ್ಟ ಎರಡೂ ಉದ್ದೇಶಗಳಿಗೆ ಬಳಸಬಹುದಾದ ಕ್ಷೇತ್ರಗಳಲ್ಲಿ ಮಾಡೆಲ್ಗಳು ಸಾಮರ್ಥ್ಯ ಗಳಿಸಿದಂತೆ ಈ ಕಳವಳಗಳು ಹೆಚ್ಚುತ್ತವೆ.
ಈ ಅಪಾಯ OpenAIಗೆ ಮಾತ್ರ ಸೀಮಿತವಲ್ಲ. ಮೇಲೆ ಉಲ್ಲೇಖಿಸಿದಂತೆ, ಇದೇ ಬಗೆಯ ತಂತ್ರಗಳು ಇತರ ಉನ್ನತ ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆ ವ್ಯವಸ್ಥೆಗಳ ಮೇಲೂ ಪರಿಣಾಮ ಬೀರಬಹುದು. ಹೀಗಾಗಿ, ಇದು ಉದ್ಯಮದಾದ್ಯಂತ ಸಮನ್ವಯದ ಅಗತ್ಯವಿರುವ ಸಾಮೂಹಿಕ ಭದ್ರತಾ ಸವಾಲಾಗಿದೆ.
ಖಾತೆಗಳ ಮೇಲೆ ನಿಯಮ ಜಾರಿ, ತಾಂತ್ರಿಕ ನಿಯಂತ್ರಣಗಳು ಮತ್ತು ಪಾಲುದಾರರೊಂದಿಗಿನ ಸಮನ್ವಯವನ್ನು ಒಟ್ಟಾಗಿ ಬಳಸಿ ಈ ಇತ್ತೀಚಿನ ಸಾರೀಕರಣ ಕಾರ್ಯಾಚರಣೆಗೆ ತಡೆ ಒಡ್ಡಿದೆವು. ಮೋಸದ ಖಾತೆಗಳನ್ನು ನಿಷೇಧಿಸಿದೆವು ಅಥವಾ ನಿರ್ಬಂಧಿಸಿದೆವು, ನೋಂದಣಿ ಮತ್ತು ಮೂಲಸೌಕರ್ಯ ನಿಯಂತ್ರಣಗಳನ್ನು ಬಲಪಡಿಸಿದೆವು ಹಾಗೂ ಸಂಬಂಧಿತ ಜಾಲಗಳ ಮೇಲಿನ ನಿಗಾವನ್ನು ವಿಸ್ತರಿಸಿದೆವು.
ಬಳಕೆದಾರರು, ಕಾರ್ಯಸ್ಥಳಗಳು, ಸಂಸ್ಥೆಗಳು ಮತ್ತು ಮಾಡೆಲ್ ಕುಟುಂಬಗಳಾದ್ಯಂತ ಅಡಗಿದ ರೀಜನಿಂಗ್ಗೆ ರಕ್ಷಣೆಯನ್ನೂ ಬಲಪಡಿಸಿದೆವು. ಮತ್ತೊಬ್ಬ ಬಳಕೆದಾರರ ಗೂಢಲಿಪೀಕೃತ ರೀಜನಿಂಗ್ ಈಗಾಗಲೇ ಕೈಯಲ್ಲಿದ್ದವರಿಗೆ, ಅದನ್ನು ಮತ್ತೆ ಸಲ್ಲಿಸಿ ಅದರ ವಿಷಯವನ್ನು ಪಡೆಯಲು ಅವಕಾಶ ನೀಡುತ್ತಿದ್ದ ಮಾರ್ಗವನ್ನು ಮುಚ್ಚಿದೆವು. ರೀಜನಿಂಗ್ ಬಹಿರಂಗಪಡಿಸಬಹುದಾದ, ಹಂತ ಹಂತವಾಗಿ ಹೊರಬರುವ ಪ್ರತಿಕ್ರಿಯೆಯನ್ನು ಪತ್ತೆಹಚ್ಚಿ ತಡೆಹಿಡಿಯಲು ಪರಿಶೀಲನೆಗಳನ್ನೂ ಸೇರಿಸಿದೆವು. ಸಂಬಂಧಿತ ಚಟುವಟಿಕೆಯು ಮೂರನೇ ವ್ಯಕ್ತಿಗಳ ಸೇವೆಗಳ ಮೂಲಕ ಮುಂದುವರಿದಾಗ, ಭಾಗಿಯಾದ ಖಾತೆಗಳನ್ನು ಗುರುತಿಸಿ ತಡೆಯಲು ಆ ಸೇವಾ ಪೂರೈಕೆದಾರರೊಂದಿಗೆ ಕೆಲಸ ಮಾಡಿದೆವು.
ಅಂತಿಮವಾಗಿ, ಫ್ರಾಂಟಿಯರ್ ಮಾಡೆಲ್ ಫೋರಂ ಮತ್ತು ಸೂಕ್ತ ಸರ್ಕಾರಿ ಮಾಹಿತಿ ಹಂಚಿಕೆ ವಾಹಿನಿಗಳ ಮೂಲಕ ಸಂಬಂಧಿತ ಫಲಿತಾಂಶಗಳನ್ನು ಹಂಚಿಕೊಂಡೆವು. ಇತರ ಅತ್ಯಾಧುನಿಕ ಮಾಡೆಲ್ ಅಭಿವೃದ್ಧಿಕಾರರು ಮತ್ತು ಸಾರ್ವಜನಿಕ ವಲಯದ ಪಾಲುದಾರರು ಇದೇ ಬಗೆಯ ಚಟುವಟಿಕೆಯನ್ನು ಹುಡುಕಿ, ತಮ್ಮ ರಕ್ಷಣೆಯನ್ನು ಬಲಪಡಿಸಿಕೊಳ್ಳಲು ಇದು ನೆರವಾಗುತ್ತದೆ. ಬೇರೆಡೆಗೆ ವರ್ಗಾಯಿಸಬಹುದಾದ ಅಥವಾ ಮರುಸಲ್ಲಿಸಬಹುದಾದ ರೀಜನಿಂಗ್ ದಾಖಲೆಗಳನ್ನು ಬೆಂಬಲಿಸುವ ವ್ಯವಸ್ಥೆಗಳು ಸಂಬಂಧಿತ ಅಪಾಯಗಳನ್ನು ಎದುರಿಸಬಹುದು.
ಅತ್ಯಾಧುನಿಕ ಮಾಡೆಲ್ಗಳು ಸುಧಾರಿಸಿದಂತೆ ಮತ್ತು ಅವುಗಳ ಸಾಮರ್ಥ್ಯಗಳನ್ನು ಕಡಿಮೆ ವೆಚ್ಚದಲ್ಲಿ ಅನುಕರಿಸುವ ಮಾರ್ಗಗಳನ್ನು ದುರುದ್ದೇಶವುಳ್ಳವರು ಹುಡುಕಿದಂತೆ, ದುರುದ್ದೇಶಪೂರಿತ ಸಾರೀಕರಣದ ಪ್ರಯತ್ನಗಳು ಇನ್ನಷ್ಟು ಸಂಕೀರ್ಣವಾಗುತ್ತವೆ ಎಂದು ನಿರೀಕ್ಷಿಸುತ್ತೇವೆ. ಈ ಚಟುವಟಿಕೆಯಿಂದ ರಕ್ಷಿಸಿಕೊಳ್ಳಲು ಬಹುಹಂತದ ನಿಯಂತ್ರಣಗಳು ಮತ್ತು ಬದಲಾವಣೆಗಳಿಗೆ ನಿರಂತರವಾಗಿ ಹೊಂದಿಕೊಳ್ಳುವುದು ಅಗತ್ಯ.
ಈ ಕೆಲಸ ಇನ್ನೂ ಮುಗಿದಿಲ್ಲ. ಪಾಲುದಾರರು ಆತಿಥ್ಯ ವಹಿಸುವ ನಿಯೋಜನೆಗಳಿಗೂ ನಾವು ನೇರವಾಗಿ ಒದಗಿಸುವ ಸೇವೆಗಳಷ್ಟೇ ರಕ್ಷಣೆ ಅಗತ್ಯ. ಸಾಧನಗಳ ಪ್ರತಿಕ್ರಿಯೆಯ ಮೂಲಕ ನಡೆಯುವ ದಾಳಿಗಳನ್ನು ತಡೆಯಲು, ಸಾಮಾನ್ಯವಾಗಿ ಗೋಚರಿಸುವ ಪಠ್ಯಕ್ಕಿಂತ ಹೆಚ್ಚಿನದನ್ನು ಪರಿಶೀಲಿಸುವ ರಕ್ಷಣೆಗಳು ಬೇಕು. ನಾವು ಸಾಧನಗಳ ರಕ್ಷಣೆ, ವರ್ಗೀಕಾರಕಗಳ ವ್ಯಾಪ್ತಿ ಮತ್ತು ಮಾಡೆಲ್ಗಳ ನಿರಾಕರಣೆಗಳನ್ನು ಸುಧಾರಿಸುವುದನ್ನು ಮುಂದುವರಿಸುತ್ತಿದ್ದೇವೆ. ಸಂಬಂಧಿತ ನಿಯಂತ್ರಣಗಳನ್ನು ಮೇಘ ಸೇವಾ ಪಾಲುದಾರರಾದ್ಯಂತ ವಿಸ್ತರಿಸುತ್ತಿದ್ದೇವೆ.
ನಮ್ಮ ಪ್ರತಿಕ್ರಿಯೆಯು ಮೂರು ಕ್ಷೇತ್ರಗಳ ಮೇಲೆ ಗಮನ ಕೇಂದ್ರೀಕರಿಸುವುದನ್ನು ಮುಂದುವರಿಸುತ್ತದೆ: ಹೊರತೆಗೆಯುವಿಕೆಯ ವಿರುದ್ಧ ಬಲವಾದ ತಾಂತ್ರಿಕ ರಕ್ಷಣೆ, ಸಂಘಟಿತ ಕಾರ್ಯಾಚರಣೆಗಳ ಉತ್ತಮ ಪತ್ತೆ ಮತ್ತು ಅವುಗಳ ವಿರುದ್ಧ ಕ್ರಮ, ಹಾಗೂ ಉದ್ಯಮ ಮತ್ತು ಸರ್ಕಾರದ ನಡುವೆ ಬೆದರಿಕೆಗಳ ಕುರಿತ ಹೆಚ್ಚಿನ ಮಾಹಿತಿ ಹಂಚಿಕೆ.

