சீன மக்கள் குடியரசுடன் தொடர்புடைய முறைகேடு: கண்காணிப்பு மற்றும் செல்வாக்குச் செயல்பாடு

இந்த ஆய்வு முதலில் OpenAI-யின் அக்டோபர் 2025⁠(புதிய சாளரத்தில் திறக்கும்) அறிக்கையில் வெளியிடப்பட்டது.

சீன மக்கள் குடியரசின் அரசு அமைப்புகளுடன் தொடர்புடையவர்களாகத் தோன்றும் நபர்கள், உருவாக்கம், விவரக்குறிப்பிடல் மற்றும் நிர்வாகப் பணிகளுக்கு உதவ ChatGPT‑ஐப் பயன்படுத்தினர்.

அறிவியல் மற்றும் தொழில்நுட்பக் கொள்கை அலுவலகத்தின் அமெரிக்கச் செயற்கை நுண்ணறிவுச் செயல்திட்டத்துக்கு மார்ச் மாதம் அளித்த எங்கள் கருத்துரையில் குறிப்பிட்டபடி, உண்மையான பாதிப்புகளிலிருந்து மக்களைப் பாதுகாக்கும் நடைமுறைசார் விதிகளின்படி செயற்கை நுண்ணறிவைச் செயல்படுத்துவதும், ஜனநாயக செயற்கை நுண்ணறிவை உருவாக்குவதுமே அதன் பயன்கள் முடிந்தவரை அதிகமான மக்களைச் சென்றடைவதை உறுதிசெய்யும் என நம்புகிறோம். ஜனநாயக செயற்கை நுண்ணறிவு என்பது, அமெரிக்கா எப்போதும் ஆதரித்து வந்த ஜனநாயகக் கொள்கைகளால் வடிவமைக்கப்படுவதை நாங்கள் குறிக்கிறோம். அதிகாரத்தைத் திரட்டவும் குடிமக்களைக் கட்டுப்படுத்தவும் சர்வாதிகார ஆட்சிகள் செயற்கை நுண்ணறிவுக் கருவிகளைப் பயன்படுத்துவதைத் தடுப்பதும் இதில் அடங்கும்.

ChatGPT‑இன் திறன்களைச் சர்வாதிகார ஆட்சிகள் தவறாகப் பயன்படுத்தும் முயற்சிகளைக் கண்டறிந்து முறியடிப்பதற்கான எங்கள் முதலீடுகள், இப்போது மக்களைப் பாதுகாப்பதுடன், எதிர்காலத் திறன்களை அந்த ஆட்சிகள் எவ்வாறு தவறாகப் பயன்படுத்தக்கூடும் என்பது குறித்த முக்கியப் புரிதல்களையும் வழங்குகின்றன. சீன மக்கள் குடியரசை மையமாகக் கொண்டு, அத்தகைய ஆட்சிகளுடன் தொடர்புடையவர்களாக இருக்கக்கூடிய நபர்கள் குறித்த கண்டுபிடிப்புகளின் ஒரு தொகுப்பை இந்தப் பகுதி விவரிக்கிறது.

ஜூன் மாதம் நாங்கள் எழுதியபடி, செயற்கை நுண்ணறிவின் சர்வாதிகார வடிவத்தை முன்னேற்றுவதில் சீன மக்கள் குடியரசு குறிப்பிடத்தக்க முன்னேற்றம் அடைந்து வருகிறது. சீன அரசு அமைப்புகளுடன் தொடர்புடையவர்களாகத் தோன்றும் நபர்கள் பயன்படுத்திய ChatGPT கணக்குகளை நாங்கள் முடக்கியது, இந்தச் சர்வாதிகாரச் சூழலில் செயற்கை நுண்ணறிவின் தற்போதைய பயன்பாட்டை ஓரளவு வெளிச்சமிட்டுக் காட்டுகிறது. இந்தப் பயன்பாட்டின் சில அம்சங்கள் இணையவழி அல்லது இணையத்துக்கு வெளியிலான போக்குவரத்தைப் பெருமளவில் கண்காணிப்பதை ஆதரிப்பதை நோக்கமாகக் கொண்டிருந்ததாகத் தோன்றியது. இந்தத் துறையில் சர்வாதிகார முறைகேடுகள் நிகழக்கூடிய சாத்தியத்தைத் தொடர்ந்து கவனிப்பதன் முக்கியத்துவத்தை இது வலியுறுத்துகிறது. இந்தப் பயன்பாட்டின் மற்ற அம்சங்கள் இன்னும் ஆழமான விவரக்குறிப்பிடலை நோக்கமாகக் கொண்டிருந்ததாகத் தோன்றியது. இந்தச் செயல்பாட்டுடன் தொடர்புடைய கணக்குகளைத் தடைசெய்துள்ளோம்; அதிலிருந்து பெற்ற புரிதல்களை இந்த அறிக்கையில் பகிர்கிறோம்.

நாங்கள் கண்டறிந்து தடைசெய்த விதிமீறல் செயல்பாடுகளுக்கு எதிரான நடவடிக்கைகளில் தேர்ந்தெடுக்கப்பட்ட சிலவற்றை இந்த ஆய்வு அடிப்படையாகக் கொண்டுள்ளது. எங்கள் மாடல்களை நிறுவனங்கள் பெரிய அளவில் ஏற்றுக்கொண்டதைவிட, தனிப்பட்ட பயனர்கள் ChatGPT‑ஐப் பயன்படுத்தியதுடன் அந்தச் செயல்பாடு ஒத்திருந்தது. எனவே, இந்தச் சூழலில் வெவ்வேறு செயற்கை நுண்ணறிவு மாடல்கள் பயன்படுத்தப்படும் விதத்தைப் பற்றிய ஒரு வரம்புக்குட்பட்ட கண்ணோட்டம் மட்டுமே இது.

நாங்கள் தடைசெய்த சில கணக்குகள், பெரும்பாலும் மேற்கத்திய அல்லது சீனச் சமூக ஊடகத் தளங்களிலிருந்து சேகரிக்கப்பட்ட தரவுத்தொகுப்புகளைப் பகுப்பாய்வு செய்து பெருமளவில் கண்காணிப்பதற்கான கருவிகளை உருவாக்க ChatGPT‑ஐப் பயன்படுத்த முயன்றதாகத் தோன்றியது. செயற்கை நுண்ணறிவால் இயக்கப்படும் சமூக ஊடகக் கண்காணிப்புக் கருவியை வடிவமைப்பதை நோக்கமாகக் கொண்ட அத்தகைய ஒரு நிகழ்வு குறித்து பிப்ரவரியில் அறிக்கை வெளியிட்டோம். அது சீனப் பாதுகாப்புப் படைகளுக்கானது என அதை இயக்கியவர்கள் கூறினர். இத்தகைய கருவிகளை வடிவமைக்க அல்லது அவற்றுக்கான விளம்பரப் பொருட்களை உருவாக்க உதவுமாறே இந்தப் பயனர்கள் பொதுவாக ChatGPT‑இடம் கேட்டனர்; கண்காணிப்பைச் செயல்படுத்தக் கேட்கவில்லை.

எடுத்துக்காட்டாக, சீனாவிலிருந்து எங்கள் சேவைகளை அணுக VPN-ஐப் பயன்படுத்தியிருக்கக்கூடிய ஒரு பயனரை அண்மையில் தடைசெய்தோம். அரசு வாடிக்கையாளர் ஒருவருக்காகக் கூறப்பட்ட சமூக ஊடகக் கண்காணிப்புக் கருவிக்கான விளம்பரப் பொருட்களையும் திட்டத் திட்டங்களையும் வடிவமைக்க உதவுமாறு அவர் ChatGPT‑இடம் கேட்டிருந்தார். பயனர் தீவிரவாதப் பேச்சு என்றும் இன, மத மற்றும் அரசியல் உள்ளடக்கம் என்றும் விவரித்தவற்றுக்காக ட்விட்டர்/எக்ஸ், ஃபேஸ்புக், இன்ஸ்டாகிராம், ரெடிட், டிக்டாக் மற்றும் யூடியூப் ஆகியவற்றை வருடக்கூடிய சமூக ஊடக ‘ஆய்வுக்கருவி’ (探针) என அந்தக் கருவி விவரிக்கப்பட்டது. உண்மையான சமூக ஊடகக் கண்காணிப்பை மேற்கொள்ள பயனர் எங்கள் மாடலைப் பயன்படுத்தவில்லை. இந்தக் கருவியைச் சீன அரசு அமைப்பு பயன்படுத்தியுள்ளதா என்பதை எங்களால் சுயாதீனமாகச் சரிபார்க்க முடியவில்லை.

அதேபோல், அரசு அமைப்புடன் தொடர்புடையவராக இருக்கக்கூடிய இரண்டாவது பயனரையும் தடைசெய்தோம். ‘உயர் அபாயமுள்ள உய்குர் தொடர்புடைய நபர்களின் வருகைக்கான எச்சரிக்கை மாடல்’ (高危涉维吾尔关注人员流入预警模型) என அவர் விவரித்த ஒன்றுக்கான முன்மொழிவை எழுத உதவுமாறு ChatGPT‑இடம் கேட்டிருந்தார். உய்குர் தொடர்புடையவர்கள் மற்றும் உயர் அபாயமுள்ளவர்கள் என வகைப்படுத்தப்பட்ட மக்களின் பயண நகர்வுகளை முன்கூட்டியே எச்சரிப்பதற்காகப் போக்குவரத்து முன்பதிவுகளைப் பகுப்பாய்வு செய்து காவல்துறைப் பதிவுகளுடன் ஒப்பிடும் கருவியை அந்த முன்மொழிவு விவரித்தது. அந்த வகைப்பாடு வேறெங்கும் வரையறுக்கப்படவில்லை. அத்தகைய கருவியை உருவாக்க உதவுமாறு பயனர் எங்கள் மாடலிடம் கேட்கவில்லை; பொதுவான முன்மொழிவை உருவாக்க மட்டுமே கேட்டார். எனவே, அவர் எந்தத் தொழில்நுட்பத்தைப் பயன்படுத்த எண்ணினார் அல்லது அத்தகைய கருவியைச் சீன அரசு அமைப்பு பயன்படுத்தியுள்ளதா என்பதை எங்களால் சுயாதீனமாக உறுதிப்படுத்த முடியவில்லை.

சீன அரசு அமைப்புகளுடன் தொடர்புடையவர்களாகத் தோன்றியதுடன், குறிப்பிட்ட இலக்குகளுக்கேற்ப விரிவான விவரக்குறிப்பிடலுக்கும் இணையவழி ஆராய்ச்சிக்கும் ChatGPT‑ஐப் பயன்படுத்த முயன்றதாகத் தோன்றிய பயனர்களையும் தடைசெய்தோம்.

எடுத்துக்காட்டாக, சீன அரசை விமர்சித்த ஓர் எக்ஸ் கணக்கின் நிதி ஆதாரங்களைக் கண்டறியுமாறு ஒரு பயனர் ChatGPT‑இடம் கேட்டார். மங்கோலியாவில் ஒரு மனுவை ஏற்பாடு செய்தவர்களைக் கண்டறியுமாறு இரண்டாவது பயனர் ChatGPT‑இடம் கேட்டார். இந்த இரண்டு நிகழ்வுகளிலும், எங்கள் மாடல்கள் பொதுவில் கிடைக்கும் தகவல்களை மட்டுமே வழங்கின. அவற்றில் நிதி ஆதாரங்கள் அல்லது மனு ஏற்பாட்டாளர்களின் அடையாளங்கள் போன்ற முக்கியமான விவரங்கள் இடம்பெறவில்லை.

முந்தைய பயனர்கள் இணையம் அல்லது சமூக ஊடகத் தேடல்களைப் பயன்படுத்தியிருக்கக்கூடிய விதத்தைப் போலவே, இந்தச் செயல்பாடுகளில் சில எங்கள் மாடல்களைப் பொதுவில் கிடைக்கும் தகவல்களுக்கான ஆராய்ச்சிக் கருவியாகப் பயன்படுத்தின. எடுத்துக்காட்டாக, 1989-ஆம் ஆண்டு தியானன்மென் சதுக்கப் படுகொலையின் நினைவுநாள், தலாய் லாமாவின் பிறந்தநாள் போன்ற முக்கியமான தலைப்புகள் உட்பட, சீனாவுக்குத் தொடர்புடைய அன்றாட உடனடிச் செய்திகளைக் கண்டறிந்து சுருக்குமாறு மூன்றாவது பயனர் ChatGPT‑இடம் கேட்டார்.