പിആർസിയുമായി ബന്ധപ്പെട്ട ദുരുപയോഗം: നിരീക്ഷണവും സ്വാധീന പ്രവർത്തനങ്ങളും

ഈ കേസ് പഠനം ആദ്യം OpenAIയുടെ 2025 ഒക്ടോബറിലെ⁠(പുതിയ വിൻഡോയിൽ തുറക്കുന്നു) റിപ്പോർട്ടിലാണ് പ്രസിദ്ധീകരിച്ചത്.

പിആർസി സർക്കാർ സ്ഥാപനങ്ങളുമായി ബന്ധമുള്ളതായി തോന്നുന്ന വ്യക്തികൾ വികസനം, പ്രൊഫൈലിങ്, ഭരണനിർവഹണ പ്രവർത്തനങ്ങൾ എന്നിവയിൽ സഹായത്തിനായി ChatGPT ഉപയോഗിക്കുന്നു.

മാർച്ചിൽ യുഎസ് ശാസ്ത്ര-സാങ്കേതിക നയ കാര്യാലയത്തിന്റെ എഐ പ്രവർത്തന പദ്ധതിക്ക് നൽകിയ നിർദേശത്തിൽ ഞങ്ങൾ വിശദീകരിച്ചതുപോലെ, യഥാർഥ ദോഷങ്ങളിൽനിന്ന് ആളുകളെ സംരക്ഷിക്കാൻ ലക്ഷ്യമിട്ട സാമാന്യബോധമുള്ള ചട്ടങ്ങളിലൂടെ എഐയുടെ ഉപയോഗം സാധ്യമാക്കുകയും ജനാധിപത്യ എഐ വികസിപ്പിക്കുകയും ചെയ്യുമ്പോഴാണ് പരമാവധി ആളുകൾക്ക് എഐയുടെ പ്രയോജനം ഉറപ്പാക്കാനാകുകയെന്ന് ഞങ്ങൾ വിശ്വസിക്കുന്നു. അമേരിക്ക എന്നും ഉയർത്തിപ്പിടിച്ചിട്ടുള്ള ജനാധിപത്യ തത്വങ്ങൾക്കനുസൃതമായി രൂപപ്പെടുന്ന എഐയെയാണ് ജനാധിപത്യ എഐ എന്നതുകൊണ്ട് ഞങ്ങൾ ഉദ്ദേശിക്കുന്നത്. അധികാരം കേന്ദ്രീകരിക്കാനും പൗരന്മാരെ നിയന്ത്രിക്കാനും സ്വേച്ഛാധിപത്യ ഭരണകൂടങ്ങൾ എഐ ഉപകരണങ്ങൾ ഉപയോഗിക്കുന്നത് തടയുന്നതും ഇതിൽ ഉൾപ്പെടുന്നു.

ChatGPTയുടെ ശേഷികൾ ദുരുപയോഗം ചെയ്യാനുള്ള സ്വേച്ഛാധിപത്യ ഭരണകൂടങ്ങളുടെ ശ്രമങ്ങൾ കണ്ടെത്താനും തടസ്സപ്പെടുത്താനുമുള്ള ഞങ്ങളുടെ നിക്ഷേപങ്ങൾ ഇപ്പോൾ ആളുകളെ സംരക്ഷിക്കുക മാത്രമല്ല, ഭാവിയിലെ ശേഷികൾ ആ ഭരണകൂടങ്ങൾ എങ്ങനെ ദുരുപയോഗം ചെയ്തേക്കാമെന്നതിനെക്കുറിച്ചുള്ള പ്രധാന ഉൾക്കാഴ്ചകൾ നൽകുകയും ചെയ്യുന്നു. അത്തരം ഭരണകൂടങ്ങളുമായി ബന്ധമുണ്ടാകാനിടയുള്ള വ്യക്തികളെക്കുറിച്ച് ലഭിച്ച കണ്ടെത്തലുകളിൽ, പിആർസിയെ കേന്ദ്രീകരിച്ചുള്ള ഒരു വിഭാഗമാണ് ഇവിടെ ചർച്ച ചെയ്യുന്നത്.

ജൂണിൽ ഞങ്ങൾ എഴുതിയതുപോലെ, സ്വേച്ഛാധിപത്യ സ്വഭാവമുള്ള സ്വന്തം എഐ പതിപ്പ് വികസിപ്പിക്കുന്നതിൽ പിആർസി കാര്യമായ പുരോഗതി കൈവരിക്കുന്നു. ചൈനീസ് സർക്കാർ സ്ഥാപനങ്ങളുമായി ബന്ധമുള്ളതായി തോന്നുന്ന വ്യക്തികൾ ഉപയോഗിച്ച ChatGPT അക്കൗണ്ടുകൾ ഞങ്ങൾ തടസ്സപ്പെടുത്തിയത്, ഈ സ്വേച്ഛാധിപത്യ സാഹചര്യത്തിലെ എഐ ഉപയോഗത്തിന്റെ നിലവിലെ അവസ്ഥയിലേക്ക് കുറച്ച് വെളിച്ചം വീശുന്നു. ഈ ഉപയോഗത്തിന്റെ ചില ഘടകങ്ങൾ ഓൺലൈൻ അല്ലെങ്കിൽ ഓഫ്‌ലൈൻ പ്രവർത്തനങ്ങളെ വലിയ തോതിൽ നിരീക്ഷിക്കാൻ ലക്ഷ്യമിട്ടതായി തോന്നി. ഈ മേഖലയിലെ സ്വേച്ഛാധിപത്യപരമായ ദുരുപയോഗസാധ്യതകളിൽ ഞങ്ങൾ തുടർന്നും ശ്രദ്ധ ചെലുത്തേണ്ടതിന്റെ പ്രാധാന്യം ഇത് വ്യക്തമാക്കുന്നു. ഈ ഉപയോഗത്തിന്റെ മറ്റു ചില ഘടകങ്ങൾ കൂടുതൽ ആഴത്തിലുള്ള പ്രൊഫൈലിങ് ലക്ഷ്യമിട്ടതായി തോന്നി. ഈ പ്രവർത്തനവുമായി ബന്ധപ്പെട്ട അക്കൗണ്ടുകൾ ഞങ്ങൾ നിരോധിച്ചു. ലഭിച്ച ഉൾക്കാഴ്ചകൾ ഈ റിപ്പോർട്ടിൽ പങ്കുവെക്കുന്നു.

ഞങ്ങൾ കണ്ടെത്തി നിരോധിച്ച, നയങ്ങൾ ലംഘിക്കുന്ന പ്രവർത്തനങ്ങൾക്കെതിരായ നടപടികളിൽനിന്ന് തിരഞ്ഞെടുത്ത ചില സംഭവങ്ങളെ അടിസ്ഥാനമാക്കിയുള്ളതാണ് ഈ പഠനം. ഞങ്ങളുടെ മോഡലുകൾ സ്ഥാപനതലത്തിൽ വ്യാപകമായി സ്വീകരിച്ചതിനേക്കാൾ, വ്യക്തിഗത ഉപയോക്താക്കൾ ChatGPT ഉപയോഗിക്കുന്ന രീതിയുമായാണ് ആ പ്രവർത്തനം പൊരുത്തപ്പെട്ടത്. അതിനാൽ, ഈ സാഹചര്യത്തിൽ വിവിധ എഐ മോഡലുകൾ ഉപയോഗിക്കുന്നതിനെക്കുറിച്ചുള്ള പരിമിതമായ ഒരു നേർക്കാഴ്ച മാത്രമാണിത്.

ഞങ്ങൾ നിരോധിച്ച ചില അക്കൗണ്ടുകൾ, പ്രധാനമായും പാശ്ചാത്യ അല്ലെങ്കിൽ ചൈനീസ് സാമൂഹികമാധ്യമ വേദികളിൽനിന്ന് ശേഖരിച്ച ഡാറ്റാസെറ്റുകൾ വിശകലനം ചെയ്ത് വലിയ തോതിലുള്ള നിരീക്ഷണത്തിനുള്ള ഉപകരണങ്ങൾ വികസിപ്പിക്കാൻ ChatGPT ഉപയോഗിക്കാൻ ശ്രമിച്ചതായി തോന്നി. ചൈനീസ് സുരക്ഷാ സേനയ്ക്കുവേണ്ടിയുള്ളതാണെന്ന് നടത്തിപ്പുകാർ അവകാശപ്പെട്ട, എഐ അധിഷ്ഠിത സാമൂഹികമാധ്യമ നിരീക്ഷണ ഉപകരണം രൂപകൽപ്പന ചെയ്യാൻ ലക്ഷ്യമിട്ട അത്തരമൊരു സംഭവത്തെക്കുറിച്ച് ഫെബ്രുവരിയിൽ ഞങ്ങൾ റിപ്പോർട്ട് ചെയ്തിരുന്നു. ഇത്തരം ഉപകരണങ്ങൾ രൂപകൽപ്പന ചെയ്യാനോ അവയെക്കുറിച്ചുള്ള പ്രചാരണ സാമഗ്രികൾ സൃഷ്ടിക്കാനോ ആണ് ഈ ഉപയോക്താക്കൾ സാധാരണയായി ChatGPTയുടെ സഹായം തേടിയത്; നിരീക്ഷണം നടപ്പാക്കാനല്ല.

ഉദാഹരണത്തിന്, ചൈനയിൽനിന്ന് ഞങ്ങളുടെ സേവനങ്ങൾ ഉപയോഗിക്കാൻ വിപിഎൻ ഉപയോഗിച്ചിരിക്കാനിടയുള്ള ഒരു ഉപയോക്താവിനെ ഞങ്ങൾ അടുത്തിടെ നിരോധിച്ചു. ഒരു സർക്കാർ ഉപഭോക്താവിനുവേണ്ടിയുള്ളതെന്ന് അവകാശപ്പെട്ട സാമൂഹികമാധ്യമ നിരീക്ഷണ ഉപകരണത്തിന്റെ പ്രചാരണ സാമഗ്രികളും പദ്ധതി രേഖകളും തയ്യാറാക്കാൻ ആ ഉപയോക്താവ് ChatGPTയുടെ സഹായം തേടിയിരുന്നു. ഉപയോക്താവ് തീവ്രവാദ പ്രസംഗമെന്നും വംശീയവും മതപരവും രാഷ്ട്രീയവുമായ ഉള്ളടക്കമെന്നും വിശേഷിപ്പിച്ച കാര്യങ്ങൾ കണ്ടെത്താൻ ട്വിറ്റർ/എക്സ്, ഫേസ്ബുക്ക്, ഇൻസ്റ്റഗ്രാം, റെഡിറ്റ്, ടിക്‌ടോക്ക്, യൂട്യൂബ് എന്നിവ പരിശോധിക്കാൻ കഴിയുമെന്ന് അവകാശപ്പെട്ട ഒരു സാമൂഹികമാധ്യമ ‘പരിശോധിനി’യായാണ് (探针) ഈ ഉപകരണത്തെ വിവരിച്ചത്. യഥാർഥ സാമൂഹികമാധ്യമ നിരീക്ഷണം നടത്താൻ ആ ഉപയോക്താവ് ഞങ്ങളുടെ മോഡൽ ഉപയോഗിച്ചില്ല. ഈ ഉപകരണം ഏതെങ്കിലും ചൈനീസ് സർക്കാർ സ്ഥാപനം ഉപയോഗിച്ചിട്ടുണ്ടോ എന്ന് സ്വതന്ത്രമായി സ്ഥിരീകരിക്കാൻ ഞങ്ങൾക്ക് കഴിഞ്ഞിട്ടില്ല.

അതുപോലെ, ഒരു സർക്കാർ സ്ഥാപനവുമായി ബന്ധമുണ്ടാകാനിടയുള്ള മറ്റൊരു ഉപയോക്താവിനെയും ഞങ്ങൾ നിരോധിച്ചു. ‘ഉയർന്ന അപകടസാധ്യതയുള്ള ഉയ്ഘൂർ-ബന്ധിത വ്യക്തികളുടെ വരവ് മുൻകൂട്ടി അറിയിക്കുന്ന മോഡൽ’ (高危涉维吾尔关注人员流入预警模型) എന്ന് അവർ വിശേഷിപ്പിച്ച സംവിധാനത്തിനുള്ള നിർദേശം തയ്യാറാക്കാൻ ആ ഉപയോക്താവ് ChatGPTയുടെ സഹായം തേടിയിരുന്നു. യാത്രാ ബുക്കിങ്ങുകൾ വിശകലനം ചെയ്ത് പൊലീസ് രേഖകളുമായി താരതമ്യം ചെയ്യുകയും അതുവഴി ഉയ്ഘൂർ-ബന്ധിതരും ഉയർന്ന അപകടസാധ്യതയുള്ളവരുമായി തരംതിരിച്ച ആളുകളുടെ യാത്രാനീക്കങ്ങളെക്കുറിച്ച് മുൻകൂർ മുന്നറിയിപ്പ് നൽകുകയും ചെയ്യുന്ന ഒരു ഉപകരണമാണ് നിർദേശത്തിൽ വിവരിച്ചത്. എന്നാൽ ഈ വിഭാഗത്തിന് മറ്റൊരു നിർവചനവും നൽകിയിരുന്നില്ല. അത്തരമൊരു ഉപകരണം നിർമിക്കാൻ സഹായിക്കണമെന്ന് ഉപയോക്താവ് ഞങ്ങളുടെ മോഡലിനോട് ആവശ്യപ്പെട്ടില്ല; പൊതുവായ ഒരു നിർദേശം തയ്യാറാക്കാൻ മാത്രമാണ് ആവശ്യപ്പെട്ടത്. അതിനാൽ, അവർ ഏത് സാങ്കേതികവിദ്യയാണ് ഉപയോഗിക്കാൻ ഉദ്ദേശിച്ചതെന്നോ അത്തരമൊരു ഉപകരണം ഏതെങ്കിലും ചൈനീസ് സർക്കാർ സ്ഥാപനം ഉപയോഗിച്ചിട്ടുണ്ടോയെന്നോ സ്വതന്ത്രമായി സ്ഥിരീകരിക്കാൻ ഞങ്ങൾക്ക് കഴിയില്ല.

ചൈനീസ് സർക്കാർ സ്ഥാപനങ്ങളുമായി ബന്ധമുള്ളതായി തോന്നിയതും, പ്രത്യേക വ്യക്തികളെ ലക്ഷ്യമിട്ട കൂടുതൽ ഇഷ്ടാനുസൃത പ്രൊഫൈലിങ്ങിനും ഓൺലൈൻ ഗവേഷണത്തിനുമായി ChatGPT ഉപയോഗിക്കാൻ ശ്രമിച്ചതായി തോന്നിയതുമായ ഉപയോക്താക്കളെയും ഞങ്ങൾ നിരോധിച്ചു.

ഉദാഹരണത്തിന്, ചൈനീസ് സർക്കാരിനെ വിമർശിച്ച ഒരു എക്സ് അക്കൗണ്ടിന്റെ ധനസഹായ സ്രോതസ്സുകൾ കണ്ടെത്താൻ ഒരു ഉപയോക്താവ് ChatGPTയോട് ആവശ്യപ്പെട്ടു. മംഗോളിയയിലെ ഒരു നിവേദനത്തിന്റെ സംഘാടകരെ കണ്ടെത്താൻ രണ്ടാമത്തെ ഉപയോക്താവ് ChatGPTയോട് ആവശ്യപ്പെട്ടു. ഈ രണ്ട് സംഭവങ്ങളിലും ഞങ്ങളുടെ മോഡലുകൾ പൊതുവായി ലഭ്യമായ വിവരങ്ങൾ മാത്രമാണ് നൽകിയത്. ധനസഹായ സ്രോതസ്സുകളോ നിവേദനത്തിന്റെ സംഘാടകരുടെ വ്യക്തിത്വമോ പോലുള്ള സൂക്ഷ്മ വിവരങ്ങൾ അതിൽ ഉണ്ടായിരുന്നില്ല.

മുൻകാല ഉപയോക്താക്കൾ ഇന്റർനെറ്റിലോ സാമൂഹികമാധ്യമങ്ങളിലോ തിരഞ്ഞിരുന്നതിന് സമാനമായി, ഈ പ്രവർത്തനങ്ങളിൽ ചിലത് ഞങ്ങളുടെ മോഡലുകളെ തുറന്ന ഉറവിട ഗവേഷണ ഉപകരണമായി ഉപയോഗിച്ചു. ഉദാഹരണത്തിന്, 1989-ലെ ടിയാനൻമെൻ ചത്വര കൂട്ടക്കൊലയുടെ വാർഷികം, ദലൈലാമയുടെ ജന്മദിനം തുടങ്ങിയ സൂക്ഷ്മ വിഷയങ്ങൾ ഉൾപ്പെടെ ചൈനയ്ക്ക് പ്രസക്തമായ ഓരോ ദിവസത്തെയും ഏറ്റവും പുതിയ വാർത്തകൾ കണ്ടെത്തി സംഗ്രഹിക്കാൻ മൂന്നാമത്തെ ഉപയോക്താവ് ChatGPTയോട് ആവശ്യപ്പെട്ടു.