പ്രധാന ഉള്ളടക്കത്തിലേക്ക് നീങ്ങുക
OpenAI

2025 ജൂൺ 1

സുരക്ഷ

‘വേഗ് ഫോക്കസ്’ ദൗത്യം: കബളിപ്പിച്ചുള്ള വിവരശേഖരണവും സ്വാധീനപ്രവർത്തനങ്ങളും

ആളുകളെ കബളിപ്പിക്കാനും നിരീക്ഷണഗവേഷണത്തിനും വിമർശകരെ ലക്ഷ്യമിട്ടുള്ള സ്വാധീനപ്രവർത്തനങ്ങൾക്കും നിർമ്മിതബുദ്ധി ഉപയോഗിച്ച അക്കൗണ്ടുകൾ OpenAI നിരോധിച്ചു.

ലോഡിംഗ്…

ഈ സംഭവപഠനം ആദ്യം പ്രസിദ്ധീകരിച്ചത് OpenAI-യുടെ 2025 ജൂൺ⁠(പുതിയ വിൻഡോയിൽ തുറക്കുന്നു) റിപ്പോർട്ടിലാണ്.

പ്രവർത്തകർ

ChatGPT അക്കൗണ്ടുകളുടെ ഒരു ചെറിയ ശൃംഖല ഞങ്ങൾ നിരോധിച്ചു. സമൂഹമാധ്യമ പോസ്റ്റുകൾ തയ്യാറാക്കാനും വിവരസമാഹാരങ്ങൾ വിശകലനം ചെയ്യാനും ആളുകളെ കബളിപ്പിച്ച് വിവരങ്ങൾ നേടാനുള്ള ശ്രമങ്ങളെന്ന് തോന്നിക്കുന്ന ഇമെയിലുകളും സന്ദേശങ്ങളും ചൈനീസിൽനിന്ന് ഇംഗ്ലീഷിലേക്ക് വിവർത്തനം ചെയ്യാനും ഇവ ഞങ്ങളുടെ മോഡലുകൾ ഉപയോഗിച്ചിരുന്നു. ഈ അക്കൗണ്ടുകൾ ഞങ്ങളുടെ മോഡലുകൾക്ക് ചൈനീസിലാണ് നിർദേശങ്ങൾ നൽകിയിരുന്നത്. പ്രധാനമായും ചൈനയുടെ വൻകരാഭാഗത്തെ പ്രവൃത്തിസമയങ്ങളിലാണ് അവ സജീവമായിരുന്നത്.

ഭൗമരാഷ്ട്രീയ വിഷയങ്ങളിൽ ശ്രദ്ധ കേന്ദ്രീകരിക്കുന്ന മൂന്ന് സ്ഥാപനങ്ങളിലെ ജീവനക്കാരിൽനിന്നുള്ളതാണെന്ന് അവകാശപ്പെടുന്ന സന്ദേശങ്ങൾ ഇവ സൃഷ്ടിച്ചു: ‘ഫോക്കസ് ലെൻസ് ന്യൂസ്’, ‘ബ്രൈറ്റ്‌വേവ് മീഡിയ യൂറോപ്പ്’, ‘വിഷനറി അഡ്വൈസറി ഗ്രൂപ്പ്’ (വി.എ.ജി.). കൂടാതെ, ഈ മൂന്ന് സ്ഥാപനങ്ങളുമായി ബന്ധപ്പെട്ട X അക്കൗണ്ടുകളിലെ പോസ്റ്റുകളോടും സ്വയംപരിചയക്കുറിപ്പുകളോടും പൊരുത്തപ്പെടുന്ന ഉള്ളടക്കവും ഈ ChatGPT അക്കൗണ്ടുകൾ തയ്യാറാക്കി. രഹസ്യവിവരശേഖരണത്തിനും വിശകലനത്തിനും മറയായി പ്രവർത്തിക്കുന്ന സ്ഥാപനങ്ങളാണ് ഇവയെന്ന് ദുഷ്പ്രവർത്തകർ മറ്റിടങ്ങളിൽ വിവരിച്ചിരുന്നു. ഈ പേരുകളെ അടിസ്ഥാനമാക്കി, ഈ പ്രവർത്തനത്തിന് ഞങ്ങൾ ‘വേഗ് ഫോക്കസ്’ എന്ന് പേരിട്ടു.

പ്രവർത്തനരീതി

നാല് പ്രധാന പ്രവർത്തനധാരകൾക്ക് പിന്തുണ നൽകാനാണ് ഇവർ ChatGPT ഉപയോഗിച്ചത്. ഒന്നാമതായി, രഹസ്യമായി സ്വാധീനം ചെലുത്താനുള്ള ഒരു പ്രവർത്തനത്തിന്റെ ഭാഗമെന്ന് തോന്നിക്കുന്ന ഓൺലൈൻ വ്യക്തിത്വങ്ങൾക്കായി സമൂഹമാധ്യമ പോസ്റ്റുകളും സ്വയംപരിചയക്കുറിപ്പുകളും തയ്യാറാക്കാനാണ് ഈ അക്കൗണ്ടുകൾ പ്രധാനമായും ഞങ്ങളുടെ മോഡലുകൾ ഉപയോഗിച്ചത്. മാധ്യമപ്രവർത്തകരും ഭൗമരാഷ്ട്രീയ വിശകലനവിദഗ്ധരുമെന്ന വ്യാജേന പ്രവർത്തിച്ച X അക്കൗണ്ടുകളാണ് ഈ പോസ്റ്റുകൾ പ്രചരിപ്പിച്ചത്.

ഈ ദുഷ്പ്രവർത്തകർ ChatGPT ഉപയോഗിച്ച് തയ്യാറാക്കിയ ട്വീറ്റ്. ഇവരുടെ ഉള്ളടക്കം പതിവായി പ്രസിദ്ധീകരിച്ചിരുന്ന ഒരു X അക്കൗണ്ടിലാണ് ഇത് പോസ്റ്റ് ചെയ്തത്.

ഈ ദുഷ്പ്രവർത്തകർ ChatGPT ഉപയോഗിച്ച് തയ്യാറാക്കിയ ട്വീറ്റ്. ഇവരുടെ ഉള്ളടക്കം പതിവായി പ്രസിദ്ധീകരിച്ചിരുന്ന ഒരു X അക്കൗണ്ടിലാണ് ഇത് പോസ്റ്റ് ചെയ്തത്.

രണ്ടാമതായി, ഒരു ഭരണകൂട ഉദ്യോഗസ്ഥന്റെ നിയമനത്തിനുള്ള നാമനിർദേശത്തെക്കുറിച്ച് ഒരു യു.എസ്. സെനറ്ററെ അഭിസംബോധന ചെയ്യുന്ന കത്തിടപാടുകൾ ഈ അക്കൗണ്ടുകൾ മെച്ചപ്പെടുത്തുകയും വിവർത്തനം ചെയ്യുകയും ചെയ്തു. ഈ കത്തിടപാടുകളിൽ ഏതെങ്കിലും അയച്ചിട്ടുണ്ടോ എന്ന് സ്വതന്ത്രമായി സ്ഥിരീകരിക്കാൻ ഞങ്ങൾക്ക് കഴിഞ്ഞിട്ടില്ല.

മൂന്നാമതായി, കമ്പ്യൂട്ടർ ശൃംഖലകളെ ആക്രമിക്കാനും അവയിലെ ദൗർബല്യങ്ങൾ ചൂഷണം ചെയ്യാനും ഉപയോഗിക്കുന്ന ഉപകരണങ്ങളെക്കുറിച്ച് ഈ അക്കൗണ്ടുകൾ നിരവധി അടിസ്ഥാന ചോദ്യങ്ങൾ ചോദിച്ചു. അവയുടെ ഉപയോഗത്തെയും ശേഷികളെയും കുറിച്ചുള്ള പൊതുവായ വിശദീകരണങ്ങൾ മാത്രമാണ് ഞങ്ങളുടെ മോഡലുകൾ നൽകിയത്. ഈ റിപ്പോർട്ടിൽ പിന്നീട് വിവരിക്കുന്ന സൈബർ ദുഷ്പ്രവർത്തകരുടെ ചോദ്യങ്ങളിലെ സാങ്കേതിക ആഴം ഇവയ്ക്കുണ്ടായിരുന്നില്ല. കുറഞ്ഞ വൈദഗ്ധ്യമാണ് ഇവ സൂചിപ്പിക്കുന്നത്.

അവസാനമായി, അജ്ഞാതരായ വ്യക്തികളുമായി സംഭാഷണം ആരംഭിച്ച് ഒടുവിൽ അവരിൽനിന്ന് വിവരങ്ങൾ നേടിയെടുക്കാൻ ഉദ്ദേശിച്ചുള്ളതെന്ന് തോന്നിക്കുന്ന സന്ദേശങ്ങൾ ചൈനീസിൽനിന്ന് ഇംഗ്ലീഷിലേക്ക് വിവർത്തനം ചെയ്യാൻ ഈ ഉപയോക്താക്കൾ പതിവായി ആവശ്യപ്പെട്ടു. ഈ സന്ദേശങ്ങളിൽ ചിലത് മാധ്യമപ്രവർത്തകർക്കും ഗവേഷകർക്കുമുള്ള മറുപടികളായി സമൂഹമാധ്യമങ്ങളിൽ പോസ്റ്റ് ചെയ്തിരുന്നു. മറ്റുള്ളവ സ്വകാര്യ സന്ദേശങ്ങൾ പോലെയായിരുന്നു; ഓൺലൈൻ തിരച്ചിലുകളിൽ അവ കണ്ടെത്താനായില്ല.

ഈ പ്രവർത്തനവുമായി ബന്ധപ്പെട്ട ഒരു X അക്കൗണ്ട്, മുൻപരിചയമില്ലാത്ത ഒരു ഗവേഷകന് X-ൽ പരസ്യമായി സന്ദേശമയച്ച് ബന്ധം സ്ഥാപിക്കാൻ ശ്രമിക്കുന്നു.

ഈ പ്രവർത്തനവുമായി ബന്ധപ്പെട്ട ഒരു X അക്കൗണ്ട്, മുൻപരിചയമില്ലാത്ത ഒരു ഗവേഷകന് X-ൽ പരസ്യമായി സന്ദേശമയച്ച് ബന്ധം സ്ഥാപിക്കാൻ ശ്രമിക്കുന്നു.

സൃഷ്ടിച്ച ഉള്ളടക്കം

യൂറോപ്പിലോ തുർക്കിയിലോ പ്രവർത്തിക്കുന്ന വിദഗ്ധരെന്ന വ്യാജേന രഹസ്യവിവരങ്ങൾ ശേഖരിക്കുകയായിരുന്നു ഈ ശൃംഖലയുടെ പ്രധാന ലക്ഷ്യമെന്ന് തോന്നുന്നു. തയ്യാറാക്കി ഓൺലൈനിൽ പ്രസിദ്ധീകരിച്ച ഉള്ളടക്കത്തിൽ, വിശകലനത്തിലും വാർത്താ റിപ്പോർട്ടിങ്ങിലും വൈദഗ്ധ്യമുള്ള, യൂറോപ്പ് ആസ്ഥാനമായ സ്വതന്ത്ര സ്ഥാപനമായാണ് പ്രവർത്തകർ ‘ഫോക്കസ് ലെൻസ് ന്യൂസിനെ’ വിശേഷിപ്പിച്ചത്. എന്നാൽ രഹസ്യവിവരങ്ങൾ ശേഖരിക്കാനും വിശകലനം ചെയ്യാനും കൈമാറാനും സഹായിക്കുന്ന ഒരു മറയായാണ് ഈ സ്ഥാപനപരിവേഷം യഥാർഥത്തിൽ ഉപയോഗിച്ചിരുന്നതെന്നും പ്രവർത്തകർ അവകാശപ്പെട്ടു.

സമൂഹമാധ്യമങ്ങളിലെ സ്വയംപരിചയക്കുറിപ്പുകളിൽ നൽകിയിട്ടുള്ള വെബ്സൈറ്റ് പ്രകാരം, വിഷനറി അഡ്വൈസറി ഗ്രൂപ്പ് തുർക്കിയിലാണ് സ്ഥിതിചെയ്യുന്നത്. ഭൗമരാഷ്ട്രീയ വിഷയങ്ങളിൽ വിദഗ്ധ ഉപദേശസേവനങ്ങൾ നൽകുന്നതിലാണ് സ്ഥാപനം വൈദഗ്ധ്യം അവകാശപ്പെടുന്നത്. യു.എസിന്റെ സാമ്പത്തിക, ധനകാര്യ നയങ്ങളെക്കുറിച്ചുള്ള വിവരങ്ങൾ വി.എ.ജി. ഗ്രൂപ്പ് തേടുകയാണെന്നും ഒരു അഭിമുഖത്തിന് മണിക്കൂറിന് $2,000 നൽകാൻ തയ്യാറാണെന്നും അവകാശപ്പെടുന്ന നിർദേശങ്ങൾ ചൈനീസിൽനിന്ന് ഇംഗ്ലീഷിലേക്ക് വിവർത്തനം ചെയ്യാൻ പ്രവർത്തകർ ഞങ്ങളുടെ മോഡലുകൾ ഉപയോഗിച്ചു. രഹസ്യമായി വർഗീകരിച്ച രേഖകൾക്ക് പണം നൽകാമെന്ന വാഗ്ദാനങ്ങളും അവർ വിവർത്തനം ചെയ്തു.

വി.എ.ജി. ഗ്രൂപ്പിന്റെ വെബ്സൈറ്റിന് തുർക്കിഷ്, ഇംഗ്ലീഷ് പതിപ്പുകളുണ്ട്. ഇംഗ്ലീഷ് പതിപ്പിലെ ‘ഞങ്ങളെ ബന്ധപ്പെടുക’ എന്ന പേജിന്റെ മെനുവിൽ ‘ഞങ്ങളെ ബന്ധപ്പെടുക’ എന്നതിന്റെ ചൈനീസ് അക്ഷരങ്ങൾ (聯絡) കാണാം. ആ ഡൊമെയ്‌നിലുടനീളം ഉണ്ടായിരുന്ന ഒരേയൊരു ചൈനീസ് വാചകം ഇതായിരുന്നു.

വി.എ.ജി. ഗ്രൂപ്പിന്റെ ‘ഞങ്ങളെ ബന്ധപ്പെടുക’ എന്ന പേജിന്റെ സ്ക്രീൻഷോട്ട്. താഴേക്ക് തുറക്കുന്ന മെനുവിൽ ‘ഞങ്ങളെ ബന്ധപ്പെടുക’ എന്നതിന്റെ ചൈനീസ് അക്ഷരങ്ങൾ (聯絡) കാണാം.

വി.എ.ജി. ഗ്രൂപ്പിന്റെ ‘ഞങ്ങളെ ബന്ധപ്പെടുക’ എന്ന പേജിന്റെ സ്ക്രീൻഷോട്ട്. താഴേക്ക് തുറക്കുന്ന മെനുവിൽ ‘ഞങ്ങളെ ബന്ധപ്പെടുക’ എന്നതിന്റെ ചൈനീസ് അക്ഷരങ്ങൾ (聯絡) കാണാം.

ഈ ശൃംഖലയുടെ ചില ഉള്ളടക്കങ്ങൾ കൂടുതൽ വിപുലമായ സ്വാധീനപ്രവർത്തനങ്ങളെ വിപണനം ചെയ്യാനുള്ള സാമഗ്രികൾ പോലെയായിരുന്നു. സമൂഹമാധ്യമങ്ങളിൽ സ്വാധീനമുള്ള വ്യക്തികളെയും വിഷയങ്ങളെയും തിരിച്ചറിയാൻ യന്ത്രപഠനം, സ്വാഭാവിക ഭാഷാസംസ്കരണം, സ്വയമേവയുള്ള വെബ് വിവരശേഖരണം എന്നിവ ഉപയോഗിച്ചെന്നാണ് ഇവരുടെ അവകാശവാദം. ഇത് സ്വതന്ത്രമായി സ്ഥിരീകരിക്കാൻ ഞങ്ങൾക്ക് കഴിഞ്ഞിട്ടില്ല.

പ്രഭാവം

ഈ പ്രവർത്തനവുമായി ബന്ധപ്പെട്ട സമൂഹമാധ്യമ അക്കൗണ്ടുകൾക്ക് ഓൺലൈനിൽ യഥാർഥ ഉപയോക്താക്കളിൽനിന്ന് കാര്യമായ പ്രതികരണം ലഭിച്ചില്ല. ഫോക്കസ് ലെൻസ് ന്യൂസിന്റെ X അക്കൗണ്ടിന് മാത്രമാണ് ഗണ്യമായ അനുയായിസംഖ്യ ഉണ്ടായിരുന്നത്: 17,000. എന്നാൽ ഈ അക്കൗണ്ട് 2014 നവംബറിൽ മറ്റൊരു പേരിൽ സൃഷ്ടിച്ചതാണ്. മൂന്ന് ദിവസം ട്വീറ്റുകൾ പോസ്റ്റ് ചെയ്തശേഷം 2024 മധ്യംവരെ അത് നിശ്ശബ്ദമായിരുന്നു. അനധികൃതമായി കൈക്കലാക്കി മറ്റാവശ്യങ്ങൾക്കായി ഉപയോഗിക്കുന്ന അക്കൗണ്ടുകളിൽ സാധാരണയായി കാണുന്ന രീതിയാണിത്. അതിനാൽ ഈ അക്കൗണ്ടിന്റെ അനുയായിസംഖ്യയെ കരുതലോടെ വേണം കാണാൻ.

സ്വാധീനപ്രവർത്തനങ്ങളുടെ പ്രഭാവം അളക്കുന്ന വ്യാപനതോത് അളവുകോൽ⁠(പുതിയ വിൻഡോയിൽ തുറക്കുന്നു) പ്രകാരം, ഈ പ്രവർത്തനത്തിന്റെ പൊതുജനങ്ങൾക്ക് ദൃശ്യമായ ഭാഗത്തെ ഞങ്ങൾ വിഭാഗം 2-ന്റെ താഴ്ന്ന നിരയിലാണ് വിലയിരുത്തുന്നത്: ഒന്നിലധികം വേദികളിൽ പ്രവർത്തനമുണ്ടെങ്കിലും യഥാർഥ ആളുകൾ ഇവരുടെ ഉള്ളടക്കം ഏറ്റെടുക്കുകയോ വ്യാപകമായി പങ്കിടുകയോ ചെയ്തതിന് തെളിവുകൾ വളരെ കുറവാണ്. ആളുകളെ കബളിപ്പിച്ച് വിവരങ്ങൾ നേടാനുള്ള ശ്രമങ്ങളുടെയും മറ്റ് രഹസ്യപ്രവർത്തനങ്ങളുടെയും പ്രഭാവം വിലയിരുത്താൻ മതിയായ തെളിവുകൾ ലഭ്യമല്ല.