ഓപ്പറേഷൻ “A2Z”: ബഹുഭാഷാ സ്വാധീന പ്രവർത്തനം

ഈ കേസ് പഠനം ആദ്യം പ്രസിദ്ധീകരിച്ചത് OpenAI-യുടെ 2024 ഒക്ടോബറിലെ⁠(പുതിയ വിൻഡോയിൽ തുറക്കുന്നു) റിപ്പോർട്ടിലാണ്.

ഞങ്ങളുടെ API ഉപയോഗിച്ച് കമന്റുകൾ സൃഷ്ടിക്കുകയും പിന്നീട് അവ X-ലും Facebook-ലും പോസ്റ്റ് ചെയ്യുകയും ചെയ്ത, മുമ്പ് റിപ്പോർട്ട് ചെയ്യപ്പെട്ടിട്ടില്ലാത്ത ഒരു കൂട്ടം അക്കൗണ്ടുകൾ ഞങ്ങൾ നിരോധിച്ചു. ഈ കമന്റുകളിൽ പലതും അസർബൈജാനെ പ്രശംസിക്കുകയോ അവിടത്തെ മനുഷ്യാവകാശ സ്ഥിതിയെ ന്യായീകരിക്കുകയോ ചെയ്തു. എന്നാൽ മറ്റു പല വിഷയങ്ങളിലും അവ ശ്രദ്ധ കേന്ദ്രീകരിച്ചതിനാൽ ഇത് വാണിജ്യാടിസ്ഥാനത്തിൽ നടത്തിയ ഓപ്പറേഷനായിരിക്കാമെന്ന് സൂചിപ്പിക്കുന്നു. അസർബൈജാനെ പതിവായി പ്രശംസിച്ചതും ഓപ്പറേഷന്റെ പല ഘട്ടങ്ങളിലും നിർമിതബുദ്ധി ഉപയോഗിക്കാൻ ശ്രമിച്ചതും കണക്കിലെടുത്ത്, ഈ ശൃംഖലയ്ക്ക് ഞങ്ങൾ “A2Z” എന്ന് പേരിട്ടു.

മേയിൽ ഞങ്ങൾ വെളിപ്പെടുത്തുകയും “മോശം വ്യാകരണം” എന്ന് പേരിടുകയും ചെയ്ത റഷ്യൻ ഭാഷയിലുള്ള Telegram ഓപ്പറേഷൻപോലെ, സമൂഹമാധ്യമങ്ങളിൽ കമന്റിടാൻ ഈ ഓപ്പറേഷനും ഞങ്ങളുടെ മോഡലുകൾ ഉപയോഗിച്ചു. വ്യാജ സമൂഹമാധ്യമ വ്യക്തിത്വങ്ങൾ കൈകാര്യം ചെയ്യാനും ജീവചരിത്രക്കുറിപ്പുകൾ സൃഷ്ടിക്കാനും പോസ്റ്റുകളും കമന്റുകളും വിശകലനം ചെയ്യാനും പല ഭാഷകളിൽ മറുപടികൾ തയ്യാറാക്കി പിശകുതിരുത്താനും ഇത് നിർമിതബുദ്ധി പ്രയോജനപ്പെടുത്തി. തുടർന്ന് മറുപടികൾ X-ലോ Facebook-ലോ പോസ്റ്റ് ചെയ്തു. ഉള്ളടക്കത്തിന്റെ ഭൂരിഭാഗവും ചെറിയ കമന്റുകളായിരുന്നെങ്കിലും, പ്രത്യേക ശൈലിയിലുള്ള ചിത്രങ്ങളും അതിലുണ്ടായിരുന്നു. ഇവ പലപ്പോഴും 1930-കളിലെ പോസ്റ്ററുകളുടെ ശൈലി ഉപയോഗിച്ചു. അതിനാൽ ആളുകളെ വഞ്ചിക്കുന്നതിനേക്കാൾ ശ്രദ്ധയും പ്രതികരണവും നേടാനാണ് അവ രൂപകൽപ്പന ചെയ്തതെന്ന് തോന്നുന്നു. എന്നിരുന്നാലും, ഇത്തരം ചിത്രങ്ങളുള്ള സാധാരണ പോസ്റ്റുകൾക്ക് ഓരോന്നിനും 0–5 പ്രതികരണങ്ങൾ മാത്രമാണ് ലഭിച്ചത്.

നിർമിതബുദ്ധിയുടെ ഉപയോഗം ഒരേസമയം നിരവധി സമൂഹമാധ്യമ അക്കൗണ്ടുകൾ കൈകാര്യം ചെയ്യാൻ ഓപ്പറേഷനെ സഹായിച്ചു. ഈ പ്രവർത്തനവുമായി പൊരുത്തപ്പെടുന്ന ഏകദേശം 150 അക്കൗണ്ടുകൾ X-ലും Facebook-ലുമായി ഞങ്ങൾ കണ്ടെത്തി; സംശയിക്കുന്ന അക്കൗണ്ടുകൾ ഇനിയുമുണ്ട്. ഇന്റർനെറ്റിലെ യഥാർഥ ആളുകളുമായി കമന്റ് ത്രെഡുകളിൽ ഇടപഴകാനും ഇത് ചിലപ്പോൾ ഓപ്പറേഷനെ സഹായിച്ചു. യഥാർഥ ആളുകളും വ്യാജ അക്കൗണ്ടുകളും തമ്മിലുള്ള ചെറിയ സംഭാഷണങ്ങൾ ഇടയ്ക്കിടെ ഞങ്ങൾ കണ്ടു. വ്യാജ അക്കൗണ്ടുകളുടെ മറുപടികൾ ഞങ്ങളുടെ മോഡലുകൾ ഉപയോഗിച്ചാണ് സൃഷ്ടിച്ചത്.

നിർമിതബുദ്ധിക്ക് മുമ്പ് ഇത്രയും വ്യാപ്തിയുള്ള ഒരു ഓപ്പറേഷന് വലിയൊരു ട്രോൾ സംഘം ആവശ്യമായിരുന്നേക്കും; അതുമായി ബന്ധപ്പെട്ട എല്ലാ ചെലവുകളും വിവരച്ചോർച്ചാ അപകടസാധ്യതകളും ഇതിലുണ്ടാകുമായിരുന്നു. എന്നാൽ നിർമിതബുദ്ധിയിലുള്ള ആശ്രയം ഈ ഓപ്പറേഷനെ ഞങ്ങളുടെ തടസ്സപ്പെടുത്തലിന് അസാധാരണമായി ദുർബലമാക്കി. ആക്രമണ ശൃംഖലയിലെ നിരവധി കണ്ണികളിൽ നിർമിതബുദ്ധി ഉപയോഗിച്ചതിനാൽ, ഞങ്ങളുടെ നടപടിയിലൂടെ ശൃംഖലയിലെ പല കണ്ണികളും ഒരേസമയം തകർന്നു. ജൂൺ ആദ്യം ഞങ്ങൾ ഈ പ്രവർത്തനം തടസ്സപ്പെടുത്തിയതിനു ശേഷം, ഓപ്പറേഷന്റെ ഭാഗമെന്ന് തിരിച്ചറിഞ്ഞ സമൂഹമാധ്യമ അക്കൗണ്ടുകൾ യൂറോപ്യൻ യൂണിയൻ, യുണൈറ്റഡ് കിംഗ്ഡം, ഫ്രാൻസ് എന്നിവിടങ്ങളിലെ തിരഞ്ഞെടുപ്പ് കാലയളവുകളിലുടനീളം പോസ്റ്റിടുന്നത് നിർത്തി. ചില അക്കൗണ്ടുകൾ ഓഗസ്റ്റ് അവസാനത്തോടെ വീണ്ടും പോസ്റ്റിടാൻ തുടങ്ങി. അവരുടെ ഏതാനും പോസ്റ്റുകളിൽ നിർമിതബുദ്ധി സൃഷ്ടിച്ചതായിരിക്കാമെന്ന സൂചനകളുണ്ടായിരുന്നു. അത്തരം സൂചനകളുള്ള ഉള്ളടക്കം ഞങ്ങളുടെ മോഡലുകളിൽനിന്ന് വന്നതല്ല.

വിവിധ രാഷ്ട്രീയ വിഷയങ്ങളിൽ ശ്രദ്ധ കേന്ദ്രീകരിച്ച ചെറിയ കമന്റുകൾ ഈ പ്രചാരണം സൃഷ്ടിച്ചു. അസർബൈജാൻ സർക്കാരിനെയും ആഭ്യന്തര, പ്രാദേശിക, അന്താരാഷ്ട്ര രാഷ്ട്രീയത്തിലെ അതിന്റെ പങ്കിനെയും പ്രശംസിക്കുന്നതായിരുന്നു ഏറ്റവും പ്രധാനപ്പെട്ട വിഷയം. ഉദാഹരണത്തിന്, മധ്യേഷ്യൻ രാജ്യങ്ങൾക്കിടയിലെ ഐക്യം പ്രോത്സാഹിപ്പിക്കുന്നതും ഐക്യരാഷ്ട്രസഭയുടെ കാലാവസ്ഥാ വ്യതിയാന സമ്മേളനത്തിന് ആതിഥേയത്വം വഹിക്കുന്നതും. യൂറോപ്പിലേക്കുള്ള ഊർജ വിതരണക്കാരനെന്ന നിലയിൽ അസർബൈജാന്റെ പങ്കിനെ ഇംഗ്ലീഷ്, ഇറ്റാലിയൻ അക്കൗണ്ടുകൾ പ്രശംസിച്ചു. അസർബൈജാൻ സർക്കാരിന്റെ മനുഷ്യാവകാശ സ്ഥിതിയെക്കുറിച്ചുള്ള വിമർശനങ്ങൾക്കുള്ള മറുപടിയായും ചിലപ്പോൾ ഇതുണ്ടായി.

മറ്റു പ്രവർത്തനധാരകൾ നിർമിതബുദ്ധിയുടെ നേട്ടങ്ങളും പരിണാമവും, ധനവിപണികൾ, പരിസ്ഥിതി പ്രശ്നങ്ങൾ, ക്രിപ്റ്റോകറൻസികൾ, സാങ്കേതികവിദ്യ എന്നിവയിൽ ശ്രദ്ധ കേന്ദ്രീകരിച്ചു. ഒരു കൂട്ടം യുണൈറ്റഡ് അറബ് എമിറേറ്റ്സിനെ സ്ഥിരതയുള്ള നിക്ഷേപകേന്ദ്രമായി അവതരിപ്പിക്കുകയും അമേരിക്കയിലെ രാഷ്ട്രീയ അസ്ഥിരതയെക്കുറിച്ചുള്ള അവകാശവാദങ്ങളുമായി പലപ്പോഴും അതിനെ താരതമ്യം ചെയ്യുകയും ചെയ്തു.

ചില വ്യാജ വ്യക്തിത്വങ്ങൾ യൂറോപ്പിലെയോ അമേരിക്കയിലെയോ രാഷ്ട്രീയത്തിൽ ശ്രദ്ധ കേന്ദ്രീകരിച്ചു. ഈ പ്രവർത്തനത്തിന്റെ പ്രത്യയശാസ്ത്രം ഓരോ പ്രദേശത്തും വ്യത്യസ്തമായിരുന്നു. ഉദാഹരണത്തിന്, അമേരിക്കയിൽ ശ്രദ്ധ കേന്ദ്രീകരിച്ച ഒരു X അക്കൗണ്ട് ഉദാരവാദിയായി നടിച്ച് മുൻ യുഎസ് പ്രസിഡന്റ് ട്രംപിനെ വിമർശിച്ചു. അതേസമയം, ഫ്രഞ്ചിൽ പോസ്റ്റ് ചെയ്ത ചില Facebook അക്കൗണ്ടുകൾ പ്രസിഡന്റ് മാക്രോണിനെ വിമർശിക്കുകയും നാഷണൽ റാലി (RN) പാർട്ടിയെ പിന്തുണയ്ക്കുകയും ചെയ്തു. റഷ്യയുടെ യുക്രെയ്ൻ അധിനിവേശം ഉൾപ്പെടെയുള്ള അന്താരാഷ്ട്ര വിഷയങ്ങളിൽ ആ രാജ്യം ഇടപെടരുതെന്ന് വാദിക്കാൻ ഈ വിമർശനം ചിലപ്പോൾ ആഭ്യന്തര വിഷയങ്ങളിൽ ശ്രദ്ധ കേന്ദ്രീകരിച്ചു.

നൂറുകണക്കിന് അക്കൗണ്ടുകളുണ്ടായിരുന്നിരിക്കാവുന്ന ഈ ഓപ്പറേഷൻ Facebook-ലും X-ലും വളരെ സജീവമായിരുന്നു. X-ൽ ഇതിന്റെ ചില അക്കൗണ്ടുകൾക്ക് പണം നൽകിയുള്ള സ്ഥിരീകരണത്തിന്റെ നീല അടയാളമുണ്ടായിരുന്നു. രണ്ട് പ്ലാറ്റ്‌ഫോമുകളിൽനിന്നും ഞങ്ങൾ പരിശോധിച്ച ഏകദേശം 150 അക്കൗണ്ടുകളിൽ കാര്യമായ അനുയായികളുള്ള ഒന്നും കണ്ടെത്തിയില്ല. അന്വേഷണത്തിനിടെ X-ൽ ഞങ്ങൾ കണ്ടെത്തിയ ഏറ്റവും വലിയ അനുയായിസംഖ്യ 222 ആയിരുന്നു; സാധാരണ സംഖ്യകൾ 15 മുതൽ 20-കളുടെ തുടക്കംവരെയായിരുന്നു. X-ലെ സാധാരണ പോസ്റ്റുകൾക്ക് പത്തിൽ താഴെ പ്രതികരണങ്ങളാണ് ലഭിച്ചത്. അതുപോലെ, അന്വേഷണത്തിനിടെ ഞങ്ങൾ കണ്ട ഒരു Facebook പോസ്റ്റിന് ലഭിച്ച ഏറ്റവും ഉയർന്ന പ്രതികരണസംഖ്യ 36 ആയിരുന്നു; സാധാരണ സംഖ്യകൾ 0–5 പരിധിയിലായിരുന്നു. എന്നാൽ ഓപ്പറേഷന്റെ പോസ്റ്റുകൾ യഥാർഥ ആളുകളിൽനിന്ന് മറുപടികൾ നേടിയ ചില സന്ദർഭങ്ങൾ ഞങ്ങൾ കണ്ടെത്തി. ഇവ എല്ലായ്പ്പോഴും അനുകൂലമായിരുന്നില്ല; യഥാർഥ ആളുകൾ വ്യാജ അക്കൗണ്ടുകളെ എതിർക്കുന്നതും ചിലപ്പോൾ ഉണ്ടായിരുന്നു. എങ്കിലും പല പ്ലാറ്റ്‌ഫോമുകളിലും പല ഭാഷകളിലും പല വിഷയങ്ങളിലും പ്രേക്ഷകരുമായി ഇടപഴകാനുള്ള കുറച്ചെങ്കിലും കഴിവ് ഇവ കാണിക്കുന്നു.

സ്വാധീന പ്രവർത്തനങ്ങളുടെ പ്രഭാവം 1 (ഏറ്റവും കുറവ്) മുതൽ 6 (ഏറ്റവും കൂടുതൽ) വരെയുള്ള ബ്രേക്ക്ഔട്ട് സ്കെയിലിൽ വിലയിരുത്തുമ്പോൾ, ഈ ഓപ്പറേഷൻ രണ്ടാം വിഭാഗത്തിന്റെ ഏറ്റവും ഉയർന്ന നിലയിലാണെന്നും മൂന്നാം വിഭാഗത്തിലേക്ക് കടക്കാനുള്ള സാധ്യതയുണ്ടെന്നും ഞങ്ങൾ വിലയിരുത്തും. പല പ്ലാറ്റ്‌ഫോമുകളിലായി പോസ്റ്റുകൾ പ്രസിദ്ധീകരിക്കുകയും യഥാർഥ ആളുകൾ അതിന്റെ ഉള്ളടക്കവുമായി ഇടപഴകിയതിന് ചില തെളിവുകൾ ലഭിക്കുകയും ചെയ്തു. എന്നാൽ ഞങ്ങളുടെ മോഡലുകൾ ഉപയോഗിക്കുന്നതിൽനിന്ന് ഈ ഓപ്പറേഷനെ നിരോധിക്കുകയും വ്യവസായ മേഖലയിലെ സഹപ്രവർത്തകരുമായി വിവരങ്ങൾ പങ്കിടുകയും ചെയ്തതിനു ശേഷം, ഞങ്ങൾ തിരിച്ചറിഞ്ഞ സമൂഹമാധ്യമ അക്കൗണ്ടുകൾ ആഴ്ചകളോളം നിശ്ശബ്ദമായി. നിർമിതബുദ്ധിയുടെ ഉപയോഗം പ്രവർത്തകർക്ക് കൂടുതൽ ശേഷി നൽകുന്നതോടൊപ്പം, നിർമിതബുദ്ധി മോഡലിലുള്ള അവരുടെ ആശ്രയം തടസ്സപ്പെടുത്തലിനോടുള്ള ദുർബലതയും വർധിപ്പിക്കുന്നുവെന്ന് ഈ ഓപ്പറേഷൻ വ്യക്തമാക്കുന്നു.