ઓપરેશન “A2Z”: બહુભાષી પ્રભાવ પ્રવૃત્તિ

આ કેસ અભ્યાસ મૂળરૂપે OpenAIના ઑક્ટોબર 2024⁠(નવી વિન્ડોમાં ખૂલે છે)ના અહેવાલમાં પ્રકાશિત થયો હતો.

અમે અગાઉ જાણ ન કરાયેલા ખાતાંના એક સમૂહ પર પ્રતિબંધ મૂક્યો, જે અમારી APIનો ઉપયોગ કરીને ટિપ્પણીઓ બનાવતો અને પછી તેને X તથા Facebook પર પોસ્ટ કરતો હતો. આમાંની ઘણી ટિપ્પણીઓએ અઝરબૈજાનની પ્રશંસા કરી અથવા તેના માનવાધિકાર રેકોર્ડનો બચાવ કર્યો, પરંતુ તેમાં બીજા અનેક વિષયો પર પણ ધ્યાન અપાયું હતું, જે સંભવિત રીતે વ્યાવસાયિક ધોરણે ચાલતા ઓપરેશનનો સંકેત આપે છે. તે અઝરબૈજાનની વારંવાર પ્રશંસા કરતું હતું અને ઓપરેશનના અનેક તબક્કામાં AIનો ઉપયોગ કરવાનો પ્રયાસ કરતું હતું, તેથી અમે આ નેટવર્કને “A2Z” નામ આપ્યું છે.

મે મહિનામાં અમે જે રશિયન-ભાષી Telegram ઓપરેશનનો પર્દાફાશ કરીને તેને “ખરાબ વ્યાકરણ” નામ આપ્યું હતું, તેની જેમ આ ઓપરેશને પણ સામાજિક માધ્યમ પર ટિપ્પણીઓ કરવા માટે અમારી મોડલનો ઉપયોગ કર્યો. તેણે બનાવટી સામાજિક-માધ્યમ ઓળખો સંભાળવા, પરિચયો બનાવવા, પોસ્ટ અને ટિપ્પણીઓનું વિશ્લેષણ કરવા, અનેક ભાષાઓમાં જવાબોના મુસદ્દા તૈયાર કરવા અને તેમનું ભાષાશુદ્ધિ-સંપાદન કરવા AIનો ઉપયોગ કર્યો. પછી જવાબો X અથવા Facebook પર પોસ્ટ કરવામાં આવતા હતા. મોટાભાગની સામગ્રી ટૂંકી ટિપ્પણીઓના રૂપમાં હતી, પરંતુ તેમાં વિશિષ્ટ શૈલીનાં ચિત્રો પણ સામેલ હતાં. આ ચિત્રોમાં ઘણી વાર 1930ના દાયકાનાં પોસ્ટરોની શૈલી વપરાતી હતી. તેથી તે છેતરવા કરતાં ધ્યાન અને પ્રતિસાદ આકર્ષવા માટે બનાવાયાં હોય એવું લાગે છે. જોકે, આવાં વિશિષ્ટ શૈલીનાં ચિત્રોવાળી સામાન્ય પોસ્ટને પ્રત્યેક દીઠ માત્ર 0–5 પ્રતિસાદ મળ્યા હતા.

AIના આ ઉપયોગથી ઓપરેશન એકસાથે અનેક સામાજિક-માધ્યમ ખાતાં સંભાળી શક્યું. અમે X અને Facebook પર આ પ્રવૃત્તિ સાથે મેળ ખાતાં આશરે 150 ખાતાં ઓળખ્યાં અને હજી વધુ ખાતાં હોવાની શંકા છે. તેનાથી ઓપરેશન ક્યારેક ઇન્ટરનેટ પર વાસ્તવિક લોકો સાથે ટિપ્પણીઓની શ્રેણીમાં સંવાદ પણ કરી શક્યું. અમે ક્યારેક વાસ્તવિક લોકો અને બનાવટી ખાતાં વચ્ચે ટૂંકી વાતચીત જોઈ હતી, જેમાં બનાવટી ખાતાંના જવાબો અમારી મોડલનો ઉપયોગ કરીને બનાવવામાં આવ્યા હતા.

AI પહેલાં આ સ્તરે ઓપરેશન ચલાવવા કદાચ ટ્રોલ્સની મોટી ટીમની જરૂર પડત અને આવા પ્રયાસ સાથે સંકળાયેલા તમામ ખર્ચ તથા માહિતી લીક થવાનાં જોખમો પણ રહેત. જોકે, AI પરની નિર્ભરતાને કારણે આ ઓપરેશનને અમારા હસ્તક્ષેપથી અસામાન્ય રીતે વધુ નુકસાન થવાની શક્યતા પણ હતી. તેણે હુમલાની શૃંખલાની અનેક કડીઓમાં AIનો ઉપયોગ કર્યો હોવાથી અમારી કાર્યવાહીએ એકસાથે ઘણી કડીઓ તોડી નાખી. જૂનની શરૂઆતમાં અમે આ પ્રવૃત્તિ અટકાવ્યા પછી, આ ઓપરેશનના ભાગ તરીકે ઓળખેલાં સામાજિક-માધ્યમ ખાતાંએ EU, UK અને ફ્રાન્સમાં ચૂંટણીના સમગ્ર સમયગાળા દરમિયાન પોસ્ટ કરવાનું બંધ કરી દીધું. કેટલાંક ખાતાંએ ઑગસ્ટના અંતમાં ફરી પોસ્ટ કરવાનું શરૂ કર્યું. તેમની બહુ ઓછી પોસ્ટમાં તે AI દ્વારા બનાવાઈ હોવાના સંકેતો હતા. આવા સંકેતો ધરાવતી સામગ્રી અમારી મોડલમાંથી આવી નહોતી.

આ અભિયાને અનેક રાજકીય વિષયો પર કેન્દ્રિત ટૂંકી ટિપ્પણીઓ બનાવી. તેમાં સૌથી મુખ્ય બાબત અઝરબૈજાનની સરકાર અને ઘરેલું, પ્રાદેશિક તથા આંતરરાષ્ટ્રીય રાજકારણમાં તેની ભૂમિકાની પ્રશંસા હતી. ઉદાહરણ તરીકે, મધ્ય એશિયાના દેશો વચ્ચે એકતાને પ્રોત્સાહન આપવું અથવા UNની આબોહવા પરિવર્તન પરિષદ યોજવી. અંગ્રેજી અને ઇટાલિયન ભાષાનાં ખાતાંએ યુરોપને ઊર્જા પૂરી પાડનાર દેશ તરીકે અઝરબૈજાનની ભૂમિકાની પ્રશંસા કરી. ક્યારેક આ પ્રશંસા અઝેરી સરકારના માનવાધિકાર રેકોર્ડની ટીકા સામેના જવાબમાં કરવામાં આવી હતી.

પ્રવૃત્તિના અન્ય પ્રવાહો AIના લાભ અને વિકાસ, નાણાકીય બજારો, પર્યાવરણીય મુદ્દાઓ, ક્રિપ્ટોકરન્સી અને વ્યાપક રીતે ટેકનોલોજી પર કેન્દ્રિત હતા. એક સમૂહે સંયુક્ત આરબ અમીરાતને રોકાણ માટે સ્થિર સ્થળ તરીકે રજૂ કરવા પર ધ્યાન આપ્યું અને ઘણી વાર તેની સરખામણી અમેરિકામાં રાજકીય અસ્થિરતા હોવાના દાવા સાથે કરી.

કેટલીક બનાવટી ઓળખોએ યુરોપ અથવા અમેરિકાના રાજકારણ પર ધ્યાન કેન્દ્રિત કર્યું. આ પ્રવૃત્તિની વિચારધારા દરેક પ્રદેશમાં જુદી હતી. ઉદાહરણ તરીકે, અમેરિકા પર કેન્દ્રિત એક X ખાતાએ પોતાને ઉદારમતવાદી તરીકે રજૂ કરીને અમેરિકાના ભૂતપૂર્વ પ્રમુખ ટ્રમ્પની ટીકા કરી, જ્યારે ફ્રેન્ચમાં પોસ્ટ કરતાં કેટલાંક Facebook ખાતાંએ પ્રમુખ મેક્રોની ટીકા કરી અને નેશનલ રેલી (RN) પક્ષને સમર્થન આપ્યું. ક્યારેક આ ટીકા ઘરેલુ મુદ્દાઓ પર કેન્દ્રિત રહી અને એવી દલીલ કરી કે સંબંધિત દેશે યુક્રેન પર રશિયાના આક્રમણ સહિતના આંતરરાષ્ટ્રીય મુદ્દાઓમાં હસ્તક્ષેપ ન કરવો જોઈએ.

આ ઓપરેશન Facebook અને X પર ખૂબ સક્રિય હતું અને સંભવતઃ તેનાં સેંકડો ખાતાં હતાં. X પર તેનાં કેટલાંક ખાતાં પાસે ચૂકવણીથી મળતી ચકાસણીનું વાદળી નિશાન હતું. બંને પ્લૅટફૉર્મ પર અમે નમૂના તરીકે તપાસેલાં આશરે 150 ખાતાંમાંથી નોંધપાત્ર સંખ્યામાં અનુયાયીઓ ધરાવતું એક પણ ખાતું મળ્યું નહોતું. અમારી તપાસમાં X પર મળેલી અનુયાયીઓની સૌથી મોટી સંખ્યા 222 હતી, સામાન્ય સંખ્યા 15થી 25ની આસપાસ હતી અને X પરની સામાન્ય પોસ્ટને દસથી ઓછા પ્રતિસાદ મળતા હતા. એ જ રીતે, અમારી તપાસ દરમિયાન Facebookની કોઈ પોસ્ટ પર અમે જોયેલી પ્રતિક્રિયાઓની સૌથી વધુ સંખ્યા 36 હતી, જ્યારે સામાન્ય સંખ્યા 0–5ની વચ્ચે હતી. જોકે, અમને કેટલાક એવા પ્રસંગો મળ્યા જ્યારે ઓપરેશનની પોસ્ટે વાસ્તવિક લોકોના જવાબો આકર્ષ્યા હતા. આ જવાબો હંમેશાં હકારાત્મક નહોતા અને ક્યારેક વાસ્તવિક લોકો બનાવટી ખાતાંની વાતનો વિરોધ પણ કરતા હતા. છતાં, તે અનેક પ્લૅટફૉર્મ, ભાષા અને વિષય પર પ્રેક્ષકોને જોડવાની ઓછામાં ઓછી થોડી ક્ષમતા દર્શાવે છે.

IOની અસરનું મૂલ્યાંકન કરવા માટે 1 (સૌથી નીચો)થી 6 (સૌથી ઊંચો) સુધીનો ક્રમ આપતા બ્રેકઆઉટ સ્કેલનો ઉપયોગ કરતાં, અમે આ ઓપરેશનને ત્રીજી શ્રેણીમાં પ્રવેશવાના જોખમ સાથે બીજી શ્રેણીના સર્વોચ્ચ છેડે ગણાવીશું. તેમાં અનેક પ્લૅટફૉર્મ પર પોસ્ટ કરવાની પ્રવૃત્તિ હતી અને વાસ્તવિક લોકો તેની સામગ્રી સાથે સંવાદ કરતા હોવાના કેટલાક પુરાવા પણ હતા. જોકે, અમે આ ઓપરેશનને અમારી મોડલનો ઉપયોગ કરવા પર પ્રતિબંધ મૂક્યો અને ઉદ્યોગના સહયોગીઓ સાથે માહિતી વહેંચી ત્યાર પછી, અમે ઓળખેલાં સામાજિક-માધ્યમ ખાતાં ઘણાં અઠવાડિયાં સુધી નિષ્ક્રિય રહ્યાં. આમ, આ ઓપરેશન દર્શાવે છે કે AIનો ઉપયોગ સંચાલકોની ક્ષમતા વધારી શકે છે, પરંતુ AI મોડલ પરની તેમની નિર્ભરતા તેમને હસ્તક્ષેપ સામે વધુ સંવેદનશીલ પણ બનાવે છે.