મુખ્ય વિષય-સામગ્રી પર જાવો
OpenAI

1 મે, 2024

સુરક્ષા

ઓપરેશન “ઝીરો ઝીનો”: ઇઝરાયલ સાથે જોડાયેલી પ્રભાવ પ્રવૃત્તિ

OpenAIએ અગાઉ અહેવાલમાં ન આવેલા ઇઝરાયલથી સંચાલિત “ઝીરો ઝીનો” નામના ઓપરેશન સાથે જોડાયેલાં એકાઉન્ટ પર પ્રતિબંધ મૂક્યો. તે AI વડે હમાસવિરોધી, કતારવિરોધી, ઇઝરાયલસમર્થક, ભાજપવિરોધી અને હિસ્ટાડ્રુટસમર્થક સામગ્રી બનાવતું હતું.

લોડિંગ…

આ કેસ સ્ટડી મૂળરૂપે OpenAIના મે 2024⁠(નવી વિન્ડોમાં ખૂલે છે)ના અહેવાલમાં પ્રકાશિત થઈ હતી.

કર્તા

અમે ઇઝરાયલથી સંચાલિત એકાઉન્ટના એક સમૂહ પર પ્રતિબંધ મૂક્યો. તેનો ઉપયોગ X, Facebook, Instagram, વેબસાઇટ અને YouTube સુધી ફેલાયેલા પ્રભાવ ઓપરેશન માટે સામગ્રી બનાવવા અને સંપાદિત કરવા થતો હતો. આ નેટવર્કનું સંચાલન ઇઝરાયલની રાજકીય અભિયાન વ્યવસ્થાપન કંપની STOIC કરતી હતી. સ્ટોઇક તત્ત્વજ્ઞાનના સ્થાપકના સન્માનમાં અને નેટવર્કને મળેલા અત્યંત ઓછા જોડાણને દર્શાવવા માટે અમે તેને “ઝીરો ઝીનો” ઉપનામ આપ્યું છે.

વર્તન

આ ઓપરેશને અંગ્રેજી અને હિબ્રૂ સામગ્રી દ્વારા કેનેડા, અમેરિકા અને ઇઝરાયલના પ્રેક્ષકોને લક્ષ્ય બનાવ્યા હતા. મેની શરૂઆતમાં તેણે અંગ્રેજી સામગ્રી વડે ભારતના પ્રેક્ષકોને લક્ષ્ય બનાવવાનું શરૂ કર્યું. તે ઘાનાના પ્રેક્ષકોને લક્ષ્ય બનાવતું IO અભિયાન ચલાવવાની તૈયારી પણ કરી રહ્યું હોય એવું લાગે છે.

આ ઓપરેશને વેબ લેખો અને સામાજિક માધ્યમની ટિપ્પણીઓ બનાવવા માટે અમારા મોડલનો ઉપયોગ કર્યો. પછી આ સામગ્રી ખાસ કરીને Instagram, Facebook અને X સહિત અનેક પ્લેટફોર્મ પર પોસ્ટ કરવામાં આવી.

આ નેટવર્કે બનાવેલી અને Instagram પર પોસ્ટ કરેલી અંગ્રેજી ભાષાની ટિપ્પણીઓ. મૂળ પોસ્ટ અને તેના જવાબો, બંને આ અભિયાને બનાવ્યાં હતાં.

આ નેટવર્કે બનાવેલી અને Instagram પર પોસ્ટ કરેલી અંગ્રેજી ભાષાની ટિપ્પણીઓ. મૂળ પોસ્ટ અને તેના જવાબો, બંને આ અભિયાને બનાવ્યાં હતાં.

આ ઓપરેશને ઉંમર, લિંગ અને સ્થળ જેવાં પરિબળોના આધારે સામાજિક માધ્યમ માટે કાલ્પનિક ઓળખો અને જીવનપરિચય બનાવવા તેમજ ઇઝરાયલના હિસ્ટાડ્રુટ મજૂર સંઘ વિશે જાહેરમાં ટિપ્પણી કરનારા લોકો પર સંશોધન કરવા પણ અમારા મોડલનો ઉપયોગ કર્યો. આ સૂચનોના જવાબમાં અમારા મોડલે વ્યક્તિગત માહિતી આપવાનો ઇનકાર કર્યો.

આ નેટવર્કે બનાવેલી સામગ્રી અનેક સામાજિક માધ્યમ પ્લેટફોર્મ પર પોસ્ટ કરવામાં આવી હતી. એટલાન્ટિક કાઉન્સિલની ડિજિટલ ફોરેન્સિક રિસર્ચ લેબ⁠(નવી વિન્ડોમાં ખૂલે છે)ના મુક્ત સ્રોત સંશોધનમાં Facebook, Instagram અને X પર તેની કેટલીક સામગ્રી ઓળખાઈ હતી. એ એકાઉન્ટ નિષ્ક્રિય કરાયા ત્યારે ઓપરેશને નવાં એકાઉન્ટ મેળવી લીધાં. બીજી સામગ્રી ચાર વેબસાઇટ પર જોવા મળી હતી, જે પોતાને ગાઝા સંઘર્ષ અને યહૂદી તથા મુસ્લિમ ધર્મના લોકો વચ્ચેના સંબંધોના વ્યાપક મુદ્દાઓ પર કેન્દ્રિત કાર્યકર્તા જૂથો તરીકે રજૂ કરતી હતી: uc4canada.com, the-good-samaritan.com, ufnews.io અને nonagenda.com.

કેટલાક કિસ્સામાં અમને આ ઓપરેશનનાં નકલી એકાઉન્ટ પોતે ઓપરેશને કરેલી સામાજિક માધ્યમ પોસ્ટ પર ટિપ્પણી કરતાં મળ્યાં. સંભવતઃ તેનો હેતુ પ્રેક્ષકોના જોડાણનો દેખાવ ઊભો કરવાનો હતો.

DFRLab દ્વારા સૌપ્રથમ ઓળખાયેલી પ્રવૃત્તિ સાથે સંકળાયેલા એકાઉન્ટની X પરની પોસ્ટ અને તેના જવાબો. આ ચિત્રમાંના બધા જવાબ આ અભિયાને બનાવ્યા હતા.

DFRLab દ્વારા સૌપ્રથમ ઓળખાયેલી પ્રવૃત્તિ સાથે સંકળાયેલા એકાઉન્ટની X પરની પોસ્ટ અને તેના જવાબો. આ ચિત્રમાંના બધા જવાબ આ અભિયાને બનાવ્યા હતા.

આ નેટવર્કની સામગ્રી પોસ્ટ કરનારાં ઘણાં સામાજિક માધ્યમ એકાઉન્ટે એવા પ્રોફાઇલ ચિત્રો વાપર્યા હતા, જે કૃત્રિમ બુદ્ધિમત્તાના જૂના પ્રકાર, જનરેટિવ એડવર્સેરિયલ નેટવર્ક (GAN), વડે બનાવાયાં હોય એવું લાગે છે. આવાં ચિત્રો ઇન્ટરનેટ પરથી સરળતાથી ડાઉનલોડ કરી શકાય છે. આ ચિત્રો સરળતાથી બનાવી શકાતાં હોવા છતાં, અમને આ નેટવર્કમાં એક જ ચિત્ર વાપરતાં અનેક સામાજિક માધ્યમ એકાઉન્ટ મળ્યાં. કેટલીક વાર એક જ પ્રોફાઇલ ચિત્ર ધરાવતાં બે કે તેથી વધુ એકાઉન્ટ એક જ સામાજિક માધ્યમ પોસ્ટનો જવાબ આપતાં હતાં.

આ નેટવર્કે બનાવેલી ટિપ્પણીઓ પોસ્ટ કરનારા X એકાઉન્ટનાં પ્રોફાઇલ ચિત્રો. ચિત્રમાં GAN દ્વારા બનાવાયું હોવાના દૃશ્ય સંકેતો જોવા મળે છે.

આ નેટવર્કે બનાવેલી ટિપ્પણીઓ પોસ્ટ કરનારા X એકાઉન્ટનાં પ્રોફાઇલ ચિત્રો. ચિત્રમાં GAN દ્વારા બનાવાયું હોવાના દૃશ્ય સંકેતો જોવા મળે છે.

સામગ્રી

આ ઓપરેશનને અનેક વિષયલક્ષી અભિયાનોમાં વહેંચવામાં આવ્યું હતું. તેમાંનાં મોટા ભાગનાં અભિયાન ગાઝા સંઘર્ષ અને યહૂદી તથા મુસ્લિમ ધર્મના લોકો વચ્ચેના સંબંધોના વ્યાપક પ્રશ્ન સાથે ઢીલી રીતે જોડાયેલાં હતાં. મે મહિનામાં અમે ભારતીય ચૂંટણીઓ પર કેન્દ્રિત કેટલીક પ્રવૃત્તિ શરૂ થયાના 24 કલાકથી પણ ઓછા સમયમાં અટકાવી દીધી.

ફેબ્રુઆરીના મુક્ત સ્રોત સંશોધનમાં⁠(નવી વિન્ડોમાં ખૂલે છે) આ નેટવર્ક પેલેસ્ટાઇનમાં સંયુક્ત રાષ્ટ્રની રાહત સંસ્થા UNRWAની ટીકા કરતું હોવાનું વર્ણવાયું હતું. માર્ચના DFRLab અહેવાલે⁠(નવી વિન્ડોમાં ખૂલે છે) કેનેડા પર કેન્દ્રિત અને ત્યાંના એવા લોકોની ટીકા કરતી સામગ્રી દર્શાવી હતી, જેમને અભિયાનની પોસ્ટમાં “કટ્ટરપંથી ઇસ્લામવાદીઓ” કહેવાયા હતા. વધુ એક સમૂહ અમેરિકાની યુનિવર્સિટીઓ પર કેન્દ્રિત હતો અને પેલેસ્ટાઇનસમર્થક દેખાવકારો પર યહૂદીવિરોધ અને આતંકવાદને પ્રોત્સાહન આપવાનો આરોપ મૂકતો હતો. ચોથો સમૂહ કતાર પર કેન્દ્રિત હતો અને અમેરિકામાં તેના રોકાણોને અમેરિકન જીવનશૈલી માટેના જોખમ તરીકે રજૂ કરતો હતો. પાંચમો સમૂહ હિબ્રૂમાં સામાજિક માધ્યમ પોસ્ટ બનાવતો હતો. આ પોસ્ટ સામાન્ય રીતે હિસ્ટાડ્રુટ મજૂર સંઘ સંગઠન અને તેના નેતૃત્વની પ્રશંસા કરતી હતી. અંતે, મે મહિનામાં નેટવર્કે ભારત પર કેન્દ્રિત, સત્તાધારી ભાજપની ટીકા કરતી અને વિપક્ષી કોંગ્રેસ પક્ષની પ્રશંસા કરતી ટિપ્પણીઓ બનાવવાનું શરૂ કર્યું.

કેટલીક વાર નેટવર્કે પોતાનાં એકાઉન્ટનો વિષય બદલી નાખ્યો હોય એવું લાગે છે. ઉદાહરણ તરીકે, અગાઉ કેનેડા વિશે પોસ્ટ કરનારાં એકાઉન્ટ પછી અમેરિકા, ભારત કે હિસ્ટાડ્રુટ અથવા આમાંથી એકથી વધુ વિષયો પર ધ્યાન કેન્દ્રિત કરવા લાગ્યાં હતાં.

આ અભિયાને બનાવેલી સામગ્રી વારંવાર પોસ્ટ કરનાર એક એકાઉન્ટની 1થી 4 મે, 2024 દરમિયાન X પરની ત્રણ ટિપ્પણીઓ. સૌથી પહેલી પોસ્ટ (નીચે) કાલ્પનિક ઓળખ ઊભી કરવાનો પ્રયાસ હોય એવું લાગે છે. બીજી પોસ્ટ કેનેડા પર કેન્દ્રિત છે અને તેમાં આ નેટવર્કના મુખ્ય કેનેડા-કેન્દ્રિત એકાઉન્ટની પોસ્ટ સામેલ છે. ત્રીજી પોસ્ટ ભારત પર કેન્દ્રિત છે.

આ અભિયાને બનાવેલી સામગ્રી વારંવાર પોસ્ટ કરનાર એક એકાઉન્ટની 1થી 4 મે, 2024 દરમિયાન X પરની ત્રણ ટિપ્પણીઓ. સૌથી પહેલી પોસ્ટ (નીચે) કાલ્પનિક ઓળખ ઊભી કરવાનો પ્રયાસ હોય એવું લાગે છે. બીજી પોસ્ટ કેનેડા પર કેન્દ્રિત છે અને તેમાં આ નેટવર્કના મુખ્ય કેનેડા-કેન્દ્રિત એકાઉન્ટની પોસ્ટ સામેલ છે. ત્રીજી પોસ્ટ ભારત પર કેન્દ્રિત છે.

આ નેટવર્કે બનાવેલી કેટલીક સામગ્રી રાજકીય વિચારધારાની બંને બાજુના અગ્રણી પશ્ચિમી લોકોની પોસ્ટના જવાબમાં સામાજિક માધ્યમ પર મૂકવામાં આવી હતી. આ જવાબોનો સામાન્ય રીતે મૂળ પોસ્ટ સાથે કોઈ સંબંધ નહોતો. ઉદાહરણ તરીકે, કતાર અમેરિકા “ખરીદી રહ્યું છે” એવી એક ટિપ્પણી ભૂતપૂર્વ પ્રમુખ ટ્રમ્પની સંગીત પસંદગીઓ વિશેની પોસ્ટના જવાબમાં કરવામાં આવી હતી.

ઉપર, પ્રમુખ ટ્રમ્પની સંગીત પસંદગીઓ વિશે લૉરા ઇન્ગ્રાહમની પોસ્ટ. નીચે, આ નેટવર્કે બનાવેલી ટિપ્પણી ધરાવતી પોસ્ટ. મૂળ પોસ્ટ અને જવાબ વચ્ચેના જોડાણના આંકડાનો તફાવત નોંધો.

ઉપર, પ્રમુખ ટ્રમ્પની સંગીત પસંદગીઓ વિશે લૉરા ઇન્ગ્રાહમની પોસ્ટ. નીચે, આ નેટવર્કે બનાવેલી ટિપ્પણી ધરાવતી પોસ્ટ. મૂળ પોસ્ટ અને જવાબ વચ્ચેના જોડાણના આંકડાનો તફાવત નોંધો.

અસરનું મૂલ્યાંકન

ઝીરો ઝીનોની પ્રવૃત્તિને તેનાં પોતાનાં બનાવટી એકાઉન્ટ સિવાય ભાગ્યે જ કોઈ જોડાણ મળ્યું હોય એવું લાગે છે. (Meta અને X દ્વારા ઘણાં એકાઉન્ટ અગાઉથી જ નિષ્ક્રિય કરાયાં હોવાથી જોડાણના વર્તમાન આંકડા સંપૂર્ણ ચિત્ર રજૂ ન પણ કરતા હોય.)

IOની અસરનું મૂલ્યાંકન કરવા માટે 1 (સૌથી ઓછી)થી 6 (સૌથી વધુ) સુધીનું રેટિંગ આપતા બ્રેકઆઉટ સ્કેલ⁠(નવી વિન્ડોમાં ખૂલે છે)નો ઉપયોગ કરીએ તો અમે આને શ્રેણી 2નું ઓપરેશન ગણીશું. તે અનેક પ્લેટફોર્મ અને વેબસાઇટ પર પોસ્ટ કરવાની પ્રવૃત્તિથી ઓળખાય છે, પરંતુ નેટવર્ક બહારના લોકોએ તેને નોંધપાત્ર રીતે પ્રસારિત કર્યું હોવાનો કોઈ પુરાવો નથી.

આ ઓપરેશનના કેનેડા-કેન્દ્રિત અભિયાન સાથે સંકળાયેલી YouTube ચેનલ. 25 એપ્રિલ, 2024 સુધીમાં તેણે એક વિડિયો પોસ્ટ કર્યો હતો, જેને એક પણ વ્યૂ મળ્યો નહોતો.

આ ઓપરેશનના કેનેડા-કેન્દ્રિત અભિયાન સાથે સંકળાયેલી YouTube ચેનલ. 25 એપ્રિલ, 2024 સુધીમાં તેણે એક વિડિયો પોસ્ટ કર્યો હતો, જેને એક પણ વ્યૂ મળ્યો નહોતો.

સંકેતો

અમે નીચેના ડોમેનને ઝીરો ઝીનોનાં અભિયાનો સાથે સંકળાયેલાં હોવાનું ઓળખ્યું.

  • nonagenda.com

  • the-good-samaritan.com

  • uc4canada.com

  • ufnews.io