स्किप करके मेन कंटेंट पर जाऍं
OpenAI

अभियान “ज़ीरो ज़ीनो”: इज़राइल से जुड़ी प्रभाव गतिविधि

OpenAI ने इज़राइल से संचालित पहले अज्ञात अभियान से जुड़े खातों पर प्रतिबंध लगाया. इसे हमने “ज़ीरो ज़ीनो” नाम दिया था और यह एआई से हमास-विरोधी, कतर-विरोधी, इज़राइल-समर्थक, भाजपा-विरोधी और हिस्टाड्रट-समर्थक सामग्री बनाता था.

लोड किया जा रहा है...

यह केस स्टडी मूल रूप से OpenAI की मई 2024⁠(एक नई विंडो में खुलेगा) की रिपोर्ट में प्रकाशित हुई थी.

कार्रवाईकर्ता

हमने इज़राइल से संचालित खातों के एक समूह पर प्रतिबंध लगाया, जिसका उपयोग X, Facebook, Instagram, वेबसाइटों और YouTube पर फैले प्रभाव अभियान के लिए सामग्री तैयार और संपादित करने में किया जा रहा था. यह नेटवर्क इज़राइल की राजनीतिक अभियान प्रबंधन कंपनी STOIC चलाती थी. स्टोइक दर्शनशास्त्र के संस्थापक के सम्मान में और नेटवर्क को मिली बेहद कम सहभागिता दर्शाने के लिए हमने इसे “ज़ीरो ज़ीनो” उपनाम दिया है.

व्यवहार

इस अभियान ने अंग्रेज़ी और हिब्रू सामग्री के ज़रिए कनाडा, अमेरिका और इज़राइल के दर्शकों को निशाना बनाया. मई की शुरुआत में इसने अंग्रेज़ी सामग्री के ज़रिए भारत के दर्शकों को निशाना बनाना शुरू किया. ऐसा भी लगता है कि यह घाना के दर्शकों को निशाना बनाने वाला एक आईओ अभियान चलाने की तैयारी कर रहा था.

अभियान ने वेब लेख और सोशल मीडिया टिप्पणियां तैयार करने के लिए हमारे मॉडलों का उपयोग किया, जिन्हें बाद में कई मंचों, खास तौर पर Instagram, Facebook और X पर पोस्ट किया गया.

इस नेटवर्क द्वारा तैयार और Instagram पर पोस्ट की गई अंग्रेज़ी टिप्पणियां. मूल पोस्ट और जवाब, दोनों इस अभियान ने तैयार किए थे.

इस नेटवर्क द्वारा तैयार और Instagram पर पोस्ट की गई अंग्रेज़ी टिप्पणियां. मूल पोस्ट और जवाब, दोनों इस अभियान ने तैयार किए थे.

अभियान ने उम्र, लिंग और स्थान जैसे कुछ मानकों के आधार पर सोशल मीडिया के लिए काल्पनिक पहचान और परिचय बनाने तथा इज़राइल में हिस्टाड्रट श्रमिक संघ पर सार्वजनिक टिप्पणियां करने वाले लोगों के बारे में शोध करने के लिए भी हमारे मॉडलों का उपयोग किया. हमारे मॉडलों ने इन निर्देशों के जवाब में व्यक्तिगत जानकारी देने से मना कर दिया.

इस नेटवर्क द्वारा तैयार सामग्री कई सोशल मीडिया मंचों पर पोस्ट की गई. अटलांटिक काउंसिल की डिजिटल फोरेंसिक अनुसंधान प्रयोगशाला⁠(एक नई विंडो में खुलेगा) के मुक्त-स्रोत शोध ने Facebook, Instagram और X पर इसकी कुछ सामग्री की पहचान की. उन खातों को बंद किए जाने पर अभियान ने नए खाते हासिल कर लिए. अन्य सामग्री चार वेबसाइटों पर दिखाई दी, जो स्वयं को गाज़ा संघर्ष और यहूदी तथा मुस्लिम धर्मावलंबियों के संबंधों से जुड़े व्यापक मुद्दों पर केंद्रित कार्यकर्ता समूह बताती थीं: uc4canada.com, the-good-samaritan.com, ufnews.io और nonagenda.com.

कुछ मामलों में हमने इस अभियान के नकली खातों को अभियान की अपनी सोशल मीडिया पोस्ट पर टिप्पणी करते पाया. संभवतः इसका उद्देश्य दर्शकों की सहभागिता का आभास पैदा करना था.

DFRLab द्वारा सबसे पहले पहचानी गई गतिविधि से जुड़े खाते की X पोस्ट और उसके जवाब. इस चित्र में मौजूद सभी जवाब इस अभियान ने तैयार किए थे.

DFRLab द्वारा सबसे पहले पहचानी गई गतिविधि से जुड़े खाते की X पोस्ट और उसके जवाब. इस चित्र में मौजूद सभी जवाब इस अभियान ने तैयार किए थे.

इस नेटवर्क की सामग्री पोस्ट करने वाले कई सोशल मीडिया खातों ने ऐसी प्रोफ़ाइल तस्वीरें इस्तेमाल कीं जो कृत्रिम बुद्धिमत्ता के पुराने प्रकार, जनरेटिव एडवर्सेरियल नेटवर्क (GAN), से बनाई गई प्रतीत होती हैं. ऐसी तस्वीरें इंटरनेट से आसानी से डाउनलोड की जा सकती हैं. इन तस्वीरों को आसानी से बनाया जा सकने के बावजूद हमने इस नेटवर्क के कई सोशल मीडिया खातों को एक ही तस्वीर इस्तेमाल करते पाया. कभी-कभी एक ही प्रोफ़ाइल तस्वीर वाले दो या अधिक खाते एक ही सोशल मीडिया पोस्ट का जवाब देते थे.

इस नेटवर्क द्वारा तैयार टिप्पणियां पोस्ट करने वाले X खातों की प्रोफ़ाइल तस्वीरें. तस्वीर में ऐसे दृश्य संकेत हैं जो GAN से तैयार होने के अनुरूप हैं.

इस नेटवर्क द्वारा तैयार टिप्पणियां पोस्ट करने वाले X खातों की प्रोफ़ाइल तस्वीरें. तस्वीर में ऐसे दृश्य संकेत हैं जो GAN से तैयार होने के अनुरूप हैं.

सामग्री

यह अभियान कई विषयगत अभियानों में बंटा था, जिनमें से अधिकतर का गाज़ा संघर्ष और यहूदी तथा मुस्लिम धर्मावलंबियों के संबंधों के व्यापक प्रश्न से कुछ हद तक संबंध था. मई में हमने भारतीय चुनावों पर केंद्रित कुछ गतिविधियां शुरू होने के 24 घंटे के भीतर रोक दीं.

फरवरी में हुए मुक्त-स्रोत शोध⁠(एक नई विंडो में खुलेगा) में बताया गया कि यह नेटवर्क फ़िलिस्तीन में संयुक्त राष्ट्र की राहत एजेंसी UNRWA की आलोचना कर रहा था. मार्च की DFRLab रिपोर्ट⁠(एक नई विंडो में खुलेगा) में कनाडा पर केंद्रित और वहां मौजूद उन लोगों की आलोचना करने वाली सामग्री को रेखांकित किया गया, जिन्हें अभियान की पोस्ट में “कट्टरपंथी इस्लामवादी” कहा गया था. एक अन्य समूह अमेरिका के विश्वविद्यालयों पर केंद्रित था और उसने फ़िलिस्तीन-समर्थक प्रदर्शनकारियों पर यहूदी-विरोध तथा आतंकवाद को बढ़ावा देने का आरोप लगाया. चौथा समूह कतर पर केंद्रित था और अमेरिका में उसके निवेश को अमेरिकी जीवनशैली के लिए खतरे के रूप में प्रस्तुत करता था. पांचवें समूह ने हिब्रू में सोशल मीडिया पोस्ट तैयार कीं. इन पोस्ट में आम तौर पर हिस्टाड्रट श्रमिक संघ संगठन और उसके नेतृत्व की प्रशंसा की जाती थी. अंततः मई में नेटवर्क ने भारत पर केंद्रित टिप्पणियां तैयार करना शुरू किया, जिनमें सत्तारूढ़ भाजपा की आलोचना और विपक्षी कांग्रेस पार्टी की प्रशंसा की गई.

कभी-कभी नेटवर्क ने अपने खातों का विषय पूरी तरह बदल दिया. उदाहरण के लिए, पहले कनाडा के बारे में पोस्ट करने वाले खातों ने बाद में अमेरिका, भारत या हिस्टाड्रट, अथवा इनमें से एक से अधिक, पर ध्यान केंद्रित करना शुरू कर दिया.

1 से 4 मई 2024 के बीच X पर ऐसे खाते की तीन टिप्पणियां, जिसने इस अभियान द्वारा तैयार सामग्री बार-बार पोस्ट की थी. सबसे पुरानी पोस्ट (नीचे) संभवतः एक काल्पनिक पहचान बनाने का प्रयास थी. दूसरी पोस्ट कनाडा पर केंद्रित है और इसमें इस नेटवर्क के मुख्य कनाडा-केंद्रित खाते की एक पोस्ट समाहित है. तीसरी पोस्ट भारत पर केंद्रित है.

1 से 4 मई 2024 के बीच X पर ऐसे खाते की तीन टिप्पणियां, जिसने इस अभियान द्वारा तैयार सामग्री बार-बार पोस्ट की थी. सबसे पुरानी पोस्ट (नीचे) संभवतः एक काल्पनिक पहचान बनाने का प्रयास थी. दूसरी पोस्ट कनाडा पर केंद्रित है और इसमें इस नेटवर्क के मुख्य कनाडा-केंद्रित खाते की एक पोस्ट समाहित है. तीसरी पोस्ट भारत पर केंद्रित है.

इस नेटवर्क द्वारा बनाई गई कुछ सामग्री सोशल मीडिया पर राजनीतिक विचारधारा के दोनों पक्षों की प्रमुख पश्चिमी हस्तियों को जवाब देते हुए पोस्ट की गई. इन जवाबों का आम तौर पर मूल पोस्ट से कोई संबंध नहीं था. उदाहरण के लिए, कतर द्वारा अमेरिका को “खरीद लेने” के बारे में एक टिप्पणी पूर्व राष्ट्रपति ट्रंप की संगीत संबंधी पसंद वाली पोस्ट के जवाब में की गई.

ऊपर, राष्ट्रपति ट्रंप की संगीत संबंधी पसंद पर लॉरा इंग्राहम की पोस्ट. नीचे, इस नेटवर्क द्वारा तैयार टिप्पणी वाली पोस्ट. मूल पोस्ट और जवाब के सहभागिता आंकड़ों में अंतर पर ध्यान दें.

ऊपर, राष्ट्रपति ट्रंप की संगीत संबंधी पसंद पर लॉरा इंग्राहम की पोस्ट. नीचे, इस नेटवर्क द्वारा तैयार टिप्पणी वाली पोस्ट. मूल पोस्ट और जवाब के सहभागिता आंकड़ों में अंतर पर ध्यान दें.

प्रभाव का आकलन

ऐसा लगता है कि ज़ीरो ज़ीनो की गतिविधि को उसके अपने अप्रामाणिक खातों के अलावा बहुत कम या कोई सहभागिता नहीं मिली. (Meta और X पहले ही कई खाते बंद कर चुके हैं, इसलिए सहभागिता के मौजूदा आंकड़े पूरी तस्वीर प्रस्तुत नहीं कर सकते.)

आईओ के प्रभाव का आकलन करने के लिए ब्रेकआउट पैमाने⁠(एक नई विंडो में खुलेगा) का उपयोग किया जाता है, जो उन्हें 1 (न्यूनतम) से 6 (अधिकतम) के पैमाने पर मापता है. इसके अनुसार हम इसे श्रेणी 2 का अभियान मानेंगे, जिसमें कई मंचों और वेबसाइटों पर पोस्ट की गईं, लेकिन नेटवर्क से बाहर के लोगों द्वारा इन्हें व्यापक रूप से बढ़ावा दिए जाने का कोई प्रमाण नहीं मिला.

इस अभियान के कनाडा-केंद्रित अभियान से जुड़ा YouTube चैनल. 25 अप्रैल 2024 तक उसने एक वीडियो पोस्ट किया था, जिसे कोई बार नहीं देखा गया था.

इस अभियान के कनाडा-केंद्रित अभियान से जुड़ा YouTube चैनल. 25 अप्रैल 2024 तक उसने एक वीडियो पोस्ट किया था, जिसे कोई बार नहीं देखा गया था.

संकेतक

हमने निम्नलिखित डोमेन को ज़ीरो ज़ीनो के अभियानों से जुड़ा पाया.

  • nonagenda.com

  • the-good-samaritan.com

  • uc4canada.com

  • ufnews.io