ऑपरेशन “डॉपेलगैंगर”: यूक्रेन को निशाना बनाने वाली रूसी प्रभाव गतिविधि
OpenAI ने रूस से संचालित ऑपरेशन “डॉपेलगैंगर” से जुड़े खाते प्रतिबंधित किए, जो कई भाषाओं में यूक्रेन-विरोधी सोशल मीडिया टिप्पणियां, अनुवाद और वेबसाइट सामग्री बनाने के लिए कृत्रिम बुद्धिमत्ता का उपयोग कर रहा था.
यह प्रकरण अध्ययन मूल रूप से OpenAI की मई 2024(एक नई विंडो में खुलेगा) की रिपोर्ट में प्रकाशित हुआ था.
अभिकर्ता
हमने रूसी प्रभाव अभियान “डॉपेलगैंगर”(एक नई विंडो में खुलेगा) की ओर से काम करने वाले लोगों से जुड़े, हमारे मॉडल का उपयोग कर रहे खातों के चार समूह प्रतिबंधित किए. हर समूह ने अलग-अलग रणनीतियां, तकनीकें और प्रक्रियाएं अपनाईं, जो अलग-अलग कार्यात्मक दलों से बने अभियान के अनुरूप थीं.
व्यवहार
इस गतिविधि ने यूरोप और उत्तरी अमेरिका के दर्शकों को निशाना बनाया और वेबसाइटों तथा सोशल मीडिया के लिए सामग्री तैयार करने पर ध्यान दिया.
खातों के पहले समूह ने अंग्रेजी, फ्रेंच, जर्मन, इतालवी और पोलिश में छोटी टिप्पणियां बनाईं. इन्हें 9GAG और X पर मीम, वीडियो और ऐसे लिंक के साथ पोस्ट किया गया, जो हमारे मॉडल से बनाए हुए नहीं लगते. कुछ मीम इंटरनेट पर अलग-अलग जगहों से नकल किए गए थे और कई साल पुराने लगते थे.
9GAG पर इस अभियान की सामग्री पोस्ट करने वाले खातों के प्रोफाइल चित्र आम तौर पर मशहूर हस्तियों या बिल्लियों के होते थे. उन्होंने अपने मीम और वीडियो कई तरह के चैनलों पर पोस्ट किए, जिनमें “रैंडम” चैनल के साथ पालतू जानवरों, खेल, हास्य और यहां तक कि संबंधों और डेटिंग को समर्पित चैनल भी शामिल थे.

यूक्रेन पर टिप्पणी और गाजा पर वीडियो, जिसे लगातार इस अभियान की बनाई सामग्री पोस्ट करने वाले खाते ने 9GAG के “मोटर वाहन” चैनल पर पोस्ट किया. यूक्रेन और अमेरिकी सीमा का संदर्भ हमारे मॉडल से तैयार किया गया था. वीडियो समाचार फुटेज का संकलन था. पोस्ट को 11 अपवोट और 93 डाउनवोट मिले.
अभियान जब भी 9GAG पर कोई मीम या वीडियो पोस्ट करता, तो तीन से पांच खाते आम तौर पर “हाहाहा” या “जोर से हंसी” जैसे सरल संदेशों से जवाब देते थे. इनमें से हर खाता केवल इसी अभियान की सामग्री पर सक्रिय था. अधिकतर खाते एक ही तारीख को बनाए गए थे. इस व्यवहार पर अक्सर अन्य उपयोगकर्ताओं की आलोचनात्मक टिप्पणियां आती थीं और उनमें से कई इन खातों को “बॉट” कहते थे.

ऊपर दिखाए गए वीडियो पर टिप्पणियां. नीचे के तीनों खाते, जिन्होंने सबसे पहले टिप्पणियां की थीं, अप्रैल 2024 के अंत में बनाए गए थे. वे बार-बार इसी अभियान की पोस्ट प्रकाशित करते, उन्हें अपवोट करते या उन पर टिप्पणी करते थे और किसी अन्य पोस्ट पर सक्रिय नहीं थे. फर्जीवाड़े की ओर इशारा करने वाले ऊपर के तीनों खाते एक से दस साल पहले बनाए गए थे और उनकी गतिविधियां कई तरह की थीं.
X पर अभियान की टिप्पणियां ऐसे खातों से पोस्ट की गईं, जो आम तौर पर केवल एक या दो पोस्ट ही करते थे. टिप्पणियों के साथ अक्सर “solarpanelfor.sale” जैसा कोई देखने में बेतरतीब लिंक होता था. ये लिंक ऐसी वेबसाइटों के एक समूह पर ले जाते थे, जिन्हें बार-बार डॉपेलगैंगर से जुड़ा बताया गया है. वेबसाइटों पर भौगोलिक पाबंदी थी, इसलिए उन्हें केवल लक्षित देश के आईपी पते वाले लोग ही देख सकते थे. हालांकि, संचालकों से चूक हो गई लगती है, जिसके कारण कुछ अंग्रेजी, जर्मन और पोलिश लेख केवल फ्रांस के आईपी पते से देखे जा सकते थे.

X की एक पोस्ट, जिसमें हमारे मॉडल से बनाई गई टिप्पणी शामिल है. टिप्पणी का अनुवाद है, “एक स्तब्धकारी कृत्य! राजनीति को कभी भी हिंसा से नहीं जोड़ा जाना चाहिए. हमें हिंसा नहीं, संवाद चाहिए.” साथ दिया गया लिंक डॉपेलगैंगर की ब्रांड वाली वेबसाइट rrn.media के जर्मन-भाषा संस्करण पर ले जाता है. हालांकि, 20 मई तक इसे केवल फ्रांस के आईपी पते से देखा जा सकता था.
संभवतः पहचान से बचने के लिए इस समूह ने रूस और चेक गणराज्य की कंपनियों से जुड़ी एक सेवा के माध्यम से हमारे मॉडल इस्तेमाल किए. इस सेवा का उद्देश्य रूस के लोगों को हमारी समर्थित देशों की पहुंच नीति(एक नई विंडो में खुलेगा) से बच निकलने में मदद करना था. हमने इस सेवा की एपीआई पहुंच बंद कर दी है.
दूसरे समूह ने लेखों का रूसी से अंग्रेजी और फ्रेंच में अनुवाद किया. रूसी पाठ मौलिक रचनाएं लगते हैं. बाद में इनमें से कई लेख एक ऐसी वेबसाइट पर प्रकाशित हुए, जिसे बार-बार डॉपेलगैंगर से जुड़ा बताया गया है: rrn.media. इसी समूह ने अपने लेखों के बारे में छोटी टिप्पणियां बनाईं, जो बाद में सोशल मीडिया पर दिखाई दीं.

हमारे मॉडल से बनाई गई X की पोस्ट, जिसके साथ rrn.media के एक लेख का लिंक है.
तीसरे समूह का उपयोग फ्रेंच-भाषा के लेख बनाने, उनका प्रूफ पढ़ने और उन्हें सुधारने के लिए किया गया. इसके बाद लेख franceeteu.today पर प्रकाशित किए गए, जिसे भी डॉपेलगैंगर से जुड़ा बताया गया है.
अंतिम समूह जर्मन भाषा में काम करता था. उसने डॉपेलगैंगर की वेबसाइट grenzezank.com से सामग्री ली और उससे वेबसाइट के नाम पर बने एक Facebook समूह और पेज के लिए छोटी पोस्ट तैयार कीं.
सामग्री
इस अभियान ने ऑनलाइन जो सामग्री प्रकाशित की, उसमें से अधिकांश यूक्रेन युद्ध पर केंद्रित थी. इसमें यूक्रेन, अमेरिका, नाटो और यूरोपीय संघ को नकारात्मक तथा रूस को सकारात्मक रूप में दिखाया गया. आम टिप्पणियों में दावा किया गया कि रूस यूरोपीय देशों का महत्वपूर्ण आर्थिक साझेदार है, रूस की आलोचना करने वाले पश्चिमी नेता अपने मतदाताओं की सोच से कटे हुए हैं और यूक्रेन कमजोर, भ्रष्ट और/या हार की कगार पर है.
कुछ मौकों पर डॉपेलगैंगर के अभिकर्ताओं ने हमारे मॉडल से यूरोप के प्रमुख राजनेताओं और रूस के आलोचकों के कार्टून चित्र बनवाने की कोशिश की. हमारे मॉडल ने इन अनुरोधों को अस्वीकार कर दिया.
प्रभाव का आकलन
हमने डॉपेलगैंगर के जिन अभियानों की पहचान की, उनमें से किसी को भी वास्तविक दर्शकों से उल्लेखनीय सकारात्मक प्रतिक्रिया मिलती नहीं दिखी.
9GAG पर सामान्य पोस्ट को 5 से 10 अपवोट मिले, जो मुख्यतः इस अभियान की सामग्री पोस्ट करने वाले खातों से थे, जबकि उन्हें 15 से 200 तक डाउनवोट मिले. X पर सामान्य पोस्ट लगभग 1,000 बार साझा की गईं, लेकिन उन्हें कोई जवाब या पसंद नहीं मिली. यह अंतर इतना बड़ा है कि इससे कृत्रिम रूप से पहुंच बढ़ाने का संकेत मिलता है. एक पोस्ट पर तीन जवाब आए और उन सभी ने उसे फर्जी बताया.

X पर डॉपेलगैंगर की पोस्ट का जवाब.
प्रभाव अभियान के असर का आकलन करने के लिए ब्रेकआउट स्केल(एक नई विंडो में खुलेगा) का उपयोग किया गया, जो उन्हें 1 (सबसे कम) से 6 (सबसे अधिक) के पैमाने पर मापता है. इसके आधार पर हम अपने मॉडल के उपयोग से जुड़ी गतिविधि को श्रेणी 2 में रखेंगे, जिसकी पहचान कई मंचों पर पोस्ट करने की गतिविधि से होती है, लेकिन किसी भी मंच पर उसे व्यापक प्रसार या दर्शकों की उल्लेखनीय प्रतिक्रिया नहीं मिली.