ऑपरेशन “A2Z”: बहुभाषी प्रभाव गतिविधि

यह प्रकरण अध्ययन मूल रूप से OpenAI की अक्टूबर 2024⁠(एक नई विंडो में खुलेगा) की रिपोर्ट में प्रकाशित हुआ था.

हमने खातों के एक ऐसे समूह पर प्रतिबंध लगाया, जिसकी पहले कोई जानकारी नहीं थी और जो हमारी API से टिप्पणियाँ बनाकर उन्हें X और Facebook पर पोस्ट कर रहा था. इनमें से कई टिप्पणियों में अज़रबैजान की प्रशंसा या उसके मानवाधिकार रिकॉर्ड का बचाव किया गया था, लेकिन गतिविधि कई अन्य विषयों पर भी केंद्रित थी, जिससे संकेत मिलता है कि यह व्यावसायिक रूप से संचालित ऑपरेशन हो सकता है. अज़रबैजान की लगातार प्रशंसा और ऑपरेशन के कई चरणों में एआई इस्तेमाल करने के प्रयास को देखते हुए हमने इस नेटवर्क को “A2Z” नाम दिया है.

रूसी-भाषी Telegram ऑपरेशन की तरह, जिसका हमने मई में खुलासा करके उसे “खराब व्याकरण” नाम दिया था, इस ऑपरेशन ने भी सोशल मीडिया पर टिप्पणियाँ करने के लिए हमारे मॉडलों का उपयोग किया. इसने नकली सोशल मीडिया व्यक्तित्वों को संभालने, परिचय लिखने, पोस्ट और टिप्पणियों का विश्लेषण करने, कई भाषाओं में जवाब तैयार करने और उनकी भाषा जाँचने के लिए एआई का उपयोग किया. इसके बाद जवाब X या Facebook पर पोस्ट किए जाते थे. अधिकांश सामग्री छोटी टिप्पणियों के रूप में थी, लेकिन उसमें खास शैली वाली छवियाँ भी शामिल थीं. इनमें अक्सर 1930 के दशक के पोस्टरों की शैली अपनाई गई थी. इसलिए लगता है कि इन्हें धोखा देने के बजाय ध्यान और सहभागिता आकर्षित करने के लिए बनाया गया था. हालाँकि, इन खास शैली वाली छवियों की सामान्य पोस्टों को केवल 0–5 सहभागिताएँ मिलीं.

एआई के इस उपयोग ने ऑपरेशन को एक साथ कई सोशल मीडिया खाते संभालने में सक्षम बनाया. हमने X और Facebook पर लगभग 150 ऐसे खाते पहचाने जो इस गतिविधि से मेल खाते थे और कुछ अन्य खातों पर भी संदेह था. इससे ऑपरेशन कभी-कभी इंटरनेट पर वास्तविक लोगों के साथ टिप्पणियों की शृंखलाओं में संवाद भी कर सका. कभी-कभी हमने वास्तविक लोगों और नकली खातों के बीच छोटी बातचीत देखी, जिनमें नकली खातों के जवाब हमारे मॉडलों से बनाए गए थे.

एआई से पहले इतने बड़े ऑपरेशन के लिए संभवतः ट्रोलों की एक बड़ी टीम चाहिए होती और ऐसे प्रयास से जुड़ी सभी लागतें तथा जानकारी लीक होने के जोखिम भी उठाने पड़ते. हालाँकि, एआई पर निर्भरता ने इस ऑपरेशन को हमारी कार्रवाई के प्रति असामान्य रूप से संवेदनशील भी बना दिया. चूँकि इसने आक्रमण शृंखला की कई कड़ियों पर एआई का उपयोग किया था, इसलिए हमारी कार्रवाई ने एक साथ कई कड़ियाँ तोड़ दीं. जून की शुरुआत में हमारे इस गतिविधि को बाधित करने के बाद, ऑपरेशन से जुड़े पहचाने गए सोशल मीडिया खातों ने EU, ब्रिटेन और फ़्रांस की चुनाव अवधि के दौरान पोस्ट करना बंद कर दिया. कुछ ने अगस्त के अंत में फिर से पोस्ट करना शुरू किया. उनकी कुछ पोस्टों में ऐसे संकेत थे कि वे संभवतः एआई से बनाई गई थीं. ऐसे संकेतों वाली सामग्री हमारे मॉडलों से नहीं बनी थी.

इस अभियान ने कई राजनीतिक विषयों पर केंद्रित छोटी टिप्पणियाँ बनाईं. सबसे प्रमुख विषय अज़रबैजान की सरकार और घरेलू, क्षेत्रीय तथा अंतरराष्ट्रीय राजनीति में उसकी भूमिका की प्रशंसा था. उदाहरण के लिए, मध्य एशियाई देशों के बीच एकता को बढ़ावा देना या संयुक्त राष्ट्र जलवायु परिवर्तन सम्मेलन की मेज़बानी करना. अंग्रेज़ी और इतालवी भाषा के खातों ने यूरोप को ऊर्जा देने वाले आपूर्तिकर्ता के रूप में अज़रबैजान की भूमिका की प्रशंसा की. कभी-कभी ऐसा अज़ेरी सरकार के मानवाधिकार रिकॉर्ड की आलोचना के जवाब में किया गया.

गतिविधि के अन्य हिस्से एआई के लाभ और विकास, वित्तीय बाज़ारों, पर्यावरणीय मुद्दों, क्रिप्टोकरेंसियों और व्यापक रूप से प्रौद्योगिकी पर केंद्रित थे. एक समूह संयुक्त अरब अमीरात पर केंद्रित था और उसे निवेश के लिए स्थिर गंतव्य बताता था. वह अक्सर इसकी तुलना अमेरिका में राजनीतिक अस्थिरता के दावों से करता था.

कुछ नकली व्यक्तित्व यूरोप या अमेरिका की राजनीति पर केंद्रित थे. इस गतिविधि की विचारधारा अलग-अलग क्षेत्रों में भिन्न थी. उदाहरण के लिए, अमेरिका पर केंद्रित एक X खाता स्वयं को उदारवादी बताकर पूर्व अमेरिकी राष्ट्रपति ट्रंप की आलोचना करता था, जबकि फ़्रांसीसी में पोस्ट करने वाले कुछ Facebook खाते राष्ट्रपति मैक्रों की आलोचना और नेशनल रैली (RN) पार्टी का समर्थन करते थे. कभी-कभी यह आलोचना घरेलू मुद्दों पर केंद्रित होती थी, ताकि यह तर्क दिया जा सके कि संबंधित देश को रूस के यूक्रेन पर आक्रमण सहित अंतरराष्ट्रीय मामलों में हस्तक्षेप नहीं करना चाहिए.

यह ऑपरेशन Facebook और X पर बहुत सक्रिय था और संभवतः इसके सैकड़ों खाते थे. X पर इसके कुछ खातों के पास सशुल्क सत्यापन का नीला निशान था. दोनों मंचों से नमूने के तौर पर लिए गए लगभग 150 खातों में हमें ऐसा कोई खाता नहीं मिला जिसके फ़ॉलोअर की संख्या उल्लेखनीय हो. जाँच के दौरान X पर मिली सबसे बड़ी फ़ॉलोअर संख्या 222 थी, जबकि सामान्य संख्या लगभग 15 से 22 के बीच थी और X की सामान्य पोस्टों को एकल अंक में सहभागिताएँ मिलीं. इसी तरह, हमारी जाँच के दौरान किसी Facebook पोस्ट पर मिली प्रतिक्रियाओं की सबसे बड़ी संख्या 36 थी, जबकि सामान्य संख्या 0–5 के बीच थी. हालाँकि, हमें कुछ ऐसे अवसर मिले जब ऑपरेशन की पोस्टों पर वास्तविक लोगों ने जवाब दिए. ये जवाब हमेशा सकारात्मक नहीं थे और कभी-कभी वास्तविक लोग नकली खातों का खंडन करते थे. फिर भी, वे कई मंचों, भाषाओं और विषयों पर दर्शकों को जोड़ने की कुछ क्षमता तो दिखाते हैं.

प्रभाव अभियानों के असर का आकलन करने वाले ब्रेकआउट पैमाने पर, जो उन्हें 1 (सबसे कम) से 6 (सबसे अधिक) तक आँकता है, हम इस ऑपरेशन को श्रेणी दो के ऊपरी सिरे पर रखेंगे, जहाँ इसके श्रेणी तीन में पहुँचने का जोखिम था. इसकी पहचान कई मंचों पर पोस्ट करने की गतिविधि और इसकी सामग्री से वास्तविक लोगों की सहभागिता के कुछ प्रमाणों से हुई. हालाँकि, हमारे मॉडलों के उपयोग पर इस ऑपरेशन को प्रतिबंधित करने और उद्योग के समकक्षों से जानकारी साझा करने के बाद, हमारे पहचाने गए सोशल मीडिया खाते कई सप्ताह तक निष्क्रिय रहे. इस प्रकार यह ऑपरेशन दिखाता है कि एआई का उपयोग संचालकों की क्षमता बढ़ा सकता है, लेकिन किसी एआई मॉडल पर उनकी निर्भरता उन्हें कार्रवाई से बाधित किए जाने के प्रति अधिक संवेदनशील भी बनाती है.