रूस के एक नए गुप्त प्रभाव वाले कैम्पेन को रोकना

हमारा मकसद यह पक्का करना है कि आर्टिफ़िशियल जेनरल इंटेलिजेंस से पूरी इंसानियत को फ़ायदा हो. हम ऐसे AI टूल बनाने के लिए अपने इनोवेशन का इस्तेमाल करके इस मकसद को आगे बढ़ाते हैं, जो लोगों को मुश्किल समस्याओं को हल करने में मदद करते हैं. इसमें ऐसे टूल बनाना भी शामिल है जो हमें गुप्त प्रभाव अभियानों (IO) का पता लगाने, उनकी जाँच करने, उन्हें रोकने और उनका पर्दाफ़ाश करने में मदद करते हैं. ये अभियान लोगों की राय बदलने या राजनीतिक नतीजों को प्रभावित करने की धोखेभरी कोशिशें होती हैं, जिनमें इनके पीछे काम करने वाले लोगों की असली पहचान या इरादे ज़ाहिर नहीं किए जाते.

हमने हाल ही में रूस से जुड़े ChatGPT अकाउंट्स के एक ग्रुप पर रोक लगाई है. इनका इस्तेमाल 'इंटरनेशनल बर्क इंस्टीट्यूट' (IBI) को प्रमोट करने के लिए किया जा रहा था, जो ख़ुद को इज़राइल में स्थित एक "एक्सपर्ट कम्युनिटी" बताता है. AI से बनी सोशल मीडिया पोस्ट की जाँच से हमें एक बड़े प्रभाव वाले ऑपरेशन का पता चला. यह ऑपरेशन एक ऐसी वेबसाइट पर आधारित था जिसमें कॉपी किया गया और गलत तरीके से श्रेय दिया गया एकेडमिक काम था, एक "संप्रभुता" इंडेक्स था जो रूस को अच्छी रोशनी में दिखाता था, और इसमें operators की रूसी पहचान छिपाने की कोशिशें थीं. हालांकि यह कैंपेन शायद बहुत कम लोगों तक पहुँचा, लेकिन इसकी विस्तृत बनावट इसे यूक्रेन युद्ध शुरू होने के बाद से रूस से जुड़े⁠(एक नई विंडो में खुलेगा) अन्य प्रभाव वाले⁠(एक नई विंडो में खुलेगा) ऑपरेशन⁠(एक नई विंडो में खुलेगा) जिन्हें हमने रोका⁠(एक नई विंडो में खुलेगा) था उनसे अलग बनाती है. यह रिपोर्ट बताती है कि यह ऑपरेशन कैसे काम करता था, इसमें ChatGPT की क्या भूमिका थी, और हमने इसे रोकने के लिए क्या किया.

हमने ChatGPT अकाउंट्स के एक ग्रुप पर बैन लगा दिया, जिनके रूस से शुरू होने की बहुत ज़्यादा संभावना थी. Operators ने रूसी भाषा में प्रॉम्प्ट देकर सोशल मीडिया कमेंट जेनरेट करवाए और उन्हें Substack, Telegram, X, Facebook और LinkedIn पर पोस्ट किया. उनके जेनरेट किए गए ज़्यादातर कमेंट अंग्रेज़ी में थे और operators ने ChatGPT को निर्देश दिया था कि वे रूसी भाषा से जुड़े किसी भी संकेत को छिपा दें. क्योंकि हम रूस से अपने मॉडल के एक्सेस की अनुमति नहीं देते हैं, इसलिए उन्होंने हमारे प्लेटफ़ॉर्म को एक्सेस करने के लिए VPN का इस्तेमाल किया.

ज़्यादातर कंटेंट 'इंटरनेशनल बर्क इंस्टीट्यूट' (IBI) नाम की एक कथित "एक्सपर्ट कम्युनिटी" को प्रमोट करने के लिए जेनरेट किया गया था. IBI ब्रैंड एक ऐसी वेबसाइट से जुड़ा था जिसे फ़रवरी 2025 में रजिस्टर किया गया था. इस साइट का दावा था कि इंस्टीट्यूट इज़राइल में स्थित है. साइट पर पब्लिश किए गए आर्टिकल हमारे मॉडल से नहीं जेनरेट किए गए थे. कई आर्टिकल असली एकेडमिक लेखों से कॉपी किए गए थे, जिन्हें गलत लेखकों के नाम से पब्लिश किया गया था; कुछ ऐसे लगते थे जैसे उन्हें किसी स्लाविक भाषा बोलने वाले ने लिखा हो और फिर मशीन से अनुवाद किया गया हो. उदाहरण के लिए, IBI वेबसाइट के नीचे दिए गए स्क्रीनशॉट में एक अस्वाभाविक वाक्यांश का इस्तेमाल किया गया है, जिसे सबसे आसानी से किसी स्लाविक भाषा से सीधे मशीन ट्रांसलेशन के तौर पर समझा जा सकता है.

हमारी जानकारी के मुताबिक, यह एक नया और पहले कभी सामने न आया गुप्त प्रभाव अभियान है. इसकी सबसे ख़ास बात है "संप्रभुता सूचकांक" का निर्माण, जिसे रूस की तारीफ़ करने और पश्चिमी देशों को नीचा दिखाने के लिए एक तथाकथित "विचार समूह" द्वारा बढ़ावा दिया गया. यह पहली बार है जब हमने रूस से जुड़े किसी ऐसे प्रभाव अभियान को रोका है, जिसे इतनी बारीकी और विस्तार से चलाया गया था.

इस ऑपरेशन में ChatGPT का मुख्य इस्तेमाल ऐसे सोशल मीडिया पोस्ट जेनरेट करने के लिए किया गया, जो IBI वेबसाइट के आर्टिकल को प्रमोट करते थे. हमने X, LinkedIn, Facebook, Substack और Telegram पर ऐसे पोस्ट देखे. कुछ पोस्ट उन अकाउंट्स से किए गए थे जिन पर IBI का नाम और लोगो था; वहीं कुछ पोस्ट आम यूज़र (जो शायद असली नहीं थे) की तरफ़ से किए गए लगते थे, जिनकी मुख्य एक्टिविटी IBI के आर्टिकल पोस्ट करना ही थी.

इन प्रोएक्टिव पोस्ट के अलावा, operators ने अलग-अलग विषयों पर असली Substack यूज़र की पोस्ट के जवाब भी जेनरेट किए. इन जवाबों में आम तौर पर IBI चैनल को फ़ॉलो करने का अनुरोध होता था और इन्हें IBI अकाउंट से Substack पर पोस्ट किया जाता था.

IBI के बारे में कंटेंट जेनरेट करने के अलावा, operators में से एक ने जर्मन भाषा में पोस्ट भी जेनरेट किए, जिन्हें “Lahme Ente” (“lame duck”) नाम के Telegram चैनल पर पोस्ट किया गया. इन पोस्ट्स में अक्सर यूक्रेन, EU और जर्मन सरकार की आलोचना की जाती थी और रूस के साथ बेहतर रिश्तों की वकालत की जाती थी.

दूसरे operator ने IBI से जुड़े कंटेंट के अलावा, जर्मनी, अमेरिका, फ़्रांस, पोलैंड और तुर्की पर केंद्रित एक दर्जन Telegram चैनलों (जिनमें 'Lahme Ente' भी शामिल है) के लिए लोगो जेनरेट किए. इनमें से कुछ चैनल कभी-कभी IBI के बारे में पोस्ट करते थे या IBI की ही पोस्ट शेयर करते थे. दूसरे operator ने इन चैनलों की एक्टिविटी का रूसी भाषा में सारांश भी बार-बार मांगा. अमेरिका पर केंद्रित चैनलों में से एक, जो ख़ुद को अमेरिकी आउटलेट बता रहा था, उसके बायो में ऐसी कई बातें थीं जिनसे पता चलता था कि उसे चलाने वाले की मातृभाषा अंग्रेज़ी नहीं थी.

इस ऑपरेशन का मुख्य केंद्र 'इंटरनेशनल बर्क इंस्टीट्यूट' (IBI) लग रहा था, हालाँकि हमने जिस एक्टिविटी को रोका, वह सीधे इंस्टीट्यूट की वेबसाइट पर मौजूद कंटेंट के बजाय, सोशल मीडिया पर उस वेबसाइट को प्रमोट करने या उससे लिंक करने वाले कंटेंट पर केंद्रित थी.

यह साइट ख़ुद को इज़राइल में एक पते वाली "एक्सपर्ट कम्युनिटी" के तौर पर पेश करती थी. 17 जुलाई तक, इसकी वेबसाइट पर दावा किया गया था कि इसमें फ़्रांसिस फ़ुकुयामा और नोम चॉम्स्की जैसी बड़ी हस्तियों समेत कई वर्ल्ड-क्लास एक्सपर्ट्स शामिल हैं और इसने कई तरह की रिसर्च पब्लिश की हैं. हालांकि, IBI वेबसाइट पर एक्सपर्ट्स से जुड़े और सितंबर 2025 से मई 2026 के बीच पब्लिश हुए 36 आर्टिकल के सैंपल को रिव्यू करने पर पता चला कि उनमें से 34 आर्टिकल इंटरनेट पर कहीं और से कॉपी किए गए थे.

इनमें से कुछ आर्टिकल कई साल पुराने थे; तो कुछ गलत लेखकों के नाम से बताए गए थे. उदाहरण के लिए, चीन-पाकिस्तान इकोनॉमिक कॉरिडोर पर लिखा एक आर्टिकल कैम्ब्रिज यूनिवर्सिटी प्रेस के ओरिजिनल आर्टिकल से कॉपी किया हुआ लगता है, लेकिन इसे गलत तरीके से नॉटिंघम यूनिवर्सिटी के एक ऐसे प्रोफ़ेसर के नाम से बताया गया है जिनकी विशेषज्ञता दक्षिण एशियाई राजनीति में है.

ऐसा लगता है कि माइग्रेशन गवर्नेंस पर एक और आर्टिकल 'माइग्रेशन पॉलिसी इंस्टीट्यूट' से कॉपी किया गया है, लेकिन उसे फ़ूड साइंस के एक ऑस्ट्रेलियाई प्रोफ़ेसर के नाम से गलत तरीके से पब्लिश किया गया था. इस हरकत से पता चलता है कि IBI वेबसाइट को असली कंटेंट से भरकर उसे ज़्यादा भरोसेमंद दिखाने की कोशिश की जा रही है, जबकि उस कंटेंट के असली सोर्स को छिपाया जा रहा है.

इन आर्टिकल के साथ-साथ, IBI की वेबसाइट पर अलग-अलग देशों और उनकी संप्रभुता के बारे में रिपोर्ट भी थीं, जिन्हें संस्थान के इंडेक्स के आधार पर मापा गया था. ये रिपोर्ट हमारे मॉडल का इस्तेमाल करके नहीं बनाई गई थीं. इनमें से कुछ रिपोर्ट दो देशों के बीच तुलना के तौर पर पेश की गई थीं. वहीं कुछ रिपोर्ट ख़ास तौर पर किसी एक देश पर केंद्रित थीं, ख़ासकर उन देशों पर जो यूक्रेन के ख़िलाफ़ रूस की जंग की आलोचना करते हैं, जैसे कि फ़्रांस, जर्मनी और यूरोपीय संघ. इस ऑपरेशन के तहत अमेरिका के बारे में भी इसी तरह की बातें फैलाई गईं. ये रिपोर्ट आम तौर पर आलोचनात्मक और तीखी बहस वाली थीं; इनके कुछ उदाहरण में ये शामिल हैं:

• फ़्रांस⁠(एक नई विंडो में खुलेगा): 'मैक्रोनवाद के दस साल के शासन का नतीजा ठीक वैसा ही रहा, जैसा Rothschild Bank से एलिसी पैलेस आए किसी मैनेजर से उम्मीद की जा सकती थी: फ़्रांस को ऐतिहासिक पूंजी वाली तिजोरी की तरह खोल दिया गया, और अब इसे टुकड़ों में बेचा जा रहा है.'
• अमेरिका⁠(एक नई विंडो में खुलेगा): 'ट्रंप [बीजिंग में] दुनिया के नंबर 1 संप्रभुता सूचकांक के साथ पहुँचे और कई ऐसे कदम उठाकर लौटे जिन्हें [...] स्वायत्तता में स्वैच्छिक कमी कहा जा सकता है.'
• जर्मनी⁠(एक नई विंडो में खुलेगा): 'जर्मनी को एक ऐसी इंडस्ट्रियल पॉलिसी चाहिए जो सिर्फ़ स्टॉक की कीमतों को ही नहीं, बल्कि नौकरियों को भी बचाए. देश को बिना किसी रोक-टोक या शोर-शराबे के, अपनी पहचान के बारे में ईमानदारी से बातचीत करने की ज़रूरत है. उसे अमेरिकी ठिकानों पर निर्भर रहने के बजाय, असल सैन्य संप्रभुता की ज़रूरत है. और उसे ऐसे नेताओं की ज़रूरत है जिनकी पहली वफ़ादारी जर्मनी के लोगों के प्रति हो, न कि न्यूयॉर्क के कॉर्पोरेट बोर्ड ऑफ़ डायरेक्टर्स के प्रति.'
• यूरोपीय संघ⁠(एक नई विंडो में खुलेगा): 'स्लोवाकिया बनाम इटली: ‘बड़े’ संघ के बंधक देशों की संप्रभुता के विरोधाभास'

हालाँकि IBI को प्रमोट करने वाला सोशल मीडिया कंटेंट रूस के उन ChatGPT यूज़र ने बनाया था जिन्होंने अपनी पहचान छिपाई थी, और IBI वेबसाइट का ज़्यादातर कंटेंट कहीं और से कॉपी किया हुआ लग रहा था, फिर भी कुछ ऑनलाइन सबूत बताते हैं कि इज़राइल में कुछ असली लोगों ने भी आर्टिकल सबमिट करने और कॉन्फ़्रेंस में IBI का प्रतिनिधित्व किया हो सकता है. हम इन लोगों, IBI और रूस में operators के बीच के संबंध का पता लगाने की स्थिति में नहीं हैं.

इस ऑपरेशन का तुरंत असर सीमित ही दिखा: आम सोशल मीडिया पोस्ट को बहुत कम व्यूज़ मिले और IBI के आधिकारिक अकाउंट्स के सब्सक्राइबर की संख्या भी कम थी. ऑपरेशन के Telegram चैनल पर ज़्यादा सब्सक्राइबर जुड़े, जिनमें आम तौर पर हर चैनल के 10-20,000 फ़ॉलोअर्स थे. इस ऑपरेशन के असर को समझने के लिए Brookings के Breakout Scale⁠(एक नई विंडो में खुलेगा) का इस्तेमाल करते हुए, हम इसे Category Three (कई प्लेटफ़ॉर्म, और असली ऑडियंस तक पहुँचने के कुछ संकेत) के निचले स्तर पर रखेंगे.

इस ऑपरेशन का महत्व उन ऑडियंस तक पहुँचने में उतना नहीं है, जितना उस इंफ़्रास्ट्रक्चर को बनाने में है जो इसके ज़रिए तैयार किया गया. हालाँकि इसमें शामिल लोगों ने ChatGPT का इस्तेमाल सिर्फ़ अलग-अलग प्रमोशनल पोस्ट बनाने के लिए किया, लेकिन उन पोस्ट से एक ऐसे संस्थान की छवि बनी जो भरोसेमंद लगता था, जिसमें कथित एक्सपर्ट, दोबारा पब्लिश किया गया एकेडमिक काम और कथित तौर पर अपना बनाया हुआ रिस्क इंडेक्स शामिल था. इससे पता चलता है कि कैसे प्रभाव बनाने वाले लोग AI का इस्तेमाल एक सपोर्टिंग टूल के तौर पर कर सकते हैं ताकि वे अपनी विश्वसनीयता बना सकें, अपनी पसंद की बातों के असली सोर्स को छिपा सकें और ऐसे एस्सेट्स तैयार कर सकें जिन्हें समय के साथ बढ़ाया जा सके. इससे यह भी पता चलता है कि कैसे AI का सहायक तौर पर किया गया इस्तेमाल पूरे ऑपरेशन के पकड़े जाने की वजह बन सकता है.