स्किप करके मेन कंटेंट पर जाऍं
OpenAI

1 जून 2025

सुरक्षा

अभियान “वेग फ़ोकस”: छल से जानकारी जुटाना और जनमत को प्रभावित करना

OpenAI ने उन खातों पर प्रतिबंध लगाया जो छल से जानकारी जुटाने, निगरानी-संबंधी शोध और आलोचकों को निशाना बनाने वाले जनमत प्रभाव अभियानों के लिए कृत्रिम बुद्धिमत्ता का इस्तेमाल कर रहे थे.

लोड किया जा रहा है...

यह अध्ययन मूल रूप से OpenAI की जून 2025⁠(एक नई विंडो में खुलेगा) की रिपोर्ट में प्रकाशित हुआ था.

संचालक

हमने ChatGPT खातों के एक छोटे नेटवर्क पर प्रतिबंध लगाया. ये खाते हमारे मॉडल का इस्तेमाल सामाजिक माध्यमों के लिए पोस्ट तैयार करने, डेटा संग्रहों का विश्लेषण करने और ऐसे ईमेल व संदेशों का चीनी से अंग्रेज़ी में अनुवाद करने के लिए कर रहे थे, जो छल से जानकारी हासिल करने के प्रयास लगते थे. ये खाते हमारे मॉडल को चीनी में निर्देश देते थे और ज़्यादातर मुख्यभूमि चीन के कामकाजी घंटों के दौरान सक्रिय रहते थे.

उन्होंने ऐसे संदेश तैयार किए जो भू-राजनीति पर केंद्रित तीन संस्थाओं—“फ़ोकस लेंस न्यूज़”, “ब्राइटवेव मीडिया यूरोप” और “विज़नरी एडवाइज़री ग्रुप” (वीएजी)—के कर्मचारियों की ओर से होने का दावा करते थे. इसके अलावा, इन ChatGPT खातों ने ऐसा पाठ तैयार किया जो इन तीनों संस्थाओं से जुड़े एक्स खातों की पोस्ट और परिचयों से मेल खाता था. अलग से, इन दुर्भावनापूर्ण पक्षों ने बताया कि ये संस्थाएँ खुफ़िया जानकारी जुटाने और उसका विश्लेषण करने की गतिविधियों को छिपाने का आवरण थीं. इन नामों के आधार पर हमने इस अभियान का नाम “वेग फ़ोकस” रखा है.

गतिविधियाँ

इस अभियान में चार मुख्य तरह के कामों में सहायता के लिए ChatGPT का इस्तेमाल किया गया. पहला, इन खातों ने मुख्य रूप से हमारे मॉडल से ऑनलाइन पहचान वाले व्यक्तियों के लिए सामाजिक माध्यमों की पोस्ट और परिचय तैयार करवाए. ये पहचानें जनमत को प्रभावित करने के एक गुप्त अभियान का हिस्सा लगती थीं. ये पोस्ट ऐसे एक्स खातों से फैलाई गईं जो खुद को पत्रकार और भू-राजनीतिक विश्लेषक बताते थे.

इस दुर्भावनापूर्ण पक्ष ने ChatGPT से यह ट्वीट तैयार किया और इसे ऐसे एक्स खाते से प्रकाशित किया जो लगातार इसी पक्ष की सामग्री प्रकाशित करता था.

इस दुर्भावनापूर्ण पक्ष ने ChatGPT से यह ट्वीट तैयार किया और इसे ऐसे एक्स खाते से प्रकाशित किया जो लगातार इसी पक्ष की सामग्री प्रकाशित करता था.

दूसरा, इन खातों ने प्रशासन के एक अधिकारी के नामांकन के संबंध में एक अमेरिकी सीनेटर को संबोधित पत्राचार की भाषा सुधारी और उसका अनुवाद किया. हम स्वतंत्र रूप से पुष्टि नहीं कर सकते कि इनमें से कोई पत्राचार भेजा गया था या नहीं.

तीसरा, इन खातों ने कंप्यूटर नेटवर्क पर हमला करने और उनकी कमज़ोरियों का फ़ायदा उठाने वाले साधनों के बारे में कई बुनियादी सवाल पूछे. हमारे मॉडल ने जवाब में केवल उनके इस्तेमाल और क्षमताओं की सामान्य व्याख्या दी. इन सवालों में उस उन्नत तकनीकी समझ का अभाव था जो इस रिपोर्ट में आगे वर्णित साइबर गतिविधियों के संचालकों में दिखती है. इससे सीमित विशेषज्ञता का संकेत मिलता है.

अंत में, ये उपयोगकर्ता नियमित रूप से कुछ संदेशों का चीनी से अंग्रेज़ी में अनुवाद करवाते थे. ये संदेश अज्ञात लोगों से बातचीत शुरू करने और अंततः उनसे जानकारी निकलवाने के लिए तैयार किए गए लगते थे. इनमें से कुछ संदेश सामाजिक माध्यमों पर पत्रकारों और शोधकर्ताओं को जवाब देने के लिए प्रकाशित किए गए. अन्य संदेश निजी तौर पर भेजे जाने वाले संदेशों जैसे थे और ऑनलाइन खोज में नहीं मिले.

इस अभियान से जुड़े एक एक्स खाते ने बिना किसी पूर्व परिचय के एक शोधकर्ता से संपर्क करने के लिए एक्स पर सार्वजनिक संदेश भेजा.

इस अभियान से जुड़े एक एक्स खाते ने बिना किसी पूर्व परिचय के एक शोधकर्ता से संपर्क करने के लिए एक्स पर सार्वजनिक संदेश भेजा.

मॉडल के उत्तर

इस नेटवर्क का मुख्य उद्देश्य यूरोप या तुर्की में रहने वाले पेशेवरों के रूप में खुद को पेश करके खुफ़िया जानकारी जुटाना प्रतीत होता था. संचालकों ने जो सामग्री तैयार करके ऑनलाइन प्रकाशित की, उसमें उन्होंने “फ़ोकस लेंस न्यूज़” को यूरोप स्थित एक स्वतंत्र संस्था बताया, जो विश्लेषण और समाचार रिपोर्टिंग में विशेषज्ञता रखती है. हालाँकि, संचालकों ने यह भी दावा किया कि यह पहचान वास्तव में खुफ़िया जानकारी जुटाने, उसका विश्लेषण करने और उसे प्रसारित करने में मदद देने के लिए एक आवरण थी.

सामाजिक माध्यमों पर दिए गए परिचयों में जिस वेबसाइट का लिंक था, उसके अनुसार विज़नरी एडवाइज़री ग्रुप तुर्की में स्थित है और पेशेवर भू-राजनीतिक परामर्श सेवाओं में विशेषज्ञता रखता है. संचालकों ने हमारे मॉडल से कुछ निर्देशों का चीनी से अंग्रेज़ी में अनुवाद करवाया. इन निर्देशों में दावा किया गया था कि वीएजी समूह अमेरिका की आर्थिक और वित्तीय नीतियों के बारे में जानकारी चाहता है और एक साक्षात्कार के लिए प्रति घंटे $2,000 देने को तैयार है. उन्होंने गोपनीय श्रेणी के दस्तावेज़ों के बदले भुगतान के प्रस्तावों का भी अनुवाद करवाया.

वीएजी समूह की वेबसाइट के तुर्की और अंग्रेज़ी संस्करण हैं. अंग्रेज़ी संस्करण के “हमसे संपर्क करें” पृष्ठ के मेन्यू में “हमसे संपर्क करें” के लिए चीनी अक्षर (聯絡) दिखाई देते हैं. पूरे डोमेन पर चीनी में लिखा यही एकमात्र पाठ था.

वीएजी समूह के “हमसे संपर्क करें” पृष्ठ का स्क्रीनशॉट, जिसमें नीचे खुलने वाले मेन्यू में “हमसे संपर्क करें” के लिए चीनी अक्षर (聯絡) दिखाई देते हैं.

वीएजी समूह के “हमसे संपर्क करें” पृष्ठ का स्क्रीनशॉट, जिसमें नीचे खुलने वाले मेन्यू में “हमसे संपर्क करें” के लिए चीनी अक्षर (聯絡) दिखाई देते हैं.

इस नेटवर्क की कुछ सामग्री जनमत को प्रभावित करने वाले अधिक व्यापक अभियानों की प्रचार सामग्री जैसी थी. दावों के अनुसार, जिनकी हम स्वतंत्र रूप से पुष्टि नहीं कर सकते, इस अभियान ने सामाजिक माध्यमों पर प्रभावशाली लोगों और विषयों की पहचान करने के लिए मशीन अधिगम, प्राकृतिक भाषा प्रसंस्करण और स्वचालित डेटा संग्रहण का इस्तेमाल किया.

प्रभाव

इस गतिविधि से जुड़े सामाजिक माध्यमों के खातों को ऑनलाइन वास्तविक उपयोगकर्ताओं से उल्लेखनीय प्रतिक्रिया नहीं मिली. केवल फ़ोकस लेंस न्यूज़ के एक्स खाते के अनुयायियों की संख्या काफ़ी अधिक थी—17,000. हालाँकि, यह खाता नवंबर 2014 में किसी दूसरे नाम से बनाया गया था, इसने तीन दिनों तक ट्वीट किए और फिर 2024 के मध्य तक निष्क्रिय रहा. ऐसा आम तौर पर उन खातों में दिखता है जिन पर अनधिकृत कब्ज़ा करके उन्हें किसी दूसरे उद्देश्य के लिए इस्तेमाल किया जाता है. इसलिए इस खाते के अनुयायियों की संख्या को सावधानी से देखा जाना चाहिए.

जनमत को प्रभावित करने वाले अभियानों का असर मापने वाले प्रसार पैमाने⁠(एक नई विंडो में खुलेगा) पर हम इस अभियान के सार्वजनिक हिस्से को श्रेणी 2 के निचले स्तर पर रखेंगे: कई मंचों पर गतिविधि, लेकिन इस बात के बहुत कम प्रमाण कि वास्तविक लोगों ने उनकी सामग्री अपनाई या उसे व्यापक रूप से साझा किया. इस अभियान में छल से जानकारी हासिल करने के प्रयासों और अन्य गुप्त गतिविधियों के प्रभाव का आकलन करने के लिए पर्याप्त प्रमाण उपलब्ध नहीं हैं.