जनवादी चीन से जुड़ा दुरुपयोग: निगरानी और प्रभाव गतिविधियां

यह केस स्टडी मूल रूप से OpenAI की अक्टूबर 2025⁠(एक नई विंडो में खुलेगा) की रिपोर्ट में प्रकाशित हुई थी.

ChatGPT का उपयोग विकास, प्रोफाइलिंग और प्रशासनिक कार्यों में सहायता के लिए करने वाले ऐसे व्यक्ति, जिनका जनवादी चीन सरकार की संस्थाओं से स्पष्ट रूप से संबंध था.

जैसा कि हमने मार्च में अमेरिका की एआई कार्ययोजना के संबंध में विज्ञान एवं प्रौद्योगिकी नीति कार्यालय को भेजे अपने प्रतिवेदन में बताया था, हमारा मानना है कि एआई से अधिकतम लोगों को लाभ पहुंचाने के लिए ऐसे व्यावहारिक नियमों के तहत इसे बढ़ावा देना होगा, जिनका उद्देश्य लोगों को वास्तविक हानि से बचाना हो, और लोकतांत्रिक एआई विकसित करनी होगी. लोकतांत्रिक एआई से हमारा तात्पर्य ऐसी एआई से है, जो उन लोकतांत्रिक सिद्धांतों के अनुरूप विकसित हो जिनका अमेरिका हमेशा से समर्थन करता आया है. इसमें निरंकुश शासन को अपनी शक्ति बढ़ाने और नागरिकों को नियंत्रित करने के लिए एआई टूल का उपयोग करने से रोकना शामिल है.

निरंकुश शासन द्वारा ChatGPT की क्षमताओं के दुरुपयोग के प्रयासों का पता लगाने और उन्हें बाधित करने में हमारा निवेश न केवल आज लोगों की रक्षा करता है, बल्कि यह महत्वपूर्ण जानकारी भी देता है कि ऐसे शासन भविष्य की क्षमताओं का दुरुपयोग कैसे कर सकते हैं. यह खंड ऐसे शासनों से संभावित रूप से जुड़े व्यक्तियों के बारे में इसी तरह के निष्कर्षों के एक समूह पर चर्चा करता है और इसका केंद्र जनवादी चीन है.

जैसा कि हमने जून में लिखा था, जनवादी चीन एआई के अपने निरंकुश संस्करण को आगे बढ़ाने में वास्तविक प्रगति कर रहा है. चीनी सरकारी संस्थाओं से स्पष्ट रूप से जुड़े व्यक्तियों द्वारा इस्तेमाल किए जा रहे ChatGPT खातों को बाधित करने की हमारी कार्रवाई इस निरंकुश परिवेश में एआई के मौजूदा उपयोग पर कुछ प्रकाश डालती है. इस उपयोग के कुछ पहलुओं का उद्देश्य ऑनलाइन या ऑफलाइन गतिविधियों की बड़े पैमाने पर निगरानी करना प्रतीत हुआ. यह इस क्षेत्र में निरंकुश दुरुपयोग की आशंका पर लगातार ध्यान देने के महत्व को रेखांकित करता है. इस उपयोग के अन्य पहलुओं का उद्देश्य अधिक गहन प्रोफाइलिंग करना प्रतीत हुआ. हमने इस गतिविधि से जुड़े खातों पर प्रतिबंध लगा दिया और इस रिपोर्ट में अपने निष्कर्ष साझा कर रहे हैं.

यह अध्ययन हमारी ओर से पहचानी और प्रतिबंधित की गई नियम-उल्लंघनकारी गतिविधियों के विरुद्ध की गई कुछ कार्रवाइयों पर आधारित है. यह गतिविधि हमारे मॉडल को बड़े पैमाने पर संस्थागत रूप से अपनाए जाने के बजाय अलग-अलग उपयोगकर्ताओं द्वारा ChatGPT इस्तेमाल किए जाने के अनुरूप थी. इसलिए, यह इस संदर्भ में विभिन्न एआई मॉडल के उपयोग की केवल एक सीमित झलक है.

हमने जिन खातों पर प्रतिबंध लगाया, उनमें से कुछ बड़े पैमाने पर निगरानी के टूल विकसित करने के लिए ChatGPT का इस्तेमाल करने की कोशिश कर रहे थे. इनमें अक्सर पश्चिमी या चीनी सोशल मीडिया मंचों से जुटाए गए डेटा का विश्लेषण किया जाता था. हमने फरवरी में ऐसे ही एक मामले की जानकारी दी थी, जिसका उद्देश्य एआई-संचालित सोशल मीडिया निगरानी टूल तैयार करना था. संचालकों का दावा था कि यह चीनी सुरक्षा बलों के लिए बनाया जा रहा था. ये उपयोगकर्ता आम तौर पर ChatGPT से ऐसे टूल की रूपरेखा बनाने या उनकी प्रचार सामग्री तैयार करने में मदद मांगते थे, लेकिन निगरानी को वास्तव में लागू करने के लिए नहीं.

उदाहरण के लिए, हमने हाल ही में एक उपयोगकर्ता पर प्रतिबंध लगाया, जो संभवतः चीन से हमारी सेवाएं इस्तेमाल करने के लिए वीपीएन का उपयोग कर रहा था. वह ChatGPT से सोशल मीडिया निगरानी टूल की प्रचार सामग्री और परियोजना योजनाएं तैयार करने में मदद मांग रहा था, जिसे कथित रूप से किसी सरकारी ग्राहक के लिए इस्तेमाल किया जाना था. इस टूल को सोशल मीडिया की एक “जांच प्रणाली” (探针) बताया गया था, जो कथित रूप से ट्विटर/एक्स, फेसबुक, इंस्टाग्राम, रेडिट, टिकटॉक और यूट्यूब पर उपयोगकर्ता द्वारा चरमपंथी अभिव्यक्ति बताए गए वक्तव्यों तथा जातीय, धार्मिक और राजनीतिक सामग्री को खोज सकती थी. उपयोगकर्ता ने सोशल मीडिया की वास्तविक निगरानी करने के लिए हमारे मॉडल का इस्तेमाल नहीं किया. हम स्वतंत्र रूप से इसकी पुष्टि नहीं कर सकते कि किसी चीनी सरकारी संस्था ने इस टूल का इस्तेमाल किया है या नहीं.

इसी तरह, हमने संभवतः किसी सरकारी संस्था से जुड़े एक दूसरे उपयोगकर्ता पर प्रतिबंध लगाया. उसने ChatGPT से एक ऐसी प्रणाली का प्रस्ताव लिखने में मदद मांगी थी, जिसे उसने “उच्च-जोखिम वाले उइगर-संबंधित व्यक्तियों के आगमन की चेतावनी देने वाला मॉडल” (高危涉维吾尔关注人员流入预警模型) बताया था. प्रस्ताव में एक ऐसे टूल का वर्णन था, जो यात्रा बुकिंग का विश्लेषण करके उनकी पुलिस रिकॉर्ड से तुलना करता और उइगर-संबंधित तथा उच्च-जोखिम वाले माने गए लोगों की यात्रा गतिविधियों की पूर्व चेतावनी देता. हालांकि, इस श्रेणी को अन्यथा परिभाषित नहीं किया गया था. उपयोगकर्ता ने हमारे मॉडल से ऐसा टूल बनाने में मदद नहीं मांगी थी, बल्कि केवल एक सामान्य प्रस्ताव तैयार करने को कहा था. इसलिए हम स्वतंत्र रूप से इसकी पुष्टि नहीं कर सकते कि वे किस तकनीक का उपयोग करना चाहते थे या किसी चीनी सरकारी संस्था ने ऐसे टूल का इस्तेमाल किया है या नहीं.

हमने उन उपयोगकर्ताओं पर भी प्रतिबंध लगाया, जिनका चीनी सरकारी संस्थाओं से संबंध प्रतीत होता था और जो अधिक विशिष्ट तथा लक्षित प्रोफाइलिंग और ऑनलाइन शोध के लिए ChatGPT का उपयोग करने की कोशिश कर रहे थे.

उदाहरण के लिए, एक उपयोगकर्ता ने ChatGPT से चीनी सरकार की आलोचना करने वाले एक एक्स खाते के वित्तपोषण स्रोतों की पहचान करने को कहा. एक दूसरे उपयोगकर्ता ने ChatGPT से मंगोलिया की एक याचिका के आयोजकों की पहचान करने को कहा. इन दोनों मामलों में हमारे मॉडल ने केवल सार्वजनिक रूप से उपलब्ध जानकारी दी, जिसमें वित्तपोषण के स्रोत या याचिका के आयोजकों की पहचान जैसे संवेदनशील विवरण शामिल नहीं थे.

इस गतिविधि के कुछ हिस्से में हमारे मॉडल का इस्तेमाल सार्वजनिक स्रोतों पर शोध करने वाले टूल के रूप में किया गया, ठीक वैसे ही जैसे पहले उपयोगकर्ता इंटरनेट या सोशल मीडिया पर खोज करते थे. उदाहरण के लिए, एक तीसरे उपयोगकर्ता ने ChatGPT से चीन के लिए प्रासंगिक रोज की ताजा खबरें पहचानने और उनका सारांश देने को कहा. इनमें 1989 के थ्येनआनमन चौक नरसंहार की बरसी और दलाई लामा के जन्मदिन जैसे संवेदनशील विषय भी शामिल थे.