“उपहासात्मक समीक्षा” मोहीम: चीनमधून चालवलेली प्रभाव कारवाई
तैवानच्या एका समाजमाध्यम प्रभावकावर आणि अमेरिकेशी संबंधित विषयांवर टीका करणाऱ्या पोस्ट कृत्रिम बुद्धिमत्तेद्वारे तयार करणारी खाती OpenAI ने प्रतिबंधित केली.
हा प्रकरण-अभ्यास मूळतः OpenAI च्या जून 2025(नवीन विंडोमध्ये उघडेल) च्या अहवालात प्रकाशित झाला होता.
कर्ता
गुप्त प्रभाव कारवाईशी सुसंगत अशा समाजमाध्यम पोस्ट मोठ्या प्रमाणात तयार करण्यासाठी आमची प्रारूपे वापरत असल्याचे आढळलेली ChatGPT खाती आम्ही प्रतिबंधित केली. तपासादरम्यान ही खाती अंतर्गत कामगिरीची परीक्षणेही तयार करत असल्याचे आम्हाला आढळले.
या खात्यांनी प्रामुख्याने चिनी भाषेत प्रॉम्प्ट दिले आणि चीनशी संबंधित राजकीय व भूराजकीय विषयांवर लक्ष केंद्रित केले. एका वापरकर्त्याने प्रॉम्प्टमध्ये आपण चीनच्या प्रचार विभागासाठी काम करत असल्याचे म्हटले होते. मात्र, या दाव्याची पडताळणी करणारा स्वतंत्र पुरावा आमच्याकडे नाही.
वर्तन
आम्ही प्रतिबंधित केलेली खाती प्रामुख्याने दोन प्रकारचे काम करत होती. यांपैकी सर्वाधिक काम इंग्रजी आणि चिनी भाषेत, तसेच काही प्रमाणात उर्दूमध्ये समाजमाध्यमांसाठी छोट्या प्रतिक्रिया तयार करण्याचे होते. यापैकी अनेक प्रतिक्रिया टिकटॉक आणि एक्सवर पोस्ट केल्याचे आम्हाला आढळले. याशिवाय काही मजकूर रेडिट, फेसबुक आणि विविध संकेतस्थळांवरही दिसला.
सामान्यतः प्रथम एका “मुख्य” खात्यावरून प्रतिक्रिया पोस्ट केली जाई. हे खाते अनेकदा केवळ त्या पोस्टसाठीच तयार केल्याचे दिसे. त्यानंतर इतर खात्यांवरून प्रत्युत्तरांची मालिका पोस्ट केली जाई. हे वर्तन स्वाभाविक सहभागाचा खोटा आभास निर्माण करण्यासाठी आखलेले दिसले.
या कारवाईशी संबंधित, “#USAID बंद करणे ही केवळ #सुरुवात आहे!” या शीर्षकाची टिकटॉक पोस्ट. वाहिनीचे नाव, चित्रफितीतील उपशीर्षकांचा मजकूर आणि या पडद्यावरील छायाचित्रात दिसणाऱ्या सर्व प्रतिक्रिया या जाळ्याने ChatGPT वापरून तयार केल्या होत्या.
टिकटॉकवर प्रतिक्रिया देणाऱ्या खात्यांनी विविध भाषा आणि लिप्यांतील पडद्यावरील नावे वापरली होती. ती नावे अनेकदा त्यांनी पोस्ट केलेल्या मजकुराच्या भाषेशी संबंधित नव्हती. उदाहरणार्थ, कोरियन नावाच्या खात्याने उर्दूमध्ये प्रतिक्रिया पोस्ट केली, तर थाई आणि हिब्रू नावे असलेल्या खात्यांनी या जाळ्याने तयार केलेल्या इंग्रजी प्रतिक्रिया पोस्ट केल्या. एक्सवर प्रतिक्रिया देणारी खाती सामान्यतः व्यंगचित्रांसारखी परिचय-प्रतिमा वापरत होती आणि काही खात्यांची नावे क्रिप्टोचलनाशी संबंधित होती.
ट्विट आणि त्यावरील प्रत्युत्तरे, हे सर्व या जाळ्याने ChatGPT वापरून तयार केले होते.
हे जाळे फेसबुकवर तुलनेने कमी सक्रिय होते. बातम्यांची माध्यमे असल्याचे भासवणाऱ्या दोन पृष्ठांसाठी नावे आणि परिचय-प्रतिमा तयार करणे, हे त्याचे प्रमुख काम होते. दोन्हीपैकी कोणत्याही पृष्ठाला अनुयायी किंवा पसंती नव्हत्या आणि प्रत्येक पृष्ठावर मोजक्याच पोस्ट होत्या.
या कारवाईशी संबंधित असण्याची शक्यता आम्ही ओळखलेला चित्रफीत सामायिक करणारा फेसबुकवरील मजकूर.
या जाळ्याने कधीकधी चिनी किंवा इंग्रजी भाषेत दीर्घ स्वरूपाच्या पोस्टही तयार केल्या. अशी एक पोस्ट रेडिटवर आणि आणखी दोन पोस्ट विविध जालमंचांवर असल्याचे आम्हाला आढळले. दुसऱ्या प्रकारच्या कामात अंतर्गत धोरण किंवा कामगिरीच्या परीक्षणाची कागदपत्रे वाटतील असा मजकूर तयार करण्यासाठी ChatGPT वापरले जात होते.
निर्मित मजकूर
या धोका निर्माण करणाऱ्या घटकाने तयार केलेल्या समाजमाध्यम मजकुरात विविध विषय होते आणि ते सर्व चीनच्या भूरणनीतिक हितसंबंधांशी जवळून सुसंगत होते.
काही मजकूर तैवानवर केंद्रित होता. त्यात विशेषतः चिनी साम्यवादी पक्षाविरुद्धच्या प्रतिकाराची कल्पना मांडणाऱ्या आणि तैवानवर केंद्रित असलेल्या “उलट आघाडी”(नवीन विंडोमध्ये उघडेल) (“逆統戰”) या चित्रफीत व फलक खेळाला लक्ष्य केले होते. या जाळ्याने खेळावर चिनी भाषेत डझनभर टीकात्मक प्रतिक्रिया तयार केल्या आणि त्यानंतर त्याला व्यापक विरोध झाल्याचा दावा करणारा दीर्घ लेख तयार केला. ही या कारवाईची सर्वांत वैशिष्ट्यपूर्ण कृती होती. त्यामुळे आम्ही या मोहिमेला “उपहासात्मक समीक्षा” असे नाव दिले आहे.
इंग्रजी आणि उर्दूमधील इतर मजकुराने पाकिस्तानी कार्यकर्त्या महरंग बलोच यांना लक्ष्य केले. त्यांनी बलुचिस्तानमधील चीनच्या गुंतवणुकीवर जाहीर टीका केली आहे(नवीन विंडोमध्ये उघडेल). या जाळ्याशी संबंधित टिकटॉक खाते आणि फेसबुक पृष्ठाने बलोच एका अश्लील चित्रपटात दिसल्याचा खोटा आरोप करणारी चित्रफीत पोस्ट केली. त्यानंतर या कारवाईने व्यापक सहभागाचा आभास निर्माण करण्यासाठी दोन्ही भाषांमध्ये शेकडो छोट्या प्रतिक्रिया तयार केल्या.
महरंग बलोच यांच्या टिकटॉक चित्रफितीवरील धक्का व्यक्त करणाऱ्या प्रतिक्रिया.
मजकुराचा अंतिम संच अमेरिकेच्या आंतरराष्ट्रीय विकास संस्थेच्या बंद होण्यावर केंद्रित होता. या संस्थेला USAID असेही म्हणतात. या निर्णयाचे समर्थन किंवा टीका करणाऱ्या छोट्या प्रतिक्रिया तयार करण्यात आल्या. या प्रतिक्रिया टिकटॉक आणि एक्सवर पोस्ट करण्यात आल्या.
मदतीचा प्रश्न आयातशुल्काच्या प्रश्नाशी जोडणारे आणि या जाळ्याने ChatGPT वापरून तयार केलेले ट्विट.
शेवटी, धोका निर्माण करणाऱ्या घटकांनी अंतर्गत कागदपत्रे वाटतील असा मजकूर तयार करण्यासाठी आमची प्रारूपे वापरली. यात अधिकृत सार्वजनिक सुरक्षा दस्तऐवजाच्या शैलीत लिहिलेला सविस्तर निबंध आणि कारवाई उभारण्यासाठी व चालवण्यासाठी केलेल्या उपायांचे वर्णन करणारे कामगिरी परीक्षण समाविष्ट होते.
प्रभाव
आम्ही आमच्या प्रारूपांचा वापर थांबवला तेव्हा ही कारवाई सुरुवातीच्या टप्प्यात असल्याचे दिसते. दोन्हीपैकी कोणत्याही फेसबुक पृष्ठाला अनुयायी नव्हते. रेडिटवर एका पोस्टला 44 अनुकूल मते मिळाली, तर इतर दोन पोस्ट संबंधित उपमंचांवर रोखण्यात किंवा काढून टाकण्यात आल्या.
या जाळ्याचा भाग म्हणून आम्ही ओळखलेल्या रेडिट खात्याच्या पोस्टचे पडद्यावरील छायाचित्र, ज्यात ती मंचाच्या गाळण्यांनी काढून टाकल्याचे दिसते.
एक्स आणि टिकटॉकवरील सहभागात अधिक तफावत होती. दोन टिकटॉक चित्रफितींना मिळून 25,000 पसंती मिळाल्या, तर या कारवाईच्या मुख्य खात्यावरील प्रत्येक ट्विटला सामान्यतः सुमारे 10,000 दृश्ये मिळाली. मात्र, या पोस्टवरील अनेक प्रतिक्रिया या जाळ्याने ChatGPT वापरून तयार केल्या होत्या. यावरून किमान काही सहभाग कृत्रिम होता असे दिसते. त्यामुळे सहभागाची सर्व आकडेवारी सावधपणे विचारात घेतली पाहिजे.
प्रभाव कारवाईचा परिणाम मोजणाऱ्या व्याप्ती मापनश्रेणीचा(नवीन विंडोमध्ये उघडेल) वापर केल्यास, एक्स आणि टिकटॉकवरील सहभागाची आकडेवारी खरी असेल तर आम्ही या कारवाईचे मूल्यमापन श्रेणी 3 च्या खालच्या टोकावर करू. बहुसंख्य प्रतिक्रिया जशा कृत्रिम होत्या, तशाच बहुसंख्य पसंती आणि दृश्येही कृत्रिम होती या गृहितकाला आणखी पुरावे मिळाल्यास आम्ही हे मूल्यमापन कमी करू.