मुख्य मजकूराकडे जा
OpenAI

१ फेब्रुवारी, २०२५

सुरक्षितता

“प्रायोजित असंतोष” मोहीम: जनमतावर प्रभाव टाकण्याचे प्रयत्न

कृत्रिम बुद्धिमत्तेने समाजमाध्यमांसाठी इंग्रजी पोस्ट आणि स्पॅनिश लेख तयार करणाऱ्या, बहुधा चीनमधून चालवल्या जाणाऱ्या खात्यांवर OpenAI ने बंदी घातली.

लोड होत आहे...

हा प्रकरण-अभ्यास मूळतः OpenAI च्या फेब्रुवारी २०२५⁠(नवीन विंडोमध्ये उघडेल) च्या अहवालात प्रसिद्ध झाला होता.

मोहीम चालवणारा घटक

इंग्रजीत लहान टिप्पण्या आणि स्पॅनिशमध्ये सविस्तर वृत्तलेख तयार करण्यासाठी आमची मॉडेल वापरणाऱ्या ChatGPT खात्यांवर आम्ही बंदी घातली. या हालचालींच्या वेळा चीनच्या मुख्य भूमीवरील कार्यालयीन कामकाजाच्या वेळांशी जुळत होत्या. स्पॅनिश भाषेतील हे लेख लॅटिन अमेरिकेतील वृत्तसंकेतस्थळांवर प्रसिद्ध झाले. जवळजवळ सर्व संकेतस्थळांनी या लेखांचे श्रेय एका व्यक्तीला दिले होते. काही लेखांतील लेखकाच्या नामोल्लेखात त्या व्यक्तीचा संबंध जिलिन यौसेन कल्चर कम्युनिकेशन कंपनी लिमिटेड (优森文化有限公司) या चिनी कंपनीशी जोडला होता.

कार्यपद्धती

या खात्यांवरून ChatGPT ला चिनी भाषेत सूचना दिल्या जात होत्या आणि ही खाती प्रामुख्याने चीनच्या मुख्य भूमीवरील कार्यालयीन कामकाजाच्या वेळेत सक्रिय होती. काही हालचाली “स्पॅमोफ्लाज⁠” नावाने ओळखल्या जाणाऱ्या गुप्त प्रभाव मोहिमेशी जुळत होत्या. या मोहिमेबद्दल आम्ही मे महिन्यात अहवाल दिला होता. या हालचालींतून चिनी कम्युनिस्ट पक्षाच्या सेंट्रल पार्टी स्कूलमधील माजी प्राध्यापक आणि सरकारच्या टीकाकार काई शिया यांच्यावर टीका करणाऱ्या लहान इंग्रजी टिप्पण्या आणि प्रतिमा तयार केल्या गेल्या. त्यानंतर हा आशय एक्सवर अशा खात्यांद्वारे प्रसिद्ध करण्यात आला, जी आपण अमेरिकेतील किंवा भारतातील व्यक्ती असल्याचे भासवत होती.

प्रायोजित असंतोष मोहिमेतील खात्यांनी तयार केलेले ट्विट.

या खात्यांनी आमची मॉडेल वापरून तयार केलेले आणि एक्सवरील चार वेगवेगळ्या खात्यांवरून प्रसिद्ध केलेले ट्विट.

एवढ्याच हालचाली दिसल्या असत्या, तर त्यांचा बहुधा “स्पॅमोफ्लाज”शी संबंध असल्याचा निष्कर्ष आम्ही काढला असता. मात्र, या लहान टिप्पण्यांसोबतच या खात्यांनी अमेरिकेवर टीका करणारे सविस्तर स्पॅनिश लेखही तयार केले. पेरूमध्ये २०२४ मध्ये झालेल्या आशिया-पॅसिफिक आर्थिक सहकार्य मंचाच्या बैठकीच्या आधीच्या काळात या हालचाली विशेष प्रमाणात दिसून आल्या. मोहीम चालवणाऱ्या घटकाने सार्वजनिकरीत्या उपलब्ध असलेल्या चिनी भाषेतील लेखांचे भाषांतर आणि विस्तार करण्यास आमच्या मॉडेलना सांगून हे लेख तयार केले.

त्यानंतर हे लेख लॅटिन अमेरिकेतील वृत्तसंकेतस्थळांवर, विशेषतः पेरूमध्ये, तसेच मेक्सिको आणि इक्वाडोरमध्येही प्रसिद्ध झाले. अनेकदा या खात्यांनी ChatGPT वापरून आशय तयार केला त्याच दिवशी वृत्तसंकेतस्थळांनी ते लेख प्रसिद्ध केले. जवळजवळ सर्व प्रकाशनांनी या लेखांचे श्रेय एकाच व्यक्तीला दिले होते. काहींनी त्या व्यक्तीची ओळख एका कंपनीचा कायदेशीर प्रतिनिधी म्हणून दिली होती. आमच्या मते, ती चिनी कंपनी आहे.

जनमतावर प्रभाव टाकणाऱ्या, बहुधा चिनी घटकाने लॅटिन अमेरिकेतील मुख्य प्रवाहातील प्रसारमाध्यमांत लेख प्रसिद्ध करण्यात यश मिळवल्याचे आम्ही पहिल्यांदाच पाहिले आहे. काही लेख आर्थिक व्यवहारातून प्रसिद्ध झाले असावेत: सार्वजनिकरीत्या उपलब्ध स्रोतांमधील संशोधनातून आम्ही शोधलेल्या एका लेखावर “प्रायोजित” अशी नोंद होती. याशिवाय, मोहीम चालवणाऱ्या घटकाने लॅटिन अमेरिकेतील एका वृत्तसंस्थेकडून मिळालेल्या स्पॅनिश भाषेतील पावत्यांच्या संदर्भांचे भाषांतर करण्यासाठीही ChatGPT वापरले. हे पैसे देऊन लेख प्रसिद्ध केल्याशी सुसंगत होते.

प्रायोजित असंतोष मोहिमेत तयार केलेला प्रायोजित लेख.

या घटकाने तयार केलेल्या आणि wapa[.]pe या संकेतस्थळाने प्रसिद्ध केलेल्या लेखाचे पडदाचित्र. “प्रायोजित” या शब्दाचा, म्हणजेच प्रायोजित आशयाचा उल्लेख लक्षात घ्या.

प्रायोजित आशयाचा वापर झाल्याचे दिसत असल्यामुळे आणि अमेरिकी राजकारण व धोरणांबाबत या मोहिमेची भूमिका नकारात्मक असल्यामुळे आम्ही तिला “प्रायोजित असंतोष” असे नाव दिले आहे.

निर्मित प्रतिसाद

या घटकाने मुख्यतः दोन प्रकारचा आशय तयार केला: काई शिया यांच्यावर इंग्रजी आणि चिनी भाषेत लहान टीकात्मक टिप्पण्या आणि स्पॅनिश भाषेत सविस्तर लेख.

काई शिया यांच्यावर टीका करणारा आशय तयार करताना, Operator सहसा ChatGPT ला त्यांनी प्रसिद्ध केलेल्या ट्विटना किंवा चित्रफितींना, अथवा प्रसारमाध्यमांतील त्यांच्या उल्लेखांना प्रतिसाद देण्यास सांगत असे. काही टिप्पण्यांमध्ये तैवान, आंतरजाल, तसेच चिनी साहित्य आणि इतिहास यांसारख्या विषयांतील त्यांच्या तज्ज्ञतेवर प्रश्न उपस्थित केले होते. इतर टिप्पण्यांमध्ये त्यांच्यावर प्रवेशपरवान्यासंबंधी अनियमिततेचे आरोप केले होते.

स्पॅनिशमधील सविस्तर लेखांचा भर अमेरिकेतील सामाजिक आणि राजकीय दुभंगावर होता. हे लेख सहसा चालू घडामोडी आणि ताज्या बातम्यांवर आधारित होते. यात विषमता, राजकीय हिंसाचार, भेदभाव आणि लिंगभेद, तसेच गुन्हेगारीच्या बातम्या आणि अमेरिकेच्या परराष्ट्र धोरणांवरील टीका यांचा समावेश होता. अमली पदार्थांचे सेवन आणि बेघरपणा यांसारख्या सामाजिक संकटांनाही यात ठळक स्थान होते. अनेकदा ही संकटे किंवा समस्या म्हणजे अमेरिकेतील नेतृत्वाच्या किंवा समाजाच्या अपयशाची चिन्हे आहेत, असे चित्र उभे करण्याचा Operator चा दृष्टिकोन होता. ही टीका एकाच पक्षापुरती मर्यादित नव्हती; अमेरिकेतील दोन्ही प्रमुख पक्षांना लक्ष्य केले जात होते.

परिणाम

समाजमाध्यमांवर काई शिया यांना लक्ष्य करणाऱ्या आशयाला खऱ्या वापरकर्त्यांकडून लक्षणीय प्रतिसाद मिळाल्याचा कोणताही पुरावा आम्हाला आढळलेला नाही. हा आशय प्रसिद्ध करणाऱ्या समाजमाध्यम खात्यांना सहसा कमी अनुयायी होते आणि अत्यल्प प्रतिसाद मिळत होता.

मात्र, चीनमधून चालवल्या जाणाऱ्या प्रभाव मोहिमेने अमेरिकेवर टीका करणारे सविस्तर लेख लॅटिन अमेरिकेतील प्रसारमाध्यमांत पेरण्यात यश मिळवल्याचे आम्ही पहिल्यांदाच पाहिले आहे. किमान काही प्रमाणात आशय प्रसिद्ध करण्यासाठी पैसे देऊन हे साध्य झाले असावे. तरीही, आमच्या माहितीनुसार हा प्रयत्नांचा असा मार्ग आहे ज्याची यापूर्वी नोंद झालेली नव्हती. नेहमीच्या समाजमाध्यमांवरील हालचालींसोबतच हे प्रयत्न सुरू होते आणि त्यातून हा आशय लक्षणीयरीत्या अधिक व्यापक वाचकवर्गापर्यंत पोहोचला असावा. मात्र, त्याला मिळालेल्या प्रतिसादाची आम्ही स्वतंत्रपणे खातरजमा करू शकलेलो नाही.

प्रभाव मोहिमांचे परिणाम मोजण्यासाठी प्रसारव्याप्ती मापनश्रेणी⁠(नवीन विंडोमध्ये उघडेल) वापरली जाते. यात १ (सर्वांत कमी) ते ६ (सर्वांत जास्त) अशा पातळ्यांवर मूल्यांकन केले जाते. लॅटिन अमेरिकेतील वृत्तसंकेतस्थळांचा मोठा वाचकवर्ग लक्षात घेता, आम्ही या मोहिमेला श्रेणी ४ (मुख्य प्रवाहातील प्रसारमाध्यमांपर्यंत प्रसार) मध्ये ठेवू.

या मोहिमेशी संबंधित प्रसिद्ध झालेल्या लेखांचे मथळे

या घटकाने आमची मॉडेल वापरून तयार केलेल्या आशयाशी हे लेख जुळत असल्याचे आम्हाला आढळले.

  • युक्रेनमधील युद्धाला दिलेल्या मदतीतून अमेरिका कसा फायदा मिळवते याचे विदारक सत्य (ला रेपुब्लिका, पेरू).

  • अमेरिकेतील बेघरांच्या समस्येचे शोकांत वास्तव (वापा, पेरू).

  • एका पॅलेस्टिनी कार्यकर्त्यावरील अमेरिकी निर्बंधांमागील अतार्किक विचारसरणी (एल पोप्युलर, पेरू).

  • पौरुषाचा हास्यास्पद देखावा (लिबेरो, पेरू).

  • सर्वव्यापी सावल्या (एल पोप्युलर, पेरू).

  • अमेरिकेतील लोकशाहीबद्दल पक्षाच्या उच्चपदस्थांचा तिरस्कार (एल पोप्युलर, पेरू).

  • निवडणुकीतील भाषणांमध्ये पारदर्शकतेचा अभाव आणि जनमताची दिशाभूल (लिबेरो, पेरू).

  • हॉटेल कामगारांचा संप आणि संघर्ष (ला रेपुब्लिका, पेरू).

  • अमेरिकेच्या निर्बंधांची निष्प्रभता आणि स्वतःच ओढवून घेतलेल्या मर्यादा (एल युनिव्हर्सल, मेक्सिको).

  • फेंटानिलच्या विळख्यातील मूक आक्रोश (ला रेपुब्लिका, पेरू).

  • “हेलेन” चक्रीवादळ: अमेरिकी राजकारण्यांची खोटी विधाने आणि कटकारस्थानांचे दावे (वापा, पेरू).

  • आयातशुल्कामुळे अनिश्चिततेचे धुके: ट्रम्प यांचे अल्पदृष्टीचे धोरण आणि अमेरिकी अर्थव्यवस्थेचे भवितव्य (ला रेपुब्लिका, पेरू).

  • अमेरिकी समाजातील अन्नसुरक्षेची समस्या आणि तिचा शाळांवर होणारा परिणाम (एक्स्ट्रा, इक्वाडोर).

  • अमेरिकेची शोकांतिका: जेव्हा सत्य दडपले जाते (एक्स्प्रेसो, इक्वाडोर).

  • अमेरिकेतील बालसुरक्षेचे संकट (ला रेपुब्लिका, पेरू).

  • ब्रुकलिनवरील हिंसाचाराची सावली (एल प्लुराल, स्पेन).

  • एका खुन्याची ऐश: करदात्यांच्या पैशांतून झालेली शस्त्रक्रिया (एल युनिव्हर्सल, मेक्सिको).

  • इस्रायलला पाठिंबा आणि मानवतावादी संकटाची उपेक्षा (ला रेपुब्लिका, पेरू).

  • अमेरिकेतील निवडणुकांमधील विध्वंसक स्पर्धा (वापा, पेरू).