ऑपरेशन “स्टॉप न्यूज”: पुनरावर्ती प्रभाव कारवाई

हा प्रकरण-अभ्यास मूळतः OpenAI च्या ऑक्टोबर 2025⁠(नवीन विंडोमध्ये उघडेल) च्या अहवालात प्रकाशित झाला होता.

ऑक्टोबर 2024 मध्ये आम्ही “स्टॉप न्यूज” या नावाने वर्णन केलेल्या छुप्या प्रभाव ऑपरेशनसाठी आमची मॉडेल्स वापरून सामग्री तयार करण्याचा प्रयत्न करणाऱ्या काही खात्यांवर आम्ही बंदी घातली. ही कारवाई रशियातून सुरू झाली होती आणि ती विपणन कंपनीने चालवलेल्या ऑपरेशनशी सुसंगत वाटत होती. आमच्या तपासात या घटकाने इतर कंपन्यांची एआय साधने वापरून व्हिडिओ तयार करण्याचे प्रयत्न केल्याचे आढळले. हे व्हिडिओ नंतर यूट्यूब आणि टिकटॉकवर टाकले गेले. अखेरीस त्यांनी कोणती मॉडेल्स वापरली, याची आम्ही स्वतंत्रपणे पुष्टी करू शकत नाही.

ऑक्टोबर 2024 मध्ये आम्ही रोखलेल्या कारवाईप्रमाणेच, या ऑपरेशनने प्रामुख्याने आमची मॉडेल्स वापरून सामग्री तयार केली. ती नंतर समाजमाध्यमांवर आणि आफ्रिका व यूकेमधील ज्या वृत्तसंस्थांविषयी आम्ही गेल्या वर्षी लिहिले होते, त्याच असल्याचे भासवणाऱ्या काही संकेतस्थळांवर प्रसिद्ध केली गेली.

आम्ही आणि उद्योगातील आमच्या सहकाऱ्यांनी केलेल्या कारवाईनंतर आधीचे ऑपरेशन सुरू ठेवण्याचा हा प्रयत्न असल्याचे दिसत असले, तरी आम्हाला काही लक्षणीय फरक आढळले. पहिला फरक म्हणजे इमेज जनरेशनचे प्रमाण लक्षणीयरीत्या कमी होते. मूळ स्टॉप न्यूज कारवाईत प्रतिमांचा वापर असामान्यरीत्या मोठ्या प्रमाणावर झाला होता, असे आम्ही त्या वेळी नमूद केले होते. मात्र, अलीकडील कारवाईत मजकूर निर्मितीवर अधिक भर होता आणि इमेज जनरेशन तुलनेने दुर्मीळ होते. हे फ्रान्सच्या डिजिटल संस्थेने, VIGINUM ने, केलेल्या या मूल्यांकनाशी सुसंगत आहे की, “Meta आणि OpenAI चे अहवाल प्रकाशित झाल्यापासून एआय-निर्मित प्रतिमांचा वापर प्रचंड कमी झाला आहे”.

दुसरे म्हणजे, या ऑपरेशनने बातम्यांच्या धाटणीतील लघु व्हिडिओंसाठी संहिता आणि वर्णने तयार करण्यासाठीही ChatGPT वापरले. सामान्यतः ऑपरेटर रशियन भाषेतील मोठा मजकूर देऊन त्यावरून व्हिडिओ संहिता तयार करण्यास सांगत. त्यानंतर ते मॉडेलला मजकुराचे फ्रेंचमध्ये भाषांतर करण्यास सांगत. तिसरे म्हणजे, ते मॉडेलला शोधयंत्रांसाठी अनुकूल केलेले वर्णन आणि हॅशटॅग तयार करण्यास सांगत.

यांपैकी काही संहिता स्टॉप न्यूज ऑपरेशनच्या आफ्रिकाकेंद्रित newstop[.]africa या संकेतस्थळाशी संबंधित यूट्यूब वाहिनीवरील व्हिडिओंमध्ये वापरल्या गेल्या. इतर संहिता “स्टॉप न्यूज”चे नाव नसलेल्या यूट्यूब आणि टिकटॉक वाहिन्यांवर वापरल्या गेल्या. या वाहिन्यांवर एआय-निर्मित व्यक्ती बातम्या वाचताना दाखवली होती. बहुतेक प्रकरणांत वृत्तनिवेदिकेच्या छोट्या चित्रफितींमध्ये आफ्रिकेतील किंवा आफ्रिकेशी संबंधित घटनांचे व्हिडिओ चित्रीकरण मिसळले होते. वृत्तनिवेदिकेच्या चित्रफिती आमची मॉडेल्स वापरून तयार केल्या असल्याचे दिसत नाही. कोणती सेवा वापरली होती, याची आम्ही स्वतंत्रपणे पुष्टी करू शकत नाही. खालील टिकटॉक व्हिडिओंच्या स्क्रीनशॉटमध्ये दिसते त्याप्रमाणे, 2025 मध्ये वृत्तनिवेदिकेचे रूप बदलत गेले.

सर्वाधिक गुंतागुंतीच्या प्रकरणांत ऑपरेटरनी इतर एआय मॉडेल्ससाठी व्हिडिओ प्रॉम्प्ट तयार करण्याकरिता आमची मॉडेल्स वापरली. या प्रक्रियेत त्यांनी प्रथम रशियन भाषेत व्हिडिओ संहिता तयार केली, नंतर तिचे दोन-दोन वाक्यांचे तुकडे केले आणि प्रत्येक तुकड्यासाठी ChatGPT ला व्हिडिओ प्रॉम्प्ट तयार करण्यास सांगितले. व्हिडिओ प्रॉम्प्ट तयार झाल्यानंतर ऑपरेटरनी मॉडेलला संपूर्ण संहितेचे फ्रेंचमध्ये भाषांतर करण्यास सांगितले.

या ऑपरेशनची कारवाई तीन मुख्य प्रकारांत विभागली गेली. पहिल्या प्रकारात आफ्रिकेतील फ्रान्स आणि अमेरिकेच्या भूमिकेवर टीका करणारी व तेथील रशियाच्या भूमिकेची प्रशंसा करणारी फ्रेंच भाषेतील सामग्री तयार केली गेली. दुसऱ्या प्रकारात युक्रेन आणि त्याच्या आंतरराष्ट्रीय समर्थकांवर टीका करणारी इंग्रजी भाषेतील सामग्री तयार केली गेली. काही प्रसंगी ऑपरेटरनी मजकूर सामग्रीसोबत वापरण्यासाठी प्रतिमाही तयार केल्या. क्वचित प्रसंगी त्यांनी त्यांच्या “न्यूजस्टॉप आफ्रिका” या मुख्य वृत्त ब्रँडसाठी प्रचारात्मक लेख आणि गुगल जाहिरातींचा मजकूर तयार करण्यास ChatGPT ला सांगितले. यांपैकी काही प्रचारात्मक लेखांनी केवळ न्यूजस्टॉप आफ्रिकावर लक्ष केंद्रित न करता न्यूजस्टॉप ब्रँडचा उल्लेख वैध वृत्तसंस्थांसोबत केला. अशा संबंधामुळे तो अधिक विश्वासार्ह वाटावा, हा बहुधा त्यामागील उद्देश होता.

तिसऱ्या प्रकारच्या कारवाईत रशियातील विविध व्यावसायिक कंपन्या वाटणाऱ्या संस्थांसाठी प्रचारसाहित्य तयार केले गेले. यात परवाना नसलेल्या ऑनलाइन जुगारासाठी जाहिराती तयार करणेही समाविष्ट होते. सामग्री निर्मितीच्या विविध प्रकारांचे असे मिश्रण, पारंपरिक जाहिरातींसोबतच पैसे घेऊन छुपी प्रभाव ऑपरेशन्स चालवणाऱ्या व्यावसायिक कंपनीच्या कार्यपद्धतीशी सुसंगत आहे. गेल्या वर्षी आम्ही नोंदवलेल्या कारवाईशीही ते जुळते.

या ऑपरेशनने लघु व्हिडिओ सामग्रीवर अधिक भर दिला आणि अनेक एआय साधनांचा अधिक गुंतागुंतीने वापर केला. तरीही, त्याने प्रसिद्ध केलेल्या सामग्रीला मर्यादित प्रेक्षक किंवा दृश्ये मिळाल्याचे दिसते. ऑगस्ट 2025 पर्यंत “न्यूजस्टॉप आफ्रिका”च्या मुख्य एक्स खात्याचे केवळ 172 अनुयायी होते. एक्सच्या “सर्वोत्तम ट्वीट्स” सुविधेनुसार, त्याच्या कोणत्याही पोस्टला मिळालेल्या रीट्वीटची सर्वाधिक संख्या चार होती.

एआय वृत्तनिवेदिका दाखवणाऱ्या यूट्यूब आणि टिकटॉक वाहिन्यांचे प्रत्येकी सुमारे 1,900 अनुयायी होते. टिकटॉक वाहिनीला 5,855 पसंती मिळाल्या, म्हणजे तिच्या 56 व्हिडिओंपैकी प्रत्येकाला सरासरी 105 पसंती मिळाल्या. सर्वाधिक पाहिल्या गेलेल्या व्हिडिओला 63,300 दृश्ये मिळाली, तर सर्वांत कमी पाहिलेल्या व्हिडिओला केवळ 87. यूट्यूब वाहिनीवरील 50 व्हिडिओंना एकूण सुमारे 255,000 दृश्ये मिळाल्याचे नमूद होते, म्हणजे प्रत्येक व्हिडिओला सरासरी 5,100 दृश्ये. मात्र, हे व्हिडिओ पुन्हा सामायिक केले गेल्याचा, माध्यमांत उद्धृत झाल्याचा किंवा अन्य प्रकारे व्यापक प्रतिसाद मिळाल्याचा कोणताही पुरावा आम्हाला दिसला नाही.

ऑक्टोबर 2024 च्या आमच्या अहवालात या ऑपरेशनचे प्रारंभिक मूल्यांकन ब्रेकआउट स्केलवरील श्रेणी 3 असे केले होते. हे प्रामुख्याने यूकेमधील संकेतस्थळांशी स्थापित केलेल्या भासणाऱ्या काही “माहितीविषयक भागीदाऱ्यां”वर आधारित होते. मात्र, VIGINUM आणि मुक्त-स्रोत संशोधकांच्या नंतरच्या संशोधनातून या “भागीदाऱ्या” बहुधा काल्पनिक असल्याचे दिसून आले. प्रशासकांना कळू न देता सामग्री जोडण्यासाठी त्यांनी “या बाह्य संकेतस्थळांवरील तांत्रिक त्रुटींचा गैरफायदा घेतला” होता. या आधारे, या ऑपरेशनची कारवाई श्रेणी 2 मध्ये ठेवणे सध्या अधिक योग्य ठरेल, असे आमचे मूल्यांकन आहे. म्हणजेच, अनेक इंटरनेट मंचांवरील कारवाई, पण वास्तविक समुदायांमध्ये लक्षणीय प्रसार नाही.