“माशांचे खाद्य” मोहीम: रशियातून चालणाऱ्या मजकूर कारखान्याची गतिविधी

हा प्रकरण-अभ्यास मूळतः AI च्या दुर्भावनापूर्ण वापराला आळा घालण्याविषयीच्या OpenAI च्या फेब्रुवारी २०२६⁠(नवीन विंडोमध्ये उघडेल) मधील अहवालात प्रकाशित झाला होता.

टेलिग्राम आणि एक्सवरील “रायबार” (“Рыбарь”, रशियन भाषेत “मच्छीमार”) नेटवर्कशी संबंधित ChatGPT खात्यांच्या एका गटावर आम्ही बंदी घातली. यांपैकी किमान काही खाती बहुधा रशियातून चालवली जात होती. या नेटवर्कने तयार केलेला मजकूर इंटरनेटवर प्रसारित करण्यात आला. तो कधी “रायबार” नाव असलेल्या खात्यांवरून, तर कधी “रायबार”शी कोणताही संबंध जाहीर न केलेल्या समाजमाध्यम खात्यांवरून प्रसारित झाला. एका वापरकर्त्याने आफ्रिकेतील छुप्या हस्तक्षेप मोहिमांसाठी “रायबार”च्या वतीने व्यावसायिक योजना तयार करण्यात मदत करण्यासही ChatGPT ला सांगितले. कर्त्यांनी “रायबार” नेटवर्कला आणि त्यापलीकडे मजकूर पुरवण्यासाठी ChatGPT चा ज्या प्रकारे वापर केला, त्यावरून आम्ही या कारवाईला “माशांचे खाद्य” असे नाव दिले आहे.

या नेटवर्कमध्ये आम्हाला आढळलेली मुख्य गतिविधी म्हणजे समाजमाध्यमांवर प्रसिद्ध करण्यासाठी मजकूर तयार करणे. वापरकर्ते सहसा रशियन भाषेत प्रॉम्प्ट देत होते, पण त्यांनी विविध भाषांमध्ये, विशेषतः रशियन, इंग्रजी आणि स्पॅनिशमध्ये मजकूर तयार केला. यातील काही मजकूर नंतर “रायबार” नाव असलेल्या समाजमाध्यम खात्यांवर आणि “रायबार”च्या मुख्य संकेतस्थळावर प्रसिद्ध करण्यात आला. एका वापरकर्त्याने “रायबार” ब्रँडचा प्रचार करणारे Sora चित्रफितीही तयार केले.

“रायबार” नाव असलेल्या खात्यांवर ऑनलाइन प्रसिद्ध झालेला मजकूर तयार करण्याबरोबरच, या प्रकरणातील मुख्य वापरकर्त्याने इंग्रजी भाषेतील प्रतिक्रियांचे संचही तयार केले. मुक्त स्रोतांवर आधारित तपास तंत्रे वापरून, आम्हाला यातील अनेक तयार केलेल्या प्रतिक्रियांशी तंतोतंत जुळणारा मजकूर रायबारच्या टेलिग्राम वाहिनीवर प्रसिद्ध झाल्याचे आढळले. वर उजवीकडे, रायबार नाव असलेली इंग्रजी भाषेतील एक्स पोस्ट. विविध एक्स आणि टेलिग्राम खात्यांकडून ऑनलाइन प्रसिद्ध केलेला मजकूर; यांपैकी कोणत्याही खात्याने रायबारशी संबंध जाहीर केला नव्हता. खाली उजवीकडे, स्पॅनिश भाषेतील मजकूर आणि रायबार नाव असलेले माहितीचित्र. थोडक्यात, ChatGPT भाषेतील संकेतस्थळ andaluciamorisca[.]org. ही गतिविधी त्या खात्यांसाठी मजकूर तयार करणाऱ्या कारखान्यासारखी असल्याचे दिसले. AI ने तयार केलेला मजकूर अखेरीस या खात्यांनी ऑनलाइन प्रसिद्ध करण्यासाठी नेमकी कोणती यंत्रणा वापरली, याची आम्ही स्वतंत्रपणे पुष्टी करू शकलो नाही. या खात्यांनी काही वेळा आमच्या मॉडेलनी तयार न केलेला मजकूरही प्रसिद्ध केल्याचे दिसते.

विशेष म्हणजे, किमान एका प्रसंगी, ज्याचे उदाहरण खाली दिले आहे, धोकादायक कर्त्याने एकाच प्रॉम्प्टचा वापर करून सात एक्स पोस्टचा संच तयार केला. त्यांपैकी सहा पोस्ट वेगवेगळ्या एक्स खात्यांनी प्रसिद्ध केल्याचे आम्हाला आढळले. एक्सच्या आकडेवारीनुसार, सर्वाधिक पाहिली गेलेली पोस्ट १,५०,००० पेक्षा जास्त वेळा पाहिली गेली, तर सर्वांत कमी पाहिली गेलेली पोस्ट केवळ ५७ वेळा पाहिली गेली. ज्या खात्याच्या पोस्टला सर्वाधिक दृश्ये मिळाली, त्या खात्याचे २६ जानेवारी २०२६ रोजी ६,००,००० पेक्षा जास्त अनुयायी होते. त्याच दिवशी, सर्वांत कमी दृश्ये मिळालेली पोस्ट करणाऱ्या खात्याचे ८२७ अनुयायी होते. सर्व पोस्ट एकाच प्रॉम्प्टवरून एकाच संचात तयार झाल्यामुळे, प्रत्येक पोस्टला किती दृश्ये मिळाली हे तिच्या मजकुराच्या AI-निर्मित स्वरूपापेक्षा संबंधित खात्याच्या अनुयायांच्या संख्येवर अधिक अवलंबून होते, असे यातून सूचित होते.

मजकूर तयार करण्याबरोबरच, या कारवाईच्या मुख्य खात्याने “रायबार” अज्ञात ग्राहकांना देऊ शकणाऱ्या सेवांची यादी इंग्रजीत अनुवादित करण्यास ChatGPT ला सांगितले. या सेवांमध्ये एक्स आणि टेलिग्राम खाती चालवणे, आफ्रिकेवर लक्ष केंद्रित करणारे द्विभाषिक “शोधपत्रकारिता” संकेतस्थळ, फ्रेंच भाषेतील माध्यमांमध्ये सशुल्क प्रकाशने आणि मजकुराचा प्रसार वाढवणाऱ्यांचे नेटवर्क यांचा समावेश होता. वेगळ्या प्रॉम्प्टमध्ये मॉडेलला निवडणुकीत हस्तक्षेप करण्यासाठी तैनात केलेल्या, बहुधा आफ्रिकेतील, एका पथकाचा प्रस्ताव संपादित करण्यास सांगण्यात आले. या प्रस्तावात ऑनलाइन गतिविधीबरोबरच स्थानिक प्रतिनिधींचे नेटवर्क उभारणे आणि मोठ्या प्रमाणावर कार्यक्रम आयोजित करणे यांसारख्या प्रत्यक्ष क्षेत्रातील गतिविधींचाही समावेश होता. तिसऱ्या प्रॉम्प्टमध्ये काँगो लोकशाही प्रजासत्ताकावर केंद्रित माहिती मोहिमेची चर्चा करण्यात आली. पुढील प्रॉम्प्टमध्ये बुरुंडी आणि कॅमेरूनमधील निवडणूक प्रक्रियेबद्दल विचारण्यात आले. तसेच, प्रत्यक्ष क्षेत्रातील निदर्शने अधिक भडकवण्याच्या कल्पनेसह मादागास्करमधील मोहिमेचे पर्याय मांडण्यात आले. यात गुंतलेली रक्कम लक्षणीय होती. सर्वांत महत्त्वाकांक्षी प्रकल्पासाठी अंदाजे वार्षिक अर्थसंकल्प ६,००,००० डॉलरपर्यंत होता.

याच वापरकर्त्याने अधूनमधून “रेस्ट मीडिया” नावाच्या वृत्तमाध्यमासाठी प्रचारसाहित्य तयार केले. मुक्त स्रोत संशोधकांनी या माध्यमाचा रायबारशी संबंध जोडला⁠(नवीन विंडोमध्ये उघडेल) आहे. यातील काही प्रचारसाहित्य वर वर्णन केलेल्या त्याच टेलिग्राम वाहिन्यांनी ऑनलाइन प्रसिद्ध केले. उदाहरणार्थ, ऑगस्टमध्ये या प्रकरणातील मुख्य ChatGPT वापरकर्त्याने मोल्दोव्हामध्ये जर्मनी प्रभावाचे नेटवर्क उभारत असल्याचा आरोप करणारा रेस्ट मीडियाचा लेख नमूद केला आणि आमच्या मॉडेलला त्याबद्दल प्रतिक्रियांचा संच तयार करण्यास सांगितले. त्यानंतर तीन वेगवेगळ्या वाहिन्यांनी यातील तीन प्रतिक्रिया टेलिग्रामवर प्रसिद्ध केल्या. प्रत्येक प्रतिक्रियेत रेस्टच्या लेखाची बाह्य जोडणी होती.

या कारवाईने तयार केलेला मजकूर गेल्या अनेक वर्षांतील रशियाच्या नेहमीच्या छुप्या प्रभाव कारवायांसारखाच होता. त्यात सहसा रशिया आणि त्याच्या मित्रदेशांची, जसे की बेलारूसची, प्रशंसा केली जात होती, युक्रेनवर टीका केली जात होती आणि पाश्चात्त्य देशांवर परकीय हस्तक्षेपाचे आरोप केले जात होते.

समाजमाध्यमांवर रायबार नेटवर्कचे मोठ्या प्रमाणावर अनुयायी आहेत. केवळ त्याच्या मुख्य रशियन भाषेतील टेलिग्राम वाहिनीचे सुमारे १४ लाख सदस्य आहेत. या कारवाईतील मजकूर प्रसिद्ध करणाऱ्या अनेक एक्स आणि टेलिग्राम खात्यांचेही हजारो किंवा दहा हजारांहून अधिक अनुयायी होते. तथापि, मुख्य प्रवाहातील वृत्तमाध्यमांनी हा मजकूर मोठ्या प्रमाणावर प्रसारित केल्याचे आम्हाला आढळले नाही. तसेच, विक्री प्रस्तावांतील वर्णनाशी जुळणारी आफ्रिकेतील प्रत्यक्ष क्षेत्रातील गतिविधीही आम्हाला ओळखता आली नाही.

प्रभाव कारवायांचे १ म्हणजे सर्वांत कमी ते ६ म्हणजे सर्वांत जास्त असे मूल्यमापन करणाऱ्या ब्रेकआउट मापनश्रेणीचा⁠(नवीन विंडोमध्ये उघडेल) वापर केल्यास, समाजमाध्यमांवरील व्यापक प्रसाराच्या आधारे आम्ही या कारवाईला श्रेणी ३ च्या सर्वोच्च टप्प्यावर ठेवू, म्हणजे अनेक व्यासपीठांवरील अनेक समुदायांपर्यंत पोहोचलेली कारवाई.