ऑपरेशन “A2Z”: बहुभाषिक प्रभाव कारवाई

हा प्रकरण-अभ्यास मूळतः OpenAI च्या ऑक्टोबर 2024⁠(नवीन विंडोमध्ये उघडेल) च्या अहवालात प्रकाशित झाला होता.

आमच्या API चा वापर करून टिप्पण्या तयार करणारा आणि नंतर त्या X व Facebook वर पोस्ट करणारा, यापूर्वी नोंद न झालेला खात्यांचा समूह आम्ही प्रतिबंधित केला. यांपैकी अनेक टिप्पण्यांमध्ये अझरबैजानची प्रशंसा किंवा त्याच्या मानवाधिकारविषयक कामगिरीचे समर्थन केले होते. मात्र, त्यात इतरही अनेक विषयांवर भर होता, ज्यावरून ही व्यावसायिकरीत्या चालवलेली कारवाई असण्याची शक्यता दिसते. अझरबैजानची वारंवार केलेली प्रशंसा आणि कारवाईच्या अनेक टप्प्यांमध्ये AI वापरण्याचा प्रयत्न लक्षात घेऊन आम्ही या जाळ्याला “A2Z” असे नाव दिले.

आम्ही मे महिन्यात उघड केलेल्या आणि “खराब व्याकरण” असे नाव दिलेल्या रशियन भाषेतील Telegram कारवाईप्रमाणेच, या कारवाईने समाजमाध्यमांवर टिप्पण्या करण्यासाठी आमची मॉडेल वापरली. बनावट समाजमाध्यम व्यक्तिमत्त्वे व्यवस्थापित करणे, परिचय तयार करणे, पोस्ट व टिप्पण्यांचे विश्लेषण करणे, अनेक भाषांमध्ये उत्तरांचे मसुदे तयार करणे आणि त्यांचे मुद्रितशोधन करणे यासाठी तिने AI वापरले. त्यानंतर ही उत्तरे X किंवा Facebook वर पोस्ट केली जात. बहुतेक मजकूर छोट्या टिप्पण्यांच्या स्वरूपात होता, पण त्यात विशिष्ट शैलीतील प्रतिमांचाही समावेश होता. यांत अनेकदा 1930 च्या दशकातील भित्तिपत्रकांची शैली वापरली होती. त्यामुळे फसवणूक करण्याऐवजी लक्ष वेधून घेण्यासाठी आणि प्रतिसाद मिळवण्यासाठी त्यांची रचना केली असावी. मात्र, अशा विशिष्ट शैलीतील प्रतिमा असलेल्या नेहमीच्या पोस्टना प्रत्येकी केवळ 0–5 प्रतिसाद मिळाले.

AI च्या वापरामुळे या कारवाईला समाजमाध्यमांवरील अनेक खाती एकाच वेळी व्यवस्थापित करता आली. X आणि Facebook वरील सुमारे 150 खाती या गतिविधीशी जुळत असल्याचे आम्हाला आढळले आणि आणखी खात्यांवर संशय होता. यामुळे कारवाईला कधीकधी इंटरनेटवरील खऱ्या लोकांशी टिप्पण्यांच्या धाग्यांमध्ये संवाद साधताही आला. कधीकधी आम्हाला खरे लोक आणि बनावट खाती यांच्यातील छोटे संवाद दिसले. त्यात बनावट खात्यांची उत्तरे आमची मॉडेल वापरून तयार केली होती.

AI पूर्वी एवढ्या मोठ्या कारवाईसाठी बहुधा उपद्रवींचे मोठे पथक लागले असते आणि अशा उपक्रमाशी संबंधित सर्व खर्च व माहिती फुटण्याचे धोकेही पत्करावे लागले असते. मात्र, AI वरील अवलंबित्वामुळे ही कारवाई आमच्या व्यत्यय आणण्याच्या प्रयत्नांपुढे विलक्षण असुरक्षितही ठरली. हल्ला-साखळीतील अनेक दुव्यांवर तिने AI वापरल्यामुळे आमच्या कारवाईने साखळीतील अनेक दुवे एकाच वेळी तोडले. जूनच्या सुरुवातीला आम्ही या गतिविधीत व्यत्यय आणल्यानंतर, या कारवाईचा भाग म्हणून ओळखलेल्या समाजमाध्यम खात्यांनी EU, ब्रिटन आणि फ्रान्समधील निवडणूक काळात पोस्ट करणे थांबवले. काही खात्यांनी ऑगस्टच्या अखेरीस पुन्हा पोस्ट करायला सुरुवात केली. त्यांच्या काही पोस्टमध्ये त्या बहुधा AI ने तयार केल्याचे संकेत होते. असे संकेत असलेला मजकूर आमच्या मॉडेलमधून आलेला नव्हता.

या मोहिमेने राजकीय विषयांच्या विस्तृत श्रेणीवर भर देणाऱ्या छोट्या टिप्पण्या तयार केल्या. यांत अझरबैजान सरकारची आणि देशांतर्गत, प्रादेशिक व आंतरराष्ट्रीय राजकारणातील त्याच्या भूमिकेची प्रशंसा सर्वाधिक ठळक होती. उदाहरणार्थ, मध्य आशियाई देशांमधील ऐक्याला प्रोत्साहन देणे किंवा UN हवामान बदल परिषद आयोजित करणे. इंग्रजी आणि इटालियन भाषेतील खात्यांनी युरोपचा ऊर्जा पुरवठादार म्हणून अझरबैजानच्या भूमिकेची प्रशंसा केली. काहीवेळा ही प्रशंसा अझेरी सरकारच्या मानवाधिकारविषयक कामगिरीवरील टीकेला उत्तर म्हणून केली गेली.

इतर गतिविधींमध्ये AI चे फायदे व उत्क्रांती, वित्तीय बाजारपेठा, पर्यावरणीय समस्या, क्रिप्टोचलने आणि व्यापक तंत्रज्ञानावर भर होता. एका समूहाने संयुक्त अरब अमिरातीवर भर देत तिला गुंतवणुकीचे स्थिर ठिकाण म्हणून दाखवले आणि अनेकदा संयुक्त राज्यांतील कथित राजकीय अस्थिरतेशी तिची तुलना केली.

काही बनावट व्यक्तिमत्त्वांनी युरोप किंवा संयुक्त राज्यांतील राजकारणावर भर दिला. या गतिविधीची विचारधारा प्रदेशानुसार बदलत होती. उदाहरणार्थ, संयुक्त राज्यांवर लक्ष केंद्रित करणाऱ्या एका X खात्याने उदारमतवादी असल्याचे भासवून अमेरिकेचे माजी राष्ट्राध्यक्ष ट्रम्प यांच्यावर टीका केली. तर फ्रेंच भाषेत पोस्ट करणाऱ्या काही Facebook खात्यांनी राष्ट्राध्यक्ष मॅक्रॉन यांच्यावर टीका करून नॅशनल रॅली (RN) पक्षाला पाठिंबा दिला. कधीकधी या टीकेने देशांतर्गत मुद्द्यांवर भर देत संबंधित देशाने रशियाच्या युक्रेनवरील आक्रमणासह आंतरराष्ट्रीय विषयांत हस्तक्षेप करू नये, असा युक्तिवाद केला.

बहुधा शेकडो खात्यांसह ही कारवाई Facebook आणि X वर अत्यंत सक्रिय होती. X वरील तिच्या काही खात्यांवर सशुल्क सत्यापनाची निळी खूण होती. दोन्ही मंचांवरील आम्ही नमुन्यादाखल तपासलेल्या सुमारे 150 खात्यांपैकी कोणत्याही खात्याला मोठ्या संख्येने अनुयायी असल्याचे आढळले नाही. आमच्या तपासात X वरील सर्वाधिक अनुयायीसंख्या 222 होती, साधारण संख्या 15 ते 22 दरम्यान होती आणि X वरील नेहमीच्या पोस्टना दहापेक्षा कमी प्रतिसाद मिळत. त्याचप्रमाणे, आमच्या तपासात Facebook वरील एका पोस्टला मिळालेल्या प्रतिक्रियांची सर्वाधिक संख्या 36 होती, तर साधारण संख्या 0–5 दरम्यान होती. मात्र, कारवाईच्या पोस्टना खऱ्या लोकांकडून उत्तरे मिळाल्याचे काही प्रसंग आम्हाला आढळले. ही उत्तरे नेहमीच सकारात्मक नव्हती आणि कधीकधी खऱ्या लोकांनी बनावट खात्यांना विरोधही केला. तरीही, यातून अनेक मंचांवर, अनेक भाषांमध्ये आणि अनेक विषयांवर प्रेक्षकांशी संवाद साधण्याची काही क्षमता दिसते.

IO च्या प्रभावाचे मूल्यमापन करण्यासाठी 1 (सर्वांत कमी) ते 6 (सर्वांत जास्त) श्रेणी असलेली ब्रेकआउट मापनश्रेणी वापरल्यास, ही कारवाई श्रेणी दोनच्या सर्वोच्च टोकावर असून श्रेणी तीनमध्ये जाण्याचा धोका असल्याचे आम्ही मानू. अनेक मंचांवरील पोस्टिंग आणि खऱ्या लोकांनी तिच्या मजकुराशी संवाद साधल्याचे काही पुरावे ही तिची वैशिष्ट्ये होती. मात्र, आम्ही या कारवाईला आमची मॉडेल वापरण्यास प्रतिबंध केला आणि उद्योगातील सहकाऱ्यांसोबत माहिती सामायिक केली, त्यानंतर आम्ही ओळखलेली समाजमाध्यम खाती अनेक आठवडे शांत झाली. ही कारवाई AI च्या वापरामुळे संचालकांची क्षमता कशी वाढू शकते, तसेच AI मॉडेलवरील अवलंबित्वामुळे व्यत्ययाप्रती त्यांची असुरक्षितताही कशी वाढते, हे अधोरेखित करते.