रुपेरी किनारीची रणनीती: बहुधा चीनमधून चालवली जाणारी, अमेरिकेतील व्यक्तींना लक्ष्य करणारी कारवाई

हा प्रकरण-अभ्यास मूळतः OpenAI च्या फेब्रुवारी २०२६⁠(नवीन विंडोमध्ये उघडेल) मधील कृत्रिम बुद्धिमत्तेच्या दुर्भावनापूर्ण वापरांना आळा घालण्याविषयीच्या अहवालात प्रकाशित झाला होता.

आम्ही बहुधा चीनमधून चालवल्या जाणाऱ्या मोजक्या ChatGPT खात्यांवर बंदी घातली. या खात्यांनी आमची मॉडेल वापरून अमेरिकेतील व्यक्ती, चर्चामंच आणि केंद्र सरकारच्या इमारतींची ठिकाणे यांबद्दल माहिती, तसेच चेहरा बदलणारी संगणकीय प्रणाली वापरण्याबाबत मार्गदर्शन मागितले. त्यांनी विश्वास संपादन करून फसवणूक करण्याच्या प्रयत्नांसारखे वाटणारे इंग्रजी ईमेलही तयार केले. ते आमच्या मॉडेलना चिनी भाषेत सूचना देत होते, प्रामुख्याने चीनच्या मुख्य भूभागातील कामकाजाच्या वेळेत सक्रिय होते आणि आमच्या मंचावर प्रवेश करण्यासाठी आभासी खासगी जाळ्यांचा वापर करत होते.

या खात्यांनी तयार केलेले ईमेलचे मसुदे हाँगकाँगस्थित “निंबस हब कन्सल्टिंग” नावाच्या कंपनीच्या कर्मचाऱ्यांकडून पाठवले जात असल्याचा आव आणणारे होते. मात्र, त्यांनी आमच्या मॉडेलना सूचना देताना पारंपरिक चिनी लिपीतील अक्षरांऐवजी (जी सहसा हाँगकाँगमध्ये वापरली जातात) सुलभ चिनी लिपीतील अक्षरे वापरली (जी सहसा चीनच्या मुख्य भूभागात वापरली जातात). यावरून प्रत्यक्ष खातेचालक चीनच्या मुख्य भूभागात असल्याचे सूचित होते. याशिवाय, एका खात्याने अमेरिका आणि शांघाय यांच्यातील आर्थिक व सांस्कृतिक देवाणघेवाणीला प्रोत्साहन देणाऱ्या शांघायस्थित जनसंपर्क संस्थेचा प्रतिनिधी असल्याचा आव आणणारा ईमेल तयार केला. कंपनीच्या नावातील “निंबस” या शब्दाचा अर्थ पावसाचा ढग किंवा प्रभामंडल असा होतो. या संदर्भावरून आम्ही या मोहिमेला “रुपेरी किनारीची रणनीती” असे नाव दिले.

या खात्यांनी अमेरिकेतील राज्यस्तरीय अधिकारी किंवा व्यवसाय आणि वित्त क्षेत्रात काम करणाऱ्या धोरण विश्लेषकांना उद्देशून इंग्रजीत ईमेलचे मसुदे तयार केले. या ईमेलमधून प्राप्तकर्त्यांना मोबदल्यात सल्ला देण्यासाठी आमंत्रित केले जात असल्याचे दिसत होते. आपल्या ग्राहकांसाठी धोरणांचा अर्थ स्पष्ट करणे आणि धोरणात्मक सल्ला देणे, असे या कामाचे वर्णन केले होते. ईमेलचे मसुदे संक्षिप्त, स्पष्ट आणि व्यावसायिक असावेत, तसेच त्यांच्या विषय-ओळींत तातडीची भावना निर्माण करणारे आणि मनावर सूक्ष्मपणे प्रभाव टाकणारे संकेत असावेत, अशी त्यांनी मागणी केली.

याशिवाय, या ChatGPT खात्यांनी सर्वसाधारण माहिती शोधण्यासाठी आमची मॉडेल वापरली. आमच्या मॉडेलने सार्वजनिकरीत्या उपलब्ध स्रोतांच्या आधारे त्यांना उत्तरे दिली. यात पुढील विषयांवरील प्रश्नांचा समावेश होता:

• अमेरिकेच्या केंद्र सरकारी कार्यालयांची ठिकाणे, त्यात मुख्य कार्यालयांची ठिकाणे, तसेच केंद्र सरकारी संस्था आणि अधिकारी मोठ्या प्रमाणावर असलेल्या राज्यांची क्रमवारीनुसार यादी.

• अमेरिकेच्या केंद्र सरकारी कर्मचाऱ्यांचे राज्यनिहाय वितरण.

• व्हॉइस ऑफ अमेरिकाच्या सूत्रसंचालकांसारख्या अमेरिकेतील व्यक्ती, तसेच त्यांच्या पूर्वीच्या मुलाखती आणि त्यांना रस असलेले विषय.

• अमेरिकेच्या अर्थशास्त्र आणि वित्त क्षेत्रातील व्यावसायिक व नोकरी शोधणारे लोक सामान्यतः वापरत असलेले ऑनलाइन चर्चामंच आणि संकेतस्थळे.

विशेष म्हणजे, एका खात्याने फेसफ्यूजन नावाची प्रणाली आपल्या संगणकावर उतरवून कशी स्थापित करावी, याबाबत मार्गदर्शन मागितले. ही प्रणाली चेहऱ्यांत फेरफार करण्यासाठी, एका चेहऱ्याच्या जागी दुसरा चेहरा दाखवण्यासाठी आणि इतर माध्यमीय सुधारणा करण्यासाठी वापरली जाते. त्यांच्या ChatGPT वरील संवादानुसार, त्यांना विशेषतः या प्रणालीचे थेट प्रक्षेपणादरम्यान चेहरा बदलण्याचे वैशिष्ट्य वापरायचे होते. त्यांनी प्रणाली स्थापित करण्यासाठी तांत्रिक भाषा टाळून टप्प्याटप्प्याने मार्गदर्शन मागितले. आपण संगणक प्रोग्रामिंगमध्ये नवखे असल्याचा दावा करून त्यांनी सूचना सोप्या असाव्यात असे सांगितले. प्रणाली स्थापित करण्यासाठी मदत व्हावी म्हणून त्यांनी आपल्या संगणकाच्या भौतिक घटकांच्या तांत्रिक तपशिलांचे स्क्रीनचित्र अपलोड केले. मॉडेलने फेसफ्यूजनचे सार्वजनिकरीत्या उपलब्ध संकेतस्थळ आणि मार्गदर्शक दस्तऐवज यांच्या आधारे माहिती दिली.

आमची मॉडेल वापरून ईमेलचे मसुदे तयार करण्यासाठी त्यांनी दिलेल्या सूचना साध्या भरतीच्या संदेशांसारख्या नव्हत्या. त्या परदेशी गुप्तचर यंत्रणेकडून संपर्क साधताना विश्वास संपादन करून फसवणूक करण्यासाठी वापरल्या जाणाऱ्या कार्यपद्धतीसारख्या⁠(नवीन विंडोमध्ये उघडेल) होत्या. प्रत्येक ईमेलच्या मसुद्यात त्यांनी पुढील विभाग मागितले:

विश्वासार्हता प्रस्थापित करणे: त्यांनी “निंबस हब” ही भू-राजकारण आणि आंतरराष्ट्रीय धोरण यांबाबत सखोल तज्ज्ञता असलेली व्यावसायिक धोरणात्मक सल्लागार कंपनी असल्याचे मांडले. त्यांनी निंबस हबच्या संकेतस्थळाचा दुवा समाविष्ट केला (खालील स्क्रीनचित्र पाहा).

लक्ष्य केलेल्या व्यक्तीनुसार मजकूर तयार करणे आणि तिची खुशामत करणे: प्राप्तकर्ता या कामासाठी अगदी योग्य असल्याचा पुरावा म्हणून त्याच्या सार्वजनिक क्षेत्रातील अनुभवाचा स्पष्ट उल्लेख करावा, असे त्यांनी मॉडेलला सांगितले. एका प्रकरणात, खात्याने शांघायमध्ये राहणाऱ्या एका अमेरिकी व्यक्तीच्या लिंक्डइन परिचयपृष्ठाची स्क्रीनचित्रे अपलोड केली. या स्क्रीनचित्रांमधील त्या व्यक्तीच्या वैयक्तिक अनुभवांविषयीच्या आणि पार्श्वभूमीविषयीच्या मजकुरावरून ईमेलचा मसुदा त्या व्यक्तीला अनुरूप तयार करण्याची सूचना मॉडेलला दिली.

अनेक प्रलोभने दाखवणे: सल्लागार म्हणून काम करण्याची ही संधी सहसा भरघोस कमाई देणारी ऑनलाइन संधी म्हणून दाखवली जात असे. कामगिरीवर आधारित अतिरिक्त मोबदला आणि इतरांची शिफारस केल्याबद्दल बक्षिसे यांचेही आमिष दाखवले जाई, पण प्रत्यक्ष कामाबद्दल अस्पष्टता ठेवली जाई.

आश्वासक भाषा वापरणे आणि जोखमीची जाणीव कमी करणे: काम तणावरहित आहे, पैसे वेळेवर मिळतात आणि काम गोपनीय असते, असे दावे ते अनेकदा करत.

संवाद पटकन दुसऱ्या मंचावर नेणे: ते नेहमीच प्राप्तकर्त्यांना ईमेलऐवजी व्हॉट्सॲप, झूम किंवा टीम्सवर प्राथमिक ऑनलाइन दृकश्राव्य बैठकीत सहभागी करून घेण्याचा प्रयत्न करत.

या प्रकरणातील जाळ्यांनी मॉडेलशी साधलेला संवाद तांत्रिकदृष्ट्या प्रगत नव्हता. त्यांच्या काही विनंत्या भरतीसाठी विश्वासार्ह वाटणाऱ्या आमंत्रणांचे मसुदे तयार करण्यासंबंधी किंवा वैध पद्धतीने संगणकीय प्रणाली स्थापित करण्यासंबंधी असल्यासारख्या दिसत होत्या. मात्र, बनावट कंपनीची ओळख वापरून स्वतःची ओळख लपवण्याच्या वापरकर्त्यांच्या युक्त्या आणि भू-राजकीय विषयांतील त्यांचा रस पाहता, विरोधी कारवायांसाठी लोकांची भरती करण्याचा त्यांचा हेतू असण्याची शक्यता दिसते.

या खात्यांवरून झालेल्या ChatGPT च्या वापरात, लक्ष्य केलेल्या व्यक्तींकडून त्यांच्या आमंत्रणांना प्रतिसाद मिळवण्यात त्यांना यश आल्याचा कोणताही पुरावा आढळला नाही. ईमेलद्वारे आमंत्रणे प्रत्यक्षात पाठवली गेली होती का किंवा लक्ष्य केलेल्या कोणत्याही प्राप्तकर्त्याने त्यांना प्रतिसाद दिला होता का, हे आम्हाला स्वतंत्रपणे पडताळता आले नाही.

अनेक लोकशाही देशांच्या सरकारांनी (उदा. अमेरिका⁠(नवीन विंडोमध्ये उघडेल), युनायटेड किंगडम⁠(नवीन विंडोमध्ये उघडेल), ऑस्ट्रेलिया⁠(नवीन विंडोमध्ये उघडेल)) इशारा दिला आहे की परदेशी गुप्तचर यंत्रणा सामाजिक आणि व्यावसायिक संपर्क मंचांवर सल्लागार कंपन्या व इतर संस्थांचा आव आणून विद्यमान आणि माजी सरकारी कर्मचाऱ्यांना भरतीसाठी लक्ष्य करत आहेत. सर्वसाधारण भरतीचे संदेश आणि विशिष्ट व्यक्तींचा विश्वास संपादन करून त्यांना फसवण्याचे हे प्रयत्न यांत काही समान वैशिष्ट्ये असल्याने, त्यांच्यातील फरक ओळखताना गोंधळ होऊ शकतो. मात्र, वैध भरतीसाठी पाठवलेले संदेश सहसा अधिक वेळ घेणाऱ्या छाननी प्रक्रियेला अनुसरून तयार केलेले असतात. त्यांत पदनामाबद्दल पडताळता येण्याजोगी माहिती, नियोक्त्याचे विश्वासार्ह तपशील, बाजारानुसार योग्य मोबदल्याची मर्यादा आणि खऱ्या नोकरीच्या जाहिरातींचे दुवे असतात. थोडक्यात, एखादी संधी खरी वाटू नये इतकी आकर्षक असेल, तर ती बहुधा खरी नसतेच.