प्रेमसंबंधांचे आमिष दाखवणारा घोटाळा: कृत्रिम बुद्धिमत्तेच्या मदतीने होणाऱ्या ‘पिग बुचरिंग’ फसवणुकीची कार्यपद्धती
कंबोडियातून चालवली जात असल्याचे दिसणारी आणि प्रेमसंबंध व गुंतवणूक घोटाळ्यांतील संभाषणे भाषांतरित व तयार करण्यासाठी कृत्रिम बुद्धिमत्ता वापरणारी खाती OpenAI ने बंद केली.
हा प्रकरण-अभ्यास मूळतः OpenAI च्या फेब्रुवारी 2025(नवीन विंडोमध्ये उघडेल) च्या अहवालात प्रकाशित झाला होता.
कारवाईमागील घटक
जपानी, चिनी आणि इंग्रजी भाषांतील लहान टिप्पण्यांचे भाषांतर व निर्मिती करणाऱ्या ChatGPT खात्यांचा एक समूह आम्ही बंद केला. ही कारवाई कंबोडियातून सुरू झाल्याचे दिसते आणि तिचे स्वरूप प्रेमसंबंध व गुंतवणूक घोटाळ्याशी सुसंगत होते. हा घोटाळा ‘पिग बुचरिंग’ म्हणूनही ओळखला जातो. कंबोडियात नव्याने उभारलेल्या घोटाळा केंद्रातून सुरू झाल्याचे दिसणारी संबंधित कारवाई Meta ने अलीकडेच त्यांच्या मंचावर ओळखली(नवीन विंडोमध्ये उघडेल).
वर्तन
या जाळ्याने लहान टिप्पण्यांचे भाषांतर आणि निर्मिती करण्यासाठी आमच्या मॉडेलचा वापर केला. कारवाई करणाऱ्यांची प्रमुख भाषा चिनी असल्याचे दिसते. निर्मित मजकूर अनेक भाषांमध्ये होता. त्यात प्रामुख्याने जपानी आणि चिनी, तसेच इंग्रजीचाही समावेश होता.
कारवाई करणाऱ्यांनी दोन प्रमुख कामांसाठी आमच्या मॉडेलचा वापर केला. पहिले म्हणजे, ते टिप्पण्या तयार करून Facebook, X आणि Instagram यांसह समाजमाध्यम मंचांवर सार्वजनिकपणे पोस्ट करत. प्रत्येक समाजमाध्यम खात्यावर साधारणपणे एका तरुणीची एक किंवा अधिक परिचय-चित्रे असत. आमच्या आकलनानुसार, यांपैकी किमान काही चित्रे कृत्रिम बुद्धिमत्तेने तयार केलेली नसून खऱ्या फॅशन मॉडेल्स किंवा प्रभावकर्त्यांकडून नक्कल केलेली होती.
तयार केलेल्या बहुतांश टिप्पण्या खऱ्या व्यक्तींच्या समाजमाध्यम पोस्टना उत्तर म्हणून केल्या होत्या. यंत्रणा चालवणाऱ्यांनी उत्तर दिलेल्या काही पोस्ट अनेक महिने किंवा वर्षे जुन्या होत्या. या कारवाईत प्रामुख्याने अशा पुरुषांना लक्ष्य केले जात होते, ज्यांच्या सार्वजनिक परिचयांवरून ते 40 वर्षांपेक्षा अधिक वयाचे आणि अनेकदा वैद्यकीय व्यवसायात असल्याचे दिसत होते. या कारवाईतील खाती वारंवार गोल्फविषयक पोस्टना उत्तर देत असत. यावरून ही जाणीवपूर्वक आखलेली लक्ष्यीकरण रणनीती असल्याचे दिसते. कधीकधी घोटाळेबाज राजकीय विषयांवर किंवा चालू घडामोडींवर पोस्ट करत.
या कारवाईमागील व्यक्तीने आमच्या मॉडेलचा वापर करून तयार केलेली ही Facebook टिप्पणी, या कारवाईशी संबंध नसल्याचे दिसणाऱ्या व्यक्तीच्या गोल्फविषयक टिप्पणीला उत्तर म्हणून केली होती. घोटाळेबाज खात्याचे परिचय-चित्र एका अमेरिकी फॅशन आणि सौंदर्य प्रभावकर्तीच्या चित्राची नक्कल आहे. घोटाळेबाज खात्याने टिप्पणी करेपर्यंत मूळ पोस्ट एक महिन्याहून जुनी झाली होती.
आमच्या मॉडेलने तयार केलेली ही टिप्पणी X वरील एका सत्यापित खात्याने अशा खात्याच्या पोस्टला उत्तर म्हणून केली होती, ज्याचा या घोटाळ्याशी संबंध असल्याचे दिसत नव्हते. खात्याचे परिचय-चित्र त्याच अमेरिकी फॅशन आणि सौंदर्य प्रभावकर्तीच्या चित्राची नक्कल आहे. मूळ पोस्ट जवळपास सहा महिने जुनी होती.
दुसरे आणि अधिक वारंवार केले जाणारे काम म्हणजे, यंत्रणा चालवणारे ऑनलाइन संभाषणातील भागांसारख्या वाटणाऱ्या लहान टिप्पण्या तयार करत. यामध्ये सामान्यतः चिनी भाषेतील टिप्पण्यांचे लक्ष्य भाषेत, म्हणजे जपानी किंवा इंग्रजीत, अथवा लक्ष्य भाषेतील टिप्पण्यांचे पुन्हा चिनी भाषेत भाषांतर केले जात असे. यावरून घोटाळेबाज प्रामुख्याने सुरू असलेल्या संभाषणांचे भाषांतर करण्यासाठी मॉडेल वापरत असल्याचे दिसते.
कधीकधी ही खाती मॉडेलला एखाद्या विशिष्ट शैलीत उत्तर तयार करण्यास सांगत, उदाहरणार्थ प्रेमळ बोलणाऱ्या तरुणीच्या शैलीत. मॉडेलने उत्तरे तयार करताना मार्गदर्शन मिळावे म्हणून कधीकधी बनावट व्यक्तिमत्त्वाचे नाव, शैक्षणिक पार्श्वभूमी, नोकरी, ठिकाण आणि छंद यांसह विस्तृत चरित्रात्मक तपशील दिले जात. या चरित्रांमध्ये बनावट व्यक्ती ऑनलाइन गुंतवणूकही करत असल्याचा तपशील सहसा समाविष्ट असे.
घोटाळेबाजांनी लक्ष्यांशी संपर्क साधण्यासाठी अनेक वेगवेगळी साधने आणि मंच वापरल्याचे दिसते. आमच्या तपासात त्यांनी LINE, WhatsApp, X, Facebook, Instagram, इतर अनेक संदेश सेवा, Apple चे “माझा ईमेल लपवा” हे कार्य(नवीन विंडोमध्ये उघडेल), तसेच आभासी चलन आणि परकीय चलन व्यवहारांचे मंच वापरल्याचे पुरावे आढळले.
पूर्ण प्रतिसाद
या कारवाईबाबत आम्हाला दिसलेल्या विशिष्ट भागाच्या आधारे, लक्ष्यांशी संपर्क साधण्यापासून त्यांना फसव्या गुंतवणुकीकडे नेण्यासाठी घोटाळेबाजांनी पुढील सामान्य कार्यपद्धती वापरल्याचे दिसते:
सार्वजनिक संपर्क: घोटाळेबाज लक्ष्य व्यक्तीच्या समाजमाध्यम पोस्टवर टिप्पण्या करत. या टिप्पण्यांच्या शेवटी अनेकदा “तुम्हाला [विषयाबद्दल] काय वाटते?” असा प्रश्न असे, बहुधा प्रतिसाद मिळण्याची शक्यता वाढवण्यासाठी. काही मोजक्या प्रकरणांत त्यांनी राजकारणावर टिप्पणी केली, परंतु बहुतेक वेळा ते गोल्फबद्दल बोलले.
बहुधा थेट संदेशवहन: त्यानंतर घोटाळेबाज संभाषणासारख्या वाटणाऱ्या लहान टिप्पण्या तयार करत. या टिप्पण्या नेमक्या कशा आणि कुठे वापरल्या गेल्या याची संपूर्ण माहिती आमच्याकडे नाही. मात्र, त्या घोटाळेबाज आणि लक्ष्य व्यक्तीने थेट संदेशांची देवाणघेवाण सुरू केल्याच्या परिस्थितीशी सुसंगत होत्या.
सुरक्षित संदेशवहन: लवकरच, अनेकदा काही दिवसांतच, घोटाळेबाज अधिक सुरक्षित संदेशवहन अनुप्रयोगावर जाण्याचा प्रस्ताव देणारे संदेश तयार करत. कधीकधी घोटाळेबाज समाजमाध्यमांवर विश्वास ठेवत नसल्याचे कारण देत. इतर वेळी, समाजमाध्यमे उपलब्ध नसतील अशा ठिकाणी लवकरच जाणार असल्यासारखे व्यावहारिक कारण सांगत.
प्रेमसंबंध निर्माण करणे: घोटाळेबाज अधिकाधिक प्रेमळ आणि जवळीक दर्शवणारे संदेश लिहीत व भाषांतरित करत. लक्ष्य व्यक्तींनी ज्या “महिलेशी” ते बोलत होते तिची छायाचित्रे मागितल्यास, घोटाळेबाज सबबी सांगत.
आर्थिक संपर्क: परकीय चलन, आभासी चलन किंवा सोन्यात ऑनलाइन गुंतवणूक करून भरपूर पैसे कमावल्याची बढाई मारणारे संदेश घोटाळेबाज लिहीत आणि भाषांतरित करत. वित्त क्षेत्रात काम करणाऱ्या नातेवाइकाचा सल्ला पाळल्यामुळे हे यश मिळाल्याचे अनेकदा सांगितले जाई. घोटाळेबाज लक्ष्य व्यक्तीला त्याच पद्धतीने गुंतवणूक सुरू करण्यास उद्युक्त करत आणि संपूर्ण प्रक्रियेत मार्गदर्शन करण्याची तयारी दाखवत.
फसवणूक: पीडित व्यक्तीने व्यापार अनुप्रयोगात पैसे हस्तांतरित करावेत यासाठी तिची समजूत घालणारे संदेश घोटाळेबाज लिहीत व भाषांतरित करत. किती नफा होत आहे याचे अतिशयोक्त वर्णन करून ते तिला प्रोत्साहित करत. पीडित व्यक्तीने आपला “नफा” काढण्याचा प्रयत्न केला की, शुल्क भरावे लागेल अशी एखादी सबब घोटाळेबाज पुढे करत.
ही कार्यपद्धती अशा घोटाळ्यांच्या नेहमीच्या स्वरूपाबाबत सार्वजनिकरीत्या उपलब्ध असलेल्या वृत्तांकनाशी(नवीन विंडोमध्ये उघडेल) सुसंगत आहे.
परिणाम
या कारवाईत अनेक निष्फळ प्रयत्न आणि अपयश आल्याचे दिसते. घोटाळेबाजांनी आमच्या मॉडेलद्वारे प्रक्रिया केलेली काही संभाषणे लक्ष्य व्यक्तीने हा घोटाळा असल्याचे स्पष्टपणे सांगितल्यावर किंवा घोटाळेबाजाला आपल्याला त्रास न देण्यास सांगितल्यावर संपली. समाजमाध्यमांवरील घोटाळेबाजांच्या काही पोस्टना कोणताही प्रतिसाद मिळाला नसल्याचेही आम्ही ओळखले.
मात्र, काही संभाषणांमध्ये वैयक्तिक व्यवहारांची रक्कम हजारो डॉलर किंवा अन्य चलनांतील त्याच्या समतुल्य असल्याचे उल्लेख होते. या यंत्रणा चालवणाऱ्यांनी आमच्या मॉडेलचा ज्या प्रकारे वापर केला, त्यामुळे हे आर्थिक व्यवहार प्रत्यक्षात झाले की नाही हे आम्हाला दिसत नाही. मात्र, संभाषणांतील उल्लेखांवरून किमान काही प्रकरणांत घोटाळेबाजांना लक्ष्य व्यक्तींची आर्थिक फसवणूक करण्यात यश आल्याचे सूचित होते.
OpenAI ची धोरणे फसवणूक किंवा घोटाळ्यांसाठी आमच्या साधनांमधून मिळालेला मजकूर वापरण्यास सक्त मनाई करतात. विरोधी कारवायांमध्ये कृत्रिम बुद्धिमत्तेचा वापर कसा होतो हे समजून घेण्यासाठी आणि आमच्या सेवांचा गैरवापर करणाऱ्या घोटाळ्यांच्या कारवाया सक्रियपणे रोखण्यासाठी आम्ही उद्योगातील सहकारी आणि अधिकाऱ्यांशी सहकार्य करण्यास कटिबद्ध आहोत. या वचनबद्धतेनुसार, आम्ही रोखलेल्या घोटाळेबाज जाळ्यांविषयीची माहिती उद्योगातील सहकारी आणि संबंधित अधिकाऱ्यांना दिली आहे.