“खोटी साक्ष” मोहीम: अधिकाऱ्यांचे सोंग घेणारी पैसे परत मिळवून देण्याची बनावट सेवा

कृत्रिम बुद्धिमत्तेच्या गैरवापराला आळा घालण्याविषयीच्या OpenAI च्या फेब्रुवारी २०२६⁠(नवीन विंडोमध्ये उघडेल) च्या अहवालात हे प्रकरण-अध्ययन मूळतः प्रकाशित झाले होते.

आम्ही ChatGPT खात्यांचा एक समूह बंद केला. फसवणुकीत गमावलेले पैसे परत मिळवून देण्याच्या बहाण्याने पीडितांना लक्ष्य करण्यासाठी ही खाती आमच्या मॉडेलचा वापर करत होती. ती काल्पनिक कायदेविषयक संस्था असल्याचे भासवत होती, तसेच खऱ्या वकिलांची आणि अमेरिकेतील कायदा अंमलबजावणी यंत्रणांची तोतयागिरी करत होती. हे कारस्थान कंबोडियातून चालवले जात असण्याची दाट शक्यता आहे. त्या देशात चिनी नेतृत्वाखाली चालणाऱ्या गुन्हेगारी फसवणूक कारवायांबाबत अलीकडे प्रसिद्ध झालेल्या वृत्तांशीही ते सुसंगत आहे.

या खात्यांनी फसवणुकीत गमावलेले पैसे परत मिळवून देण्याच्या नावाखाली चालवलेल्या कारस्थानात ChatGPT ची मदत घेतली. बनावट कायदेविषयक संस्था आणि खरे वकील तसेच एफबीआयचे इंटरनेट गुन्हे तक्रार केंद्र (आयसी३) यांसारख्या विश्वासार्ह व्यक्ती व संस्थांची तोतयागिरी हा या कारस्थानाचा आधार होता.

१. संपर्क: फसवणूक करणाऱ्यांनी ChatGPT चा वापर करून किमान सहा बनावट कायदेविषयक संस्थांकडून आल्याचे भासवणारा मजकूर तयार केला. यापैकी काही मजकूर नंतर समाजमाध्यमांवरील खात्यांवरून आणि ऑनलाइन जाहिरातींमधून प्रसिद्ध करण्यात आला. त्यातून फसवणुकीत गमावलेले पैसे परत मिळवून देणाऱ्या काल्पनिक सेवांचा प्रचार करण्यात आला. सार्वजनिकरीत्या उपलब्ध असलेल्या अनेक बाबींवरून या संस्था बनावट असल्याचे संकेत मिळाले. राज्य वकील संघटनेच्या परवान्याचा पुरावा नसणे, विसंगत संकेतस्थळ डोमेन नावे वापरणे, अस्तित्वात नसल्याचे दिसणारे पत्ते संपर्कासाठी देणे आणि वकिलांशी संदेशवहन ॲपद्वारे संपर्क साधण्यास सांगणे, अशा बाबी त्यात होत्या.

२. विश्वास संपादन: फसवणूक झालेल्यांना गमावलेले पैसे परत मिळवून देण्यात तज्ज्ञ असलेल्या वकिलांची भाषाशैली आणि व्यावसायिकपणा यांची नक्कल करणाऱ्या प्रतिक्रिया तयार करून फसवणूक करणाऱ्यांनी लक्ष्य केलेल्या लोकांचा विश्वास मिळवण्याचा प्रयत्न केला. त्यांनी वकिलांच्या बनावट ओळखी वापरून, त्यांच्याकडून आल्याचे भासवणारा मजकूर तयार केला. आम्हाला विविध संकेतस्थळांवर यापैकी काही बनावट ओळखी आढळल्या. त्यांच्या परिचयातील छायाचित्रे समाजमाध्यमांवरून उचललेली किंवा कृत्रिम बुद्धिमत्तेच्या मदतीने तयार केलेली असल्याचे दिसत होते. काही प्रकरणांमध्ये, फसवणूक करणाऱ्याने एकाच “वकिलाची” ओळख अनेक तथाकथित कायदेविषयक संस्थांसाठी वापरली होती. आम्हाला आढळलेल्या संकेतस्थळांपैकी एक संकेतस्थळ आयसी३चे असल्याचे भासवत होते.

या विविध फसव्या संकेतस्थळांवर दिलेले संपर्क तपशील पाहुण्यांना टेलिग्रामसारख्या खासगी संदेशवहन ॲपकडे वळवत होते. ChatGPT वापरून लक्ष्य केलेल्या लोकांसाठी तयार केलेल्या संदेशांमध्ये फसवणूक करणाऱ्यांनी आंतरराष्ट्रीय फौजदारी न्यायालयाच्या देखरेखीखाली काम करत असल्याचा खोटा दावा केला. पीडित व्यक्तीची संपूर्ण रक्कम यशस्वीपणे परत मिळेपर्यंत कोणतेही शुल्क आकारले जाणार नाही, असेही त्यांनी सांगितले.

३. पैसे उकळणे: कोणतीही रक्कम “परत मिळवून देण्यापूर्वीच” शुल्क आणि ठेवी मागून फसवणूक करणाऱ्यांनी लक्ष्य केलेल्या लोकांकडून पैसे उकळण्याचा प्रयत्न केला. यामध्ये कथितरीत्या परत मिळवलेली रक्कम मिळण्याआधी १५% “सेवा शुल्क” भरण्यास सांगणे, खाते सक्रिय करण्यासाठी ठेव मागणे आणि “सल्ला शुल्क” आकारणे यांचा समावेश होता. ChatGPT वापरून लक्ष्य केलेल्या लोकांसाठी तयार केलेल्या संदेशांमध्ये आभासी चलनात पैसे पाठवण्याच्या आणि पैसे भरल्याचा पुरावा म्हणून व्यवहार पुष्टीकरणाचे स्क्रीनशॉट देण्याच्या सूचना होत्या.

या कारस्थानातील अनेक कामांसाठी आमच्या मॉडेलची मदत घेण्यात आली. उदाहरणार्थ, समाजमाध्यमांसाठी प्रचारात्मक मजकूर तयार करणे आणि पूर्वपरिचय नसलेल्या लक्ष्यित व्यक्तींशी संपर्क साधण्यासाठी संदेश लिहिणे. मात्र, फसवणूक करणाऱ्यांनी ChatGPT चा सर्वाधिक वापर खासगी संदेशवहन ॲपवर लक्ष्य केलेल्या लोकांना पाठवलेल्या आणि त्यांच्याकडून आलेल्या संदेशांचे भाषांतर करण्यासाठी केला. यात “अमेरिकन इंग्रजीत” किंवा वकिलाच्या शैलीत उत्तर लिहिण्याच्या विनंत्यांचाही समावेश होता.

काही फसव्या खात्यांनी विश्वासार्हता वाढवण्याच्या उद्देशाने दिशाभूल करणारी सामग्री तयार करण्यासाठीही आमच्या मॉडेलचा वापर केला. यामध्ये वकिलांच्या बनावट नोंदणी नोंदी आणि वकील संघटनेची बनावट सदस्यत्व कार्डे, तसेच पीडितांनी बाहेरून मदत घेऊ नये यासाठी बनावट गोपनीयता करार यांचा समावेश होता.

परिणामांचे मूल्यमापन काळजीपूर्वक करणे आवश्यक आहे, कारण फसवणूक करणाऱ्यांनी स्वतः दिलेला मजकूर हा पुराव्याचा एक प्रमुख स्रोत आहे. त्या मजकुरावरून असे सूचित होते की फसवणूक करणाऱ्यांनी काही पीडित व्यक्तींकडून प्रत्येकी हजारो डॉलर उकळले असावेत. मात्र, या दाव्यांची स्वतंत्रपणे पडताळणी करणे आम्हाला शक्य नाही. एफबीआय आणि जिच्या नावाने तोतयागिरी करण्यात आली अशा किमान एका कायदेविषयक संस्थेने या फसवणुकीबाबत सार्वजनिक इशारे दिले आहेत. एफबीआयच्या अधिकाऱ्यांनी इशारा दिला की हे कारस्थान फसवणुकीला सहज बळी पडू शकणाऱ्या लोकांना, विशेषतः वृद्धांना लक्ष्य करते. त्यासाठी फसवणूक झालेल्या लोकांच्या भावनिक स्थितीचा आणि गमावलेले पैसे लवकर परत मिळवण्याच्या इच्छेचा गैरफायदा घेतला जातो.

आमच्या साधनांनी तयार केलेल्या सामग्रीचा फसवणुकीसाठी वापर करण्यास OpenAI च्या धोरणांमध्ये सक्त मनाई आहे. कृत्रिम बुद्धिमत्तेमुळे अपायकारक कारवाया करणाऱ्यांच्या वर्तनात कसे बदल होत आहेत हे समजून घेण्यासाठी आणि आमच्या सेवांचा गैरवापर करणाऱ्या फसव्या कारवायांना सक्रियपणे आळा घालण्यासाठी आम्ही उद्योगातील इतर संस्था आणि अधिकाऱ्यांसोबत सहकार्य करण्यास कटिबद्ध आहोत.