फसवणूक कारवाया: ऑनलाइन फसवणूक नेटवर्क

हा प्रकरण-अभ्यास मूळतः OpenAI च्या ऑक्टोबर २०२५⁠(नवीन विंडोमध्ये उघडेल) च्या अहवालात प्रकाशित झाला होता.

कंबोडिया, म्यानमार आणि नायजेरियातून सुरू झाल्याची शक्यता असलेल्या नेटवर्ककडून ऑनलाइन फसवणुकीच्या प्रयत्नांसाठी ChatGPT चा गैरवापर.

हानिकारक उद्देशांसाठी आमच्या मॉडेलचा गैरवापर करण्याचे प्रयत्न ओळखणे, रोखणे आणि उद्ध्वस्त करणे यासाठी आम्ही कटिबद्ध आहोत. अशा गैरवापरांत घोटाळ्यांचाही समावेश होतो. लोकांची दिशाभूल आणि फसवणूक करण्यासाठी आमच्या मॉडेलचा गैरवापर करू पाहणाऱ्यांना आम्ही शोधून त्यांच्यावर बंदी घालतो. गेल्या तीन महिन्यांत आम्ही कंबोडिया, म्यानमार आणि नायजेरियातून सुरू झाल्याची शक्यता असलेली फसवणुकीची नेटवर्क उद्ध्वस्त केली आहेत. फसवणुकीविरुद्ध लढण्यात कृत्रिम बुद्धिमत्ता बजावू शकणाऱ्या भूमिकेचे द्योतक म्हणजे, गैरवापराच्या या पद्धतींची चौकशी करताना अनेक लोक घोटाळे ओळखण्यासाठी आमच्या मॉडेलची मदत घेत असल्याचेही आम्हाला दिसले. या अहवालात वापराच्या या दोन्ही प्रकारांची चर्चा केली आहे.

घोटाळ्यांना मदत करण्यासाठी आमच्या मॉडेलचा होणारा गैरवापर हा एकट्या व्यक्तीच्या फसवणुकीच्या प्रयत्नांपासून संघटित गुन्हेगारी गटांशी संबंधित असण्याची शक्यता असलेल्या मोठ्या आणि सातत्यपूर्ण कारवायांपर्यंत पसरलेला आहे. त्यांचा उगम किंवा नेमकी कार्यपद्धती कोणतीही असो, आम्ही उद्ध्वस्त केलेल्या घोटाळ्यांशी संबंधित कारवाया सहसा एका समान क्रमाने होतात. आम्ही त्याला संपर्काचा टप्पा (अनोळखी व्यक्तीशी अचानक संपर्क), भावनिक टप्पा (उत्साह किंवा घबराट निर्माण करण्याचा प्रयत्न) आणि घाताचा टप्पा (पैसे किंवा मौल्यवान माहिती काढून घेणे) असे म्हणतो.

हे फसवणूक करणारे समाजमाध्यमांवरील जाहिरातींसह संदेशसेवा आणि इंटरनेटवर कृत्रिम बुद्धिमत्तेने तयार केलेला किंवा अन्य प्रकारचा मजकूर मोठ्या प्रमाणावर पसरवून सुरुवात करतात. त्यानंतर ते प्रतिसाद देणाऱ्या व्यक्तीला भरघोस कमाईच्या संधीबद्दल उत्साहित किंवा तातडीच्या आर्थिक नुकसानीबद्दल भयभीत करण्याचा प्रयत्न करतात आणि त्या भावनेचा फायदा घेऊन लक्ष्य केलेल्या व्यक्तीकडून पैसे किंवा संवेदनशील माहिती मिळवतात.

आमच्या मॉडेलमुळे लोकांचे फसवणुकीपासून संरक्षण होण्यास मदत झाल्याची शक्यता असलेली अनेक प्रकरणेही आम्ही पाहिली आहेत. लोक दर महिन्याला लाखो वेळा ऑनलाइन घोटाळे ओळखण्यासाठी आणि टाळण्यासाठी ChatGPT ची मदत घेत असल्याचे पुरावे आम्हाला आढळले आहेत. या अहवालातील प्रत्येक फसवणूक कारवाईत, मॉडेलने लोकांना घोटाळा अचूकपणे ओळखण्यास मदत करून योग्य सुरक्षात्मक उपाय सुचवल्याचे आम्ही पाहिले. आमच्या सध्याच्या अंदाजानुसार, घोटाळ्यांसाठी ChatGPT चा जितका वापर होतो, त्याच्या तिप्पट वापर घोटाळे ओळखण्यासाठी होत आहे.

OpenAI च्या तपासकर्त्याला मिळालेल्या फसव्या एसएमएस संदेशाचा पडद्यावरील चित्र ChatGPT मध्ये चिकटवून, तो घोटाळा असल्याचे ओळखण्यासाठी मॉडेलचा यशस्वी वापर केल्याचे उदाहरण. या प्रकरणात हल्लेखोरांनी TikTok चे भरती अधिकारी असल्याचे भासवण्याचा प्रयत्न केला.

आमच्या मागील अहवालानंतर आम्ही घोटाळे शोधून ते उद्ध्वस्त करण्याची स्वतःची क्षमता आणखी बळकट केली आहे. कंबोडिया, म्यानमार आणि नायजेरियातून सुरू झाल्याचे भासणारी आणखी काही फसवणुकीची नेटवर्क आम्ही उद्ध्वस्त केली आहेत. यापूर्वीच्या कारवायांसह या कारवायांमुळे विविध देशांतील अनेक फसवणूक मोहिमांमध्ये दिसणारे काही नवे कल आम्हाला ओळखता आले.

आम्ही उद्ध्वस्त केलेल्या बहुतांश फसवणूक कारवायांमध्ये कृत्रिम बुद्धिमत्तेभोवती नव्या कार्यपद्धती तयार करण्याऐवजी, प्रचलित कार्यपद्धतींमध्ये तिचा समावेश करण्यावर भर होता. या वर्षी आम्ही ओळखून बंदी घातलेल्या सर्व फसवणूक कारवायांनी कृत्रिम बुद्धिमत्तेचा वापर प्रामुख्याने कामाचा विस्तार आणि कार्यक्षमता वाढवण्यासाठी केला. यात सामान्यतः भाषांतर, संदेशलेखन आणि समाजमाध्यमांसाठी मजकूर तयार करण्यासाठी आमच्या मॉडेलचा वापर केला गेला.

उदाहरणार्थ, अनेक देशांतील पीडितांची फसवणूक करण्यासाठी स्वतःला “गुंतवणूक संस्था” म्हणवणाऱ्या आणि बहुधा कंबोडिया व नायजेरियातून सुरू झालेल्या फसवणूक कारवायांवर आम्ही अलीकडेच बंदी घातली. फसवणूक करणाऱ्यांनी बनावट संस्थांच्या प्रचारासाठी संकेतस्थळे आणि ऑनलाइन जाहिराती तयार केल्या. तसेच, व्यापारतज्ज्ञ असल्याचे भासवणाऱ्या बहुधा बनावट समाजमाध्यम खात्यांद्वारे लोकांना खासगी संदेश गटांत सामील होण्याचे आमंत्रण दिले. भरघोस आणि शून्य जोखमीच्या कमाईच्या संधींचे आमिष दाखवून हल्लेखोरांनी संभाव्य पीडितांना काल्पनिक व्यापार मंचांवर पैसे भरण्यास प्रवृत्त करण्याचा प्रयत्न केला. या सर्व घोटाळ्यांत फसवणूक करणाऱ्यांनी पत्रव्यवहार तयार करून त्याचे भाषांतर करणे, संकेतस्थळे व समाजमाध्यम खात्यांसाठी मजकूर तयार करणे आणि प्राथमिक संशोधन करणे यासाठी प्रामुख्याने आमच्या मॉडेलचा वापर केला.

दुसऱ्या एका प्रकरणात, म्यानमारमध्ये असण्याची दाट शक्यता असलेल्या फसवणूक केंद्रावर आम्ही बंदी घातली. ते आमच्या मॉडेलचा वापर फसव्या योजनांसाठी मजकूर तयार करण्याबरोबरच दैनंदिन व्यावसायिक कामांसाठीही करत होते. यात वेळापत्रके आखणे, अंतर्गत सूचना तयार करणे, कार्यालयातील जागा व वसतिगृहातील खोल्यांचे वाटप करणे आणि आर्थिक खाती सांभाळणे यांचा समावेश होता. ऑनलाइन फसवणूक करताना पकडल्या गेलेल्या लोकांना कोणती गुन्हेगारी शिक्षा होऊ शकते, याबद्दल काही संचालकांनी विचारणा केली.

आम्ही कारवाई केलेल्या सर्व फसवणूक करणाऱ्यांनी आमच्या मॉडेलचा वापर सारख्याच पद्धतीने किंवा सारख्याच गुंतागुंतीच्या पातळीवर केला नाही. फसवणूक करणाऱ्यांच्या ChatGPT सोबतच्या बहुतांश संवादांत भाषांतरासारखी तुलनेने सोपी कामे होती, परंतु काही फसवणूक कारवाया अधिक महत्त्वाकांक्षी आणि विस्तृत होत्या.

उदाहरणार्थ, आम्ही उद्ध्वस्त केलेल्या आणि बहुधा कंबोडियातून सुरू झालेल्या एका फसवणूक कारवाईत बनावट गुंतवणूक तज्ज्ञ आणि बनावट व्यापारी संस्थांच्या काल्पनिक कर्मचाऱ्यांची तपशीलवार चरित्रे तयार करण्यासाठी आमच्या मॉडेलचा वापर झाला. त्यानंतर फसवणूक करणाऱ्यांनी त्या व्यक्तिरेखांच्या शैलीत समाजमाध्यम संदेश लिहिण्यास ChatGPT ला सांगितले. हल्लेखोर अनेकदा लक्ष्य केलेल्या व्यक्तींकडून मिळालेले वाटणारे संदेश आमच्या मॉडेलमध्ये प्रविष्ट करत आणि बनावट व्यक्तीच्या भूमिकेतून संवाद पुढे सुरू ठेवण्यास मॉडेलला सांगत.

बहुधा कंबोडियातून सुरू झालेल्या दुसऱ्या फसवणूक कारवाईने आमच्या मॉडेलचा वापर अनाहूत एसएमएस संदेश तयार करण्यासाठी केला आणि ते अमेरिकेतील दूरध्वनी क्रमांकांवर मोठ्या प्रमाणात पाठवले. जूनमध्ये आम्ही नोंदवलेल्या प्रकरणाप्रमाणेच, यापैकी एक संदेश OpenAI च्या तपासकर्त्याला पाठवण्यात आला. या एसएमएस संदेशांत एका वैध गुंतवणूक संस्थेसारखी नावे असलेल्या WhatsApp गटांत सामील होण्याची आमंत्रणे होती. नंतर त्या गटांवर बंदी घालण्यात आली.

OpenAI च्या तपासकर्त्याला पाठवलेल्या WhatsApp संदेशांच्या मालिकेवरून असे दिसते की संभाव्य लक्ष्य यापैकी एखाद्या गटात सामील झाल्यास, गुंतवणुकीबद्दल बोलणाऱ्या सहा-सात वेगवेगळ्या खात्यांमधील “संवाद” त्याला लगेच दिसत असे. यापैकी एक खाते “गुंतवणूक तज्ज्ञ” असल्याचे भासवत असे, तर उर्वरित खाती वेगवेगळ्या पातळीचा आत्मविश्वास आणि अनुभव असलेले गुंतवणूकदार असल्याचे भासवत. या संवादाचा प्रत्येक भाग फसवणूक करणाऱ्यांनी तयार केला होता. उत्साही आणि यशस्वी व्यापाऱ्यांचा गजबजलेला गट असल्याचे भासवण्यासाठी त्यांनी बहुधा संपूर्ण संवादाचे चिनी भाषेतून एकाच वेळी भाषांतर केले होते. शेवटी “गुंतवणूक तज्ज्ञ” लक्ष्य केलेल्या व्यक्तीलाही गुंतवणूक करून पाहण्याचा सल्ला देत असे.

याशिवाय, नायजेरियातून सुरू झाल्याची दाट शक्यता असलेल्या एका गुंतवणूक घोटाळा कारवाईने लॅटिन अमेरिकेतील श्रीमंत लोकांपर्यंत समाजमाध्यम जाहिरातींद्वारे कसे पोहोचावे, स्वतःचे स्थान कसे लपवावे आणि समाजमाध्यम मंचांचे निर्बंध कसे टाळावेत, याबद्दल मॉडेलकडे टप्प्याटप्प्याने सल्ला मागितला. यासाठी मॉडेलला संबंधित मंचाच्या सार्वजनिक सेवा-अटी दाखवून प्रस्तावित जाहिरात मजकूर त्या अटींशी सुसंगत आहे का, हे तपासण्यास सांगितले गेले.

फसवणूक करणारे, विशेषतः मोठ्या प्रमाणावर चालणारी फसवणूक केंद्रे, सातत्याने प्रयत्न करत राहतात. त्यांच्यावर कारवाई झाल्यानंतर ते अनेकदा आपल्या वर्तनातील काही घटक बदलून नियमभंग करणाऱ्या कारवाया पुन्हा सुरू करण्याचा प्रयत्न करतात. पुढील कारवाई टाळणे हा बहुधा त्यामागचा उद्देश असतो. त्यांच्या बदलत्या कारवायांविषयीची निरीक्षणे संपूर्ण उद्योगात सामायिक करणे महत्त्वाचे असण्याचे हे एक कारण आहे. उदाहरणार्थ, OpenAI आणि Meta या दोघांनीही हल्लेखोरांबद्दल स्वतंत्रपणे माहिती सामायिक केल्यामुळे पुढील तपास आणि कारवाईला मदत झाली.

कारवाईला प्रतिसाद म्हणून किंवा कृत्रिम बुद्धिमत्तेचा वापर उघड करणाऱ्या संकेतांबद्दल ऑनलाइन सुरू असलेल्या व्यापक चर्चेमुळे, फसवणूक करणाऱ्यांनी ऑनलाइन मजकूर आणि लक्ष्यांशी होणाऱ्या संवादातील कृत्रिम बुद्धिमत्तेचा वापर लपवण्याचा प्रयत्न केल्याचे आम्ही पाहिले आहे. यात बहुधा कंबोडियातून सुरू झालेल्या फसवणूक कारवायांनी मॉडेलला उत्तरांतून दीर्घ विरामचिन्हे काढून टाकण्यास सांगितल्याचाही समावेश आहे.

एका प्रकरणात, फसवणूक करणाऱ्यांनी बंदी घालण्याची खोटी सबब रचून आपल्या समाजमाध्यम साधनांवर झालेल्या मोठ्या कारवाईचे स्पष्टीकरण देण्याचा प्रयत्न केला. हे वर वर्णन केलेल्या, एसएमएस आणि WhatsApp वर कार्यरत असलेल्या व बहुधा कंबोडियातून चालवल्या जाणाऱ्या फसवणूक केंद्राशी संबंधित होते. या कारवाईशी संबंधित “गुंतवणूक गटांवर” WhatsApp ने बंदी घातल्यानंतर, संचालकांनी ते गट एका स्पर्धकाने खोटी तक्रार केल्यामुळे बंद झाले असल्याचा दावा करणारे संदेश तयार करण्यास सुरुवात केली. बहुधा बंदीचे स्पष्टीकरण देण्यासाठी त्यांनी असे केले.

WhatsApp च्या कारवाईनंतर कंबोडियाशी संबंधित फसवणूक मोहिमेने OpenAI च्या तपासकर्त्याला पाठवलेल्या WhatsApp संदेशाचे पडद्यावरील चित्र.