घोटाला अभियान: ऑनलाइन धोखाधड़ी नेटवर्क

यह केस स्टडी मूल रूप से OpenAI की अक्टूबर 2025⁠(एक नई विंडो में खुलेगा) की रिपोर्ट में प्रकाशित हुई थी.

संभवतः कंबोडिया, म्यांमार और नाइजीरिया से संचालित नेटवर्क लोगों से ऑनलाइन धोखाधड़ी करने के प्रयासों में ChatGPT का दुरुपयोग कर रहे थे.

हम हानिकारक उद्देश्यों के लिए अपने मॉडलों के दुरुपयोग के प्रयासों की पहचान करने, उन्हें रोकने और बाधित करने के लिए प्रतिबद्ध हैं. इन दुरुपयोगों में घोटाले भी शामिल हैं, जिनमें हम लोगों को गुमराह करके उनसे धोखाधड़ी करने के लिए हमारे मॉडलों का दुरुपयोग करने वाले दुर्भावनापूर्ण लोगों की पहचान कर उन पर प्रतिबंध लगाते हैं. पिछले तीन महीनों में हमने ऐसे घोटाला नेटवर्क बाधित किए हैं जो संभवतः कंबोडिया, म्यांमार और नाइजीरिया से संचालित हो रहे थे. धोखाधड़ी से निपटने में एआई की भूमिका का संकेत यह है कि दुरुपयोग के इन तौर-तरीकों की जांच करते समय हमने कई लोगों को घोटालों की पहचान करने के लिए हमारे मॉडलों की मदद लेते भी देखा है. इस रिपोर्ट में उपयोग के इन दोनों मामलों पर चर्चा की गई है.

घोटालों में मदद के लिए हमारे मॉडलों का दुरुपयोग अकेले धोखाधड़ी का प्रयास करने वाले लोगों से लेकर संगठित अपराध समूहों से संभवतः जुड़े बड़े और लगातार सक्रिय अभियानों तक फैला है. मूल और सटीक तरीकों से परे, हमारे द्वारा बाधित घोटाला गतिविधियां आम तौर पर एक साझा ढर्रे पर चलती हैं. हम इसे संपर्क, यानी बिना पूर्व परिचय के संदेश भेजना, उत्तेजना, यानी उत्साह या घबराहट पैदा करना, और वार, यानी पैसा या मूल्यवान जानकारी ऐंठना, कहते हैं.

ये घोटालेबाज शुरुआत में संदेश सेवाओं और इंटरनेट पर हर ओर सामग्री फैलाते हैं, चाहे वह एआई से बनाई गई हो या नहीं. इसमें सोशल मीडिया विज्ञापन चलाना भी शामिल है. फिर वे जवाब देने वाले व्यक्ति में किसी लाभदायक अवसर को लेकर उत्साह या आसन्न आर्थिक नुकसान का डर पैदा करते हैं और इसी भावना का फायदा उठाकर उसे पैसा या संवेदनशील जानकारी सौंपने के लिए मनाते हैं.

हमने ऐसे कई मामले भी देखे हैं जिनमें संभवतः हमारे मॉडलों ने लोगों को धोखाधड़ी से सुरक्षित रखने में मदद की. हमें हर महीने लाखों बार लोगों द्वारा ऑनलाइन घोटालों की पहचान करने और उनसे बचने के लिए ChatGPT की मदद लेने के प्रमाण मिले हैं. इस रिपोर्ट के हर घोटाला अभियान में हमने मॉडल को लोगों की सही घोटाला पहचानने और उचित सुरक्षा उपाय सुझाने में मदद करते देखा है. हमारा मौजूदा अनुमान है कि ChatGPT का उपयोग घोटाले करने की तुलना में उनकी पहचान करने के लिए तीन गुना अधिक हो रहा है.

OpenAI के एक जांचकर्ता ने उन्हें मिले घोटाले वाले एसएमएस संदेश का स्क्रीनशॉट ChatGPT में डाला और मॉडल की मदद से सफलतापूर्वक उसकी पहचान घोटाले के रूप में की. इस मामले में हमलावरों ने टिकटॉक के भर्तीकर्ता बनकर धोखा देने का प्रयास किया था.

अपनी पिछली रिपोर्ट के बाद से हमने घोटालों का पता लगाने और उन्हें बाधित करने की अपनी क्षमता मजबूत की है. हमने ऐसे और घोटाला नेटवर्क बाधित किए हैं जो संभवतः कंबोडिया, म्यांमार और नाइजीरिया से संचालित हो रहे थे. पहले की कार्रवाइयों के साथ इन नेटवर्कों को बंद करने से हमें अलग-अलग देशों में चल रहे कई घोटाला अभियानों के कुछ उभरते रुझानों की पहचान करने में मदद मिली है.

हमने जिन घोटाला गतिविधियों को बाधित किया, उनमें से अधिकांश में एआई को केंद्र में रखकर नए तरीके बनाने के बजाय मौजूदा घोटाले के तरीकों में उसका उपयोग किया गया था. इस वर्ष हमने जितने भी घोटाला अभियानों की पहचान करके उन पर प्रतिबंध लगाया, उन सभी ने मुख्य रूप से एआई का उपयोग पैमाना बढ़ाने और दक्षता सुधारने के उपकरण के रूप में किया. इसमें आम तौर पर अनुवाद करने, संदेश लिखने और सोशल मीडिया के लिए सामग्री बनाने हेतु हमारे मॉडलों का उपयोग शामिल था.

उदाहरण के लिए, हमने हाल ही में संभवतः कंबोडिया और नाइजीरिया से संचालित ऐसे घोटाला अभियानों पर प्रतिबंध लगाया, जिन्होंने कई देशों में पीड़ितों से धोखाधड़ी करने के लिए खुद को “निवेश कंपनियों” के रूप में पेश किया था. घोटालेबाजों ने नकली कंपनियों के प्रचार के लिए वेबसाइटें और ऑनलाइन विज्ञापन बनाए. उन्होंने व्यापार विशेषज्ञों के रूप में पेश होने वाले संभवतः फर्जी सोशल मीडिया खातों के जरिए लोगों को निजी संदेश समूहों में शामिल होने के लिए आमंत्रित किया. लाभदायक और शून्य जोखिम वाले कमाई के अवसरों का वादा करके हमलावरों ने संभावित पीड़ितों को काल्पनिक व्यापार मंचों पर भुगतान करने के लिए लुभाने का प्रयास किया. सभी घोटालों में घोटालेबाजों ने मुख्य रूप से पत्राचार तैयार करने और उसका अनुवाद करने, अपनी वेबसाइटों व सोशल मीडिया खातों के लिए सामग्री बनाने और सामान्य शोध करने हेतु हमारे मॉडलों का उपयोग किया.

एक अन्य मामले में हमने संभवतः म्यांमार में स्थित एक घोटाला केंद्र पर प्रतिबंध लगाया, जिसने हमारे मॉडलों का उपयोग अपनी धोखाधड़ी योजनाओं के लिए सामग्री बनाने और रोजमर्रा के व्यावसायिक काम करने, दोनों के लिए किया था. इन कामों में समय-सारणी व्यवस्थित करना, आंतरिक घोषणाओं के मसौदे तैयार करना, मेज और छात्रावास आवंटित करना तथा वित्तीय खातों का प्रबंधन करना शामिल था. कुछ संचालकों ने ऑनलाइन घोटाले करते पकड़े गए लोगों को मिलने वाली आपराधिक सजाओं के बारे में पूछा.

हमने जिन घोटालेबाजों की गतिविधियां बाधित कीं, वे सभी हमारे मॉडलों का एक ही तरह या समान जटिलता के साथ उपयोग नहीं करते थे. ChatGPT के साथ घोटालेबाजों की अधिकांश बातचीत में अनुवाद जैसे अपेक्षाकृत सरल काम शामिल थे, लेकिन कुछ घोटाला अभियान अधिक महत्वाकांक्षी और जटिल थे.

मिसाल के लिए, हमारे द्वारा बाधित संभवतः कंबोडिया से संचालित एक घोटाला अभियान ने नकली निवेश विशेषज्ञों और फर्जी व्यापार कंपनियों के काल्पनिक कर्मचारियों की विस्तृत जीवनियां बनाने के लिए हमारे मॉडलों का उपयोग किया. इसके बाद घोटालेबाजों ने ChatGPT से उन्हीं पात्रों की शैली में सोशल मीडिया संदेश लिखने को कहा. हमलावर अक्सर अपने लक्ष्यों से मिले प्रतीत होने वाले संदेश हमारे मॉडल में डालते और मॉडल से नकली पहचान अपनाकर बातचीत जारी रखने को कहते थे.

एक अन्य घोटाला अभियान, जो संभवतः कंबोडिया से ही संचालित था, ने शुरुआत में हमारे मॉडलों से बिना पूर्व संपर्क वाले एसएमएस संदेश बनवाए और उन्हें बड़ी संख्या में अमेरिकी फोन नंबरों पर भेजा. इनमें से एक संदेश OpenAI के जांचकर्ता को भेजा गया था. यह उस मामले जैसा था जिसकी जानकारी हमने जून में दी थी. इन एसएमएस संदेशों में ऐसे वॉट्सऐप समूहों में शामिल होने के निमंत्रण थे, जिनके नाम एक वैध निवेश कंपनी से मिलते-जुलते थे और जिन्हें बाद में प्रतिबंधित कर दिया गया.

OpenAI के जांचकर्ता को भेजे गए वॉट्सऐप संदेशों से पता चला कि यदि कोई संभावित लक्ष्य इनमें से किसी समूह में शामिल होता, तो वह जल्द ही करीब छह अलग-अलग खातों के बीच निवेश पर होती एक “बातचीत” देखता. इनमें से एक खाता “निवेश विशेषज्ञ” बनता, जबकि बाकी खाते अलग-अलग स्तर के आत्मविश्वास और अनुभव वाले निवेशकों के रूप में पेश आते. इस बातचीत का हर हिस्सा घोटालेबाजों ने तैयार किया था और उसे एक ही खंड में चीनी भाषा से अनूदित किया था. संभवतः इसका उद्देश्य उत्साही और सफल व्यापारियों के सक्रिय समूह का आभास देना था. अंत में “निवेश विशेषज्ञ” लक्ष्य को भी निवेश करके देखने का सुझाव देता.

अलग से, संभवतः नाइजीरिया से संचालित एक निवेश घोटाला अभियान ने मॉडल से चरण-दर-चरण सलाह मांगी कि सोशल मीडिया विज्ञापनों के जरिए लैटिन अमेरिका के अमीर लोगों तक कैसे पहुंचा जाए, अपना स्थान कैसे छिपाया जाए और सोशल मीडिया मंचों के प्रतिबंधों से कैसे बचा जाए. इसके लिए मॉडल को एक मंच की सार्वजनिक सेवा शर्तें दिखाकर उससे प्रस्तावित विज्ञापन सामग्री की नियमों के अनुपालन के आधार पर समीक्षा करने को कहा गया.

घोटालेबाज, विशेषकर बड़े घोटाला केंद्र, लगातार प्रयास करते रहते हैं. गतिविधियां बाधित होने पर वे अक्सर अपने व्यवहार के कुछ पहलू बदलकर नियमों का उल्लंघन करने वाली गतिविधियां फिर शुरू करने का प्रयास करते हैं. संभवतः इसका उद्देश्य दोबारा पकड़े जाने से बचना होता है. यह एक कारण है कि पूरे उद्योग में उनकी बदलती गतिविधियों की जानकारी साझा करना महत्वपूर्ण है. मिसाल के लिए, OpenAI और मेटा ने हमलावरों के बारे में जानकारी साझा की, जिससे आगे की जांच और प्रवर्तन कार्रवाई में मदद मिली.

संभवतः कार्रवाई या एआई के उपयोग का पता देने वाले संकेतों पर व्यापक ऑनलाइन चर्चा के जवाब में, हमने घोटालेबाजों को ऑनलाइन सामग्री और लक्ष्यों से संवाद में एआई का अपना उपयोग छिपाने का प्रयास करते देखा है. इसमें संभवतः कंबोडिया से संचालित घोटाला अभियानों द्वारा मॉडल को परिणामों से दीर्घ विराम चिह्न हटाने का निर्देश देना शामिल है.

एक मामले में घोटालेबाजों ने प्रतिबंधित किए जाने का बहाना गढ़कर अपनी सोशल मीडिया संपत्तियों पर हुई व्यापक कार्रवाई को समझाने का प्रयास किया. यह ऊपर बताए गए, संभवतः कंबोडिया से संचालित उस घोटाला केंद्र से संबंधित था जो एसएमएस और वॉट्सऐप पर सक्रिय था. वॉट्सऐप द्वारा अभियान से जुड़े “निवेश समूहों” पर प्रतिबंध लगाने के बाद संचालकों ने ऐसे संदेश बनाने शुरू किए जिनमें दावा किया गया था कि एक प्रतिस्पर्धी ने उन समूहों की झूठी शिकायत की थी. संभवतः ऐसा प्रतिबंधों का बहाना बनाने के लिए किया गया.

वॉट्सऐप की कार्रवाई के बाद कंबोडिया से जुड़े घोटाला अभियान द्वारा OpenAI के जांचकर्ता को भेजे गए वॉट्सऐप संदेश का स्क्रीनशॉट.