प्रेम-जाल घोटाला: एआई-सहायित पिग बुचरिंग कार्यप्रवाह
OpenAI ने कंबोडिया से संचालित होते दिखे उन खातों पर प्रतिबंध लगाया, जिन्होंने प्रेम और निवेश घोटाले की बातचीत का अनुवाद करने और उसे तैयार करने के लिए एआई का इस्तेमाल किया.
यह केस स्टडी मूल रूप से OpenAI की फरवरी 2025(एक नई विंडो में खुलेगा) की रिपोर्ट में प्रकाशित हुई थी.
संचालक
हमने ChatGPT खातों के एक समूह पर प्रतिबंध लगाया, जो जापानी, चीनी और अंग्रेजी में छोटी टिप्पणियों का अनुवाद कर रहा था और उन्हें तैयार कर रहा था. ऐसा लगता है कि यह गतिविधि कंबोडिया से शुरू हुई थी और प्रेम व निवेश घोटाले के अनुरूप थी, जिसे “पिग बुचरिंग” भी कहा जाता है. Meta ने हाल में इससे जुड़ी गतिविधि की पहचान की(एक नई विंडो में खुलेगा), जो उसके प्लेटफॉर्म पर कंबोडिया में नए बनाए गए एक घोटाला परिसर से शुरू हुई दिखी.
व्यवहार
इस नेटवर्क ने छोटी टिप्पणियों का अनुवाद करने और उन्हें तैयार करने के लिए हमारे मॉडलों का इस्तेमाल किया. संचालकों की मुख्य भाषा चीनी रही प्रतीत होती है. आउटपुट कई भाषाओं में था, खास तौर पर जापानी और चीनी में, लेकिन अंग्रेजी में भी था.
संचालकों ने हमारे मॉडलों का इस्तेमाल मुख्य रूप से दो गतिविधियों के लिए किया. पहला, वे ऐसी टिप्पणियां तैयार करते थे जिन्हें Facebook, X और Instagram समेत सोशल मीडिया प्लेटफॉर्म पर सार्वजनिक रूप से पोस्ट किया जाता था. हर सोशल मीडिया खाते पर आम तौर पर किसी युवती की एक या अधिक प्रोफाइल तस्वीरें होती थीं. हमारा आकलन है कि इनमें से कम से कम कुछ तस्वीरें एआई से तैयार होने के बजाय वास्तविक मॉडलों या इन्फ्लुएंसरों से कॉपी की गई थीं.
तैयार की गई अधिकांश टिप्पणियां वास्तविक लोगों की सोशल मीडिया पोस्ट के जवाब में की गई थीं. संचालकों ने जिन पोस्ट का जवाब दिया, उनमें से कुछ कई महीने या साल पुरानी थीं. यह अभियान आम तौर पर ऐसे पुरुषों को निशाना बनाता था जिनकी सार्वजनिक प्रोफाइल से उनकी उम्र 40 वर्ष से अधिक लगती थी और जो अक्सर चिकित्सा पेशे से जुड़े होते थे. इस अभियान से अक्सर गोल्फ से जुड़ी पोस्ट का जवाब दिया जाता था, जो सोच-समझकर अपनाई गई लक्ष्यीकरण रणनीति का संकेत है. कभी-कभी घोटालेबाज राजनीतिक मुद्दों या समसामयिक घटनाओं के बारे में पोस्ट करते थे.
इस पक्ष ने हमारे मॉडलों का उपयोग करके Facebook टिप्पणी तैयार की और उसे गोल्फ के बारे में ऐसे व्यक्ति की टिप्पणी के जवाब में पोस्ट किया जो इस अभियान से जुड़ा नहीं दिखा. घोटाले वाले खाते की प्रोफाइल तस्वीर एक अमेरिकी फैशन और सौंदर्य इन्फ्लुएंसर से कॉपी की गई है. जब तक घोटाले वाले खाते ने वहां टिप्पणी पोस्ट की, मूल पोस्ट एक महीने से अधिक पुरानी हो चुकी थी.
हमारे मॉडलों से तैयार की गई टिप्पणी, जिसे X पर एक सत्यापित खाते ने ऐसे खाते के ट्वीट के जवाब में पोस्ट किया जो इस घोटाले से जुड़ा नहीं दिखा. उस खाते की प्रोफाइल तस्वीर भी उसी अमेरिकी फैशन और सौंदर्य इन्फ्लुएंसर से कॉपी की गई है. मूल ट्वीट लगभग छह महीने पुराना था.
दूसरा और अधिक आम तरीका यह था कि संचालक ऑनलाइन बातचीत के अंशों जैसी छोटी टिप्पणियां तैयार करते थे. इसमें आम तौर पर टिप्पणियों का चीनी से लक्षित भाषा, यानी जापानी या अंग्रेजी, में अथवा लक्षित भाषा से वापस चीनी में अनुवाद करना शामिल था. यह इस बात के अनुरूप है कि घोटालेबाज मॉडल का इस्तेमाल मुख्य रूप से जारी चैट का अनुवाद करने के लिए कर रहे थे.
कभी-कभी खाते मॉडल से किसी खास लहजे में जवाब तैयार करने को कहते थे, जैसे किसी चुलबुली युवती का लहजा. कभी-कभी मॉडल के जवाबों को दिशा देने के लिए व्यापक जीवनी संबंधी विवरण दिए जाते थे, जिनमें नकली पहचान का नाम, शैक्षिक पृष्ठभूमि, नौकरी, स्थान और शौक शामिल होते थे. इन जीवनियों में आम तौर पर यह विवरण शामिल होता था कि नकली पहचान वाला व्यक्ति ऑनलाइन निवेश में थोड़ा-बहुत पैसा लगाता था.
ऐसा लगता है कि घोटालेबाजों ने अपने लक्ष्यों से संपर्क करने के लिए कई अलग-अलग टूल और प्लेटफॉर्म का इस्तेमाल किया. हमारी जांच में उनके द्वारा इस्तेमाल किए गए टूल के साक्ष्य मिले, जिनमें LINE, WhatsApp, X, Facebook, Instagram, कई अन्य संदेश सेवाएं, Apple का “मेरा ईमेल छिपाएं” फीचर(एक नई विंडो में खुलेगा) और क्रिप्टोकरेंसी व विदेशी मुद्रा प्लेटफॉर्म शामिल थे.
प्रक्रिया के चरण
इस गतिविधि के बारे में हमें मिली खास जानकारी के आधार पर ऐसा लगता है कि घोटालेबाज अपने लक्ष्यों को शुरुआती संपर्क से धोखाधड़ी वाले निवेश तक ले जाने के लिए एक सामान्य कार्यप्रवाह अपनाते थे:
सार्वजनिक संपर्क: घोटालेबाज लक्ष्य की सोशल मीडिया पोस्ट पर टिप्पणियां करते थे. ये टिप्पणियां अक्सर किसी सवाल पर खत्म होती थीं, जैसे “आप [विषय] के बारे में क्या सोचते हैं?”, ताकि जवाब मिलने की संभावना बढ़ सके. कुछ मामलों में उन्होंने राजनीति पर टिप्पणी की, लेकिन वे अक्सर गोल्फ के बारे में बात करते थे.
संभावित सीधे संदेश: इसके बाद घोटालेबाज बातचीत जैसी छोटी टिप्पणियां तैयार करते थे. ये टिप्पणियां कहां और कैसे इस्तेमाल की गईं, इसकी हमें पूरी जानकारी नहीं है, लेकिन वे ऐसी स्थिति के अनुरूप थीं जिसमें घोटालेबाज और लक्ष्य ने सीधे संदेशों का आदान-प्रदान शुरू कर दिया था.
सुरक्षित संदेश सेवा: बहुत जल्द, अक्सर कुछ ही दिनों में, घोटालेबाज ऐसे संदेश तैयार करते थे जिनमें किसी अधिक सुरक्षित संदेश ऐप पर जाने का सुझाव होता था. कभी इसके लिए कहा जाता था कि घोटालेबाज को सोशल मीडिया पर भरोसा नहीं है. अन्य मौकों पर कोई व्यावहारिक बहाना दिया जाता था, जैसे यह कहना कि वे ऐसी जगह जाने वाले हैं जहां सोशल मीडिया उपलब्ध नहीं होगा.
रोमांटिक जुड़ाव: घोटालेबाज लगातार अधिक स्नेहपूर्ण और अंतरंग होते संदेश लिखते और उनका अनुवाद करते थे. अगर लक्ष्य उस “महिला” की तस्वीरें मांगते जिससे वे चैट कर रहे थे, तो घोटालेबाज बहाने बनाते थे.
वित्तीय जुड़ाव: घोटालेबाज ऐसे संदेश लिखते और उनका अनुवाद करते थे जिनमें ऑनलाइन विदेशी मुद्रा, क्रिप्टोकरेंसी या सोने में निवेश करके बड़ी रकम कमाने का दावा किया जाता था. इसे अक्सर वित्तीय क्षेत्र में काम करने वाले किसी रिश्तेदार की सलाह मानने का परिणाम बताया जाता था. घोटालेबाज लक्ष्य से उसी तरह निवेश शुरू करने का आग्रह करते और पूरी प्रक्रिया में मार्गदर्शन देने की पेशकश करते थे.
धोखाधड़ी: घोटालेबाज ऐसे संदेश लिखते और उनका अनुवाद करते थे जिनका उद्देश्य पीड़ित को किसी ट्रेडिंग ऐप में पैसे भेजने के लिए मनाना होता था. वे अपनी कथित भारी कमाई का बखान करके उसे प्रोत्साहित भी करते थे. जब भी पीड़ित अपना “मुनाफा” निकालने की कोशिश करता, घोटालेबाज कोई बहाना देता, जैसे यह कहना कि पहले शुल्क चुकाना होगा.
गतिविधि का यह ढर्रा ऐसे घोटालों के सामान्य तरीके पर उपलब्ध सार्वजनिक रिपोर्टिंग(एक नई विंडो में खुलेगा) के अनुरूप है.
प्रभाव
ऐसा लगता है कि इस गतिविधि में कई असफल शुरुआत और नाकामियां शामिल थीं. घोटालेबाजों ने हमारे मॉडलों से जिन बातचीतों को संसाधित किया, उनमें से कुछ का अंत लक्ष्य द्वारा इस गतिविधि को घोटाला बताने या घोटालेबाज से उसे अकेला छोड़ने को कहने के साथ हुआ. हमने सोशल मीडिया पर घोटालेबाजों की ऐसी पोस्ट भी पहचानीं जिन पर कोई प्रतिक्रिया नहीं मिली थी.
हालांकि, कुछ बातचीतों में व्यक्तिगत लेन-देन की रकम के तौर पर हजारों डॉलर या अन्य मुद्राओं में उसके बराबर राशि का उल्लेख था. इन संचालकों ने हमारे मॉडलों का जिस तरह इस्तेमाल किया, उसके कारण हमें यह जानकारी नहीं है कि ये वित्तीय लेन-देन वास्तव में हुए थे या नहीं. हालांकि, बातचीत में मिले संदर्भों से संकेत मिलता है कि कम से कम कुछ मामलों में घोटालेबाज अपने लक्ष्यों को ठगने में सफल रहे.
OpenAI की नीतियां धोखाधड़ी या घोटालों के लिए हमारे टूल से मिले आउटपुट के इस्तेमाल पर सख्त रोक लगाती हैं. हम यह समझने के लिए उद्योग के अन्य संगठनों और अधिकारियों के साथ सहयोग करने के लिए प्रतिबद्ध हैं कि विरोधपूर्ण गतिविधियों में एआई का उपयोग कैसे किया जाता है. साथ ही, हम अपनी सेवाओं का दुरुपयोग करने वाली घोटाला गतिविधियों को सक्रिय रूप से बाधित करते हैं. इस प्रतिबद्धता के अनुरूप, हमने जिन घोटाला नेटवर्कों को बाधित किया, उनके बारे में उद्योग के अन्य संगठनों और संबंधित अधिकारियों के साथ जानकारी साझा की है.