छलपूर्ण रोज़गार योजना: सूचना प्रौद्योगिकी कर्मियों की गतिविधियाँ

यह प्रकरण अध्ययन मूल रूप से OpenAI की जून 2025⁠(एक नई विंडो में खुलेगा) की रिपोर्ट में प्रकाशित हुआ था.

हमने ऐसे ChatGPT खातों की पहचान कर उन पर प्रतिबंध लगाया, जो कई संदिग्ध छलपूर्ण रोज़गार अभियानों से जुड़े प्रतीत होते थे. इन दुर्भावनापूर्ण पक्षों ने दुनिया भर में सूचना प्रौद्योगिकी, सॉफ़्टवेयर अभियांत्रिकी और अन्य दूरस्थ नौकरियों के लिए आवेदन करने के संभावित धोखाधड़ी वाले प्रयासों में मददगार सामग्री तैयार करने के लिए OpenAI के मॉडलों का इस्तेमाल किया.

हालाँकि हम इन दुर्भावनापूर्ण पक्षों के स्थान या राष्ट्रीयता का निर्धारण नहीं कर सकते, लेकिन उनका व्यवहार उन गतिविधियों से मेल खाता था, जिन्हें सार्वजनिक रूप से सूचना प्रौद्योगिकी कर्मियों से जुड़ी उत्तर कोरिया (डीपीआरके) से संबद्ध योजनाओं⁠(एक नई विंडो में खुलेगा) का हिस्सा बताया गया है. हालिया अभियानों से जुड़े कुछ लोगों को संभवतः उत्तर कोरिया से संबद्ध दुर्भावनापूर्ण पक्षों के मुख्य समूह ने ठेकेदारों के रूप में नियुक्त किया था. उनका काम अमेरिका सहित अन्य स्थानों पर आवेदन संबंधी कार्य करना और हार्डवेयर चलाना रहा होगा.

नवीनतम अभियानों में रोज़गार प्रक्रिया के हर चरण में एआई का इस्तेमाल करने की कोशिश की गई. यह उन दुर्भावनापूर्ण पक्षों की गतिविधियों जैसा था, जिन्हें हमने बाधित किया था और जिनके बारे में फ़रवरी⁠(एक नई विंडो में खुलेगा) में लिखा था. पहले हमने देखा था कि ये पक्ष एआई से एक-एक करके विश्वसनीय दिखने वाली काल्पनिक पहचानें बना रहे थे. ये पहचानें अक्सर अमेरिका में रहने वाले लोगों की होती थीं और इनमें प्रमुख कंपनियों में काम करने का फ़र्ज़ी अनुभव शामिल होता था. इस बार उन्होंने जीवनवृत्त बनाने की प्रक्रिया को कुछ हद तक स्वचालित करने की कोशिश की. कुछ संकेतों से लगता है कि अफ़्रीका में मौजूद संचालक नौकरी के आवेदक बनकर पेश आ रहे थे और साथ ही अपनी ओर से लैपटॉप चलाने के लिए उत्तरी अमेरिका में लोगों को भर्ती कर रहे थे.

हमें गतिविधियों की दो अलग धाराएँ मिलीं, जो संभवतः दो तरह के संचालकों का प्रतिनिधित्व करती थीं: मुख्य संचालक और ठेकेदार.

मुख्य संचालकों ने विशिष्ट नौकरी विवरणों, कौशल के नमूनों और काल्पनिक परिचयों के आधार पर जीवनवृत्त बनाना स्वचालित करने की कोशिश की. उन्होंने नौकरी के आवेदनों का प्रबंधन करने और उनकी स्थिति पर नज़र रखने वाले उपकरण बनाने के बारे में भी जानकारी माँगी. उन्होंने हमारे मॉडलों से ऐसी सामग्री भी तैयार कराई, जो दुनिया के अलग-अलग हिस्सों में ठेकेदारों की भर्ती के लिए नौकरी के विज्ञापनों जैसी लगती थी.

मुख्य संचालकों ने दूरस्थ काम की व्यवस्था बनाने के लिए जानकारी जुटाने के साधन के रूप में ChatGPT का इस्तेमाल किया. उन्होंने हमारे मॉडलों से अमेरिका में वास्तविक लोगों की भर्ती से संबंधित सामग्री भी तैयार कराई. इन लोगों को कंपनियों द्वारा भेजे गए लैपटॉप प्राप्त करने थे, जिन्हें बाद में मुख्य दुर्भावनापूर्ण पक्ष या उनके ठेकेदार दूर से इस्तेमाल करते.

इन दुर्भावनापूर्ण पक्षों ने अपने अभियानों में Tailscale के उपकरणों को सीधे जोड़ने वाले वीपीएन, OBS Studio, vdo.ninja से सीधा वीडियो जोड़ने की तकनीक और एचडीएमआई कैप्चर लूप जैसे साधनों के इस्तेमाल पर शोध किया. इन साधनों का इस्तेमाल कंपनियों के सुरक्षा उपायों को दरकिनार करने के लिए किया जा सकता है. सफल होने पर, इनसे कोई व्यक्ति बिना पकड़े गए लगातार दूरस्थ पहुँच बनाए रख सकता है और सीधे वीडियो संवाद पर निर्भर कुछ पहचान सत्यापन प्रक्रियाओं को चकमा देने की कोशिश भी कर सकता है.

इस बीच, संभावित ठेकेदार संचालकों ने नौकरी के आवेदन संबंधी कार्य पूरे करने में मदद के लिए ChatGPT का इस्तेमाल किया. उन्होंने इससे ऐसी सामग्री भी तैयार कराई, जो मुख्य संचालकों को भेजे जाने वाले संदेशों जैसी थी. इनमें भुगतान और दूरस्थ नौकरियों के लिए आवेदन में इस्तेमाल की गई काल्पनिक पहचानों के बारे में पूछताछ की गई थी.

हमने पाया कि इन दुर्भावनापूर्ण पक्षों ने एक छलपूर्ण अभियान के लिए हमारे मॉडलों का इस्तेमाल करने की कोशिश की. विशेष रूप से, उन्होंने बड़ी संख्या में आवश्यकताओं के अनुरूप और विश्वसनीय दिखने वाले जीवनवृत्त तैयार करने के लिए विस्तृत संकेतों, निर्देशों और बार-बार चलने वाली स्वचालित प्रक्रियाओं का इस्तेमाल किया.

• विभिन्न तकनीकी नौकरियों के विवरणों, काल्पनिक पहचानों और उद्योग के मानकों के अनुरूप विस्तृत जीवनवृत्त बनाना स्वचालित करना: लोगों को छलने में LLM की सहायता.

• अपलोड किए गए जीवनवृत्तों के आधार पर नौकरी के आवेदन संबंधी प्रश्नों के उत्तर देना, प्रोग्रामिंग के कार्य पूरे करना और साक्षात्कार के प्रश्नों के तत्काल उत्तर देना: लोगों को छलने में LLM की सहायता.

• कंपनी से मिले लैपटॉप को दूर से इस तरह विन्यस्त करने का मार्गदर्शन माँगना कि वे देश के भीतर स्थित दिखाई दें. इसमें भौगोलिक स्थान छिपाने और उपकरण की सुरक्षा से बच निकलने के तरीके शामिल थे: असामान्य गतिविधियों की पहचान से बचने की क्षमता को LLM से बेहतर बनाना.

• माउस को अपने-आप चलाने या कंप्यूटर को दूर से सक्रिय बनाए रखने वाले उपकरणों की प्रोग्रामिंग में सहायता करना, संभवतः दूरस्थ काम के लिए आवश्यक तकनीकी व्यवस्था बनाने में मदद के लिए: LLM की सहायता से विकास.

हम इन अभियानों की सफलता का स्वतंत्र रूप से आकलन नहीं कर सकते, क्योंकि इनके प्रभाव का आकलन करने के लिए कई हितधारकों से जानकारी लेना ज़रूरी होगा.

इन दुर्भावनापूर्ण पक्षों ने संभवतः अपनी कार्यकुशलता बढ़ाने के लिए प्रक्रिया के हर चरण में एआई को शामिल किया, लेकिन इससे उनके उजागर होने का जोखिम भी बढ़ गया. उनकी कार्यप्रणालियों के बारे में मिली जानकारी के कारण हम उनकी गतिविधियों के हर चरण से जुड़ी जानकारियाँ उद्योग के संबंधित सहयोगियों और अधिकारियों के साथ साझा कर सके. इससे ऐसे ख़तरों का पता लगाने, उन्हें रोकने और उन पर कार्रवाई करने की हमारी सामूहिक क्षमता बेहतर हुई और हम सभी की सुरक्षा भी बढ़ी.