साइबर अभियान: रूसी-भाषी मैलवेयर टूल निर्माण

यह केस अध्ययन मूल रूप से OpenAI की अक्टूबर 2025⁠(एक नई विंडो में खुलेगा) की रिपोर्ट में प्रकाशित हुआ था.

हमने उन ChatGPT खातों पर प्रतिबंध लगा दिया जो रिमोट-एक्सेस ट्रोजन, क्रेडेंशियल चुराने वाले टूल और पहचान से बचने वाली सुविधाओं सहित मैलवेयर बनाने और उसे बेहतर करने में मॉडल का उपयोग करने की कोशिश कर रहे थे. ये खाते रूसी-भाषी आपराधिक समूहों से जुड़े प्रतीत होते हैं, क्योंकि हमने उन्हें ऐसे हमलावरों को समर्पित एक Telegram चैनल पर अपनी गतिविधियों के प्रमाण पोस्ट करते देखा. अपनी जाँच के आधार पर हमारा आकलन है कि यह गतिविधि कई खाते संचालित करने और प्रॉक्सी व अस्थायी होस्टिंग अवसंरचना का लाभ उठाने वाले एक रूसी-भाषी Operator से जुड़ी थी.

इस हमलावर ने मुख्य रूप से कई ChatGPT खातों का उपयोग उन तकनीकी घटकों के प्रारूप बनाने और उनकी समस्याएँ दूर करने के लिए किया, जो सफल घुसपैठ के बाद की कार्रवाइयों और क्रेडेंशियल चोरी को संभव बनाते हैं. इस तरह के हमलावर ऐसी गतिविधियों के लिए पहले से जाने जाते हैं. मॉडल ने दुर्भावनापूर्ण सामग्री बनाने के सीधे अनुरोध अस्वीकार कर दिए. इसलिए Operator आम तौर पर मॉडल से अलग-अलग आधारभूत कोड बनवाता था, जैसे संकलित निष्पादन योग्य फाइलों को शेलकोड में बदलना, मेमोरी में चलने वाले लोडर तैयार करना या ब्राउज़र क्रेडेंशियल का विश्लेषण करना. इसके बाद हमलावर ने संभवतः इन्हें जोड़कर दुर्भावनापूर्ण कार्यप्रवाह बनाए.

हमलावर ने हमारे मॉडलों का उपयोग कोड छिपाने और “क्रिप्टर” पैटर्न बनाने के लिए भी किया, जैसे अतिरिक्त निर्देश और अनुपयोगी अनुक्रम जोड़ना, क्लिपबोर्ड की निगरानी करना तथा डेटा बाहर भेजने वाले सरल सहायक टूल बनाना, जिनमें Telegram बॉट अपलोडर और संग्रह बनाकर भेजने वाली स्क्रिप्ट शामिल थीं. ये आउटपुट अपने आप में दुर्भावनापूर्ण नहीं हैं, जब तक कि कोई हमलावर हमारे प्लेटफॉर्म के बाहर इनका उस तरह उपयोग न करे.

हमलावर ने ChatGPT का उपयोग मुख्य रूप से तकनीकी कार्यों के लिए किया, जैसे निम्न-स्तरीय PE / Win32 API और DPAPI / AES GCM कुकी प्रबंधन तथा Chrome DevTools / CDP स्वचालन. हमलावर ने अत्यधिक और अपेक्षाकृत कम जटिलता वाले, दोनों तरह के अनुरोध किए. कई प्रॉम्प्ट के लिए Windows प्लेटफॉर्म की गहरी जानकारी और बार-बार डीबगिंग की जरूरत थी, जबकि अन्य ने बड़ी संख्या में पासवर्ड बनाने और स्क्रिप्ट के जरिये नौकरी के आवेदन भेजने जैसे सामान्य कार्य स्वचालित किए. Operator ने कुछ ही ChatGPT खातों का उपयोग किया और अलग-अलग वार्तालापों में उसी कोड को बार-बार बेहतर बनाया. यह तरीका कभी-कभार परीक्षण करने के बजाय लगातार विकास करने के अनुरूप है.

हमारे मॉडलों का उपयोग हमलावर के किसी टूल या कार्यप्रवाह को चलाने के लिए नहीं किया गया और हम प्लेटफॉर्म से बाहर हुई किसी गतिविधि की स्वतंत्र रूप से पुष्टि नहीं कर सकते. इस हमलावर ने हमारे मॉडलों का उपयोग आक्रामक टूल और परिचालन कार्यप्रवाह बनाने व बेहतर करने के लिए करने की कोशिश की. ये क्रेडेंशियल और क्रिप्टो परिसंपत्तियाँ चुराने, छिपकर कोड चलाने तथा गुप्त अवसंरचना प्रबंधित करने में सक्षम प्रतीत होते हैं.

विशेष रूप से, उन्होंने ChatGPT का उपयोग मेमोरी में निष्पादन और शेलकोड लोडर; UAC / SmartScreen / Mark-of-the-Web को पार करने; ब्राउज़र क्रेडेंशियल / कुकी निकालने और ऐप से बंधे कूटलेखन को खोलने के आधारभूत ढाँचे; LevelDB वॉलेट विश्लेषण तथा डेटा बाहर भेजने वाले क्लिपबोर्ड अपहरण / क्लिपबोर्ड प्रतिस्थापन टूल; और वीडियो व इनपुट अनुकरण सहित रिमोट-एक्सेस (RAT) घटकों के लिए काम करने वाला कोड व तैनाती मार्गदर्शन बनाने और बार-बार बेहतर करने में किया. अपने सुरक्षा उपायों के अनुरूप, हमारे मॉडलों ने ऐसे अनुरोध अस्वीकार कर दिए जो स्पष्ट रूप से दुर्भावनापूर्ण थे और जिनका कोई वैध उपयोग नहीं था.

इन गतिविधियों के प्रतिनिधि उदाहरणों को LLM ATT&CK ढाँचे में इस प्रकार वर्गीकृत किया जा सकता है:

हमने इस गतिविधि से जुड़े सभी खाते निष्क्रिय कर दिए और संबंधित संकेतक उद्योग साझेदारों के साथ साझा किए. हमें ऐसा कोई प्रमाण नहीं मिला कि हमारे मॉडलों तक पहुँच से इन हमलावरों को ऐसी नई क्षमताएँ या दिशानिर्देश मिले जिन्हें वे सार्वजनिक रूप से उपलब्ध कई संसाधनों से प्राप्त नहीं कर सकते थे. हमारे मॉडलों ने सीधे एक्सप्लॉइट और कीलॉगर बनाने के अनुरोध अस्वीकार कर दिए.