साइबर खतरा पैदा करने वाले तत्व: कृत्रिम बुद्धिमत्ता-सहायित घुसपैठ अनुसंधान

यह केस अध्ययन मूल रूप से OpenAI की फरवरी 2025⁠(एक नई विंडो में खुलेगा) की रिपोर्ट में प्रकाशित हुआ था.

हमने उन खातों पर प्रतिबंध लगाया जिनकी गतिविधियाँ संभवतः सार्वजनिक रिपोर्टों में बताए गए कोरिया लोकतांत्रिक जनवादी गणराज्य (DPRK) से संबद्ध खतरा पैदा करने वाले तत्वों से जुड़ी थीं. इनमें से कुछ खातों ने ऐसी गतिविधियाँ कीं जिनकी रणनीतियाँ, तकनीकें और प्रक्रियाएँ VELVET CHOLLIMA (उर्फ Kimsuky, Emerald Sleet)⁠(एक नई विंडो में खुलेगा) नामक खतरा समूह से मेल खाती थीं, जबकि अन्य खाते संभवतः ऐसे तत्व से जुड़े थे जिसे एक विश्वसनीय स्रोत ने STARDUST CHOLLIMA (उर्फ APT38, Sapphire Sleet)⁠(एक नई विंडो में खुलेगा) से संबंधित बताया था. एक विश्वसनीय उद्योग भागीदार से मिली सूचना के बाद हमने इन खातों का पता लगाया.

प्रतिबंधित खातों ने हमारे औज़ारों का उपयोग मुख्यतः ऐसी जानकारी पाने के लिए किया जो संभवतः साइबर घुसपैठ के औज़ारों या अभियानों से संबंधित थी. उन्होंने क्रिप्टोकरेंसी से जुड़े विषयों में भी रुचि दिखाई, जो संभवतः वित्तीय लाभ से प्रेरित गतिविधियों से संबंधित थी. वित्तीय और साइबर गतिविधियों का यह मेल DPRK से जुड़े खतरा समूहों में आम है.

इन तत्वों ने कोड लिखने, त्रुटियाँ दूर करने और सुरक्षा से जुड़े मुक्त-स्रोत कोड पर शोध करने के लिए हमारे मॉडलों का उपयोग किया. इसमें सार्वजनिक रूप से उपलब्ध उन औज़ारों और कोड में त्रुटियाँ दूर करने तथा उन्हें विकसित करने में सहायता शामिल थी, जिनका उपयोग दूरस्थ डेस्कटॉप प्रोटोकॉल (RDP) पर ब्रूट-फ़ोर्स हमलों के लिए किया जा सकता था. उन्हें मुक्त-स्रोत दूरस्थ प्रशासन औज़ारों (RAT) के उपयोग में भी सहायता मिली.

MacOS के लिए स्वतः-आरंभ विस्तार बिंदु (ASEP) के स्थानों और तकनीकों में त्रुटियाँ दूर करते समय, उस तत्व ने बाइनरी फ़ाइलों (संकलित निष्पादन योग्य फ़ाइलों) के स्टेजिंग URL उजागर किए, जिनके बारे में उस समय सुरक्षा विक्रेताओं को जानकारी नहीं थी. हमने स्टेजिंग URL एक ऑनलाइन जाँच सेवा को भेजे ताकि उन्हें सुरक्षा समुदाय के साथ साझा किया जा सके. अब कई विक्रेता इन बाइनरी फ़ाइलों का भरोसेमंद ढंग से पता लगा लेते हैं, जिससे संभावित पीड़ितों को सुरक्षा मिलती है.

पहले प्रस्तावित, LLM-केंद्रित MITRE ATT&CK^® ढाँचे⁠(एक नई विंडो में खुलेगा) के विस्तारों से मिलान की गई गतिविधि का एक नमूना नीचे दिया गया है:

• विभिन्न अनुप्रयोगों की कमज़ोरियों के बारे में पूछना: LLM से मिली जानकारी पर आधारित टोह.

• ब्रूट-फ़ोर्स हमले करने के लिए C# आधारित RDP क्लाइंट बनाना और उसकी त्रुटियाँ दूर करना: LLM-सहायित विकास.

• अनधिकृत RDP पहुँच के लिए सुरक्षा चेतावनियों को दरकिनार करने वाला कोड माँगना: LLM-सहायित विकास.

• RDP कनेक्शन, फ़ाइलें अपलोड या डाउनलोड करने, मेमोरी से कोड चलाने और HTML सामग्री छिपाने के लिए कई PowerShell स्क्रिप्ट माँगना: LLM-संवर्धित स्क्रिप्ट लेखन तकनीकें; LLM-संवर्धित विसंगति-पहचान से बचाव.

• निष्पादन के लिए छिपाए गए पेलोड बनाने और तैनात करने पर चर्चा करना: LLM-अनुकूलित पेलोड निर्माण.

• क्रिप्टोकरेंसी निवेशकों और कारोबारियों के विरुद्ध लक्षित फ़िशिंग व सामाजिक अभियांत्रिकी करने के तरीकों के साथ-साथ अधिक सामान्य फ़िशिंग सामग्री खोजना: LLM-समर्थित सामाजिक अभियांत्रिकी.

• उपयोगकर्ताओं को संवेदनशील जानकारी उजागर करने के लिए बहकाने वाले फ़िशिंग ईमेल और सूचनाएँ तैयार करना: LLM-समर्थित सामाजिक अभियांत्रिकी.

• मुक्त-स्रोत दूरस्थ प्रशासन औज़ारों (RAT) पर शोध करना: LLM-सहायित, सेंध के बाद की गतिविधि.

इस तत्व के निर्देश और प्रश्न मुख्यतः पहले से उपलब्ध मुक्त-स्रोत जानकारी पर आधारित थे. मॉडल द्वारा दिए गए जवाबों में या तो कोई नई क्षमता नहीं थी या जवाब देने से इनकार किया गया था. हमने खतरा पैदा करने वाले तत्व से जुड़े खातों पर प्रतिबंध लगाया और उसके अभियानों को और बाधित करने के लिए उसके पेलोड सुरक्षा समुदाय के साथ साझा किए.