OpenAI से Block कैसे AI-पावर्ड सिक्योरिटी सिस्टम बना रहा है

Square, Cash App और Afterpay बनाने वाली कंपनी Block की सिक्योरिटी टीम OpenAI Defense Factory का इस्तेमाल करती है. इसमें AI बड़े पैमाने पर सिक्योरिटी की कमियाँ ढूँढने, खतरों का पता लगाने और उनसे निपटने का काम संभालता है. इतने बड़े पैमाने पर काम करना किसी भी इंसानी टीम के लिए मुश्किल होगा. OpenAI Daybreak जैसे AI सिस्टम्स की मदद से Block अब ऐसे काम कुछ ही घंटों में कर रहा है, जिनमें पहले कई हफ़्ते लगते थे.

Block की सिक्योरिटी टीम कोड जेनरेशन से लेकर सिक्योरिटी ऑपरेशन्स तक अलग-अलग वर्कफ़्लोज़ में AI का सोच-समझकर इस्तेमाल करने पर फ़ोकस कर रही है. चीफ़ इन्फ़ॉर्मेशन सिक्योरिटी ऑफ़िसर जेम्स नेटेशाइम कहते हैं, "यह एक नए टीममेट की तरह है, जिसके साथ आप बड़े पैमाने पर काम कर सकते हैं. यह पुराने ऑटोमेशन जैसा नहीं है, जहाँ हर स्टेप अलग से बताना पड़ता था. आप इसे कोई खास और पूरी तरह साफ़ न होने वाली समस्या का प्राम्प्ट दे सकते हैं और फिर साथ मिलकर उसका हल निकाल सकते हैं."

सॉफ़्टवेयर बग का रिव्यू करने या लॉग से जानकारी निकालने जैसे कामों में पहले कई दिन या हफ़्ते लग जाते थे. अब टीम इन्हें बहुत कम समय में पूरा कर सकती है. हालाँकि, हर नतीजे की जाँच अब भी कोई व्यक्ति करता है.

उदाहरण के लिए, खतरों का पता लगाने वाले सिस्टम को बेहतर बनाने के लिए अब हर जाँच में ओरिजिनल क्वेरी और उससे मिले सबूत सेव किए जाते हैं. इससे टीम किसी सुझाए गए बदलाव को सात महीने के प्रोडक्शन टेलीमेट्री डेटा पर एक घंटे से भी कम समय में दोबारा टेस्ट कर सकती है. पहले इसके लिए सैकड़ों पुराने मामलों का डेटा मैन्युअली दोबारा निकालना पड़ता था. इसमें इतना समय लगता था कि अक्सर यह काम किया ही नहीं जाता था.

टीम अब हर काम के लिए सही मॉडल चुनने पर भी ज़्यादा ध्यान देती है. वे कहते हैं, "पहले हम हमेशा सबसे नया मॉडल इस्तेमाल करते थे, लेकिन अब इसकी ज़रूरत नहीं है. हमने सीखा है कि अलग-अलग टास्क्स के लिए अलग मॉडल चुनना बेहतर है." Block का सिक्योरिटी हार्नेस Daybreak पर बनाया गया है, जो टास्क को सही मॉडल तक पहुँचाने में मदद करता है. इसमें ऐसे फ़ीचर्स भी हैं, जिनसे ज़रूरत पड़ने पर लोग एजेंट्स का काम अपने हाथ में ले सकते हैं या एजेंट्स एक-दूसरे का काम चेक कर सकते हैं. टीम इंटरनल बेंचमार्क्स और असल काम की परफ़ॉर्मेंस के आधार पर इन सिस्टम्स को लगातार टेस्ट करती है. ज़रूरत के हिसाब से बदलाव भी करती है, जिसमें सही होने पर टास्क को किसी व्यक्ति के रिव्यू के लिए भेजना भी शामिल है.

ऑटोमेटेड ट्रायेज सिस्टम की मदद से अब ज़्यादा काम कम समय में पूरे हो रहे हैं. Block की सिक्योरिटी टीम ने ट्रायेज के ज़रिए निपटाए जाने वाले मामलों में 50% की बढ़ोतरी देखी है. खतरों से जुड़ी जानकारी इकट्ठा करने और जाँच करने का काम भी 50% बढ़ा है. साथ ही, अब सिस्टम अपने आप संभावित खतरों को ढूँढ भी सकता है. नेटेशाइम कहते हैं, "यह सिस्टम हर तिमाही लगभग 1,100 एनालिस्ट-घंटों के बराबर जाँच करता है. अब हर अलर्ट से जुड़ी सभी बातों की पूरी और गहराई से जाँच होती है. हमारा सिस्टम हर अलर्ट पर ऐसे काम करता है, जैसे उस दिन हमारे पास सिर्फ़ वही एक अलर्ट हो."

पुराने स्कैनिंग टूल्स आम तौर पर सिक्योरिटी की किसी एक कमी को अलग से पहचानते हैं. लेकिन Daybreak की मदद से Block की सिक्योरिटी टीम इससे कहीं आगे जा सकती है. मॉडल हमलों के संभावित पैटर्न्स का अंदाज़ा लगाने और अलग-अलग हमलों को जोड़कर यह समझने में मदद करता है कि किसी सिस्टम की सिक्योरिटी शुरू से आखिर तक कैसे तोड़ी जा सकती है. इससे ऐसी कमियाँ भी सामने आती हैं, जो शायद कई सालों से मौजूद थीं.

एक मामले में किसी लैपटॉप से मिला अलर्ट शुरुआत में नियमों से जुड़ी छोटी-सी समस्या लग रहा था. लेकिन पीयर रिव्यू के दौरान मॉडल ने सबूतों में मिले एक छोटे-से संकेत की जाँच की और उसे Block के आइडेंटिटी लॉग्स से जोड़कर देखा. इससे कई बड़ी समस्याएँ सामने आईं. जेम्स कहते हैं, "एक सामान्य एंडपॉइंट अलर्ट से पूरे अटैक कैंपेन का पता चला और उसे रोका गया. कोई एक टूल अकेले इस जानकारी को नहीं जोड़ सकता था. यह संकेत दो अलग-अलग प्रोडक्ट्स के लॉग्स को साथ देखने पर ही मिला."

Daybreak का एक और उदाहरण हाल ही की रेड टीम एक्सरसाइज़ में सामने आया. मॉडल को एक इंटरनल सिस्टम के बारे में कुछ संकेत दिए गए. इसके बाद उसने लगभग दो घंटे में SQL इंजेक्शन, प्रिविलेज एस्केलेशन, सिस्टम में शुरुआती एक्सेस हासिल करने, क्रेडेंशियल्स की जानकारी जुटाने और दूसरे सिस्टम्स तक पहुँचने जैसे स्टेप्स को जोड़कर पूरा अटैक पाथ तैयार कर दिया. आम तौर पर किसी रेड टीमिंग एक्सपर्ट को इसमें कई दिन लगते. हाल की रेड टीम एक्सरसाइज़ में किसी बड़ी सिक्योरिटी कमी की जानकारी देने से लेकर ऑटोमेटेड तरीके से पैच सुझाने तक सिर्फ़ 18 मिनट लगे.

सिक्योरिटी की कमियाँ ढूँढना तभी फ़ायदेमंद है, जब उन्हें ठीक भी किया जा सके. नेटेशाइम बताते हैं कि उनकी टीम हर कमी मिलने पर सबसे पहले कोड में उसकी जगह ढूँढती है और पता लगाती है कि उसकी ज़िम्मेदारी किसकी है. इसके बाद उसे ठीक करने का काम शुरू होता है. वे कहते हैं, "पहले आप पैच सुझाते हैं, फिर चेक करते हैं कि क्या उस कमी का फ़ायदा उठाकर हमला किया जा सकता है. इसके बाद वेरिफ़ाई करते हैं कि वह कमी सच में दूर हुई है या नहीं. इस पूरे प्रोसेस में एक व्यक्ति गाइड करता है और कोड में बदलाव करता है."

एजेंट्स टेक्निकल काम अच्छी तरह कर सकते हैं, लेकिन उन्हें हमेशा कंपनी का पूरा कॉन्टेक्स्ट या पुराने फ़ैसलों की वजह पता नहीं होती. यह जानकारी और आगे की दिशा लोग तय करते हैं. इसलिए उनकी टीम AI के काम का रिव्यू भी करती है. नेटेशाइम कहते हैं कि जैसे-जैसे असल काम में AI के फ़ैसलों पर भरोसा बढ़ेगा, "हम धीरे-धीरे ज़्यादा रिस्क वाले कामों में भी इसका इस्तेमाल करेंगे, ताकि इसे ज़्यादा सेंसिटिव सिस्टम्स में इस्तेमाल किया जा सके."

• सात महीने के टेलीमेट्री डेटा पर खतरों की पहचान में सुझाए गए सुधार को दोबारा टेस्ट करने में एक घंटे से भी कम समय लगा.

• हाल की रेड टीम एक्सरसाइज़ में किसी बड़ी सिक्योरिटी कमी की जानकारी देने से लेकर ऑटोमेटेड तरीके से पैच सुझाए जाने तक सिर्फ़ 18 मिनट लगे.

• गलत अलर्ट्स के ट्रायेज में लगने वाले लगभग 600 एनालिस्ट-घंटे हर तिमाही बचाए गए.

• हर तिमाही लगभग 1,100 एनालिस्ट-घंटों के बराबर जाँच का काम पूरा किया गया.

• ट्रायेज के ज़रिए निपटाए जाने वाले मामलों की संख्या में 50% की बढ़ोतरी.

• खतरों से जुड़ी जानकारी इकट्ठा करने और जाँच करने के काम में 50% की बढ़ोतरी.

खतरों का पता लगाने और उनसे निपटने वाले कामों में हुए सुधार से ही हर तिमाही लगभग 600 एनालिस्ट-घंटे बच रहे हैं, जो पहले गलत अलर्ट्स की जाँच और छँटाई में लगते थे. अब टीम इस बचे हुए समय का इस्तेमाल मामलों की गहराई से जाँच करने और सोच-समझकर ज़्यादा काम ऑटोमेट करने में कर रही है.

जैसे-जैसे साइबर हमलों की रफ़्तार बढ़ रही है और AI मॉडल्स बेहतर हो रहे हैं, नेटेशाइम को लगता है कि शुरुआत से ही सिस्टम में सिक्योरिटी की कमियों में कमी आएगी. इससे सिक्योरिटी टीमें बार-बार पैच लगाने में कम समय लगाएँगी और हमले रोकने के लिए पहले से तैयारी करने और बड़े लक्ष्यों पर काम करने में ज़्यादा समय दे सकेंगी.

वे कहते हैं, "OpenAI इन एडवांस क्षमताओं को सभी तक पहुँचाकर सिक्योरिटी टीमों को मज़बूत बना रहा है. पहले ऐसी टेक्नोलॉजी आम तौर पर सिर्फ़ बड़ी टेक कंपनियों और सरकारी संस्थाओं के पास होती थी. लेकिन अब ज़रूरी सेवाएँ चलाने वाली संस्थाएँ, स्कूल और छोटे बिज़नेस समेत हर कोई अपने नेटवर्क की सुरक्षा के लिए इस टेक्नोलॉजी का इस्तेमाल शुरू कर सकता है."