OpenAI तंत्रज्ञानातून Block ची एआय-आधारित सुरक्षा उभारणी

Square, Cash App आणि Afterpay यांची निर्माती कंपनी Block मधील सुरक्षा संघ OpenAI Defense Factory चा वापर करतो. येथे एआय सुरक्षा त्रुटींचा शोध, धोके ओळखणे आणि त्यांना प्रतिसाद देणे ही कामे इतक्या मोठ्या प्रमाणावर करते की कोणत्याही मानवी संघाला तिच्या वेगाशी जुळवून घेणे शक्य होणार नाही. OpenAI Daybreak सह इतर एआय प्रणालींच्या मदतीने, पूर्वी आठवडे लागणारी कामे Block आता अवघ्या काही तासांत करत आहे.

संगणकीय कोड तयार करणे असो किंवा सुरक्षेची कामे असोत, सर्व कार्यप्रवाहांत एआयचा जबाबदारीने अवलंब करण्यावर Block च्या सुरक्षा संघाचा भर आहे. मुख्य माहिती सुरक्षा अधिकारी जेम्स नेटेसहाइम सांगतात, “कामाची व्याप्ती वाढवताना साथ देणारा नवा सहकारी मिळणे, हाच याचा गाभा आहे.” “पारंपरिक स्वयंचलनात तुम्हाला प्रत्येक पायरी ठरवून द्यावी लागायची; हे तसे नाही. तुमच्या विशिष्ट गरजेशी संबंधित, पुरेशी स्पष्ट नसलेली समस्याही तुम्ही याला सांगू शकता आणि मिळून ती सोडवू शकता.”

सॉफ्टवेअरमधील दोष तपासणे किंवा नोंदींचे विश्लेषण करणे यांसारखी कामे पूर्ण करण्यासाठी पूर्वी अनेक दिवस किंवा आठवडे लागत. आता संघ तीच कामे पूर्वीच्या तुलनेत अगदी कमी वेळेत पूर्ण करू शकतो. तरीही प्रत्येक निष्कर्षाची पडताळणी माणसाकडून केली जाते.

उदाहरणार्थ, धोके ओळखण्याची प्रक्रिया अधिक अचूक करण्यासाठी प्रत्येक तपासातील शोधप्रश्नांचे मूळ पुरावे साठवले जातात. त्यामुळे धोके ओळखण्याच्या पद्धतीतील प्रस्तावित बदल, प्रत्यक्ष कार्यरत प्रणालींमधील सात महिन्यांच्या दूरमापन डेटावर पुन्हा चालवून तपासायला आता तासाभरापेक्षाही कमी वेळ लागतो. पूर्वी या कामासाठी शेकडो जुन्या प्रकरणांवर व्यक्तिशः पुन्हा शोधप्रश्न चालवावे लागत. हे इतके वेळखाऊ होते की प्रत्यक्षात ते क्वचितच केले जाई.

कोणत्या कामासाठी कोणते मॉडेल वापरायचे, याची निवडही संघ आता अधिक काळजीपूर्वक करतो. ते सांगतात, “पूर्वी आम्ही सर्वांत नवीन मॉडेल वापरायचो, पण आता तसे करण्याची गरज राहिलेली नाही.” “वेगवेगळ्या कामांसाठी वेगवेगळी मॉडेल निवडताना आम्हाला बरेच शिकायला मिळाले.” कामे योग्य मॉडेलकडे पाठवण्यासाठी Block चे सुरक्षा हार्नेस Daybreak वर उभारलेले आहे. गरज पडल्यास माणसाने कामाचा ताबा घेणे किंवा एआय सहाय्यकांनी एकमेकांच्या कामाची पडताळणी करणे यासाठीही त्यात व्यवस्था आहे. संघ अंतर्गत मानदंड आणि प्रत्यक्ष कामगिरीच्या आधारे या प्रणालींचे सातत्याने मूल्यमापन करतो आणि गरजेनुसार आपल्या पद्धतीत बदल करतो. मानवी पुनरावलोकन करणे हाच जबाबदार पर्याय असेल, तर ते काम माणसाकडे पाठवले जाते.

प्रकरणांची प्राथमिक छाननी आणि प्राधान्यक्रम ठरवणाऱ्या स्वयंचलित प्रणालीमुळे काम अधिक वेगाने आणि अधिक प्रमाणात पूर्ण होत आहे. Block च्या सुरक्षा संघाच्या प्राथमिक छाननीचा थ्रुपुट 50% वाढला आहे. धोक्यांविषयी माहिती गोळा करणे आणि तपास करणे या कामांतही 50% वाढ झाली आहे. शिवाय, धोक्यांचा स्वायत्तपणे शोध घेण्याची पूर्णपणे नवी क्षमता उपलब्ध झाली आहे. नेटेसहाइम सांगतात, “ही प्रणाली प्रत्येक तिमाहीत विश्लेषकांच्या सुमारे 1,100 तासांइतके तपासाचे काम करते, कारण आता प्रत्येक इशाऱ्याशी संबंधित सर्व घटकांचा संपूर्ण, सखोल तपास केला जातो. त्या दिवशी आलेला तो एकमेव इशारा असावा, इतके लक्ष देऊन आमची प्रणाली प्रत्येक इशारा हाताळते.”

पारंपरिक तपासणी साधने एखादी सुरक्षा त्रुटी स्वतंत्रपणे दाखवतात; पण Daybreak च्या मदतीने Block चा सुरक्षा संघ त्यापलीकडे बरेच काही करू शकतो. हल्ल्यांच्या संभाव्य पद्धतींबद्दल गृहीतके मांडण्यासाठी आणि हल्ल्यांची मालिका जोडून प्रणालीचा भंग करण्याचा सुरुवातीपासून शेवटपर्यंतचा मार्ग शोधण्यासाठी हे मॉडेल मदत करते. यातून अनेक वर्षे अस्तित्वात असलेल्या सुरक्षा त्रुटीही समोर येऊ शकतात.

एका प्रकरणात, एका लॅपटॉपवरील इशारा स्वतंत्रपणे पाहिला असता, तो धोरणाच्या किरकोळ उल्लंघनाशी संबंधित वाटत होता. पण सहकाऱ्यांकडून पुनरावलोकन होत असताना, मॉडेलने पुराव्यांत केवळ ओघाने दिसलेल्या एका संकेताचा मागोवा घेतला. तो Block च्या ओळखविषयक नोंदींशी जोडून पाहिल्यावर आणखी बऱ्याच मोठ्या समस्या उघड झाल्या. “उपकरणावरील एका नेहमीच्या इशाऱ्यापासून सुरुवात झाली आणि हल्ल्यांची अख्खी मोहीम मोडून काढता आली. कोणतेही एक साधन स्वतःहून हा संबंध जोडू शकत नाही. दोन उत्पादनांच्या नोंदी एकत्र पाहिल्यावरच हा संकेत सापडतो,” जेम्स सांगतात.

अलीकडेच झालेल्या एका रेड टीमिंग चाचणीतही Daybreak ची मदत झाली. मॉडेलला एका अंतर्गत प्रणालीबद्दल काही संकेत दिले गेले. त्यावरून सुमारे दोन तासांत त्याने हल्ल्याचा संपूर्ण मार्ग जोडला: SQL इंजेक्शन, प्रवेशाधिकार वाढवणे, प्रणालीत ठाण मांडणे, प्रवेशासाठीची ओळखमाहिती शोधून काढणे आणि तिथून इतर प्रणालींमध्ये शिरकाव करणे. हे काम करण्यासाठी रेड टीमिंग करणाऱ्या मानवी तज्ज्ञाला साधारणपणे अनेक दिवस लागले असते. अलीकडील रेड टीमिंग चाचण्यांमध्ये, सुरक्षा त्रुटीची प्राथमिक माहिती सादर केल्यापासून स्वयंचलितपणे दुरुस्ती सुचवली जाईपर्यंत अवघी 18 मिनिटे लागली.

सुरक्षा त्रुटी शोधण्याचा खरा उपयोग तेव्हाच होतो, जेव्हा त्या दुरुस्तही करता येतात. प्रत्येक त्रुटी सापडल्यावर आपला संघ कोणती प्रक्रिया वापरतो, हे नेटेसहाइम स्पष्ट करतात: समस्या कोडमध्ये नेमकी कुठे आहे आणि त्याची जबाबदारी कोणाकडे आहे हे शोधायचे, मग दुरुस्तीकडे वळायचे. “तुम्ही दुरुस्ती सुचवता, त्या त्रुटीचा गैरफायदा घेता येतो का हे निश्चित करता आणि मग ती दुरुस्त झाली आहे याची पडताळणी करता. या संपूर्ण प्रक्रियेत एक व्यक्ती सहभागी राहून मार्गदर्शन करते आणि कोडमधील बदल लागू करते.”

एआय सहाय्यक तांत्रिकदृष्ट्या सक्षम असले, तरी त्यांना संस्थेची पार्श्वभूमी किंवा आधीच्या निर्णयांमागील तर्क माहीत नसतो. ही पार्श्वभूमी आणि धोरणात्मक दिशा माणूस पुरवतो. याच ठिकाणी त्यांचा संघ मानवी पुनरावलोकनाची भूमिका बजावतो. एआयची निर्णयक्षमता प्रत्यक्ष कामातून सिद्ध होत जाईल, तसतसे “आम्ही हळूहळू अधिक जोखीम स्वीकारून तिचा वापर अधिक संवेदनशील प्रणालींसाठी करू,” असे नेटेसहाइम सांगतात.

• धोके ओळखण्याच्या पद्धतीतील प्रस्तावित बदल सात महिन्यांच्या दूरमापन डेटावर पुन्हा तपासण्यासाठी एका तासापेक्षाही कमी वेळ.

• अलीकडील रेड टीमिंग चाचण्यांत सुरक्षा त्रुटीची प्राथमिक माहिती सादर केल्यापासून स्वयंचलितपणे दुरुस्ती सुचवली जाईपर्यंत 18 मिनिटे.

• चुकीच्या धोक्याच्या इशाऱ्यांची छाननी करण्यात जाणारे विश्लेषकांचे प्रत्येक तिमाहीतील सुमारे 600 तास वाचले.

• प्रत्येक तिमाहीत विश्लेषकांच्या सुमारे 1,100 तासांइतके तपासाचे काम पूर्ण.

• प्राथमिक छाननीच्या थ्रुपुटमध्ये 50% वाढ.

• धोक्यांविषयी माहिती गोळा करणे आणि तपास करणे या कामांत 50% वाढ.

केवळ धोके ओळखणे आणि त्यांना प्रतिसाद देणे या कामांमधील सुधारणांमुळेच विश्लेषकांचे प्रत्येक तिमाहीत सुमारे 600 तास वाचले आहेत. पूर्वी हा वेळ चुकीच्या धोक्याच्या इशाऱ्यांची छाननी करण्यात जात होता. या वाचलेल्या वेळेमुळे संघ आता सखोल तपासाला आणि जबाबदारीने अधिक स्वयंचलन विकसित करण्याला जास्त वेळ देतो.

हल्ल्यांचा वेग वाढत असताना आणि एआय मॉडेल अधिक प्रगत होत असताना, मुळातच निर्माण होणाऱ्या सुरक्षा त्रुटींची संख्या कमी करण्याची संधी नेटेसहाइम यांना दिसते. त्यामुळे सुरक्षा संघांना दुरुस्त्यांवर कमी वेळ घालवून प्रतिबंधात्मक आणि धोरणात्मक कामाला अधिक वेळ देता येईल.

ते सांगतात, “या प्रगत क्षमता सर्वांच्या हाती देऊन OpenAI सुरक्षा पथकांचे पारडे जड करत आहे.” “आतापर्यंत या क्षमता मुख्यतः अत्यंत नावाजलेल्या तंत्रज्ञान कंपन्या आणि सरकार यांच्यापुरत्याच मर्यादित होत्या. पण आता अत्यावश्यक पायाभूत सुविधांचे संचालक, शाळा, छोटे व्यवसाय यांसह सर्वजण आपल्या संगणकीय जाळ्यांचे रक्षण करण्यासाठी या तंत्रज्ञानाचा वापर सुरू करू शकतात.”