OpenAI तंत्रज्ञानाने Block AI-सक्षम सुरक्षा कशी उभारत आहे

Square, Cash App आणि Afterpayमागील कंपनी Block मध्ये, सुरक्षा संघ OpenAI Defense Factoryचा उपयोग करते: येथे AI असुरक्षा शोधणे, त्यांची ओळख पटवणे आणि त्यांना प्रतिसाद देणे ही कामे अशा प्रमाणात हाताळते की कोणतीही मानवी संघ त्याच वेगाने काम करू शकणार नाही. OpenAI Daybreakसह AI प्रणालींच्या मदतीने, Block आता पूर्वी काही आठवडे लागणारी कामे अवघ्या काही तासांत पूर्ण करत आहे.

कोड निर्मिती असो वा सुरक्षा संचालन, विविध कार्यप्रवाहांमध्ये जबाबदारीने AI चा अवलंब करण्यावर Block च्या सुरक्षा संघाने लक्ष केंद्रित केले आहे. मुख्य माहिती सुरक्षा अधिकारी जेम्स नेटेसहाइम म्हणतात, “याचा मुख्य उद्देश म्हणजे असा नवा सहकारी मिळवणे, ज्याच्या मदतीने तुम्ही कामाची व्याप्ती वाढवू शकता. हे पारंपरिक ऑटोमेशनसारखे नाही, ज्यात तुम्हाला प्रत्येक पायरी ठरवून द्यावी लागत होती. तुम्ही तुमच्या विशिष्ट गरजांशी संबंधित, बऱ्यापैकी अस्पष्ट स्वरूपाची समस्या प्रॉम्प्टद्वारे मांडू शकता आणि त्याच्यासोबत मिळून ती सोडवू शकता.”

सॉफ्टवेअरमधील बगचे पुनरावलोकन करणे किंवा लॉगचे विश्लेषण करणे यांसारखे प्रकल्प पूर्ण करण्यासाठी दिवस किंवा आठवडे लागत असत. आता संघ हे प्रकल्प पूर्वी लागणाऱ्या वेळेच्या काही अंशात पूर्ण करू शकते, आणि प्रत्येक परिणामाची पडताळणी माणसाकडून केली जाते.

उदाहरणार्थ, डिटेक्शन ट्यूनिंगसाठी प्रत्येक तपासात कच्च्या क्वेरीचे पुरावे साठवले जातात, त्यामुळे आता संघ प्रस्तावित डिटेक्शन बदलाची सात महिन्यांच्या प्रॉडक्शन टेलिमेट्री डेटावर एका तासापेक्षा कमी वेळात पुन्हा चाचणी करू शकते. पूर्वी या कामासाठी शेकडो जुन्या प्रकरणांवर हाताने पुन्हा क्वेरी चालवावी लागत असे, आणि ते इतके वेळखाऊ असल्यामुळे प्रत्यक्षात हे क्वचितच घडत असे.

कोणत्या कामासाठी कोणते मॉडेल वापरायचे, याबाबतही संघ आता अधिक चोखंदळ झाली आहे. “आम्ही पूर्वी सर्वात नवीन मॉडेल वापरायचो, पण आता तसे करण्याची गरज नाही,” ते म्हणतात. “वेगवेगळ्या कामांसाठी वेगवेगळी मॉडेल निवडणे हा एक शिकण्याचा अनुभव राहिला आहे.” कामे योग्य मॉडेलकडे पाठवण्यास मदत करण्यासाठी Block चे सुरक्षा हार्नेस Daybreak वर उभारले आहे. त्यात माणसांना कामांचा ताबा घेता यावा किंवा एजंटना एकमेकांच्या कामाची पडताळणी करता यावी यासाठी हुक्स आहेत. संघ अंतर्गत बेंचमार्क आणि प्रत्यक्ष वापरातील कामगिरीच्या आधारे या प्रणालींचे सातत्याने मूल्यमापन करते आणि गरजेनुसार तुमच्या कार्यपद्धतीत बदल करते. मानवी पुनरावलोकनासाठी काम पाठवणे हा जबाबदार पर्याय असेल, तेव्हा तसेही केले जाते.

स्वयंचलित ट्रायेज प्रणालीमुळे काम अधिक वेगाने (आणि अधिक प्रमाणात) पूर्ण होऊ लागले आहे. Blockच्या सुरक्षा पथकाने ट्रायेज थ्रुपुटमध्ये 50% वाढ, बुद्धिमत्ता संकलन आणि तपासांमध्ये 50% वाढ, तसेच पूर्णपणे नवीन स्वायत्त हंटिंग क्षमता अनुभवली आहे. Nettesheim म्हणतात, “यामुळे प्रति तिमाही सुमारे 1,100 विश्लेषक-तासांचे तपासकाम होते, कारण आता प्रत्येक अलर्टशी संबंधित सर्व घटकांची सखोल आणि संपूर्ण तपासणी केली जाते. आमची प्रणाली प्रत्येक अलर्टकडे त्या दिवशीचा एकमेव अलर्ट असल्याप्रमाणे पाहते.”

पारंपरिक स्कॅनिंग साधने एका असुरक्षिततेला स्वतंत्रपणे धोक्याचा इशारा देतात, पण Block ची सुरक्षा संघ Daybreak च्या मदतीने यापेक्षा बरेच पुढे जाऊ शकते. हे मॉडेल हल्ल्यांच्या पद्धतींबद्दल गृहितके मांडण्यास आणि हल्ल्यांची मालिका जोडून सुरुवातीपासून शेवटपर्यंत सिस्टममध्ये घुसखोरीचा संपूर्ण मार्ग उलगडण्यास मदत करते. यामुळे कदाचित वर्षानुवर्षे अस्तित्वात असलेल्या असुरक्षितता समोर येतात.

एका प्रकरणात, एका लॅपटॉपवरील अलर्ट स्वतंत्रपणे पाहता धोरणाशी संबंधित किरकोळ समस्या वाटत होती. पण पीअर रिव्ह्यूदरम्यान, पुराव्यात केवळ योगायोगाने दिसलेल्या एका संकेताचा मागोवा मॉडेलने घेतला, तो Blockच्या ओळख लॉगशी जोडला आणि समस्यांचा बराच मोठा संच समोर आणला. “एका नेहमीच्या एंडपॉइंट अलर्टमुळे संपूर्ण मोहीम उधळून लावता आली. अशी जोडणी कोणतेही एक साधन करू शकत नाही. हा संकेत फक्त दोन उत्पादनांच्या लॉगमध्येच आढळतो,” James म्हणतात.

Daybreakने मदत केल्याचे आणखी एक उदाहरण म्हणजे अलीकडे झाले रेड टीमिंग सराव. मॉडेलला एका अंतर्गत प्रणालीबद्दल काही संकेत दिले होते आणि त्याने सुमारे दोन तासांत हल्ल्याच्या सर्व टप्प्यांची साखळी जोडली—SQL इंजेक्शन, विशेषाधिकार वाढवणे, प्रणालीत पाय रोवणे, क्रेडेन्शियल्सची यादी तयार करणे आणि तिथून इतर प्रणालींमध्ये शिरकाव करणे. हेच काम करण्यासाठी मानवी रेड संघ सदस्याला सहसा अनेक दिवस लागले असते. अलीकडील रेड टीमिंग सरावांमध्ये, उच्च-स्तरीय असुरक्षा सादर केल्यापासून स्वयंचलितपणे पॅच सुचवला जाईपर्यंतचा वेळ 18 मिनिटे होता.

कमकुवत दुवे शोधणे ते दुरुस्त करण्याच्या क्षमतेइतकेच प्रभावी असते. Nettesheim प्रत्येक निष्कर्षासाठी त्यांची संघ जी प्रक्रिया वापरते ती सांगतात: कोडमध्ये समस्या नेमकी कुठे आहे ते शोधणे आणि तिची जबाबदारी कोणाकडे आहे हे ओळखणे, त्यानंतर ती दूर करण्याच्या प्रक्रियेकडे जाणे. “तुम्ही एक पॅच सुचवता, त्याचा गैरफायदा घेता येऊ शकतो याची खात्री करता आणि मग ती समस्या दुरुस्त झाली आहे याची पडताळणी करता; या प्रक्रियेत मार्गदर्शन करण्यासाठी आणि कोडमधील बदल तैनात करण्यासाठी एक व्यक्ती सहभागी असते.”

एजंट तांत्रिकदृष्ट्या सक्षम असले, तरी त्यांना संस्थेच्या संदर्भाची किंवा आधीच्या निर्णयांमागील रीझनिंगची माहिती नसते. हा संदर्भ आणि धोरण माणूस पुरवतो, आणि इथेच त्यांची संघ मानवी पुनरावलोकनाची भूमिका बजावते. AI ची निर्णयक्षमता प्रत्यक्ष वापरात सिद्ध होत जाईल, तसतसे, नेटेसहाइम म्हणतात, “अधिक संवेदनशील प्रणालींसाठी त्याचा वापर करता यावा म्हणून आम्ही जोखमीची पातळी हळूहळू वाढवत जाऊ.”

• सात महिन्यांच्या टेलिमेट्री डेटावर प्रस्तावित डिटेक्शन बदल पुन्हा चालवण्यासाठी एका तासापेक्षा कमी वेळ.

• अलीकडील रेड टीमिंग सरावांमध्ये उच्च-स्तरीय असुरक्षितता सबमिट केल्यापासून स्वयंचलित पॅच सुचवला जाईपर्यंत 18 मिनिटे.

• प्रति तिमाही फॉल्स पॉझिटिव्हच्या छाननीतून अंदाजे 600 विश्लेषक-तास परत मिळवून दिले.

• प्रति तिमाही अंदाजे 1,100 विश्लेषक-तासांचे तपासकार्य पूर्ण केले जाते.

• छाननीच्या थ्रुपुटमध्ये 50% वाढ.

• बुद्धिमत्ता संकलन आणि तपासांमध्ये 50% वाढ.

केवळ शोध आणि प्रतिसादाच्या कामामुळे, पूर्वी फॉल्स पॉझिटिव्ह्सची छाननी करण्यासाठी खर्च होणारे प्रति तिमाही सुमारे 600 विश्लेषक-तास परत मिळाले आहेत. हा वेळ वाचल्यामुळे, संघ आता अधिक सखोल तपास करण्यात आणि अधिक ऑटोमेशन जबाबदारीने विकसित करण्यात जास्त वेळ घालवते.

हल्ल्यांचा वेग वाढत असताना आणि AI मॉडेल्स सतत प्रगत होत असताना, Nettesheim यांना सुरुवातीपासूनच निर्माण होणाऱ्या असुरक्षिततांची संख्या कमी करण्याची संधी दिसते. त्यामुळे सुरक्षा संघाना पॅचिंगवर कमी वेळ घालवून प्रतिबंधात्मक आणि धोरणात्मक कामासाठी अधिक वेळ देता येईल.

“OpenAI या प्रगत क्षमता प्रत्येकाच्या हाती देऊन संरक्षकांना फायदा देत आहे," तो म्हणतो. "आत्तापर्यंत ही क्षमता फक्त काही अत्यंत उच्च-प्रोफाइल तंत्रज्ञान कंपन्या आणि सरकारच्या हातीच होती. पण आता सर्वांना—महत्त्वपूर्ण पायाभूत सुविधा, शाळा आणि लहान व्यवसायांसह—ही तंत्रज्ञान वापरून त्यांच्या नेटवर्कचे संरक्षण सुरू करता येईल."