Block የOpenAI ቴክኖሎጂን በመጠቀም AI-የተደገፈ ደኅንነትን እንዴት እየገነባ ነው

በSquare፣ Cash App እና Afterpay ጀርባ ባለው Block ኩባንያ፣ የደኅንነት ቡድኑ የOpenAI መከላከያ ፋብሪካን ይጠቀማል፦ በዚያም AI ተጋላጭነቶችን በማግኘት፣ በመለየት እና ምላሽ በመስጠት ላይ ይሠራል፤ ይህም ማንኛውም የሰው ቡድን ሊከታተለው በማይችል መጠን ነው። OpenAI Daybreakን ጨምሮ ያሉ የAI ሥርዓቶችን በመጠቀም፣ Block ከዚህ በፊት ሳምንታት የሚወስድ ሥራን በጥቂት ሰዓታት ብቻ እያከናወነ ነው።

የBlock የደኅንነት ቡድን ኮድ ከማመንጨት እስከ የደኅንነት ሥራዎች ድረስ በሁሉም የሥራ ሂደቶች ውስጥ AIን በኃላፊነት ለመጠቀም ትኩረት ሰጥቶ ቆይቷል። “በእውነቱ ዋናው ነገር አብረው ሊያሳድጉት የሚችሉት አዲስ የሥራ ባልደረባ ማግኘት ነው፣” ይላሉ የመረጃ ደኅንነት ዋና ኃላፊው James Nettesheim። “እንደ ባህላዊ አውቶሜሽን አይደለም፤ በደረጃ በደረጃ መሄድ አያስፈልግም። በተለየ ሁኔታ የተዘጋጀ፣ ትርጉሙ በግልጽ ያልተቀመጠ ችግር ማቅረብ እና አብሮ መፍታት ይቻላል።”

የሶፍትዌር ሳንካ መገምገም ወይም የምዝግብ ማስታወሻ መተንተን ያሉ ፕሮጀክቶች ለማጠናቀቅ ቀናት ወይም ሳምንታት ይፈጃሉ። አሁን ቡድኑ እነዚያን ፕሮጀክቶች በጥቂት ጊዜ ውስጥ ማጠናቀቅ ይችላል፣ አንድ ሰው አሁንም እያንዳንዱን ውጤት እያረጋገጠ ነው።

ለምሳሌ፣ ለምርመራ ማስተካከያ፣ እያንዳንዱ ምርመራ ጥሬ የጥያቄ ማስረጃዎቹን ስለሚያስቀምጥ፣ ቡድኑ አሁን የታቀደውን የምርመራ ለውጥ ከሰባት ወራት የምርት ቴሌሜትሪ ጋር በአንድ ሰዓት ውስጥ እንደገና ማጫወት ይችላል። ያ ስራ በመቶዎች የሚቆጠሩ የቆዩ ጉዳዮችን በእጅ መጠየቅ ማለት ነበር፣ እና ብዙ ጊዜ የሚወስድ ስለሆነ በተግባር እምብዛም አይከሰትም።

ቡድኑ ለየትኛው ሥራ የትኛውን ሞዴል እንደሚጠቀም በመምረጥ ረገድም የበለጠ ጥንቃቄ ማድረግ ጀምሯል። “ከዚህ በፊት አዲሱን ሞዴል እንጠቀም ነበር፣ አሁን ግን እርስዎ እንዲህ ማድረግ አያስፈልግዎትም፣” ይላሉ። “ለተለያዩ ተግባራት የተለያዩ ሞዴሎችን መምረጥ የመማር ተሞክሮ ሆኖልናል።” የBlock የደኅንነት መደበቂያ ተግባራትን ወደ ተገቢው ሞዴል ለመምራት እንዲያግዝ Daybreakን መሠረት አድርጎ የተገነባ ሲሆን፣ ሰዎች ተግባራትን ተረክበው እንዲያከናውኑ ወይም ወኪሎች እርስ በርሳቸው ሥራቸውን እንዲያረጋግጡ የሚያስችሉ የግንኙነት ነጥቦችን ያካትታል። ቡድኑ እነዚህን ሥርዓቶች ከውስጣዊ የአፈጻጸም መለኪያዎችና በተጨባጭ ከሚያሳዩት አፈጻጸም አንጻር በቀጣይነት ይገመግማል፣ አስፈላጊ ሲሆንም አካሄዱን ያስተካክላል፣ ይህም ኃላፊነት የተሞላበት አካሄድ ሲሆን ሥራን ለሰው ግምገማ ማስተላለፍን ይጨምራል።

የራስ-ሰር የማጣራት ሥርዓቱ ሥራው በፍጥነት (እና በብዛት) እንዲከናወን አስችሏል። የBlock የደኅንነት ቡድን በማጣራት የማስተላለፊያ ዘዴ 50% ጭማሪ፣ በአስተውሎት መሰብሰብና በምርመራዎች 50% ጭማሪ፣ እንዲሁም ፈጽሞ አዲስ ራስ-ገዝ የአደጋ ፍለጋ አቅም አግኝቷል። Nettesheim እንዲህ ይላል፣ “ይህ በየሩብ ዓመቱ ወደ ~1,100 የተንታኝ የሥራ ሰዓታት የሚያህል ምርመራ ያከናውናል፣ ምክንያቱም አሁን እያንዳንዱ ማንቂያ በውስጡ የተካተቱትን ሁሉንም ክፍሎች የሚመለከት ሙሉና ጥልቅ ምርመራ ያገኛል። ሥርዓታችን እያንዳንዱን ማንቂያ በዚያ ቀን ያለን ብቸኛ ማንቂያ እንደሆነ ይመለከተዋል።”

ባህላዊ የፍተሻ መሣሪያዎች አንድን ተጋላጭነት ከሌሎች ተነጥሎ ያመለክታሉ፣ ነገር ግን የBlock የደኅንነት ቡድን በDaybreak ከዚያ በላይ ሊሄድ ይችላል። ሞዴሉ ስለ ጥቃት ቅጦች ግምት ለማቅረብ እና ተከታታይ ጥቃቶችን በማገናኘት ከመጀመሪያ እስከ መጨረሻ የሚደርስ ሙሉ የስርዓት መጣስ መንገድ ለመፍጠር ይረዳል፤ ይህም ለዓመታት የነበሩ ሊሆኑ የሚችሉ ተጋላጭነቶችን ያጋልጣል።

በአንድ አጋጣሚ፣ በአንድ ላፕቶፕ ላይ የተነሳ ማንቂያ ለብቻው ሲታይ ቀላል የፖሊሲ ጉዳይ ይመስል ነበር። ነገር ግን በአቻ ግምገማ ወቅት፣ ሞዴሉ በማስረጃው ውስጥ በአጋጣሚ ብቻ የታየን አመልካች ተከታትሎ፣ ከBlock የማንነት መዝገቦች ጋር በማዛመድ እጅግ የበለጡ ችግሮችን አጋለጠ። “አንድ መደበኛ የመጨረሻ ነጥብ ማንቂያ የጥቃት ዘመቻን ወደ ማክሸፍ ተሸጋገረ። ይህን ትስስር የሚፈጥር አንድም መሣሪያ የለም። ምልክቱ የሚገኘው የሁለቱ ምርቶች መዝገቦች በአንድነት ሲታዩ ብቻ ነው፣” ይላል ጄምስ።

Daybreak የረዳበት ሌላ ምሳሌ በቅርቡ በተካሄደ በእሳት የመፈተን ልምምድ ወቅት ነበር። ለሞዴሉ ስለ አንድ ውስጣዊ ሥርዓት ጥቂት ፍንጮች ተሰጡት፤ እሱም በሁለት ሰዓት ገደማ ውስጥ የተሟላ የጥቃት መንገድ—የSQL ኮድ ማስረግ፣ የመዳረሻ ሥልጣንን ማሳደግ፣ በሥርዓቱ ውስጥ የመቆያ መሠረት መያዝ፣ የመግቢያ ማረጋገጫዎችን መዘርዘር እና ከዚያ ወደ ሌሎች ሥርዓቶች መሸጋገር—በማገናኘት ፈጠረ። ይህ በተለምዶ በእሳት መፈተንን የሚያከናውን ሰው በርካታ ቀናት የሚወስድበት ሥራ ነው። በቅርቡ በተካሄዱ በእሳት የመፈተን ልምምዶች፣ በከፍተኛ ደረጃ የተገለጸ ተጋላጭነትን ከማቅረብ እስከ በራስ-ሰር የተዘጋጀ የጥገና ኮድ ሐሳብ ማግኘት ድረስ የወሰደው ጊዜ 18 ደቂቃ ነበር።

ተጋላጭነቶቹን ማግኘት ጥሩ የሚሆነው እነሱን ለማስተካከል ካለው ችሎታ ጋር እኩል ነው። Nettesheim ቡድኑ በእያንዳንዱ ግኝት ላይ የሚጠቀምበትን ሂደት ያስረዳል፦ ጉዳዩ በኮዱ ውስጥ የት እንዳለ መለየት እና ማን እንደሚያስተዳድረው ማወቅ፣ ከዚያም ወደ ማስተካከያ መሄድ። “እርስዎ የጥገና ሃሳብ ያቀርባሉ፣ በጥቃት ሊጠቀምበት መቻሉን ያረጋግጣሉ፣ ከዚያም እንደተስተካከለ ያረጋግጣሉ፤ በዚህም ሰው በሂደቱ ውስጥ ተሳትፎ እያደረገ፣ እየመራውና የኮድ ለውጦቹን እያስተገበረ ይሆናል።”

ወኪሎች ከቴክኒክ አንጻር ብቁ ቢሆኑም፣ የአንድን ድርጅት አውድ ወይም ከዚህ በፊት ከተወሰኑ ውሳኔዎች በስተጀርባ ያለውን ማመዛዘን ይዘው አይመጡም። ያንን አውድና ስትራቴጂ የሚያቀርበው ሰው ነው፣ የኔትስሃይም ቡድንም በሰው የሚደረግ ተጨማሪ ግምገማ በማቅረብ የሚሳተፈው በዚህ ሂደት ነው። የ AI ውሳኔ አሰጣጥ በተግባር እየተረጋገጠ ሲሄድ፣ ኔትስሃይም እንደሚሉት፣ “ይበልጥ ጥንቃቄ በሚፈልጉ ሥርዓቶች ላይ ለመጠቀም የምንወስደውን ስጋት ደረጃ ቀስ በቀስ ከፍ እናደርጋለን።”

• ከሰባት ወራት የቴሌሜትሪ ጋር ሲነጻጸር የታቀደውን የምርመራ ለውጥ እንደገና ለማጫወት ከአንድ ሰዓት ባነሰ ጊዜ ውስጥ።

• በቅርብ ጊዜ በቀይ ቡድን ልምምዶች ውስጥ በራስ-ሰር የታቀደው ጥገና ከፍተኛ ደረጃ ተጋላጭነትን ከማስገባት 18 ደቂቃዎች።

• በየሩብ ዓመቱ ሐሰተኛ አዎንታዊ ውጤቶችን ለመመርመር የሚውሉ ወደ 600 የተንታኝ የሥራ ሰዓታት ተመልሰዋል።

• በየሩብ ዓመቱ በግምት 1,100 የተንታኝ የምርመራ የሥራ ሰዓታት ይጠናቀቃሉ።

• የቅድሚያ ምርመራ የማስተላለፊያ ዘዴ በ50% ጨምሯል።

• በመረጃ ማሰባሰብና በምርመራዎች 50% ጭማሪ

የመለየት እና የምላሽ ሥራ ብቻውን በሩብ ዓመቱ ወደ 600 የሚጠጉ የትንታኔ ሰዓቶችን አስመልሷል፤ እነዚህም ቀደም ሲል የተሳሳቱ አወንታዊ ውጤቶችን ለመለየት ይውሉ ነበር። ከዚያ ጊዜ ጀምሮ፣ ቡድኑ አሁን በጥልቀት ምርመራዎች ላይ የበለጠ ጊዜ ያሳልፋል እና የበለጠ አውቶሜሽን በኃላፊነት ይገነባል።

የጥቃቶች ፍጥነት እየጨመረ ሲሄድ እና የAI ሞዴሎች እየተሻሻሉ ሲቀጥሉ፣ Nettesheim በመጀመሪያው ደረጃ የሚፈጠሩትን ተጋላጭነቶች ቁጥር ለመቀነስ ዕድል እንዳለ ያያሉ። ይህም የደኅንነት ቡድኖች ጊዜያቸውን በጥገና ላይ የሚያጠፉትን እንዲቀንሱ እና በመከላከል ላይ ያተኮረ፣ ስትራቴጂያዊ ሥራ ላይ የሚያጠፉትን እንዲጨምሩ ያስችላቸዋል።

“OpenAI እነዚህን የላቁ አቅሞች ለሁሉም ተደራሽ በማድረግ የበላይነቱን ወደ ተከላካዮች እያዞረ ነው፣” ይላሉ። “በተለምዶ ይህ ቴክኖሎጂ እጅግ ከፍተኛ ዝና ባላቸው የቴክኖሎጂ ኩባንያዎችና በመንግሥታት እጅ ብቻ ሆኖ ቆይቷል። አሁን ግን ወሳኝ መሠረተ ልማቶችን፣ ትምህርት ቤቶችንና አነስተኛ ንግዶችን ጨምሮ ሁሉም አውታረ መረቦቻቸውን ለመከላከል ይህን ቴክኖሎጂ መጠቀም መጀመር ይችላሉ።”