Block በOpenAI ቴክኖሎጂ በAI የሚሠራ ደህንነት እንዴት እየገነባ ነው?

Square፣ Cash App እና Afterpayን የሚያቀርበው የBlock ኩባንያ የደህንነት ቡድን OpenAI Defense Factoryን ይጠቀማል። በዚህ ሥርዓት AI የደህንነት ክፍተቶችን የመፈለግ፣ የመለየትና ምላሽ የመስጠት ሥራን የትኛውም የሰው ቡድን ሊያከናውነው በማይችል ስፋት ያከናውናል። OpenAI Daybreakን ጨምሮ በAI ሥርዓቶች እገዛ፣ Block ቀደም ሲል ሳምንታት ይፈጅ የነበረውን ሥራ አሁን በሰዓታት ብቻ ያከናውናል።

የBlock የደህንነት ቡድን፣ ኮድ ከማመንጨት እስከ ደህንነት ሥራዎች ድረስ፣ AIን በተለያዩ የሥራ ሂደቶች ውስጥ በኃላፊነት ስሜት ለመጠቀም ትኩረት ሰጥቶ ቆይቷል። ዋና የመረጃ ደህንነት ኃላፊው ጄምስ ኔትስሃይም፣ “ዋናው ነገር፣ ከእርስዎ ጋር የሥራ አቅሙን ማሳደግ የሚችል አዲስ የቡድን አባል ማግኘት ነው” ይላሉ። “እያንዳንዱን እርምጃ አንድ በአንድ መወሰን እንደሚጠይቀው የተለመደ አውቶሜሽን አይደለም። ለእርስዎ ሁኔታ ልዩ የሆነና በግልጽ ያልተወሰነ ችግር አቅርበውለት፣ መፍትሔውን አብራችሁ መፈለግ ይችላሉ።”

የሶፍትዌር ስህተትን መመርመር ወይም የሥርዓት እንቅስቃሴ መዝገብን መተንተን የመሳሰሉ ሥራዎች ለማጠናቀቅ ቀናት ወይም ሳምንታት ይፈጁ ነበር። አሁን ቡድኑ እያንዳንዱን ውጤት በሰው እያረጋገጠ፣ እነዚያን ሥራዎች ከበፊቱ በእጅጉ ባነሰ ጊዜ ማጠናቀቅ ይችላል።

ለምሳሌ፣ የስጋት ማወቂያን ለማሻሻል፣ እያንዳንዱ ምርመራ ያልተቀነባበረ የመረጃ መጠይቅ ማስረጃውን ያስቀምጣል። ስለዚህ ቡድኑ ለማወቂያው የቀረበን ለውጥ፣ ሥራ ላይ ካሉ ሥርዓቶች በሰባት ወራት ውስጥ በተሰበሰበ የክትትል መረጃ ላይ እንደገና አስኬዶ፣ ከአንድ ሰዓት ባነሰ ጊዜ መፈተሽ ይችላል። ቀደም ሲል ይህ ሥራ በመቶዎች የሚቆጠሩ የቆዩ ጉዳዮችን በእጅ እንደገና መጠየቅና መፈተሽ ይጠይቅ ነበር። ከፍተኛ ጊዜ ስለሚፈጅም በተግባር የሚከናወነው እጅግ አልፎ አልፎ ነበር።

ቡድኑ ለየትኛው ሥራ የትኛውን ሞዴል እንደሚጠቀምም ይበልጥ በጥንቃቄ መምረጥ ጀምሯል። “ቀድሞ አዲሱን ሞዴል እንጠቀም ነበር፤ አሁን ግን ይህን ማድረግ አያስፈልግም” ይላሉ። “ለተለያዩ ሥራዎች የተለያዩ ሞዴሎችን መምረጥ ብዙ ያስተማረን ተሞክሮ ነበር።” የBlock የደህንነት መደበቂያ በDaybreak ላይ የተገነባ ሲሆን፣ ሥራዎችን ወደ ተገቢው ሞዴል ለመምራት ያግዛል። ሰዎች ሥራዎችን እንዲረከቡ ወይም ወኪሎች እርስ በርስ ሥራቸውን እንዲያረጋግጡ የሚያስችሉ መገናኛዎችንም ያካትታል። ቡድኑ እነዚህን ሥርዓቶች በውስጥ የአፈጻጸም መለኪያዎችና በተጨባጭ የሥራ ውጤታቸው በቀጣይነት ይገመግማል። ሲያስፈልግም አቀራረቡን ያስተካክላል፤ ይህም ኃላፊነት የተሞላበት ውሳኔ በሚሆንበት ጊዜ ሥራን ለሰው ግምገማ መላክን ይጨምራል።

ራስ-ሰር የሆነው የማጣሪያና ቅድሚያ መስጫ ሥርዓት ሥራዎች በፍጥነትና በብዛት እንዲከናወኑ አስችሏል። የBlock የደህንነት ቡድን በማጣሪያና ቅድሚያ መስጫ የማስተላለፊያ ዘዴ 50% ዕድገት፣ በስጋት መረጃ አሰባሰብና በምርመራዎች 50% ጭማሪ፣ እንዲሁም ሙሉ በሙሉ አዲስ የሆነ በራስ ገዝ ሁኔታ ስጋቶችን የማደን አቅም አግኝቷል። ኔትስሃይም እንዲህ ይላሉ፦ “ይህ በየሩብ ዓመቱ ወደ 1,100 የተንታኝ የሥራ ሰዓታት የሚወስድ ምርመራ ያከናውናል። ምክንያቱም አሁን ሁሉም ማንቂያዎች የሚመለከቷቸውን ነገሮች በሙሉ የሚሸፍን የተሟላና ጥልቅ ምርመራ ያገኛሉ። ሥርዓታችን እያንዳንዱን ማንቂያ፣ በዚያ ቀን የደረሰን ብቸኛ ማንቂያ እንደሆነ አድርጎ ይመረምራል።”

የተለመዱ የፍተሻ መሣሪያዎች አንድን የደህንነት ክፍተት ለብቻው ለይተው ያሳያሉ። የBlock የደህንነት ቡድን ግን በDaybreak እገዛ ከዚህ እጅግ የላቀ ሥራ ማከናወን ይችላል። ሞዴሉ ስለ ጥቃት ዘዴዎች መላምቶችን ለማቅረብና ተከታታይ ጥቃቶችን በማገናኘት ከመጀመሪያ እስከ መጨረሻ ሥርዓቱን ለመጣስ የሚያስችል ሙሉ መንገድ ለመለየት ያግዛል። በዚህም ለዓመታት ሳይታወቁ ቆይተው ሊሆን የሚችሉ የደህንነት ክፍተቶችን ያወጣል።

በአንድ ወቅት፣ በአንድ ላፕቶፕ ላይ የታየ ማንቂያ ለብቻው ሲታይ ቀላል የፖሊሲ ጥሰት ይመስል ነበር። ነገር ግን፣ በአቻ ግምገማ ወቅት ሞዴሉ በማስረጃው ውስጥ በአጋጣሚ ብቻ የታየን ፍንጭ ተከትሎ፣ ከBlock የማንነት መዝገቦች ጋር አገናኘው። በዚህም እጅግ የሰፋ የችግሮች ስብስብ አገኘ። “በአንድ የተጠቃሚ መሣሪያ ላይ የታየ መደበኛ ማንቂያ፣ የጥቃት ዘመቻን ወደ ማስቆም አደገ። ይህን ግንኙነት ለብቻው የሚያደርግ አንድም መሣሪያ የለም። ፍንጩ የሚገኘው የሁለቱን ምርቶች መዝገቦች አንድ ላይ ሲያዩ ብቻ ነው” ይላሉ ጄምስ።

ሌላው Daybreak የረዳበት ምሳሌ በቅርቡ በተካሄደ በእሳት መፈተን ልምምድ ወቅት ነበር። ለሞዴሉ ስለ አንድ የውስጥ ሥርዓት ጥቂት ፍንጮች ተሰጡት። እሱም በሁለት ሰዓት ገደማ ሙሉ የጥቃት መንገድ አገናኘ፤ ይህም የSQL ኮድ ማስረግ፣ የመዳረሻ ፈቃድን ከተፈቀደው በላይ ማሳደግ፣ መግቢያ ማስገኘት፣ የመግቢያ ማረጋገጫዎችን ፈልጎ መዘርዘርና ወደ ሌሎች ሥርዓቶች መሻገርን ያካትታል። ይህ ሥራ በእሳት መፈተን ለሚያከናውን ሰው በተለምዶ በርካታ ቀናት ይፈጃል። በቅርብ ጊዜ በተካሄዱ በእሳት መፈተን ልምምዶች፣ በአጠቃላይ የተገለጸ የደህንነት ክፍተት ከቀረበበት እስከ ራስ-ሰር የማስተካከያ ሐሳብ እስከተመነጨበት ድረስ የፈጀው ጊዜ 18 ደቂቃ ነበር።

የደህንነት ክፍተቶችን ማግኘት ጠቃሚ የሚሆነው እነሱን ማስተካከል ከተቻለ ብቻ ነው። ኔትስሃይም ቡድናቸው ለእያንዳንዱ ግኝት የሚከተለውን ሂደት ያብራራሉ፤ ችግሩ በኮዱ ውስጥ የት እንዳለና ኃላፊው ማን እንደሆነ መለየት፣ ከዚያም ወደ ማስተካከል መሸጋገር። “የማስተካከያ ሐሳብ ያቀርባሉ፣ ክፍተቱ ለጥቃት መጠቀሚያ መሆኑን ያረጋግጣሉ፣ ከዚያም እንደተስተካከለ ይፈትሻሉ። በዚህ ሁሉ ሂደት ውስጥ አቅጣጫ የሚሰጥና የኮድ ለውጦቹን ሥራ ላይ የሚያውል ሰው ይሳተፋል።”

ወኪሎች ቴክኒካዊ ብቃት ቢኖራቸውም፣ የድርጅቱን ነባራዊ ሁኔታ ወይም ከዚህ ቀደም የተወሰኑ ውሳኔዎች መነሻ ምክንያቶችን አያውቁም። ያንን አውድና ስትራቴጂ የሚያቀርበው ሰው ነው። ቡድናቸውም በሰው የሚከናወን ተጨማሪ ግምገማ በመስጠት የሚሳተፈው በዚህ ደረጃ ላይ ነው። የAI ውሳኔ አሰጣጥ በተግባር እየተረጋገጠ ሲሄድ፣ “የምንቀበለውን የአደጋ ደረጃ ቀስ በቀስ እየጨመርን፣ ይበልጥ ጥንቃቄ በሚፈልጉ ሥርዓቶች ላይ እንጠቀምበታለን” ይላሉ ኔትስሃይም።

• ለስጋት ማወቂያ የቀረበን ለውጥ በሰባት ወራት የክትትል መረጃ ላይ እንደገና አስኬዶ ለመፈተሽ ከአንድ ሰዓት ያነሰ ጊዜ።

• በቅርብ ጊዜ በተካሄዱ በእሳት መፈተን ልምምዶች፣ በአጠቃላይ የተገለጸ የደህንነት ክፍተት ከቀረበበት እስከ ራስ-ሰር የማስተካከያ ሐሳብ ድረስ 18 ደቂቃ።

• የሐሰት ማንቂያዎችን ለማጣራት ይውሉ የነበሩ 600 ገደማ የተንታኝ የሥራ ሰዓታት በየሩብ ዓመቱ ለሌላ ሥራ ዋሉ።

• በየሩብ ዓመቱ ወደ 1,100 የተንታኝ የሥራ ሰዓታት የሚወስድ ምርመራ ተጠናቀቀ።

• በማጣሪያና ቅድሚያ መስጫ የማስተላለፊያ ዘዴ 50% ዕድገት።

• በስጋት መረጃ አሰባሰብና በምርመራዎች 50% ጭማሪ።

ስጋትን የማወቅና ምላሽ የመስጠት ሥራ ብቻውን፣ ቀደም ሲል የሐሰት ማንቂያዎችን ለማጣራት ይውሉ የነበሩ 600 ገደማ የተንታኝ የሥራ ሰዓታትን በየሩብ ዓመቱ ለሌላ ሥራ እንዲውሉ አስችሏል። ይህ ጊዜ በመቆጠቡ፣ ቡድኑ አሁን ለጥልቅ ምርመራዎችና ተጨማሪ አውቶሜሽንን በኃላፊነት ስሜት ለመገንባት የበለጠ ጊዜ ያውላል።

የጥቃቶች ፍጥነት እየጨመረና የAI ሞዴሎች እየተሻሻሉ በሄዱ ቁጥር፣ ኔትስሃይም የደህንነት ክፍተቶች ከመነሻው እንዳይፈጠሩ በማድረግ ቁጥራቸውን ለመቀነስ ዕድል ይመለከታሉ። ይህም የደህንነት ቡድኖች ለማስተካከያ የሚያውሉትን ጊዜ ቀንሰው፣ በመከላከልና በስትራቴጂያዊ ሥራ ላይ የበለጠ ጊዜ እንዲያሳልፉ ያስችላቸዋል።

“OpenAI እነዚህን የላቁ አቅሞች ለሁሉም ተደራሽ በማድረግ፣ የበላይነቱን ወደ ተከላካዮች እያዛወረ ነው” ይላሉ። “በተለምዶ እነዚህ አቅሞች የነበሩት በጣም ታዋቂ በሆኑ የቴክኖሎጂ ኩባንያዎችና በመንግሥታት እጅ ብቻ ነበር። አሁን ግን ወሳኝ መሠረተ ልማቶችን የሚያስተዳድሩ አካላት፣ ትምህርት ቤቶችና አነስተኛ ንግዶች ጨምሮ ሁሉም፣ አውታረ መረቦቻቸውን ለመከላከል ይህን ቴክኖሎጂ መጠቀም መጀመር ይችላሉ።”