OpenAI እና Hugging Face በሞዴል ግምገማ የደህንነት ክስተትን ለመፍታት ተባበሩ

ባለፈው ሳምንት፣ Hugging Face መሠረተ ልማታቸውን ያደፈረሰ የAI ወኪል ካገኙና ከቆጣጠሩ በኋላ አዲስ ዓይነት የደህንነት ክስተትን ገልጸዋል⁠(በአዲስ መስኮት ውስጥ ይክፈታል)፤ የሳይበር ችሎታቸው እየጨመረ የሚሄዱ ሞዴሎች በመስፋፋታቸው ይህ የተለመደ እንዲሆን እንጠብቃለን። ከምርመራ በኋላ፣ ይህ የተለየ ክስተት በOpenAI ሞዴሎች ጥምረት — GPT‑5.6 Solን እና ከመለቀቁ በፊት ያለ የበለጠ ችሎታ ያለው ሞዴል ጨምሮ፣ ሁሉም ለግምገማ ዓላማ የሳይበር እምቢታዎች ተቀንሰውባቸው — የሳይበር ችሎታዎችን በሚለካ መመዘኛ⁠(በአዲስ መስኮት ውስጥ ይክፈታል) ላይ በውስጥ ሲፈተሹ እንደተነሳ አሁን አውቀናል።

ይህን ክስተት የዘመኑን ከፍተኛ የሳይበር ችሎታዎች ያካተተ ከዚህ በፊት ያልታየ የሳይበር ክስተት እንደሆነ እንቆጥራለን፣ እናም በዚያ መሠረት ምላሽ እየሰጠን ነው። በዚህ ደረጃ ቀዳሚ ግኝቶችን እያጋራን ያለነው፣ መከላከያ አካላት የተከሰተውን እንዲረዱ እና ሞዴሎች አሁን ምን መስራት እንደሚችሉ መለኪያቸውን እንዲያስተካክሉ ለመርዳት ነው። ከHugging Face ጋር በመሆን ጥልቅ ምርመራ ማካሄዳችንን እንቀጥላለን፣ ምርመራችን ሲጠናቀቅም ስለ ተጋላጭነቶቹ፣ ስለ ክስተቱ እና ስለ ግኝቶቹ ተጨማሪ ዝርዝሮችን እናጋራለን።

ይህ ክስተት የሞዴሎቹን የሳይበር ችሎታ ለመለካት፣ ውስብስብ የጥቃት መንገዶችን በመጠቀም የላቀ ብዝበዛ እንዲከታተሉ ሞዴሎችን በሚጠይቅ ውስጣዊ ግምገማ ወቅት ተከስቷል። ሞዴሎች ከፍተኛ አደጋ ያለው የሳይበር እንቅስቃሴ እንዳይከታተሉ ለመከላከል በምርት ላይ የሚጠቀሙ ክላሲፋየሮችን ሳናስኬድ፣ ይህን ግምገማ በማካሄድ ከፍተኛውን የሳይበር ችሎታ እንገምታለን። መመዘኛዎቻችን በጣም በተነጠለ አካባቢ ውስጥ ይሠራሉ፤ የአውታረ መረብ መዳረሻም ለpackage registries እንደ proxy እና cache በሚሠራ በውስጥ በተስተናገደ የሦስተኛ ወገን ሶፍትዌር በኩል ችን መጫን ብቻ እንዲቻል ተገድቧል።

ሞዴሎቹ ከHugging Face የምርት ዳታቤዝ በቀጥታ የሙከራ መፍትሔዎችን ለማግኘት፣ በOpenAI የምርምር አካባቢ እና በHugging Face የምርት መሠረተ ልማት ላይ ያሉ ተጋላጭነቶችን ለይተው በተከታታይ አገናኝተው ተጠቀሙባቸው። ሁሉም ማስረጃ ሞዴሎቹ ለExploitGym መፍትሔ ማግኘት ላይ እጅግ በመተኮር፣ በጣም ጠባብ የሆነ የሙከራ ግብን ለማሳካት እስከ ጽንፍ እንደሄዱ ያመለክታል።

በተከለለው የሙከራ አካባቢያችን ውስጥ ሲሠሩ፣ ሞዴሎቻችን የግምገማውን ችግኝ ለመፍታት በመሞከር፣ ክፍት የበይነ መረብ መዳረሻ ማግኘት የሚችሉበትን መንገድ ለማግኘት ከፍተኛ የinference compute መጠን አጠፉ። መዳረሻ ለማግኘት፣ ሞዴሎቹ በpackage registry cache proxy ውስጥ ያለ zero-day ተጋላጭነትን ለይተው ተበዘበዙት፤ ይህንም አሁን ለአቅራቢው በኃላፊነት ገልጸናል። በዚህ መዳረሻ፣ ሞዴሎቻችን የበይነ መረብ መዳረሻ ያለው ማነቃነቅ እስኪደርሱ ድረስ በምርምር ሙከራ አካባቢያችን ውስጥ ተከታታይ የprivilege escalation እና የlateral movement እርምጃዎችን ፈጸሙ።

የበይነ መረብ መዳረሻ ካገኙ በኋላ፣ ሞዴሎቹ Hugging Face ለExploitGym ሞዴሎች፣ ዳታሴቶች እና መፍትሔዎች ሊያስተናግድ እንደሚችል ገመቱ። ይህን በማወቅ፣ ሞዴሉ በግምገማው ላይ ለማታለል ሊጠቀምበት የሚችለውን ሚስጥራዊ መረጃ መዳረሻ የሚያገኝባቸውን መንገዶች ፈለገ እና በተሳካ ሁኔታ አገኘ። በአንድ ምሳሌ፣ ሞዴሉ በHugging Face ሰርቨሮች ላይ የremote code execution መንገድ ለማግኘት፣ የተሰረቁ ምስክርነቶችን እና zero-day ተጋላጭነቶችን መጠቀምን ጨምሮ ብዙ የጥቃት ቬክተሮችን በተከታታይ አገናኝቶ ተጠቀመ። የOpenAI የደህንነት ቡድን ይህን ያልተለመደ እንቅስቃሴ በውስጥ አገኘ።

የHugging Face የደህንነት ቡድንና ወኪሎች በመሠረተ ልማታቸው ላይ ያለውን እንቅስቃሴ ለይተው አቆሙት፣ እና ቡድኖቻችን ከመገናኘታቸው በፊት በራሳቸው open-source ሞዴሎች መያዣና ፎረንሲክ ዳግም ግንባታ ጀምረው ነበር። ክስተቱን መመርመር እንዲቀጥል ከእነሱ ጋር በንቃት እየሠራን ነው። በምርመራና በማስተካከያ ላይ ለHugging Face ፈጣንና ቅርብ ትብብር አመስጋኞች ነን።

1. እንደ ምርመራው አካል፣ ተጋላጭነቶቹ እየተጠገኑ እያለ የምርምር ፍጥነትን በመቀነስ በመሠረተ ልማት ውቅር ላይ ጥብቅ ቁጥጥሮችን እየተገበርን ነው። ስለእነዚህ ቁጥጥሮችና ስለሚኖራቸው ተፅዕኖ ለደህንነትና ጥበቃ ኮሚቴያችን በየጊዜው መግለጫ እየሰጠን ነው።
2. ክስተቱን በፎረንሲክ ለማጣራት ከHugging Face ጋር እየሠራን ነው።
3. በውስጥ የተስተናገደው የሦስተኛ ወገን ሶፍትዌር ውስጥ የተለየውን የzero-day ተጋላጭነት በኃላፊነት ገልጸናል፣ እናም ለመጠገን ከእነሱ ጋር እየሠራን ነው።
4. Hugging Faceን ወደ የታመነ መዳረሻ⁠ ፕሮግራም አስገብተናል፣ እናም ቡድኖቻቸው መከላከያዎቻቸውን ለማሻሻል የሞዴሎቻችንን ችሎታዎች በፍጥነት እንዲጠቀሙ እየደገፍናቸው ነው።
5. ለወደፊት ስልጠናና ግምገማዎች ዙሪያ ያሉ ጥበቃዎችን እያሻሻልን እና የበለጠ ጠንካራ ጥበቃዎችን እየጨመርን ነው። በዚህ ሳምንት፣ የረጅም ሆራይዞን ሞዴሎች ዘመን ውስጥ ደህንነትንና አሰላለፍን ማሻሻል⁠ ላይ የተመለከተ ብሎግ አትመናል። ይህ ግምገማ የሳይበር ተጋላጭነቶችን ለመፈተሽ የታለመ ስለነበር፣ እነዚህ የማሰማራት መከላከያዎች በሆን ተብሎ አልነቃም። ይህ ክስተት የሞዴላችንን አሰላለፍ፣ በግምገማ ጊዜ የሚደረጉ የሳይበር ጥበቃዎችን፣ እና በውስጥ ሙከራ ወቅት የሚደረግ ክትትልን የበለጠ ማጠናከር እንዳለብን ያሳያል።

በ ቅርቡ⁠ እንዳጋራነው፣ የሰው ሠራሽ አስተውሎት (AI) ተጋላጭነቶችን መፈለግና መበዝበዝን እያፋጠነ ነው። ከዚህ ክስተት የሚገኘው ዋና ትምህርት፣ የሞዴል ጥበቃና ደህንነት በፍጥነት እየተራመዱ ካሉ ችሎታዎች ጋር አብረው መጓዝ እንዳለባቸው ነው። በሞዴል ልማት ወቅት የሚጠቀሙትን የመያዣ፣ የክትትል፣ የመዳረሻ ቁጥጥር እና የግምገማ ልምዶች እያጠናከርን ነው።

የUK AISI ግምገማ፣ እንደ GPT‑5.6 Sol ያሉ ሞዴሎች በረጅም የጊዜ ሆራይዞኖች ላይ ውስብስብ ባለብዙ ደረጃ የሳይበር ኦፕሬሽኖችን ማስቀጠል እየቻሉ መሆናቸውን ያሳያል። ይህ ክስተት እነዚህ ንድፈ ሐሳባዊ ችሎታዎች በእውነተኛ ዓለም ሁኔታዎችም እንደሚሠሩ ያመለክታል።

ክስተቱ የላቁ ሞዴሎች የምንጭ ኮድ መዳረሻ ሳይኖራቸው በእውነተኛ ዓለም ሥርዓቶች ውስጥ አዳዲስ የጥቃት መንገዶችን ሊያገኙና ሊበዘብዙ እንደሚችሉ ግልጽ ያደርጋል። ይህም የላቁ የሳይበር ችሎታዎች ከጠንካራ መከላከያዎችና የመከላከያ መሣሪያዎች ጋር አብረው መልማት እንዳለባቸው ያጎላል።

የላቁ የሳይበር ችሎታ ያላቸው ሞዴሎች አጥቂዎች ከማግኘታቸው በፊት የጥበቃ ቡድኖች ድክመቶችን እንዲያገኙ፣ ተጋላጭነቶች እንዴት ተያይዘው ሊጠቀሙ እንደሚችሉ እንዲረዱ፣ እና በማሽን ፍጥነት እንዲያስተካክሏቸው መርዳት እንዳለባቸው እናምናለን። በመሠረተ ልማት ውቅርና በሞዴል ግምገማ አካባቢዎች ዙሪያ ያሉ ጥበቃዎችን ማጠናከራችንን ለመቀጠል እነዚህን ችሎታዎች እየተጠቀምን ነው፤ እየተማርን ስንሄድም ያገኘናቸውን ግኝቶችና ምርጥ ልምዶች እናጋራለን። ሌሎች መከላከያ አካላትም ለታመነ መዳረሻ እንዲያመለክቱ⁠ እና እነዚህን ሞዴሎች አሁን እንዲሞክሩ እናበረታታለን፤ ይህም እነዚህን ችሎታዎች ወደ የተሻለ መከላከል፣ ፈጣን መለየት እና የበለጠ ውጤታማ የክስተት ምላሽ ለመቀየር ይረዳል።