የHugging Face ክስተትና ከዓላማ ባፈነገጡ ሞዴሎች በሦስተኛ ወገኖች ላይ የደረሱ ሌሎች ተፅዕኖዎች
የAI ሥርዓቶች አቅምና ራስ-ገዝነት እየጨመረ ሲሄድ፣ ከዓላማ ያፈነገጠ ባህሪ በገሃዱ ዓለም ከባድ ውጤት ወዳላቸው ድርጊቶች ሊያመራ ይችላል፤ ይህም የሳይበር ደኅንነት ክስተቶችንና ገንቢዎች ያልጠበቋቸውን ሌሎች ውጤቶች ያካትታል። ስለዚህ እነዚህ ባህሪያት እንዴት እንደሚፈጠሩና እንደሚባባሱ፣ እንዲሁም እንዴት ማወቅና ምላሽ መስጠት እንደሚቻል መረዳት፣ የላቁ የAI ሥርዓቶችን በደኅንነት የመገንባትና የማሰማራት ሂደት ከጊዜ ወደ ጊዜ ይበልጥ አስፈላጊ ክፍል እየሆነ ነው።
የHugging Face ክስተት በመድረክ ደረጃ የተፈጸመ ጥሰትን ስላካተተ፣ መጀመሪያ በዋናነት የደኅንነት ጉዳይ አድርገን ተረድተነው ነበር። እስከዛሬ ከሞዴሎቻችን ካገኘናቸው የዚህ ዓይነት እንቅስቃሴዎች ሁሉ ይህ አሁንም እጅግ ከባዱ ሲሆን፣ በዋናነትም ከፍተኛ አቅም ባለውና ለውስጥ ምርምር ብቻ በሚውል ሞዴል የተከናወነ ነበር። ከዚያ ወዲህ፣ በHugging Face ቴክኒካዊ ሪፖርት እንደተመዘገበው፣ ይህ ጥሰት ሞዴሎች ከባድ ተግባራትን ለመፍታት ከዓላማ ያፈነገጡ ስልቶችን በመጠቀማቸው እንደተፈጠረ ተረድተናል። የሳይበር ደኅንነት ክስተቶች የዚህ ስጋት አንዱ መገለጫ ናቸው፤ ከዓላማ ማፈንገጥ እንደ ሞዴሎቻችን በሦስተኛ ወገን ጣቢያዎች ላይ መለጠፍ ያሉ፣ ከተለመዱ የደኅንነት ምድቦች ውጭ የሆኑ ሌሎች ያልተጠበቁ ወይም አሳሳቢ ባህሪያትንም ሊያስከትል ይችላል፤ ይህንንም «የወኪል አይፈለጌ መልዕክት» ብለነዋል። ሁለቱንም መፍታት ያስፈልገናል።
ከባድ ክስተቶችን ቅድሚያ በመስጠትና የወኪል አይፈለጌ መልዕክትን ጨምሮ ዝቅተኛ ክብደት ያላቸውን ከዓላማ ያፈነገጡ እንቅስቃሴዎች በማካተት፣ ሰፊውን እንቅስቃሴ መገምገማችንን ቀጥለናል።
ይህ ገጽ ስለ Hugging Face ክስተት ያወጣናቸውን ሪፖርቶችና ዝማኔዎች፣ ተያያዥ ምርምሮችንና ይፋዊ ገለጻዎችን፣ ያገኘናቸውን ተጨማሪ እንቅስቃሴዎች፣ ስለ ሞዴል ከዓላማ ማፈንገጥ ሚና የተማርነውን እና ሥርዓቶቻችንን ለማጠናከር እየወሰድናቸው ያሉትን እርምጃዎች በአንድ ላይ ያቀርባል። ምርመራዎቻችን እየገፉ ሲሄዱ ይህን ገጽ እናዘምናለን።
በሦስተኛ ወገኖች ላይ ተፅዕኖ ያሳደረ እንቅስቃሴ
የእነዚህን ያልተጠበቁ ባህሪያት ወሰን በተሻለ ለመረዳት፣ በሥልጠናና በግምገማ ወቅት ሞዴሎቻችን በበይነመረብ ላይ ያከናወኗቸውን እንቅስቃሴዎች በስፋት እየገመገምን ነው። እንደ ግምገማችን አካል፣ ከሚከተሉት ጉዳዮች በመጀመር ሦስተኛ ወገኖችን በተከታታይ እየለየንና እያሳወቅን ነው፦
ሞዴሎቻችን የሦስተኛ ወገንን የደኅንነት ቁጥጥሮች አልፈው ሊሆን ወይም የመስመር ላይ አገልግሎትን ተደራሽነት አውከው ሊሆን የሚችልባቸው፤ ወይም
ከዓላማ የማፈንገጥ ጉዳዮች በሦስተኛ ወገን ድረ ገጾች ወይም አገልግሎቶች ላይ አሉታዊ ተፅዕኖ ያሳደሩባቸው።
እስካሁን ባደረግነው ግምገማ፣ ከላይ ባሉት መስፈርቶች መሠረት ለበርካታ ሦስተኛ ወገኖች አሳውቀናል። ያለፉ እንቅስቃሴዎችን የመገምገም ሥራችን ቀጥሏል፤ ከፍተኛ ጊዜና ሀብትም ይጠይቃል። ሥራው በቀጠለ ቁጥር ለተጨማሪ ሦስተኛ ወገኖች እናሳውቃለን።
ከዚህ በታች፣ የታዘብናቸውን ከዓላማ ያፈነገጡ እንቅስቃሴዎች ዓይነት ለመግለጽ ማንነትን የማይገልጹ ማጠቃለያዎችን እያተምን ነው፤ ለተጨማሪ ሦስተኛ ወገኖች ስናሳውቅና ግንዛቤያችን እያደገ ሲሄድም መግለጫዎቹን እናዘምናለን። በተጨማሪም፣ የግምገማውን ሁኔታ የሚመለከቱ ዝማኔዎችን እናጋራለን። ተፅዕኖ የደረሰባቸውን ወገኖች ለመጠበቅ በሚያስፈልግበት ጊዜ ስሞችንና ሌሎች ማንነትን የሚገልጹ ዝርዝሮችን በአጠቃላይ እናስቀራለን፤ መረጃው የደረሳቸው ወገኖች ግን የሰጠናቸውን መረጃ በይፋ ለማጋራት ሊመርጡ ይችላሉ።
የታዩ እንቅስቃሴዎች ማጠቃለያ
እስካሁን ያካሄድነው የግምገማና የማሳወቅ ሂደት የሚከተሉትን የእንቅስቃሴ ምድቦች ለይቷል፦
የመዳረሻ ቁጥጥርን ማለፍ፦ ወኪሎች በመደበኛነት የማንነት ማረጋገጫ፣ የተወሰነ ፈቃድ፣ ምዝገባ ወይም መለያ የሚያስፈልጋቸው መረጃዎች ወይም ባህሪያት ይደርሳሉ። ለምሳሌ፣ የተለየ የድር አድራሻ ተጠቅሟል፣ በጥያቄ ውስጥ ያሉ ዝርዝሮችን ቀይሯል ወይም ከተጠበቀው በላይ መዳረሻ በሰጠው የመግቢያ ክፍለ ጊዜ ላይ ተመርኩዟል።
የተጋለጡ የመግቢያ ማስረጃዎችን መጠቀም፦ ወኪሎች በይፋ የተገኙ የመግቢያ ዝርዝሮችን ወይም የመዳረሻ ቁልፎችን አግኝተው አገልግሎት ለመድረስ ተጠቅመውባቸዋል።
የጥያቄ ወይም የትዕዛዝ ማስገባት፦ ወኪሎች በድረ ገጽ ወይም በአገልግሎት ውስጥ ያስገቡትን ጽሑፍ፣ አገልግሎቱ እንደ መደበኛ ግብዓት ሳይሆን እንደ መመሪያ ተቀብሎታል። ይህም አገልግሎቱ በአገልጋዩ ላይ የውሂብ ጎታ ጥያቄ፣ የመተግበሪያ ኮድ ወይም ትዕዛዝ እንዲያስኬድ ሊያደርግ ይችላል።
የአሂድ ጊዜ ውስጣዊ ክፍሎች መዳረሻ፦ ወኪሎች የአገልግሎትን አተገባበር የሚይዙ ፋይሎችን አንብበዋል ወይም ለውስጥ ጥቅም ብቻ ከታሰበ የጀርባ ሥርዓት ጋር ተገናኝተዋል። በእነዚህ ጉዳዮች፣ ወኪሉ እንዲደርስባቸው ከታሰቡት ውጭ ያሉ የአገልግሎቱ ክፍሎች ደርሷል።
የወኪል አይፈለጌ መልዕክት፦ ወኪሎች በሦስተኛ ወገን ጣቢያዎች ላይ መረጃ ይለጥፋሉ፤ ይህም በጣቢያዎቹ ላይ ያለውን መረጃ ሊቀይርና ማጽዳትን ሊያስፈልግ ይችላል። ለምሳሌ፣ ይፋዊ የዊኪ ገጾችን እንደ የጋራ መልዕክት ሰሌዳ መጠቀም።