የሞዴል እውቀትን ለማስተላለፍ የተቀናጀ ዘመቻን ማስቆም
በቅርቡ፣ ከሞዴሎቻችን ጥበቃ የተደረገለትን የማመዛዘን ሂደት አውጥቶ ለመውሰድ የታለመ የተቀናጀ ዘመቻ ለይተን አስቁመናል። ቀደምት እንቅስቃሴውን ያየነው በጁላይ የመጀመሪያ ሳምንት ነበር። ይህ እንቅስቃሴ በጥቃት ከሚደረግ የሞዴል እውቀት ማስተላለፍ ጋር ይጣጣማል። ይህም ሌላ ሞዴል ለማሰልጠን፣ ችሎታዎቹን ለማባዛት ወይም ለማሻሻል የአንድን ሞዴል ውጤቶች ወይም የማመዛዘን ሂደት በስልታዊ መንገድና ያለፈቃድ መጠቀም ነው። ጥበቃ የተደረገለት የማመዛዘን ሂደት ማለት ሞዴሉ አንድን ተግባር ለማከናወን የሚጠቀምበት ውስጣዊ መዝገብ ነው። ይህን አውጥቶ መውሰድ ከመጨረሻው መልስ የተቀነሰ መረጃን ሊያጋልጥና ሌሎች የሞዴሉን ችሎታዎች እንዲያባዙ ሊረዳ ይችላል።
ዘመቻውን ያካሄዱት አካላት ምስጠራችንን አልሰበሩም፣ የውሂብ ጎታን አልጣሱም፣ ወይም የተቀመጡ የተጠቃሚ ውይይቶችን በቀጥታ አላገኙም። ይልቁንም፣ ጥበቃ የተደረገለት የማመዛዘን ሂደት ለጠያቂው በሚታይ ቅርጽ እንደገና እንዲወጣ ከሞዴሎቹ ጋር የሚደረጉ መስተጋብሮችን በተንኮል አዛብተዋል። ይህንም የአገልግሎት ውሎቻችንን በሚጥስ መንገድ፣ በቅንጅትና በሰፊ መጠን አከናውነዋል። ይህን ማጭበርበር የሚፈቅደው የደህንነት ክፍተት በOpenAI ሞዴሎች ብቻ የሚገኝ አይደለም። በጥቃት የሚደረግ የሞዴል እውቀት ማስተላለፍን በጋራ የመከላከል አቅም ለማጠናከር፣ ስለዚህ ጉዳይ መረጃን በግንባር ቀደም ሞዴሎች መድረክ በኩል ለዘርፉ አጋሮች አጋርተናል።
ይህን መረጃ ከማሳተማችን በፊት፣ የእንቅስቃሴውን ስፋትና ሊያስከትል የሚችለውን ተጽዕኖ መርምረናል፣ የራሳችንን የአደጋ ቅነሳ እርምጃዎች ተግብረናል። እንዲሁም ከዚህ ዓይነቱ ጥቃት የሚከላከሉ ጥበቃዎች መኖራቸውን ለማረጋገጥ መረጃን ለተመራማሪዎችና ለዘርፉ አጋሮች አጋርተን ግብረመልስ ተቀብለናል። ተጨማሪ የአደጋ ቅነሳና የምርመራ ሥራዎች ቀጥለዋል። የተማርነውን አሁን ማጋራት በዘርፉ ያሉ አካላት በስፋት መከላከያዎቻቸውን እንዲያጠናክሩ ይረዳል ብለን እናምናለን።
ዘመቻውን ያካሄዱት አካላት ጥበቃ የተደረገለትን የማመዛዘን ሂደት በአዳዲስ መንገዶች አውጥተው ለመውሰድ ሲሞክሩ ተመልክተናል። ከእነዚህም አንዱ የተመሰጠረ የማመዛዘን ሂደትን ከአንድ ውይይት መቅዳትና በሌላ ውይይት ያለ ሞዴል ምስጠራውን ፈትቶ የተደበቀውን የማመዛዘን ይዘት በጽሑፍ እንዲያወጣ መጠየቅ ነበር።
ገለልተኛ የደህንነት ተመራማሪዎች(በአዲስ መስኮት ውስጥ ይክፈታል)ም በኃላፊነት በተደረገ ሪፖርት፣ በሞዴሎች መካከልና በውይይት ኮምፓክሽን ውስጥ ያሉ ተዛማጅ የደህንነት ክፍተቶችን አሳውቀውናል። ግኝቶቻቸውን መርምረን፣ የለዩአቸው የጥቃት መንገዶች በእርግጥ እንደሚሠሩ አረጋግጠናል። ሥራቸው ይህን ሰፊ የጥቃት ምድብ እንድንረዳና የአደጋ ቅነሳ እርምጃዎችን እንድናፋጥን ረድቶናል።
እንቅስቃሴው በጁላይ 1 በአነስተኛ መጠን ተጀመረ። በጁላይ 24 እና 25 ግን ከ4,000 በላይ ተጠቃሚዎች ተዛማጅ የመረጃ ማውጫ ስልትን በመጠቀም 16,000 ጥያቄዎችን1 ሲያቀርቡ፣ የእንቅስቃሴው መጠን በድንገት ከፍ ማለቱን ተመልክተናል። ተጨማሪ ምርመራ ከ15,000 በላይ ተጠቃሚዎች ባሉበት ስብስብ ውስጥ ተዛማጅ የእርምጃ አቀራረብን የሚጠቀም እንቅስቃሴ አግኝቷል። ይህንንም እስከ ጁላይ 28 ድረስ ሙሉ በሙሉ አስቁመናል።
እንቅስቃሴው በጊዜ ሂደት ተለዋውጧል። ይህም በጥቃት የሚደረግ የሞዴል እውቀት ማስተላለፍ ባለብዙ ንብርብርና ከሁኔታዎች ጋር የሚላመዱ መከላከያዎችን የሚፈልግ ሰፊ የደህንነት ተግዳሮት መሆኑን ያጠናክራል።
በተጠቀሰው ወቅት የተመለከትናቸው ዘመቻውን ያካሄዱ አካላት ሁሉ ከአንድ ምንጭ የመጡ መሆናቸው ግልጽ አይደለም። ሆኖም፣ የእንቅስቃሴውን ዋና ክፍል ኪሚን ካበለጸገው Moonshot AI ጋር ከተያያዙ ግለሰቦች ጋር እናገናኘዋለን።
በጥቃት የሚደረግ የሞዴል እውቀት ማስተላለፍ በደህንነትና በብሔራዊ ደህንነት ላይ አደጋዎችን ይፈጥራል። አውጥቶ የተወሰደ የማመዛዘን ሂደት፣ የመጀመሪያው ሞዴል ለተጠቃሚዎች በሚያቀርባቸው ውጤቶች ላይ የተተገበሩ ጥበቃዎችን ሳይጠብቅ ሌላ ሞዴል ለማሰልጠን ሊውል ይችላል። በሰፊ መጠን ሲከናወን፣ የሞዴል እውቀት ማስተላለፍ ለደህንነት ተመሳሳይ መዋዕለ ንዋይ ማፍሰስ ሳያስፈልግ የላቁ ችሎታዎችን ማስተላለፍ ሊያፋጥንም ይችላል። ሞዴሎች ለበጎም ሆነ ለጎጂ ዓላማ ሊውሉ በሚችሉ ዘርፎች ችሎታ እያዳበሩ ሲሄዱ፣ እነዚህ ስጋቶች ይበልጥ ይጨምራሉ።
ይህ አደጋ OpenAIን ብቻ የሚመለከት አይደለም። ከላይ እንደተጠቀሰው፣ ተመሳሳይ ዘዴዎች ሌሎች የላቁ የሰው ሠራሽ አስተዋይነት ሥርዓቶችንም ሊጎዱ ይችላሉ። በመሆኑም፣ ይህ በዘርፉ ዙሪያ ቅንጅት የሚፈልግ የጋራ የደህንነት ተግዳሮት ነው።
በቅርቡ የተካሄደውን ይህን የሞዴል እውቀት ማስተላለፍ ዘመቻ፣ በመለያዎች ላይ እርምጃ በመውሰድ፣ ቴክኒካዊ ቁጥጥሮችን በመተግበርና ከአጋሮች ጋር በመቀናጀት ገትተነዋል። ለማጭበርበር የዋሉ መለያዎችን አግደናል ወይም ገደብ ጥለንባቸዋል፣ የምዝገባና የመሠረተ ልማት ቁጥጥሮችን አጠናክረናል፣ እንዲሁም ተዛማጅ መረቦችን የመከታተል ሥራ አስፋፍተናል።
በተጠቃሚዎች፣ በሥራ ቦታዎች፣ በድርጅቶችና በሞዴል ቤተሰቦች ሁሉ ውስጥ ለተደበቀ የማመዛዘን ሂደት የሚደረጉ ጥበቃዎችንም አጠናክረናል። የሌላ ተጠቃሚ የተመሰጠረ የማመዛዘን ሂደት አስቀድሞ በእጁ ያለ ሰው፣ ያንን እንደገና በማስኬድ ይዘቱን እንዲያገኝ የሚፈቅድ መንገድ ዘግተናል። በተጨማሪም፣ የማመዛዘን ሂደትን ሊያጋልጥ የሚችል በክፍል በክፍል የሚላክ ውጤትን ለይተው የሚያቆዩ ማጣሪያዎችን ጨምረናል። ተዛማጅ እንቅስቃሴው ወደ ሦስተኛ ወገን አገልግሎቶች ሲዛወር፣ የተሳተፉትን መለያዎች ለመለየትና እንቅስቃሴያቸውን ለማስቆም ከእነዚያ አቅራቢዎች ጋር ሠርተናል።
በመጨረሻም፣ ሌሎች የግንባር ቀደም ሞዴል አበልጻጊዎችና የመንግሥት ዘርፍ አጋሮች ተመሳሳይ እንቅስቃሴን እንዲፈልጉና የራሳቸውን መከላከያዎች እንዲያጠናክሩ፣ ተዛማጅ ግኝቶችን በግንባር ቀደም ሞዴሎች መድረክና በተገቢው የመንግሥት መረጃ መጋሪያ መንገዶች በኩል አጋርተናል። ወደ ሌላ ቦታ ሊዘዋወሩ ወይም እንደገና ሊካሄዱ የሚችሉ የማመዛዘን ሂደት መዝገቦችን የሚደግፉ ሥርዓቶች ተዛማጅ አደጋዎች ሊገጥሟቸው ይችላሉ።
ግንባር ቀደም ሞዴሎች እየተሻሻሉ ሲሄዱና አንዳንድ አካላት ችሎታዎቻቸውን በርካሽ ለመኮረጅ መንገዶችን ሲፈልጉ፣ በጥቃት የሚደረጉ የሞዴል እውቀት ማስተላለፍ ሙከራዎች ይበልጥ የተራቀቁ እንደሚሆኑ እንጠብቃለን። ይህን እንቅስቃሴ መከላከል ባለብዙ ንብርብር ቁጥጥሮችንና ከሁኔታዎች ጋር ያለማቋረጥ መላመድን ይጠይቃል።
ይህ ሥራ ገና አላለቀም። በአጋሮች መሠረተ ልማት ላይ የሚሠሩ ሥርዓቶች፣ በቀጥታ እንደምናቀርባቸው አገልግሎቶች ተመሳሳይ ጥበቃዎች ያስፈልጓቸዋል። የመሣሪያ ውጤቶችን ተጠቅመው የሚደረጉ ጥቃቶችም ከመደበኛ የሚታይ ጽሑፍ ባሻገር የሚመረምሩ ጥበቃዎችን ይፈልጋሉ። የመሣሪያ መከላከያዎችን፣ የመመደቢያ ሥርዓቶችን ሽፋንና ሞዴሎች ተገቢ ያልሆኑ ጥያቄዎችን የመቃወም አቅም ማሻሻላችንን እንቀጥላለን። ተዛማጅ ቁጥጥሮችንም በክላውድ አጋሮቻችን ዘንድ እንዲተገበሩ እያደረግን ነው።
የምንወስዳቸው እርምጃዎች በሦስት መስኮች ላይ ማተኮራቸውን ይቀጥላሉ፤ መረጃን አውጥቶ መውሰድን የሚከላከሉ ጠንካራ ቴክኒካዊ ጥበቃዎች፣ የተቀናጁ ዘመቻዎችን የተሻለ ለይቶ ማወቅና በእነሱ ላይ እርምጃ መውሰድ፣ እንዲሁም በዘርፉና በመንግሥት መካከል ስለ ስጋቶች ያለውን መረጃ በሰፊው መጋራት።
