ባለፉት ጥቂት ሳምንታት፣ እየጨመረ ከመጣው የAI ሥርዓቶች ብቃት ጋር የተያያዙ አደጋዎች እያደጉ መሆናቸውን ሁለት ክስተቶች አጉልተዋል፦ የOpenAI-Hugging Face ክስተት እና በተናጠል፣ ከሚመጡት ሞዴሎቻችን አንዱ የሆነው Astra በ የዝግጁነት ማዕቀፍ ሥር የ ወሳኝ የሳይበር ደህንነት ችሎታ ገደብን ሊያሟላ እንደሚችል የሚያሳይ የመጀመሪያ ማስረጃ። እነዚህ ክስተቶች ከውስጣዊ ምርምራችን ፈጣን እድገት ጋር ተዳምረው፣ በሁሉም የሥልጠና ደረጃዎች የክትትል፣ የማስማማት እና የመቆጣጠር ጥበቃዎቻችንን የማጠናከር ሥራ ይበልጥ አስቸኳይ እንዲሆን አድርገዋል።
ሞዴሎች የበለጠ ብቁ በሚሆኑ ቁጥር፣ በውስጥ ሆነን ከማዘጋጀታቸውና ከመፈተናቸው ጋር የተያያዙ አደጋዎችም ይጨምራሉ። የክትትል፣ የማስማማት እና የደህንነት መስፈርቶቻችን ከእነዚህ አደጋዎች ቀድመው መራመድ አለባቸው። እነዚህን መስፈርቶች ለማሟላት አስፈላጊውን ጊዜ ለመውሰድ፣ የማስፋፋት ፍጥነታችንን ለጊዜው ቀንሰናል። ይህም የምርምር አካባቢዎቻችንን የበለጠ እያጠናከርንና በጥቃት እየፈተንን፣ እንዲሁም የክትትል ሥርዓቶቻችንን ሽፋን እያስፋፋን ሳለ፣ ለመልቀቅ በታቀዱት አዳዲስ ሞዴሎቻችን ላይ የሚደረገውን የማጠናከሪያ ትምህርት (RL) ሥልጠና ለሁለት ሳምንት ማቆምን ያካትታል። ከመቀጠላችን በፊት የሞዴሉን ባህሪ ለመገምገም፣ ጥበቃዎቻችንን ለማረጋገጥና ለማስማማት ተጨማሪ ማስረጃ ለማቋቋም በአነስተኛ ደረጃ ሥልጠናና ግምገማዎችን ስናካሂድ፣ ያቀድነው ትልቁ የግንባር ቀደም RL ሙከራ እንደታገደ ይቆያል።
ማስማማት—የAI ሥርዓቶች እንደታሰበው እንዲሠሩና ለሰዎች ቁጥጥር ምላሽ እንዲሰጡ የማድረግ ሥራ—ለረጅም ጊዜ የምርምር ፕሮግራማችን ዋና አካል ነው። ቀድሞውኑ በመካሄድ ላይ ባሉ ምርምሮችና ግምገማዎች ላይ በመመሥረት፣ በመላው ሥልጠና የተስተካከለ ባህሪ ስለመኖሩ የበለጠ ጠንካራ ማስረጃ እንፈልጋለን። እየጨመረ የመጣ ብቃት ያላቸውን ሥርዓቶች በአግባቡ ማስማማት፣ መላው ዘርፍ ሊፈታው የሚገባ ፈተና ነው። በመጪ ሞዴሎች እድገት የምናያቸው ምልክቶች፣ አሁን ባለው የዝግጁነት ማዕቀፍ ላይ የሚገነባና ከእሱም የሚያልፍ ሰፊ አቀራረብ እንደሚያስፈልገን ግልጽ ያደርጋሉ።
አቀራረባችን እንዴት እየተለወጠ እንደሆነ ግልጽ መሆን አስፈላጊ ነው ብለን እናምናለን። ከዚህ በታች፣ በምርምር ሂደቶቻችንና መሠረተ ልማታችን ላይ ቀድሞውኑ ያደረግናቸውን ለውጦችና አሁንም በመካሄድ ላይ ያለውን ሥራ እንገልጻለን።
የበለጠ ብቁ ሞዴሎችን ለማዘጋጀት የምንከተለው አቀራረብ እርስ በርስ በሚያጠናክሩ ሦስት ጥበቃዎች ላይ የተመሠረተ ነው፦
- ክትትል፦ አሳሳቢ ባህሪን ለይቶ ያውቃል፣ ምላሽም እንድንሰጥ ያስችለናል።
- ማስማማት፦ ጎጂ ወይም ያልተፈቀዱ ድርጊቶች የመከሰት ዕድልን ይቀንሳል።
- የደህንነት እርምጃዎች፦ የAI ሥርዓቶች ሊደርሱበት ወይም ተጽዕኖ ሊያሳድሩበት የሚችሉትን ይገድባሉ።
ሞዴሎች ሌሎች ሞዴሎችን መከላከልን ጨምሮ አብዛኛውን የደህንነት ሥራ በቅርቡ እንደሚመሩ እንጠብቃለን። ይህም ሦስቱም ጥበቃዎች ከሞዴል ብቃት ጋር እንዲስፋፉ ያስችላል፤ ይህንንም ወሳኝ አድርገን እናየዋለን።
እነዚህን ጥበቃዎች ከእያንዳንዱ ሞዴል ብቃት፣ የሥራ አካባቢና የአደጋ ደረጃ ጋር በማስማማት በምርምርና በሥምሪት ላይ እንተገብራቸዋለን።
ግንባር ቀደም ሞዴሎች የበለጠ ጠንካራ የሳይበር ደህንነት ችሎታዎችን እያገኙ ሲሄዱ፣ ለምናሠለጥንባቸውና ለምንገመግምባቸው አካባቢዎች የደህንነት መስፈርቶችን ከፍ እያደረግን ነው። እነዚህን መስፈርቶች ማሟላት ከፍተኛ የምህንድስና ሥራ የጠየቀ ሲሆን፣ በግንባር ቀደም ምርምር ላይ ከፍተኛ ወጪና መዘግየት አስከትሏል። ከOpenAI-Hugging Face ክስተት* ወዲያውኑ በኋላ፣ ኮድ ሊያስኬዱ ወይም ኢንተርኔት ሊደርሱ የሚችሉ መሣሪያዎችን ሊጠቀሙ ለሚችሉ ሙከራዎች፣ በምርምር ክላስተሮች ውስጥ የግንባር ቀደም ሞዴል ኢንፈረንስን አቁመናል። በፍጥነት ይበልጥ ውስንና ደህንነቱ የተጠበቀ የኮድ ማስኬጃ መንገድን መልሰን ከፈትን፤ ከዚያም በደህንነት መቀጠል መቻሉን ለመወሰን እያንዳንዱን የሥራ ጫና ለየብቻ ገምግመናል። አንዳንድ የምርምር የሥራ ጫናዎች በእነዚህ አዳዲስ ቁጥጥሮች ሥር የቀጠሉ ሲሆን፣ ሌሎች ተጨማሪ ለውጦችን ፈልገዋል።
በቀጣዮቹ ሳምንታት፣ ለግንባር ቀደም የምርምር የሥራ ጫናዎች ጠንካራ የደህንነት መስፈርቶችን ወስነን መተግበር ጀምረናል። ለምሳሌ፦
- የሥራ ጫና ማግለል፦ በሞዴል የተፈጠረ ወይም ሌላ የማይታመን ኮድ ለሚያስኬዱ የሥራ ጫናዎች አሁን ይበልጥ ጠንካራ ማግለያዎችን («ሳንድቦክሶችን») እንጠይቃለን። ይህ የሞዴል ውጤቶችን በሚያስኬድበት ጊዜ ሊጠቃ በሚችል ሶፍትዌር ላይም ይሠራል።
- የኔትወርክ ማግለል፦ ከፍተኛ አደጋ ያላቸውንና የማይታመኑ የሥራ ጫናዎችን ከኢንተርኔት ለማግለል ተጨማሪ ቁጥጥሮችን ተግብረናል። አንድ የሥራ ጫና ወይም ደጋፊ አገልግሎት ብቻውን መጠቃቱ፣ ያልተፈቀደ የኢንተርኔት ወይም የሌሎች ውስጣዊ ኔትወርኮች መዳረሻን እንዳያስገኝ እነዚህን ቁጥጥሮች ነድፈናቸዋል።
- ቀጣይነት ያለው የደህንነት ሙከራ፦ ለአደጋ ሊጋለጡ የሚችሉ የጋራ አገልግሎቶችን ለማስወገድ፣ ቋሚ ልዩ መብቶችን ለመቀነስ፣ እንዲሁም የደህንነትና የእምነት ወሰኖችን ለማሻሻል አካባቢያችንን እንደገና አዋቅረናል። የደህንነት ምዝግቦችን የመሰብሰብና የመከታተል አቅማችንንም እያሻሻልን ነው። በመጨረሻም፣ ሞዴሎቻችንን ተጠቅመን እነዚህን ወሰኖች በተመሳሰሉ ጥቃቶች በቀጣይነት ለመፈተን በአውቶሜሽን ላይ ኢንቨስት እያደረግን ነው።
እነዚህ ቁጥጥሮች አንድ ላይ ሆነው ጥልቅ የሆነ መከላከያን ያቀርባሉ እና የምርምር አካባቢያችንንም ከጥቃቶች ለመጠበቅ ይረዳሉ። የAstra ሞዴሎች ወሳኝ ደረጃ ያለው የሳይበር ብቃት ሊኖራቸው እንደሚችል ስለወሰንን፣ በአሁኑ ጊዜ Astraን ወይም የሳይበር ሞዴሎችን ለሚያካትቱ የሥራ ጫናዎች እጅግ ጥብቅ የደህንነት ጥበቃዎችን እንጠይቃለን። እነዚህ ጥበቃዎች ከሳይበር ጋር በተያያዙ ሌሎች የሥራ ጫናዎች ሁሉ ላይም ይሠራሉ።
አንዳንድ የAstra ሥልጠናዎችና ግምገማዎች እነዚህን መስፈርቶች ቢያሟሉም፣ ከፍተኛ ቁጥር ያላቸው የሥራ ጫናዎች ሙሉ በሙሉ ወደ አዲሱ ሥርዓት ተዛውረው አዲሱን የደህንነት ደረጃ እስኪያሟሉ ድረስ ታግደው ይቆያሉ። በቅድሚያ ወደ እነዚህ አዳዲስ አካባቢዎች እንዲዛወሩ ለደህንነትና ለማስማማት የሥራ ጫናዎች ቅድሚያ እየሰጠን ነው።
ክትትል፣ የውስጥ የኮዲንግ ወኪሎችን መከታተልን እና ለረጅም ጊዜ የሚቆዩ ክፍለ ጊዜዎችን ጨምሮ፣ ለረጅም ጊዜ የሞዴል ልማት ሂደታችን አስፈላጊ አካል ነው። የክትትል ጥረታችን በተለይ በግንባር ቀደም ሞዴሎች ውስጣዊ ሥምሪቶችና በግንባር ቀደም RL ሥልጠናዎች ላይ ያተኮረ ነበር። እነዚህ የላቁ የሞዴል ችሎታዎችን ከመሣሪያዎች፣ ልዩ ጥንቃቄ የሚያስፈልጋቸው ሥርዓቶችና ውስጣዊ ወይም ውጫዊ ኔትወርኮች መዳረሻ ጋር ሊያጣምሩ ስለሚችሉ፣ ከፍተኛ አደጋ ያላቸው የሥራ ጫናዎች አድርገን ቆጥረናቸዋል። እነዚህ ክትትሎች መሣሪያዎችን በሚጠቀሙ ሁሉም የኢንፈረንስና የሥልጠና ሙከራዎች ላይ አልተተገበሩም ነበር። በአዲሱ የክትትል አወቃቀራችን አቀራረባችንን አሻሽለን አስፋፍተነዋል።
ይህ አዲስ የክትትል አወቃቀር ባለብዙ ደረጃ ነው። ከአክቲቬሽን መድቦች—የሞዴሉን ውስጣዊ እንቅስቃሴ ከሚመረምሩ መመርመሪያዎች—ይጀምራል፤ እነሱም በእያንዳንዱ ናሙና የተወሰደ token ላይ ይሠራሉ፣ ሊያሳስቡ የሚችሉ ጉዳዮችንም እየተራቀቁና ከፍተኛ ስሌት ወደሚጠቀሙ ራስ-ሰር መርማሪዎች ያሳድጋሉ። እነዚያ ሥርዓቶች የመሣሪያ ድርጊቶችን፣ የሚገኘውን ማመዛዘንና ሙሉውን የእንቅስቃሴ ቅደም ተከተል በመመርመር ያልተፈቀደ መዳረሻ፣ የውሂብ ስርቆት፣ አጥፊ ባህሪ እና ጥበቃዎችን ለማለፍ የሚደረጉ ሙከራዎችን ይፈልጋሉ። አሳሳቢ እንቅስቃሴ በክትትል ሥርዓታችን ከተገኘ በኋላ በ30 ደቂቃ ውስጥ ማንቂያ ለመስጠት እናልማለን። የክትትል ሥርዓቱ ወሳኝ የደህንነት ወሰን ተጥሷል ብሎ ካመነ፣ ከፍተኛውን ቅድሚያ የሚያገኝ ማንቂያ ያመነጫል። አሁን ባለው አተገባበራችን፣ ለደህንነት፣ ለጥበቃና ለምርምር ቡድኖች አስቸኳይ መልዕክት ይላካል። በ30 ደቂቃ ውስጥ ምልክቱ የተሳሳተ ማንቂያ መሆኑን በእርግጠኝነት መወሰን ካልቻሉ፣ ቡድኖቹ እንቅስቃሴውን ማቆም ይጠበቅባቸዋል።
ይህ ክትትል የSol ወይም ከዚያ በላይ ብቃት ላላቸው ሞዴሎች፣ መሣሪያዎችን በሚያካትቱ ሁሉም የRL ሥልጠናዎችና ግምገማዎች ላይ ያስፈልጋል። ነሐሴ 7 ቀን Astra ወሳኝ የሳይበር ችሎታዎች ሊኖሩት እንደሚችል ከወሰንን በኋላ፣ መሣሪያዎችን ለሚጠቀሙ ሁሉም የAstra ኢንፈረንሶች ተጨማሪ የክትትል መስፈርት አክለናል፤ ይህም በRL ሥልጠናና ግምገማዎች ብቻ አይወሰንም።
እነዚህ ጥበቃዎች ከፍተኛ የስሌት ኃይል ይጠይቃሉ። አሁን ባለን ግምት፣ የክትትል ተጨማሪ ወጪ ክትትል ከሚደረግበት የኢንፈረንስ የስሌት ኃይል 20% ገደማ ነው፤ ሆኖም ወጪው በሥልጠናና በግምገማ የሥራ ጫናዎች መካከል በእጅጉ ይለያያል። በቅርቡ በሚወጣ የብሎግ ልጥፍ ስለዚህ ሥርዓት ተጨማሪ ዝርዝሮችን እናጋራለን።
የማስማማት ምርምር የተልዕኳችን ማዕከል ነው። ተልዕኳችን አጠቃላይ የሰው ሠራሽ አስተውሎት ለሁሉም የሰው ልጆች ጥቅም እንዲውል ማረጋገጥ ነው። ሞዴሎች እንደ ሳይበር ጥቃት የማድረስ ችሎታ ያሉ የላቁ ብቃቶችን እያገኙና ይበልጥ ውስብስብ በሆኑ አካባቢዎች እየሠሩ ሲሄዱ፣ እንደ ሽልማት ማስተካከያ—የታሰበውን ውጤት ሳያሳኩ በሥልጠና ከፍተኛ ሽልማት የሚያስገኙ መንገዶችን መፈለግ—ማታለል ወይም ያልተፈቀደ መዳረሻ ያሉ ያልተስማሙ ባህሪያት እየከፋ የሚሄድ ከባድ አደጋ ይፈጥራሉ።
በጣም ብቁ በሆኑ ሞዴሎች ላይ ለሚደረጉ የRL ሙከራዎች፣ ዋና የማስማማት ቴክኒኮቻችንን በተጨማሪ የሥልጠና ሂደት ደረጃዎች ላይ እየተገበርን ነው። ይህም በተግባራትና በአካባቢዎች ያልተጠበቀ ባህሪን በተሻለ ለይተው እንዲያውቁና እንዲገቱ የሽልማት ሞዴሎችን ማሻሻል፤ ሞዴሎች ስለድርጊቶቻቸው፣ ችሎታዎቻቸውና ገደቦቻቸው ይበልጥ ሐቀኛ እንዲሆኑ ማሠልጠን፤ እንዲሁም በሽልማቶች፣ ገምጋሚዎች፣ መሣሪያዎች ወይም ቁጥጥር ውስጥ ያሉ ድክመቶችን የሚበዘብዙ ባህሪያትን መቀነስ ያካትታል። ሞዴሎች ከውጫዊ ሥርዓቶች ወይም ሀብቶች ጋር ሲገናኙ ጉዳት ሊያደርሱ ለሚችሉ ባህሪያት የሥልጠና ሽፋንንም እየጨመርን ነው።
በማስማማት ምርምር ላይ በከፍተኛ ደረጃ ኢንቨስት ማድረጋችንን፣ የግምገማ ሽፋንን ማስፋታችንንና የተማርነውን ለሥልጠናና ለጥበቃዎች መመሪያ ማድረጋችንን እንቀጥላለን። በቅርብ ጊዜ ስለማስማማት ምርምራችን፣ ስለሞዴል ባህሪ የተማርነውንና የምናገኛቸውን አዳዲስ ፈተናዎች ጨምሮ፣ እጅግ ተጨማሪ መረጃ ለማጋራት አቅደናል።
እነዚህን ጥበቃዎች በሥልጠናና በሥምሪት ላይ ለማቀናጀት፣ እንዲሁም የወደፊት ሞዴሎችን ችሎታዎችና የሚሠሩባቸውን አካባቢዎች በተሻለ ለማንጸባረቅ የዝግጁነት ማዕቀፋችንን እናሳድጋለን። ከእነዚያ ችሎታዎች ጋር ሊስፋፉ የሚችሉ ዘዴዎችን ለማዘጋጀት፣ በሞዴል የሚታገዝ ደህንነት ላይ ቀጣይ ኢንቨስትመንት፣ ይበልጥ ውጤታማ ክትትልና በማስማማት ምርምር ላይ ቀጣይ እድገት ያስፈልጋሉ። አቀራረባችን እያደገ ሲሄድ፣ ውጫዊ ድርጅቶችን ለማሳተፍና ከተማርነው የበለጠውን ለማጋራት አስበናል።
የግንባር ቀደም ሞዴሎች ችሎታዎች በፍጥነት እያደጉ ነው። እነሱን የመረዳት፣ የማስማማትና ደህንነታቸውን የመጠበቅ ችሎታችን ከእድገታቸው ቀድሞ መራመድ አለበት።
*በመጪዎቹ ሳምንታት የተማርነውን የሚያቀርብ ቴክኒካዊ ሪፖርት እናትማለን።
