Control Room

የሞዴሎቻችን አቅም እየጨመረ፣ ከእነሱም ጋር የተያያዙ የደህንነትና የጥበቃ አደጋዎች እያደጉ ሲሄዱ፣ ሊከሰቱ የሚችሉ ችግሮችን መለየት እና ሲያስፈልግም ሞዴሎቹን በፍጥነት ማቆም መቻላችን ይበልጥ ወሳኝ እየሆነ ይመጣል። ይህን ለመፍታት Control Roomን ገንብተናል።

Control Room በምርምር መሠረተ ልማታችን ውስጥ ያሉ የሞዴል ማስላት ሥራዎችን የሚከታተል እና የደህንነት ወይም የጥበቃ ስጋቶች ሲነሱ በፍጥነት የሚያቆማቸው ማዕከላዊ ሥርዓት ነው። ሞዴሎችን ለማሠልጠንና ለመገምገም በወኪሎች አማካይነት ናሙና ማመንጨትን፣ ውሂብ ማቀናበርን እና ሌሎችንም ጨምሮ፣ እያንዳንዱን የምርምር ኢንፈረንስ ሥራ ያገናኛል። ይህ ከእኛ ከታለመው ዓላማ ማፈንገጥን የሚከታተሉ ሥርዓቶች ጋር አብሮ ይሠራል፤ አንድን ሥራ ለማቆም ወይም ለአፍታ ለማስቆም ጣልቃ ለመግባት ከተወሰነ በኋላ በ35 ሰከንድ ውስጥ ሞዴሉ ውጤት ማመንጨቱን ያቆማል። ሌሎች ሥርዓቶች ቢበላሹም መሥራቱን እንዲቀጥል፣ Control Room ራሱ ቢቋረጥ ደግሞ ሞዴሉ ውጤት ማመንጨቱን እንዲያቆም ተደርጎ ተገንብቷል።

Control Room እጅግ አስፈላጊ በሆነበት የምርምር መሠረተ ልማታችን በሙሉ አስቀድሞ ሥራ ላይ ውሏል። ለውጭ ተጠቃሚዎች የሞዴል አገልግሎት የምንሰጥበት የቴክኖሎጂ ሥርዓት በተፈጥሮው እጅግ ይበልጥ ማዕከላዊ ነው። አስፈላጊ ሲሆንም ሥራ ላይ የዋሉ ሞዴሎችን በፍጥነት ለማቆም የዳበረ የአሠራር አቅም አለው።

Control Room የሚሠራው ጥቂት ሥርዓቶችን በማገናኘት ነው፤ እነሱም የማስላት ሥራው፣ የኢንፈረንስ ሞተሩ እና ማዕከላዊው የControl Room አገልግሎት ናቸው።

• የማስላት ሥራ ማለት እየተከናወነ ያለው ተግባር ነው፤ ለምሳሌ የማጠናከሪያ ትምህርት ሙከራ፣ ግምገማ፣ በከፍተኛ መጠን ናሙና የማመንጨት ወይም ውሂብ የማቀናበር ሥራ ሊሆን ይችላል። በወኪሎች አማካይነት ኢንፈረንስ የሚያከናውን እያንዳንዱ የምርምር ሥራ፣ ከጸደቀ የደህንነት ማረጋገጫ ጋር እንዲያያዝ እንጠይቃለን።

• የኢንፈረንስ ሞተር፣ ወይም በአጭሩ ሞተር፣ ሞዴሉ ራሱ ነው። ሞተሩን በቀጥታ በGPUዎች ላይ የሚሠራ የሞዴሉ አንጎል አድርገው ማሰብ ይችላሉ። አንድ የማስላት ሥራ በአብዛኛው አንድ ወይም ከዚያ በላይ ሞዴሎችን ይጠቀማል፤ እነዚህም በአንድ ወይም ከዚያ በላይ የተለያዩ የኢንፈረንስ ሞተሮች ላይ ሊሠሩ ይችላሉ። አንድ የኢንፈረንስ ሞተር ለብዙ የተለያዩ የማስላት ሥራዎች ሊያገለግል ይችላል።

• የControl Room አገልግሎት ሥራዎችን ይከታተላል፤ የሞዴል ውጤት ማመንጨት እንዲቀጥሉ ይፈቀድላቸው እንደሆነም ይቆጣጠራል። ሞተሮች ጥያቄን ከማስተናገዳቸው በፊት ከControl Room አገልግሎት ፈቃድ ያረጋግጣሉ። ሥራው ተቋርጦ ከሆነ፣ አገልግሎቱ ጥያቄውን ውድቅ በማድረግ ተጨማሪ ውጤት እንዳይመነጭ ያደርጋል።

Control Room ከሌሎቹ ክፍሎች ጋር የሚገናኘው በሚከተለው መንገድ ነው፦

• አዲስ ሥራ ሲጀመር፣ የማስላት ሥራው ኮድ ከControl Room አዲስ job_id ይጠይቃል።

• የማስላት ሥራው ከሞዴል ቶከኖችን በናሙና ምርጫ ማመንጨት በሚያስፈልገው ጊዜ ሁሉ፣ job_idን በማያያዝ ያንን ሞዴል ለሚያስኬደው የኢንፈረንስ ሞተር ጥያቄ ይልካል። ሞተሩም job_idን ወደ Control Room በማስተላለፍ፣ ጥያቄውን ለማስተናገድ ፈቃድ ይጠይቃል።

• Control Room ያ ሥራ ተቋርጦ እንደሆነ ያጣራል፤ ተቋርጦ ከሆነም የኢንፈረንስ ጥያቄውን ውድቅ ያደርጋል። ሞተሩ ለማስላት ሥራው የኢንፈረንስ ጥያቄ የእምቢታ ምላሽ ይሰጣል፤ በዚህም ለዚያ ሥራ ተጨማሪ የሞዴል ውጤት እንዳይመነጭ ያቆማል።

ሁሉም የግንባር ቀደም የማጠናከሪያ ትምህርት ሥራዎቻችን በተቆጣጣሪ ክትትል ሥር ይካሄዳሉ። ተቆጣጣሪ ማለት እየሠለጠነ ያለው ሞዴል የሚያደርገውን ሁሉ የሚመረምር እና ችግር ካገኘ ማንቂያ የሚሰጥ ሌላ ሞዴል ነው። ለምሳሌ፣ በቅርቡ ያጋጠመን ከDNS ጋር የተያያዘው ክስተት⁠(በአዲስ መስኮት ውስጥ ይክፈታል) የተለየው በተቆጣጣሪ ነበር።

Control Room እና የክትትል ሥርዓታችን በሚከተለው መንገድ ይገናኛሉ፦

• የክትትል ሥርዓቱ ሊከሰት የሚችል ችግር ካገኘ፣ እንደ ችግሩ ዝርዝር ሁኔታና ክብደት ሥራውን ለማቆም ሊወስን ይችላል።

• በዚህ ሁኔታ፣ የክትትል ሥርዓቱ job_idን በማያያዝ ሥራውን እንዲያቆም ለControl Room መልዕክት ይልካል። Control Room ሥራው መቋረጡን ይመዘግባል።

• ያንን job_id የያዘው ሥራ በሚቀጥለው ጊዜ በማንኛውም ሞተር ላይ ከሚሠራ ማንኛውም ሞዴል ተጨማሪ ቶከኖችን በናሙና ምርጫ ለማመንጨት የኢንፈረንስ ጥያቄ ሲያቀርብ፣ ጥያቄው ውድቅ ይደረጋል፤ በዚህም ተጨማሪ የሞዴል ውጤት መመንጨቱ ይቆማል።

Control Room አንድን ሥራ እንዲያቆም መመሪያ ከተቀበለበት ቅጽበት ጀምሮ ሥራው ወደፊት መቀጠል እስከማይችልበት ቅጽበት ድረስ ያለው ከፍተኛ ጊዜ 35 ሰከንድ ነው። ይህ የ35 ሰከንድ መዘግየት የሚከሰተው፣ የሚፈለገውን የጥያቄዎች ብዛት ለማስተናገድ የኢንፈረንስ ፈቃድን ለጊዜው አከማችቶ በሚያቆይ ንብርብር ምክንያት ነው። ሥራዎችን ወዲያውኑ ማቆም እንድንችል ይህን ጊዜ ወደ ዜሮ ለማውረድ እየሠራን ነው።

ሙከራዎችን፣ ግምገማዎችን እና ሌሎችንም የሚያካትቱ የማስላት ሥራዎች በአብዛኛው በተመራማሪዎች ወይም በተመራማሪ ቡድኖች ኃላፊነት ሥር ናቸው፤ የሚያስኬዷቸውም እነሱ ናቸው። በዚህም ምክንያት የማስላት ሥራዎች ኮድ በተደጋጋሚ ይቀየራል፤ ስለዚህ ዋና ዋና የደህንነት ጥበቃዎችን ለመተግበር ተስማሚ ቦታ አይደለም። ስለዚህ ሥርዓታችን የማስላት ሥራው ኮድ ስህተት ቢኖረውም ወይም ባይሠራም እንኳ መሥራቱን እንዲቀጥል ተደርጎ ተነድፏል።

ይህንንም የምናሳካው ሥራን የማቋረጫ ዘዴውን በኢንፈረንስ ንብርብር ውስጥ በመተግበር ነው። የማስላት ሥራዎች ኮድ በጣም የተለያየ ሲሆን በአንድ ማዕከል አይተዳደርም። በአንጻሩ፣ በሁሉም የOpenAI ምርምሮች ውስጥ ጥቅም ላይ የሚውሉት የኢንፈረንስ ኮድ የአፈጻጸም መንገዶች በጣም ጥቂት ናቸው፤ ወደ ሥራ የሚገቡበትም አሠራር ይበልጥ ማዕከላዊና ወጥ ነው። ይህ ማለት የኢንፈረንስ ንብርብር ሁሉም ጥያቄዎች የሚያልፉበት የቁጥጥር ነጥብ ሊሆን ይችላል። በዚህም በምርምር ውስጥ የሚካሄድ ማንኛውም የሞዴል ኢንፈረንስ፣ በእያንዳንዱ ጥያቄ የControl Room የፈቃድ ማረጋገጫ እንደሚያልፍ ጠንካራ ዋስትና ማግኘት እንችላለን። በተጨማሪም፣ ተጠቃሚዎች በስህተትም ሆነ ሆን ብለው ለጉዳት፣ Control Room ያልተካተተባቸውን ወይም የተሰናከለባቸውን ከቁጥጥር ውጭ የሆኑ ሞተሮች እያስነሱ አለመሆናቸውን ለማረጋገጥ፣ በወኪሎች እና በፕሮግራሞች አማካይነት ቀጣይነት ያለው ሰፊ ፍተሻ እናካሂዳለን።

በመጨረሻም፣ ሥርዓታችን «ሲበላሽ ፈቃድ ይከለክላል»። ይህም ማለት፣ በሞተሮቹ ውስጥ የተካተተው የControl Room ግንኙነት፣ የControl Room አገልግሎት በሥርዓት ስህተት ወይም በሌላ ማንኛውም ምክንያት—ተንኮለኛ አካል ጣልቃ በመግባቱም ጭምር—ቢቋረጥ፣ Control Room ወደ መደበኛ ሥራው እስኪመለስ ድረስ ሁሉም የኢንፈረንስ ጥያቄዎች ውድቅ እንዲደረጉ ተዋቅሯል ማለት ነው። ሲበላሽ ፈቃድ የመከልከል አሠራሩ አሁን በሁሉም የግንባር ቀደም ሞዴል ምርምር ሥራዎች ላይ ተተግብሯል፤ በቀሩት የምርምር ሥራዎች ሁሉ ላይም በሚቀጥሉት ጥቂት ቀናት ውስጥ ተግባራዊ ይሆናል።

Control Room ግንባር ቀደም ሞዴሎችን በደህንነት ለማሠልጠንና ሥራ ላይ ለማዋል ከምንከተለው ሁሉን አቀፍ አቀራረብ አንድ ክፍል ብቻ ነው። ከታለመው ዓላማ ያፈነገጠ ባህሪን እና የጥበቃ ጥሰቶችን ለመከታተል ከምናደርገው ኢንቨስትመንት ጎን ለጎን፣ በሚቀጥሉት ወራት ሥርዓቱን ማጠናከርና ማስፋት እንቀጥላለን። AGIን በደህንነትና በጥበቃ ለማልማት እና ሥራ ላይ ለማዋል የሚያግዙ ሥርዓቶችን በመገንባት መሳተፍ ከፈለጉ፣ እኛ⁠ እየቀጠርን ነው⁠!