OpenAI

የግንባር ቀደም AI ስጋትን ማስተዳደር፦ ከሥልጠና እስከ አገልግሎት

ኖቬምበር 18፣ 2026 · ደህንነት

የግንባር ቀደም ሞዴሎች አቅም በፍጥነት እያደገ ነው፤ እነሱን የመረዳት፣ ከዓላማችን ጋር የማጣጣም እና የመጠበቅ አቅማችንም ቀድሞ መገኘት አለበት። የሞዴሎቻችንን ልማትና ልቀት ፍጥነት እየተቆጣጠርን ነው። ይህም የደህንነት መስፈርቶቻችንን ለማሟላት ተጨማሪ ጊዜ ሲያስፈልገን የውስጥ ሥልጠናን⁠(በአዲስ መስኮት ውስጥ ይክፈታል) ለጊዜው ማቆምን ወይም እንደ GPT‑6.1 Astra ያሉ ሞዴሎችን ሳንለቅ መቆየትን ያካትታል። እንደ በማስረጃ የተደገፉ የደህንነት ማረጋገጫዎች ያሉ አዳዲስ ሂደቶችን አስተዋውቀናል፤ በሥልጠናው ሂደት ሁሉ ከዓላማችን ጋር የሚጣጣም ባህሪ መኖሩን የሚያሳይ ጠንካራ ማስረጃም እንጠይቃለን። እነዚህ መስፈርቶች ሞዴሎችን የመልቀቅ ሂደት ያዘገያሉ፤ ሆኖም በደህንነት ወደፊት ለመሄድ የበለጠ መተማመን ይሰጡናል።

በጁላይ ከተከሰተው የHugging Face ክስተት⁠ ወዲህ፣ ሞዴሎችን ለማሰልጠን፣ ለመፈተን እና ወደ አገልግሎት ለማስገባት የምንከተላቸውን መከላከያዎች እና የተጣጣሚነት መስፈርቶች አጠናክረናል። ይህ ጽሑፍ እጅግ ከተገለሉ የሥልጠና አካባቢዎች እስከ በኮምፒውተርዎ ላይ የሚጠቀሙት Codex ድረስ፣ በእያንዳንዱ ደረጃ ስጋትን እንዴት እንደምንገመግምና እንደምናስተዳድር ያብራራል። በእያንዳንዱ ደረጃ ሞዴሎችንም ሆነ መከላከያዎችን እንገመግማለን፤ ወደ ቀጣዩ ደረጃ ለማለፍም የደህንነት ግምገማ ያስፈልጋል።

በሞዴሉ የሕይወት ዑደት ሁሉ ባለብዙ ንብርብር መከላከያ

በአንድ መከላከያ ላይ ብቻ ያለንን ጥገኛነት ለመቀነስ ብዙ የጥበቃ ንብርብሮችን ያካተተ ባለብዙ ንብርብር መከላከያ እንጠቀማለን። አንዱ ንብርብር ቢሳካለት፣ ሌሎቹ ጉዳትን ለመከላከል፣ መዘዙን ለመገደብ ወይም ጣልቃ እንድንገባ ማስጠንቀቂያ ለመስጠት ይረዳሉ።

ጥበቃዎቻችንን በአራት ንብርብሮች እናደራጃለን፦

ውጤታማ ክትትል በሞዴል መከታተል አስቻይነት ላይ ይመሠረታል፤ ይህም የክትትል ሥርዓቶች ከሞዴሉ ማመዛዘንና ድርጊቶች ስህተቶችን ወይም አደገኛ ባህሪን ምን ያህል በአስተማማኝነት ሊያውቁ እንደሚችሉ ነው። ለምሳሌ፣ የማጭበርበር ሐሳቡን በተከታታይ ሀሳቡ (CoT) ውስጥ በቃላት የሚገልጽ ሞዴል፣ ይህን መረጃ ከማይገልጽ ሞዴል ይልቅ ለክትትል የተሻለ ነው። በሥልጠና ወቅት እና ወደ አገልግሎት ከማስገባት በፊት መከታተል አስቻይነትን እንገመግማለን፣ የተሻሉ የመለኪያ ዘዴዎችን⁠(በአዲስ መስኮት ውስጥ ይክፈታል) እናዘጋጃለን፣ እንዲሁም ምን ተጽዕኖ እንደሚያሳድርበት እናጠናለን⁠(በአዲስ መስኮት ውስጥ ይክፈታል)።

የHugging Face ክስተት፣ ከፍተኛ አቅም ያላቸውን ሞዴሎች ለመገደብ በተገለለ አካባቢ ማስኬድ ላይ ብቻ መተማመን ለምን እንደሌለብን አሳይቷል። አሁን መሣሪያዎችን የሚጠቀሙ ሁሉንም የውስጥ አገልግሎቶች ጨምሮ፣ በአብዛኛዎቹ የውስጥና የውጭ አገልግሎት አካባቢዎች ግንባር ቀደም ሞዴሎችን እንከታተላለን።

የእያንዳንዱ ንብርብር ሚና በሦስቱ የሞዴል ልማትና አገልግሎት ደረጃዎች ይለዋወጣል፦

  • ምርምር፦ ሞዴሎችን በተገለሉ አካባቢዎች እናሰለጥናለን፣ እንፈትናለን፣ እንጠቀማለን።

  • የውስጥ አገልግሎት፦ የOpenAI ሠራተኞች ሞዴሎችን ለተግባራዊ ሥራ ይጠቀማሉ።

  • የውጭ አገልግሎት፦ ሞዴሎች ለሰዎችና ለድርጅቶች በስፋት ይቀርባሉ።

በተለያዩ ደረጃዎች በተለያዩ ንብርብሮች ላይ እንመሠረታለን። በሥልጠና ወቅት፣ ስለ ተጣጣሚነት ያለው እርግጠኝነት አነስተኛ ሲሆን፣ በተገለለ አካባቢ ማስኬድ እና ክትትል ላይ የበለጠ እንተማመናለን። ሞዴሎች በአገልግሎት ወቅት የበለጠ ሰፊ መዳረሻ ሲያገኙ፣ ተጣጣሚነት እና የሥርዓት ደረጃ ቁጥጥሮች እየበለጠ አስፈላጊ ይሆናሉ። በእያንዳንዱ ደረጃ፣ የተጣመሩት ጥበቃዎች ለሞዴሉ አቅምና መዳረሻ በቂ መሆናቸውን እንገመግማለን። ውሳኔዎቻችን ከየደህንነት አማካሪ ቡድናችን ጋር ሊገመገሙ ይችላሉ፤ የOpenAI Foundation የዳይሬክተሮች ቦርድ የደህንነት እና ጥበቃ ኮሚቴም ክትትል ያደርግባቸዋል።

በምርምር ወቅት፦ ሞዴሎችን በተገለሉ አካባቢዎች መገደብ

በምርምር ደረጃ፣ በሞዴሎች ተጣጣሚነት ላይ መተማመን ለማግኘት እንገመግማቸዋለን። ጉዳትን ለመከላከል በተጣጣሚነት ላይ ገና ሙሉ በሙሉ መተማመን ስለማንችል፣ ሞዴሎቹ ሊደርሱበትና ሊያደርጉት የሚችሉትን ለመገደብ በጥበቃ እና በተገለለ አካባቢ ማስኬድ ላይ በእጅጉ እንመሠረታለን።

አሁን ካለው የተጣጣሚነት ምርምር፣ የክትትል ሥርዓቶች እና የበይነመረብ መሠረተ ልማት ጥበቃ ሁኔታ አንጻር፣ ኃላፊነት የተሞላበት አቀራረብ ግንባር ቀደም ሞዴሎችን የቀጥታ በይነመረብ መዳረሻ ሳይኖራቸው ማሰልጠን እንደሆነ እናምናለን። ከHugging Face ክስተት በኋላ፣ ሞዴሎችን ለመገደብ የውስጥ የምርምር ሥርዓቶቻችንን በከፍተኛ ደረጃ እንደገና አደራጅተናል። ለዚህም የምንጠቀማቸው፦

  • የሞዴሉን ፈቃዶች የሚገድቡ የተገለሉ አካባቢዎች

  • ሥራውን ከሚያስኬደው ኮምፒውተር የበለጠ ለመለየት የሚያገለግሉ ምናባዊ ማሽኖች

  • ሙሉውን የኮምፒውተሮች ስብስብ ከበይነመረብ የሚለዩ የአውታረ መረብ እና የደመና ድንበሮች

እጅግ ጠንካራ የሆኑ ሞዴሎቻችንን በቡድን በማደራጀት፣ ቀጥታ በይነመረብ ለመድረስ፣ ከጥበቃ ድንበሮች ለማምለጥ ወይም ከእነሱ ተለይተው ሊቆዩ ከሚገባቸው ወኪሎች ጋር ለመገናኘት እንዲሞክሩ በማድረግ፣ ይህን ሥርዓት ያለማቋረጥ በእሳት እንፈትናለን። ይህ የማገጃ ሥርዓቱ፣ ሊገድባቸው የታሰቡትን ሞዴሎች አቅም መቋቋም መቻሉን ለመፈተን ይረዳናል።

እንደ ተጨማሪ የመከላከያ ንብርብር፣ ሞዴሉ ሁሌም መከበር ያለባቸውን የጥበቃ ደንቦቻችን ማለፉን ለማወቅ፣ ግንባር ቀደም ሞዴሎች የሚያመነጯቸውን ምላሾች ሁሉ እንከታተላለን። ክትትላችን ሞዴሉ በይነመረብ መድረሱን ካወቀ፣ ለጥበቃ ቡድኖቻችን አስቸኳይ ማሳወቂያ እንልካለን፣ ሥራውንም በራስ-ሰር ለጊዜው እናቆማለን።

የማገጃ ሥርዓቱ ሲሳካለት፣ ክትትል ወሳኝ የመጨረሻ መከላከያ ይሆናል። በቅርቡ ባወጣነው የዓላማ መዛባት ሪፖርት፣ የክትትል ሥርዓቶች የውስጥ የምርምር ሞዴል የDNS የቅንብር ስህተትን ሲበዘብዝ እንዳገኙት⁠(በአዲስ መስኮት ውስጥ ይክፈታል) አጋርተናል። ሞዴሉ ይህን ያደረገው ውስን የበይነመረብ መዳረሻ ለማግኘት ነበር። ጉዳዩን እየመረመርን እና የጥበቃ ክፍተቱን እየዘጋን፣ እጅግ አቅም ያላቸውን ሞዴሎቻችን ሥልጠናና ግምገማ ከሴፕቴምበር 20 እስከ ኦክቶበር 1 አቁመን ነበር።

ጣልቃ መግባት ፈጣንና አስተማማኝ እንዲሆን፣ Control Room⁠ን ገንብተናል። ይህ የምርምር ሥራዎችን የሚከታተል ማዕከላዊ ሥርዓት ሲሆን፣ ሥራን የማቆም ትእዛዝ በደረሰው በ35 ሰከንዶች ውስጥ ሞዴሉ ተጨማሪ ውጤት እንዳያመነጭ ያቆማል። እነዚህ ቁጥጥሮች በቀጥታ በምላሽ ማመንጫ መሠረተ ልማቱ ውስጥ ስለሚተገበሩ፣ እያንዳንዱ የምርምር ሥራ የራሱን የማቆሚያ ዘዴ እንዲኖረው አይጠይቁም። ለግንባር ቀደም ሞዴል የምርምር ሥራዎች፣ Control Room ሊደረስበት ካልቻለም ሞዴሉ ውጤት ማመንጨቱን ያቆማሉ።

በእሳት መፈተን እና ክትትል በጋራ ይሠራሉ። የተገለለ አካባቢ ፈጽሞ ሊጣስ አይችልም ብለን ዋስትና መስጠት አንችልም፤ ነገር ግን በእሳት መፈተን ሞዴል ከእሱ ለማምለጥ ምን ያህል ጥረት እንደሚፈልግ ለመገምገም ይረዳናል። ሞዴሉ የበለጠ ጥረት ባስፈለገው መጠን፣ የክትትል ሥርዓቶች ለማወቅና ለማቆም የሚያገኙት እድል ይጨምራል።

በምርምር ደረጃ ጠንካራ የጥበቃና የክትትል ቁጥጥሮችን የግድ የምናደርገው በሚከተሉት ምክንያቶች ነው፦

  • ሞዴሎች አሁንም በግምገማ ላይ ናቸው። አንዳንዶቹ ለሕዝብ ከመለቀቃቸው በፊት የሚያስፈልጉትን የደህንነት ሥልጠና፣ የተጣጣሚነት ኦዲቶች እና ግምገማዎች ገና አላጠናቀቁም።

  • የግንባር ቀደም ምርምር አካባቢዎች ስጋቶችን ሊያባብሱ ይችላሉ። አንዳንድ የምርምር ተግባራት ከፍተኛ ግቦች ያሏቸው የሥራ አደረጃጀቶችን ይፈልጋሉ፤ ይህም ሞዴሉ በውጭ አገልግሎት ላይ ከሚታየው ይልቅ ተግባሩን አጥብቆ እንዲቀጥል ወይም የበለጠ አቅም እንዲኖረው ያደርጋል (ለምሳሌ፣ የናቪየር–ስቶክስ ችግርን ለመፍታት 10,000 ወኪሎች ያሉበት ቡድን አስፈልጎ ነበር)።

  • ሥልጠናው በሰፊ መጠን፣ ባነሰ ቀጥተኛ የሰው ክትትል ይካሄዳል። ከተለመደው የCodex ክፍለ ጊዜ በተለየ፣ የሥልጠና ሥራዎቻችን እያንዳንዱን መስተጋብር የሚከታተል ሰው ሳይኖር ብዙ የሞዴል ድርጊቶችን ያካትታሉ።

የውስጥ አገልግሎት፦ ተጣጣሚነትን መፈተን፣ ባህሪን በቅርብ መከታተል

ሞዴሎች በስፋት ከመለቀቃቸው በፊት፣ ሠራተኞች ግንባር ቀደም ሞዴሎችን በተገለለ የምርምር አካባቢ ከመጠቀም ወደ ያልተገለለ የውስጥ አጠቃቀም ይሸጋገራሉ፤ ለምሳሌ፣ ሞዴሉ በChatGPT ውስጥ ለሠራተኞች ይቀርባል። ይህ ሞዴሎቹ በተግባራዊ አካባቢዎች እንዴት እንደሚያደርጉ⁠(በአዲስ መስኮት ውስጥ ይክፈታል) በተሻለ እንድንረዳ ያስችለናል፣ እንዲሁም ወደ አገልግሎት ስለማስገባታቸው ለምንወስናቸው ውሳኔዎች ግብዓት ይሆናል።

በዚህ ደረጃ ለሞዴሉ ሰፊውን በይነመረብ፣ የእኛን Slack፣ የኮድ ስብስብ እና የውስጥ መሠረተ ልማት የመድረስ ፈቃድ እንሰጠዋለን። የሞዴሉ ድርጊቶች OpenAIን ለመገንባትና ለማስኬድ በምንጠቀምባቸው ሥርዓቶች ላይ ቀጥተኛ ተጽዕኖ ስለሚኖራቸው፣ ይህ በስጋት ደረጃ ላይ ከፍተኛ ለውጥ ያመጣል። በውስጥ አገልግሎት ወቅት፣ ከጥበቃ ቁጥጥሮች ይልቅ በሞዴል ተጣጣሚነት፣ በሥርዓት መከላከያዎች እና በክትትል ላይ የበለጠ መተማመን ያስፈልገናል።

ግንባር ቀደም ሞዴል ከተገለለው አካባቢ ውጭ ወደ አገልግሎት ከመግባቱ በፊት፣ የተጣጣሚነት ፈተና እና የመከታተል አስቻይነት ፈተና⁠(በአዲስ መስኮት ውስጥ ይክፈታል) ማለፍ አለበት። ልዩ ልዩ የተጣጣሚነት ግምገማዎች አሉን። እነዚህም የተወሰኑ የተጣጣሚነት ጉድለቶችን (እንደ ደህንነት እና ጥበቃ ገደቦችን ማለፍ) እንዲሁም አጠቃላይ የባህሪ ዝንባሌዎችን (እንደ ውስጣዊ የCodex የድርጊት ቅደም ተከተሎችን እንደገና ናሙና መውሰድና ከታሰበው ዓላማ መዛባት መኖሩን መፈተሽ) ይመረምራሉ። ስለ ተጣጣሚነት እና መከታተል አስቻይነት ግምገማዎቻችን በቅርቡ በወጣው የGPT‑6 Astra የሥርዓት ካርድ⁠(በአዲስ መስኮት ውስጥ ይክፈታል) ላይ የበለጠ ማንበብ ይችላሉ።

የቀጥታ አገልግሎት አደረጃጀታችንን በመከተል፣ እንደ ሳይበር ብዝበዛ እና ባዮሎጂካዊ መሣሪያ ማምረት ያሉ ከግንባር ቀደም ሞዴሎች ጋር የተያያዙ ጉዳቶችን ለመከላከል በተዘጋጁ የሥርዓት ደረጃ መመደቢያዎች ተጨማሪ የመከላከያ ንብርብር እንጨምራለን። በተጨማሪም፣ Codexን የሚጠቀሙ ሠራተኞች በአጠቃላይ ራስ-ሰር ግምገማ⁠(በአዲስ መስኮት ውስጥ ይክፈታል) እንዲጠቀሙ እንጠይቃለን። ይህ አደጋ ሊያስከትሉ የሚችሉ ድርጊቶችን ገምግሞ ለውሳኔ ወደ ተጠቃሚው ይመልሳቸዋል።

በመጨረሻም፣ በውስጥ አገልግሎት ወቅት ግንባር ቀደም ሞዴሎች ምላሽ ባመነጩ ቁጥር ከታሰበው ዓላማ የሚያፈነግጥ ባህሪ መኖሩን እንከታተላለን። ሞዴሉ አሁን የተስፋፉ ፈቃዶች እና የውስጥ መረጃና ሥርዓቶችን የመድረስ እድል ስላለው፣ እንደ መረጃ ማስወጣት፣ ማለትም ሚስጥራዊ መረጃን ወደ ያልተፈቀደ መድረሻ መላክ ያሉ ስጋቶችን መለየት በተለይ አስፈላጊ ይሆናል። ክትትል አዳዲስ ከዓላማ የመዛባት ዓይነቶችን⁠(በአዲስ መስኮት ውስጥ ይክፈታል) እንድንመረምርም ይረዳናል።

የውጭ አገልግሎት፦ በሰፊ መጠን የተሳሳተ አጠቃቀምን እና ከዓላማ መዛባትን መከላከል

ሞዴሎችን ለሕዝብ ማቅረብ እጅግ ከበዙ ተጠቃሚዎች፣ ተግባራት እና አካባቢዎች ጋር ያገናኛቸዋል፤ ይህም የስጋቶችን መጠንና ዓይነት ያበዛል። በዚህ ደረጃ፣ ሆን ብለው ሞዴሉን ጉዳት እንዲያደርስ ሊያዙ ከሚችሉ ተንኮለኛ አካላትም መከላከል አለብን።

ለሕዝብ ከመለቀቃቸው በፊት፣ ሞዴሎች እና የሥርዓት መከላከያዎች የውጭ አገልግሎት የደህንነት መስፈርቶቻችንን ማሟላት አለባቸው። እንዲህ ባሉ መንገዶች እንገመግማቸዋለን፦

  • የበለጠ ሰፊ የተጣጣሚነት እና የደህንነት ግምገማዎችን ማካሄድ። ለግንባር ቀደም ሞዴሎቻችን፣ ይህ የሞዴሉን ጽናት በከባድ ሁኔታዎች ለመፈተን የውስጥ ራስ-ሰር በእሳት መፈተን ሥርዓቶቻችንን በመጠቀም አዳዲስ ዙሮችን ሁኔታን የሚላመድ ፈተና⁠ ማካሄድን ያካትታል። የአቅምና የደህንነት ግምገማዎቻችንን ውጤቶች በየሥርዓት ካርዶቻችን⁠(በአዲስ መስኮት ውስጥ ይክፈታል) እናሳትማለን።

  • እጅግ አቅም ላላቸው ሞዴሎቻችን ከሦስተኛ ወገኖች ጋርም ፈተናዎችን እናካሂዳለን፤ ይህም የተሳሳተ አጠቃቀምን የሚከላከሉ መከላከያዎቻችንን እና የሞዴሎቻችንን መሠረታዊ ተጣጣሚነት በከባድ ሁኔታዎች ለመፈተን ይረዳል።

  • በመሠረታዊ ሞዴሉ ተጣጣሚነት ላይ ማንኛውንም ለውጥ ለመከታተል፣ በውስጥ አገልግሎት ደረጃ ክትትሉ ያመለከታቸውን ማስጠንቀቂያዎች መመርመር።

ከ«ቅጽበታዊ» መከላከያዎቻችን (እንደ ሞዴል የደህንነት ሥልጠና እና የሥርዓት መመደቢያዎች) በተጨማሪ፣ ለውጭ አገልግሎቶች ከቀጥታ መስተጋብሩ ውጭ የሚካሄድ ደንብ ማስከበር እና ምርመራም እንጠቀማለን። እነዚህ ቡድኖች በስፋት የሚሠሩ ወኪል መርማሪዎችን እና የሰው ግምገማን በማጣመር ስጋት ሊፈጥሩ የሚችሉ አካላትን ያገኛሉ፣ ይለያሉ። ይህም ከሳይበር ብዝበዛ፣ ከባዮሎጂካዊ መሣሪያ ማምረት እና የሞዴል እውቀት ማጣራት⁠ እስከ ሞዴሉ ራሱ ከዓላማው መዛባት ድረስ ያሉ ስጋቶችን ይሸፍናል። ከቀጥታ መስተጋብር ውጭ ደንብ ማስከበር፣ ሊኖር ስለሚችል ስጋት የበለጠ አጠቃላይ ግንዛቤ ለመፍጠር ከተለያዩ መለያዎች መረጃ ለመሰብሰብ በተለይ ጠቃሚ ነው።

እንደ Daybreak እና Rosalind⁠ ያሉ ለታመኑ አካላት መዳረሻ የሚሰጡ ፕሮግራሞች ሌላ የጥበቃ ንብርብር ይጨምራሉ። አጥቂዎች ሊሆኑ የሚችሉ አካላትን በመገደብ፣ የተከላካዮችን እና የሕጋዊ ተመራማሪዎችን ሥራ ያፋጥናሉ።

ለክስተቶች ምላሽ መስጠት እና ይፋ ማድረግ

በአንዱ የደህንነት ንብርብራችን ውስጥ ጉድለት ስናይ፣ በእርግጥ ጉዳት ደርሶ ይሁን አይሁን፣ በፍጥነት ለመመርመር፣ አስቸኳይነቱን ለመወሰን፣ ከተቻለና ተገቢ ከሆነም ጉድለቱን ለውጭ አካላት ይፋ ለማድረግ እንፈልጋለን። በከዓላማ መዛባትን ሪፖርት ማድረግ⁠ ፖሊሲያችን መሠረት፣ ማንኛውም ሠራተኛ አንድ ክስተት ለሕዝብ ይፋ እንዲደረግ ማመልከት ይችላል። እነዚህ ሪፖርቶች ይመረመራሉ፤ ለውጭ አካላት ይፋ መደረግ ስለመኖሩ አለመግባባት ካለም፣ ጉዳዩ ውሳኔ እንዲያገኝ ወደ የደህንነት አማካሪ ቡድናችን ይተላለፋል። በሠራተኞች ሪፖርቶች ላይ ከመመሥረት ባለፈ፣ የዓላማ መዛባት ክስተቶችን ለመፍታትና ግኝቶችን ለማጋራት በራሳችን ተነሳሽነት እንፈልጋቸዋለን።

የዓላማ መዛባት ሪፖርቶቻችንን እዚህ⁠(በአዲስ መስኮት ውስጥ ይክፈታል) ማየት ይችላሉ።

​


​

ይህ ሥራ በምርምር እድገትም ሆነ በሥራ አፈጻጸም ሥርዓት ላይ የተመሠረተ ነው። ይህም ቁጥጥሮችን በትክክል ማዋቀር፣ እንዴት አብረው እንደሚሠሩ መፈተን እና ሲሳካላቸው ቆራጥ ምላሽ መስጠትን ያካትታል። በተሳሳተ መንገድ የተዋቀረ የአውታረ መረብ አገልግሎት ወይም ያልሠራ ራስ-ሰር ማቆሚያ፣ በሌላ ሁኔታ ጠንካራ የሆኑ ጥበቃዎችን ሊያዳክም ይችላል።

ሞዴሎች አዳዲስ ችሎታዎችን ሲያገኙ፣ መከላከያዎቻችን የተመሠረቱባቸውን ግምቶች መፈተሻችንን መቀጠል እና አስፈላጊ ሲሆን መከላከያዎቹን ማሻሻል አለብን። ከምርምር፣ ከውስጥ አጠቃቀም እና ከሕዝብ አገልግሎት የተገኙ ትምህርቶች፣ ቀጣዮቹን ሞዴሎች ለማሰልጠን፣ ለመገምገም እና ወደ አገልግሎት ለማስገባት ግብዓት መሆን አለባቸው።

ሌሎች የአቀራረባችንን ገደቦች ጨምሮ እንዲመረምሩት፣ ግኝቶቻችንን በየሥርዓት ካርዶች፣ በክስተት ሪፖርቶች፣ በውስጥ አገልግሎት የስጋት ሪፖርቶች⁠(በአዲስ መስኮት ውስጥ ይክፈታል) እና በውጭ ግምገማዎች⁠ ማጋራታችንን እንቀጥላለን። ማስረጃው ለደህንነት ካስቀመጥነው መስፈርት በታች ሲሆን፣ መስፈርቶቹ እስኪሟሉ ድረስ እንደገና ሥልጠናን እናቆማለን ወይም ሞዴሉን ሳንለቅ እንቆያለን።

ተዛማጅ ምርምሮች እና ምንጮች

የደህንነት መስፈርቶችን ማውጣት

ከዓላማ ጋር የሚጣጣም ባህሪን መግለጽና መገምገም

ሞዴሎችን መገደብ እና መከላከያዎችን ማሻሻል

ለክስተቶች ምላሽ መስጠት እና ይፋ ማድረግ

የምርምር እድገት እና ተግባራዊ አጠቃቀሞች

  • ምርምርን ማፋጠን፦ በOpenAI ውስጥ ያለው ሁኔታ — ኮድ ጻፊ ወኪሎች በOpenAI ውስጥ ምርምርን እንዴት እየለወጡ እንደሆነ የሚያሳይ ቀደምት ማስረጃ፤ እያደገ ያለውን አጠቃቀማቸውን፣ ውስብስብነታቸው እየጨመረ ያሉ ተግባራትን እና በሙከራዎች ላይ ያላቸውን ተጽዕኖ ያካትታል።

  • ስለ ናቪየር–ስቶክስ የሚሊኒየም ሽልማት ችግር — በውስጥ AI ሥርዓት የተዘጋጀ፣ በLean መደበኛ ቅርጽ ከተጻፈ ማስረጃ ጋር የቀረበ የሒሳብ ማረጋገጫ፤ ይህም መጠነ ሰፊ የምርምር አጠቃቀሞችን አቅም ያሳያል።

  • Daybreak — የሳይበር ደህንነት ፕሮግራማችን፣ ብቃታቸው ለተረጋገጠ ተከላካዮች ተጋላጭነቶችን ለማግኘትና መከላከያዎችን ለማጠናከር የላቁ የAI ችሎታዎችን፣ የጥበቃ መሣሪያዎችን እና ድጋፍ ይሰጣል።

  • ለሕይወት ሳይንስ ምርምር GPT‑Rosalindን እናስተዋውቃለን⁠ — ለባዮሎጂ፣ ለመድኃኒት ግኝት እና የምርምር ውጤቶችን ወደ ሕክምና ለመቀየር የተዘጋጀ ልዩ ሞዴል፤ ብቁ ለሆኑ ድርጅቶች በታመነ መዳረሻ ፕሮግራም በኩል ይቀርባል።