ወደ ዋና ይዘት እለፍ
OpenAI

GPT‑5.6፦ ግንባር ቀደም አስተውሎትና ቅልጥፍና

በመጫን ላይ…

የGPT‑5.6 ሞዴል ቤተሰብን፣ ሰዎች ሞዴሎቻችንን በሚጠቀሙባቸው የተግባር ዓይነቶች ሁሉ አቅምንና ወጪን ሚዛናዊ እንዲያደርግ ነድፈነዋል። ባንዲራ ሞዴላችን GPT‑5.6 Sol በMax ማመዛዘን፣ በArtificial Analysis Coding Agent Index ላይ ከግማሽ በታች ወጪ Claude Fable 5ን ይበልጣል። Terra በአስተውሎት መለኪያዎች ላይ በግማሽ ዋጋ እንደ GPT‑5.5 ይሠራል፤ Luna ደግሞ ከSol ወጪ 80% ባነሰ ዋጋ የቀረበው ፈጣኑና በጣም ተመጣጣኙ ሞዴላችን ነው። እነዚህን ቅልጥፍናዎች ለማስገኘት፣ የምርምርና የቴክኒክ ቡድኖቻችን በቴክኖሎጂ ስብስባችን እያንዳንዱ ዋና ንብርብር ላይ ከፍተኛ ማመቻቸት አድርገዋል። እነዚህ ማሻሻያዎች ሞዴሎቻችንን፣ ኢንፈረንስን (ሞዴሎችን አስኬደን ውጤት የምናመነጭበትን መንገድ) እና Codex እና ChatGPT ሥራ የሚጠቀሙበትን ወኪላዊ መደበቂያችንን ያካትታሉ።

ባለፉት አራት ዓመታት ሞዴሎቻችንን ለ1 ቢሊዮን ንቁ ተጠቃሚዎችና ከ2 ሚሊዮን በላይ ንግዶች ስናስፋፋ፣ የአስተውሎትን ጥቅም ለሁሉም ለማዳረስ ቅልጥፍና ወሳኝ ሆኖ ቆይቷል። ተልዕኳችን አጠቃላይ የሰው ሠራሽ አስተውሎት የሰው ልጆችን ሁሉ እንዲጠቅም ማረጋገጥ ነው። በእነዚህ ዓመታት፣ በወጪና አስተውሎት ከርቭ እያንዳንዱ ደረጃ ላይ ምርጥ አፈጻጸም ያላቸውን ሞዴሎች ለማቅረብ፣ በቴክኖሎጂ ስብስባችን ሁሉ የበለጠ ማመቻቸትን በቀጣይነት ለማስገኘት ሠርተናል። በአንድ token የላቀ ሥራ እንዲሠራ በሠለጠነው GPT‑5.6፣ እስካሁን ካገኘነው ሁሉ የላቀውን የአስተውሎት-በ-token ቅልጥፍና አሳክተናል። በሥልጠና ወቅት ለተግባር ስኬትና ለቅልጥፍና እናመቻቻለን፤ ይህም ሞዴሉ ተግባሩን ይበልጥ ቀጥተኛ በሆነ መንገድ እንዲያከናውን ያደርገዋል።

ይህ ጽሑፍ ከሞዴሎቻችን አልፎ፣ በቴክኖሎጂ ስብስቡ ሌሎች ሁለት ዋና ክፍሎች ማሻሻያዎች አማካኝነት ቅልጥፍናን እንዴት እንደነደፍን ያብራራል፤ እነሱም፦ 1) ከተመሳሳይ ሃርድዌር የበለጠ ውጤት ለማግኘት የጭነት ሚዛን ማስጠበቅን፣ ግምታዊ ዲኮዲንግን፣ መሸጎጥንና የከርነል ማመቻቸትን በማሻሻል የሚገኘው ኢንፈረንስ፤ እና 2) የአውድ መጋነንን፣ የመሣሪያ አጠቃቀምንና ተደጋጋሚ ሥራን በተሻለ ሁኔታ ማስተዳደርን የሚያካትተው ወኪላዊ መደበቂያችን ናቸው። GPT‑5.6 Sol ከእነዚህ ማሻሻያዎች በርካታዎቹን በራሱ ለማስገኘት የተጫወተውን ሚናም እናቀርባለን። እያንዳንዱ ማሻሻያ ለብቻው ሲታይ ውስን ቢመስልም፣ እነዚህ ድሎች ተደማምረው በአስተውሎትና በቅልጥፍና ግንባር ቀደም ላይ እንድናቀርብ ያስችሉናል።

GPT-5.6 በወኪል መደበቂያ፣ በAPI ማስተባበርና በሞዴል ኢንፈረንስ ላይ ያለውን ቅልጥፍና፣ አነስተኛ የአውታረ መረብ ውሂብንና የCPU ሥራን እንዲሁም ከፍተኛ የGPU ውጤትን የሚያሳይ ንድፍ።

በGPT‑5.6 Sol ኢንፈረንስን ማፋጠን

የሞዴል ፍላጎት ከአቅም በፍጥነት በሚያድግበትና የስሌት ሀብት በተገደበበት ዓለም፣ ቅልጥፍና የእያንዳንዱ ስርዓት ንድፍ ዋና መሠረት ነው። ይህ በተለይ የሠለጠኑ ሞዴሎችን በማስኬድ ምላሾችን በሚያመነጨው የኢንፈረንስ ቴክኖሎጂ ስብስባችን ላይ እውነት ነው። ዋና ዓላማችን ተጠቃሚዎች የሚጠብቁትን አስተውሎት፣ ዝቅተኛ መዘግየት፣ ተደራሽነትና አስተማማኝነት ጠብቀን፣ በተመሳሳይ ሃርድዌር ተጨማሪ token ማቅረብ ነው።

ይህን ለማሳካት መላውን ስርዓት ማመቻቸት ያስፈልጋል። አንድ ሞዴል ብቻውን ሲታይ እጅግ ቀልጣፋ ሊሆን ይችላል፤ ነገር ግን ጥያቄዎች በአግባቡ ካልተሰራጩ፣ ሃርድዌር ሥራ ፈትቶ ከቆየ ወይም የውሂብ እንቅስቃሴ ስሌትን ካዘገየ፣ ማቅረቡ አሁንም ውድ ሊሆን ይችላል። በእያንዳንዱ ንብርብር የሚደረጉ ማሻሻያዎች ይጠራቀማሉ፤ ትርፉም ከማዘዋወር (ጥያቄዎች የት እንደሚላኩ)፣ ከመርሐግብር (ጥያቄዎች መቼ እንደሚላኩ)፣ ከከርነሎች (በGPUዎች ላይ የሚሠራ ሶፍትዌር)፣ ከመሸጎጥ (ተቀምጦ ዳግም የሚጠቀሙበት ሥራ) እና ከሞዴል ትግበራ (የGPU ኮድ ቅደም ተከተል) ማመቻቸት ይመጣል። በCodex ውስጥ ያለው GPT‑5.6 Sol በእነዚህ ማመቻቸቶች ሁሉ ወሳኝ ሚና ተጫውቷል።

የመጀመሪያው ጠቃሚ ምሳሌ የጭነት ሚዛን ማስጠበቅ ነው። በዓለም አቀፍ ደረጃ፣ ጥያቄዎችን እንደ ጂኦግራፊያዊ አቀማመጥ፣ ያለው አቅምና የማፋጠኛ አይነት (ሞዴሉን የሚያስኬደው የGPU ወይም የልዩ ቺፕ አይነት) ባሉ ሁኔታዎች መሠረት እናዘዋውራለን። በአንድ ክላስተር ውስጥ ሥራን በጭነት፣ በአውድ ርዝመት፣ በመሸጎጫ መገኘትና በሌሎች የጥያቄ ባህሪያት መሠረት በሞዴል አብነቶች መካከል እናሰራጫለን። ከዚያም በእያንዳንዱ አብነት ውስጥ ሥራው በማፋጠኛዎች፣ በሞዴሉ ንዑስ አውታረ መረቦችና በስሌት ኮሮች መካከል በብቃት መከፋፈል አለበት። በCodex ውስጥ ያለው GPT‑5.6 Sol የምርት ትራፊክን እንድንተነትን፣ ቀደም ሲል ያልታዩ የአለመመጣጠን ምንጮችን እንድንለይ፣ አዳዲስ የማዘዋወር ስልቶችን እንድንፈትሽና እነዚህን ግምታዊ ዘዴዎች በቀጣይነት እንድናስተካክል ይረዳናል። እነዚህ የጭነት ሚዛን ማሻሻያዎች ብቻ ሞዴሎቻችንን የማቅረብ ወጪ በእጅጉ ቀንሰዋል።

GPT‑5.6 Solን የሞዴሉን የፊት ማለፊያ—ግብዓቶችን ወደ ቀጣይ-token ትንበያዎች የሚቀይረውን ስሌት—ለማመቻቸትም ተጠቅመንበታል። እያንዳንዱ ክንውን ፈጣን ቢሆንም፣ ከመጠን ያለፈ የማኅደረ ትውስታ እንቅስቃሴ፣ ማመሳሰልና ውጤታማ ያልሆነ የውሂብ አቀማመጥ GPUዎችን ሥራ ፈት ሊያደርጉ ይችላሉ። ይህን ለማስቀረት GPT‑5.6 Sol አስቀድሞ ሊሰላ፣ ሊቀር ወይም በትይዩ ሊከናወን የሚችል ሥራ አገኘ። GPT‑5.6 Sol በCodex አማካኝነት ሞዴሉን የሚያዋቅሩትን የሒሳብ ክንውኖች የሚፈጽም ዋና ኮድ የሆኑትን የምርት ከርነሎቻችንን በራሱ እንደገና ጻፈና አመቻቸ። ይህ የተሳካው በከፊል፣ GPT‑5.6ን OpenAI በሚያስተዳድራቸው ሁለት ክፍት ምንጭ የGPU ፕሮግራሚንግ ቋንቋዎች በሆኑት Triton(በአዲስ መስኮት ውስጥ ይክፈታል) እና Gluon(በአዲስ መስኮት ውስጥ ይክፈታል) ከርነሎችን በመጻፍና በማሻሻል ውጤታማ እንዲሆን ስላሠለጠንነው ነው። እነዚህ ጥረቶች ከGPT‑5.6 Sol ሰፊ የከርነል ማሻሻያዎች ጋር ተዳምረው፣ ከጫፍ እስከ ጫፍ ያለውን የማቅረብ ወጪ በ20% ቀንሰዋል። በGPT‑5.6 Sol የተጻፉ ከርነሎችን ትክክለኛነት ለማረጋገጥ፣ እንደ ክፍት ምንጭ መሣሪያው FpSan(በአዲስ መስኮት ውስጥ ይክፈታል) (Floating-Point Sanitizer) ባሉ የማረጋገጫ መሣሪያዎች ላይም ከፍተኛ ኢንቨስትመንት አድርገናል።

ግምታዊ ዲኮዲንግ ፍጥነትንና ቅልጥፍናን ለማሻሻል ሌላ ዘዴ ነው። ዘዴው፣ ዋናው ሞዴል በትይዩ እንዲያረጋግጣቸው ብዙ tokenዎችን የሚጠቁም አነስተኛ ረቂቅ (ወይም «ገማች») ሞዴልን ከዋናው ሞዴል ጎን ለጎን ማስኬድን ያካትታል። እነዚያ ጥቆማዎች ሲቀበሉ፣ ስርዓቱ ከአንድ የዋና ሞዴል ማለፊያ ብዙ የውጤት tokenዎችን ማመንጨት ይችላል፤ ይህም ውድ የሆነውን ተከታታይ ስሌት መጠን ይቀንሳል። GPT‑5.6 Sol በአወቃቀሩ ላይ በመቶዎች የሚቆጠሩ ሙከራዎችን በመንደፍና በማስኬድ፣ በመጠን፣ በመዋቅርና በባህሪያት ላይ ያሉ ለውጦችን በመፈተሽ የራሱን ረቂቅ ሞዴል አሻሽሏል። በተጨማሪም GPT‑5.6 Sol የገማቹን ሥልጠና ሂደት አስጀምሮ ተከታትሏል፤ የሃርድዌር ብልሽትና የሥልጠና አለመረጋጋትን ጨምሮ ችግሮች ሲፈጠሩም በራሱ ጣልቃ ገብቷል። የተገኙት ማሻሻያዎች የtoken ማመንጨት ቅልጥፍናን ከ15% በላይ ጨምረዋል።

ያልተሸጎጡ የግብዓት tokenዎችን ሲያስኬድ፣ ሞዴሉ የቁልፍ-እሴት (KV) መሸጎጫን ከፍተኛ ስሌት በሚጠይቅ አንድ ማለፊያ ይገነባል፤ ውጤት ሲያመነጭ ደግሞ ከዚያ መሸጎጫ ደጋግሞ ያነባል፣ ያስፋፋዋልም። እንደ ባች ማድረግ፣ ማከፋፈልና KV አስተዳደር ያለ ተመራጭ የማቅረብ ውቅር፣ በሥራ ጫናው—በእርምጃና በውጤት ርዝመት፣ በባች መጠን፣ በመሸጎጫ የስኬት መጠን፣ በመጠይቅ ባህሪያትና በሌሎችም—ላይ በእጅጉ የተመሠረተ ነው። ሆኖም የውቅሩ አማራጮች ከዚህ በፊት በስርዓት ለማስተካከል እጅግ ሰፊ ስለነበሩ፣ መሐንዲሶች በጠቅላላ ግምታዊ ዘዴዎች እንዲመሩ ያስገድዷቸው ነበር። በCodex ውስጥ ባለው GPT‑5.6 Sol፣ የምርት ሥራ ጫናዎችን መተንተን፣ እጩ ውቅሮችን ማመንጨትና መገምገም፣ እንዲሁም ሞተሩና ሞዴሉ ለእያንዳንዱ ሁኔታ የሚዋቀሩበትን መንገድ እጅግ በጥልቀት ማመቻቸት ችለናል። ይህ ለሥራ ጫናው የተለየ አዲስ ደረጃ ማመቻቸትን ተግባራዊ በማድረግ፣ ከተመሳሳይ ሃርድዌር የበለጠ ጠቃሚ ኢንፈረንስ ያስገኛል።

የኢንፈረንስ ማመቻቸት ቀጣይነት ያለው የግብረመልስ ዑደት ነው። የምርት ባህሪን እንለካለን፣ ትልልቆቹን ክፍተቶች እንለያለን፣ ለውጦችን እንተገብራለን፣ ከዚያም የተነጠለ መለኪያን ብቻ ሳይሆን መላውን ስርዓት ማሻሻላቸውን እናረጋግጣለን። GPT‑5.6 Sol እና Codex የዚያን ዑደት እያንዳንዱን ክፍል ያፋጥናሉ። ይህም ቡድናችን ተጨማሪ ሐሳቦችን እንዲያስስ፣ ለሚለዋወጡ የሥራ ጫናዎች በፍጥነት ምላሽ እንዲሰጥ፣ እንዲሁም ለተጠቃሚዎች ዝቅተኛ መዘግየት፣ ከፍተኛ አቅምና ዝቅተኛ ወጪ ያለው የኢንፈረንስ ቴክኖሎጂ ስብስብ እንዲፈጥር ያስችለዋል።

ወኪላዊ መደበቂያችን ተደጋጋሚ ሥራን እንዴት እንደሚያቀላጥፍ

ChatGPT ሥራ እና Codex ውስብስብ ተግባራትን በተከታታይ የሞዴል ጥያቄዎችና የመሣሪያ ጥሪዎች ያጠናቅቃሉ። በአንድ ተራ—ከተጠቃሚው ጥያቄ እስከ መጨረሻው ምላሽ—Codex የምንጭ ኮድን ሊመረምር፣ የማሰማራት ታሪክን ሊፈልግ፣ የክስተት ሪፖርቶችን ሊያነብ፣ ፋይል ሊያርትዕና ሙከራዎችን ሊያስኬድ ይችላል። እያንዳንዱ ደረጃ ጥያቄ ሊያስፈልገው ይችላል።

አውድ ማዘጋጀት፣ ውሂብ ማስተላለፍ፣ ኢንፈረንስ ማስኬድ፣ መሣሪያዎችን መጥራትና ሂደቶችን ማስጀመር ሁሉም ጊዜና የስሌት ኃይል ይጠይቃሉ። አንድ ተግባር 30 የሞዴል ጥያቄዎችን ከፈለገ፣ በእያንዳንዱ ጥያቄ ላይ የሚጨመር አንድ ሰከንድ ተደማምሮ ብዙ ይሆናል። አጠቃላይ አፈጻጸምን ማሻሻል ማለት ሞዴሉን ብቻ ማፋጠን ሳይሆን፣ በስርዓቱ ሁሉ ያለውን ተደጋጋሚ ሥራ መቀነስ ነው።

የተጠቃሚ ተግባር ወደ ሞዴሉ ይገባል፤ ሞዴሉም ተግባሩን ከማጠናቀቁ በፊት መሣሪያ መጥራት፣ ውጤት መቀበልና ሌላ የሞዴል ውሳኔ መስጠትን ደጋግሞ ሊያከናውን ይችላል።

አንድ የተጠቃሚ ተራ ብዙ የሞዴልና የመሣሪያ ድግግሞሾችን ሊይዝ ይችላል። በተደጋጋሚው ክልል ውስጥ ያለ ማንኛውም ወጪ ብዙ ጊዜ ሊከፈል ይችላል።

እነዚህ አባዢዎች ሞዴሎቻችንን፣ መሣሪያዎቻችንንና የተጠቃሚውን አካባቢ የሚያገናኝ በRust የተገነባ የማስተባበሪያ ንብርብር የሆነውን ወኪላዊ መደበቂያችንን እንዴት እንደነደፍን ወስነዋል። ቀጥሎ፣ የአውድ መጠን እንዳይጋነን ማድረግ፣ መሣሪያዎችን መጫንና የተሠራን ሥራ ዳግም መጠቀም እያንዳንዱን ጥያቄ እንዴት ይበልጥ ቀልጣፋ እንደሚያደርገው እንመለከታለን።

የአውድ መጠን መጋነንን ይከላከሉ

ወኪሎች ተጨማሪ መሣሪያዎችን፣ ክህሎቶችን፣ ተሰኪዎችንና የውይይት ታሪክን እንዲደርሱባቸው ሲፈቀድ፣ የአውድ መስኮቶች በቀላሉ ሊሰፉ ይችላሉ። ይህ ወጪን ይጨምራል፣ ሞዴሉን ትኩረት ያሳጣል፣ አላስፈላጊ ማመዛዘንንም ያነሳሳል። መደበቂያው ውህደቶች፣ ብጁ MCP መሣሪያዎች፣ ክህሎቶችና ተሰኪዎች ሲያስፈልጉ ብቻ እንዲታዩ በሚያደርገው የዘገየ ግኝት አማካኝነት ይህን ተጨማሪ ወጪ ሊቀንስ ይችላል። መደበቂያው እያንዳንዱ መሣሪያና MCP ውህደት የአውድ መስኮቱን ሳይታሰብ እንዳይይዝም ይከላከላል። ሞዴሉ የተለየ ገደብ ካልጠየቀ በቀር፣ የመሣሪያ ውጤት በነባሪ በ10,000 token ይገደባል።

ለእርምጃ መሸጎጫ ትክክለኛ ቅድመ ክፍሎችን ይጠብቁ

ቀደም ሲል እንደተገለጸው፣ የወኪል ዑደት ተመሳሳይ መመሪያዎችን፣ የውይይት ታሪክን፣ የመሣሪያ ትርጓሜዎችንና የቀደሙ ውጤቶችን በአንድ ተራ ውስጥ ለGPUዎች ብዙ ጊዜ ሊልክ ይችላል። እነዚህን ተደጋጋሚ ግብዓቶች ማስኬድ ውድ ስለሆነ፣ የእርምጃ መሸጎጫ ከዚህ በፊት ከተሰናዳ የእርምጃ ቅድመ ክፍል ጋር የተያያዘውን ስሌት እንደገና ይጠቀማል። ያንን ቅድመ ክፍል ለመጠበቅ መደበቂያው፣ ለሞዴሉ የሚታየውን ታሪክ በሙሉ በመጨረሻው ላይ ብቻ እንደሚጨመር ይይዘዋል፤ አዳዲስ መልዕክቶች፣ የመሣሪያ ውጤቶችና የአካባቢ ዝማኔዎች በቀደመው አውድ ውስጥ ከመክተት ይልቅ መጨረሻ ላይ ይጨመራሉ። መሣሪያዎችም በቋሚና ሊተነበይ በሚችል ቅደም ተከተል ይቀርባሉ፤ እንደ የማጽደቅ ፖሊሲዎች ያሉ የሩጫ ጊዜ ቅንብሮች ደግሞ በመሣሪያ ትርጓሜዎች ውስጥ ከመካተት ይልቅ በአፈጻጸም ጊዜ ይተገበራሉ። ይህ የንድፍ ምርጫ ለCodex እና ChatGPT ሥራ ከፍተኛ አጠቃላይ የእርምጃ መሸጎጫ የስኬት መጠን አስተዋጽኦ ያደርጋል።

ሦስት ጥያቄዎች በቋሚ ግንኙነት የተላኩ ባይቶችን ሞዴሉ ከሚያየው እያደገ ካለው አውድና መሸጎጫው እንደገና ሊጠቀምበት ከሚችለው ቅድመ ክፍል ጋር ያነጻጽራሉ።

ተጨማሪ ዝውውር በአውታረ መረቡ ላይ የሚተላለፈውን ይለውጣል፤ የእርምጃ መሸጎጫ ደግሞ ሞዴሉ ዳግም ማስላት የማያስፈልገውን ይለውጣል። ስፋቶቹ ጽንሰ-ሐሳባዊ ሲሆኑ፣ ተጨማሪው የማመቅ ንብርብር አልተሳየም።

በአስተውሎት ደረጃዎች ሁሉ ያለ ቅልጥፍና

በGPT‑5.6 ያስገኘናቸው የቅልጥፍና ማሻሻያዎች፣ ምርምርን፣ ኢንፈረንስንና ወኪላዊ መደበቂያችንን ጨምሮ በቴክኖሎጂ ስብስባችን ሁሉ ላይ ለዓመታት የተጠራቀሙ ማሻሻያዎች ውጤት ናቸው። GPT‑5.6 ብዙዎቹን ማሻሻያዎች በማስገኘት ያለው ሚና፣ የማመቻቸት ፍጥነት ይበልጥ እንደሚፋጠን ተስፋ ይሰጠናል። በቴክኖሎጂ ስብስባችን መሠረታዊ ማሻሻያዎች ላይ እየሠራን፣ እንደ ከርነል ማመቻቸት ባሉ ዘርፎች የበለጠ ማሻሻያ ማድረጋችንን እንቀጥላለን። እነዚህን ከጀርባ የሚከናወኑ ቀጣይ ማሻሻያዎች፣ በሰፊው የሚገኝና ወጪ ቆጣቢ አስተውሎት አድርገን ለተጠቃሚዎቻችንና ደንበኞቻችን ለማቅረብ እንጓጓለን።

ለዚህ ጽሑፍ አስተዋጽኦ ላደረጉት የቴክኒክ ሠራተኞች Matthew Ferrari፣ Philippe Tillet፣ Ahmed Ibrahim፣ Joe Gershenson እና Steve Coffey ልዩ ምስጋና እናቀርባለን።

ደራሲ

Matthew Ferrari፣ Phil Tillet፣ Ahmed Ibrahim፣ Joe Gershenson እና Steve Coffey