
Jalapeñoን፣ OpenAIየመጀመሪያ ብጁ የኢንፈረንስ ቺፕ፣ ካስታወቅን ወዲህ ቺፑንና በዙሪያው የተገነባውን ሥርዓት በመሞከር ላይ ነበርን። ውጤቶቹ ጉልህ የአፈጻጸም መሻሻልን ያሳያሉ፦ Jalapeño በአንድ የኃይል ክፍል ተጨማሪ የሰው ሠራሽ አስተውሎት (AI) ሥራ ጫናን ማስተናገድ ይችላል፣ እንዲሁም ምላሾችን በበለጠ ፍጥነት ይመልሳል። Jalapeño በአንድ አወቃቀር ከፍተኛ የማስተላለፊያ ዘዴንና ዝቅተኛ መዘግየትን ያቀርባል፤ ነባር የሃርድዌር ሥርዓቶች ግን ብዙ ጊዜ በእነዚህ ሁለቱ መካከል መመጣጠን ማድረግ ይኖርባቸዋል።
ለደንበኞች፣ ይህ ፈጣን ምላሾችን፣ ይበልጥ ፈጣን ምላሽ የሚሰጡ ወኪሎችን፣ እና ፍላጎት እየጨመረ ሲሄድ ይበልጥ አስተማማኝ መዳረሻን ማለት ሊሆን ይችላል። ተልዕኳችን ሰው ሠራሽ አጠቃላይ አስተውሎት ለሰው ልጆች ሁሉ ጠቃሚ መሆኑን ማረጋገጥ ነው። እነዚህ እድገቶች ችሎታው እየጨመረ የሚሄደውን የሰው ሠራሽ አስተውሎት (AI) ይበልጥ በተመጣጣኝ ዋጋ እና በሰፊው ተደራሽ እንዲሆን ያደርጋሉ።
OpenAI ሞዴሎች የJalapeño ልማትን እንዲፋጥኑ አስችለዋል። ቀደምት ትውልዶች ቡድኑ ቺፑን እንዲነድፍና ሥራ ላይ እንዲያውል ረድተዋል፤ የቅርብ ጊዜ ሞዴሎቻችን ግን እሱን የምናመቻችበትንና ፕሮግራም የምናደርግበትን መንገድ እያፋጠኑ ነው። የJalapeño አፈጻጸም GPT‑OSS 120B፣ DeepSeek R1 እና Kimi K2.5 1Tን ይሸፍናል፤ ይህም አወቃቀሩ በOpenAI ውስጥም ሆነ ከውጭ በተገነቡ ሞዴሎች ላይ እንደሚሠራ ያሳያል። በሦስቱም ላይ Jalapeño በከፍተኛ የማስተላለፊያ ዘዴ ላይ በአንድ ዋት ከ1.5 እስከ 1.9 እጥፍ ተጨማሪ የሰው ሠራሽ አስተውሎት (AI) ሥራ አቅርቧል፤ እንዲሁም ከማነጻጸሪያ ሥርዓቶቹ 1.7 እስከ 3.6 እጥፍ ያነሰ ከጫፍ እስከ ጫፍ መዘግየት አሳይቷል። ከፍተኛ መስተጋብር ለሚጠይቁ የሥራ ጫናዎች፣ ከ2.1 እስከ 4.1 እጥፍ ከፍተኛ አፈጻጸም አሳይቷል።
Jalapeño ሰፋ ያለ የፉል-ስታክ ብልጫ መኖሩንም የሚያሳይ ማስረጃ ነው። OpenAI ሞዴሎችን፣ ምርቶችን፣ የአገልግሎት ሶፍትዌርን፣ ቺፖችን፣ ማህደረ ትውስታን፣ ኔትወርኪንግን እና ሥርዓቶችን በአንድነት መንደፍ ይችላል፤ ከእውነተኛ የሥራ ጫናዎች የምንማረውንም በመጠቀም እያንዳንዱን የስታኩን ንብርብር ለማሻሻል ይችላል። Jalapeño በተለኩ ውጤቶች የተረጋገጠ በተግባር የሚሠራ የራሱ ሲሊኮን ነው፣ እናም የብዙ ትውልዶች መድረክ መጀመሪያ ነው። በሚቀጥሉት ወራት፣ ለደንበኞቻችን ይበልጥ ፈጣን፣ ይበልጥ ብቃት ያላቸው እና ይበልጥ ቀልጣፋ ምርቶችን ለማቅረብ የJalapeño ሥራን እናሳድጋለን።
አፈጻጸምን በተመሳሳይ የተጠቃሚ ተሞክሮ ላይ እንገመግማለን፤ እያንዳንዱ ሥርዓት ደንበኞችና መስተጋብራዊ ወኪሎች የሚፈልጉትን የምላሽ መዘግየት መስፈርት እያሟላ፣ በእያንዳንዱ የኃይል አሃድ ምን ያህል ጠቃሚ የሰው ሠራሽ አስተውሎት (AI) ሥራ ማከናወን እንደሚችል እንለካለን። ይህ በተለይ ለወኪሎች አስፈላጊ ነው፤ እነሱ ብዙ ደረጃዎችን በቅደም ተከተል ማጠናቀቅ ስለሚያስፈልጋቸው፣ መዘግየቶች በሙሉ ተግባሩ ላይ ሊደራረቡ ይችላሉ።
Jalapeño በተግባር እንዴት እንደሚሠራ ለመረዳት፣ የሰው ሠራሽ አስተውሎት (AI) ጥያቄን ሙሉ ሂደት የሚለካ ከSemiAnalysis የመጣ በይፋ መመዘኛ InferenceX ላይ ፈተነው። Jalapeño ን በተሞከረው የአሠራር ክልል ውስጥ፣ ከከፍተኛ የማስተላለፊያ ዘዴ አገልግሎት እስከ ከፍተኛ መስተጋብር ያለው ዝቅተኛ መዘግየት አጠቃቀም ድረስ፣ በንግድ ለገበያ ከሚገኙ መሪ የሰው ሠራሽ አስተውሎት (AI) ሥርዓቶች ጋር አነጻጽረነዋል። Jalapeño የተሻለ የማስተላለፊያ ዘዴ፣ የኃይል ቅልጥፍና እና መዘግየት ጥምረት አቅርቧል። አፈጻጸም አንዳንድ ጊዜ በቺፕ መሠረት ቢዘገብም፣ የበለጠ ጠቃሚው መስፈርት በኃይል አሃድ የሚለካ አፈጻጸም ነው ብለን እናምናለን።
በሦስቱም ይፋዊ ሞዴሎች ውስጥ፣ Jalapeño በተሞከረው የአሠራር ክልል ሁሉ የተሻለ የአፈጻጸም-በዋት እና የመዘግየት ጥምረት አቅርቧል፣ ይህም በፓሬቶ ግንባር ቀደም ላይ አስቀምጦታል። ሥርዓቶቹን በወጥነት ለማወዳደር፣ ውጤቶቹን የእያንዳንዱን አክሴለሬተር ይፋ የተደረገውን የቺፕ ኃይል ደረጃ በመጠቀም አመጣጥነናል። Jalapeño በ700 ዋት ደረጃ ተሰጥቶታል፣ ሆኖም በተፈተኑት የሥራ ጫናዎች ላይ የተለካው ዘላቂ ኃይል በ550 ዋት ወይም ከዚያ በታች ቆይቷል።
Jalapeño በ GPT‑OSS 120B፣ DeepSeek R1 670B እና Kimi K2.5 1T ላይ ጠንካራ አፈጻጸም አሳይቷል። ከሞከርናቸው ይፋ ከሆኑ ሞዴሎች ትልቁ በሆነው Kimi ላይ፣ ከማነጻጸሪያው ሥርዓት ጋር ሲነጻጸር፣ በአንድ ዋት በግምት 1.5 እጥፍ ከፍ ያለ ከፍተኛ አፈጻጸም እና 3.4 እጥፍ ዝቅተኛ ከጫፍ እስከ ጫፍ መዘግየት አስገኝቷል። በውስጣዊ ሙከራዎቻችን፣ በግንባር ቀደም OpenAI ሞዴሎች ላይ የJalapeño ጥቅም ይበልጥ ሰፍቷል፣ ይህም የሥራ ጫናዎች መጠናቸው እና ፍላጎታቸው እየጨመረ ሲሄድ አወቃቀሩ ይበልጥ ዋጋ ያለው እንደሚሆን ያመለክታል።
Jalapeño ከመጀመሪያው ጀምሮ ይህን ጥያቄ በማንሳት ተነደፈ፤ ዋና ሥራው ዘመናዊና የወደፊት የቋንቋ ሞዴሎችን፣ በተለይም መስተጋብራዊ ወኪሎችን ለማገልገል ምን ዓይነት ሃርድዌር እንገነባ ነበር? የJalapeño መሻሻሎች ቺፑን፣ ማህደረ ትውስታውን፣ አውታረ መረቡን፣ ሶፍትዌሩን እና በራክ መጠን የሚሠራውን ሥርዓት በእውነተኛ የቋንቋ-ሞዴል የሥራ ጫናዎች ዙሪያ አንድ ላይ በመንደፍ የሚመጡ ናቸው። የቋንቋ-ሞዴል ኢንፈረንስ የተለያዩ እንቅፋቶች ባሏቸው በርካታ የተለዩ ደረጃዎች ውስጥ ያልፋል። ፕሪፊል፣ ሥርዓቱ እርምጃን በሚያካሂድበት ጊዜ ከፍተኛ የስሌት ሀብት ይጠይቃል፤ ዲኮድ ደግሞ፣ ሥርዓቱ ምላሹን ቶከን በቶከን በሚያመነጭበት ጊዜ በማህደረ ትውስታ ባንድዊድዝ የበለጠ ይገደባል። ውሂብ በኮሮችና በቺፖች መካከል መንቀሳቀስ ሲኖርበት፣ የመገናኛ ሂደቱ ተጨማሪ መዘግየትን ሊጨምር ይችላል፤ በዚህም አንዳንድ የማቀናበሪያ ክፍሎች ሲጠብቁ ሥራ ሳይሠሩ ይቀራሉ። በአንድ ደረጃ የላቀ አፈጻጸም ያለው ሥርዓት ውሂብ ሲጠብቅ ወይም የሞዴል ሁኔታን በተለያዩ ሀብቶች መካከል ሲያንቀሳቅስ ያንን ጥቅም ሊያጣ ይችላል።
Jalapeñoን የውሂብ እንቅስቃሴን እና የግንኙነት መዘግየቶችን በተቻለ መጠን እንዲቀንስ ነድፈነዋል። ይህ ማለት፣ ምላሽ በሚፈጠርበት ጊዜ ጥቅም ላይ የሚውለውን የKV መሸጎጫ ጨምሮ የሞዴል ሁኔታ፣ ሥርዓቱ ለእያንዳንዱ የኢንፈረንስ ደረጃ ትክክለኛውን የኮምፒውት፣ የማህደረ ትውስታ እና የኔትወርኪንግ ጥምረት በሚያነቃበት ጊዜ፣ በግልጽ ሊመደብ እና በአካባቢው ሊቆይ እንደሚችል ነው። አውታረ መረቡ የአወቃቀሩ አስፈላጊ አካል ነው። ሰፊው ክልሉ ሙሉው የሥራ ጭነት በአንድ የተገናኘ ሥርዓት ውስጥ እንዲቆይ ያስችለዋል፣ የውሂብ ማንቀሳቀስን በመቀነስ እና ሙሉው ጥያቄ ከመጀመሪያ እስከ መጨረሻ ፈጣንና ውጤታማ እንዲቆይ በመርዳት። ውጤቱ ተለዋዋጭ የሞዴል አወቃቀሮችን መደገፍ፣ በፕሪፊልም ሆነ በዲኮድ የላቀ ብቃት ማሳየት፣ እና በእነርሱ መካከል ያለው ሚዛን ሲለወጥ መላመድ የሚችል፣ የወኪል-ተኮር የሥራ ጫናዎች መለያ ባህሪ የሆነ ሚዛናዊ እና ሊለዋወጥ የሚችል አፋጣኝ ነው።
የሰው ሠራሽ አስተውሎት (AI) በJalapeño ልማት ውስጥ ቀጥተኛ ሚና ተጫውቷል፣ ትግበራዎችን በመመርመር፣ የዲዛይን፣ የመለኪያ እና የማረጋገጫ ዑደቶችን በማሳጠር፣ እንዲሁም በሞዴል የሥራ ጫናዎች ላይ በቀጥታ በመደጋገም ቡድኑ ከመጀመሪያ ዲዛይን እስከ ቴፕአውት በዘጠኝ ወራት ውስጥ እንዲደርስ አስችሏል። የሰው ሠራሽ አስተውሎት (AI) የቺፑን የሂሳብ ሰርክዊቶች ለማመቻቸትም ረድቷል፣ ይህም ቡድኑ በተያዘው ጊዜ ሰሌዳ መሠረት በቺፑ ውስጥ የበለጠ የስሌት አፈጻጸም እንዲያካትት አስችሎታል።
Jalapeño ለሰዎችና ለሰው ሠራሽ አስተውሎት (AI) ግልጽና አስቀድሞ ሊገመት የሚችል የፕሮግራሚንግ ዓላማ እንዲሆን ተዘጋጅቷል። መሃንዲሶች ሥራን በአካባቢ የሚገኙ ቴንሰሮች፣ በግልጽ ግንኙነት እና በተገቢ ሁኔታ የሚያስተካክል ማሰተኛነት ሊገልጹ ይችላሉ። ከዚያ የሰው ሠራሽ አስተውሎት (AI) ያ ሥራ በሥርዓቱ ሁሉ እንዴት እንደሚያወጣ፣ እንደሚቀመጥ፣ እንደሚታቀድ እና እንደሚቀናጅ በተገቢ ሁኔታ ማሻሻል ይችላል። ያ ግልጽና ሊተነበይ የሚችል መዋቅር፣ በተለምዶ አስቸጋሪ የሆነውን የተያያዥ ፕሮግራሚንግ ችግር ለመፍታት ለሰው ሠራሽ አስተውሎት (AI) በተግባር ሊያስተናግደው የሚችል መንገድ ይሰጣል።
እያንዳንዱን አዲስ የሞዴል ቤተሰብ መደገፍ አሁንም አዳዲስ ከርነሎችን እና ሞዴል-ተለይተው የተደረጉ ማመቻቸቶችን ይፈልጋል። Codexን ከGPT‑Astra ጋር በመጠቀም፣ ቡድኑ በJalapeño የመጀመሪያ የምርት ዕቅድ ውስጥ ያልነበሩ ሦስት ክፍት-ክብደት ሞዴሎችን በሁለት ወራት ውስጥ ከፍተኛ አፈጻጸም እንዲያሳዩ አድርጓል። ይህ የአወቃቀሩን ተለዋዋጭነትም ሆነ የሰው ሠራሽ አስተውሎት (AI) እሱን ፕሮግራም እንድናደርገው ሊረዳን የሚችልበትን ፍጥነት አሳይቷል። ለተመረጡ የGPT‑OSS ትኩረት እና የባለሙያዎች ድብልቅ ብሎኮች፣ በሰው ሠራሽ አስተውሎት (AI) የተመነጩ ትግበራዎች አሁን ካሉት በሰው ባለሙያዎች ከተጻፉ ትግበራዎች 1.5 እስከ 1.8 እጥፍ ፈጣን ነበሩ። እነዚያ አሃዞች የሚመለከቱት ሙሉውን ሞዴል ሳይሆን የተመረጡትን ብሎኮች ነው፣ ነገር ግን ወደ ኃይለኛ አዲስ የልማት ዑደት ያመለክታሉ።
የሰው ሠራሽ አስተውሎት (AI) መሠረተ ልማት ዋጋ የሚኖረው የሚያስችለው ጠቃሚ የእውነተኛ ዓለም ሥራ ስላለ ነው። ከተመሳሳይ ኃይል እና ሃርድዌር በተመሳሳይ ጊዜ የበለጠ ጠቃሚ ሥራ በማመንጨት፣ Jalapeño ተጨማሪ ፍላጎትን እንድናገለግል እና የተሳካ ውጤት የማቅረብ ወጪን እንድንቀንስ ሊረዳን ይችላል። ለOpenAI፣ ጠቃሚ ሥራና ገቢ ከአገልግሎት ወጪ በፍጥነት እንዲያድጉ በማስቻል የአሠራር ትርፋማነትን ሊያሻሽል ይችላል። እንዲሁም ሰፊ አጠቃቀምን እና በተሻሉ ሞዴሎች፣ ምርቶች እና መሠረተ ልማት ላይ ቀጣይ ኢንቨስትመንትን ሊደግፍ ይችላል። ፈጣን ኢንፈረንስ በጣም ፈጣን ማሻሻያን እና አዳዲስ የአጠቃቀም ዕድሎችን ማስቻል ይችላል።
Jalapeño ለቀልጣፋ፣ ዝቅተኛ መዘግየት ያለው ኢንፈረንስ የሚቻለውን ወሰን ያሰፋል፦
- እጅግ ፈጣን ሁነታ ኢንፈረንስ፣ ከዚህ በፊት በፈጣን ሁነታ ብቻ የሚገኝ ቅልጥፍናን ያቀርባል
- ቀደም ሲል በባች ሁነታ ብቻ በሚገኝ ቅልጥፍና የሚከናወን የፈጣን ሁነታ ኢንፈረንስ
- ባች ሁነታ ላለው ኢንፈረንስ ከፍተኛ ቅልጥፍና
በዓመቱ መጨረሻ ድረስ Jalapeñoን በOpenAI የኮምፒውት መሠረተ ልማት ውስጥ ማሰማራት ለመጀመር ዕቅድ አለን። ይህ የብዙ-ትውልድ ፍኖተ ካርታ የመጀመሪያው ትውልድ ነው፦ Gen 2 በጥልቅ የልማት ሂደት ውስጥ ነው፣ Gen 3 ደግሞ ቅርጽ እየያዘ ነው። እያንዳንዱ ትውልድ ከምንማረው ላይ በመመሥረት ቅልጥፍናንና ፍጥነትን ይበልጥ ያሳድጋል።
እያደገ ያለውን የሰው ሠራሽ አስተውሎት (AI) ፍላጎት ለማሟላት፣ ከሚገኙ ምንጮች ሁሉ ተጨማሪ የኮምፒውት ኃይል ያስፈልጋል። ከNVIDIA እና ከሌሎች አጋሮች የሚመጡ አክሰለሬተሮችን ለሁለቱም የስልጠና እና የኢንፈረንስ የሥራ ጫናዎች በስፋት ማሰማራትን እንቀጥላለን። ተልዕኳችን ሰው ሠራሽ አጠቃላይ አስተውሎት ለሰው ልጆች ሁሉ ጠቃሚ መሆኑን ማረጋገጥ ነው።
ለማሰማራት በምንዘጋጅበት ጊዜ፣ የምርት ብቁነት ማረጋገጫን በመቀጠል፣ ሶፍትዌሩን በማብሰል፣ Jalapeñoን በሰፊ ደረጃ ለማሠራት በመዘጋጀት እና በተጨማሪ ሞዴሎች ላይ አፈጻጸሙን በማረጋገጥ ላይ እንገኛለን። እስካሁን ያገኘናቸው ውጤቶች፣ ሙሉውን ሥርዓት በአንድነት ስንነድፍ ምን ሊቻል እንደሚችል ያሳያሉ፤ ይበልጥ ፈጣን ምላሽ የሚሰጥ፣ ብቁ እና ወኪል-ተኮር የሰው ሠራሽ አስተውሎት (AI) ለብዙ ሰዎች በበለጠ ብቃት ቀርቧል።
በኪሎዋት የኃይል አቅም የማስተላለፊያ ዘዴ ገደብ
InferenceX · GPT‑OSS‑120B · መደበኛ 8k/1k · STP · የጥቅል TDP፦ Jalapeño 700 W፤ GB200 1,200 W
ከፍተኛ እና ተመጣጣኝ የማስተላለፊያ ዘዴ
InferenceX · GPT‑OSS‑120B · መደበኛ 8k/1k · STP · የጥቅል TDP፦ Jalapeño 700 W፤ GB200 1,200 W
ከፍተኛ ጫፍ የተቀላቀለ TPS / ኪሎዋት
≈1.9×
85,448 እና 44,960 የተቀላቀለ / ኪሎዋት
ዝቅተኛ ከጫፍ እስከ ጫፍ መዘግየት
≈1.7×
1.03 ሰ ከ1.80 ሰ
ዝቅተኛው የTBT ዋጋ
≈2.7×
0.69 ከ1.87 ሚሴከንድ (1,459 ከ535 ቶከ/ሰ/ተጠቃሚ)
በቀድሞው የTBT የበለጠ የማስተላለፊያ ዘዴ
≈53.7×
22,935 ከ427 የተቀላቀሉ / ኪሎዋት (በ535.28 ቶከ/ሰ/ተጠቃሚ)
በኪሎዋት የኃይል አቅም የማስተላለፊያ ዘዴ ገደብ
InferenceX · DeepSeek R1 MXFP4 · መደበኛ 8k/1k · STP · የጥቅል TDP፦ Jalapeño 700 W፤ GB300 1,400 W
ከፍተኛ እና ተመጣጣኝ የማስተላለፊያ ዘዴ
InferenceX · DeepSeek R1 MXFP4 · መደበኛ 8k/1k · STP · የጥቅል TDP፦ Jalapeño 700 W፤ GB300 1,400 W
ከፍተኛ ጫፍ የተቀላቀለ TPS / ኪሎዋት
≈1.7×
19,641 ከ11,781 የተቀላቀለ / ኪሎዋት
ዝቅተኛ ከጫፍ እስከ ጫፍ መዘግየት
≈3.6×
1.65 ሰ ከ5.99 ሰ ጋር
ዝቅተኛው የTBT ዋጋ
≈4.1×
1.43 ከ5.90 ሚሊሰክንድ ጋር (700 ከ169 ቶከ/ሰ/ተጠቃሚ ጋር)
በቀድሞው የTBT የበለጠ የማስተላለፊያ ዘዴ
≈104.3×
12,258 ከ118 የተቀላቀለ / ኪሎዋት (በ169.41 ቶከ/ሰ/ተጠቃሚ)
በኪሎዋት የኃይል አቅም የማስተላለፊያ ዘዴ ገደብ
InferenceX · Kimi K2.5 MXFP4 · nominal 8k/1k · STP · የTDP ጥቅል፦ Jalapeño 700 W፤ GB300 1,400 W
ከፍተኛ እና ተመጣጣኝ የማስተላለፊያ ዘዴ
InferenceX · Kimi K2.5 MXFP4 · nominal 8k/1k · STP · የTDP ጥቅል፦ Jalapeño 700 W፤ GB300 1,400 W
ከፍተኛ ጫፍ የተቀላቀለ TPS / ኪሎዋት
≈1.5×
18,195 እና 11,862 የተቀላቀለ / ኪሎዋት
ዝቅተኛ ከጫፍ እስከ ጫፍ መዘግየት
≈3.4×
1.56 ሰ ከ5.31 ሰ ጋር
ዝቅተኛው የTBT ዋጋ
≈3.8×
1.44 ከ5.48 ሚሴከንድ ጋር (694 ከ182 ቶከ/ሰከንድ/ተጠቃሚ ጋር)
በቀድሞው የTBT የበለጠ የማስተላለፊያ ዘዴ
≈56.1×
6,744 ከ120 የተቀላቀለ / ኪሎዋት (በ 182.46 ቶከ/ሰ/ተጠቃሚ)


