OpenAI-ийн загварууд AI-г ажиллуулдаг чипүүдийг эрчимтэй сайжруулж байна. Наймдугаар сард бид OpenAI-ийн инженерүүд хил хязгаарын загваруудаа ашиглан, загварын тооцоолол гүйцэтгэх зориулалттай анхны тусгай чип болох Jalapeño-ийн хөгжүүлэлтийг хэрхэн хурдасгасныг танилцуулсан. Энд бид Jalapeño-ийн ахицын үндэс болсон мэргэжлийн өндөр түвшний хийцийн сайжруулалтыг дэлгэрүүлэн авч үзэж, мөн ижил аргыг AMD-тай хамтран бусад үйлдвэрлэгчийн техник хангамжид хэрэглэж, хэрхэн мэдэгдэхүйц ахиц гаргаж байгааг тайлбарлана.
Загваруудын чипийг эхнээс нь дуустал зохион бүтээх чадварыг хэмжихийн тулд бид дараалсан үеийн загваруудыг нээлттэй эхтэй хоёр процессорын хийц дээр үнэлж, сонирхолтой үр дүн олж авлаа. Мөн чадварын хөгжүүлэлтийг найдвартай үнэлгээний хэрэгслүүдэд тулгуурлуулахын тулд Synopsys-тай хамтран хил хязгаарын оюун ухааныг инженерүүдийн чип зохион бүтээх, шалган баталгаажуулахад ашигладаг электрон зохион бүтээлтийн автоматжуулалтын (EDA) хэрэгслүүдтэй нэгтгэж байна.
Бид 2025 оны эхээр Jalapeño-г зохион бүтээхэд GPT‑4o‑г туслах хэрэгсэл болгон ашиглаж эхэлсэн. Тухайн үеийн энэ загвар ч чадлын хэрэглээ, гүйцэтгэл, талбайн үзүүлэлтүүдийг (PPA) мэдэгдэхүйц сайжруулах аргуудыг олж байв. Тухайлбал:
Зэрэгцээ тооцооллын ажлуудыг удирдаж, гүйцэтгэдэг вектор нэгжид хөвөгч таслалтай нэмэгч, үржүүлэгч, хөрвүүлэх функцүүд, нэгтгэх логик болон тусгай функцийн нэгжийг өөрчилснөөр хэмнэлт гарсан. Загварууд логикийг өөрөөр хэрэгжүүлэх хувилбарууд болон тооцооллыг конвейерийн үе шатуудад хэрхэн хуваарилахыг судалж, техник хангамжийг дундаа ашиглах, завсрын хадгалалтыг багасгах боломжуудыг олсон.
Арифметик үйлдэл гүйцэтгэдэг матриц нэгжид хөвөгч таслалтай нэмэгч, үржүүлэгч болон бага нарийвчлалтай скаляр үржвэрийн хэлхээнүүдэд хийсэн сайжруулалтууд нийлж үр дүнгээ өгсөн. Нэг үржүүлэгчийг дахин зохион бүтээхэд синтезийн дараах элементийн талбай ойролцоогоор 15%-иар багасаж, саатал нь хоёр тактаас нэг такт болсон. Өөр нэг нэмэгчийг дахин зохион бүтээхэд хоёр тактын саатлыг нь хэвээр хадгалж, элементийн талбайг ойролцоогоор 15%-иар бууруулсан. Скаляр үржвэрийн логик болон конвейерийн зохион байгуулалтыг цааш сайжруулснаар блокийн хэмжээнд нэмэлт хэмнэлт гарсан.
Jalapeño-г зохион бүтээх нийт ажлын хүрээнд загварын санал болгосон өөрчлөлтүүд стандарт элементийн талбайг вектор нэгжид ойролцоогоор 13%, матриц нэгжид 10%-иар бууруулсан гэж баг тооцоолжээ. Эдгээр оновчлолын үр дүнг Jalapeño-ийн цахиур чипийг анх ажиллуулах үеэр бодит чип дээр баталсан.
Бид AMD-тай PPA үзүүлэлтүүдийг сайжруулахаар хамтран ажиллаж, тэргүүлэх GPU-ийн IP хийцэд өргөн хүрээнд оновчилсон суурь хувилбаруудтай харьцуулахад 14% хүртэлх ахиц гаргасан. Манай загвар чипийн хэлхээнүүдийг дүрсэлсэн кодыг (SystemVerilog RTL) дахин бичих замаар цааш сайжруулах боломжуудыг олсон. Ингэснээр ойролцоогоор нэг жилд гарах ахицыг тав хүрэхгүй сарын дотор гаргасан нь чипийн зохион бүтээлтийн тэргүүн эгнээнд урьд өмнө байгаагүй үр дүн юм. AMD эдгээр өөрчлөлтийн заримыг саяхан үйлдвэрлэлд шилжүүлсэн хийцдээ аль хэдийн тусгаж, бусдыг нь дараагийн хувилбаруудад ашиглахаар үйлдвэрлэлийн хийцийн файлууддаа нэмсэн.
Загвар RTL-ийн талаар туршлагатай микроархитекторын түвшинд эргэцүүлэн дүгнэж байгааг бид ажигласан. Загвар нь тооцоолол хийх, үйл ажиллагааг удирдах, өгөгдөл дамжуулах хэлхээнүүдийн кодыг дахин бичиж чадна. Дахин бичсэн хувилбар бүр блокийн ажиллагааг хэвээр хадгалж буй эсэхийг шалгаж, чадлын хэрэглээ, гүйцэтгэл, талбайн хоорондын харилцан буултыг үнэлэхдээ Synopsys-ийн хэрэгслүүдийг ашигласан.
AMD мөн манай загварын бичсэн хийцийг ашиглан, удахгүй гарах шинэ үеийн тэргүүлэх CPU-ийн гол блокуудын PPA үзүүлэлт нэг оронтой тоогоор илэрхийлэгдэх хувиар сайжирсныг баталгаажуулсан. Цаашид GPU болон CPU-ийн хамгийн сайн оновчилсон суурь хувилбаруудтай харьцуулахад PPA үзүүлэлтүүдийг улам сайжруулна гэж бид хүлээж байна.
Jalapeño болон AMD-ийн чипүүд дээр гаргасан үр дүн нь загварууд үйлдвэрлэлд ашиглах хийцийг сайжруулж чаддагийг харуулж байна. Загварын нэг үеэс дараагийн үед чип зохион бүтээх чадвар хэрхэн ахисныг хэмжихийн тулд бид загвар бүрийг нээлттэй эхтэй, 32 битийн хоёр RISC-V цөм дээр туршсан. PicoRV32 нь FPGA хэмээх дахин программчлах боломжтой чипүүдэд зориулсан авсаархан цөм юм. OpenTitan нь аюулгүй байдлын чипдээ Ibex-ийг суулгагдсан процессор болгон ашигладаг. Аль аль нь суулгагдсан систем, микроконтроллерын түвшний ажлуудад зориулсан бүрэн процессорын цөм юм.
Бид загвар бүрд цөм тус бүрийн анхны техник хангамжийн тодорхойлолтыг өгч, нэвтрүүлэх чадамжийг нь (цөмийн секундэд гүйцэтгэх командын тоог) нэмэгдүүлэхийг хүссэн. Жишээлбэл, нэг өөрчлөлт цөмийг командыг цөөн тактаар гүйцэтгэдэг болгож болох ч такт бүрийн үргэлжлэх хугацааг уртасгаж болно. Нэвтрүүлэх чадамжийг хэмжихэд энэ хоёр нөлөө хоёулаа тусгагдана.
Бид хийц бүрийн гаралтыг симуляциар шалгасан. Шалгалтад тэнцээгүй эсвэл анхны цөмийн талбайгаас 16 дахин их талбайн хязгаарыг давсан хийцүүдэд тэг оноо өгсөн. Шалгалтад тэнцсэн хийцүүдийн хувьд загваруудад харуулаагүй ажлын ачааллууд дээр такт тутамд гүйцэтгэх командын тоог хэмжсэн. Бид тэдгээр ажлын ачааллын үр дүнгийн геометр дунджийг авч, Yosys-аар тооцоолсон тактын хамгийн их давтамжаар үржүүлсэн. Ингэснээр секундэд гүйцэтгэх командын тоог ойролцоогоор гаргасан. Цөм тус бүрийн хувьд ижил хязгаарлалтын хүрээнд ажиглагдсан хамгийн өндөр нэвтрүүлэх чадамжид 1.0 оноо оноосон. Графикууд нь тэг оноо авсан туршилтуудыг оролцуулан бүх туршилтын дундаж оноог харуулж байна.
Нэг туршилтад ойролцоогоор 112,000 токен зарцуулах ижил түвшний төсөвтэй үед GPT‑6.2 Astra хоёр цөм дээр хоёуланд нь хамгийн өндөр дундаж оноо авсан. GPT‑6.1 Sol мөн хоёр цөм дээр хоёуланд нь GPT‑5.6 Sol-оос өндөр оноо авсан.
Одоо байгаа PicoRV32 цөм дээр илүү өндөр, харьцуулж болохуйц төсөвтэй үед GPT‑6.2 Astra хамгийн өндөр дундаж оноотой байна. 112,000 орчим токентой үед оноо нь GPT‑6 Astra-ийнхаас ойролцоогоор хоёр дахин өндөр байна.
Одоо байгаа Ibex цөм дээр GPT‑6.2 Astra-ийн ашиглах токены төсөв нэмэгдэх тусам дундаж оноо нь өссөөр байна. GPT‑6 Astra болон GPT‑6.1 Sol-ийн оноонууд хоорондоо илүү ойролцоо байна.
Хоёр дахь даалгаварт бид загвар бүрд бичгээр өгсөн шаардлагууд болон цөм системийн бусад хэсэгтэй хэрхэн холбогдохыг харуулсан нээлттэй эх кодын загвар файлуудыг өгсөн. Загвар нь өгөгдөл цөм дотор хэрхэн дамжих, ажлыг ямар үе шатуудад хуваахыг сонгосон. Цөм тус бүрийн хувьд зөв ажиллагааны шалгалтууд, санах ой болон кэшийн тохиргоо, нэвтрүүлэх чадамжийн зорилтыг RTL оновчлолын даалгаврынхтай ижил байлгасан.
Нэг туршилтад ойролцоогоор 112,000 токен ашиглахад таван загвар бүгд одоо байгаа хийцийг сайжруулах гэж оролдсоноосоо бичгээр өгсөн шаардлагад тулгуурлан цөм зохион бүтээхдээ илүү өндөр оноо авсан. Энэ үр дүн PicoRV32 болон Ibex дээр хоёуланд нь ажиглагдсан. GPT‑6.2 Astra-ийн онооны ахиц PicoRV32-оос илүү Ibex дээр өндөр байв. Нийт үнэлгээнд хоёр даалгавар, хоёр цөм, токены бүх төсвийг хамарсан, оноо өгсөн 9,881 туршилт багтсан.
PicoRV32-ийн техникийн шаардлагад тулгуурлан зохион бүтээхэд GPT‑6.2 Astra-ийн дундаж оноо 112,000 орчим токентой үед 0.7-г давж, дараагийн хоёр хэмжилтийн илүү өндөр төсөвт улам өссөн.
Ibex-ийг техникийн шаардлагаас нь зохион бүтээхэд GPT‑6.2 Astra 112,000 орчим токентой үед дунджаар 0.75 орчим оноо авсан. Илүү өндөр ижил төсөвтэй үед ч түүний муруй бусдынхаас дээгүүр хэвээр байна.
Бичгээр өгсөн шаардлагаас эхлэх нь анхны цөмүүдэд байдаг гүйцэтгэлийн тоолуур, нэмэлт команд зэрэг боломжуудыг орхих эрх чөлөөг загваруудад өгдөг. Эдгээр боломж нь туршилтын ажлын ачааллууд дээр нэвтрүүлэх чадамжийг төдийлөн нэмэгдүүлэхгүй байж болох тул онооны давуу байдлын нэг хэсгийг үүгээр тайлбарлаж болох юм. Эдгээр боломжийг заавал оруулах, хэлхээний талбайд илүү хатуу хязгаар тавих, физик синтезийн дараа хугацааны үзүүлэлтүүдийг шалгах нь туршилтыг үйлдвэрлэлийн чип зохион бүтээх бодит нөхцөлд илүү ойртуулна.
Бид RISC-V үнэлгээгээр загварууд маань процессорын шинэ архитектуруудыг судалж чаддагийг харуулж, Jalapeño болон AMD-ийн дараагийн үеийн тэргүүлэх GPU, CPU зэрэг үйлдвэрлэлийн нарийн боловсруулсан хийцүүдийг цоо шинээр сайжруулахад хувь нэмэр оруулсан. Загварын хөгжүүлэлтийг найдвартай үнэлгээний хэрэгслүүдэд тулгуурлуулж, шийдвэрлэх зохион бүтээлтийн асуудлуудын хүрээг тэлэхийн тулд бид Synopsys-тай хамтран GPT‑Synopsys(шинэ цонхонд нээгдэнэ) хэмээх шинэ загварыг сургаж байна. Энэ загвар Synopsys-ийн электрон зохион бүтээлтийн автоматжуулалтын (EDA) хэрэгслүүдийг туршлагатай чип зохион бүтээгчдийн адил ашиглаж сурах юм.


