OpenAI modelleri, AI'ı çalıştıran çipleri hızla iyileştiriyor. Ağustos ayında, OpenAI mühendislerinin ilk özel çıkarım çipimiz Jalapeño'nun geliştirilmesini hızlandırmak için en üst seviye modellerimizi nasıl kullandığını paylaşmıştık. Bu yazıda, Jalapeño'daki kazanımların arkasında yatan uzman düzeyindeki tasarım iyileştirmelerini ve AMD ile birlikte üçüncü taraf donanımlarda önemli kazanımlar elde etmek için aynı yaklaşımı nasıl uyguladığımızı daha yakından inceliyoruz.
Modellerimizin uçtan uca çip tasarımı görevlerindeki becerisini ölçmek için ardışık model nesillerini iki açık kaynaklı işlemci tasarımı üzerinde değerlendirdik ve ilginç bulgular elde ettik. Ayrıca, yetenek geliştirme sürecini güvenilir değerlendirme araçlarına dayandırmak amacıyla, en üst seviye AI'ı mühendislerin çip tasarlamak ve doğrulamak için hâlihazırda kullandığı elektronik tasarım otomasyonu (EDA) araçlarıyla entegre etmek üzere Synopsys ile çalışıyoruz.
2025'in başlarında Jalapeño'nun tasarımına yardımcı olması için GPT‑4o'yu kullanmaya başladık. Bu erken model bile güç, performans ve alan (PPA) açısından kayda değer iyileştirmeler yapmanın yollarını buldu. Örneğin:
Paralel hesaplama görevlerini yöneten ve yürüten vektör biriminde tasarruflar; kayan noktalı toplayıcı ve çarpıcılardan, dönüştürme işlevlerinden, indirgeme mantığından ve özel işlev biriminden geldi. Modeller hem alternatif mantık uygulamalarını hem de hesaplamaların boru hattı aşamalarına nasıl bölünebileceğini araştırarak donanımı ortak kullanma ve ara depolama ihtiyacını azaltma fırsatları buldu.
Bir aritmetik bileşen olan matris biriminde ise kayan noktalı toplayıcılar, çarpıcılar ve düşük hassasiyetli nokta çarpımı devrelerindeki iyileştirmeler bir araya geldi. Yeniden tasarlanan bir çarpıcı, sentezde yaklaşık %15 daha az hücre alanı kullanırken gecikmeyi iki saat çevriminden bire indirdi. Ayrı bir toplayıcının yeniden tasarlanması ise iki çevrimlik gecikmeyi korurken hücre alanını yaklaşık %15 azalttı. Nokta çarpımı mantığında ve boru hattının düzenlenmesinde yapılan ek iyileştirmeler, blok genelinde daha fazla tasarruf sağladı.
Ekip, Jalapeño tasarım çalışmalarının genelinde modellerin önerdiği değişikliklerin standart hücre alanını vektör biriminde yaklaşık %13, matris biriminde ise %10 azalttığını tahmin ediyor. Bu optimizasyonlar, Jalapeño'nun ilk çalıştırma ve test sürecinde fiziksel çip üzerinde doğrulandı.
PPA iyileştirmeleri için AMD ile iş birliği yaptık ve amiral gemisi GPU IP'sinde kapsamlı biçimde optimize edilmiş referans tasarımlara kıyasla %14'e varan iyileşme gördük. Modelimiz, çipin devrelerini tanımlayan kodu (SystemVerilog RTL) yeniden yazarak ek iyileştirme fırsatları belirledi. Bu, yaklaşık bir yıllık ilerlemenin 5 aydan kısa sürede sağlanması anlamına geliyor; çip tasarımının en ileri noktasında benzeri görülmemiş sonuçlar. AMD, bu değişikliklerden bazılarını yakın zamanda üretime gönderdiği bir tasarıma dahil etti bile. Diğerlerini ise gelecek sürümlerde kullanmak üzere üretim tasarım dosyalarına ekledi.
Modelin RTL üzerinde uzman bir mikromimar düzeyinde akıl yürüttüğünü gözlemledik. Model; hesaplama yapan, işlemleri kontrol eden veya veri taşıyan devreleri yeniden yazabiliyor. Her yeniden yazımın bloğun davranışını koruduğunu doğrulamak ve güç, performans ve alan arasındaki ödünleşimleri değerlendirmek için Synopsys araçlarını kullandı.
AMD ayrıca, modelimizin yazdığı tasarımları kullanarak yakında çıkacak yeni nesil amiral gemisi CPU'sunun temel bloklarında tek haneli yüzdelerle ifade edilen PPA kazanımları doğruladı. Gelecekte, GPU ve CPU'da en fazla optimize edilmiş referans tasarıma kıyasla daha fazla PPA iyileştirmesi bekliyoruz.
Jalapeño ve AMD çiplerinde elde ettiğimiz sonuçlar, modellerin üretimde kullanılan tasarımları iyileştirebildiğini gösteriyor. Çip tasarımı yeteneklerinin bir model neslinden diğerine nasıl geliştiğini ölçmek için her modeli iki açık kaynaklı 32 bit RISC-V çekirdeği üzerinde test ettik. PicoRV32, FPGA adı verilen yeniden programlanabilir çipler için tasarlanmış kompakt bir çekirdektir. OpenTitan, güvenlik çipinde gömülü işlemci olarak Ibex kullanır. Her ikisi de gömülü sistemlerdeki mikrodenetleyici sınıfı iş yükleri için eksiksiz birer işlemci çekirdeğidir.
Her modele her bir çekirdeğin özgün donanım tanımını verdik ve işlem kapasitesini (çekirdeğin saniyede yürütebildiği komut sayısını) artırmasını istedik. Örneğin bir değişiklik, çekirdeğin bir komutu daha az saat çevriminde tamamlamasını sağlarken her çevrimin süresini uzatabilir. İşlem kapasitesini ölçmek, her iki etkiyi de hesaba katar.
Her tasarımın çıktılarını simülasyonda kontrol ettik. Bir kontrolden geçemeyen veya özgün çekirdeğin alanının 16 katından fazlasını kullanan tasarımlar sıfır puan aldı. Kontrollerden geçen tasarımlar için modellerden gizli tutulan iş yüklerinde saat çevrimi başına komut sayısını ölçtük. Bu iş yüklerindeki sonuçların geometrik ortalamasını alıp Yosys ile tahmin edilen maksimum saat frekansıyla çarptık. Böylece saniye başına komut sayısına ilişkin bir tahmin elde ettik. Her çekirdek için aynı kısıtlar altında gözlemlediğimiz en yüksek işlem kapasitesine 1,0 puan verdik. Grafikler, sıfır puan alanlar dahil tüm denemelerin ortalama puanını gösteriyor.
Deneme başına yaklaşık 112.000 tokenlık karşılaştırılabilir bir bütçeyle GPT‑6.2 Astra, her iki çekirdekte de en yüksek ortalama puanı elde etti. GPT‑6.1 Sol da her ikisinde GPT‑5.6 Sol'dan daha yüksek puan aldı.
Mevcut PicoRV32 çekirdeğinde GPT‑6.2 Astra, karşılaştırılabilir daha yüksek bütçelerde en yüksek ortalama puanı elde ediyor. Yaklaşık 112.000 tokenda puanı, GPT‑6 Astra'nınkinin yaklaşık iki katı.
Mevcut Ibex çekirdeğinde GPT‑6.2 Astra'nın ortalama puanı, ulaştığı daha yüksek bütçelerde artmaya devam ediyor. GPT‑6 Astra ve GPT‑6.1 Sol'un puanları birbirine daha yakın.
İkinci görev için her modele yazılı gereksinimleri ve çekirdeğin sistemin geri kalanına nasıl bağlandığını gösteren açık kaynak kod şablonlarını verdik. Model, verilerin çekirdek içinde nasıl taşınacağını ve işin aşamalara nasıl bölüneceğini belirledi. Her çekirdek için doğruluk kontrollerini, bellek ve önbellek ayarlarını ve işlem kapasitesi hedeflerini RTL optimizasyonu görevindekiyle aynı tuttuk.
Deneme başına yaklaşık 112.000 tokenda, beş modelin tamamı yazılı gereksinimlerden yola çıkarak bir çekirdek tasarladığında, mevcut tasarımı iyileştirmeye çalıştığı duruma göre daha yüksek puan aldı. Bu durum hem PicoRV32 hem de Ibex için geçerliydi. GPT‑6.2 Astra'nın puan artışı Ibex'te PicoRV32'ye göre daha yüksek oldu. Değerlendirmenin tamamı; her iki görev, her iki çekirdek ve tüm token bütçeleri genelinde puanlanan 9.881 denemeyi kapsıyordu.
PicoRV32'nin teknik tanımından yola çıkan GPT‑6.2 Astra, yaklaşık 112.000 tokenda 0,7 ortalama puanı aşıyor ve gözlemlenen sonraki iki bütçe düzeyinde daha yüksek puan alıyor.
Ibex'te teknik tanımdan yola çıkarak tasarım yapan GPT‑6.2 Astra, yaklaşık 112.000 tokenda ortalama 0,75 puan alıyor. Eğrisi, modellerin karşılaştırıldığı daha yüksek bütçelerde diğerlerinin üzerinde kalıyor.
Yazılı gereksinimlerden başlamak, modellere özgün çekirdeklerde bulunan performans sayaçları ve ek komutlar gibi özellikleri tasarıma dahil etmeme esnekliği sağlıyor. Bu özelliklerin test iş yüklerindeki işlem kapasitesine katkısı sınırlı olabilir; bu da puan avantajının bir kısmını açıklayabilir. Bu özellikleri zorunlu tutmak, devre alanına daha sıkı bir sınır koymak ve fiziksel sentezden sonra zamanlamayı kontrol etmek, testi üretime yönelik çip tasarımını daha iyi temsil eder hâle getirir.
Modellerimizin RISC-V değerlendirmelerinde yeni işlemci mimarilerini keşfedebildiğini gösterdik. Ayrıca Jalapeño ve AMD'nin yeni nesil amiral gemisi GPU ve CPU'su gibi gelişmiş üretim tasarımlarına yepyeni iyileştirmeler kazandırdık. Model geliştirmeyi güvenilir değerlendirme araçlarına dayandırmak ve ele alınan tasarım sorunlarının kapsamını genişletmek için Synopsys ile iş birliği yapıyoruz. Bu kapsamda, yeni model GPT‑Synopsys(yeni bir pencerede açılır)'i, Synopsys elektronik tasarım otomasyonu (EDA) araçlarını uzman çip tasarımcıları gibi kullanacak şekilde eğitiyoruz.


