Postępy w projektowaniu chipów dzięki modelom OpenAI
Modele OpenAI szybko udoskonalają chipy, na których działa AI. W sierpniu opisaliśmy, jak inżynierowie OpenAI wykorzystali nasze pionierskie modele do przyspieszenia prac nad Jalapeño — naszym pierwszym autorskim chipem do inferencji. Tutaj przyglądamy się bliżej eksperckim ulepszeniom projektu, które przyniosły korzyści w Jalapeño, oraz temu, jak we współpracy z AMD stosujemy to samo podejście, by znacząco usprawnić sprzęt innych producentów.
Aby zmierzyć zdolność naszych modeli do realizacji kompleksowych zadań związanych z projektowaniem chipów, przetestowaliśmy kolejne generacje na dwóch projektach procesorów o otwartym kodzie źródłowym. Wyniki okazały się interesujące. Aby oprzeć rozwój tych zdolności na wiarygodnych narzędziach oceny, współpracujemy też z Synopsys nad integracją pionierskiej AI z narzędziami do automatyzacji projektowania elektroniki (EDA), których inżynierowie już używają do projektowania i weryfikacji chipów.
Na początku 2025 roku zaczęliśmy korzystać z GPT‑4o przy projektowaniu Jalapeño. Nawet ten wczesny model znajdował sposoby na istotną poprawę parametrów PPA, na przykład:
W jednostce wektorowej, która zarządza zadaniami obliczeń równoległych i je wykonuje, oszczędności uzyskano w sumatorach i układach mnożących dla liczb zmiennoprzecinkowych, funkcjach konwersji, logice redukcji oraz jednostce funkcji specjalnych. Modele badały zarówno alternatywne implementacje logiki, jak i sposoby podziału obliczeń na etapy potoku, znajdując możliwości współdzielenia zasobów sprzętowych i ograniczenia pamięci na wyniki pośrednie.
W jednostce macierzowej, będącej komponentem arytmetycznym, na łączną poprawę złożyły się usprawnienia sumatorów i układów mnożących dla liczb zmiennoprzecinkowych oraz obwodów obliczających iloczyn skalarny z niską precyzją. Jeden z przeprojektowanych układów mnożących po syntezie zajmował około 15% mniej powierzchni komórek, a jego opóźnienie zmniejszyło się z dwóch cykli zegara do jednego. Osobne przeprojektowanie sumatora zmniejszyło powierzchnię komórek o około 15%, przy zachowaniu opóźnienia wynoszącego dwa cykle. Dalsze ulepszenia logiki iloczynu skalarnego i organizacji potoku przyniosły dodatkowe oszczędności w całym bloku.
Zespół szacuje, że w całym procesie projektowania Jalapeño zmiany zaproponowane przez modele zmniejszyły powierzchnię komórek standardowych o około 13% w jednostce wektorowej i 10% w jednostce macierzowej. Skuteczność tych optymalizacji potwierdzono w fizycznym układzie podczas pierwszego uruchomienia chipu Jalapeño.
We współpracy z AMD nad parametrami PPA uzyskaliśmy poprawę sięgającą 14% względem wysoce zoptymalizowanych projektów bazowych w blokach IP flagowego GPU. Nasz model znalazł kolejne usprawnienia, przepisując kod opisujący obwody chipu (RTL w języku SystemVerilog). Odpowiada to mniej więcej rocznemu postępowi osiągniętemu w niespełna 5 miesięcy — to bezprecedensowy wynik w projektowaniu najbardziej zaawansowanych chipów. AMD uwzględniło już część tych zmian w niedawnym projekcie przekazanym do produkcji, a pozostałe dodało do dokumentacji projektowej z myślą o przyszłych wersjach.
Zaobserwowaliśmy, że model analizuje RTL na poziomie eksperta w projektowaniu mikroarchitektury. Model potrafi przepisywać opisy obwodów wykonujących obliczenia, sterujących operacjami lub przesyłających dane. Korzystał z narzędzi Synopsys, by sprawdzać, czy każda modyfikacja zachowuje działanie bloku, oraz oceniać kompromisy między poborem mocy, wydajnością a powierzchnią.
AMD potwierdziło też kilkuprocentową poprawę parametrów PPA w kluczowych blokach swojego nadchodzącego flagowego CPU nowej generacji dzięki projektom stworzonym przez nasz model. W przyszłości spodziewamy się dalszej poprawy parametrów PPA w GPU i CPU względem najbardziej zoptymalizowanych projektów bazowych.
Nasze wyniki dotyczące Jalapeño i chipów AMD pokazują, że modele mogą ulepszać projekty produkcyjne. Aby zmierzyć postęp w zdolnościach projektowania chipów między kolejnymi generacjami modeli, przetestowaliśmy każdy model na dwóch 32-bitowych rdzeniach RISC-V o otwartym kodzie źródłowym. PicoRV32 to kompaktowy rdzeń przeznaczony do reprogramowalnych układów zwanych FPGA. OpenTitan wykorzystuje Ibex jako procesor wbudowany w swoim chipie zabezpieczającym. Każdy z nich jest kompletnym rdzeniem procesora do zastosowań wbudowanych klasy mikrokontrolerów.
Każdemu modelowi przekazaliśmy oryginalny opis sprzętowy obu rdzeni i poprosiliśmy o zwiększenie przepustowości (liczby instrukcji, które rdzeń może wykonać w ciągu sekundy). Na przykład zmiana może pozwolić rdzeniowi wykonać instrukcję w mniejszej liczbie cykli zegara, ale wydłużyć czas trwania każdego cyklu. Pomiar przepustowości uwzględnia oba te efekty.
Wyniki działania każdego projektu sprawdzaliśmy w symulacji. Projekty otrzymywały zero punktów, jeśli nie przeszły któregoś testu lub zajmowały ponad 16 razy większą powierzchnię niż oryginalny rdzeń. W przypadku projektów, które przeszły testy, mierzyliśmy liczbę instrukcji na cykl zegara, używając zadań nieudostępnionych modelom. Obliczaliśmy średnią geometryczną dla tych zadań i mnożyliśmy ją przez maksymalną częstotliwość zegara oszacowaną za pomocą Yosys. W ten sposób uzyskiwaliśmy szacunkową liczbę instrukcji na sekundę. Dla każdego rdzenia najlepszej przepustowości zaobserwowanej przy tych samych ograniczeniach przypisaliśmy wynik 1,0. Wykresy pokazują średni wynik wszystkich prób, w tym tych ocenionych na zero.
Przy porównywalnym budżecie około 112 000 tokenów na próbę GPT‑6.2 Astra osiągnął najwyższy średni wynik na obu rdzeniach. GPT‑6.1 Sol również uzyskał na obu rdzeniach wyższe wyniki niż GPT‑5.6 Sol.
Przy optymalizacji istniejącego rdzenia PicoRV32 GPT‑6.2 Astra osiąga najwyższy średni wynik przy wyższych porównywalnych budżetach. Przy około 112 000 tokenów jego wynik jest mniej więcej dwukrotnie wyższy niż wynik GPT‑6 Astra.
Przy optymalizacji istniejącego rdzenia Ibex średni wynik GPT‑6.2 Astra nadal rośnie przy kolejnych wyższych budżetach wykorzystywanych przez ten model. Wyniki GPT‑6 Astra i GPT‑6.1 Sol są bardziej zbliżone do siebie.
W drugim zadaniu przekazaliśmy każdemu modelowi pisemne wymagania oraz szablony z otwartego kodu źródłowego pokazujące, jak rdzeń łączy się z resztą systemu. Model wybierał sposób przepływu danych przez rdzeń oraz podziału pracy na etapy. Dla każdego rdzenia zachowaliśmy te same testy poprawności, ustawienia pamięci i pamięci podręcznej oraz cele dotyczące przepustowości co w zadaniu optymalizacji RTL.
Przy około 112 000 tokenów na próbę wszystkie pięć modeli osiągało wyższe wyniki, projektując rdzeń na podstawie pisemnych wymagań, niż próbując ulepszyć istniejący projekt. Dotyczyło to zarówno PicoRV32, jak i Ibex. GPT‑6.2 Astra uzyskał większą poprawę na Ibex niż na PicoRV32. Pełna ocena obejmowała 9881 punktowanych prób dla obu zadań, obu rdzeni i wszystkich budżetów tokenów.
Projektując na podstawie specyfikacji PicoRV32, GPT‑6.2 Astra przekracza średni wynik 0,7 przy około 112 000 tokenów i osiąga wyższe wyniki przy dwóch kolejnych badanych budżetach.
Projektując Ibex na podstawie specyfikacji, GPT‑6.2 Astra osiąga średnio około 0,75 przy około 112 000 tokenów. Jego krzywa pozostaje powyżej pozostałych przy wyższych budżetach wspólnych dla porównywanych modeli.
Projektowanie na podstawie pisemnych wymagań daje modelom możliwość pominięcia funkcji obecnych w oryginalnych rdzeniach, takich jak liczniki wydajności i dodatkowe instrukcje. Funkcje te mogą w niewielkim stopniu wpływać na przepustowość w zadaniach testowych, co mogłoby częściowo wyjaśniać przewagę punktową. Wymóg uwzględnienia tych funkcji, bardziej rygorystyczny limit powierzchni obwodów oraz sprawdzanie parametrów czasowych po syntezie fizycznej sprawiłyby, że test lepiej odzwierciedlałby projektowanie chipów produkcyjnych.
W testach RISC-V wykazaliśmy, że nasze modele potrafią badać nowe architektury procesorów. Wprowadziliśmy też kolejne ulepszenia do zaawansowanych projektów produkcyjnych, takich jak Jalapeño oraz flagowe GPU i CPU nowej generacji firmy AMD. Aby oprzeć rozwój modeli na wiarygodnych narzędziach oceny i poszerzyć zakres podejmowanych wyzwań projektowych, współpracujemy z Synopsys nad trenowaniem nowego modelu GPT‑Synopsys(otwiera nowe okno), tak aby korzystał z narzędzi Synopsys do automatyzacji projektowania elektroniki (EDA) tak jak doświadczeni projektanci chipów.


