OpenAI

۲۷ آبان ۱۴۰۵

تحقیقمقالات

پیشبرد طراحی تراشه با مدل‌های OpenAI

مدل‌های OpenAI به‌سرعت در حال بهبود تراشه‌هایی هستند که توان پردازشی هوش مصنوعی را تأمین می‌کنند. در ماه اوت،⁠ توضیح دادیم که مهندسان OpenAI چگونه از مدل‌های پیشرو ما برای تسریع توسعه Jalapeño، نخستین تراشه اختصاصی ما برای استنتاج، استفاده کردند. در این مطلب، بهبودهای تخصصی طراحی را که باعث پیشرفت Jalapeño شدند دقیق‌تر بررسی می‌کنیم و نشان می‌دهیم چگونه با همکاری AMD همین رویکرد را برای دستیابی به بهبودهای چشمگیر در سخت‌افزار شرکت‌های دیگر به کار می‌گیریم.

برای سنجش توانایی مدل‌هایمان در انجام سرتاسری وظایف طراحی تراشه، نسل‌های متوالی آن‌ها را روی دو طرح پردازنده متن‌باز ارزیابی کردیم و به یافته‌های جالبی رسیدیم. همچنین، برای اینکه توسعه قابلیت‌ها بر ارزیاب‌های قابل‌اعتماد متکی باشد، با Synopsys همکاری می‌کنیم تا هوش مصنوعی پیشرو را با ابزارهای خودکارسازی طراحی الکترونیکی (EDA) یکپارچه کنیم؛ ابزارهایی که مهندسان هم‌اکنون برای طراحی و صحت‌سنجی تراشه‌ها به کار می‌برند.

بهبود بلوک‌های محاسباتی Jalapeño

از اوایل سال ۲۰۲۵، استفاده از GPT‑4o را برای کمک به طراحی Jalapeño آغاز کردیم. حتی آن مدل اولیه نیز راه‌هایی برای بهبود قابل‌توجه توان مصرفی، عملکرد و مساحت (PPA) پیدا کرد، از جمله:

در واحد برداری که وظایف محاسبات موازی را مدیریت و اجرا می‌کند، صرفه‌جویی‌ها از طریق جمع‌کننده‌ها و ضرب‌کننده‌های ممیز شناور، توابع تبدیل، منطق کاهش و واحد توابع ویژه به دست آمدند. مدل‌ها هم پیاده‌سازی‌های جایگزین منطق و هم نحوه تقسیم محاسبات میان مراحل خط لوله را بررسی کردند و فرصت‌هایی برای استفاده مشترک از سخت‌افزار و کاهش ذخیره‌سازی میانی یافتند.

در واحد ماتریسی که یک جزء محاسبات حسابی است، بهبودهای جمع‌کننده‌ها و ضرب‌کننده‌های ممیز شناور و مدارهای ضرب داخلی کم‌دقت روی هم جمع شدند. در یکی از بازطراحی‌های ضرب‌کننده، مساحت سلول‌ها در سنتز حدود ۱۵٪ کمتر شد و هم‌زمان تأخیر از دو چرخه کلاک به یک چرخه کاهش یافت. بازطراحی جداگانه یک جمع‌کننده نیز مساحت سلول‌ها را حدود ۱۵٪ کاهش داد، در حالی که تأخیر دوچرخه‌ای آن حفظ شد. بهبودهای بیشتر در منطق ضرب داخلی و سازمان‌دهی خط لوله، صرفه‌جویی‌های دیگری را در سراسر بلوک به همراه داشت.

با در نظر گرفتن کل فرایند طراحی Jalapeño، تیم برآورد می‌کند که تغییرات پیشنهادی مدل، مساحت سلول‌های استاندارد را در واحد برداری حدود ۱۳٪ و در واحد ماتریسی ۱۰٪ کاهش داده است. این بهینه‌سازی‌ها طی راه‌اندازی اولیه تراشه Jalapeño⁠ روی سیلیکون واقعی تأیید شدند.

همکاری ما با AMD

در همکاری با AMD برای بهبود PPA، در بلوک مالکیت فکری (IP) پردازنده گرافیکی پرچم‌دار این شرکت، نسبت به طرح‌های مبنای بسیار بهینه‌شده تا ۱۴٪ بهبود مشاهده کرده‌ایم. مدل ما با بازنویسی کدی که مدارهای تراشه را توصیف می‌کند (SystemVerilog RTL)، بهبودهای بیشتری شناسایی کرد. این دستاورد معادل تقریباً یک سال پیشرفت در کمتر از ۵ ماه است؛ نتایجی بی‌سابقه در مرزهای فناوری طراحی تراشه. AMD پیش‌تر برخی از این تغییرات را در طرح اخیری که برای ساخت فرستاده بود گنجانده و برخی دیگر را به فایل‌های طراحی تولید خود افزوده است تا در نسخه‌های آینده استفاده کند.

مشاهده کرده‌ایم که مدل درباره RTL در سطح یک متخصص ریزمعماری استدلال می‌کند. مدل می‌تواند مدارهایی را بازنویسی کند که محاسبات انجام می‌دهند، عملیات را کنترل می‌کنند یا داده‌ها را جابه‌جا می‌کنند. مدل از ابزارهای Synopsys استفاده کرد تا تأیید کند هر بازنویسی رفتار بلوک را حفظ می‌کند و موازنه میان توان مصرفی، عملکرد و مساحت را بسنجد.

AMD همچنین با استفاده از طرح‌های نوشته‌شده توسط مدل ما، بهبودهای چنددرصدی با نرخ تک‌رقمی در PPA بلوک‌های کلیدی پردازنده مرکزی پرچم‌دار نسل بعد خود را که به‌زودی عرضه می‌شود، تأیید کرد. در آینده انتظار داریم در پردازنده‌های گرافیکی و مرکزی، نسبت به بهینه‌ترین طرح مبنا، بهبودهای بیشتری در PPA به دست آوریم.

بهینه‌سازی هسته‌های RISC-V

نتایج ما روی Jalapeño و تراشه‌های AMD نشان می‌دهد که مدل‌ها می‌توانند طرح‌های مورد استفاده در تولید را بهبود دهند. برای سنجش پیشرفت قابلیت‌های طراحی تراشه از یک نسل مدل به نسل بعد، هر مدل را روی دو هسته متن‌باز ۳۲ بیتی RISC-V آزمایش کردیم. PicoRV32 هسته‌ای کم‌حجم است که برای تراشه‌های قابل‌برنامه‌ریزی مجدد موسوم به FPGA طراحی شده است. OpenTitan از Ibex به‌عنوان پردازنده تعبیه‌شده در تراشه امنیتی خود استفاده می‌کند. هر یک، هسته پردازنده‌ای کامل برای بارهای کاری سامانه‌های تعبیه‌شده در رده میکروکنترلر است.

توصیف سخت‌افزاری اصلی هر هسته را به هر مدل دادیم و از آن خواستیم توان عملیاتی را افزایش دهد؛ یعنی تعداد دستورالعمل‌هایی که هسته می‌تواند در هر ثانیه اجرا کند. برای مثال، یک تغییر ممکن است به هسته اجازه دهد دستورالعملی را در چرخه‌های کلاک کمتری به پایان برساند، اما مدت هر چرخه را طولانی‌تر کند. سنجش توان عملیاتی هر دو اثر را در نظر می‌گیرد.

خروجی‌های هر طرح را در شبیه‌سازی بررسی کردیم. طرح‌هایی که در یکی از بررسی‌ها مردود می‌شدند یا مساحتی بیش از ۱۶ برابر هسته اصلی اشغال می‌کردند، امتیاز صفر می‌گرفتند. برای طرح‌های پذیرفته‌شده، تعداد دستورالعمل در هر چرخه کلاک را روی بارهای کاری‌ای سنجیدیم که از مدل‌ها پنهان بودند. میانگین هندسی نتایج این بارهای کاری را محاسبه کردیم و در بیشینه فرکانس کلاک برآوردشده با Yosys ضرب کردیم. به این ترتیب، برآوردی از تعداد دستورالعمل در ثانیه به دست آوردیم. برای هر هسته، به بهترین توان عملیاتی مشاهده‌شده تحت محدودیت‌های یکسان، امتیاز ۱٫۰ دادیم. نمودارها میانگین امتیاز اجراها را نشان می‌دهند، از جمله اجراهایی که امتیاز صفر گرفته‌اند.

با بودجه‌ای قابل‌مقایسه در حدود ۱۱۲٬۰۰۰ توکن برای هر اجرا، GPT‑6.2 Astra در هر دو هسته بالاترین میانگین امتیاز را داشت. GPT‑6.1 Sol نیز در هر دو هسته امتیازی بالاتر از GPT‑5.6 Sol کسب کرد.

روی هسته موجود PicoRV32، مدل GPT‑6.2 Astra در بودجه‌های بالاترِ قابل‌مقایسه، بیشترین میانگین امتیاز را دارد. در حدود ۱۱۲٬۰۰۰ توکن، امتیاز آن تقریباً دو برابر GPT‑6 Astra است.

روی هسته موجود Ibex، میانگین امتیاز GPT‑6.2 Astra با رسیدن به بودجه‌های بالاتر همچنان افزایش می‌یابد. نتایج GPT‑6 Astra و GPT‑6.1 Sol به هم نزدیک‌ترند.

طراحی هسته RISC-V بر پایه مشخصات

برای وظیفه دوم، به هر مدل الزامات مکتوب و قالب‌هایی از کد متن‌باز دادیم که نحوه اتصال هسته به سایر بخش‌های سیستم را نشان می‌دادند. مدل نحوه جابه‌جایی داده‌ها در هسته و چگونگی تقسیم کار به مراحل مختلف را انتخاب کرد. برای هر هسته، بررسی‌های صحت، تنظیمات حافظه و حافظه نهان و اهداف توان عملیاتی را همانند وظیفه بهینه‌سازی RTL نگه داشتیم.

با حدود ۱۱۲٬۰۰۰ توکن در هر اجرا، هر پنج مدل هنگام طراحی هسته بر پایه الزامات مکتوب، امتیاز بالاتری از زمانی گرفتند که سعی می‌کردند طرح موجود را بهبود دهند. این نتیجه هم برای PicoRV32 و هم برای Ibex برقرار بود. بهبود امتیاز GPT‑6.2 Astra در Ibex بیشتر از PicoRV32 بود. ارزیابی کامل شامل ۹٬۸۸۱ اجرای امتیازدهی‌شده در هر دو وظیفه، هر دو هسته و همه بودجه‌های توکن بود.

وقتی GPT‑6.2 Astra طراحی را از مشخصات PicoRV32 آغاز می‌کند، نزدیک به ۱۱۲٬۰۰۰ توکن، میانگین امتیازش از ۰٫۷ می‌گذرد و در دو سطح بودجه بعدیِ بررسی‌شده، امتیاز بالاتری می‌گیرد.

در طراحی Ibex بر پایه مشخصات، GPT‑6.2 Astra با نزدیک به ۱۱۲٬۰۰۰ توکن به میانگین امتیاز حدود ۰٫۷۵ می‌رسد. در بودجه‌های بالاترِ مشترک نیز منحنی آن بالاتر از سایر مدل‌ها باقی می‌ماند.

شروع از الزامات مکتوب به مدل‌ها آزادی می‌دهد تا برخی قابلیت‌های هسته‌های اصلی، مانند شمارنده‌های عملکرد و دستورالعمل‌های اضافی را حذف کنند. ممکن است این قابلیت‌ها تأثیر چندانی بر بهبود توان عملیاتی در بارهای کاری آزمون نداشته باشند؛ موضوعی که می‌تواند بخشی از برتری امتیاز را توضیح دهد. الزام به حفظ این قابلیت‌ها، اعمال محدودیتی سخت‌گیرانه‌تر بر مساحت مدار و بررسی زمان‌بندی پس از سنتز فیزیکی، آزمون را به شرایط واقعی طراحی تراشه برای تولید نزدیک‌تر می‌کند.

گام بعدی

نشان داده‌ایم که مدل‌های ما می‌توانند در ارزیابی‌های RISC-V معماری‌های جدید پردازنده را بررسی کنند و بهبودهایی واقعاً تازه به طرح‌های پیچیده مورد استفاده در تولید، مانند Jalapeño و پردازنده‌های گرافیکی و مرکزی پرچم‌دار نسل بعد AMD، بیفزایند. برای اینکه توسعه مدل بر ارزیاب‌های قابل‌اعتماد متکی باشد و طیف گسترده‌تری از چالش‌های طراحی را پوشش دهیم، با Synopsys همکاری می‌کنیم تا مدل جدید GPT‑Synopsys⁠(در یک پنجره جدید باز می‌شود) را آموزش دهیم که مانند طراحان متخصص تراشه، از ابزارهای خودکارسازی طراحی الکترونیکی (EDA) شرکت Synopsys استفاده کند.