OpenAI 모델이 AI 구동에 쓰이는 칩을 빠르게 개선하고 있습니다. 지난 8월, OpenAI 엔지니어들이 프런티어 모델을 활용해 첫 맞춤형 추론 칩인 Jalapeño의 개발을 가속한 과정을 소개했습니다. 이번에는 Jalapeño의 성능 향상을 이끈 전문가 수준의 설계 개선 사항을 자세히 살펴보고, AMD와 함께 같은 접근법을 적용해 외부 하드웨어에서도 상당한 개선을 이루고 있는 과정을 소개합니다.
칩 설계 전 과정을 수행하는 모델의 역량을 측정하기 위해 두 가지 오픈 소스 프로세서 설계로 여러 세대의 모델을 평가했으며, 흥미로운 결과를 얻었습니다. 또한 신뢰할 수 있는 평가 도구에 기반해 모델 역량을 개발하고자 Synopsys와 협력하고 있습니다. 이를 통해 엔지니어들이 칩 설계와 검증에 이미 사용하고 있는 전자 설계 자동화(EDA) 도구에 프런티어 지능을 통합하고 있습니다.
2025년 초부터 Jalapeño 설계에 GPT‑4o를 활용하기 시작했습니다. 이 초기 모델도 다음과 같이 PPA를 유의미하게 개선할 방법을 찾아냈습니다.
병렬 연산 작업을 관리하고 실행하는 벡터 유닛에서는 부동소수점 가산기와 곱셈기, 변환 함수, 리덕션 로직, 특수 함수 유닛에서 절감 효과를 얻었습니다. 모델은 대안적인 로직 구현 방식과 파이프라인 단계별 연산 분할 방식을 모두 탐색해 하드웨어를 공유하고 중간 저장 공간을 줄일 수 있는 방법을 찾아냈습니다.
산술 연산을 담당하는 행렬 유닛에서는 부동소수점 가산기, 곱셈기, 저정밀도 내적 회로 전반에서 개선 효과가 누적되었습니다. 재설계한 곱셈기 하나는 합성 시 셀 면적을 약 15% 줄이면서 지연 시간도 두 클록 사이클에서 한 사이클로 단축했습니다. 별도로 재설계한 가산기는 두 사이클의 지연 시간을 유지하면서 셀 면적을 약 15% 줄였습니다. 내적 로직과 파이프라인 구성의 추가 개선을 통해 블록 전반에서 더 많은 절감 효과를 얻었습니다.
팀은 Jalapeño 설계 작업 전반에서 모델이 제안한 변경 사항을 통해 벡터 유닛의 표준 셀 면적을 약 13%, 행렬 유닛의 표준 셀 면적을 약 10% 줄인 것으로 추산합니다. 이러한 최적화는 Jalapeño의 실리콘 초기 구동 과정에서 실제 칩으로 검증되었습니다.
AMD와 협력해 PPA 개선을 추진했으며, 플래그십 GPU IP에서 이미 고도로 최적화된 기준 설계 대비 최대 14%의 개선을 확인했습니다. OpenAI 모델은 칩의 회로를 기술하는 코드(SystemVerilog RTL)를 다시 작성해 추가 개선점을 찾아냈습니다. 이는 약 1년 치의 발전을 5개월도 채 되지 않아 이룬 것으로, 최첨단 칩 설계 분야에서 전례 없는 성과입니다. AMD는 최근 제조를 위해 전달한 설계에 이러한 변경 사항 중 일부를 이미 반영했으며, 나머지 변경 사항도 향후 버전에 활용할 수 있도록 양산용 설계 파일에 추가했습니다.
모델이 전문 마이크로아키텍처 설계자 수준으로 RTL을 추론하는 것을 확인했습니다. 모델은 계산, 동작 제어, 데이터 이동을 수행하는 회로를 다시 작성할 수 있습니다. 모델은 Synopsys 도구를 사용해 다시 작성한 회로가 블록의 기존 동작을 유지하는지 매번 검증하고, 전력·성능·면적 간의 상충 관계를 평가했습니다.
AMD는 출시 예정인 차세대 플래그십 CPU의 주요 블록에서도 OpenAI 모델이 작성한 설계를 활용해 한 자릿수 백분율의 PPA 개선을 확인했습니다. 앞으로 GPU와 CPU에서 가장 고도로 최적화된 기준 설계 대비 PPA를 추가로 개선할 수 있을 것으로 기대합니다.
Jalapeño와 AMD 칩에서 얻은 결과는 모델이 양산용 설계를 개선할 수 있음을 보여줍니다. 모델 세대별로 칩 설계 역량이 얼마나 발전했는지 측정하기 위해 두 가지 오픈 소스 32비트 RISC-V 코어로 각 모델을 테스트했습니다. PicoRV32는 FPGA라고 불리는 재프로그래밍 가능한 칩을 위해 설계된 소형 코어입니다. OpenTitan은 보안 칩의 내장 프로세서로 Ibex를 사용합니다. 둘 다 임베디드 및 마이크로컨트롤러급 워크로드를 위한 완전한 프로세서 코어입니다.
각 모델에 코어별 원본 하드웨어 기술 코드를 제공하고 처리량, 즉 코어가 초당 실행할 수 있는 명령어 수를 늘리도록 요청했습니다. 예를 들어, 변경 후 코어가 더 적은 클록 사이클로 명령어를 완료할 수 있지만 각 사이클에 걸리는 시간은 길어질 수 있습니다. 처리량을 측정하면 두 효과를 모두 반영할 수 있습니다.
각 설계의 출력을 시뮬레이션으로 확인했습니다. 검증을 통과하지 못하거나 원본 코어 면적의 16배를 초과한 설계에는 0점을 부여했습니다. 통과한 설계에 대해서는 모델에 공개하지 않은 워크로드로 클록 사이클당 명령어 수를 측정했습니다. 이 워크로드들에서 측정한 값의 기하 평균을 구한 뒤, Yosys로 추정한 최대 클록 주파수를 곱했습니다. 이를 통해 초당 명령어 수의 추정치를 얻었습니다. 각 코어에서 동일한 제약 조건으로 관측한 최고 처리량에 1.0점을 부여했습니다. 차트는 0점을 받은 실행을 포함한 전체 실행의 평균 점수를 보여줍니다.
실행당 약 112,000토큰이라는 비슷한 예산에서 GPT‑6.2 Astra는 두 코어 모두 가장 높은 평균 점수를 기록했습니다. GPT‑6.1 Sol 역시 두 코어 모두에서 GPT‑5.6 Sol보다 높은 점수를 기록했습니다.
기존 PicoRV32 코어에서 GPT‑6.2 Astra는 모델 간에 비교 가능한 큰 예산 구간에서 가장 높은 평균 점수를 기록했습니다. 약 112,000토큰에서 점수는 GPT‑6 Astra의 약 두 배입니다.
기존 Ibex 코어에서 GPT‑6.2 Astra의 평균 점수는 토큰 예산이 커질수록 계속 상승합니다. GPT‑6 Astra와 GPT‑6.1 Sol의 점수는 서로 비슷한 수준입니다.
두 번째 과제에서는 각 모델에 문서화된 요구 사항과 함께, 코어가 시스템의 나머지 부분에 어떻게 연결되는지 보여주는 오픈 소스 코드의 템플릿을 제공했습니다. 모델은 코어 내부의 데이터 이동 방식과 작업을 단계별로 나누는 방식을 결정했습니다. 각 코어의 정확성 검증, 메모리 및 캐시 설정, 처리량 목표는 RTL 최적화 과제와 동일하게 유지했습니다.
실행당 약 112,000토큰에서 다섯 모델 모두 기존 설계를 개선하려 할 때보다 문서화된 요구 사항을 바탕으로 코어를 설계할 때 더 높은 점수를 기록했습니다. 이 결과는 PicoRV32와 Ibex 모두에서 나타났습니다. GPT‑6.2 Astra는 PicoRV32보다 Ibex에서 더 큰 개선을 보였습니다. 전체 평가에서는 두 과제, 두 코어, 모든 토큰 예산에 걸쳐 총 9,881회의 실행을 채점했습니다.
PicoRV32 명세를 바탕으로 설계할 때, GPT‑6.2 Astra는 약 112,000토큰에서 평균 점수 0.7을 넘었으며 그다음으로 관측한 두 예산 수준에서는 더 높은 점수를 기록했습니다.
Ibex 명세를 바탕으로 설계할 때, GPT‑6.2 Astra는 약 112,000토큰에서 평균 약 0.75점을 기록했습니다. 모델 간에 비교 가능한 더 큰 예산에서도 GPT‑6.2 Astra의 곡선은 다른 모델보다 높은 위치를 유지합니다.
문서화된 요구 사항에서 출발하면 모델은 원본 코어에 있던 성능 카운터나 추가 명령어 같은 기능을 생략할 수 있습니다. 이러한 기능은 테스트 워크로드의 처리량 향상에 거의 기여하지 않을 수 있으며, 이것이 점수가 더 높았던 이유 중 하나일 수 있습니다. 이 기능들을 필수로 요구하고, 회로 면적 제한을 더 엄격하게 설정하며, 물리 합성 후 타이밍을 검증한다면 실제 양산용 칩 설계를 더 잘 반영하는 테스트가 될 것입니다.
OpenAI 모델이 RISC-V 평가에서 새로운 프로세서 아키텍처를 탐색할 수 있음을 입증했으며, Jalapeño와 AMD의 차세대 플래그십 GPU 및 CPU처럼 이미 고도로 최적화된 양산용 설계도 한층 더 개선했습니다. 신뢰할 수 있는 평가 도구에 기반해 모델을 개발하고 더 폭넓은 설계 과제를 해결하기 위해 Synopsys와 협력하고 있습니다. 새로운 모델인 GPT‑Synopsys(새 창에서 열기)가 전문 칩 설계자처럼 Synopsys의 전자 설계 자동화(EDA) 도구를 사용하도록 학습시키고 있습니다.


