OpenAI i Broadcom prezentują układ do inferencji dla modeli LLM

• Wczesne testy pokazują, że akcelerator pierwszej generacji zapewni znacznie wyższą wydajność na wat niż najlepsze obecnie dostępne rozwiązania
• Układ został zaprojektowany od podstaw z myślą o obecnych i przyszłych modelach LLM wykorzystywanych w całej branży
• Od projektu do rozpoczęcia produkcji minęło zaledwie dziewięć miesięcy dzięki wykorzystaniu modeli OpenAI
• Narzędzie zwiększa możliwości platformy OpenAI obejmującej pełen zakres rozwiązań – od produktów, przez modele, aż po układy scalone
• Rozwiązanie będzie wdrażane na skalę gigawatową we współpracy z partnerami prowadzącymi centra danych i rozwijane w kolejnych generacjach

OpenAI i Broadcom (NASDAQ: AVGO) zaprezentowały dziś Jalapeño – pierwszy Intelligence Processor od OpenAI: akcelerator zaprojektowany zgodnie z wizją OpenAI dotyczącą przyszłości inferencji w modelach LLM oraz pierwszy akcelerator AI w wielogeneracyjnej platformie obliczeniowej, którą obie firmy wspólnie rozwijają, aby uczynić zaawansowaną sztuczną inteligencję szybszą, bardziej niezawodną i szerzej dostępną.

Jalapeño został przekazany dyrektorowi generalnemu OpenAI Samowi Altmanowi i prezesowi Gregowi Brockmanowi przez prezesa i dyrektora generalnego Broadcom Hocka Tana oraz prezesa Charliego Kawwasa, co stanowi ważny krok w strategii OpenAI polegającej na budowie pełnego stosu technologicznego wspierającego modele i produkty firmy.

OpenAI zaprojektowało układ od początku, wykorzystując dogłębne zrozumienie podstaw LLM oraz plan rozwoju modeli, jąder obliczeniowych, systemów obsługi i potrzeb produktowych. We współpracy z Broadcom i Celestica opracowano rozwiązanie gotowe do zastosowań przemysłowych – od implementacji samego układu, poprzez projektowanie płytek i integrację systemów szaf serwerowych, aż po wysokowydajne sieci oraz skalowalne systemy produkcyjne. Układ Jalapeño zaprojektowano tak, aby elastycznie współpracował ze wszystkimi LLM, w oparciu o wnioski OpenAI dotyczące potrzeb inferencyjnych obecnych i przyszłych modeli AI w całej branży. Próbki inżynieryjne układu wykonują już w laboratorium zadania uczenia maszynowego z docelowymi parametrami częstotliwości pracy i poboru mocy, w tym obsługują model GPT‑5.3‑Codex‑Spark.

Choć OpenAI nadal mierzy ostateczną wydajność, wczesne testy pokazują, że Jalapeño zapewni wydajność na wat znacznie wyższą niż obecnie najlepsze rozwiązania. Szczegółowy raport techniczny dotyczący wydajności zostanie przedstawiony w nadchodzących miesiącach. Architektura ogranicza przenoszenie danych oraz równoważy zasoby obliczeniowe, pamięciowe i sieciowe, aby osiągnąć rzeczywiste wykorzystanie znacznie bliższe teoretycznej wydajności szczytowej. Technologie Broadcom w zakresie implementacji krzemowej i sieci, w tym układy sieciowe Tomahawk, umożliwiają wdrożenie platformy na dużą skalę.

„Świat zmierza ku gospodarce napędzanej mocą obliczeniową” — mówi Greg Brockman, prezes i współzałożyciel OpenAI. „Jalapeño jest częścią naszej długoterminowej strategii budowy pełnego stosu infrastruktury, która ma zwiększyć dostępność mocy obliczeniowej, dzięki czemu AI będzie szybsza, bardziej niezawodna i tańsza dla ludzi oraz firm, a także będzie mogła służyć do rozwiązywania ważniejszych problemów. Projektując samodzielnie coraz większą część stosu technologicznego, możemy wydajniej dostarczać więcej inteligencji i nadal poszerzać dostęp do zaawansowanej AI”.

„Jalapeño został zaprojektowany od podstaw do inferencji w modelach LLM z wykorzystaniem szczegółowych wniosków z naszej ścisłej współpracy z badaczami OpenAI” — mówi Richard Ho, który kieruje programem sprzętowym OpenAI. „Zoptymalizowaliśmy architekturę pod kątem jąder obliczeniowych, przepływu danych w pamięci, sieci i wzorców obsługi, które mają największe znaczenie dla pionierskich modeli AI. Wstępne testy pokazują, że Jalapeño będzie wydajnie realizować nasze najważniejsze zadania, osiągając efektywność bardzo zbliżoną do teoretycznych możliwości sprzętu”.

„Nasza współpraca z OpenAI oznacza fundamentalne zobowiązanie do skalowania fizycznej infrastruktury potrzebnej w następnej dekadzie AI” — mówi Hock Tan, prezes i dyrektor generalny Broadcom. „To dopiero początek wielogeneracyjnego planu rozwoju. Wspólnie z OpenAI opracowujemy układy scalone nowej generacji, co umożliwi budowę centrów danych o skali gigawatowej we współpracy z Microsoftem i innymi partnerami, począwszy od 2026 roku”.

Jalapeño to zaprojektowana od zera platforma dla nowoczesnej inferencji w modelach LLM, a nie akcelerator ogólnego przeznaczenia dostosowany do wcześniejszych zastosowań. Opiera się na systemach, które OpenAI codziennie uruchamia w ChatGPT, Codex, API i przyszłych produktach agentowych, a jednocześnie jest projektowany z myślą o obecnych i przyszłych LLM w całej branży. Celem układu jest połączenie mocy i przepustowości dzisiejszych czołowych akceleratorów AI z opóźnieniami zbliżonymi do wyspecjalizowanych systemów inferencyjnych, dzięki czemu dobrze nadaje się on do interaktywnych usług opartych na LLM na dużą skalę.

Na tym polega przewaga pełnego stosu technologicznego. OpenAI nie tylko rozwija pionierskie modele i rozwija oparte na nich produkty, ale projektuje też całą infrastrukturę: architekturę układów, jądra obliczeniowe, systemy pamięci, sieci, harmonogramy, systemy wdrożeń i doświadczenie produktowe. Dzięki kontroli nad wszystkimi warstwami możliwa jest ich wspólna optymalizacja pod kątem jednego celu: uczynienia modeli szybszymi, bardziej niezawodnymi i bardziej przystępnymi cenowo.

Jalapeño wzmacnia koło zamachowe rozwoju OpenAI. Lepsza infrastruktura zwiększa efektywność obliczeniową. Większa efektywność obliczeniowa umożliwia lepsze trenowanie modeli i obsługę, ostatecznie napędzając bardziej zaawansowane systemy AI. Lepsze modele prowadzą do powstawania lepszych produktów dla użytkowników, programistów i firm. Większa popularność produktów oznacza więcej klientów i wyższe przychody, które OpenAI może ponownie inwestować w kolejne generacje infrastruktury. Z czasem ten cykl sprawia, że inteligencja staje się bardziej zaawansowana, bardziej niezawodna i tańsza dla wszystkich.

Jalapeño został opracowany od wstępnego projektu do tape-outu produkcyjnego w zaledwie dziewięć miesięcy. Według OpenAI i Broadcom jest to najszybszy cykl rozwoju niestandardowego układu ASIC, jaki kiedykolwiek osiągnięto w segmencie wysokowydajnych zaawansowanych półprzewodników. Tak szybkie tempo było możliwe dzięki ścisłej współpracy zespołów odpowiedzialnych za oprogramowanie i sprzęt w OpenAI, doświadczeniu Broadcom w implementacji układów scalonych oraz wykorzystaniu modeli OpenAI do przyspieszenia części procesu projektowania i optymalizacji.

Te same modele, z których korzystają dziś użytkownicy, pomagają ulepszać infrastrukturę służącą do uruchamiania przyszłych modeli. Jeśli AI może pomagać inżynierom szybciej projektować lepsze układy, może tym samym obniżyć koszt mocy obliczeniowej w całej branży i przyczynić się do demokratyzacji dostępu do zaawansowanej AI.

Jalapeño to pierwszy element wielogeneracyjnej platformy obliczeniowej, której pierwsze wdrożenia planowane są do końca 2026 roku, a dalszy rozwój będzie kontynuowany w kolejnych latach. Łączy ona akceleratory zaprojektowane przez OpenAI z technologiami Broadcom w zakresie implementacji układów, sieci i komunikacji oraz doświadczeniem Celestica w zakresie płytek, szaf serwerowych i systemów.

Założenie tego projektu jest proste: to właśnie etap inferencji sprawia, że AI trafia do użytkowników. Każda poprawa w zakresie kosztów, szybkości i niezawodności może przełożyć się na szybszą odpowiedź ChatGPT, możliwość wykonywania bardziej złożonych zadań przez Codex przy krótszym czasie oczekiwania, tańsze usługi API oraz bardziej niezawodny dostęp do systemów nawet w okresach największego obciążenia.

Demokratyzacja AI oznacza, że zaawansowane modele stają się na tyle dostępne, niezawodne i przystępne cenowo, by więcej osób mogło korzystać z nich na co dzień. Jalapeño pomaga OpenAI przekształcać coraz większą część swojej infrastruktury w praktyczną inteligencję dla studentów, programistów, małych firm, badaczy, przedsiębiorstw i wszystkich, którzy chcą się uczyć, tworzyć lub rozwiązywać trudne problemy.