OpenAI και Broadcom παρουσιάζουν chip inference για LLM

• Οι πρώτες δοκιμές δείχνουν ότι ο επιταχυντής πρώτης γενιάς θα προσφέρει απόδοση ανά watt σημαντικά καλύτερη από τη σημερινή κορυφαία τεχνολογία
• Σχεδιασμένο εξαρχής για τα σημερινά και μελλοντικά LLM σε όλο τον κλάδο
• Αναπτύχθηκε από τον σχεδιασμό έως την παραγωγή σε εννέα μήνες, με επιτάχυνση από τα μοντέλα της OpenAI
• Επεκτείνει την πλατφόρμα πλήρους στοίβας της OpenAI, από τα προϊόντα στα μοντέλα και πλέον στα chip
• Θα αναπτυχθεί σε κλίμακα gigawatt με συνεργάτες κέντρων δεδομένων, σε πολλές γενιές

Η OpenAI και η Broadcom (NASDAQ: AVGO) παρουσίασαν σήμερα το Jalapeño, τον πρώτο Επεξεργαστή Νοημοσύνης της OpenAI: έναν επιταχυντή σχεδιασμένο γύρω από το όραμα της OpenAI για το μέλλον του inference στα LLM και τον πρώτο επιταχυντή TN σε μια υπολογιστική πλατφόρμα πολλών γενεών που οι εταιρείες κατασκευάζουν από κοινού, ώστε η προηγμένη TN να γίνει ταχύτερη, πιο αξιόπιστη και πιο προσβάσιμη σε περισσότερους ανθρώπους.

Το Jalapeño παραδόθηκε στον CEO της OpenAI Sam Altman και στον Πρόεδρο Greg Brockman από τον Πρόεδρο και CEO της Broadcom Hock Tan και τον Πρόεδρο Charlie Kawwas, σηματοδοτώντας ένα σημαντικό βήμα στη στρατηγική της OpenAI να δημιουργήσει την πλήρη στοίβα πίσω από τα μοντέλα και τα προϊόντα της.

Η OpenAI σχεδίασε το chip από το μηδέν, αξιοποιώντας τη βαθιά κατανόησή της για τις βασικές αρχές των LLM και τον οδικό της χάρτη για μοντέλα, kernels, συστήματα εξυπηρέτησης και ανάγκες προϊόντων, μαζί με τους συνεργάτες Broadcom και Celestica, οι οποίοι συμβάλλουν στη βιομηχανοποίηση της πλατφόρμας μέσω υλοποίησης chip, πλακετών, ενσωμάτωσης συστημάτων rack, δικτύωσης υψηλών επιδόσεων και κλιμακούμενων συστημάτων παραγωγής. Το Jalapeño έχει σχεδιαστεί με την ευελιξία να λειτουργεί με όλα τα LLM, καθοδηγούμενο από τις γνώσεις της OpenAI για τις ανάγκες inference των σημερινών και μελλοντικών μοντέλων TN σε όλο τον κλάδο. Μηχανικά δείγματα του chip Jalapeño εκτελούν φόρτους εργασίας ML στο εργαστήριο στη συχνότητα και την ισχύ-στόχο παραγωγής, συμπεριλαμβανομένου του GPT‑5.3‑Codex‑Spark.

Παρότι η OpenAI εξακολουθεί να μετρά την τελική απόδοση, οι πρώτες δοκιμές δείχνουν ότι το Jalapeño θα προσφέρει απόδοση ανά watt σημαντικά καλύτερη από τη σημερινή κορυφαία τεχνολογία. Μια αναλυτική τεχνική έκθεση για τις επιδόσεις θα παρουσιαστεί τους επόμενους μήνες. Η αρχιτεκτονική μειώνει τη μετακίνηση δεδομένων και εξισορροπεί τους πόρους υπολογισμού, μνήμης και δικτύωσης, ώστε η πραγματική αξιοποίηση να προσεγγίζει πολύ περισσότερο τη θεωρητική μέγιστη απόδοση. Η υλοποίηση πυριτίου και οι τεχνολογίες δικτύωσης της Broadcom, συμπεριλαμβανομένου του πυριτίου δικτύωσης Tomahawk, βοηθούν να περάσει η πλατφόρμα σε παραγωγή μεγάλης κλίμακας.

«Ο κόσμος κινείται προς μια οικονομία που τροφοδοτείται από υπολογιστική ισχύ», δήλωσε ο Greg Brockman, Πρόεδρος και Συνιδρυτής της OpenAI. «Το Jalapeño αποτελεί μέρος της μακροπρόθεσμης στρατηγικής υποδομών πλήρους στοίβας μας, ώστε να κάνουμε την υπολογιστική ισχύ πιο άφθονη, οδηγώντας σε TN ταχύτερη, πιο αξιόπιστη, πιο προσιτή για ανθρώπους και επιχειρήσεις και ικανή να χρησιμοποιηθεί για την επίλυση πιο σημαντικών προβλημάτων. Σχεδιάζοντας μόνοι μας μεγαλύτερο μέρος της στοίβας, μπορούμε να προσφέρουμε περισσότερη νοημοσύνη με μεγαλύτερη αποδοτικότητα και να συνεχίσουμε να ωθούμε την προηγμένη TN προς ευρύτερη πρόσβαση».

«Το Jalapeño σχεδιάστηκε εξαρχής για inference LLM, αξιοποιώντας λεπτομερείς γνώσεις από τη στενή συνεργασία μας με τους ερευνητές της OpenAI», δήλωσε ο Richard Ho, επικεφαλής του προγράμματος hardware της OpenAI. «Βελτιστοποιήσαμε την αρχιτεκτονική γύρω από τα kernels, τη μετακίνηση μνήμης, τη δικτύωση και τα μοτίβα εξυπηρέτησης που έχουν τη μεγαλύτερη σημασία για τα πρωτοποριακά μοντέλα TN. Με βάση τις πρώτες δοκιμές, το Jalapeño θα εκτελεί αποδοτικά τους σημαντικότερους φόρτους εργασίας μας κοντά στα θεωρητικά όρια του hardware».

«Η συνεργασία μας με την OpenAI αντιπροσωπεύει μια θεμελιώδη δέσμευση για την κλιμάκωση της φυσικής υποδομής που απαιτείται για την επόμενη δεκαετία της TN», δήλωσε ο Hock Tan, Πρόεδρος και CEO της Broadcom. «Αυτό είναι μόνο η αρχή ενός οδικού χάρτη πολλών γενεών. Συναναπτύσσοντας το κορυφαίο στον κλάδο πυρίτιό μας απευθείας με την OpenAI, καθιστούμε δυνατή την ανάπτυξη κέντρων δεδομένων κλίμακας gigawatt με τη Microsoft και άλλους συνεργάτες από το 2026».

Το Jalapeño είναι ένας σχεδιασμός από λευκό χαρτί για σύγχρονο inference LLM, όχι ένας επιταχυντής γενικής χρήσης προσαρμοσμένος από παλαιότερους φόρτους εργασίας TN. Βασίζεται στα συστήματα που η OpenAI λειτουργεί καθημερινά σε ChatGPT, Codex, API και μελλοντικά agentic προϊόντα, ενώ έχει επίσης σχεδιαστεί για τα σημερινά και μελλοντικά LLM σε όλο τον κλάδο. Στόχος είναι να συνδυαστούν η ισχύς και η ρυθμαπόδοση των σημερινών κορυφαίων επιταχυντών TN με καθυστέρηση πιο κοντά στα ταχύτερα εξειδικευμένα συστήματα inference, καθιστώντας το Jalapeño κατάλληλο για διαδραστικά προϊόντα LLM σε μεγάλη κλίμακα.

Αυτό είναι το πλεονέκτημα της πλήρους στοίβας. Η OpenAI δεν αναπτύσσει μόνο πρωτοποριακά μοντέλα ή προϊόντα βασισμένα σε αυτά· σχεδιάζει την υποδομή κάτω από αυτά: αρχιτεκτονική chip, kernels, συστήματα μνήμης, δικτύωση, χρονοπρογραμματισμό, συστήματα ανάπτυξης και εμπειρία προϊόντος. Επειδή η OpenAI λειτουργεί σε όλο το εύρος της στοίβας, κάθε επίπεδο μπορεί να βελτιστοποιείται γύρω από τον ίδιο στόχο: να κάνει τα μοντέλα της ταχύτερα, πιο αξιόπιστα και πιο προσιτά για τους χρήστες.

Το Jalapeño ενισχύει τον μηχανισμό ανατροφοδότησης πίσω από την πρόοδο της OpenAI. Καλύτερη υποδομή οδηγεί σε αποδοτικότερη υπολογιστική ισχύ. Η μεγαλύτερη αποδοτικότητα υπολογιστικής ισχύος επιτρέπει καλύτερη εκπαίδευση και εξυπηρέτηση, τροφοδοτώντας τελικά ικανότερα μοντέλα TN. Τα καλύτερα μοντέλα γίνονται καλύτερα προϊόντα για ανθρώπους, προγραμματιστές και επιχειρήσεις. Τα καλύτερα προϊόντα οδηγούν σε περισσότερη χρήση, περισσότερους πελάτες και περισσότερα έσοδα, επιτρέποντας στην OpenAI να επανεπενδύει στην επόμενη γενιά υποδομών. Με την πάροδο του χρόνου, αυτός ο κύκλος βοηθά να γίνει η νοημοσύνη πιο ικανή, πιο αξιόπιστη και λιγότερο δαπανηρή για όλους.

Το Jalapeño συναναπτύχθηκε από τον αρχικό σχεδιασμό έως το tape-out για παραγωγή σε μόλις εννέα μήνες, και το πρόγραμμα προσαρμοσμένου επιταχυντή TN αντιπροσωπεύει αυτό που πιστεύουμε ότι είναι ο ταχύτερος κύκλος ανάπτυξης ASIC που έχει επιτευχθεί ποτέ σε προηγμένους ημιαγωγούς υψηλών επιδόσεων. Αυτή η ταχύτητα αντανακλά τη βαθιά συν-ανάπτυξη λογισμικού και hardware με τις ομάδες μηχανικών της OpenAI, την τεχνογνωσία της Broadcom στην υλοποίηση πυριτίου και τη χρήση μοντέλων της OpenAI για την επιτάχυνση τμημάτων της διαδικασίας σχεδιασμού και βελτιστοποίησης.

Τα ίδια μοντέλα που εξυπηρετούν τους χρήστες βοηθούν στη βελτίωση της υποδομής που θα χρησιμοποιείται για την εκτέλεση μελλοντικών μοντέλων. Αν η TN μπορεί να βοηθήσει τους μηχανικούς να σχεδιάζουν καλύτερα chip πιο γρήγορα, μπορεί να μειώσει το κόστος της υπολογιστικής ισχύος σε όλο τον κλάδο και να βοηθήσει στον εκδημοκρατισμό της πρόσβασης στην προηγμένη TN.

Το Jalapeño είναι το πρώτο βήμα σε μια υπολογιστική πλατφόρμα πολλών γενεών, σχεδιασμένη για αρχική ανάπτυξη έως το τέλος του 2026 και επέκταση στα επόμενα χρόνια, συνδυάζοντας επιταχυντές σχεδιασμένους από την OpenAI με την υλοποίηση πυριτίου, τη δικτύωση και τις τεχνολογίες συνδεσιμότητας της Broadcom, καθώς και την τεχνογνωσία της Celestica σε πλακέτες, rack και συστήματα.

Ο σκοπός αυτής της δουλειάς είναι απλός: το inference είναι το σημείο όπου η TN φτάνει στους ανθρώπους. Κάθε βελτίωση στο κόστος, την ταχύτητα και την αξιοπιστία μπορεί να εμφανιστεί ως ταχύτερη απάντηση στο ChatGPT, ως εργασία του Codex που μπορεί να κάνει περισσότερα βήματα με λιγότερη αναμονή, ως προϊόν API που είναι φθηνότερο να κατασκευαστεί ή ως πιο αξιόπιστη πρόσβαση όταν η ζήτηση είναι υψηλή.

Ο εκδημοκρατισμός της TN σημαίνει να κάνουμε τα προηγμένα μοντέλα αρκετά διαθέσιμα, αξιόπιστα και προσιτά ώστε να τα χρησιμοποιούν καθημερινά περισσότεροι άνθρωποι. Το Jalapeño βοηθά την OpenAI να μετατρέπει μεγαλύτερο μέρος της υποδομής της σε χρήσιμη νοημοσύνη για φοιτητές, προγραμματιστές, μικρές επιχειρήσεις, ερευνητές, μεγάλες επιχειρήσεις και οποιονδήποτε προσπαθεί να μάθει, να δημιουργήσει ή να λύσει δύσκολα προβλήματα.