OpenAI, Broadcom LLM-ఆప్టిమైజ్డ్ ఇన్ఫరెన్స్ చిప్ను ఆవిష్కరించాయి
- ప్రారంభ పరీక్షల్లో, మొదటి తరం యాక్సిలరేటర్ ప్రస్తుత అత్యాధునిక స్థాయికన్నా వాట్కు పనితీరులో గణనీయంగా మెరుగ్గా ఉంటుందని తేలింది
- పరిశ్రమవ్యాప్తంగా ప్రస్తుత, భవిష్యత్తు LLMల కోసం మొదటి నుంచే నిర్మించబడింది
- OpenAI మోడళ్లతో వేగవంతమై, రూపకల్పన నుంచి ఉత్పత్తి వరకు తొమ్మిది నెలల్లో అభివృద్ధి చేయబడింది
- ఉత్పత్తుల నుంచి మోడళ్ల వరకు, ఇప్పుడు చిప్ల వరకు OpenAI యొక్క పూర్తి-స్టాక్ ప్లాట్ఫారమ్ను విస్తరిస్తుంది
- బహుళ తరాలపాటు డేటా సెంటర్ భాగస్వాములతో గిగావాట్ స్థాయిలో అమలు చేయబడుతుంది
OpenAI మరియు Broadcom (NASDAQ: AVGO) ఈ రోజు Jalapeñoను ఆవిష్కరించాయి. ఇది OpenAI యొక్క మొదటి ఇంటెలిజెన్స్ ప్రాసెసర్: LLM ఇన్ఫరెన్స్ భవిష్యత్తుపై OpenAI దృష్టిని ఆధారంగా చేసుకుని రూపుదిద్దుకున్న యాక్సిలరేటర్. అలాగే అధునాతన AIను మరింత వేగంగా, మరింత నమ్మదగినదిగా, మరింత మంది ప్రజలకు అందుబాటులోకి తేవడానికి ఈ రెండు కంపెనీలు కలిసి నిర్మిస్తున్న బహుళ-తరాల కంప్యూట్ ప్లాట్ఫారమ్లోని మొదటి AI యాక్సిలరేటర్.
Broadcom అధ్యక్షుడు మరియు సీఈఓ Hock Tan, అధ్యక్షుడు Charlie Kawwas కలిసి Jalapeñoను OpenAI సీఈఓ Sam Altman మరియు అధ్యక్షుడు Greg Brockmanకు అందించారు. ఇది తన మోడళ్లు, ఉత్పత్తుల వెనుక పూర్తి స్టాక్ను నిర్మించే OpenAI వ్యూహంలో ఒక ముఖ్యమైన అడుగు.
LLM మౌలిక అంశాలపై తన లోతైన అవగాహనను ఆధారంగా చేసుకుని OpenAI ఈ చిప్ను మొదటి నుంచే రూపకల్పన చేసింది. మోడళ్లు, కర్నెల్లు, సర్వింగ్ సిస్టమ్లు, ఉత్పత్తి అవసరాలపై దాని రోడ్మ్యాప్ దీనికి మార్గనిర్దేశం చేసింది. చిప్ అమలు, బోర్డు, ర్యాక్ సిస్టమ్ ఇంటిగ్రేషన్, అధిక-పనితీరు నెట్వర్కింగ్, స్కేలబుల్ ఉత్పత్తి వ్యవస్థల ద్వారా ప్లాట్ఫారమ్ను పారిశ్రామిక స్థాయికి తీసుకెళ్లడంలో Broadcom మరియు Celestica భాగస్వాములు సహకరించారు. పరిశ్రమవ్యాప్తంగా ప్రస్తుత మరియు భవిష్యత్తు AI మోడళ్ల ఇన్ఫరెన్స్ అవసరాలపై OpenAI అవగాహనను ఆధారంగా చేసుకుని, అన్ని LLMలతో పనిచేయగల సౌలభ్యంతో Jalapeño రూపుదిద్దుకుంది. Jalapeño చిప్ యొక్క ఇంజినీరింగ్ నమూనాలు, GPT‑5.3‑Codex‑Spark సహా ML పనిభారాలను ల్యాబ్లో ఉత్పత్తి లక్ష్య ఫ్రీక్వెన్సీ మరియు పవర్ వద్ద నడుపుతున్నాయి.
OpenAI ఇంకా తుది పనితీరును కొలుస్తున్నప్పటికీ, ప్రారంభ పరీక్షలు Jalapeño ప్రస్తుత అత్యాధునిక స్థాయికన్నా వాట్కు పనితీరులో గణనీయంగా మెరుగ్గా ఉంటుందని చూపిస్తున్నాయి. పనితీరుపై వివరమైన సాంకేతిక నివేదిక రాబోయే నెలల్లో సమర్పించబడుతుంది. ఈ ఆర్కిటెక్చర్ డేటా కదలికను తగ్గించి, కంప్యూట్, మెమరీ, నెట్వర్కింగ్ వనరులను సమతుల్యం చేసి, సిద్ధాంతపరమైన గరిష్ఠ పనితీరుకు చాలా దగ్గరగా వాస్తవ వినియోగాన్ని సాధిస్తుంది. Tomahawk నెట్వర్కింగ్ సిలికాన్ సహా Broadcom యొక్క సిలికాన్ అమలు మరియు నెట్వర్కింగ్ సాంకేతికతలు ఈ ప్లాట్ఫారమ్ను భారీ స్థాయి ఉత్పత్తికి తీసుకురావడంలో తోడ్పడతాయి.
“ప్రపంచం కంప్యూట్ శక్తితో నడిచే ఆర్థిక వ్యవస్థ వైపు కదులుతోంది,” అని OpenAI అధ్యక్షుడు మరియు సహ-వ్యవస్థాపకుడు Greg Brockman అన్నారు. “కంప్యూట్ను మరింత సమృద్ధిగా చేయడానికి మా దీర్ఘకాలిక పూర్తి-స్టాక్ మౌలిక సదుపాయాల వ్యూహంలో Jalapeño ఒక భాగం. దాని ఫలితంగా AI ప్రజలు మరియు వ్యాపారాలకు వేగవంతమైనది, మరింత నమ్మదగినది, మరింత చవకైనది అవుతుంది; అలాగే మరింత ముఖ్యమైన సమస్యలను పరిష్కరించడానికి ఉపయోగించవచ్చు. స్టాక్లో మరిన్ని భాగాలను మేమే రూపకల్పన చేయడం ద్వారా, ఎక్కువ సామర్థ్యంతో మరింత ఇంటెలిజెన్స్ను అందించగలుగుతాం, అధునాతన AIను మరింత విస్తృత ప్రాప్యత వైపు నిరంతరం ముందుకు నడిపించగలుగుతాం.”
“OpenAI పరిశోధకులతో మా సన్నిహిత సహకారంలో లభించిన వివరమైన అవగాహనను ఉపయోగించి, LLM ఇన్ఫరెన్స్ కోసం Jalapeñoను మొదటి నుంచే రూపకల్పన చేశాం,” అని OpenAI హార్డ్వేర్ కార్యక్రమాన్ని నడిపించే Richard Ho అన్నారు. “ఫ్రంటియర్ AI మోడళ్లకు అత్యంత కీలకమైన కర్నెల్లు, మెమరీ కదలిక, నెట్వర్కింగ్, సర్వింగ్ నమూనాల చుట్టూ ఆర్కిటెక్చర్ను మేము ఆప్టిమైజ్ చేశాం. ప్రారంభ పరీక్షల ఆధారంగా, Jalapeño మా అత్యంత ముఖ్యమైన పనిభారాలను హార్డ్వేర్ సిద్ధాంతపరమైన పరిమితులకు దగ్గరగా సమర్థంగా అమలు చేస్తుంది.”
“OpenAIతో మా సహకారం, వచ్చే దశాబ్దపు AIకు అవసరమైన భౌతిక మౌలిక సదుపాయాలను స్కేల్ చేయాలనే మౌలిక నిబద్ధతను సూచిస్తుంది,” అని Broadcom అధ్యక్షుడు మరియు సీఈఓ Hock Tan అన్నారు. “ఇది బహుళ-తరాల రోడ్మ్యాప్కు కేవలం ఆరంభం మాత్రమే. OpenAIతో నేరుగా కలిసి మా పరిశ్రమ-ముందంజ సిలికాన్ను సహ-అభివృద్ధి చేయడం ద్వారా, 2026 నుంచి Microsoft మరియు ఇతర భాగస్వాములతో గిగావాట్ స్థాయి డేటా సెంటర్ల అమలుకు మేము వీలు కల్పిస్తున్నాం.”
Jalapeño అనేది ఆధునిక LLM ఇన్ఫరెన్స్ కోసం పూర్తిగా కొత్తగా రూపొందించిన డిజైన్; గత AI పనిభారాల నుంచి మార్చి ఉపయోగించిన సాధారణ-ప్రయోజన యాక్సిలరేటర్ కాదు. ChatGPT, Codex, API, భవిష్యత్తు ఏజెంట్-ఆధారిత ఉత్పత్తులలో OpenAI ప్రతిరోజూ నడిపే వ్యవస్థలు దీనికి ఆధారం. అదే సమయంలో పరిశ్రమవ్యాప్తంగా ప్రస్తుత మరియు భవిష్యత్తు LLMల కోసం కూడా ఇది రూపుదిద్దుకుంది. నేటి ప్రముఖ AI యాక్సిలరేటర్ల శక్తి, థ్రూపుట్ను అత్యంత వేగవంతమైన ప్రత్యేక ఇన్ఫరెన్స్ వ్యవస్థలకు దగ్గరైన లేటెన్సీతో కలపడం లక్ష్యం. అందువల్ల Jalapeño భారీ స్థాయిలో ఇంటరాక్టివ్ LLM ఉత్పత్తులకు బాగా సరిపోతుంది.
అదే పూర్తి-స్టాక్ ప్రయోజనం. OpenAI ఫ్రంటియర్ మోడళ్లను అభివృద్ధి చేయడం లేదా వాటిపై ఉత్పత్తులను నిర్మించడం మాత్రమే కాదు; వాటి కిందనున్న మౌలిక సదుపాయాలను కూడా రూపకల్పన చేస్తోంది: చిప్ ఆర్కిటెక్చర్, కర్నెల్లు, మెమరీ వ్యవస్థలు, నెట్వర్కింగ్, షెడ్యూలింగ్, అమలు వ్యవస్థలు, ఉత్పత్తి అనుభవం. OpenAI మొత్తం స్టాక్ అంతటా పనిచేస్తున్నందున, ప్రతి లేయర్ను ఒకే లక్ష్యం చుట్టూ ఆప్టిమైజ్ చేయవచ్చు: తన మోడళ్లను వినియోగదారుల కోసం వేగవంతంగా, మరింత నమ్మదగినవిగా, మరింత చవకగా చేయడం.
OpenAI పురోగతికి వెనుక ఉన్న ఫ్లైవీల్ను Jalapeño బలపరుస్తుంది. మెరుగైన మౌలిక సదుపాయాలు కంప్యూట్ సామర్థ్యాన్ని పెంచుతాయి. ఎక్కువ కంప్యూట్ సామర్థ్యం మెరుగైన ట్రైనింగ్ మరియు సర్వింగ్కు వీలు కల్పించి, చివరికి మరింత సామర్థ్యవంతమైన AI మోడళ్లను నడిపిస్తుంది. మెరుగైన మోడళ్లు ప్రజలు, డెవలపర్లు, వ్యాపారాల కోసం మెరుగైన ఉత్పత్తులుగా మారుతాయి. మెరుగైన ఉత్పత్తులు ఎక్కువ వినియోగం, ఎక్కువ కస్టమర్లు, ఎక్కువ ఆదాయాన్ని తీసుకువస్తాయి. దాంతో OpenAI తదుపరి తరం మౌలిక సదుపాయాల్లో మళ్లీ పెట్టుబడి పెట్టగలదు. కాలక్రమంలో, ఆ చక్రం అందరికీ ఇంటెలిజెన్స్ను మరింత సామర్థ్యవంతమైనదిగా, మరింత నమ్మదగినదిగా, తక్కువ ఖర్చుతో కూడినదిగా చేయడంలో సహాయపడుతుంది.
Jalapeñoను ప్రారంభ రూపకల్పన నుంచి తయారీ టేప్-అవుట్ వరకు కేవలం తొమ్మిది నెలల్లో సహ-అభివృద్ధి చేశారు. అధిక-పనితీరు అధునాతన సెమీకండక్టర్లలో ఇప్పటివరకు సాధించిన అత్యంత వేగవంతమైన ASIC అభివృద్ధి చక్రం ఇదేనని మేము భావిస్తున్నాం. ఆ వేగం OpenAI ఇంజినీరింగ్ బృందాలతో లోతైన సాఫ్ట్వేర్-హార్డ్వేర్ సహ-అభివృద్ధి, Broadcom సిలికాన్ అమలు నైపుణ్యం, అలాగే రూపకల్పన మరియు ఆప్టిమైజేషన్ ప్రక్రియలోని కొన్ని భాగాలను వేగవంతం చేయడానికి OpenAI మోడళ్ల వినియోగాన్ని ప్రతిబింబిస్తుంది.
వినియోగదారులకు అందిస్తున్న అదే మోడళ్లు, భవిష్యత్తు మోడళ్లను నడపడానికి ఉపయోగించే మౌలిక సదుపాయాలను మెరుగుపరచడంలో సహాయపడుతున్నాయి. AI ఇంజినీర్లకు మెరుగైన చిప్లను వేగంగా రూపకల్పన చేయడంలో సహాయపడగలిగితే, అది పరిశ్రమవ్యాప్తంగా కంప్యూట్ ఖర్చును తగ్గించి, అధునాతన AI ప్రాప్యతను ప్రజాస్వామ్యీకరించడంలో తోడ్పడుతుంది.
Jalapeño అనేది 2026 చివరినాటికి ప్రారంభ అమలుకు, ఆపై వచ్చే సంవత్సరాల్లో విస్తరణకు రూపుదిద్దుకున్న బహుళ-తరాల కంప్యూట్ ప్లాట్ఫారమ్లో మొదటి అడుగు. ఇది OpenAI రూపకల్పన చేసిన యాక్సిలరేటర్లను Broadcom సిలికాన్ అమలు, నెట్వర్కింగ్, కనెక్టివిటీ సాంకేతికతలతో; అలాగే Celestica బోర్డు, ర్యాక్, సిస్టమ్ నైపుణ్యంతో కలుపుతుంది.
ఈ పనిలోని ప్రధాన ఉద్దేశం సులభం: AI ప్రజలను చేరే చోటు ఇన్ఫరెన్స్. ఖర్చు, వేగం, నమ్మకత్వంలో ప్రతి మెరుగుదల వేగవంతమైన ChatGPT సమాధానంగా, తక్కువ నిరీక్షణతో ఎక్కువ దశలు తీసుకునే Codex పనిగా, నిర్మించడానికి చవకైన API ఉత్పత్తిగా, లేదా డిమాండ్ ఎక్కువగా ఉన్నప్పుడు మరింత ఆధారపడదగిన ప్రాప్యతగా కనిపించవచ్చు.
AIను ప్రజాస్వామ్యీకరించడం అంటే, మరింత మంది ప్రతిరోజూ ఉపయోగించగలిగేలా అధునాతన మోడళ్లను అందుబాటులో, ఆధారపడదగినవిగా, చవకగా చేయడం. విద్యార్థులు, డెవలపర్లు, చిన్న వ్యాపారాలు, పరిశోధకులు, సంస్థలు, అలాగే నేర్చుకోవడానికి, సృష్టించడానికి లేదా క్లిష్ట సమస్యలను పరిష్కరించడానికి ప్రయత్నిస్తున్న ఎవరైనా ఉపయోగించగల ఇంటెలిజెన్స్గా తన మౌలిక సదుపాయాల్లో మరింత భాగాన్ని మార్చడంలో Jalapeño OpenAIకు సహాయపడుతుంది.
