OpenAI

১৮ নভেম্বর, ২০২৬

গবেষণাপাবলিকেশন

OpenAI মডেলের সাহায্যে চিপ নকশায় অগ্রগতি

এআই চালানোর চিপগুলোকে দ্রুত উন্নত করছে OpenAI-এর মডেলগুলো. আগস্টে⁠ আমরা জানিয়েছিলাম, কীভাবে OpenAI-এর প্রকৌশলীরা আমাদের অত্যাধুনিক মডেলগুলো ব্যবহার করে আমাদের প্রথম বিশেষভাবে তৈরি ইনফারেন্স চিপ Jalapeño-এর উন্নয়ন ত্বরান্বিত করেছেন. এখানে আমরা Jalapeño-এর অগ্রগতির পেছনে থাকা বিশেষজ্ঞ পর্যায়ের নকশাগত উন্নতিগুলো আরও বিশদে দেখব. পাশাপাশি, AMD-এর সঙ্গে কাজ করে তৃতীয় পক্ষের হার্ডওয়্যারে উল্লেখযোগ্য উন্নতি আনতে কীভাবে একই পদ্ধতি প্রয়োগ করছি, তা তুলে ধরব.

শুরু থেকে শেষ পর্যন্ত চিপ নকশার কাজে আমাদের মডেলের সক্ষমতা পরিমাপ করতে আমরা দুটি উন্মুক্ত উৎসের প্রসেসর নকশায় মডেলের ধারাবাহিক প্রজন্মগুলোকে মূল্যায়ন করেছি. এতে কিছু আকর্ষণীয় ফল পাওয়া গেছে. আর সক্ষমতার বিকাশকে নির্ভরযোগ্য মূল্যায়নব্যবস্থার ওপর প্রতিষ্ঠিত করতে আমরা Synopsys-এর সঙ্গে কাজ করছি. প্রকৌশলীরা চিপের নকশা ও যাচাইয়ে ইতোমধ্যে যে ইলেকট্রনিক নকশা স্বয়ংক্রিয়করণ (EDA) সরঞ্জাম ব্যবহার করেন, সেগুলোর সঙ্গে অত্যাধুনিক বুদ্ধিমত্তা যুক্ত করাই এর লক্ষ্য.

Jalapeño-এর গণনা ব্লকগুলোর উন্নয়ন

২০২৫ সালের শুরুতে Jalapeño-এর নকশায় সহায়তার জন্য আমরা GPT‑4o ব্যবহার শুরু করি. সেই প্রাথমিক মডেলটিও বিদ্যুৎ খরচ, কর্মক্ষমতা ও ক্ষেত্রফলে (PPA) উল্লেখযোগ্য উন্নতির উপায় খুঁজে পায়, যেমন:

সমান্তরাল গণনার কাজ পরিচালনা ও সম্পাদনকারী ভেক্টর ইউনিটে সাশ্রয় আসে ফ্লোটিং-পয়েন্ট যোগ ও গুণের সার্কিট, রূপান্তর ফাংশন, রিডাকশন লজিক এবং বিশেষ ফাংশন ইউনিট থেকে. মডেলগুলো বিকল্প লজিক বাস্তবায়ন এবং পাইপলাইনের বিভিন্ন ধাপে গণনা ভাগ করার উপায়—উভয়ই পরীক্ষা করে. এতে একই হার্ডওয়্যার ভাগ করে ব্যবহার ও মধ্যবর্তী তথ্য সংরক্ষণের প্রয়োজন কমানোর সুযোগ পাওয়া যায়.

পাটিগণিতের কাজ করা ম্যাট্রিক্স ইউনিটে ফ্লোটিং-পয়েন্ট যোগ, গুণ এবং স্বল্প নির্ভুলতার ডট-গুণফল সার্কিটজুড়ে উন্নতি যুক্ত হতে থাকে. গুণের একটি সার্কিটের পুনর্নকশা সিন্থেসিসে প্রায় ১৫% কম সেল ক্ষেত্রফল ব্যবহার করে, একই সঙ্গে বিলম্ব দুই ক্লক সাইকেল থেকে একটিতে নামিয়ে আনে. যোগের আরেকটি সার্কিটের পুনর্নকশা দুই সাইকেলের বিলম্ব বজায় রেখেই সেল ক্ষেত্রফল প্রায় ১৫% কমিয়ে দেয়. ডট-গুণফল লজিক ও পাইপলাইন বিন্যাসে আরও উন্নতির ফলে পুরো ব্লকজুড়ে বাড়তি সাশ্রয় হয়.

Jalapeño-এর সামগ্রিক নকশা কার্যক্রমে দলের হিসাব অনুযায়ী, মডেলের প্রস্তাবিত পরিবর্তনগুলো ভেক্টর ইউনিটে স্ট্যান্ডার্ড-সেলের ক্ষেত্রফল প্রায় ১৩% এবং ম্যাট্রিক্স ইউনিটে ১০% কমিয়েছে. Jalapeño-এর সিলিকন চিপের প্রাথমিক চালু ও পরীক্ষার সময়⁠ এই উন্নতিগুলো বাস্তব চিপে যাচাই করা হয়েছে.

AMD-এর সঙ্গে আমাদের সহযোগিতা

আমরা PPA উন্নয়নে AMD-এর সঙ্গে অংশীদারত্ব করেছি. তাদের শীর্ষস্থানীয় GPU IP-তে ইতোমধ্যে ব্যাপকভাবে উন্নত করা ভিত্তি নকশার তুলনায় ১৪% পর্যন্ত উন্নতি দেখেছি. চিপের সার্কিট বর্ণনাকারী কোড (SystemVerilog RTL) পুনর্লিখনের মাধ্যমে আমাদের মডেল আরও উন্নতির উপায় চিহ্নিত করেছে. এতে ৫ মাসেরও কম সময়ে প্রায় এক বছরের সমপরিমাণ অগ্রগতি অর্জিত হয়েছে—চিপ নকশার অগ্রভাগে এমন ফল অভূতপূর্ব. AMD সম্প্রতি উৎপাদনের জন্য পাঠানো একটি নকশায় ইতোমধ্যে এসব পরিবর্তনের কিছু অন্তর্ভুক্ত করেছে. ভবিষ্যৎ সংস্করণে ব্যবহারের জন্য অন্য পরিবর্তনগুলোও উৎপাদনের নকশা ফাইলে যুক্ত করেছে.

আমরা দেখেছি, মডেলটি RTL নিয়ে একজন বিশেষজ্ঞ মাইক্রোআর্কিটেক্টের পর্যায়ে যুক্তিবিচার করতে পারে. গণনা করা, কার্যক্রম নিয়ন্ত্রণ করা বা তথ্য স্থানান্তর করার সার্কিটগুলো মডেলটি পুনর্লিখতে পারে. প্রতিটি পুনর্লিখনে ব্লকের আচরণ অক্ষুণ্ণ আছে কি না যাচাই করতে এবং বিদ্যুৎ খরচ, কর্মক্ষমতা ও ক্ষেত্রফলের মধ্যে সুবিধা-অসুবিধার ভারসাম্য মূল্যায়নে এটি Synopsys-এর সরঞ্জাম ব্যবহার করেছে.

আমাদের মডেলের লেখা নকশা ব্যবহার করে AMD তাদের আসন্ন পরবর্তী প্রজন্মের শীর্ষস্থানীয় CPU-এর গুরুত্বপূর্ণ ব্লকগুলোতেও এক অঙ্কের শতাংশ হারে PPA উন্নতি যাচাই করেছে. ভবিষ্যতে GPU ও CPU-তে সবচেয়ে উন্নত ভিত্তি নকশার তুলনায়ও আরও PPA উন্নতি হবে বলে আমরা আশা করছি.

RISC-V কোরের কার্যকারিতা বৃদ্ধি

Jalapeño ও AMD-এর চিপে আমাদের ফলাফল দেখায় যে মডেলগুলো উৎপাদনে ব্যবহৃত নকশার উন্নতি করতে পারে. মডেলের এক প্রজন্ম থেকে পরের প্রজন্মে চিপ নকশার সক্ষমতা কতটা বাড়ছে তা পরিমাপ করতে আমরা প্রতিটি মডেলকে দুটি উন্মুক্ত উৎসের ৩২-বিট RISC-V কোরে পরীক্ষা করেছি. PicoRV32 একটি ছোট আকারের কোর, যা FPGA নামের পুনরায় প্রোগ্রামযোগ্য চিপের জন্য তৈরি. OpenTitan তাদের নিরাপত্তা চিপে অন্তর্নির্মিত প্রসেসর হিসেবে Ibex ব্যবহার করে. প্রতিটিই এমবেডেড, মাইক্রোকন্ট্রোলার শ্রেণির কাজের জন্য একটি পূর্ণাঙ্গ প্রসেসর কোর.

আমরা প্রতিটি মডেলকে প্রতিটি কোরের মূল হার্ডওয়্যার বিবরণ দিয়ে থ্রুপুট বাড়াতে বলেছি—অর্থাৎ কোরটি প্রতি সেকেন্ডে যতগুলো নির্দেশনা সম্পাদন করতে পারে, সেই সংখ্যা বাড়াতে বলেছি. উদাহরণস্বরূপ, কোনো পরিবর্তনের ফলে কোর কম ক্লক সাইকেলে একটি নির্দেশনা সম্পন্ন করতে পারলেও প্রতিটি সাইকেলে বেশি সময় লাগতে পারে. থ্রুপুট পরিমাপ করলে দুটি প্রভাবই ধরা পড়ে.

আমরা সিমুলেশনে প্রতিটি নকশার ফলাফল যাচাই করেছি. কোনো যাচাইয়ে ব্যর্থ হলে বা মূল কোরের ক্ষেত্রফলের ১৬ গুণের বেশি ব্যবহার করলে নকশাটিকে শূন্য স্কোর দেওয়া হয়েছে. যাচাইয়ে উত্তীর্ণ নকশাগুলোর ক্ষেত্রে, মডেলগুলোকে আগে দেখানো হয়নি এমন কাজ চালিয়ে প্রতি ক্লক সাইকেলে সম্পাদিত নির্দেশনার সংখ্যা মেপেছি. সেসব কাজের ফলাফলের জ্যামিতিক গড় নিয়ে আমরা সেটিকে Yosys দিয়ে আনুমানিক হিসাব করা সর্বোচ্চ ক্লক কম্পাঙ্ক দিয়ে গুণ করেছি. এতে প্রতি সেকেন্ডে সম্পাদিত নির্দেশনার আনুমানিক সংখ্যা পাওয়া গেছে. প্রতিটি কোরের জন্য একই সীমাবদ্ধতার মধ্যে পাওয়া সর্বোচ্চ থ্রুপুটকে আমরা ১.০ স্কোর দিয়েছি. লেখচিত্রগুলোতে শূন্য স্কোর পাওয়া পরীক্ষাসহ সব পরীক্ষার গড় স্কোর দেখানো হয়েছে.

প্রতি পরীক্ষায় প্রায় ১,১২,০০০ টোকেনের তুলনাযোগ্য বরাদ্দে দুটি কোরেই GPT‑6.2 Astra সর্বোচ্চ গড় স্কোর পেয়েছে. দুটিতেই GPT‑6.1 Sol-ও GPT‑5.6 Sol-এর চেয়ে বেশি স্কোর পেয়েছে.

বিদ্যমান PicoRV32 কোরে তুলনাযোগ্য বড় বরাদ্দগুলোতে GPT‑6.2 Astra-এর গড় স্কোর সর্বোচ্চ. প্রায় ১,১২,০০০ টোকেনে এর স্কোর GPT‑6 Astra-এর প্রায় দ্বিগুণ.

বিদ্যমান Ibex কোরে GPT‑6.2 Astra যত বেশি টোকেন বরাদ্দ ব্যবহার করে, তার গড় স্কোর তত বাড়তে থাকে. GPT‑6 Astra ও GPT‑6.1 Sol-এর স্কোর পরস্পরের আরও কাছাকাছি.

নির্দিষ্ট বিবরণ থেকে RISC-V কোরের নকশা তৈরি

দ্বিতীয় কাজের জন্য আমরা প্রতিটি মডেলকে লিখিত চাহিদা এবং উন্মুক্ত উৎসের কোড থেকে কিছু ছাঁচ দিয়েছি. এসব ছাঁচে কোর কীভাবে সিস্টেমের বাকি অংশের সঙ্গে যুক্ত হয় তা দেখানো ছিল. কোরের ভেতর দিয়ে তথ্য কীভাবে চলবে এবং কাজকে কীভাবে ধাপে ভাগ করা হবে, তা মডেলই বেছে নিয়েছে. প্রতিটি কোরের জন্য নির্ভুলতা যাচাই, মেমোরি ও ক্যাশের বিন্যাস এবং থ্রুপুটের লক্ষ্য আমরা RTL-এর কার্যকারিতা বৃদ্ধির কাজের মতোই রেখেছি.

প্রতি পরীক্ষায় প্রায় ১,১২,০০০ টোকেন বরাদ্দে পাঁচটি মডেলই বিদ্যমান নকশা উন্নত করার চেষ্টার চেয়ে লিখিত চাহিদা থেকে কোরের নকশা তৈরি করে বেশি স্কোর পেয়েছে. PicoRV32 ও Ibex—দুটির ক্ষেত্রেই এমনটি হয়েছে. GPT‑6.2 Astra, PicoRV32-এর চেয়ে Ibex-এ বেশি উন্নতি করেছে. দুটি কাজ, দুটি কোর এবং সব টোকেন বরাদ্দ মিলিয়ে পূর্ণাঙ্গ মূল্যায়নে মোট ৯,৮৮১টি পরীক্ষার স্কোর অন্তর্ভুক্ত ছিল.

PicoRV32-এর নির্দিষ্ট বিবরণ থেকে শুরু করে GPT‑6.2 Astra প্রায় ১,১২,০০০ টোকেনে ০.৭ গড় স্কোর ছাড়িয়ে যায়. পর্যবেক্ষণ করা পরবর্তী দুটি বরাদ্দেও এটি আরও বেশি স্কোর পায়.

Ibex-এর নির্দিষ্ট বিবরণ থেকে নকশা তৈরি করলে প্রায় ১,১২,০০০ টোকেনে GPT‑6.2 Astra-এর গড় স্কোর হয় প্রায় ০.৭৫. আরও বেশি সমান বরাদ্দেও এর রেখা অন্যগুলোর ওপরে থাকে.

লিখিত চাহিদা থেকে শুরু করলে মডেলগুলো মূল কোরের কিছু বৈশিষ্ট্য বাদ দেওয়ার সুযোগ পায়, যেমন কর্মক্ষমতা গণনাকারী কাউন্টার ও অতিরিক্ত নির্দেশনা. পরীক্ষায় ব্যবহৃত কাজগুলোতে এসব বৈশিষ্ট্য থ্রুপুট বাড়াতে তেমন ভূমিকা না-ও রাখতে পারে. তাই এগুলো বাদ দেওয়া স্কোর বেশি হওয়ার আংশিক কারণ হতে পারে. এসব বৈশিষ্ট্য বাধ্যতামূলক করা, সার্কিটের ক্ষেত্রফলে আরও কঠোর সীমা নির্ধারণ এবং ভৌত সিন্থেসিসের পর সময়গত বৈশিষ্ট্য যাচাই করলে পরীক্ষাটি উৎপাদনযোগ্য চিপ নকশার বাস্তব পরিস্থিতিকে আরও ভালোভাবে তুলে ধরবে.

পরবর্তী পদক্ষেপ

আমরা দেখিয়েছি, RISC-V মূল্যায়নে আমাদের মডেলগুলো নতুন প্রসেসর স্থাপত্যের সম্ভাবনা খুঁজে দেখতে পারে. পাশাপাশি Jalapeño এবং AMD-এর পরবর্তী প্রজন্মের শীর্ষস্থানীয় GPU ও CPU-এর মতো পরিশীলিত উৎপাদন নকশাতেও সম্পূর্ণ নতুন উন্নতি যোগ করেছি. মডেল উন্নয়নকে নির্ভরযোগ্য মূল্যায়নব্যবস্থার ওপর প্রতিষ্ঠিত করতে এবং আরও বিস্তৃত নকশাগত চ্যালেঞ্জ মোকাবিলা করতে আমরা Synopsys-এর সঙ্গে অংশীদারত্ব করছি. এর মাধ্যমে নতুন মডেল GPT‑Synopsys⁠(একটি নতুন উইন্ডোতে খোলে)-কে বিশেষজ্ঞ চিপ নকশাবিদদের মতো করে Synopsys-এর ইলেকট্রনিক নকশা স্বয়ংক্রিয়করণ (EDA) সরঞ্জাম ব্যবহারের প্রশিক্ষণ দেওয়া হবে.