ჩიპების დიზაინის განვითარება OpenAI-ს მოდელებით
OpenAI-ს მოდელები სწრაფად აუმჯობესებს ჩიპებს, რომლებზეც ხელოვნური ინტელექტი მუშაობს. აგვისტოში გაგიზიარეთ, როგორ გამოიყენეს OpenAI-ს ინჟინრებმა ჩვენი მოწინავე მოდელები Jalapeño-ს — გამოტანისთვის განკუთვნილი ჩვენი პირველი სპეციალიზებული ჩიპის — შექმნის დასაჩქარებლად. აქ უფრო დეტალურად განვიხილავთ ექსპერტული დონის გაუმჯობესებებს, რომლებმაც Jalapeño-ს შედეგები განაპირობა, და იმას, თუ როგორ ვიყენებთ იმავე მიდგომას AMD-სთან ერთად სხვა მწარმოებლების აპარატურაზე მნიშვნელოვანი გაუმჯობესებების მისაღწევად.
ჩიპის დიზაინის თავიდან ბოლომდე შექმნის ამოცანებში ჩვენი მოდელის შესაძლებლობების გასაზომად, მისი თანმიმდევრული თაობები ორი ღია კოდის მქონე პროცესორის დიზაინზე შევაფასეთ და საინტერესო შედეგები მივიღეთ. ხოლო იმისთვის, რომ შესაძლებლობების განვითარება სანდო შეფასების საშუალებებს დავაფუძნოთ, Synopsys-თან ერთად ვმუშაობთ მოწინავე ხელოვნური ინტელექტის ინტეგრაციაზე ელექტრონული დიზაინის ავტომატიზაციის (EDA) ინსტრუმენტებთან, რომლებსაც ინჟინრები უკვე იყენებენ ჩიპების შესაქმნელად და შესამოწმებლად.
Jalapeño-ს დიზაინის შექმნაში დასახმარებლად GPT‑4o‑ს გამოყენება 2025 წლის დასაწყისში დავიწყეთ. იმ ადრეულმა მოდელმაც კი იპოვა ენერგომოხმარების, წარმადობისა და ფართობის (PPA) მნიშვნელოვნად გაუმჯობესების გზები, მაგალითად:
ვექტორულ ბლოკში, რომელიც პარალელურ გამოთვლით ამოცანებს მართავს და ასრულებს, რესურსები დაიზოგა მცოცავმძიმიანი შემკრებებისა და გამამრავლებლების, გარდაქმნის ფუნქციების, რედუქციის ლოგიკისა და სპეციალური ფუნქციების ბლოკის ხარჯზე. მოდელები იკვლევდნენ როგორც ლოგიკის განხორციელების ალტერნატიულ გზებს, ისე გამოთვლების კონვეიერის ეტაპებზე განაწილებას და პოულობდნენ აპარატურის ერთობლივად გამოყენებისა და შუალედური მონაცემების შესანახი სივრცის შემცირების შესაძლებლობებს.
მატრიცულ ბლოკში, რომელიც არითმეტიკული კომპონენტია, გაუმჯობესებები დაგროვდა მცოცავმძიმიან შემკრებებში, გამამრავლებლებსა და დაბალი სიზუსტის სკალარული ნამრავლის სქემებში. ერთ-ერთი გადამუშავებული გამამრავლებელი სინთეზისას უჯრედების დაახლოებით 15%-ით ნაკლებ ფართობს იყენებდა, დაყოვნებას კი ორი ტაქტური ციკლიდან ერთამდე ამცირებდა. ცალკე გადამუშავებულმა შემკრებმა უჯრედების ფართობი დაახლოებით 15%-ით შეამცირა და ორციკლიანი დაყოვნება შეინარჩუნა. სკალარული ნამრავლის ლოგიკისა და კონვეიერის ორგანიზების შემდგომმა გაუმჯობესებამ მთელ ბლოკში დამატებითი რესურსები დაზოგა.
გუნდის შეფასებით, Jalapeño-ს დიზაინზე მუშაობისას მოდელის მიერ შემოთავაზებულმა ცვლილებებმა სტანდარტული უჯრედების ფართობი ვექტორულ ბლოკში დაახლოებით 13%-ით, მატრიცულში კი 10%-ით შეამცირა. ეს ოპტიმიზაციები რეალურ ჩიპზე დადასტურდა Jalapeño-ს სილიციუმის ჩიპის საწყისი გაშვებისას.
AMD-სთან PPA-ს გასაუმჯობესებლად ვითანამშრომლეთ და ფლაგმანური GPU-ს IP-ბლოკებში უკვე საფუძვლიანად ოპტიმიზებულ საწყის ვარიანტებთან შედარებით 14%-მდე გაუმჯობესება მივიღეთ. ჩვენმა მოდელმა დამატებითი გაუმჯობესების გზები ჩიპის სქემების აღმწერი კოდის (SystemVerilog RTL) გადაწერით იპოვა. ეს დაახლოებით ერთი წლის პროგრესს ნიშნავს, რომელიც 5 თვეზე ნაკლებ დროში იქნა მიღწეული — უპრეცედენტო შედეგს ჩიპების დიზაინის ყველაზე მოწინავე სფეროში. AMD-მ ამ ცვლილებების ნაწილი უკვე შეიტანა ერთ-ერთ უახლეს დიზაინში, რომელიც წარმოებისთვის გაგზავნა, სხვები კი მომავალ ვერსიებში გამოსაყენებლად თავის საწარმოო დიზაინის ფაილებს დაამატა.
ჩვენ ვნახეთ, როგორ მსჯელობს მოდელი RTL-ზე ექსპერტი მიკროარქიტექტორის დონეზე. მოდელს შეუძლია გადაწეროს სქემები, რომლებიც გამოთვლებს ასრულებს, ოპერაციებს მართავს ან მონაცემებს გადაადგილებს. მან Synopsys-ის ინსტრუმენტებით შეამოწმა, ინარჩუნებდა თუ არა ყოველი გადაწერა ბლოკის ქცევას, და შეაფასა კომპრომისები ენერგომოხმარებას, წარმადობასა და ფართობს შორის.
ჩვენი მოდელის მიერ შექმნილი დიზაინების გამოყენებით, AMD-მ თავისი მომავალი თაობის ფლაგმანური CPU-ს ძირითად ბლოკებშიც დაადასტურა PPA-ს გაუმჯობესება ერთნიშნა პროცენტული მაჩვენებლებით. მომავალში GPU-სა და CPU-ზე PPA-ს კიდევ უფრო გაუმჯობესებას ველით, ყველაზე ოპტიმიზებულ საწყის ვარიანტთან შედარებითაც კი.
Jalapeño-სა და AMD-ს ჩიპებზე მიღებული შედეგები აჩვენებს, რომ მოდელებს საწარმოო დიზაინების გაუმჯობესება შეუძლიათ. იმის გასაზომად, თუ როგორ ვითარდება ჩიპების დიზაინის შექმნის შესაძლებლობები მოდელის ერთი თაობიდან მეორემდე, თითოეული მოდელი ორ ღია კოდის მქონე 32-ბიტიან RISC-V ბირთვზე გამოვცადეთ. PicoRV32 კომპაქტური ბირთვია, რომელიც FPGA-ს სახელით ცნობილი ხელახლა პროგრამირებადი ჩიპებისთვის შეიქმნა. OpenTitan თავის უსაფრთხოების ჩიპში ჩაშენებულ პროცესორად Ibex-ს იყენებს. თითოეული მათგანი სრულფასოვანი პროცესორის ბირთვია ჩაშენებული სისტემების, მიკროკონტროლერის კლასის ამოცანებისთვის.
თითოეულ მოდელს ორივე ბირთვის საწყისი აპარატურული აღწერა მივეცით და მწარმოებლურობის გაზრდა ვთხოვეთ (ანუ ინსტრუქციების რაოდენობისა, რომელთა შესრულებაც ბირთვს წამში შეუძლია). მაგალითად, ცვლილებამ შეიძლება ბირთვს ინსტრუქციის ნაკლებ ტაქტურ ციკლში დასრულების საშუალება მისცეს, მაგრამ თითოეული ციკლის ხანგრძლივობა გაზარდოს. მწარმოებლურობის გაზომვა ორივე ეფექტს ითვალისწინებს.
თითოეული დიზაინის გამოსავალი სიმულაციით შევამოწმეთ. დიზაინები ნულოვან ქულას იღებდა, თუ შემოწმებას ვერ გაივლიდა ან საწყისი ბირთვის ფართობზე 16-ჯერ მეტს გადააჭარბებდა. წარმატებით შემოწმებული დიზაინებისთვის მოდელებისგან დაფარულ ამოცანებზე გავზომეთ ერთ ტაქტურ ციკლში შესრულებული ინსტრუქციების რაოდენობა. ამ ამოცანების შედეგების გეომეტრიული საშუალო ავიღეთ და Yosys-ით შეფასებულ მაქსიმალურ ტაქტურ სიხშირეზე გავამრავლეთ. ამით წამში შესრულებული ინსტრუქციების რაოდენობის შეფასება მივიღეთ. თითოეული ბირთვისთვის იმავე შეზღუდვებში დაფიქსირებულ საუკეთესო მწარმოებლურობას 1.0 ქულა მივანიჭეთ. დიაგრამებზე ნაჩვენებია ცდების საშუალო ქულა, ნულოვანი ქულით შეფასებული ცდების ჩათვლით.
თითო ცდაზე დაახლოებით 112,000 ტოკენის შესადარებელი ბიუჯეტით, ორივე ბირთვზე ყველაზე მაღალი საშუალო ქულა GPT‑6.2 Astra-მ მიიღო. GPT‑6.1 Sol-მაც ორივე ბირთვზე GPT‑5.6 Sol-ზე მაღალი ქულა მიიღო.
PicoRV32-ის არსებულ ბირთვზე, თითო ცდაზე უფრო დიდი ბიუჯეტების პირობებში, ყველაზე მაღალი საშუალო ქულა GPT‑6.2 Astra-ს აქვს. დაახლოებით 112 000 ტოკენზე მისი ქულა GPT‑6 Astra-ს ქულაზე დაახლოებით ორჯერ მეტია.
Ibex-ის არსებულ ბირთვზე GPT‑6.2 Astra-ს საშუალო ქულა კვლავ იზრდება მისთვის ხელმისაწვდომი ბიუჯეტის ზრდასთან ერთად. GPT‑6 Astra-სა და GPT‑6.1 Sol-ის შედეგები ერთმანეთთან უფრო ახლოსაა.
მეორე ამოცანისთვის თითოეულ მოდელს მივეცით წერილობითი მოთხოვნები და ღია კოდიდან აღებული შაბლონები, რომლებიც აჩვენებდა, როგორ უკავშირდება ბირთვი სისტემის დანარჩენ ნაწილს. მოდელი თავად ირჩევდა, როგორ გადაადგილდებოდა მონაცემები ბირთვში და როგორ განაწილდებოდა სამუშაო ეტაპებად. თითოეული ბირთვისთვის სისწორის შემოწმების წესები, მეხსიერებისა და ქეშის პარამეტრები და მწარმოებლურობის მიზნები იგივე დავტოვეთ, რაც RTL-ის ოპტიმიზაციის ამოცანაში იყო.
თითო ცდაზე დაახლოებით 112 000 ტოკენის პირობებში ხუთივე მოდელმა უფრო მაღალი ქულა მიიღო, როცა ბირთვს წერილობითი მოთხოვნებიდან ქმნიდა, ვიდრე მაშინ, როცა არსებული დიზაინის გაუმჯობესებას ცდილობდა. ეს როგორც PicoRV32-ის, ისე Ibex-ის შემთხვევაში დაფიქსირდა. GPT‑6.2 Astra-ს გაუმჯობესება Ibex-ზე უფრო დიდი იყო, ვიდრე PicoRV32-ზე. სრული შეფასება მოიცავდა ჯამში 9 881 შეფასებულ ცდას ორივე ამოცანის, ორივე ბირთვისა და ტოკენების ყველა ბიუჯეტის გათვალისწინებით.
PicoRV32-ის სპეციფიკაციიდან დაწყებისას, GPT‑6.2 Astra-ს საშუალო ქულა დაახლოებით 112 000 ტოკენზე 0.7-ს აჭარბებს და მომდევნო ორი, უფრო დიდი ბიუჯეტის შემთხვევაში კიდევ უფრო იზრდება.
Ibex-ის დიზაინის სპეციფიკაციიდან შექმნისას, GPT‑6.2 Astra დაახლოებით 112 000 ტოკენზე საშუალოდ 0.75 ქულას იღებს. მისი მრუდი სხვა მოდელებისაზე მაღლა რჩება მათთვის საერთო, უფრო დიდი ბიუჯეტების შემთხვევაშიც.
წერილობითი მოთხოვნებიდან დაწყება მოდელებს საშუალებას აძლევს, გამოტოვონ საწყის ბირთვებში არსებული ისეთი ფუნქციები, როგორიცაა წარმადობის მთვლელები და დამატებითი ინსტრუქციები. ეს ფუნქციები შესაძლოა სატესტო ამოცანებზე მწარმოებლურობას თითქმის არ აუმჯობესებს, რაც ქულებში უპირატესობას ნაწილობრივ ხსნის. ამ ფუნქციების სავალდებულოდ მოთხოვნა, სქემის ფართობზე უფრო მკაცრი შეზღუდვის დაწესება და ფიზიკური სინთეზის შემდეგ დროითი მახასიათებლების შემოწმება ტესტს საწარმოო ჩიპების დიზაინის რეალურ პირობებს უფრო დაუახლოებდა.
წარმოვაჩინეთ, რომ ჩვენს მოდელებს RISC-V-ის შეფასებებში პროცესორების ახალი არქიტექტურების შესწავლა შეუძლიათ. ამასთან, მათი დახმარებით დამატებით გავაუმჯობესეთ ისეთი დახვეწილი საწარმოო დიზაინები, როგორიცაა Jalapeño და AMD-ის მომავალი თაობის ფლაგმანური GPU და CPU. იმისთვის, რომ მოდელის განვითარება სანდო შეფასების საშუალებებს დავაფუძნოთ და დიზაინის ამოცანების სპექტრი გავაფართოოთ, Synopsys-თან ვთანამშრომლობთ ახალი მოდელის, GPT‑Synopsys(იხსნება ახალ ფანჯარაში)-ის გასაწვრთნელად, რათა მან Synopsys-ის ელექტრონული დიზაინის ავტომატიზაციის (EDA) ინსტრუმენტები ჩიპების დიზაინის ექსპერტებივით გამოიყენოს.


