AI alignment-ის შესახებ დამოუკიდებელი კვლევის წინ წაწევა
ჩვენ The Alignment Project-ს 7.5 მილიონ დოლარს ვუთმობთ, რათა დაფინანსდეს დამოუკიდებელი კვლევა, რომელიც არასწორად გასწორებული AI-დან მომდინარე უსაფრთხოებისა და დაცულობის რისკების შემამსუბუქებელ გზებს ავითარებს.
რადგან AI სისტემები უფრო უნარიანი და უფრო ავტონომიური ხდება, alignment-ის კვლევამ ტემპსაც უნდა აუწყოს და მრავალფეროვნებაც გაზარდოს. OpenAI-ში ჩვენ დიდ ინვესტიციას ვდებთ მოწინავე alignment-ისა და უსაფრთხოების კვლევაში, რადგან ეს ჩვენი მისიისთვის კრიტიკულად მნიშვნელოვანია. ასევე გვჯერა, რომ AGI-ის ყველასთვის უსაფრთხოდ და სასარგებლოდ ქცევა ვერც ერთი ორგანიზაციის ძალებით ვერ მიიღწევა, და გვინდა მხარი დავუჭიროთ დამოუკიდებელ კვლევასა და კონცეპტუალურ მიდგომებს, რომელთა განვითარებაც მოწინავე ლაბორატორიების ფარგლებს გარეთ არის შესაძლებელი.
დღეს ვაცხადებთ 7.5 მილიონი დოლარის გრანტს The Alignment Project(იხსნება ახალ ფანჯარაში)-ისთვის — ეს არის გაერთიანებული სამეფოს AI Security Institute-ის (UK AISI) მიერ შექმნილი დამოუკიდებელი alignment-ის კვლევის გლობალური ფონდი. Renaissance Philanthropy მხარს უჭერს გრანტის ადმინისტრირებას. ეს წვლილი The Alignment Project-ს დღემდე დამოუკიდებელი alignment-ის კვლევისთვის გამოყოფილი ერთ-ერთ ყველაზე მსხვილ სპეციალიზებულ დაფინანსებად აქცევს და აძლიერებს უფრო ფართო, დამოუკიდებელ ეკოსისტემას.
OpenAI-ის მსგავსი მოწინავე ლაბორატორიები უნიკალურ პოზიციაში არიან alignment-ის ისეთი კვლევის საწარმოებლად, რომელიც მოწინავე მოდელებზე წვდომასა და მნიშვნელოვან გამოთვლით რესურსზეა დამოკიდებული — სამუშაოზე, რომლის გამოკვლევაც დამოუკიდებელი მკვლევრებისთვის ხშირად რთულია. ჩვენი შიდა alignment-ის ძალისხმევის დიდ ნაწილს ვუთმობთ მასშტაბირებადი მეთოდების შემუშავებას, რათა alignment-ში პროგრესმა შესაძლებლობების პროგრესს აუწყოს. გვჯერა, რომ იტერაციული დანერგვა — შესაძლებლობების ეტაპობრივი ზრდა დამცავი მექანიზმების გაძლიერებასთან ერთად — გვეხმარება პრობლემების ადრეულად გამოვლენაში და გვაძლევს პრაქტიკაში მოქმედი მიდგომების შესახებ კონკრეტულ მტკიცებულებებს, და რომ პასუხისმგებლიანი განვითარება მოითხოვს alignment-ისა და უსაფრთხოების მნიშვნელოვან სამუშაოს, რომელიც მჭიდროდ არის ინტეგრირებული მოდელის შექმნასა და დანერგვასთან.
პარალელურად, ეს სფერო სარგებელს იღებს დამოუკიდებელ, საძიებო კვლევაში უწყვეტი ინვესტირებიდან — მას შეუძლია იდეების სივრცე გააფართოოს და ახალი მიმართულებები გამოავლინოს. დამოუკიდებელი კვლევა კვლავაც არსებითია; სასარგებლო კვლევის მრავალი სახეობისთვის ლაბორატორიებს შედარებითი უპირატესობა არ გააჩნიათ. alignment-ის ჯანსაღი ეკოსისტემა დამოკიდებულია დამოუკიდებელ გუნდებზე, რომლებიც ამოწმებენ მრავალფეროვან ვარაუდებს, ავითარებენ ალტერნატიულ ჩარჩოებს და იკვლევენ კონცეპტუალურ, თეორიულ და თავისუფალ იდეებს, რომლებიც შეიძლება რომელიმე ერთი ორგანიზაციის საგზაო რუკას პირდაპირ არ ერგებოდეს.
და რადგან AGI-ისკენ პროგრესი საბოლოოდ შეიძლება დამოკიდებული იყოს ფუნდამენტურ გარღვევებზე, რომლებიც alignment-ის პრობლემის ფორმას და იმას შეცვლის, თუ რომელი მიდგომებია ყველაზე სასარგებლო, მნიშვნელოვანია ისეთი კვლევის მხარდაჭერა, რომელსაც მნიშვნელობა ექნება მაშინაც კი, თუ დღეს დომინანტური მეთოდები ისე მასშტაბირებადი არ აღმოჩნდება, როგორც ველით. ასეთ სამყაროში განსაკუთრებით მნიშვნელოვანი ხდება ძლიერი გარე ეკოსისტემა, რომელიც ფუნდამენტურ, კონცეპტუალურ და არაკორელირებულ სამუშაოს ასრულებს. AI alignment-ისა და უსაფრთხოების პრობლემა უპრეცედენტოდ მნიშვნელოვანია და საჭიროა, ყველამ ჩავერთოთ, რადგან ჯერ კიდევ არ ვიცით, შესაძლებლობების შემდგომი წინსვლის ფონზე რომელი მიდგომები აღმოჩნდება ყველაზე მდგრადი.
ჩვენი გრანტი — მიმდინარე გაცვლითი კურსით დაახლოებით 5.6 მილიონი ფუნტი — The Alignment Project-ის თანადაფინანსებას(იხსნება ახალ ფანჯარაში) სხვა საჯარო, ფილანთროპიულ და ინდუსტრიულ მხარდამჭერებთან ერთად უზრუნველყოფს. ფონდის ჯამური მოცულობა 27 მილიონ ფუნტს აჭარბებს და შექმნილია იმისთვის, რომ მთელ მსოფლიოში alignment-ის კვლევითი პროექტების ფართო პორტფელი დააფინანსოს, ისეთ მრავალფეროვან თემებზე, როგორიცაა გამოთვლითი სირთულის თეორია, ეკონომიკური თეორია და თამაშების თეორია, კოგნიტიური მეცნიერება, ინფორმაციის თეორია და კრიპტოგრაფია. ცალკეული პროექტები, როგორც წესი, 50,000-დან 1 მილიონ ფუნტამდე ფინანსდება და შესაძლოა დამატებით მიიღოს წვდომა გამოთვლით რესურსებსა და ექსპერტულ მხარდაჭერაზე.
ჩვენი დაფინანსება არ ქმნის ახალ პროგრამას ან შერჩევის პროცესს და არც არსებულ პროცესზე ახდენს გავლენას; ის უბრალოდ ზრდის უკვე გადამოწმებული, მაღალი ხარისხის პროექტების(იხსნება ახალ ფანჯარაში) რაოდენობას, რომელთა დაფინანსებაც მიმდინარე რაუნდში იქნება შესაძლებელი.
UK AISI კარგად არის პოზიციონირებული, რომ alignment-ის დაფინანსება ამ მასშტაბით და ამ სიგანით წარმართოს. მას ჰყავს უკვე ჩამოყალიბებული სექტორთაშორისი კოალიცია, რომელიც აერთიანებს მთავრობას, აკადემიას, ფილანთროპიასა და ინდუსტრიას, ასევე უკვე მოქმედ საგრანტო მექანიზმს და წინადადებების დიდ პულს, რომლებმაც ექსპერტული შეფასება გაიარეს. როგორც გაერთიანებული სამეფოს მთავრობის კვლევითი ორგანიზაცია მეცნიერების, ინოვაციისა და ტექნოლოგიის დეპარტამენტის (DSIT) ფარგლებში, მას ასევე აქვს სერიოზულ AI რისკებზე ორიენტირებული მანდატი და კვლევის დაფინანსების პროგრამების განხორციელების გამოცდილება.
რადგან AI-ის მომავალი ზუსტად ისე არ განვითარდება, როგორც ვინმე წინასწარმეტყველებს — და შესაძლოა ძალიან სწრაფადაც წავიდეს წინ — გვჯერა, რომ დემოკრატიზაცია, „AI resilience“ და იტერაციული დანერგვა აუცილებელია. მაშინ, როცა OpenAI-ში ვაგრძელებთ ჩვენი მოწინავე alignment-ისა და უსაფრთხოების კვლევის განვითარებას, პროგრესი სარგებელს მიიღებს ძლიერი, მრავალფეროვანი, დამოუკიდებელი ეკოსისტემისგან, რომელიც შესაძლებლობების წინსვლასთან ერთად ურთიერთშემავსებელ მიდგომებს ავითარებს. ეს გრანტი ამ მიზნისკენ გადადგმული ერთ-ერთი ნაბიჯია. მოუთმენლად ველით კვლევითი საზოგადოების ფართო წრესთან თანამშრომლობის გაგრძელებას, რადგან ეს სფერო წინ მიიწევს.
განაგრძეთ კითხვა
