Развитие на независимите проучвания върху съгласуването на ИИ

С нарастването на възможностите и автономността на системите с ИИ, изследванията в областта на съгласуването трябва да поддържат темпото и да разширяват разнообразието. В OpenAI инвестираме значително в авангардни изследвания за съгласуваност и безопасност, тъй като това е от решаващо значение за нашата мисия. Също така вярваме, че гарантирането на безопасността и ползата от изкуствения общ интелект за всички не може да бъде постигнато от нито една организация и искаме да подкрепим независими изследвания и концептуални подходи, които могат да бъдат развивани извън авангардните лаборатории. Вярваме, че бъдещето на изкуствения интелект няма да се развие точно както предвижда който и да е човек и че много повече хора трябва да имат участие в крайния резултат.

Днес обявяваме субсидия в размер на 7,5 милиона щатски долара за The Alignment Project⁠(отваря се в нов прозорец), глобален фонд за независимо изследване в областта на съгласуването, създаден от Института за сигурност на ИИ в Обединеното кралство (UK AISI). Renaissance Philanthropy подпомага управлението на субсидията. Този принос помага да превърнем The Alignment Project в едно от най-големите целенасочени усилия за финансиране на независими изследвания в областта на съгласуването досега и укрепва по-широката, независима екосистема.

Авангардни лаборатории като OpenAI са в уникална позиция да провеждат изследвания в областта на съгласуването, които зависят от достъп до авангардни модели и значителни изчислителни ресурси – работа, която често е трудна за проучване от независими изследователи. Ние посвещаваме значителна част от усилията си за вътрешно съгласуване на разработването на мащабируеми методи, за да може напредъкът в съгласуваността да бъде в крак с напредъка в способностите. Вярваме в итеративното внедряване – постепенно увеличаване на възможностите, като същевременно укрепваме предпазните мерки – помага за ранното откриване на проблеми и ни предоставя конкретни доказателства за това какво работи на практика. Отговорното разработване изисква значителна работа по съгласуване и безопасност, която е тясно интегрирана с изграждането и внедряването на моделите.

Редом с това, тази сфера извлича полза от устойчиви инвестиции в независими и експериментални изследвания, които могат да разширят идеите и да разкрият нови посоки. Независимите изследвания остават от съществено значение; в много видове полезни проучвания лабораториите не запазват сравнително предимство. Здравословната екосистема за съгласуване зависи от независими екипи, които тестват разнообразни предположения, разработват алтернативни рамки и проучват концептуални, теоретични и „свободни“ идеи, които може да не се вписват добре в дългосрчоните планове на която и да е организация.

И тъй като напредъкът към изкуствения общ интелект (AGI) в крайна сметка може да зависи от фундаментални пробиви, които променят същността на проблема със съгласуването и от това кои подходи са най-полезни, важно е да се подкрепят изследвания, които биха били важни, дори ако днешните доминиращи методи не се окажат мащабируеми по начина, който очакваме. В такива среди става особено важно да има силна външна екосистема, която извършва фундаментални, концептуални и некорелирани изследвания. Проблемът със съгласуваността и безопасността на ИИ е от безпрецедентна важност и се нуждаем от всички усилия, тъй като все още не знаем кои подходи ще се окажат най-устойчиви, докато възможностите продължават да се развиват.

Нашата субсидия – приблизително 5,6 милиона британски лири по текущите обменни курсове – ще съфинансира проекта „The Alignment Project“⁠(отваря се в нов прозорец) заедно с други публични, филантропски и индустриални поддръжници. Общият фонд надхвърля 27 милиона британски лири и е предназначен да подкрепя широка гама от изследователски проекти в областта на изследванията за съгласуваност по целия свят, обхващащи разнообразни теми, като теория на изчислителната сложност, икономическа теория и теория на игрите, когнитивна наука и теория на информацията и криптография. Отделните проекти обикновено се финансират с между 50 000 и 1 милион паунда и могат също така да получат по избор достъп до изчислителни ресурси и експертна подкрепа.

Нашето финансиране не създава нова програма или процес на подбор, нито влияе на съществуващия процес; то увеличава броя на вече проверените, висококачествени проекти⁠(отваря се в нов прозорец), които могат да бъдат финансирани в текущия кръг.

UK AISI е в добра позиция да насочва финансиране за съгласуваност в този мащаб и обхват. Това създава утвърдена междусекторна коалиция, обхващаща правителството, академичните среди, филантропията и индустрията, заедно с вече функционираща система за предоставяне на субсидии и голям набор от предложения, преминали експертен преглед. Като изследователска организация на правителството на Обединеното кралство в рамките на Министерството на науката, иновациите и технологиите (DSIT), тя също така има мандат, фокусиран върху сериозните рискове от изкуствения интелект, и притежава опит в управлението на програми за финансиране на изследвания.

Тъй като бъдещето на ИИ няма да се развие точно както някой предвижда и може да напредне много бързо, вярваме, че демократизацията, „устойчивостта на ИИ“ и итеративното внедряване са от съществено значение. Докато продължаваме да развиваме нашите авангардни изследвания за съгласуваност и безопасност в OpenAI, напредъкът ще се подпомогне от стабилна, разнообразна и независима екосистема, която следва допълващи се подходи с напредването на възможностите. Тази безвъзмездна помощ е една стъпка към постигането на тази цел. Очакваме с нетърпение да продължим сътрудничеството си с по-широката изследователска общност в хода на развитието на тази сфера.