Унапредување на независни истражувања за усогласување на вештачката интелигенција

Како што системите со вештачка интелигенција стануваат поспособни и поавтономни, истражувањата за усогласеност треба да држат чекор и да ја зголемуваат разновидноста. Во OpenAI, инвестираме значително во истражувања за напредна усогласеност и безбедност, бидејќи тоа е клучно за нашата мисија. Исто така веруваме дека обезбедувањето општа вештачка интелигенција (AGI) да биде безбедна и корисна за сите не може да го постигне ниту една единствена организација и сакаме да поддржиме независни истражувања и концептуални пристапи што може да се следат надвор од најсовремените лаборатории. Ние веруваме дека иднината на вештачката интелигенција нема да се одвива точно како што некој предвидува и дека многу повеќе луѓе треба да имаат удел во обликувањето на исходот.

Денес, објавуваме грант од 7,5 милиони долари за „The Alignment Project“⁠(се отвора во нов прозорец), глобален фонд за независни истражувања за усогласување создаден од Институтот за безбедност на вештачка интелигенција на Обединетото Кралство (UK AISI). Renaissance Philanthropy ја поддржува администрацијата на грантот. Овој придонес помага „The Alignment Project“ да стане еден од најголемите наменски напори за финансирање на независни истражувања за усогласување досега и го зајакнува поширокиот независен екосистем.

Најсовремените лаборатории како OpenAI се во уникатна позиција да спроведуваат истражувања за усогласување што зависат од пристап до најсовремени модели и значајни компјутерски ресурси – работа што често е тешко за независните истражувачи да ја истражат. Голем дел од нашите напори за внатрешно усогласување ги насочуваме кон развивање на скалабилни методи, за напредокот во усогласувањето да биде во чекор со напредокот во способностите. Веруваме дека итеративното распоредување – постепено зголемување на способностите додека се зајакнуваат заштитните мерки – помага да се откријат проблемите рано и ни дава конкретни докази за тоа што функционира во пракса и дека одговорниот развој бара значајна работа на усогласување и безбедност која е тесно интегрирана со градењето и примената на моделот.

Паралелно, областа има корист од континуирани инвестиции во независни, истражувачки проекти – кои можат да го прошират просторот на идеи и да откријат нови насоки. Независното истражување останува неопходно; во многу видови корисни истражувања, лабораториите немаат компаративна предност. Здравиот екосистем за усогласување зависи од независни тимови кои тестираат различни претпоставки, развиваат алтернативни рамки и истражуваат концептуални, теоретски и иновативни идеи кои можеби не се усогласуваат уредно со планот на ниту една организација.

И бидејќи напредокот кон AGI на крајот може да зависи од фундаментални откритија што ја менуваат формата на проблемот на усогласување и кои пристапи се најкорисни, важно е да се поддржи истражување што би било значајно дури и ако денешните доминантни методи не се покажат дека се скалираат на начинот на кој очекуваме. Во тие светови, станува особено важно да се има силен надворешен екосистем кој врши основна, концептуална и некорелирана работа. Проблемот со усогласувањето и безбедноста на вештачката интелигенција е од огромна важност, а ни требаат сите ресурси бидејќи сè уште не знаеме кои пристапи ќе се покажат како најиздржливи додека можностите продолжуваат да се развиваат.

Нашиот грант – приближно 5,6 милиони фунти според тековните девизни курсеви – ќе го кофинансира The Alignment Project⁠(се отвора во нов прозорец) заедно со други јавни, филантропски и индустриски поддржувачи. Вкупниот фонд надминува 27 милиони фунти и е наменет да поддржи широко портфолио на истражувачки проекти за усогласување ширум светот, опфаќајќи теми како што се теорија на пресметковна сложеност, економска теорија и теорија на игри, когнитивна наука и теорија на информации и криптографија. Поединечните проекти обично се финансираат со 50.000 до 1 милион фунти, а може да добијат и опционален пристап до компјутерски ресурси и експертска поддршка.

Нашето финансирање не создава нова програма или процес на селекција, ниту влијае на постојниот процес; го зголемува бројот на веќе проверени, висококвалитетни проекти⁠(се отвора во нов прозорец) што можат да бидат финансирани во тековната рунда.

UK AISI е добро позициониран да насочи финансирање за усогласување на оваа скала и опсег. Тоа носи воспоставена меѓусекторска коалиција што ги опфаќа владата, академијата, филантропијата и индустријата, заедно со процес на доделување грантови што веќе е во тек и голем фонд на предлози што поминале експертска ревизија. Како истражувачка организација на владата на Обединетото Кралство во рамките на Одделот за наука, иновации и технологија (DSIT), таа исто така има мандат фокусиран на сериозни ризици од вештачката интелигенција и има искуство во спроведување програми за финансирање на истражувања.

Бидејќи иднината на вештачката интелигенција нема да се одвива точно како што некој предвидува и може да напредува многу брзо, веруваме дека демократизацијата, „отпорноста на вештачката интелигенција“ и итеративното воведување се од суштинско значење. Додека продолжуваме да ги унапредуваме нашите истражувања за напредна усогласеност и безбедност во OpenAI, напредокот ќе има корист од робустен, разновиден и независен екосистем кој следи комплементарни пристапи како што се развиваат можностите. Овој грант е еден чекор кон таа цел. Со нетрпение очекуваме да продолжиме соработката со пошироката истражувачка заедница како што областа напредува.