Pinauunlad ang independiyenteng pananaliksik sa pagkakaayon ng AI

Habang nagiging mas may kakayahan at mas awtonomo ang mga sistema ng AI, kailangang mapanatili ng pananaliksik sa pagkakaayon ang pagkakaiba sa bilis at pagpapalawak. Sa OpenAI, namumuhunan kami nang malaki sa pananaliksik sa pagkakaayon at kaligtasan ng frontier dahil ito ay kritikal sa aming misyon. Naniniwala rin kami na ang pagtiyak na ang AGI ay ligtas at kapaki-pakinabang para sa lahat ay hindi makakamit ng iisang organisasyon, at gusto naming suportahan ang independiyenteng pananaliksik at mga konseptuwal na pamamaraan na maaaring isagawa sa labas ng mga frontier lab. Naniniwala kami na ang hinaharap ng AI ay hindi eksaktong mangyayari gaya ng hinuhulaan ng sinuman, at na mas marami pang tao ang dapat magkaroon ng bahagi sa paghubog ng kalalabasan.

Ngayon, inihahayag namin ang $7.5 milyong gawad sa The Alignment Project⁠(magbubukas sa bagong window), isang pandaigdigang pondo para sa independiyenteng pananaliksik sa pagkakaayon na nilikha ng UK AI Security Institute (UK AISI). Sinusuportahan ng Renaissance Philanthropy ang administrasyon ng gawad. Ang kontribusyong ito ay tumutulong upang gawing isa sa pinakamalaking pagsisikap sa nakatalagang pagpopondo ang The Alignment Project para sa independiyenteng pananaliksik sa pagkakaayon hanggang sa kasalukuyan, at pinatitibay nito ang mas malawak at independiyenteng ekosistema.

Ang mga frontier na lab tulad ng OpenAI ay nasa natatanging posisyon upang isulong ang pananaliksik sa pagkakaayon na nakasalalay sa access sa mga frontier na modelo at makabuluhang pag-compute—trabahong kadalasang mahirap tuklasin ng mga independiyenteng mananaliksik. Inilalaan namin ang malaking bahagi ng aming panloob na pagsisikap sa pagbuo ng mga nasusukat na pamamaraan upang ang pag-usad ng pagkakaayon ay makasabay sa pag-usad ng kakayahan. Naniniwala kami sa paulit-ulit na pag-deploy—ang unti-unting pagpapalawak ng mga kakayahan habang pinatitibay ang mga pananggalang—ay nakatutulong upang mapalitaw ang problema nang maaga at nagbibigay sa amin ng kongkretong ebidensya tungkol sa kung ano ang gumagana sa praktika, at ang responsableng pag-unlad ay nangangailangan ng makabuluhang pagkakaayon at gawain sa kaligtasan na mahigpit na isinama sa pagbuo ng modelo at pag-deploy.

Kasabay nito, nakikinabang ang larangan mula sa tuloy-tuloy na pamumuhunan sa independiyenteng, eksploratoryong pananaliksik—na maaaring magpalawak sa espasyo ng mga ideya at magbunyag ng mga bagong direksyon. Nananatiling mahalaga ang independiyenteng pananaliksik; sa maraming uri ng kapaki-pakinabang na pagsisiyasat, hindi nagtataglay ng komparatibong bentaha ang mga laboratoryo. Ang malusog na ekosistema ng pagkakaayon ay nakasalalay sa mga independiyenteng team na sumusubok ng iba't ibang pagpapalagay, bumubuo ng mga alternatibong balangkas, at nagsasaliksik ng mga konseptuwal, teoretikal, at mga ideyang 'blue-sky' na maaaring hindi madaling umayon sa plano ng alinmang organisasyon.

At dahil ang pag-unlad patungo sa AGI ay maaaring sa huli ay nakasalalay sa mga pangunahing tagumpay na nagbabago sa anyo ng problema sa pagkakaayon at kung aling mga pamamaraan ang pinaka-kapaki-pakinabang, mahalagang suportahan ang pananaliksik na magiging mahalaga kahit na ang mga nangingibabaw na pamamaraan ngayon ay hindi lumaki sa paraang inaasahan natin. Sa mga mundong iyon, nagiging lalo pang mahalaga ang pagkakaroon ng matibay na panlabas na ekosistema na gumagawa ng pundasyunal, konseptuwal, at hindi magkakaugnay na gawain. Wala pang nakahihigit sa kahalagahan ng problema ng pagkakaayon at kaligtasan ng AI, at kailangan natin ang lahat na makiisa dahil hindi pa natin alam kung aling mga pamamaraan ang mapapatunayang pinakamatatag habang patuloy na umuunlad ang mga kakayahan.

Ang gawad sa amin na nasa—humigit-kumulang £5.6 milyon sa kasalukuyang mga halaga ng palitan—ay magko-co-fund sa The Alignment Project⁠(magbubukas sa bagong window) kasama ang iba pang mga tagasuporta mula sa pampubliko, pilantropiko, at industriya. Ang kabuuang pondo ay lumalampas sa £27 milyon at dinisenyo upang suportahan ang malawak na portfolio ng mga proyektong pananaliksik sa pagkakaayon sa buong mundo, na sumasaklaw sa mga paksang kasingkomplikado ng teorya ng computational complexity, teoryang pang-ekonomiya at teorya ng laro, agham kognitibo, at teorya ng impormasyon at kriptograpiya. Ang mga indibidwal na proyekto ay karaniwang pinopondohan ng £50,000 hanggang £1 milyon, at maaari ding makatanggap ng opsyonal na access upang makalkula ang mga mapagkukunan at suporta mula sa mga eksperto.

Ang aming pagpopondo ay hindi lumilikha ng bagong programa o proseso ng pagpili, ni nakaaapekto sa kasalukuyang proseso; pinapataas nito ang bilang ng mga natasa, de-kalidad na proyekto⁠(magbubukas sa bagong window) na maaaring mapondohan sa kasalukuyang panahon.

Mahusay ang posisyon ng UK AISI upang idirekta ang pagpopondo para sa pagkakaayon sa ganitong antas at saklaw. Pinagsasama nito ang matatag na koalisyong cross-sector na sumasaklaw sa gobyerno, akademya, pilantropiya, at industriya, kasama ang pila para sa pagtanggap ng gawad, na kasalukuyan nang gumagalaw at ang maraming panukala na dumaan sa pagsusuri ng mga eksperto. Bilang organisasyon ng pananaliksik ng pamahalaan ng UK sa loob ng Department for Science, Innovation and Technology (DSIT), mayroon din itong mandato na nakatuon sa mga seryosong panganib ng AI at may karanasan sa pagpapatakbo ng mga programa sa pagpopondo ng pananaliksik.

Dahil ang hinaharap ng AI ay hindi eksaktong magaganap gaya ng hinuhulan ninuman—at maaaring umunlad nang napakabilis—naniniwala kami na ang demokrasya, “katatagan ng AI,” at iterative na pag-deploy ay mahalaga. Habang patuloy naming isinusulong ang aming pananaliksik sa pagkakaayon ng frontier at kaligtasan sa OpenAI, makikinabang ang pag-usad mula sa matatag, magkakaiba, at independiyenteng ekosistema na sumusunod sa magkakatugmang pamamaraan habang umuunlad ang mga kakayahan. Ang gawad na ito ay isang hakbang patungo sa layuning iyon. Inaasahan namin ang patuloy na pakikipagtulungan sa mas malawak na komunidad ng pananaliksik habang umuunlad ang larangan.