Ningkatake riset independen babagan alignment AI

Nalika sistem AI dadi saya mumpuni lan saya otonom, riset alignment kudu bisa ngimbangi kacepetan kasebut lan nambah keragaman ing skala. Ing OpenAI, kita nandur modal gedhe ing riset alignment lan safety tercanggih amarga iki penting tumrap misi kita. Kita uga percaya yen njamin AGI aman lan migunani kanggo kabeh wong ora bisa digayuh dening siji organisasi wae, lan kita pengin ndhukung riset independen lan pendekatan konseptual sing bisa ditindakake ing njaba lab tercanggih.

Dina iki, kita ngumumake hibah $7.5 yuta kanggo The Alignment Project⁠(mbukak ing jendhela anyar), dana global kanggo riset alignment independen sing digawe dening UK AI Security Institute (UK AISI). Renaissance Philanthropy ndhukung administrasi hibah iki. Kontribusi iki mbantu ndadekake The Alignment Project dadi salah siji upaya pendanaan khusus paling gedhe kanggo riset alignment independen nganti saiki lan nguwatake ekosistem independen sing luwih amba.

Lab tercanggih kaya OpenAI nduweni posisi unik kanggo nggarap riset alignment sing gumantung marang akses menyang model tercanggih lan compute sing signifikan—pakaryan sing kerep angel dijelajahi para peneliti independen. Akeh saka upaya alignment internal kita dikhususake kanggo ngembangake metode sing bisa diskalakake supaya kemajuan alignment bisa ngimbangi kemajuan kapabilitas. Kita yakin deployment iteratif—kanthi nambah kapabilitas sethithik-sethithik nalika nguwatake perlindungan—mbantu nduduhake masalah luwih awal lan menehi bukti konkrit babagan apa sing bisa mlaku ing praktik, lan yen pangembangan sing tanggung jawab mbutuhake pakaryan alignment lan safety sing signifikan lan raket terintegrasi karo pambangunan lan deployment model.

Ing wektu sing padha, bidang iki entuk manfaat saka investasi sing lestari ing riset independen sing eksploratif—sing bisa ngembangake ruang gagasan lan nemokake arah anyar. Riset independen tetep penting; ing akeh jinis panaliten sing migunani, lab ora nduweni kauntungan komparatif. Ekosistem alignment sing sehat gumantung marang tim independen sing nguji asumsi sing maneka warna, ngembangake kerangka alternatif, lan njelajah gagasan konseptual, teoretis, lan blue-sky sing bisa uga ora cocog rapi karo roadmap organisasi tartamtu.

Lan amarga kemajuan menyang AGI bisa wae pungkasane gumantung marang terobosan dhasar sing ngowahi wujud masalah alignment lan pendekatan endi sing paling migunani, penting kanggo ndhukung riset sing bakal tetep relevan sanajan metode dominan saiki jebul ora bisa diskala kaya sing kita kira. Ing jagad kaya mengkono, dadi luwih penting nduweni ekosistem eksternal sing kuwat sing nindakake pakaryan dhasar, konseptual, lan ora berkorelasi. Masalah alignment lan safety AI nduweni wigati sing durung tau ana sadurunge, lan kita butuh kabeh pihak melu amarga kita durung ngerti pendekatan endi sing bakal paling awet nalika kapabilitas terus maju.

Hibah kita—kira-kira £5.6 yuta miturut kurs saiki—bakal mbiayai bareng The Alignment Project⁠(mbukak ing jendhela anyar) bebarengan karo panyengkuyung publik, filantropi, lan industri liyane. Total dana iki ngluwihi £27 yuta lan dirancang kanggo ndhukung portofolio amba proyek riset alignment ing saindenging jagad, nyakup topik sing maneka warna kaya teori kompleksitas komputasional, teori ekonomi lan teori game, ilmu kognitif, lan teori informasi lan kriptografi. Proyek individu biasane didanai £50.000 nganti £1 yuta, lan bisa uga uga nampa akses opsional menyang sumber daya compute lan dhukungan ahli.

Pendanaan kita ora nggawe program utawa proses seleksi anyar, uga ora mengaruhi proses sing wis ana; iki nambah jumlah proyek⁠(mbukak ing jendhela anyar) berkualitas tinggi sing wis diverifikasi sing bisa didanai ing putaran saiki.

UK AISI nduweni posisi apik kanggo ngarahake pendanaan alignment ing skala lan jangkauan iki. Lembaga iki nggawa koalisi lintas sektor sing wis mapan, kalebu pamarentah, akademia, filantropi, lan industri, bebarengan karo alur pemberian hibah sing wis mlaku lan kumpulan proposal gedhe sing wis ngalami tinjauan para ahli. Minangka organisasi riset pamarentah UK ing sangisore Department for Science, Innovation and Technology (DSIT), lembaga iki uga nduweni mandat sing fokus marang risiko AI serius lan wis pengalaman ngelola program pendanaan riset.

Amarga masa depan AI ora bakal mlaku persis kaya prediksi sapa wae—lan bisa maju kanthi cepet banget—kita percaya demokratisasi, “ketahanan AI,” lan deployment iteratif iku penting. Nalika kita terus majokake riset alignment lan safety tercanggih ing OpenAI, kemajuan bakal entuk manfaat saka ekosistem independen sing kuwat, maneka warna, lan nggarap pendekatan pelengkap nalika kapabilitas maju. Hibah iki minangka salah siji langkah menyang tujuan kasebut. Kita ngarep-arep terus kolaborasi karo komunitas riset sing luwih amba nalika bidang iki terus maju.