Spodbujanje neodvisnih raziskav na področju usklajevanja umetne inteligence (UI)

Ker postajajo sistemi UI vse zmogljivejši in vse bolj avtonomni, morajo raziskave usklajevanja slediti temu razvoju in hkrati širiti raznolikost pristopov. V OpenAI znatno vlagamo v raziskave usklajevanja in varnosti naprednih sistemov UI, saj so ključne za naše poslanstvo. Prepričani smo tudi, da zagotavljanja varne in za vse koristne SUI ni mogoče doseči z delovanjem ene same organizacije, zato želimo podpreti neodvisne raziskave in konceptualne pristope, ki se lahko razvijajo zunaj naprednih raziskovalnih laboratorijev. Menimo, da se prihodnost UI ne bo razvijala natančno tako, kot jo napoveduje posamezna vizija, ter da bi moralo imeti bistveno več ljudi možnost sooblikovati njen razvoj.

Danes napovedujemo donacijo v višini 7,5 milijona dolarjev projektu The Alignment Project⁠(odpre se v novem oknu), globalnemu skladu za neodvisne raziskave usklajevanja, ki ga je ustanovil UK AI Security Institute (UK AISI). Za administrativno upravljanje donacije skrbi Renaissance Philanthropy. Ta prispevek uvršča The Alignment Project med največje dosedanje namenske pobude financiranja neodvisnih raziskav usklajevanja ter krepi širši, neodvisni ekosistem.

Napredni raziskovalni laboratoriji, kot je OpenAI, so v edinstvenem položaju za izvajanje raziskav usklajevanja, ki temeljijo na dostopu do naprednih modelov UI in znatnih računskih virov, pri čemer je takšno delo za neodvisne raziskovalce pogosto težko dostopno. Velik del naših notranjih prizadevanj na področju usklajevanja namenjamo razvoju skalabilnih metod, da napredek pri usklajevanju sledi napredku zmogljivosti UI. Menimo, da postopno uvajanje, pri katerem se zmogljivosti postopoma povečujejo ob hkratnem krepitvi varovalnih mehanizmov, omogoča zgodnje prepoznavanje težav in zagotavlja konkretne dokaze o tem, kaj v praksi deluje, ter da odgovoren razvoj zahteva obsežno delo na področju usklajevanja in varnosti, ki je tesno povezano z razvojem in uvajanjem modelov UI.

Vzporedno s tem področje napreduje tudi zaradi trajnih vlaganj v neodvisne, raziskovalno usmerjene projekte, ki širijo prostor idej in odpirajo nove smeri raziskovanja. Neodvisne raziskave ostajajo ključnega pomena, saj laboratoriji na številnih področjih smiselnega raziskovanja nimajo primerjalne prednosti. Zdrav ekosistem usklajevanja temelji na neodvisnih ekipah, ki preverjajo različne predpostavke, razvijajo alternativne okvire ter raziskujejo konceptualne, teoretične in vizionarske ideje, ki se morda ne ujemajo neposredno z razvojnimi načrti posamezne organizacije.

Ker je lahko napredek k splošni SUI odvisen od temeljnih prebojev, ki spremenijo naravo problema usklajevanja in vplivajo na to, kateri pristopi so najbolj smiselni, je pomembno podpirati raziskave, ki bi bile relevantne tudi, če bi se današnje prevladujoče metode izkazale za neskalabilne v pričakovanem obsegu. V takšnem razvojnem scenariju je še posebej pomembno, da obstaja močan zunanji raziskovalni ekosistem, ki se ukvarja s temeljnimi, konceptualnimi in med seboj nepovezanimi raziskovalnimi pristopi. Usklajevanje in varnost UI sta po svojem pomenu brez primere, zato so potrebna usklajena prizadevanja vseh, saj še ni jasno, kateri pristopi bodo ob nadaljnjem napredku zmogljivosti dolgoročno najbolj vzdržni.

Naša donacija v višini približno 5,6 milijona britanskih funtov po trenutnem menjalnem tečaju bo skupaj z drugimi javnimi, filantropskimi in industrijskimi podporniki sofinancirala The Alignment Project⁠(odpre se v novem oknu). Skupna vrednost sklada presega 27 milijonov britanskih funtov in je namenjena podpori raznolikega portfelja raziskovalnih projektov s področja usklajevanja po vsem svetu, med drugim na področjih teorije računske zahtevnosti, ekonomske teorije in teorije iger, kognitivne znanosti ter informacijske teorije in kriptografije. Posamezni projekti so praviloma financirani v razponu od 50.000 do 1 milijona britanskih funtov, poleg tega pa imajo lahko dostop do računskih virov in strokovne podpore.

Naše financiranje ne uvaja novega programa ali izbirnega postopka niti ne posega v obstoječi postopek; omogoča pa, da se v trenutnem krogu podpre več že strokovno preverjenih in visokokakovostnih projektov⁠(odpre se v novem oknu).

UK AI Security Institute (UK AISI) je dobro umeščen za usmerjanje financiranja usklajevanja v takšnem obsegu. Združuje uveljavljeno medsektorsko koalicijo, ki povezuje vlado, akademsko sfero, filantropijo in industrijo, hkrati pa razpolaga z že vzpostavljenim sistemom dodeljevanja sredstev ter obsežnim naborom strokovno pregledanih predlogov. Kot raziskovalna organizacija vlade Združenega kraljestva v okviru Ministrstva za znanost, inovacije in tehnologijo (DSIT) ima tudi mandat, osredotočen na resna tveganja umetne inteligence, in je izkušena pri izvajanju programov financiranja raziskav.

Ker se prihodnost UI ne bo razvijala natančno tako, kot jo napoveduje kdorkoli, in ker se lahko razvoj pospeši hitreje, kot pričakujemo, menimo, da so demokratizacija, odpornost UI ter iterativno uvajanje ključnega pomena. Ob nadaljnjem razvoju naprednih raziskav usklajevanja in varnosti v OpenAI bo napredek podprt z robustnim, raznolikim in neodvisnim ekosistemom, ki razvija dopolnjujoče pristope ob nadaljnjem napredovanju zmogljivosti. Ta donacija predstavlja enega izmed korakov v tej smeri. Veselimo se nadaljnjega sodelovanja s širšo raziskovalno skupnostjo ob nadaljnjem razvoju področja.