Veicinot neatkarīgus pētījumus par mākslīgā intelekta saskaņošanu

Mākslīgā intelekta sistēmām kļūstot arvien spējīgākām un autonomākām, saskaņošanas pētījumiem ir jāiet kopsolī ar šīm tendencēm un jāpaplašina daudzveidība. OpenAI veic ievērojamus ieguldījumus robežšķirtnes saskaņošanas un drošības pētījumos, jo tas ir kritiski svarīgi mūsu misijai. Mēs arī uzskatām, ka nodrošināt, lai mākslīgais vispārējais intelekts būtu drošs un noderīgs ikvienam, nevar panākt tikai viena atsevišķa organizācija, un vēlamies atbalstīt neatkarīgus pētījumus un konceptuālas pieejas, ko var īstenot ārpus robežšķirtnes laboratorijām. Mēs uzskatām, ka mākslīgā intelekta nākotne neattīstīsies tieši tā, kā to paredz, un ka daudz vairāk cilvēkiem vajadzētu būt iesaistītiem iznākuma veidošanā.

Šodien mēs paziņojam par 7,5 miljonu USD dotāciju The Alignment Project⁠(atveras jaunā logā), globālam fondam neatkarīgiem saskaņotības pētījumiem, ko izveidojis Apvienotās Karalistes MI Drošības institūts (UK AISI). Granta administrēšanu palīdz nodrošināt Renaissance Philanthropy. Šis ieguldījums palīdz padarīt The Alignment Project par vienu no līdz šim lielākajiem mērķtiecīgajiem finansēšanas centieniem neatkarīgiem saskaņotības pētījumiem un stiprina plašāku, neatkarīgu ekosistēmu.

Tādas robežšķirtnes laboratorijas kā OpenAI ir unikālā pozīcijā, lai veiktu saskaņošanas pētījumus, kas prasa piekļuvi robežšķirtnes modeļiem un ievērojamiem skaitļošanas resursiem – tas ir darbs, ko neatkarīgiem pētniekiem bieži ir grūti veikt. Mēs lielu daļu savu iekšējās saskaņošanas centienu veltām mērogojamu metožu izstrādei, lai saskaņošanas progress neatpaliktu no spēju progresa. Mēs uzskatām, ka iteratīva ieviešana – pakāpeniski palielinot spējas un vienlaikus stiprinot aizsardzības pasākumus – palīdz savlaicīgi atklāt problēmas un sniedz mums konkrētus pierādījumus par to, kas praksē darbojas. Atbildīgai izstrādei ir nepieciešams būtisks saskaņošanas un drošības darbs, kas ir cieši integrēts ar modeļa izstrādi un izvietošanu.

Vienlaikus šī joma gūst labumu no pastāvīgiem ieguldījumiem neatkarīgā, izpētes rakstura pētniecībā, kas var paplašināt ideju telpu un atklāt jaunus virzienus. Neatkarīga izpēte joprojām ir būtiska; daudzos noderīgas izpētes veidos laboratorijām nav salīdzinošu priekšrocību. Veselīgai saskaņošanas ekosistēmai ir vajadzīgas neatkarīgas komandas, kas pārbauda dažādus pieņēmumus, izstrādā alternatīvus ietvarus un pēta konceptuālas, teorētiskas un inovatīvas idejas, kas var precīzi neatbilst nevienas atsevišķas organizācijas plānam.

Un, tā kā progress ceļā uz mākslīgo vispārējo intelektu galu galā var būt atkarīgs no fundamentāliem atklājumiem, kas maina saskaņošanas problēmas raksturu un to, kuras pieejas ir visnoderīgākās, ir svarīgi atbalstīt pētījumus, kuriem būtu nozīme pat tad, ja izrādītos, ka šodien dominējošās metodes nav mērogojamas tā, kā mēs gaidām. Šādās pasaulēs kļūst īpaši svarīgi, lai būtu spēcīga ārējā ekosistēma, kas veic fundamentālu, konceptuālu un nesaistītu darbu. Mākslīgā intelekta saskaņotības un drošības problēma ir ārkārtīgi svarīga, un mums ir nepieciešama visu iesaistīšanās, jo mēs vēl nezinām, kuras pieejas būs visizturīgākās, spējām turpinot attīstīties.

Mūsu dotācija – aptuveni 5,6 miljoni GBP pēc pašreizējiem valūtas maiņas kursiem – līdzfinansēs The Alignment Project⁠(atveras jaunā logā) kopā ar citiem publiskā sektora, filantropijas un nozares atbalstītājiem. Kopējais fonds pārsniedz 27 miljonus GBP un ir paredzēts, lai atbalstītu plašu saskaņošanas pētniecības projektu portfeli visā pasaulē, aptverot tik dažādas tēmas kā skaitļošanas sarežģītības teorija, ekonomikas teorija un spēļu teorija, kognitīvā zinātne, kā arī informācijas teorija un kriptogrāfija. Atsevišķiem projektiem parasti tiek piešķirts finansējums no 50 000 līdz 1 miljonam GBP, un tie var saņemt arī papildu piekļuvi skaitļošanas resursiem un ekspertu atbalstu.

Mūsu finansējums nerada jaunu programmu vai atlases procesu, nedz arī ietekmē esošo procesu; tas palielina jau pārbaudītu augstas kvalitātes projektu⁠(atveras jaunā logā) skaitu, kurus var finansēt pašreizējā kārtā.

UK AISI ir labi pozicionēta, lai novirzītu saskaņošanas finansējumu šādā mērogā un diapazonā. Tā apvieno starpnozaru koalīciju, kas aptver valdību, akadēmisko vidi, filantropiju un rūpniecību, kā arī jau uzsāktu dotāciju piešķiršanas procesu un lielu, ekspertu pārskatītu priekšlikumu kopumu. Kā Apvienotās Karalistes valdības pētniecības organizācija, kas darbojas Zinātnes, inovāciju un tehnoloģiju departamenta (DSIT) ietvaros, tai ir arī mandāts, kas vērsts uz nopietniem mākslīgā intelekta riskiem, un tai ir pieredze pētniecības finansēšanas programmu īstenošanā.

Tā kā mākslīgā intelekta nākotne neizvērsīsies tieši tāda, kā tiek prognozēta, un tā var attīstīties ļoti ātri, mēs uzskatām, ka būtiska ir demokratizācija, "mākslīgā intelekta elastība" un pakāpeniska ieviešana. Kamēr OpenAI turpina virzīt uz priekšu savus robežšķirtnes saskaņošanas un drošības pētījumus, progress gūs labumu no spēcīgas, daudzveidīgas, neatkarīgas ekosistēmas, kas, iespējām attīstoties, īsteno savstarpēji papildinošas pieejas. Šis piešķīrums ir viens solis ceļā uz šo mērķi. Šai jomai attīstoties, mēs ceram turpināt sadarbību ar plašāko pētniecības kopienu.