Standarti nākamajam MI attīstības posmam
Mūsu misija ir panākt, lai mākslīgais vispārējais intelekts sniegtu labumu visai cilvēcei. Kā nesen izklāstīja Sems Altmans un Jakubs Pahockis, ceļā uz šīs misijas īstenošanu mēs par prioritāriem izvirzām trīs galvenos mērķus:
Sekmīgi pārvarēt nākamo MI attīstības posmu, izveidojot automatizētu MI pētnieku, kopā ar to pilnveidojot salāgošanas risinājumus un rodot veidus, kā cilvēkiem saglabāt dalību pašpilnveides ciklā.
Nodrošināt ieguvumus, ko sniedz ļoti intelektisku mašīnu veicināts zinātnes progress un ekonomikas izaugsme.
Nodrošināt ikvienam personīgu AGI, kas paplašina viņa iespējas.
MI paātrina mūsu pētniecību un inženieriju, un MI atbalstīta pētniecība ir ļāvusi gūt panākumus matemātikā, tostarp Navjē–Stoksa tūkstošgades problēmas risināšanā. Šis progress ir ļoti daudzsološs arī attiecībā uz abiem pārējiem mūsu mērķiem un var sekmēt nozīmīgus atklājumus medicīnā, plaši pieejamu veselības aprūpi un mazo uzņēmumu un individuālo uzņēmēju ekonomisko iespēju paplašināšanu visā pasaulē.
MI attīstās daudzos uzņēmumos un valstīs, un visas nozares progress maina iespējas un izaicinājumus, ar kuriem saskaramies mēs visi. Papildus citiem ieguvumiem spējīgs un salāgots MI būs būtisks šīs pārejas pārvarēšanā — tas stiprinās aizsardzību, veicinās salāgošanas pētniecību un palīdzēs cilvēkiem izprast un virzīt nākamos MI attīstības posmus.
Lai šo pāreju īstenotu droši, salāgošanas pētniecībai ir jātiek līdzi šo spēju attīstībai, nodrošinot, ka mūsu un citu veidotās sistēmas joprojām atbilst cilvēku vērtībām un ir cilvēku kontrolē. Tas kļūst arvien svarīgāk, MI sistēmām iegūstot plašākas spējas un lielāku autonomiju, tostarp pārņemot arvien vairāk pašas MI pētniecības un izstrādes darba. Lai turpmāka MI attīstība būtu droša un izdevīga, būs vajadzīgi gan sasniegumi salāgošanas pētniecībā, gan kopīgi standarti, kas virza izstrādi dažādās laboratorijās un valstīs.
Automatizētā MI pētniecībā iespējamas dažādas cilvēku uzraudzības pakāpes. MI sistēmām uzņemoties arvien lielāku daļu darba pie nākamo MI paaudžu izstrādes, tās var aizvien vairāk virzīt rekursīvas pašpilnveides (RSI) procesu, pat ja tajā joprojām piedalās cilvēki. Šim procesam kļūstot automatizētākam, MI attīstības temps varētu strauji pieaugt.
Mēs uzskatām, ka automatizēta MI pētniecība radīs modeļus, kas tieši uzlabos cilvēku dzīvi. Tā var samazināt progresīva intelekta izmaksas, lai tā sniegtās priekšrocības būtu pieejamas cilvēkiem visā pasaulē. Automatizēta pētniecība varētu arī palīdzēt mums būtiski uzlabot salāgošanu un izstrādāt aizsardzību pret arvien spējīgāku MI — automatizēts MI pētnieks var būt arī automatizēts MI drošības pētnieks. Spējīgākas un labāk salāgotas sistēmas varētu palīdzēt aizsargāt kritisko infrastruktūru, aizstāvēties pret bīstamiem MI aģentiem un izstrādāt jaunus aizsardzības pasākumus.
Pilnīgi autonoma RSI pašlaik nenotiek, un mums uz to nevajadzētu tiekties, kamēr nav iespējams to īstenot droši. Lēmumam par to, vai un kā turpināt, jābūt atkarīgam no mūsu spējas saglabāt cilvēku kontroli un no informētas demokrātiskas izvēles(atveras jaunā logā) par ieguvumiem un riskiem. Ja RSI īstenotu bez pienācīgas rūpības un piesardzības, cilvēki varētu zaudēt praktisku kontroli pār MI attīstību un vairs nespētu uzraudzīt pētniecības procesus, kurus nesaprot. Šādā situācijā MI varētu kļūt bīstamāks, mazāk salāgots un kopumā apdraudēt cilvēkus. Mūsu atklātais Hugging Face incidents, lai gan nebija tiešas RSI sekas, sniedz priekšstatu par riskiem, kas bez stingriem aizsargpasākumiem un salāgošanas varētu kļūt daudz nopietnāki.
Starptautiskie drošuma un drošības prakses standarti robežšķirtnes MI izstrādē var būt tikpat svarīgi robežšķirtnes attīstības tempa regulēšanai kā pati salāgošanas pētniecība. Standarti var ieviest kopīgas kvalitatīvu pierādījumu definīcijas un saskaņotu tehnisko aizsargpasākumu stingrības pamatlīmeni. Īsumā — tie palīdz atbildēt uz jautājumu: „Kāda ir laba katastrofāla MI riska mazināšana?”
Šajā darbā var palīdzēt gan esošās demokrātiskās institūcijas, piemēram, MI standartu un inovāciju centrs (CAISI), gan štatu tiesību akti un federāla MI sistēma, kā arī jauni publiskās un privātās partnerības veidi(atveras jaunā logā). Taču MI izstrāde un ieviešana notiek vairākās valstīs, tā lietošana izplatās visā pasaulē, un tā ietekmi, visticamāk, agrāk vai vēlāk kaut kādā veidā izjutīs ikviens.
Tāpēc ir vajadzīgi starptautiski centieni izstrādāt standartus, lai risinātu vairākas būtiskas problēmas:
Sadrumstalotība — dažādu valstu vērtēšanas metodes, ziņošanas prasības un incidentu definīcijas var būt pretrunīgas, apgrūtinot pierādījumu salīdzināšanu, jauno spēju izpratni un reaģēšanu uz pārrobežu riskiem.
Kolektīva rīcība — katrai valstij rīkojoties atsevišķi, var rasties rezultāti, kurus nevēlas neviena valsts. RSI spēj paātrināt pašu MI pētniecību, iespējams, pārsniedzot mūsu kopīgās spējas izprast progresu, novērtēt riskus un saglabāt jēgpilnu cilvēku uzraudzību.
Nevienmērīgas spējas — robežšķirtnes izstrāde un ar to saistītās speciālās zināšanas pasaulē nav sadalītas vienmērīgi. Tas saasina abas iepriekš minētās problēmas.
Šīs problēmas attiecas gan uz atvērtajiem, gan slēgtajiem modeļiem.
Skaidrības labad — ikvienai MI laboratorijai, kas veic automatizētu MI pētniecību vai attīsta citas progresīvas spējas, jāuzņemas atbildība par drošu rīcību atbilstoši pašatbildības pamatprincipiem un spēkā esošajiem tiesību aktiem. Mūsu pamatojums standartu ieviešanai izriet no vēlmes nepieļaut varas koncentrāciju un panākt labākus praktiskos rezultātus. Standarti ļauj plašākam ārpus laboratorijām esošo ieinteresēto pušu lokam piedalīties šīs tehnoloģijas attīstības virziena noteikšanā un nodrošina pārskatāmu principu kopumu, uz kuru var paļauties neatkarīgi no konkrētas laboratorijas prakses. Turklāt, pusēm sadarbojoties iepriekš minēto problēmu risināšanā, mēs, visticamāk, sasniegsim labākus rezultātus.
Tāpēc mēs uzskatām, ka Amerikas Savienotajām Valstīm jāvada centieni kopā ar pasaules valstīm izstrādāt globālus tehniskos standartus robežšķirtnes MI, tostarp RSI, jomā.
Lai gan sagaidām, ka šī koncepcija laika gaitā būtiski attīstīsies, izšķiroši būs divi aspekti.
Viens no risinājumiem būtu izmantot topošo MI drošības institūtu tīklu — tostarp institūtus, kas jau izveidoti Austrālijā, Kanādā, Vācijā, Francijā, Kenijā, Japānā, Korejā, Singapūrā, Indijā un Apvienotajā Karalistē —, lai ar CAISI un valstu nozaru organizāciju starpniecību veicinātu standartu noteikšanu, īpašu uzmanību pievēršot (1) robežšķirtnes MI modeļiem un izstrādātājiem, ko vērtē pēc spēju etalonrādītājiem, un (2) automatizētas MI pētniecības, tostarp RSI, ieguvumu un risku pārvaldībai. Amerikas Savienotās Valstis var turpināt CAISI 2024. gadā sākto darbu, izveidojot Starptautisko progresīva MI mērīšanas, vērtēšanas un zinātnes tīklu(atveras jaunā logā), kas apvieno publiskās institūcijas sadarbībai MI mērīšanas, vērtēšanas un zinātnes jomā.
Šajos centienos izstrādātie standarti nodrošinātu kopīgu tehnisko pamatu spēju mērīšanai un vērtēšanai, risku novērtēšanai un aizsargpasākumu pietiekamības noteikšanai. Šie tehniskie standarti nebūtu MI modeļu licences, obligātas pārbaudes pirms izlaišanas vai apstiprināšanas prasības. Valstu valdības pašas lemtu, vai un kā šos standartus iekļaut savās tiesību sistēmās.
Šim darbam būtu arī jāveicina konkurētspējīga MI ekosistēma, konsultējoties ar atvērto un slēgto modeļu izstrādātājiem, neatkarīgiem tehniskajiem ekspertiem un akadēmisko aprindu pārstāvjiem. Kopīgie standarti jāizstrādā pārredzami un tā, lai tie neradītu priekšrocības konkrētiem uzņēmumiem, valstīm vai uzņēmējdarbības modeļiem, tostarp neapgrūtinot jaunu tirgus dalībnieku vai atvērtu svaru modeļu izstrādātāju konkurētspēju.
Kā jau esam ierosinājuši(atveras jaunā logā), šajā pieejā var izmantot pieredzi no tādām jomām kā aviācija un finanšu stabilitāte, kur valstis ir izstrādājušas kopīgus tehniskos standartus un uzticamus sadarbības kanālus, neatsakoties no savas varas. Tai būtu arī cieši jāsadarbojas ar jau izveidotām un jaunākām standartizācijas organizācijām, piemēram, ISO(atveras jaunā logā), Robežšķirtnes modeļu forumu(atveras jaunā logā), Autonomā MI fondu(atveras jaunā logā) un Atvērtā un drošā MI aliansi(atveras jaunā logā), kā arī ar organizācijām, kas pievēršas ieviešanai, piemēram, Appia fondu, kurš izstrādā praktiskas specifikācijas starptautisko standartu sasaistīšanai ar MI vērtēšanu reālajā pasaulē.
Starptautiskajiem MI standartiem būs īpaši būtiska nozīme, pārvaldot pieaugošo autonomiju MI pētniecībā un rekursīvo pašpilnveidi. Konkrētāk, tie varētu ietvert standartus šādām jomām:
Ar RSI saistītā MI progresa un MI uzņēmumā notiekošās autonomās pētniecības apjoma vērtēšana. Mūsu nesenais ziņojums par pētniecības paātrināšanu ir sākotnējs ieguldījums šajos centienos.
Automatizētas MI pētniecības uzraudzība, ko veic cilvēki, tostarp nosakot, kādiem automatizētās MI pētniecības procesiem nepieciešama tūlītēja cilvēka pārbaude.
Ar salāgošanu un automatizētu MI pētniecību saistītu incidentu klasificēšana, uzskaite, ziņošana un reaģēšana, tostarp vienoti incidentu smaguma līmeņi un ziņošanas sliekšņi. Mūsu sistēma ziņošanai par neatbilstību ir sākotnējs ieguldījums.
Papildus šiem standartiem, mūsuprāt, kritiskās infrastruktūras operatoriem un valdībām visā pasaulē būs svarīgi izveidot drošus saziņas kanālus, kuros apmainīties ar informāciju par valsts drošības jautājumiem, jaunām ievainojamībām un apdraudējumiem, kā arī labāko praksi strauji mainīgajā robežšķirtnes MI drošības jomā. Dialogs starp Amerikas Savienotajām Valstīm un Ķīnu šajās jomās būtu pozitīvs solis, un gaidāmās sarunas notiks piemērotā brīdī.
MI attīstības tempa regulēšana nenozīmē iepriekš noteikta ātruma uzturēšanu. No tehniskā viedokļa tas nozīmē gādāt, lai salāgošanas pētniecība un tās rezultātu ieviešana apsteigtu spēju attīstību. No sabiedrības viedokļa tas nozīmē izmantot standartus, institūcijas un sadarbību, lai stiprinātu nozaru tīklus, sabiedriskās attiecības un tirgus spēkus un panāktu abpusēji izdevīgus rezultātus. Nesenais aicinājums kopīgi rīkoties kiberaizsardzības jomā ir šādas pieejas piemērs.
Amerikas Savienotajām Valstīm ir labas iespējas uzņemties vadību, jo to MI nozare atrodas tehnoloģiju robežšķirtnē un valsts joprojām ieņem privileģētu vietu pasaules tīklos tādās būtiskās jomās kā finanses, tirdzniecība, aizsardzība, tehnoloģijas un informācijas sistēmas. No tā, vai Amerikas Savienotās Valstis uzņemsies vadību tagad, būs atkarīgs, vai tās veidos globālo MI sistēmu vai tikai vēros, kā tām apkārt nostiprinās sadrumstalota, nevienmērīga un konfliktu pārņemta sistēma. Tas noteiks arī to, vai progresīvs MI stiprinās Amerikas Savienoto Valstu un to sabiedroto jau izveidotos tīklus; nespēja uzņemties vadību var tos vājināt.
Ģeopolitiskajā konkurencē nozīme būs ne tikai tam, kurš tehniski ir priekšā, bet arī MI ieviešanai un izplatībai. Arvien biežāk to var noteikt tas, kurš veicina praktisku sadarbību un saprātīgus spēles noteikumus, ko uzņēmumi un sabiedrības visā pasaulē vēlēsies, lai šai tehnoloģijai uzticētu savu nākotni.
Stingra valsts līmeņa pārvaldība kopā ar praktisku starptautisko sadarbību paver ceļu uz drošākiem aizsargpasākumiem, nepārtrauktu inovāciju un plašu piekļuvi MI sniegtajiem ieguvumiem.
