Demokrātiskās uzraudzības stiprināšana valsts drošībā

MI maina veidu, kā demokrātiskas valdības aizsargā savus iedzīvotājus. Tas var palīdzēt apturēt kiberuzbrukumus, aizsargāt kritisko infrastruktūru, agrāk atklāt apdraudējumus un krīzes laikā sniegt valsts amatpersonām skaidrāku priekšstatu par situāciju. Pareizi izmantoti, šie rīki var stiprināt valsts drošību.

Demokrātiska uzraudzība palīdz nodrošināt, ka publiskās varas izmantošana joprojām ir pakļauta sabiedrības kontrolei. MI ļauj valsts drošības jomā strādāt ātrāk un efektīvāk, tāpēc arī iestādēm, kas uzrauga šo darbu, ir jāspēj turēt līdzi. MI var lielā ātrumā un mērogā rīkoties, balstoties uz nepilnīgu vai novecojušu kontekstu, nepareizi konfigurētiem mērķiem vai neatbilstošiem pieņēmumiem, tādēļ kļūdas ir grūtāk manuāli atklāt, pirms tās izplatās. Uzraudzība ir īpaši svarīga, izmantojot MI valsts drošības jomā, jo lēmumi var būt saistīti ar nepieciešamību ievērot slepenību un tiem var būt nopietnas sekas.

Vadoties pēc mūsu valsts drošības principiem, valsts drošības risinājumu ieviešanā mēs izmantojam aizsardzības pasākumus, nodrošinām jēgpilnu cilvēka spriedumu un pienācīgu uzraudzību, jo īpaši situācijās ar nopietnām sekām. Šie principi arī paredz prioritāri palīdzēt par uzraudzību atbildīgajām iestādēm veidot spējas pārraudzīt MI izmantošanu lielā ātrumā un mērogā.

Valsts iestādēm jau ir noteiktas pilnvaras un pienākumi valsts drošības darbību uzraudzībā. Ja šajās darbībās tiek izmantots MI, iespējams, jāpilnveido arī uzraudzība. Tradicionālā uzraudzība prasa daudz darba un kļūst teju neiespējama, ja nelielām komandām ar papīra laikmeta metodēm jāpārbauda sistēmas, kas darbojas mašīnu ātrumā.

OpenAI uzskata, ka jaudīgākām sistēmām vajadzīga stingrāka uzraudzība, un mēs šo principu attiecinām arī uz sevi. Mūsu Sagatavotības satvars paredz, ka pirms ieviešanas progresīvie modeļi tiek rūpīgi pārbaudīti, lai izprastu to spējas un noteiktu, vai aizsardzības pasākumi ir pietiekami. Šī rūpīgā pārbaude turpinās arī pēc ieviešanas, pastāvīgi uzraugot sistēmas un izvērtējot incidentus, bet gūtās atziņas palīdz pilnveidot aizsardzības pasākumus un turpmāko modeļu izstrādi.

OpenAI neuzrauga valdību, un tam arī nebūtu jāuzņemas šāda loma. Šī atbildība ir vēlētām amatpersonām un šim nolūkam izveidotām valsts iestādēm. Mēs varam ar savu tehnoloģiju atbalstīt uzraudzības iestādes to pašreizējo pilnvaru īstenošanā.

Šajā darbā vadīsimies pēc trim principiem.

Pirmkārt, MI jāstiprina, nevis jāaizstāj cilvēku un iestāžu spriedums. Lēmumi par to, vai valdības rīcība ir likumīga, atbilstoša un saskan ar piemērojamajiem noteikumiem un politiku, jāpieņem pilnvarotām iestādēm un likumīgi izveidotām uzraudzības struktūrām.

Otrkārt, pilnvarotām uzraudzības iestādēm jāspēj izsekot un saprast, kā valdība izmanto MI. Pārbaudītājiem jāspēj saprast, kā MI ir ietekmējis lēmumu, vienlaikus aizsargājot klasificētu, privātu un drošības ziņā sensitīvu informāciju.

Treškārt, MI jāizmanto demokrātisko uzraudzības iestāžu spēju stiprināšanai. Valdības izmantotā MI manuālu uzraudzību nav iespējams izvērst vajadzīgajā mērogā. Ieviešot MI valsts drošības un citās valdības darbības jomās, kur lēmumiem var būt nopietnas sekas, arī uzraudzības iestādēm tas būtu jāizmanto atbildīgi, pārskatāmi un atbilstoši savām pilnvarām.

Nākamajā gadā plānojam attīstīt šo iniciatīvu šādos veidos:

• Mēs sadarbosimies ar pilnvarotām amatpersonām, lai apzinātu praktiskas iespējas, kurās MI rīki vai tehniskais atbalsts var padarīt uzraudzību efektīvāku.

• Mēs piešķirsim demokrātisku valstu uzraudzības iestādēm apmācību, tehnisko atbalstu un OpenAI kredītus 5 miljonu ASV dolāru vērtībā, lai veicinātu atbildīgu MI rīku ieviešanu un izvērtēšanu.

• Mēs sadarbosimies ar uzraudzības iestādēm, lai izmēģinātu rīkus, kas pilnvarotiem pārbaudītājiem palīdz analizēt informāciju par valdības lēmumiem, kuri pieņemti ar MI palīdzību, tostarp attiecīgos ievaddatus, izvaddatus un rīku lietojumu, un labāk izprast MI ietekmi uz rezultātiem. Kad iespējams, rīki būs sadarbspējīgi vai neatkarīgi no konkrēta modeļa. Kontroli pār pierādījumiem, izvaddatiem un konstatējumiem saglabās iesaistītās iestādes, nevis OpenAI, un tie būs pieejami tikai pilnvarotām valsts amatpersonām.

• Mēs iesaistīsim pilsoniskās sabiedrības un tehniskos ekspertus, lai viņu viedoklis palīdzētu OpenAI izstrādāt šos rīkus un pildīt ar tiem saistītos pienākumus.

MI var koncentrēt varu vai palīdzēt demokrātiskām iestādēm efektīvāk īstenot un kontrolēt varu. Tehnoloģija viena pati nenoteiks, kāda būs mūsu nākotne, taču to noteiks izvēles, ko cilvēku veidotās iestādes un uzņēmumi izdara tagad.

Šīs iniciatīvas panākumus vērtēsim pēc tā, vai pilnvaroti pārbaudītāji spēj labāk pildīt savus pienākumus un vai sabiedrībai ir vairāk iemeslu uzticēties, ka valdības MI sistēmas tiek izmantotas paredzētajiem mērķiem.

Valdībām pilnveidojot MI izmantošanu, OpenAI turpinās atbalstīt iestādes, kas atbild par tā uzraudzību.