Krepitev demokratičnega nadzora nad nacionalno varnostjo

Umetna inteligenca spreminja način, kako demokratične vlade varujejo svoje prebivalstvo. Pomaga lahko preprečevati kibernetske napade, varovati kritično infrastrukturo, prej odkrivati grožnje in javnim uslužbencem omogočiti jasnejši pregled nad kriznimi razmerami. Če se ta orodja uporabljajo premišljeno, lahko okrepijo nacionalno varnost.

Demokratični nadzor pomaga zagotavljati, da izvajalci javne oblasti odgovarjajo ljudem, ki jim služijo. Ker umetna inteligenca omogoča hitrejše in zmogljivejše delovanje na področju nacionalne varnosti, morajo temu razvoju slediti tudi pristojne nadzorne institucije. Umetna inteligenca lahko hitro in v velikem obsegu deluje na podlagi manjkajočega ali zastarelega konteksta, napačno nastavljenih ciljev ali neusklajenih predpostavk, zato je napake težje ročno odkriti, preden se razširijo. Nadzor nad uporabo umetne inteligence za nacionalno varnost je še posebej pomemben, saj morajo biti odločitve včasih tajne in imajo lahko zelo resne posledice.

V skladu z našimi načeli nacionalne varnosti uvajanje rešitev na področju nacionalne varnosti spremljamo z zaščitnimi ukrepi, tehtno človeško presojo in ustreznim nadzorom, zlasti v okoliščinah z resnimi posledicami. Ta načela med prednostne naloge uvrščajo tudi pomoč pristojnim institucijam pri razvijanju zmogljivosti za hiter in obsežen nadzor uporabe umetne inteligence.

Državne institucije že imajo določena pooblastila in odgovornosti za nadzor dejavnosti na področju nacionalne varnosti. Ko pri teh dejavnostih sodeluje umetna inteligenca, se bo morda moral razvijati tudi nadzor. Tradicionalni nadzor zahteva veliko dela in postane skoraj neizvedljiv, ko morajo majhne ekipe z metodami iz papirne dobe pregledovati sisteme, ki delujejo s hitrostjo strojev.

OpenAI meni, da zmogljivejši sistemi zahtevajo strožji nadzor, in to načelo uporablja tudi pri svojem delu. V skladu z našim Okvirom pripravljenosti so napredni modeli pred uvedbo temeljito pregledani, da bi razumeli njihove zmogljivosti in ugotovili, ali so zaščitni ukrepi zadostni. Ta presoja se po uvedbi nadaljuje s stalnim spremljanjem in pregledovanjem incidentov, pridobljena spoznanja pa prispevajo k boljšim zaščitnim ukrepom in prihodnjemu razvoju modelov.

OpenAI nima nadzorne vloge nad vlado in je tudi ne bi smel imeti. Ta odgovornost pripada izvoljenim predstavnikom in javnim institucijam, ustanovljenim v ta namen. Nadzorne institucije pa lahko pri izpolnjevanju njihovih obstoječih nalog podpremo s svojo tehnologijo.

Pri tem delu nas bodo vodila tri načela.

Prvič, umetna inteligenca mora krepiti, ne nadomeščati človeške in institucionalne presoje. Odločanje o tem, ali je ravnanje vlade zakonito, ustrezno ter skladno z veljavnimi pravili in politikami, je v pristojnosti pooblaščenih organov in zakonito ustanovljenih nadzornih teles.

Drugič, pooblaščenim nadzornim organom mora biti omogočeno slediti uporabi umetne inteligence v vladi in jo razumeti. Pregledovalci morajo biti sposobni razumeti, kako je umetna inteligenca prispevala k odločitvi, ob hkratnem varovanju tajnih in zasebnih podatkov ter informacij, občutljivih z vidika varnosti.

Tretjič, umetno inteligenco je treba uporabljati za krepitev demokratičnih nadzornih institucij. Ročnega nadzora nad uporabo umetne inteligence v vladi ni mogoče izvajati v potrebnem obsegu. Ko se umetna inteligenca uvaja na področju nacionalne varnosti in pri drugih pomembnih nalogah vlade z resnimi posledicami, jo morajo odgovorno, pregledno in skladno s svojimi pooblastili uporabljati tudi nadzorni organi.

V prihodnjem letu nameravamo pobudo razvijati na naslednje načine:

• S pooblaščenimi uradniki bomo iskali praktične priložnosti, pri katerih bi lahko orodja umetne inteligence ali tehnična podpora izboljšali učinkovitost nadzora.

• Demokratičnim državnim nadzornim organom bomo namenili 5 milijonov USD za usposabljanje, tehnično podporo in točke OpenAI ter tako podprli odgovorno uvajanje in vrednotenje orodij umetne inteligence.

• Z nadzornimi institucijami bomo preizkusili orodja, ki bodo pooblaščenim pregledovalcem pomagala preučiti dokumentacijo o odločitvah vlade, sprejetih s pomočjo umetne inteligence, vključno z ustreznimi vhodnimi in izhodnimi podatki ter uporabo orodij, da bi bolje razumeli vpliv umetne inteligence na rezultate. Kjer bo izvedljivo, bodo orodja interoperabilna ali neodvisna od posameznega modela. Nadzor nad dokazili, izhodnimi podatki in ugotovitvami bodo ohranile sodelujoče institucije, ne OpenAI, ti podatki pa bodo še naprej na voljo samo pooblaščenim državnim uradnikom.

• K sodelovanju bomo pritegnili civilno družbo in tehnične strokovnjake, da bodo njihovi pogledi usmerjali OpenAI pri razvoju teh orodij in izpolnjevanju odgovornosti, ki jih prinašajo.

Umetna inteligenca lahko moč skoncentrira ali pa demokratičnim institucijam pomaga, da jo učinkoviteje izvajajo in nadzorujejo. O tem, kakšna prihodnost nas čaka, ne bo odločala le tehnologija, temveč odločitve, ki jih zdaj sprejemajo institucije in podjetja.

Napredek te pobude bomo presojali po tem, ali lahko pooblaščeni pregledovalci bolje izpolnjujejo svoje obveznosti in ali ima javnost več razlogov za zaupanje, da se vladni sistemi umetne inteligence uporabljajo skladno s predvidenim namenom.

Med nadaljnjim razvojem uporabe umetne inteligence v vladi bo OpenAI še naprej podpiral institucije, pristojne za njen nadzor.