Jačanje demokratskog nadzora u nacionalnoj sigurnosti

AI mijenja način na koji demokratske vlasti štite svoje građane. Može pomoći u zaustavljanju kibernetičkih napada, zaštiti kritične infrastrukture, ranijem otkrivanju prijetnji i pružanju jasnije slike javnim službenicima tijekom krize. Ako se pravilno upotrebljavaju, ti alati mogu ojačati nacionalnu sigurnost.

Demokratski nadzor pomaže osigurati da uporaba javnih ovlasti ostane odgovorna građanima kojima služi. Budući da AI ubrzava rad u području nacionalne sigurnosti i povećava njegove mogućnosti, institucije odgovorne za nadzor tog rada također moraju držati korak. AI može brzo i u velikim razmjerima djelovati na temelju nepotpunog ili zastarjelog konteksta, pogrešno postavljenih ciljeva ili neusklađenih pretpostavki, zbog čega je pogreške teže ručno otkriti prije nego što se prošire. Nadzor je osobito važan kada se AI upotrebljava za nacionalnu sigurnost jer odluke mogu nužno uključivati tajnost i imati ozbiljne posljedice.

Vođeni našim Načelima nacionalne sigurnosti, sustave za potrebe nacionalne sigurnosti uvodimo uz zaštitne mjere, smislen ljudski prosudbeni doprinos i primjeren nadzor, osobito u situacijama s ozbiljnim posljedicama. Ta načela također daju prednost pomaganju institucijama zaduženima za nadzor da izgrade kapacitete za brz i opsežan nadzor uporabe umjetne inteligencije.

Državne institucije već imaju utvrđene ovlasti i odgovornosti za nadzor aktivnosti povezanih s nacionalnom sigurnošću. Kada AI pridonosi tim aktivnostima, možda će biti potrebno prilagoditi nadzor. Tradicionalni nadzor zahtijeva mnogo rada i postaje gotovo nemoguć kada mali timovi, koji se služe metodama iz doba papira, moraju pregledavati sustave koji rade brzinom stroja.

OpenAI smatra da sposobniji sustavi zahtijevaju snažniji nadzor, a to načelo primjenjujemo i na sebe. U skladu s našim Okvirom pripravnosti, napredni modeli prije uvođenja prolaze rigoroznu provjeru kako bi se razumjele njihove mogućnosti i utvrdilo jesu li zaštitne mjere dostatne. Ta se provjera nastavlja i nakon uvođenja stalnim praćenjem i analizom incidenata, a stečena saznanja služe za jačanje zaštitnih mjera i razvoj budućih modela.

OpenAI nema ulogu nadzora nad državnim tijelima niti bi je trebao imati. Ta odgovornost pripada izabranim dužnosnicima i javnim institucijama osnovanima u tu svrhu. Umjesto toga, svojom tehnologijom možemo poduprijeti nadzorne institucije u izvršavanju njihovih postojećih ovlasti.

Ovaj će se rad temeljiti na trima načelima.

Prvo, AI treba ojačati, a ne zamijeniti ljudsku i institucionalnu prosudbu. Odluke o tome je li postupanje vlasti zakonito, primjereno i usklađeno s važećim pravilima i politikama donose ovlaštena tijela i zakonski uspostavljena nadzorna tijela.

Drugo, državna uporaba umjetne inteligencije treba biti sljediva i razumljiva ovlaštenim nadzornim tijelima. Osobe koje provode provjeru trebaju moći razumjeti kako je AI pridonio odluci, uz zaštitu povjerljivih, privatnih i sigurnosno osjetljivih informacija.

Treće, AI treba služiti osnaživanju institucija demokratskog nadzora. Ručni nadzor državne uporabe umjetne inteligencije nije moguće provoditi u sve većim razmjerima. Kako se AI uvodi u nacionalnu sigurnost i druga područja rada državnih tijela s ozbiljnim posljedicama, trebala bi ga odgovorno, razumljivo i u skladu sa svojim ovlastima upotrebljavati i nadzorna tijela.

Tijekom sljedeće godine ovu inicijativu planiramo unaprijediti na sljedeće načine:

• Surađivat ćemo s ovlaštenim dužnosnicima kako bismo utvrdili praktične prilike u kojima alati umjetne inteligencije ili tehnička podrška mogu povećati učinkovitost nadzora.

• Tijelima demokratskog nadzora državne vlasti osigurat ćemo pet milijuna USD za obuku, tehničku podršku i kredite OpenAI-ja radi odgovornog uvođenja i evaluacije alata umjetne inteligencije.

• Surađivat ćemo s nadzornim institucijama na probnoj primjeni alata koji ovlaštenim osobama pomažu pregledati zapise povezane s odlukama državnih tijela donesenima uz pomoć umjetne inteligencije, uključujući relevantne ulazne i izlazne podatke te uporabu alata, kako bi bolje razumjele utjecaj umjetne inteligencije na ishode. Alati će, gdje god je to izvedivo, biti interoperabilni ili neovisni o modelu. Institucije sudionice, a ne OpenAI, zadržat će nadzor nad dokazima, rezultatima i nalazima, koji će ostati dostupni samo ovlaštenim državnim dužnosnicima.

• Uključit ćemo civilno društvo i tehničke stručnjake kako bi njihova stajališta usmjeravala način na koji OpenAI razvija te alate i pristupa odgovornostima koje oni donose.

AI može koncentrirati moć ili pomoći demokratskim institucijama da je učinkovitije primjenjuju i nadziru. Sama tehnologija neće odlučiti kakva nas budućnost čeka, ali hoće odluke koje ljudske institucije i tvrtke donose danas.

Napredak ove inicijative procjenjivat ćemo prema tome mogu li ovlaštene osobe učinkovitije ispunjavati svoje obveze i ima li javnost više razloga vjerovati da se državni sustavi umjetne inteligencije upotrebljavaju u predviđene svrhe.

Kako se bude razvijala državna uporaba umjetne inteligencije, OpenAI će nastaviti podupirati institucije odgovorne za njezin nadzor.