Jačanje demokratskog nadzora u nacionalnoj sigurnosti

AI mijenja način na koji demokratske vlade štite svoje građane. Može pomoći u zaustavljanju kibernetičkih napada, zaštiti kritične infrastrukture, ranijem otkrivanju prijetnji i pružanju jasnije slike javnim službenicima tokom krize. Ako se pravilno koriste, ovi alati mogu ojačati nacionalnu sigurnost.

Demokratski nadzor pomaže osigurati da korištenje javnih ovlaštenja ostane odgovorno građanima kojima služi. Dok AI ubrzava i unapređuje rad u oblasti nacionalne sigurnosti, institucije odgovorne za nadzor tog rada također moraju držati korak. AI može velikom brzinom i u velikom obimu djelovati na osnovu nepotpunog ili zastarjelog konteksta, pogrešno postavljenih ciljeva ili neusklađenih pretpostavki, zbog čega je greške teže ručno otkriti prije nego što se prošire. Nadzor je posebno važan kada se AI koristi za nacionalnu sigurnost jer odluke ponekad nužno uključuju tajnost i mogu imati dalekosežne posljedice.

Vođeni našim Načelima nacionalne sigurnosti, uvođenju sistema za nacionalnu sigurnost pristupamo uz zaštitne mjere, smisleno ljudsko prosuđivanje i odgovarajući nadzor, posebno u okolnostima s ozbiljnim posljedicama. Ova načela također daju prioritet pomaganju nadležnim institucijama da izgrade kapacitete za nadzor korištenja AI-ja velikom brzinom i u velikom obimu.

Državne institucije već imaju utvrđena ovlaštenja i odgovornosti za nadzor aktivnosti nacionalne sigurnosti. Kada AI doprinosi tim aktivnostima, možda će se morati razvijati i nadzor. Tradicionalni nadzor zahtijeva mnogo rada i postaje gotovo nemoguć kada se od malih timova koji koriste metode iz doba papirne dokumentacije traži da pregledaju sisteme koji rade brzinom mašine.

OpenAI smatra da sposobniji sistemi zahtijevaju snažniji nadzor, a to načelo primjenjujemo i na sebe. U skladu s našim dokumentom Okvir pripravnosti, napredni modeli prolaze temeljitu provjeru prije uvođenja kako bismo razumjeli njihove sposobnosti i utvrdili jesu li zaštitne mjere dovoljne. Ta se provjera nastavlja i nakon uvođenja kroz stalno praćenje i analizu incidenata, a stečena saznanja koristimo za jačanje zaštitnih mjera i razvoj budućih modela.

OpenAI ne nadzire vladu niti bi to trebao činiti. Ta odgovornost pripada izabranim zvaničnicima i javnim institucijama osnovanim u tu svrhu. Umjesto toga, svojom tehnologijom možemo podržati nadzorne institucije dok izvršavaju postojeće mandate.

Ovaj rad vodit će tri načela.

Prvo, AI treba jačati, a ne zamijeniti ljudsko i institucionalno prosuđivanje. Odluke o tome je li postupanje vlade zakonito, primjereno i usklađeno s važećim pravilima i politikama pripadaju ovlaštenim organima i zakonski uspostavljenim nadzornim tijelima.

Drugo, korištenje AI-ja u državnim organima treba biti sljedivo i razumljivo ovlaštenim nadzornim tijelima. Osobe koje vrše nadzor trebaju moći razumjeti kako je AI doprinio odluci, uz zaštitu povjerljivih i privatnih podataka te informacija osjetljivih sa sigurnosnog stanovišta.

Treće, AI treba koristiti za osnaživanje institucija demokratskog nadzora. Ručni nadzor korištenja AI-ja u državnim organima nije moguće provoditi u većem obimu. Dok se AI usvaja u nacionalnoj sigurnosti i drugim državnim poslovima s ozbiljnim posljedicama, nadzorna tijela također ga trebaju koristiti odgovorno, razumljivo i u skladu sa svojim mandatima.

Tokom naredne godine planiramo unaprijediti ovu inicijativu na sljedeće načine:

• Sarađivat ćemo s ovlaštenim zvaničnicima kako bismo prepoznali praktične prilike u kojima alati AI-ja ili tehnička podrška mogu učiniti nadzor djelotvornijim.

• Demokratskim državnim nadzornim tijelima osigurat ćemo pet miliona američkih dolara za obuku, tehničku podršku i kredite kompanije OpenAI radi podrške odgovornom usvajanju i procjeni alata AI-ja.

• S nadzornim institucijama testirat ćemo alate koji ovlaštenim osobama pomažu pregledati evidenciju povezanu s odlukama državnih organa donesenim uz pomoć AI-ja, uključujući relevantne ulazne i izlazne podatke te korištenje alata, kako bi bolje razumjele utjecaj AI-ja na ishode. Gdje god je to moguće, alati će biti interoperabilni ili neovisni o modelu. Institucije učesnice, a ne OpenAI, zadržat će kontrolu nad dokazima, rezultatima i nalazima, koji će ostati dostupni samo ovlaštenim državnim službenicima.

• Uključit ćemo civilno društvo i tehničke stručnjake kako bi njihova gledišta usmjeravala razvoj ovih alata u kompaniji OpenAI i naš pristup odgovornostima koje oni donose.

AI može koncentrirati moć ili pomoći demokratskim institucijama da je djelotvornije koriste i nadziru. Sama tehnologija neće odrediti kakvu ćemo budućnost imati, ali hoće odluke koje ljudske institucije i kompanije sada donesu.

Napredak ove inicijative procjenjivat ćemo prema tome mogu li ovlaštene osobe bolje ispunjavati svoje obaveze i ima li javnost čvršće razloge vjerovati da se državni sistemi AI-ja koriste u predviđene svrhe.

Kako se korištenje AI-ja u državnim organima bude razvijalo, OpenAI će nastaviti podržavati institucije odgovorne za njegov nadzor.