Styrket demokratisk kontroll med nasjonal sikkerhet

KI endrer hvordan demokratiske myndigheter beskytter befolkningen. Teknologien kan bidra til å stanse cyberangrep, sikre kritisk infrastruktur, oppdage trusler tidligere og gi offentlig ansatte bedre oversikt i kriser. Brukt på riktig måte kan disse verktøyene styrke den nasjonale sikkerheten.

Demokratisk kontroll bidrar til å sikre at offentlig maktutøvelse står til ansvar overfor befolkningen den skal tjene. Når KI gjør arbeidet med nasjonal sikkerhet raskere og mer effektivt, må institusjonene som fører kontroll med dette arbeidet, også holde tritt. KI kan raskt og i stor skala handle ut fra manglende eller utdatert kontekst, feilkonfigurerte mål eller uriktige antakelser. Dermed blir feil vanskeligere å oppdage manuelt før de sprer seg. Kontroll er spesielt viktig ved bruk av KI for nasjonal sikkerhet, fordi beslutninger nødvendigvis kan innebære hemmelighold og få alvorlige konsekvenser.

Med utgangspunkt i våre prinsipper for nasjonal sikkerhet bruker vi sikkerhetstiltak, reell menneskelig skjønnsutøvelse og hensiktsmessig kontroll ved innføring på nasjonale sikkerhetsområder, særlig når mye står på spill. Disse prinsippene prioriterer også å hjelpe kontrollinstitusjonene med å bygge kapasitet til å føre kontroll med KI-bruk i høyt tempo og stor skala.

Offentlige institusjoner har allerede fastsatte fullmakter og ansvar for å føre kontroll med virksomhet knyttet til nasjonal sikkerhet. Når KI bidrar til slik virksomhet, kan kontrollen måtte videreutvikles. Tradisjonelt kontrollarbeid er arbeidskrevende og blir nærmest umulig når små team med metoder fra papirets tidsalder skal gjennomgå systemer som opererer i maskinhastighet.

OpenAI mener at mer avanserte systemer krever sterkere kontroll, og vi anvender dette prinsippet på oss selv. I henhold til vårt Preparedness Framework gjennomgår avanserte modeller grundige vurderinger før de tas i bruk, for å kartlegge egenskapene deres og avgjøre om sikkerhetstiltakene er tilstrekkelige. Denne granskingen fortsetter etter innføringen gjennom løpende overvåking og gjennomgang av hendelser. Det vi lærer, brukes til å styrke sikkerhetstiltakene og videreutvikle fremtidige modeller.

OpenAI fører ikke kontroll med myndighetene, og bør heller ikke gjøre det. Dette ansvaret ligger hos folkevalgte og de offentlige institusjonene som er opprettet for formålet. Vi kan i stedet støtte kontrollinstitusjonene med teknologien vår når de utfører sine eksisterende oppdrag.

Tre prinsipper skal være førende for dette arbeidet.

For det første skal KI styrke, ikke erstatte, menneskelig og institusjonelt skjønn. Avgjørelser om hvorvidt myndighetenes handlinger er lovlige, hensiktsmessige og i samsvar med gjeldende regler og retningslinjer, hører hjemme hos organer med nødvendige fullmakter og lovlig opprettede kontrollorganer.

For det andre må myndighetenes bruk av KI være sporbar og forståelig for organene som har fullmakt til å føre kontroll. De som gjennomgår beslutningene, må kunne forstå hvordan KI bidro, samtidig som graderte, private og sikkerhetssensitive opplysninger beskyttes.

For det tredje skal KI brukes til å styrke demokratiske kontrollinstitusjoner. Manuell kontroll med myndighetenes KI-bruk kan ikke skaleres. Når KI tas i bruk innen nasjonal sikkerhet og på andre offentlige områder der mye står på spill, bør kontrollorganene også bruke teknologien på en ansvarlig og forståelig måte innenfor sine mandater.

Det neste året planlegger vi å videreføre initiativet på følgende måter:

• Vi skal samarbeide med tjenestepersoner med nødvendige fullmakter for å finne praktiske områder der KI-verktøy eller teknisk støtte kan gjøre kontrollarbeidet mer effektivt.

• Vi skal gi kontrollorganer i demokratiske stater opplæring, teknisk støtte og OpenAI-kreditter til en verdi av 5 millioner dollar for å støtte ansvarlig innføring og evaluering av KI-verktøy.

• Vi skal samarbeide med kontrollinstitusjoner om å prøve ut verktøy som hjelper personer med nødvendige fullmakter å gjennomgå dokumentasjonen knyttet til KI-støttede beslutninger i offentlig sektor, inkludert relevante inndata, utdata og verktøybruk, slik at de bedre kan forstå hvordan KI påvirket resultatene. Der det er mulig, skal verktøyene være kompatible med andre systemer eller uavhengige av modell. Det er institusjonene som deltar, ikke OpenAI, som skal beholde kontrollen over dokumentasjonen, resultatene og funnene. Disse skal bare være tilgjengelige for offentlige tjenestepersoner med nødvendige fullmakter.

• Vi skal involvere sivilsamfunnet og tekniske eksperter, slik at deres perspektiver påvirker hvordan OpenAI utvikler disse verktøyene og ivaretar ansvaret som følger med dem.

KI kan konsentrere makt, eller hjelpe demokratiske institusjoner med å utøve og kontrollere makt mer effektivt. Teknologien alene avgjør ikke hvilken fremtid vi får. Det gjør derimot valgene menneskelige institusjoner og selskaper tar nå.

Vi vil vurdere fremdriften i initiativet ut fra om personer med nødvendige fullmakter blir bedre i stand til å oppfylle forpliktelsene sine, og om befolkningen får sterkere grunn til å stole på at myndighetenes KI-systemer brukes som tiltenkt.

Etter hvert som myndighetenes bruk av KI utvikler seg, vil OpenAI fortsette å støtte institusjonene som har ansvar for å føre kontroll med den.