Styrket demokratisk tilsyn med den nationale sikkerhed

AI ændrer den måde, demokratiske regeringer beskytter deres befolkninger på. Det kan bidrage til at standse cyberangreb, beskytte kritisk infrastruktur, opdage trusler tidligere og give offentligt ansatte et klarere overblik i en krise. Anvendt rigtigt kan disse værktøjer styrke den nationale sikkerhed.

Demokratisk tilsyn er med til at sikre, at udøvelsen af offentlig magt står til ansvar over for den befolkning, den tjener. I takt med at AI gør arbejdet med national sikkerhed hurtigere og mere effektivt, skal de institutioner, der fører tilsyn med arbejdet, også følge med. AI kan hurtigt og i stor skala handle på baggrund af manglende eller forældet kontekst, forkert konfigurerede mål eller fejlagtige antagelser. Det gør det sværere at opdage fejl manuelt, før de spreder sig. Tilsyn er særligt vigtigt, når AI bruges til national sikkerhed, fordi beslutninger nødvendigvis kan være hemmelige og få alvorlige konsekvenser.

Med udgangspunkt i vores principper for national sikkerhed anvender vi sikkerhedsforanstaltninger, reel menneskelig dømmekraft og passende tilsyn, når vi implementerer løsninger til national sikkerhed – især i situationer med store konsekvenser. Principperne prioriterer også at hjælpe de institutioner, der har ansvaret for tilsyn, med at opbygge kapacitet til at føre tilsyn med brugen af AI i højt tempo og stor skala.

Offentlige institutioner har allerede fastlagte beføjelser og ansvarsområder for tilsyn med aktiviteter vedrørende national sikkerhed. Når AI bidrager til disse aktiviteter, kan tilsynet være nødt til at udvikle sig. Traditionelt tilsyn er arbejdskrævende og bliver næsten umuligt, når små teams med metoder fra papirets tidsalder skal gennemgå systemer, der arbejder med maskinhastighed.

OpenAI mener, at mere avancerede systemer kræver stærkere tilsyn, og vi anvender også dette princip på os selv. I henhold til vores Preparedness Framework gennemgår avancerede modeller en grundig vurdering før implementering for at klarlægge deres kapacitet og afgøre, om sikkerhedsforanstaltningerne er tilstrækkelige. Denne kontrol fortsætter efter implementeringen gennem løbende overvågning og gennemgang af hændelser. Det, vi lærer, bruges til at styrke sikkerhedsforanstaltningerne og udviklingen af fremtidige modeller.

OpenAI fører ikke tilsyn med regeringen, og det bør vi heller ikke. Det ansvar ligger hos folkevalgte og de offentlige institutioner, der er oprettet til formålet. Vi kan derimod støtte tilsynsinstitutionerne med vores teknologi, når de udfører deres eksisterende mandater.

Tre principper skal være retningsgivende for dette arbejde.

For det første bør AI styrke – ikke erstatte – menneskelig og institutionel dømmekraft. Beslutninger om, hvorvidt myndigheders handlinger er lovlige, passende og i overensstemmelse med gældende regler og politikker, hører hjemme hos bemyndigede myndigheder og lovligt nedsatte tilsynsorganer.

For det andet bør myndigheders brug af AI kunne spores og forstås af bemyndigede tilsynsorganer. De ansvarlige for gennemgangen bør kunne forstå, hvordan AI har bidraget til en beslutning, samtidig med at klassificerede, private og sikkerhedsfølsomme oplysninger beskyttes.

For det tredje bør AI bruges til at styrke demokratiske tilsynsinstitutioner. Manuelt tilsyn med myndigheders brug af AI kan ikke skaleres. Når AI tages i brug inden for national sikkerhed og andet myndighedsarbejde med store konsekvenser, bør tilsynsorganer også bruge teknologien ansvarligt, gennemskueligt og i overensstemmelse med deres mandater.

I løbet af det næste år vil vi fremme initiativet på følgende måder:

• Vi vil samarbejde med bemyndigede embedsfolk om at finde praktiske muligheder, hvor AI-værktøjer eller teknisk support kan gøre tilsynet mere effektivt.

• Vi vil stille 5 millioner USD til rådighed i form af uddannelse, teknisk support og OpenAI-kreditter til demokratiske offentlige tilsynsorganer for at støtte ansvarlig indførelse og evaluering af AI-værktøjer.

• Vi vil samarbejde med tilsynsinstitutioner om at afprøve værktøjer, der hjælper bemyndigede kontrollanter med at gennemgå dokumentationen for myndighedsbeslutninger truffet med hjælp fra AI, herunder relevante input, output og brug af værktøjer, så de bedre kan forstå, hvordan AI påvirkede resultaterne. Hvor det er muligt, skal værktøjerne være interoperable eller modeluafhængige. De deltagende institutioner – ikke OpenAI – vil bevare kontrollen over dokumentation, output og resultater, som kun vil være tilgængelige for bemyndigede embedsfolk.

• Vi vil inddrage civilsamfundet og tekniske eksperter, så deres perspektiver kan præge OpenAI's udvikling af værktøjerne og vores tilgang til det ansvar, der følger med dem.

AI kan koncentrere magten, eller teknologien kan hjælpe demokratiske institutioner med at udøve og kontrollere magt mere effektivt. Teknologien alene afgør ikke, hvilken fremtid vi får. Det gør derimod de valg, som menneskelige institutioner og virksomheder træffer nu.

Vi vil vurdere initiativets fremskridt ud fra, om bemyndigede kontrollanter bliver bedre i stand til at opfylde deres forpligtelser, og om offentligheden får stærkere grunde til at stole på, at myndighedernes AI-systemer bruges efter hensigten.

I takt med at myndighedernes brug af AI udvikler sig, vil OpenAI fortsat støtte de institutioner, der har ansvaret for tilsynet.