Democratisch toezicht op nationale veiligheid versterken

AI verandert de manier waarop democratische regeringen hun bevolking beschermen. AI kan helpen cyberaanvallen te stoppen, kritieke infrastructuur te beveiligen, dreigingen eerder te signaleren en ambtenaren tijdens een crisis een duidelijker beeld te geven. Bij goed gebruik kunnen deze tools de nationale veiligheid versterken.

Democratisch toezicht helpt ervoor te zorgen dat de inzet van overheidsmacht verantwoording verschuldigd blijft aan de mensen die ermee worden gediend. Nu AI het werk rond nationale veiligheid sneller en doeltreffender maakt, moeten ook de instellingen die daarop toezien gelijke tred houden. AI kan snel en op grote schaal handelen op basis van ontbrekende of verouderde context, verkeerd ingestelde doelen of onjuiste aannames. Daardoor zijn fouten moeilijker handmatig op te sporen voordat ze zich verspreiden. Toezicht is vooral belangrijk bij het gebruik van AI voor nationale veiligheid, omdat besluiten soms noodzakelijkerwijs geheim moeten blijven en ingrijpende gevolgen kunnen hebben.

Op basis van onze Principes voor nationale veiligheid benaderen we toepassingen voor nationale veiligheid met waarborgen, betekenisvolle menselijke oordeelsvorming en passend toezicht, vooral wanneer er veel op het spel staat. Volgens die principes is het ook een prioriteit om de toezichthoudende instellingen te helpen de capaciteit op te bouwen om snel en op grote schaal toezicht te houden op het gebruik van AI.

Overheidsinstellingen beschikken al over vastgelegde bevoegdheden en verantwoordelijkheden voor het toezicht op activiteiten rond nationale veiligheid. Wanneer AI aan die activiteiten bijdraagt, moet het toezicht mogelijk mee-evolueren. Traditioneel toezicht is arbeidsintensief en wordt vrijwel onmogelijk wanneer kleine teams met methoden uit het papieren tijdperk systemen moeten beoordelen die op machinesnelheid werken.

OpenAI vindt dat krachtigere systemen sterker toezicht vereisen en past dat principe ook op zichzelf toe. Volgens ons Preparedness Framework worden geavanceerde modellen vóór ingebruikname grondig beoordeeld om hun mogelijkheden te doorgronden en vast te stellen of de waarborgen afdoende zijn. Die kritische toetsing gaat na ingebruikname door met voortdurende monitoring en evaluatie van incidenten. Wat we daarvan leren, gebruiken we voor sterkere waarborgen en de toekomstige ontwikkeling van modellen.

OpenAI houdt geen toezicht op de overheid en hoort dat ook niet te doen. Die verantwoordelijkheid ligt bij gekozen volksvertegenwoordigers en de daarvoor opgerichte publieke instellingen. We kunnen toezichthoudende instellingen wel met onze technologie ondersteunen bij de uitvoering van hun bestaande mandaten.

Drie principes vormen de leidraad voor dit werk.

Ten eerste moet AI de menselijke en institutionele oordeelsvorming versterken, niet vervangen. Besluiten over de vraag of overheidshandelen rechtmatig, gepast en in overeenstemming met de toepasselijke regels en beleidslijnen is, behoren toe aan bevoegde instanties en wettelijk ingestelde toezichthouders.

Ten tweede moet het gebruik van AI door de overheid traceerbaar en inzichtelijk zijn voor bevoegde toezichthouders. Beoordelaars moeten kunnen begrijpen hoe AI aan een besluit heeft bijgedragen, terwijl gerubriceerde, persoonlijke en veiligheidsgevoelige informatie wordt beschermd.

Ten derde moet AI worden ingezet om democratische toezichthoudende instellingen slagvaardiger te maken. Handmatig toezicht op het gebruik van AI binnen de overheid is niet schaalbaar. Nu AI wordt ingevoerd voor nationale veiligheid en ander belangrijk overheidswerk waarbij veel op het spel staat, moeten toezichthouders AI binnen hun mandaat eveneens verantwoord en inzichtelijk inzetten.

Het komende jaar willen we dit initiatief op de volgende manieren verder ontwikkelen:

• We gaan samen met bevoegde functionarissen praktische mogelijkheden in kaart brengen waarbij AI-tools of technische ondersteuning het toezicht doeltreffender kunnen maken.

• We stellen 5 miljoen dollar aan training, technische ondersteuning en OpenAI-credits beschikbaar aan democratische overheidstoezichthouders om de verantwoorde invoering en evaluatie van AI-tools te ondersteunen.

• We gaan met toezichthoudende instellingen proefprojecten uitvoeren met tools waarmee bevoegde beoordelaars de gegevens rond door AI ondersteunde overheidsbesluiten kunnen onderzoeken, waaronder relevante invoer, uitvoer en het gebruik van tools. Zo kunnen zij beter begrijpen hoe AI de uitkomsten heeft beïnvloed. Waar mogelijk zijn de tools interoperabel of modelonafhankelijk. De deelnemende instellingen, en niet OpenAI, behouden de zeggenschap over het bewijsmateriaal, de uitvoer en de bevindingen. Deze blijven uitsluitend toegankelijk voor bevoegde overheidsfunctionarissen.

• We betrekken maatschappelijke organisaties en technische experts, zodat OpenAI hun perspectieven kan meenemen bij de ontwikkeling van deze tools en bij de invulling van de bijbehorende verantwoordelijkheden.

AI kan macht concentreren, maar kan democratische instellingen ook helpen macht doeltreffender uit te oefenen en te controleren. Technologie alleen bepaalt niet welke toekomst ons wacht; dat doen de keuzes die menselijke instellingen en bedrijven nu maken.

We beoordelen de voortgang van dit initiatief aan de hand van de vraag of bevoegde beoordelaars beter aan hun verplichtingen kunnen voldoen en het publiek meer reden heeft om erop te vertrouwen dat AI-systemen van de overheid worden gebruikt zoals bedoeld.

Terwijl het gebruik van AI door de overheid zich ontwikkelt, blijft OpenAI de instellingen ondersteunen die verantwoordelijk zijn voor het toezicht daarop.