Onze aanpak voor partnerschappen met overheden en rond nationale veiligheid

Overheden beginnen grensverleggende AI-systemen in te zetten voor steeds belangrijker werk, ook op het gebied van nationale veiligheid. Dat maakt het des te urgenter dat AI-labs, overheden en het maatschappelijk middenveld samenwerken aan de vraag hoe deze hulpmiddelen in gevoelige omgevingen moeten worden gebruikt. 

Wij vinden dat democratische samenlevingen AI moeten kunnen gebruiken om mensen te beschermen, kritieke infrastructuur te verdedigen, publieke diensten te verlenen en op nieuwe dreigingen te reageren. Dit geldt ook voor cyberdefensie en biologische veiligheid, waar AI verdedigers een aanzienlijk voordeel kan bieden. Maar steeds krachtigere AI-systemen moeten worden ingezet op manieren die democratische verantwoording, betekenisvolle menselijke oordeelsvorming en de rechtsstaat versterken, en die democratische instellingen sterker maken in plaats van macht te concentreren.

Vandaag publiceren we OpenAI’s National Security Principles om transparantie te bieden over onze aanpak van partnerschappen met overheden en toepassingen van onze technologie voor nationale veiligheid.

Deze principes weerspiegelen een bedrijfsbrede inspanning om een uitgebreidere aanpak te ontwikkelen voor ons werk op het gebied van nationale veiligheid en rechtshandhaving, naarmate onze technologie zich blijft ontwikkelen. We hebben een vooraanstaand expert op het gebied van nationale veiligheid, David Kris, gevraagd om het proces te helpen begeleiden en zijn onafhankelijke oordeel te geven, hebben luistersessies in het hele bedrijf gehouden en medewerkers betrokken uit uiteenlopende teams, van onderzoek en veiligheid tot beleid en overheidspartnerschappen.

We publiceren deze principes nu we onze samenwerking met de Amerikaanse overheid en geallieerde partners uitbreiden in cruciale defensiedomeinen, met name cyber- en bioveiligheid. In de afgelopen maand hebben we, als onderdeel van ons cyberdefensieprogramma Daybreak⁠, al Trusted Access for Cyber-partnerschappen opgezet met Australië, Canada, Japan, de Republiek Korea, Frankrijk, Duitsland, Polen, Nederland en EU-instellingen zoals ENISA. We hebben ook een groeiend en vertrouwd partnerschap met de Britse overheid op het gebied van cyber, testen en evaluatie. In bioveiligheid volgen we een vergelijkbare aanpak. Vorige maand kondigden we ook een uitbreiding aan van vertrouwde toegang tot ons GPT‑Rosalind‑model voor geselecteerde partners binnen de Amerikaanse overheid en geallieerde landen die missies op het gebied van volksgezondheid en biologische defensie ondersteunen.

Deze principes gelden voor onze huidige en toekomstige partnerschappen op het gebied van nationale veiligheid en rechtshandhaving, waaronder ons bestaande werk met het Department of War. Toen we eerder dit jaar onze overeenkomst aankondigden, hebben we verschillende contractuele beperkingen geformuleerd: geen gebruik van OpenAI-technologie voor grootschalige binnenlandse surveillance, geen gebruik van OpenAI-technologie om autonome wapensystemen aan te sturen, en geen gebruik van OpenAI-technologie voor geautomatiseerde beslissingen met grote gevolgen. Die beperkingen zijn in lijn met de principes die we vandaag delen.

Wij vinden dat het juist is om duidelijk te zijn over hoe onze technologie wel en niet mag worden gebruikt, en om daar transparant over te zijn. Maar veel van de meest ingrijpende vragen over AI binnen de overheid, vooral op het gebied van nationale veiligheid, moeten via het democratische proces worden beantwoord. De rol van bedrijven zoals OpenAI is om informatie voor die beslissingen aan te dragen, niet om ze zelfstandig te nemen. Daarom steunen we wetgevende initiatieven om waarborgen in te stellen rond enkele militaire toepassingen van AI met het hoogste risico, onder meer in de context van binnenlandse surveillance, autonome wapensystemen en andere risicovolle toepassingen die rechtstreeks gevolgen hebben voor de nationale veiligheid van de VS.

Lees de principes hier⁠(opent in een nieuw venster).