Onze overeenkomst met het Amerikaanse Department of War

Gisteren hebben we een overeenkomst gesloten met het Pentagon voor het implementeren van geavanceerde AI-systemen in vertrouwelijke of geheime omgevingen, waarbij we hen ook hebben verzocht deze beschikbaar te maken voor alle AI-bedrijven.

Wij denken dat onze overeenkomst meer beperkingen heeft dan welke eerdere overeenkomst dan ook voor geclassificeerde AI-implementaties, inclusief die van Anthropic. De redenen zijn als volgt:

We hebben drie belangrijke rode lijnen die ons werk met het Department of War sturen, en die over het algemeen door verschillende andere AI-labs worden gedeeld:

• Geen gebruik van OpenAI-technologie voor grootschalige surveillance in het binnenland.
• Geen gebruik van OpenAI-technologie om autonome wapensystemen aan te sturen. 
• Geen gebruik van OpenAI-technologie voor geautomatiseerde beslissingen waarbij veel op het spel staat (bijvoorbeeld systemen zoals 'social credit').

Andere AI-labs hebben hun veiligheidsmaatregelen verminderd of verwijderd en vertrouwen bij inzet voor nationale veiligheid vooral op gebruiksbeleid als belangrijkste waarborg. We denken dat onze aanpak beter beschermt tegen onaanvaardbaar gebruik.

In onze overeenkomst beschermen we onze rode lijnen met een ruimere aanpak met meerdere lagen. We houden volledige regie over onze veiligheidsarchitectuur, werken via de cloud, zorgen dat geautoriseerd OpenAI-personeel betrokken blijft en hebben stevige contractuele waarborgen. Dit komt allemaal bovenop de sterke bestaande bescherming in de Amerikaanse wetgeving. 

Wij geloven sterk in democratie. Gezien het belang van deze technologie geloven wij dat de enige goede weg vooruit diepe samenwerking vereist tussen AI-inspanningen en het democratische proces. Wij geloven ook dat onze technologie nieuwe risico's in de wereld zal introduceren, en we willen dat de mensen die de VS verdedigen over de beste hulpmiddelen beschikken.

Onze overeenkomst omvat:

1. Architectuur van de implementatie. Dit is een implementatie die alleen in de cloud plaatsvindt, met een verzameling beveiligingen die we uitvoeren en die deze principes en andere omvat. We leveren het Department of War geen 'guardrails off' of niet op veiligheid getrainde modellen, en we zetten onze modellen ook niet in op zogenaamde 'edge devices' (waar er een mogelijkheid zou kunnen zijn van gebruik voor autonome dodelijke wapens). 

Onze architectuur stelt ons in staat om onafhankelijk te verifiëren dat deze rode lijnen niet worden overschreden, waaronder het uitvoeren en bijwerken van classifiers.

2. Ons contract. Hier is de relevante taal:

Het Department of War mag het AI-systeem gebruiken voor alle wettige doeleinden, in overeenstemming met de toepasselijke wetgeving, operationele vereisten en goed vastgestelde veiligheids- en toezichtprotocollen. Het AI-systeem zal in geen enkel geval worden gebruikt om autonome wapens zelfstandig aan te sturen wanneer wet, regelgeving of beleid van het minsterie menselijke controle vereist, en evenmin zal het worden gebruikt om andere beslissingen met hoge inzet over te nemen die goedkeuring vereisen van een menselijke besluitvormer onder dezelfde bevoegdheden. Volgens DoD Directive 3000.09 (gedateerd 25 January 2023) moet elk gebruik van AI in autonome en semi-autonome systemen een rigoureuze verificatie, validatie, en testfase doorlopen om te waarborgen dat zij in realistische omgevingen presteren zoals bedoeld vóór inzet.

Voor inlichtingenactiviteiten zal elke verwerking van privé-informatie voldoen aan het Vierde Amendement, de National Security Act van 1947 en de Foreign Intelligence and Surveillance Act van 1978, Executive Order 12333 en toepasselijke DoD-richtlijnen die een gedefinieerd buitenlands inlichtingen-doel vereisen. Het AI-systeem mag niet worden gebruikt voor onbegrensde surveillance van de privé-informatie van personen in de VS, in overeenstemming met deze bevoegdheden. Het systeem mag ook niet worden gebruikt voor binnenlandse wetshandhavingsactiviteiten, behalve zoals toegestaan door de Posse Comitatus Act en andere toepasselijke wetgeving.

3. Betrokkenheid van AI-experts. We zullen gescreende, vooruit gestationeerde OpenAI-engineers hebben die de overheid helpen, met gescreende veiligheids- en alignmentonderzoekers die betrokken blijven. 

Waarom doen jullie dit? 

Ten eerste denken we dat het Amerikaanse leger absoluut sterke AI-modellen nodig heeft om hun missie te ondersteunen, vooral gezien de groeiende dreigingen van potentiële tegenstanders die AI-technologieën steeds vaker in hun systemen integreren. We zijn oorspronkelijk geen contract aangegaan voor een geclassificeerde uitrol, omdat we niet vonden dat onze beschermingsmaatregelen en systemen er klaar voor waren, en we hebben hard gewerkt om ervoor te zorgen dat een geclassificeerde uitrol kan plaatsvinden met beschermingsmaatregelen om te waarborgen dat rode lijnen niet worden overschreden. 

We waren, en blijven, niet bereid om belangrijke technische waarborgen te verwijderen om de prestaties bij werk op het gebied van nationale veiligheid te verbeteren. Dat is niet de juiste aanpak om het Amerikaanse leger te ondersteunen. 

Ten tweede wilden we zaken tussen het DoW en de Amerikaanse AI-labs ook de-escaleren. Een goede toekomst zal echte en diepgaande samenwerking tussen de overheid en de AI-labs vereisen. Als onderdeel van onze deal hier hebben we gevraagd dat dezelfde voorwaarden beschikbaar worden gesteld aan alle AI-labs, en specifiek dat de overheid zou proberen de zaken met Anthropic op te lossen; de huidige situatie is een zeer slechte manier om deze volgende fase van samenwerking tussen de overheid en AI-labs af te trappen.

Waarom konden jullie een deal sluiten terwijl Anthropic dat niet kon? Hebben jullie de overeenkomst getekend die zij niet wilden?

Op basis van wat we weten, denken we dat ons contract betere garanties en meer verantwoorde waarborgen biedt dan eerdere overeenkomsten, waaronder het oorspronkelijke contract van Anthropic. We denken dat onze rode lijnen hier beter afdwingbaar zijn, omdat we uitsluitend via de cloud inzetten (niet aan de 'edge'), onze veiligheidsmaatregelen blijven werken zoals bedoeld en geautoriseerd OpenAI-personeel in het proces betrokken blijft.

We weten niet waarom Anthropic deze deal niet kon sluiten, en we hopen dat zij en meer labs dit zullen overwegen.

Vinden jullie dat Anthropic moet worden aangemerkt als een 'risico voor de toeleveringsketen'?

Nee, en we hebben onze positie hierover duidelijk gemaakt aan de overheid.

Zal deze deal het Department of War in staat stellen om OpenAI-modellen te gebruiken om autonome wapens aan te drijven? 

Nee. Op basis van onze beveiligingsstack, onze uitsluitend in de cloud uitgevoerde implementatie, de contracttaal en bestaande wetten, regelgeving en beleid, zijn we ervan overtuigd dat dit niet kan gebeuren. We zullen ook OpenAI-personeel in de loop hebben voor extra zekerheid.  

Zal deze deal het Department of War in staat stellen OpenAI-modellen te gebruiken om massasurveillance uit te voeren op personen in de VS?

Nee. Op basis van onze veiligheidsstack, de contracttaal en bestaande wetten die het DoW sterk beperken bij binnenlandse surveillance, zijn we ervan overtuigd dat dit niet kan gebeuren. We zullen ook OpenAI-personeel in de loop hebben voor extra zekerheid.  

Moet je modellen implementeren zonder een veiligheidsstack?

Nee, we behouden volledige controle over de veiligheidsstack die we inzetten en zullen niet inzetten zonder veiligheidsmaatregelen. Daarnaast zullen onze onderzoekers op het gebied van veiligheid en afstemming betrokken blijven en helpen om systemen in de loop van de tijd te verbeteren. We weten dat andere AI-labs de vangrails van het model hebben verminderd en op gebruiksbeleid hebben vertrouwd als primaire waarborg, maar we denken dat onze gelaagde aanpak beter beschermt tegen onaanvaardbaar gebruik.

Wat gebeurt er als de overheid de voorwaarden van het contract schendt?

Zoals bij elk contract zouden we het kunnen beëindigen als de wederpartij de voorwaarden schendt. We verwachten niet dat dat gebeurt.

Wat als de overheid gewoon de wet of bestaande beleidsregels van het Department of War wijzigt?

Ons contract verwijst expliciet naar de wet- en regelgeving en het beleid inzake toezicht en autonome wapens zoals die vandaag bestaan, zodat zelfs als die wet- en regelgeving of dat beleid in de toekomst verandert, het gebruik van onze systemen nog steeds in overeenstemming moet blijven met de huidige normen zoals die in de overeenkomst zijn vastgelegd. 

Hoe ga je in op de argumenten die Anthropic aanvoerde in hun blogpost⁠(opent in een nieuw venster) over hun gesprek met de DoW?

In hun bericht noemt Anthropic twee van hun grensprincipes (we hebben dezelfde twee grensprincipes, plus een derde: geautomatiseerde besluitvorming met grote gevolgen), en redenen waarom zij niet geloven dat deze grensprincipes zouden worden gehandhaafd in de contracten die zij destijds van het DoW hadden gezien. Hieronder staat waarom we denken dat diezelfde grensprincipes in ons contract zouden gelden:

• Grootschalige binnenlandse surveillance. Het was duidelijk in onze interactie dat de DoW massale binnenlandse surveillance als illegaal beschouwt en niet van plan was dit voor dit doel te gebruiken. We hebben ervoor gezorgd dat het feit dat dit niet onder rechtmatig gebruik valt expliciet in ons contract is opgenomen.
• Volledig autonome wapens. Het cloud-implementatieoppervlak dat in ons contract wordt gedekt, zou het niet toestaan om volledig autonome wapens aan te drijven, aangezien dit een edge-implementatie zou vereisen. 

Naast deze beschermingen biedt ons contract aanvullende gelaagde waarborgen, waaronder onze beveiligingsstack en OpenAI technische experts die betrokken blijven.