Vores aftale med Department of War

I går indgik vi en aftale med Pentagon om at udrulle avancerede AI-systemer i klassificerede miljøer, og vi anmodede dem også om at gøre det tilgængeligt for alle AI-virksomheder.

Vi mener, at vores aftale har flere sikkerhedsforanstaltninger end nogen tidligere aftale for klassificerede AI-implementeringer, herunder Anthropic's. Her er hvorfor.

Vi har tre primære røde linjer, der styrer vores arbejde med DoW, og som generelt deles af flere andre banebrydende laboratorier:

• Ingen brug af OpenAI-teknologi til indenrigs masseovervågning.
• Ingen brug af OpenAI-teknologi til at styre autonome våbensystemer. 
• Ingen brug af OpenAI-teknologi til automatiserede beslutninger med stor betydning (f.eks. systemer såsom “social kredit”).

Andre AI-laboratorier har reduceret eller fjernet deres sikkerhedsforanstaltninger og primært baseret sig på brugspolitikker som deres vigtigste sikkerhedsforanstaltninger i nationale sikkerhedsimplementeringer. Vi mener, at vores tilgang bedre beskytter mod uacceptabel brug.

I vores aftale beskytter vi vores røde linjer gennem en mere omfattende og flerlags tilgang. Vi bevarer fuld kontrol over vores sikkerhedsstak, vi implementerer via cloud, godkendt OpenAI-personale er orienteret, og vi har stærke kontraktlige beskyttelser. Dette er alt sammen ud over de stærke eksisterende beskyttelser i den amerikanske lovgivning. 

Vi tror stærkt på demokrati. I betragtning af denne teknologis betydning mener vi, at den eneste rette vej frem kræver et dybt samarbejde mellem AI-indsatsen og den demokratiske proces. Vi mener også, at vores teknologi vil introducere nye risici i verden, og vi ønsker, at de personer, der forsvarer USA, har de bedste værktøjer.

Vores aftale inkluderer:

1. Arkitektur for implementering. Dette er en cloud-only implementering med en sikkerhedsstak, som vi driver, og som omfatter disse principper og andre. Vi leverer ikke løsninger til DoW, der er “uden sikkerhedsrækværk” eller modeller, der ikke er sikkerhedstrænet, og vi udruller heller ikke vores modeller på edge-enheder (hvor der kunne være mulighed for anvendelse til autonome dødelige våben). 

Vores implementeringsarkitektur vil gøre det muligt for os uafhængigt at verificere, at disse røde linjer ikke overskrides, herunder ved at køre og opdatere klassifikatorer.

2. Vores kontrakt. Her er den relevante tekst:

Department of War kan anvende AI-systemet til alle lovlige formål i overensstemmelse med gældende lovgivning, operationelle krav samt veletablerede sikkerheds- og tilsynsprotokoller. AI-systemet må ikke anvendes til selvstændigt at styre autonome våben i nogen situation, hvor lovgivning, regulering eller Department of War's politik kræver menneskelig kontrol, og det må heller ikke anvendes til at træffe andre højrisikobeslutninger, der kræver godkendelse af en menneskelig beslutningstager under de samme bemyndigelser. I henhold til DoD Directive 3000.09 (dateret 25. januar 2023) skal enhver anvendelse af AI i autonome og semi-autonome systemer gennemgå grundig verifikation, validering og test for at sikre, at de fungerer efter hensigten i realistiske miljøer før implementering.

For efterretningsaktiviteter vil enhver håndtering af private oplysninger være i overensstemmelse med Fourth Amendment, National Security Act of 1947 og Foreign Intelligence and Surveillance Act of 1978, Executive Order 12333 samt gældende DoD-direktiver, der kræver et defineret udenlandsk efterretningsformål. AI-systemet må ikke bruges til ubegrænset overvågning af amerikanske personers private oplysninger i overensstemmelse med disse beføjelser. Systemet må heller ikke anvendes til indenrigs retshåndhævelsesaktiviteter, undtagen som tilladt i henhold til Posse Comitatus Act og anden gældende lovgivning.

3. Inddragelse af AI-eksperter. Vi vil have godkendte OpenAI-ingeniører, der hjælper regeringen, og sikre sikkerheds- og tilpasningsforskere vil være med i processen. 

Hvorfor gør vi det? 

For det første mener vi, at det amerikanske militær absolut har brug for stærke AI-modeller til at understøtte deres mission, særligt i lyset af voksende trusler fra potentielle modstandere, som i stigende grad integrerer AI-teknologier i deres systemer. Vi indgik oprindeligt ikke en kontrakt om klassificeret implementering, da vi ikke mente, at vores sikkerhedsforanstaltninger og systemer var klar, men vi har arbejdet hårdt på at sikre, at en klassificeret implementering kan finde sted med sikkerhedsforanstaltninger, der sikrer, at de røde linjer ikke overskrides. 

Vi var – og er fortsat – ikke villige til at fjerne centrale tekniske sikkerhedsforanstaltninger for at forbedre præstationen i det nationale sikkerhedsarbejde. Det er ikke den rette tilgang til at støtte det amerikanske militær. 

For det andet ønskede vi også at nedtrappe tingene mellem DoW og de amerikanske AI-laboratorier. En god fremtid vil kræve et reelt og dybt samarbejde mellem regeringen og AI-laboratorierne. Som en del af vores aftale her bad vi om, at de samme vilkår blev gjort tilgængelige for alle AI-laboratorier, og specifikt at regeringen ville forsøge at løse tingene med Anthropic. Den nuværende situation er en meget dårlig måde at indlede denne næste fase af samarbejdet mellem regeringen og AI-laboratorierne på.

Hvorfor kunne I nå til en aftale, når Anthropic ikke kunne? Underskrev I den aftale, som de ikke ville?

Baseret på det, vi ved, mener vi, at vores kontrakt giver bedre garantier og mere ansvarlige sikkerhedsforanstaltninger end tidligere aftaler, herunder Anthropics oprindelige kontrakt. Vi mener, at vores røde linjer er mere håndhævelige her, fordi implementeringen er begrænset til kun at være i skyen (ikke i kanten), holder vores sikkerhedsstak i gang på den måde, vi mener er bedst, og holder godkendt OpenAI-personale informeret.

Vi ved ikke, hvorfor Anthropic ikke kunne indgå denne aftale, og vi håber, at de og flere laboratorier vil overveje det.

Mener I, at Anthropic bør udpeges som en “risiko i forsyningskæden”?

Nej, og vi har gjort vores holdning til dette klar over for regeringen.

Vil denne aftale gøre det muligt for Department of War at bruge OpenAI-modeller til at drive autonome våben? 

Nej. Baseret på vores sikkerhedsforanstaltninger, vores cloud-only-implementering, kontraktsproget samt gældende love, regulering og politik er vi overbeviste om, at dette ikke kan ske. Vi vil også opdatere OpenAI-personale for yderligere sikkerhed.  

Vil denne aftale gøre det muligt for Department of War at bruge OpenAI-modeller til at gennemføre masseovervågning af amerikanske borgere?

Nej. Baseret på vores sikkerhedsstak, kontraktsproget og eksisterende love, der i høj grad begrænser DoW fra indenrigs overvågning, er vi sikre på, at dette ikke kan ske. Vi vil også opdatere OpenAI-personale for yderligere sikkerhed.  

Vil I udrulle modeller uden en sikkerhedsstak?

Nej, vi bevarer fuld kontrol over den sikkerhedsstak, vi implementerer, og vi vil ikke implementere uden mekanismer til sikkerhedsbeskyttelse. Derudover vil vores forskere inden for sikkerhed og justering være med i processen og hjælpe med at forbedre systemerne over tid. Vi ved, at andre AI-laboratorier har reduceret modellens sikkerhedsforanstaltninger og har baseret sig på brugspolitikker som den primære sikkerhedsforanstaltning, men vi mener, at vores flerlagede tilgang bedre beskytter mod uacceptabel brug.

Hvad sker der, hvis regeringen overtræder kontraktens vilkår?

Som med enhver kontrakt kunne vi opsige den, hvis modparten overtræder vilkårene. Vi forventer ikke, at det kommer til at ske.

Hvad sker der, hvis regeringen bare ændrer loven eller de eksisterende DoW-politikker?

Vores kontrakt henviser udtrykkeligt til lovgivning og politikker om overvågning og autonome våben som de er i dag, så selv hvis disse love eller politikker ændres i fremtiden, skal brugen af vores systemer stadig forblive i overensstemmelse med de nuværende standarder, som afspejles i aftalen. 

Hvordan forholder I jer til de argumenter, Anthropic fremførte i deres blogindlæg⁠(åbner i et nyt vindue) om deres drøftelse med DoW?

I deres indlæg angiver Anthropic to af deres røde linjer (vi har de samme to røde linjer plus en tredje: automatiseret beslutningstagning med stor præcision) samt grunde til, at de ikke mener, at disse røde linjer ville blive overholdt i de kontrakter, de havde set fra DoW på det tidspunkt. Nedenfor er grunden til, at vi mener, at de samme røde linjer ville gælde i vores kontrakt:

• Indenrigs masseovervågning. Det stod klart i vores interaktion, at DoW anser indenrigs masseovervågning for ulovlig og ikke havde planer om at bruge det til dette formål. Vi sikrede, at det blev gjort udtrykkeligt i vores kontrakt, at det ikke er omfattet af lovlig brug.
• Fuldstændigt autonome våben. Den cloud-implementeringsoverflade, der er omfattet af vores kontrakt, ville ikke tillade drift af fuldt autonome våben, da dette ville kræve edge-implementering. 

Ud over disse beskyttelser tilbyder vores kontrakt yderligere lagdelte sikkerhedsforanstaltninger, herunder vores sikkerhedsstabel og holde OpenAI-tekniske eksperter opdateret.