Vårt avtal med Krigsdepartementet

Igår nådde vi en överenskommelse med Pentagon om distribution av avancerade AI-system i hemligstämplade miljöer som vi även begärde att de gör tillgängliga för alla AI-företag.

Vi anser att vårt avtal har fler skyddsåtgärder än något tidigare avtal för hemligstämplade AI-driftsättningar, inklusive Anthropic. Här är varför.

Vi har tre huvudsakliga principer som vägleder vårt arbete med DoW som även delas av flera andra Frontier-laboratorier:

• Ingen användning av OpenAI-teknik för inhemsk massövervakning.
• Ingen användning av OpenAI-teknik för styrning av autonoma vapensystem. 
• Ingen användning av OpenAI-teknik för automatiserade beslut med höga insatser (t.ex. system såsom "social poängsättning").

Andra AI-laboratorier har minskat eller tagit bort sina skyddsåtgärder och förlitar sig istället på användningspolicyer som deras primära skyddsåtgärd vid nationella säkerhetsimplementeringar. Vi anser att vår strategi för skyddar mot oacceptabel användning är bättre.

I vårt avtal skyddar vi våra röda linjer genom en mer omfattande, flerskiktad strategi. Vi behåller full kontroll över vår säkerhetslösning, vi distribuerar via molnet, godkänd OpenAI-personal är involverad och vi har starkt avtalsmässigt skydd. Detta är utöver de starka befintliga skydden i amerikansk lag. 

Vi tror på demokrati. Med tanke på hur viktig den här tekniken är anser vi att den enda vägen framåt är ett djupt samarbete mellan AI-insatser och den demokratiska processen. Vi anser även att vår teknik kommer att introducera nya risker i världen och vill att de som försvarar USA ska ha de bästa verktygen.

Vårt avtal inkluderar:

1. Driftsättningsarkitektur. Detta är driftsättning endast i molnet med en säkerhetslösning som vi driver och som inkluderar dessa principer och andra. Vi tillhandahåller inte DoW med avstängda skyddsåtgärder eller modeller som inte säkerhetstränats och distribuerar inte våra modeller på Edge-enheter (där det kan finnas en möjlighet till användning för autonoma dödliga vapen). 

Vår driftsättningsarkitektur kommer göra det möjligt för oss att oberoende verifiera att dessa röda linjer inte överskrids, inklusive köra och uppdatera klassificerare.

2. Vårt kontrakt. Här är det relevanta språket:

Krigsdepartementet får använda AI-systemet i enlighet med tillämplig lag, operativa krav samt väletablerade säkerhets- och tillsynsprotokoll. AI-systemet får inte användas för att självständigt kontrollera autonoma vapen i något fall där lag, förordning eller departementets policy kräver mänsklig kontroll och det får inte heller användas för att ta beslut med höga insatser som kräver godkännande av en mänsklig beslutsfattare med rätt befogenheter. Enligt DoD-direktiv 3000.09 (daterad 2023-01-25) måste all användning av AI i autonoma och semi-autonoma system genomgå rigorös verifiering, validering, och testning för att säkerställa att de fungerar som avsett i realistiska miljöer före driftsättningen.

För underrättelseverksamhet kommer all hantering av privat information att följa det fjärde tillägget National Security Act från 1947 och Foreign Intelligence and Surveillance Act från 1978, Executive Order 12333 samt tillämpliga DoD-direktiv som kräver ett definierat utländskt underrättelsesyfte. AI-systemet får inte användas för obegränsad övervakning av privat information om personer i USA i enlighet med dessa befogenheter. Systemet ska inte heller användas för inhemska brottsbekämpande verksamheter förutom i den utsträckning det är tillåtet enligt Posse Comitatus Act och andra tillämpliga lagar.

3. Medverkan av AI-experter. Vi kommer att ha godkända framåtriktade OpenAI-ingenjörer som hjälper regeringen tillsammans med godkända säkerhets- och anpassningsforskare i loopen. 

Varför gör ni det här? 

För det första anser vi att den amerikanska militären behöver starka AI-modeller för att stödja sitt uppdrag, särskilt med tanke på växande hot från potentiella motståndare som i allt högre grad integrerar AI-teknik i sina system. Vi ingick ursprungligen inget avtal om klassificerad driftsättning eftersom vi inte kände att våra skyddsåtgärder och system var redo och har arbetat hårt med att säkerställa att klassificerad driftsättning kan ske med skyddsåtgärder som säkerställer att röda linjer inte överskrids. 

Vi var och är fortfarande ovilliga att ta bort viktiga tekniska skyddsåtgärder för att förbättra prestandan i arbetet med nationell säkerhet. Det är inte rätt tillvägagångssätt för att stödja den amerikanska militären. 

För det andra ville vi även minska spänningen mellan DoW och de amerikanska AI-laboratorierna. En god framtid kommer att kräva ett verkligt och djupgående samarbete mellan regeringen och AI-laboratorierna. Som en del av vår överenskommelse bad vi att samma villkor skulle göras tillgängliga för alla AI-laboratorier och att regeringen försöker lösa problemen med Anthropic. Det nuvarande läget är ett mycket dåligt sätt att inleda nästa fas av samarbetet mellan regeringen och AI-laboratorier.

Varför kunde ni nå en överenskommelse när Anthropic inte kunde det? Skrev ni på ett avtal som de avvisade?

Baserat på vad vi vet tror vi att vårt avtal ger bättre garantier och mer ansvarsfulla skyddsåtgärder än tidigare avtal, inklusive Anthropics ursprungliga avtal. Vi tror att våra röda linjer är mer verkställbara här eftersom driftsättning är begränsad till molnet, vi ser till att vår säkerhetslösning fungerar på det sätt vi anser vara bäst och håller godkänd OpenAI-personal informerad.

Vi vet inte varför Anthropic inte kunde nå den här överenskommelsen och hoppas att de och fler laboratorier kommer att överväga det.

Tycker ni att Anthropic bör klassas som en "risk i leverantörskedjan"?

Nej, och vi har tydligt presenterat vår ståndpunkt för regeringen.

Kommer den här affären att göra det möjligt för Krigsdepartementet att använda OpenAI-modeller för drift av autonoma vapen? 

Nej, baserat på vår säkerhetslösning, vår molnbaserade driftsättning, avtalsformuleringarna samt gällande lagar, regler och policyn är vi säkra på att detta inte kan inträffa. Vi kommer även att ha OpenAI-personal involverade i processen för ytterligare trygghet.  

Kommer den här överenskommelsen att göra det möjligt för Krigsdepartementet att använda OpenAI-modeller för massövervakning av personer i USA?

Nej, baserat på vår säkerhetslösning, kontraktstexten och befintliga lagar som kraftigt begränsar DoW från inhemsk övervakning är vi övertygade om att detta inte kan hända. Vi kommer även att ha OpenAI-personal involverade i processen för ytterligare trygghet.  

Måste ni implementera modeller utan en säkerhetslösning?

Nej, vi behåller full kontroll över den säkerhetslösning vi implementerar och kommer inte att implementera utan skyddsåtgärder. Dessutom kommer våra forskare inom säkerhet och anpassning att vara med i processen och hjälpa till att förbättra systemen över tid. Vi vet att andra AI-labb har minskat sina skyddsåtgärder för modeller och förlitat sig på användningspolicyer som den primära skyddsåtgärden men vi anser att vår flerskiktade strategi bättre skyddar mot oacceptabel användning.

Vad händer om regeringen bryter mot villkoren i avtalet?

Precis som med alla avtal kan vi säga upp det om motparten bryter mot villkoren. Vi förväntar oss inte att det kommer att hända.

Vad händer om regeringen ändrar lagen eller befintliga DoW-policyer?

Vårt avtal hänvisar uttryckligen till lagar och policyer om övervakning och autonoma vapen så som de ser ut i dag vilket innebär att om dessa lagar eller policyer skulle ändras i framtiden så måste användningen av våra system fortfarande vara i linje med de nuvarande standarder som återspeglas i avtalet. 

Hur bemöter du de argument som Anthropic framförde i deras blogginlägg⁠(öppnas i ett nytt fönster) om deras diskussion med DoW?

Anthropic anger två av sina röda linjer i sitt inlägg (vi har samma två röda linjer, plus en tredje: automatiserat beslutsfattande i högriskfrågor) och skälen till att de inte tror att dessa röda linjer skulle upprätthållas i de kontrakt de sett från DoW vid den tidpunkten. Nedan följer varför vi anser att samma röda linjer skulle gälla i vårt avtal:

• Inhemsk massövervakning. Det var tydligt i vår interaktion att DoW anser att inhemsk massövervakning är olaglig och inte planerade att använda den för detta ändamål. Vi säkerställde att det uttryckligen framgick i vårt avtal att inhemsk massövervakning inte klassas som laglig användning.
• Helt autonoma vapen. Den molnbaserade driftsättningsytan som omfattas av vårt kontrakt möjliggör inte driftsättning av helt autonoma vapen eftersom detta skulle kräva Edge-driftsättning. 

Utöver dessa skyddsåtgärder erbjuder vårt avtal ytterligare skydd i flera lager, inklusive vår säkerhetslösning och OpenAI:s tekniska experter som är involverade i processen.