Avtalen vår med Krigsdepartementet

I går inngikk vi en avtale med Pentagon om å rulle ut avanserte KI-systemer i graderte miljøer, og ba dem samtidig gjøre dette tilgjengelig for alle KI-selskaper.

Vi mener at vår avtale har flere beskyttelsesmekanismer enn noen tidligere avtale for graderte KI-utrullinger, inkludert Anthropic’s. Dette er hvorfor.

Vi har tre hovedlinjer som veileder arbeidet vårt med DoW, som generelt deles av flere andre banebrytende laboratorier:

• Ingen bruk av OpenAI-teknologi til innenlandsk masseovervåking.
• Ingen bruk av OpenAI-teknologi til å styre autonome våpensystemer. 
• Ingen bruk av OpenAI-teknologi til automatiserte beslutninger med store konsekvenser (f.eks. systemer som «sosial kreditt»).

Andre KI-laboratorier har redusert eller fjernet sikkerhetsmekanismer og i hovedsak basert seg på retningslinjer for bruk som primære sikkerhetstiltak i implementeringer innen nasjonal sikkerhet. Vi mener vår tilnærming gir bedre beskyttelse mot uakseptabel bruk.

I avtalen vår beskytter vi de røde linjene våre gjennom en mer omfattende, flerlags tilnærming. Vi beholder full skjønnsmyndighet over vår sikkerhetsstruktur, implementerer via skyen, involverer godkjent OpenAI-personell og har sterke kontraktsmessige beskyttelser. Dette kommer i tillegg til den sterke eksisterende beskyttelsen i amerikansk lov. 

Vi har en sterk tro på demokratiet. Gitt viktigheten av denne teknologien mener vi at den eneste gode veien videre krever et tett samarbeid mellom KI-innsats og den demokratiske prosessen. Vi mener også at teknologien vår vil introdusere nye risikoer, og ønsker at de som forsvarer USA skal ha de beste verktøyene.

Avtalen vår inkluderer:

1. Utrullingsarkitektur. Dette er en skybasert utrulling, med en sikkerhetsstruktur som vi drifter, og som inkluderer disse prinsippene og andre. Vi gir ikke DoW “uten sikkerhetsrekkverk” eller modeller som ikke er sikkerhetsopplært, og vi ruller heller ikke ut modellene våre på edge-enheter (der det kan være en mulighet for bruk til autonome dødelige våpen). 

Utrullingsarkitekturen vår vil gjøre det mulig for oss å verifisere uavhengig at disse røde linjene ikke krysses, inkludert å kjøre og oppdatere klassifikatorer.

2. Kontrakten vår. Her er den relevante teksten:

Krigsdepartementet kan bruke AI-systemet til alle lovlige formål, i samsvar med gjeldende lov, operative krav og veletablerte sikkerhets- og tilsynsprotokoller. AI-systemet vil ikke bli brukt til selvstendig å styre autonome våpen i noen tilfeller der lov, forskrift eller departementets policy krever menneskelig kontroll, og det vil heller ikke bli brukt til å overta andre beslutninger med høy innsats som krever godkjenning av en menneskelig beslutningstaker under de samme fullmaktene. I henhold til DoD Directive 3000.09 (dtd 25 January 2023) må enhver bruk av AI i autonome og semi-autonome systemer gjennomgå grundig verifikasjon, validering og testing for å sikre at de fungerer som tiltenkt i realistiske miljøer før utplassering.

For etterretningsaktiviteter vil enhver håndtering av private opplysninger være i samsvar med Fourth Amendment, National Security Act of 1947 og Foreign Intelligence and Surveillance Act of 1978, Executive Order 12333, samt gjeldende DoD-direktiver som krever et definert utenlandsetteretningsformål. AI-systemet skal ikke brukes til ubegrenset overvåking av privat informasjon om amerikanske personer, i samsvar med disse myndighetene. Systemet skal heller ikke brukes til innenlandske rettshåndhevelsesaktiviteter, med mindre dette er tillatt i henhold til Posse Comitatus Act og annen gjeldende lov.

3. Involvering av KI-eksperter. Vi vil ha klarerte, fremoverutplasserte OpenAI-ingeniører som hjelper myndighetene, med klarerte forskere innen sikkerhet og samsvar involvert. 

Hvorfor gjør du dette? 

Først mener vi at det amerikanske militæret absolutt trenger sterke AI-modeller for å støtte oppdraget sitt, spesielt i møte med økende trusler fra potensielle motstandere som i økende grad integrerer AI-teknologier i systemene sine. Vi inngikk opprinnelig ikke en kontrakt for klassifisert utrulling, ettersom vi ikke mente at sikkerhetstiltakene og systemene våre var klare, og vi har jobbet hardt for å sikre at en klassifisert utrulling kan skje med beskyttelser som sørger for at røde linjer ikke krysses. 

Vi var—og er fortsatt—uvillige til å fjerne viktige tekniske sikkerhetstiltak for å forbedre ytelsen i arbeid med nasjonal sikkerhet. Det er ikke den riktige tilnærmingen til å støtte det amerikanske militæret. 

For det andre ønsket vi også å deeskalere situasjonen mellom DoW og de amerikanske KI-laboratoriene. En god fremtid kommer til å kreve reelt og dypt samarbeid mellom myndighetene og AI-laboratoriene. Som en del av avtalen vår her ba vi om at de samme vilkårene skulle gjøres tilgjengelige for alle AI-laboratorier, og spesielt at regjeringen skulle forsøke å løse saken med Anthropic; den nåværende situasjonen er en svært dårlig måte å innlede denne neste fasen av samarbeid mellom regjeringen og AI-laboratorier.

Hvorfor klarte dere å komme til en avtale når Anthropic ikke klarte det? Signerte du avtalen de ikke ville?

Basert på det vi vet, mener vi at kontrakten vår gir bedre garantier og mer ansvarlige sikkerhetstiltak enn tidligere avtaler, inkludert Anthropics opprinnelige kontrakt. Vi mener at våre røde linjer er mer håndhevbare her fordi utrullingen er begrenset til kun skyen (ikke ved kanten), holder sikkerhetsstakken vår i gang på den måten vi mener er best, og holder klarert OpenAI-personell involvert.

Vi vet ikke hvorfor Anthropic ikke kunne inngå denne avtalen, og vi håper at de og flere laboratorier vil vurdere det.

Mener du at Anthropic bør klassifiseres som en «risiko i leverandørkjeden»?

Nei, og vi har gjort vårt standpunkt i denne saken klart for myndighetene.

Vil denne avtalen gjøre det mulig for USAs krigsdepartement å bruke OpenAI-modeller til å drive autonome våpen? 

Nei. Basert på sikkerhetsstrukturen vår, vår skybaserte implementering, kontraktsspråket og gjeldende lover, regulering og retningslinjer, er vi trygge på at dette ikke kan skje. Vi vil også ha OpenAI-personell med i loopen for ekstra trygghet.  

Vil denne avtalen gjøre det mulig for USAs krigsdepartement å bruke OpenAI-modeller til å gjennomføre masseovervåking av personer i USA?

Nei. Basert på sikkerhetsstrukturen vår, kontraktsspråket og eksisterende lover som i stor grad begrenser DoW fra innenlandsk overvåking, er vi trygge på at dette ikke kan skje. Vi vil også ha OpenAI-personell med i loopen for ekstra trygghet.  

Må du utrulle modeller uten en sikkerhetsstabel?

Nei, vi beholder full kontroll over sikkerhetsstabelen vi tar i bruk og vil ikke ta i bruk uten sikkerhetsrekkverk. I tillegg vil forskerne våre innen sikkerhet og samsvar være involvert og bidra til å forbedre systemene over tid. Vi vet at andre AI-laboratorier har redusert modellens sikkerhetsmekanismer og basert seg på retningslinjer for bruk som den primære sikkerhetsmekanismen, men vi mener at vår flerlags tilnærming bedre beskytter mot uakseptabel bruk.

Hva skjer hvis myndighetene bryter vilkårene i kontrakten?

Som med enhver kontrakt kunne vi si den opp hvis motparten bryter vilkårene. Vi forventer ikke at det vil skje.

Hva om myndighetene bare endrer loven eller eksisterende DoW-retningslinjer?

Kontrakten vår viser eksplisitt til lover og retningslinjer for overvåking og autonome våpen slik de eksisterer i dag, slik at selv om disse lovene eller retningslinjene endres i fremtiden, må bruken av systemene våre fortsatt være i samsvar med de gjeldende standardene som gjenspeiles i avtalen. 

Hvordan svarer du på argumentene Anthropic kom med i blogginnlegget deres⁠(åpnes i et nytt vindu) om diskusjonen deres med DoW?

I innlegget sitt oppgir Anthropic to av sine røde linjer (vi har de samme to røde linjene, pluss en tredje: automatisert beslutningstaking med høy innsats), og begrunner hvorfor de ikke mener at disse røde linjene ville bli opprettholdt i kontraktene de hadde sett fra DoW på det tidspunktet. Nedenfor er grunnen til at vi mener at de samme røde linjene vil gjelde i kontrakten vår:

• Innenlandsk masseovervåking. Det var tydelig i samhandlingen vår at DoW anser masseovervåking i eget land som ulovlig og ikke planla å bruke det til dette formålet. Vi sørget for at det ble gjort uttrykkelig i kontrakten vår at det ikke er dekket av lovlig bruk.
• Helt autonome våpen. Skyutrullingsomfanget som dekkes av kontrakten vår, ville ikke tillate å drive fullt autonome våpen, ettersom dette ville kreve edge-utrulling. 

I tillegg til disse beskyttelsene tilbyr kontrakten vår ytterligere lagdelte sikkerhetsmekanismer, inkludert sikkerhetsstrukturen vår og OpenAI-tekniske eksperter i loopen.