Vår tilnærming til partnerskap med myndigheter og nasjonal sikkerhet

Myndigheter begynner å bruke banebrytende KI-systemer til stadig viktigere arbeid, blant annet innen nasjonal sikkerhet. Det gjør det stadig viktigere at KI-laboratorier, myndigheter og sivilsamfunnet samarbeider om hvordan disse verktøyene bør brukes på sensitive områder. 

Vi mener demokratiske samfunn bør kunne bruke KI til å beskytte mennesker, forsvare kritisk infrastruktur, levere offentlige tjenester og håndtere nye trusler, blant annet på områder som cyberforsvar og biosikkerhet, der KI kan gi forsvarere en betydelig fordel. Men stadig mer kapable KI-systemer må tas i bruk på måter som styrker demokratisk ansvarlighet, reelt menneskelig skjønn og rettsstaten, og som styrker demokratiske institusjoner i stedet for å konsentrere makt.

I dag publiserer vi OpenAIs prinsipper for nasjonal sikkerhet for å gi åpenhet om hvordan vi tilnærmer oss partnerskap med myndigheter og bruk av teknologien vår til nasjonal sikkerhet.

Prinsippene gjenspeiler en innsats på tvers av selskapet for å utvikle en mer helhetlig tilnærming til arbeidet vårt innen nasjonal sikkerhet og rettshåndhevelse etter hvert som teknologien vår fortsetter å utvikle seg. Vi engasjerte den ledende eksperten på nasjonal sikkerhet David Kris for å bidra til å tilrettelegge prosessen og gi sin uavhengige vurdering, holdt lyttemøter på tvers av selskapet og involverte ansatte fra en rekke team, fra forskning og sikkerhet til politikk og partnerskap med myndigheter.

Vi publiserer dem nå mens vi utvider arbeidet vårt med amerikanske myndigheter og allierte partnere på kritiske defensive områder, særlig cyber og biosikkerhet. I løpet av den siste måneden har vi, som en del av cyberforsvarsprogrammet vårt Daybreak⁠, allerede etablert Trusted Access for Cyber-partnerskap med Australia, Canada, Japan, Republikken Korea, Frankrike, Tyskland, Polen, Nederland og EU-institusjoner som ENISA. Vi har også et voksende og tillitsfullt partnerskap med britiske myndigheter om cyber, testing og evaluering. Vi bruker en lignende tilnærming innen biosikkerhet. I forrige måned kunngjorde vi også utvidet betrodd tilgang til GPT‑Rosalind‑modellen vår for utvalgte amerikanske myndigheter og allierte partnere som støtter oppdrag innen folkehelse og biologisk forsvar.

Disse prinsippene gjelder for våre nåværende og fremtidige partnerskap innen nasjonal sikkerhet og rettshåndhevelse, inkludert vårt eksisterende arbeid med Department of War. Da vi kunngjorde avtalen tidligere i år, beskrev vi flere kontraktsmessige begrensninger: ingen bruk av OpenAI-teknologi til innenlandsk masseovervåking, ingen bruk av OpenAI-teknologi til å styre autonome våpensystemer og ingen bruk av OpenAI-teknologi til automatiserte beslutninger med store konsekvenser. Disse begrensningene er i tråd med prinsippene vi deler i dag.

Vi mener det riktige er å være tydelige på hvordan teknologien vår kan og ikke kan brukes, og å være åpne om disse grensene. Men mange av de mest avgjørende spørsmålene om KI i myndighetenes arbeid, særlig innen nasjonal sikkerhet, bør besvares gjennom den demokratiske prosessen. Rollen til selskaper som vårt er å bidra til å informere slike beslutninger, ikke å ta dem alene. Derfor støtter vi lovgivningsarbeid for å etablere sikkerhetstiltak rundt noen av de militære bruksområdene for KI med høyest risiko, blant annet innen innenlandsk overvåking, autonome våpensystemer og annen høyrisikobruk som direkte påvirker USAs nasjonale sikkerhet.

Les prinsippene her⁠(åpnes i et nytt vindu).