Vores tilgang til partnerskaber med myndigheder og national sikkerhed
Regeringer begynder at bruge banebrydende AI-systemer til stadig vigtigere arbejde, blandt andet inden for national sikkerhed. Det skaber nye krav om, at AI-laboratorier, regeringer og civilsamfundet samarbejder om, hvordan disse værktøjer bør bruges i følsomme sammenhænge.
Vi mener, at demokratiske samfund skal kunne bruge AI til at beskytte mennesker, forsvare kritisk infrastruktur, levere offentlige tjenester og reagere på nye trusler, også på områder som cyberforsvar og biologisk sikkerhed, hvor AI kan give forsvarere en reel fordel. Men stadig mere avancerede AI-systemer skal udrulles på måder, der styrker demokratisk ansvarlighed, meningsfuld menneskelig dømmekraft og retsstaten, og som styrker demokratiske institutioner frem for at koncentrere magt.
I dag offentliggør vi OpenAIs principper for national sikkerhed for at give indsigt i, hvordan vi tilgår partnerskaber med myndigheder og brug af vores teknologi til national sikkerhed.
Disse principper afspejler en indsats på tværs af virksomheden for at udvikle en mere samlet tilgang til vores arbejde inden for national sikkerhed og retshåndhævelse, i takt med at vores teknologi fortsætter med at udvikle sig. Vi bad en førende ekspert i national sikkerhed, David Kris, om at hjælpe med at facilitere processen og bidrage med sin uafhængige vurdering, holdt lyttesessioner på tværs af virksomheden og inddrog medarbejdere fra en række teams fra forskning og sikkerhed til politik og myndighedspartnerskaber.
Vi offentliggør dem nu, mens vi udvider vores arbejde med den amerikanske regering og allierede partnere på kritiske defensive områder, især cyber- og biosikkerhed. I den seneste måned har vi som led i vores cyberforsvarsprogram Daybreak allerede etableret Trusted Access for Cyber-partnerskaber med Australien, Canada, Japan, Republikken Korea, Frankrig, Tyskland, Polen, Nederlandene og EU-institutioner som ENISA. Vi har også et voksende og tillidsfuldt partnerskab med den britiske regering om cyber, test og evaluering. Vi anlægger en tilsvarende tilgang inden for biosikkerhed. Sidste måned annoncerede vi også udvidet betroet adgang til vores GPT‑Rosalind‑model for udvalgte amerikanske myndigheds- og allierede partnere, der understøtter missioner inden for folkesundhed og bioforsvar.
Disse principper gælder for vores nuværende og fremtidige partnerskaber om national sikkerhed og retshåndhævelse, herunder vores eksisterende arbejde med det amerikanske krigsministerium. Da vi annoncerede vores aftale tidligere i år, formulerede vi flere kontraktlige begrænsninger: ingen brug af OpenAI-teknologi til masseovervågning i hjemlandet, ingen brug af OpenAI-teknologi til at styre autonome våbensystemer og ingen brug af OpenAI-teknologi til automatiserede beslutninger med høj risiko. Disse begrænsninger er i tråd med de principper, vi deler i dag.
Vi mener, at det rigtige er at være tydelige om, hvordan vores teknologi kan og ikke kan bruges, og at være åbne om disse grænser. Men mange af de mest vidtrækkende spørgsmål om AI i det offentlige, især inden for national sikkerhed, bør besvares gennem den demokratiske proces. Rollen for virksomheder som vores er at bidrage til at oplyse disse beslutninger, ikke at træffe dem alene. Derfor støtter vi lovgivningsmæssige initiativer, der skal etablere sikkerhedsforanstaltninger omkring nogle af de militære anvendelser af AI med højest risiko, herunder i forbindelse med indenlandsk overvågning, autonome våbensystemer og andre højrisikoanvendelser, der direkte påvirker USA's nationale sikkerhed.
Læs principperne her(åbner i et nyt vindue).
