Vår syn på partnerskap med myndigheter och inom nationell säkerhet

Regeringar börjar använda banbrytande AI-system för allt viktigare arbete, även inom nationell säkerhet. Det skapar nya krav på att AI-labb, regeringar och civilsamhället samarbetar om hur dessa verktyg bör användas i känsliga miljöer. 

Vi anser att demokratiska samhällen ska kunna använda AI för att skydda människor, försvara kritisk infrastruktur, tillhandahålla offentliga tjänster och möta framväxande hot, även inom områden som cyberförsvar och biologisk säkerhet där AI kan ge försvarssidan en påtaglig fördel. Men allt mer kapabla AI-system måste införas på sätt som stärker demokratiskt ansvarsutkrävande, meningsfullt mänskligt omdöme och rättsstatens principer, och som stärker demokratiska institutioner i stället för att koncentrera makt.

I dag publicerar vi OpenAI:s principer för nationell säkerhet för att ge insyn i hur vi ser på partnerskap med myndigheter och användning av vår teknik inom nationell säkerhet.

Dessa principer speglar ett företagsövergripande arbete med att utveckla ett mer heltäckande förhållningssätt till vårt arbete inom nationell säkerhet och brottsbekämpning i takt med att vår teknik fortsätter att utvecklas. Vi anlitade en ledande expert på nationell säkerhet, David Kris, för att hjälpa till att leda processen och bidra med sin oberoende bedömning, höll dialogmöten i hela företaget och involverade medarbetare från en rad team, från forskning och säkerhet till policy och myndighetspartnerskap.

Vi publicerar dem nu när vi utökar vårt arbete med USA:s regering och allierade partner inom kritiska defensiva områden, särskilt cyber- och biosäkerhet. Under den senaste månaden har vi, som en del av vårt cyberförsvarsprogram Daybreak⁠, redan etablerat Trusted Access for Cyber-partnerskap med Australien, Kanada, Japan, Republiken Korea, Frankrike, Tyskland, Polen, Nederländerna och EU-institutioner som ENISA. Vi har också ett växande och förtroendefullt partnerskap med den brittiska regeringen kring cyberfrågor, testning och utvärdering. Vi använder ett liknande tillvägagångssätt inom biosäkerhet. Förra månaden tillkännagav vi också utökad betrodd åtkomst till vår GPT‑Rosalind‑modell för utvalda partner i USA:s regering och bland allierade som stöder uppdrag inom folkhälsa och biologiskt försvar.

Dessa principer gäller våra nuvarande och framtida partnerskap inom nationell säkerhet och brottsbekämpning, inklusive vårt befintliga arbete med Department of War. När vi tillkännagav vårt avtal tidigare i år formulerade vi flera begränsningar i avtalet: ingen användning av OpenAI-teknik för inhemsk massövervakning, ingen användning av OpenAI-teknik för att styra autonoma vapensystem och ingen användning av OpenAI-teknik för automatiserade beslut med stor påverkan. Dessa begränsningar ligger i linje med de principer vi delar i dag.

Vi anser att det rätta är att vara tydliga med hur vår teknik kan och inte kan användas, och att vara transparenta om detta. Men många av de mest betydelsefulla frågorna om AI i offentlig sektor, särskilt inom nationell säkerhet, bör besvaras genom den demokratiska processen. Rollen för företag som vårt är att bidra med underlag till dessa beslut, inte att fatta dem på egen hand. Det är därför vi stöder lagstiftningsinitiativ för att införa skyddsåtgärder kring vissa militära användningar av AI med allra högst risk, bland annat i samband med inhemsk övervakning, autonoma vapensystem och andra högriskanvändningar som direkt påverkar USA:s nationella säkerhet.

Läs principerna här⁠(öppnas i ett nytt fönster).