Stärkt demokratisk tillsyn över nationell säkerhet

AI förändrar hur demokratiska regeringar skyddar sina invånare. Tekniken kan bidra till att stoppa cyberattacker, skydda kritisk infrastruktur, upptäcka hot tidigare och ge offentliganställda en tydligare lägesbild i en kris. När verktygen används på rätt sätt kan de stärka den nationella säkerheten.

Demokratisk tillsyn bidrar till att säkerställa att offentlig maktutövning förblir ansvarig inför dem den är till för. När AI gör arbetet med nationell säkerhet snabbare och effektivare måste även de institutioner som ansvarar för tillsynen hålla jämna steg. AI kan snabbt och i stor skala agera utifrån ofullständig eller inaktuell information, felkonfigurerade mål eller felaktiga antaganden, vilket gör det svårare att upptäcka misstag manuellt innan de får spridning. Tillsyn är särskilt viktig när AI används för nationell säkerhet, eftersom besluten av nödvändighet kan omfattas av sekretess och få allvarliga konsekvenser.

Med vägledning av våra principer för nationell säkerhet inför vi AI-lösningar på området med skyddsåtgärder, meningsfulla mänskliga bedömningar och lämplig tillsyn, särskilt när mycket står på spel. Enligt dessa principer är det också prioriterat att hjälpa tillsynsinstitutionerna att bygga upp förmågan att granska AI-användning snabbt och i stor skala.

Myndigheter har redan fastställda befogenheter och skyldigheter att utöva tillsyn över verksamhet som rör nationell säkerhet. När AI bidrar till sådan verksamhet kan tillsynen behöva utvecklas. Traditionell tillsyn är arbetsintensiv och blir näst intill omöjlig när små team med metoder från papperstiden ska granska system som arbetar i maskinhastighet.

OpenAI anser att kraftfullare system kräver starkare tillsyn, och vi tillämpar den principen även på oss själva. Enligt vårt Preparedness Framework genomgår avancerade modeller en grundlig granskning före lansering för att vi ska förstå deras förmågor och avgöra om skyddsåtgärderna är tillräckliga. Granskningen fortsätter efter lanseringen genom löpande övervakning och incidentutredningar, och våra lärdomar används för att stärka skyddsåtgärderna och utveckla framtida modeller.

OpenAI utövar inte tillsyn över regeringen och ska inte heller göra det. Det ansvaret ligger hos folkvalda företrädare och de offentliga institutioner som har inrättats för ändamålet. I stället kan vi hjälpa tillsynsinstitutionerna med vår teknik när de fullgör sina befintliga uppdrag.

Tre principer ska vägleda detta arbete.

För det första ska AI stärka, inte ersätta, mänskliga och institutionella bedömningar. Beslut om huruvida myndigheters agerande är lagenligt, lämpligt och förenligt med tillämpliga regler och policyer ska fattas av behöriga myndigheter och lagligen inrättade tillsynsorgan.

För det andra ska myndigheters användning av AI vara spårbar och begriplig för behöriga tillsynsorgan. Granskare ska kunna förstå hur AI bidrog till ett beslut, samtidigt som sekretessbelagda och privata uppgifter samt säkerhetskänslig information skyddas.

För det tredje ska AI användas för att stärka demokratiska tillsynsinstitutioner. Manuell tillsyn över myndigheters AI-användning kan inte skalas upp. När AI införs inom nationell säkerhet och annan myndighetsverksamhet där mycket står på spel bör tillsynsorganen också använda tekniken på ett ansvarsfullt och begripligt sätt i enlighet med sina uppdrag.

Under det kommande året planerar vi att driva initiativet vidare på följande sätt:

• Vi kommer att samarbeta med behöriga tjänstepersoner för att identifiera konkreta möjligheter där AI-verktyg eller teknisk support kan effektivisera tillsynen.

• Vi kommer att ge demokratiska statliga tillsynsorgan utbildning, teknisk support och OpenAI-krediter till ett värde av 5 miljoner dollar för att stödja ansvarsfull användning och utvärdering av AI-verktyg.

• Vi kommer att samarbeta med tillsynsinstitutioner för att testa verktyg som hjälper behöriga granskare att undersöka dokumentationen kring AI-stödda myndighetsbeslut, däribland relevanta indata, utdata och verktygsanvändning, för att bättre förstå hur AI påverkade resultaten. Verktygen ska vara kompatibla med andra system eller modelloberoende där det är möjligt. Det är de deltagande institutionerna, inte OpenAI, som behåller kontrollen över underlag, resultat och slutsatser. Dessa ska endast vara tillgängliga för behöriga myndighetsföreträdare.

• Vi kommer att samarbeta med civilsamhället och tekniska experter så att deras perspektiv vägleder hur OpenAI utvecklar verktygen och tar sig an det ansvar som följer med dem.

AI kan koncentrera makt eller hjälpa demokratiska institutioner att utöva och kontrollera makt mer effektivt. Tekniken i sig avgör inte vilken framtid vi får, men det gör de val som mänskliga institutioner och företag gör nu.

Vi kommer att bedöma initiativets framsteg utifrån om behöriga granskare får bättre förutsättningar att fullgöra sina skyldigheter och om allmänheten får starkare skäl att lita på att myndigheternas AI-system används som avsett.

I takt med att myndigheternas användning av AI utvecklas kommer OpenAI att fortsätta stödja de institutioner som ansvarar för tillsynen.