USA stärker AI-säkerheten genom delstatliga och federala åtgärder

Av Chris Lehane, Chief Global Affairs Officer

Från delstatshuvudstäder runt om i landet till Washington och internationella möten börjar seriösa arbetssätt för styrning av banbrytande AI ta form. Tillsammans driver de en demokratisk vision för AI framåt.

Kalifornien, New York och senast Illinois har drivit fram säkerhetslagstiftning för banbrytande AI som hjälper landet att röra sig mot en gemensam grundnivå för styrning av de kraftfullaste AI-systemen.

Dessa insatser visar kraften bakom det OpenAI kallar omvänd federalism: delstater som bidrar till att etablera en gemensam riktning genom ett gemensamt ramverk. När delstatslett arbete möter insatser som pågår på federal nivå börjar en nationell standard ta form, vilket lägger grunden för ett USA-lett globalt AI-ramverk. Vi anser att det bästa sättet att säkerställa att AI gynnar de många, inte bara de få, är att viktiga beslut – med början i säkerhet för banbrytande AI – fattas av demokratiska regeringar, inte enbart av labb för banbrytande AI.

I slutändan skulle USA bäst gynnas av ett nationellt ramverk grundat i den principen. Men i avsaknad av ett sådant kan delstaterna föra oss dit genom att anta lagar som speglar varandra. Steg för steg kan de skapa en faktisk nationell standard.

Och om säkerhet är prioriteringen är en sådan nationell standard den bästa politiska vägen för att säkerställa (a) att USA fortsätter att leda innovationen och inte undergrävs av ett lapptäcke av regler som skulle bromsa möjligheten att bygga ut en global demokratisk AI-stack som ser till att de goda aktörerna har de verktyg de behöver för att försvara sig mot illasinnade aktörer som vill missbruka AI inom områden som cybersäkerhet; och (b) att USA får bästa möjliga utgångsläge för att ta den nationella standarden vidare och skapa ett globalt arbetssätt för säker driftsättning av AI, byggt på demokratiska värderingar. Om vi vill skapa ett säkerhetsramverk som verkligen prioriterar att få en nationell och internationell standard på plats – vilket är det som bäst stöder säker driftsättning av AI – krävs hårt arbete, allvar och en strategi som kopplar samman delstaterna, den federala regeringen och det internationella samtalet. Ett performativt eller signalpolitiskt arbetssätt kommer inte att lösa uppgiften här – kaos på delstatsnivå ligger inte i ett hållbart säkerhetsarbetes intresse, utan leder bara till mer kaos.

För att det arbetssättet ska lyckas bör delstaterna fortsätta att samordna sig kring kärnelementen, som Kalifornien, New York och Illinois har gjort. I stora drag är dessa element:

• Ett dokumenterat säkerhetsramverk med riskbedömningar för banbrytande modeller och offentliggörande av dessa bedömningar och deras resultat.
• Rapportering av allvarliga säkerhetsincidenter.
• Styrning och ansvarsskyldighet genom oberoende, objektiva revisioner.

Tillsammans har dessa tre delstater byggt in demokratisk tillsyn i driftsättningen av banbrytande AI. Kalifornien etablerade det centrala ramverket för transparens. New York visade att arbetssättet kunde antas i flera jurisdiktioner. Illinois kompletterade det genom att kräva oberoende verifiering av viktiga offentliggöranden.

Vi inser att lagstiftning ofta innehåller ytterligare bestämmelser för att säkra de röster som krävs för att antas. Men vi anser att detta är de nödvändiga elementen för att skapa en faktisk nationell standard genom omvänd federalism. Utan den disciplinen riskerar vi att politiken sväller och att ett lapptäcke av delstatliga lagar växer fram som är svårt för tillsynsmyndigheter att upprätthålla, förvirrande för konsumenter att navigera och drar utvecklarresurser – särskilt hos startups och små företag – från säkerhetsarbete där de skulle göra större nytta. Särskilt, och som de senaste veckorna har visat, behöver vi när AI-modeller blir allt mer kapabla ett sammanhängande system som gör att vi kan få verktygen i händerna på myndigheter, kritisk infrastruktur, allierade och betrodda partner.

Beslutsfattare bör också värna mot att uppdraget glider iväg. Delstater bör inte förväntas hantera betydande nationella säkerhetsrisker (eller i praktiken fatta nationella säkerhetsbeslut för hela landets räkning) eller genomföra mycket tekniska granskningar som bättre hanteras av federala experter med resurser, expertis, tillgång till sekretessbelagda system och kapacitet att arbeta nära våra team.

På federal nivå fortsätter Trumpadministrationen att arbeta med tekniska experter och nationella säkerhetsexperter om ett ramverk för den amerikanska regeringens testning av de mest kapabla AI-modellerna inom cyberområdet. Ramverket kommer att fastställa standarder, tidsplaner och processer för testning. OpenAI deltar i konstruktiva samtal med administrationen, branschkollegor, näringslivsorganisationer och andra intressenter som hjälper till att forma arbetet.

Det pågående arbetet med cyberutvärderingar visar varför konsekvens är viktigt. I dag testas modeller, av begripliga skäl, innan det federala ramverket är klart. När labben har arbetat sig igenom den processen har en lärdom blivit tydlig: vi behöver ett konsekvent och upprepningsbart arbetssätt på både delstatlig och federal nivå. Det är avgörande om vi vill få de mest kapabla modellerna i händerna på myndigheter, försvarare av kritisk infrastruktur, allierade och andra betrodda partner. Vi uppskattar administrationens mål att ha ramverket på plats i början av augusti.

Ett federalt testningsramverk hjälper till att få avancerade AI-verktyg i händerna på myndigheter, försvarare av kritisk infrastruktur, allierade och andra betrodda partner. Därmed stärker det demokratiska institutioner och bidrar till att bygga en USA-ledd demokratisk AI-stack. Nu är tiden att använda USA:s innovationsförsprång till stöd för demokratisk AI.

Varken en odefinierad federal process eller ett lapptäcke av delstatliga lagar kommer att skapa ett sammanhängande säkerhetssystem för banbrytande AI. Vi behöver ett arbetssätt som säkerställer att de bästa testarna utvärderar de mest kapabla modellerna – och att betrodda försvarare får tillgång till verktygen snabbt nog för att ligga steget före illasinnade aktörer.

Kongressen går också framåt. Lagstiftare i båda kamrarna och från båda partierna – senast representanthusledamöterna Jay Obernolte och Lori Trahan – har uppmärksammat utvecklingen i delstaterna och den verkställande grenen och lagt fram förslag till ett federalt ramverk. Inget diskussionsutkast med en realistisk väg till antagande kommer att vara perfekt. Men vi ser detta arbete som ett produktivt steg framåt och anser att många av dess bestämmelser är genomtänkta och värda att stödja.

Vi uppmuntras också av att ledare i senaten och representanthuset lägger betydande kraft på förslag om nationell styrning och säkerhet för banbrytande AI, och vi har haft konstruktiva samtal med många av dem. Med tanke på storleken och inflytandet hos de delstater som redan har antagit lagar i samma riktning bör det bli lättare att etablera ett enda nationellt säkerhetssystem för banbrytande AI om dessa arbetssätt införlivas i federal lagstiftning.

OpenAI:s plan för säkerhet i banbrytande AI beskriver vad vi anser är de nödvändiga elementen i det ramverket.

För det första bör den federala regeringen leda testningen och utvärderingen av de mest avancerade systemen. Banbrytande AI väcker frågor om nationell säkerhet och allmän säkerhet som kräver teknisk expertis, resurser och tillgång som ingen delstat fullt ut kan återskapa.

Det arbetet bör stärka Center for AI Standards and Innovation (CAISI), som inrättades under president Biden och stärktes under president Trump. CAISI kan ge den varaktiga federala kapacitet som behövs för att utvärdera avancerade modeller och rikta säkerhetsarbetet för banbrytande AI mot att förebygga skada innan den uppstår, i stället för att främst förlita sig på ansvar i efterhand. All federal lagstiftning bör noggrant överväga hur CAISI ska samarbeta med resten av regeringen och vilken roll centret bör ha i testningens kärna.

För det andra bör företag som utvecklar de mest kapabla systemen uppfylla tydliga krav, inklusive oberoende revisioner, incidentrapportering, starka säkerhetsstandarder och skydd för visselblåsare.

För det tredje bör federala och delstatliga insatser stärka varandra. Delstatslagar kommer inte alla att vara identiska, och vi ser fram emot att arbeta med beslutsfattare i hela landet för att säkerställa att de stärker säkerheten samtidigt som AI:s ekonomiska fördelar maximeras.

Delstater bör också fortsätta fungera som demokratins laboratorier på områden bortom säkerhet för banbrytande AI, däribland skydd av unga, el- och miljöpolitik samt AI-utbildning och AI-kompetens.

Ett federalt ramverk är fortsatt nödvändigt. Banbrytande AI väcker frågor om nationell säkerhet, ekonomisk konkurrenskraft och allmän säkerhet som ytterst kräver nationella standarder, nationell kapacitet och nationella institutioner för att stödja demokratisk AI.

Nationell lagstiftning är också avgörande för ett USA-lett internationellt ramverk för AI-standarder. Den idén diskuterades för flera veckor sedan vid G7, tillsammans med Brasilien, Egypten, Indien, Kenya och Korea, där vd:arna för ledande labb inom banbrytande AI diskuterade behovet av ett sådant ramverk. Efter mötet föreslog OpenAI:s vd Sam Altman i Financial Times⁠(öppnas i ett nytt fönster) ”ett USA-lett internationellt forum som fastställer accepterade standarder, tillhandahåller sakkunnig och opartisk analys av förmågor och risker och gör tekniken tillgänglig för länder och företag som deltar och följer reglerna”. Den här veckan lade även Google DeepMinds vd Demis Hassabis fram genomtänkta idéer i en ny artikel. Federal lagstiftning – med nödvändighet tvärpolitisk – skulle ge en stark grund för den internationella insatsen.

Drivkraften syns nu på varje nivå. Delstater etablerar gemensamma arbetssätt. Kongressen och den verkställande grenen bygger mot ett nationellt ramverk. Och globala ledare börjar diskutera internationella standarder. Om varje nivå bygger vidare på de andra kan USA leda utvecklingen av ett globalt ramverk grundat i en demokratisk vision för AI. Och detta demokratiska samordnade arbetssätt för AI är det arbetssätt som verkligen prioriterar säkerhet.