Möjligheten att forma AI-politiken finns. Vi måste agera.

Vi har nått ett nytt kapitel för AI:s kapacitet, och det kräver ett nytt kapitel för AI-politiken. Inget företag, ingen bransch och ingen myndighet kan ta sig an denna utmaning på egen hand. Vi måste ta tillfället i akt för att vidta konkreta åtgärder och genomföra effektiva lösningar, istället för att vänta på politisk perfektion.

Det här är vad vi gör:

1. Arbetar för obligatoriska nationella säkerhetskrav för AI. Vi vill samarbeta med kongressen för att utforma obligatoriska nationella, kapacitetsbaserade säkerhetsbestämmelser för AI.

2. Hålla uppe momentum i delstaterna. Tills kongressen vidtar åtgärder fortsätter vi att stödja lagstiftning på delstatsnivå som stärker det övergripande ekosystemet för AI-säkerhet. I dag tillkännager vi vårt stöd för fyra lagförslag i Kalifornien: SB 813 om den övergripande infrastrukturen för oberoende säkerhetsbedömningar, AB 1405 om standarder för AI-revisorer, SB 1119 om skydd av ungdomar och AB 1864 om skyddsåtgärder mot biologiska hot som möjliggörs av AI.

3. Utveckla branschledda standarder. Vi kommer att samarbeta med andra laboratorier som bedriver banbrytande AI-forskning för att ta fram standarder för banbrytande AI och nu, med eller utan statligt stöd, inleda ett frivilligt initiativ.

4. Utveckla globala standarder. Vi kommer att verka för samstämmiga internationella strategier för att mäta kapaciteter, hantera risker, upprätthålla mänsklig kontroll och avgöra när och hur utvecklingen bör bromsas eller stoppas, även om det innebär att utvecklingen av modellkapaciteter fördröjs.

Vår chefsforskare Jakub Pachocki skrev⁠ nyligen att den snabba framväxten av maskinintelligens, inklusive möjligheten till rekursiv självförbättring, kräver ”yttersta försiktighet”. OpenAI kommer att fortsätta utveckla tekniska lösningar för anpassning och övervakning, bygga försvarssystem och bromsa utvecklingen när det behövs. Men tekniskt arbete inom enskilda laboratorier räcker inte. Vi behöver också gemensamma standarder, bland annat för när utvecklingen bör bromsas eller stoppas.

Insatserna är enorma. Avancerad AI kan påskynda utvecklingen av nya läkemedel⁠, stärka kritisk infrastruktur⁠, skapa fler ekonomiska möjligheter⁠ och bidra till att lösa vetenskapliga problem⁠ som har stått emot generationer av mänskliga ansträngningar. Men den kapacitet som gör modeller mer användbara medför också risker, och den kommer inte att förbli begränsad till ett fåtal laboratorier för banbrytande AI. Modeller som utvecklas runt om i världen, även öppna modeller, kommer allt närmare dagens tekniska frontlinje och blir allmänt tillgängliga.

Astras möjligheter, de första tecknen på att AI påskyndar forskningen och Jakubs essä pekar alla i samma riktning: AI utvecklas snabbt och politiken måste hålla jämna steg med denna utveckling.

Greg Brockman har beskrivit ett ”fönster för försvarare”⁠(öppnas i ett nytt fönster): en begränsad period då banbrytande AI kan hjälpa försvarare att stärka kritiska system innan kraftfull offensiv kapacitet blir allmänt tillgänglig. Beslutsfattarna står inför ett liknande läge: möjligheten att införa hållbara skydd minskar innan AI:s kapacitet springer ifrån de institutioner som ansvarar för styrningen.

I takt med att möjligheterna ökar måste förtroendet för säkerheten i allt högre grad styra takten i AI-utvecklingen. Säkerhet står inte i vägen för framsteg; den gör det möjligt för framstegen att nå längre och komma fler personer till godo.

Vi har stärkt säkerhetsåtgärderna för övervakning, samordning och säkerhet under hela modellernas utvecklingscykel. Detta innefattar bättre isolering av arbetsbelastningar för banbrytande forskning, mer omfattande övervakning av modellernas beteende under träning och utvärdering med hjälp av verktyg, samt tydligare regler för rapportering och eskalering av problem. För Astra införde vi också heltäckande övervakning av fullständiga förlopp, inklusive tankekedjor, samt en obligatorisk samordningsutvärdering innan en bredare intern implementering.

Dessa skyddsåtgärder måste även i fortsättningen ligga steget före kapacitetsutvecklingen. Om fortsatt verksamhet skulle innebära en oacceptabel säkerhetsrisk kommer vi att bromsa eller avbryta utvecklingen eller driftsättningen av system som vi inte kan skydda tillräckligt, precis som vi redan har gjort och som krävs enligt vår förberedelseramverk⁠(öppnas i ett nytt fönster).

Helt autonom rekursiv självförbättring – där AI-system självständigt driver fram nya generationer av allt mer kapabla AI-system – sker inte i dag. Vi bör inte eftersträva den förrän den kan genomföras säkert.

AI påskyndar dock redan nu delar av den forskning som används för att utveckla och finjustera nästa generations modeller. Vår senaste forskning⁠ visar att AI-agenter kan utföra vissa uppgifter som skulle ta skickliga forskare flera dagar. Det här är inte rekursiv självförbättring, men det är ett bevis på vilken riktning denna utveckling tar.

Den accelerationen kan och måste också inriktas på säkerhet. Vårt mål är att på ett säkert sätt utveckla automatiserade AI-forskare som, under mänsklig övervakning, möjliggör både djupinlärning och finjustering, där vi använder varje generation av AI för att göra nästa generation säkrare, bättre anpassad och lättare att hantera – inte bara mer kraftfull.

Regeringar bör utveckla gemensamma sätt att mäta framstegen, bevara meningsfull mänsklig kontroll och fastställa gemensamma säkerhetsgränser för när och hur utvecklingen bör bromsas eller stoppas. Om vi inte kan uppfylla vissa säkerhetskrav utan att bromsa utvecklingen av möjligheterna, måste vi prioritera att uppfylla dessa säkerhetskrav. Ju kraftfullare tekniken blir, desto starkare måste skydden runt den vara.

Utsikterna till en AI-utveckling som påskyndas av AI kräver mer än frivilliga åtaganden. USA behöver obligatoriska, kapacitetsbaserade nationella regler som kan utvecklas i takt med tekniken.

Vår plan för demokratisk styrning av banbrytande AI⁠ stakar ut en väg mot ett hållbart federalt ramverk: gemensamma krav på tester och oberoende utvärderingar, stärkt cybersäkerhet, tydliga regler för incidentrapportering, ökad nationell beredskap och gemensamma mått för att följa framstegen mot rekursiv självförbättring.

I kongressen tar nu flera seriösa förslag om säkerheten kring banbrytande AI form. Vi kommer att fortsätta att bidra med konstruktiva idéer och räknar med att stödja lagstiftning som väsentligt höjer säkerhetskraven. Nu när så mycket står på spel bör vi inte låta det goda bli det godas fiende. Kongressen måste vidta åtgärder innan den ajourneras.

En nationell ram måste vara kraftfull, men samtidigt noggrant anpassad. Säkerhetskraven för banbrytande AI bör gälla för den handfull välfinansierade laboratorier som utvecklar de mest kraftfulla systemen, inte för nystartade företag, små utvecklare eller forskare som inte alls verkar i framkant av AI-utvecklingen. Kraven måste stå i proportion till kapaciteten och riskerna.

Politiken för säkerhet kring banbrytande AI bör inte heller bli en förtäckt policy för öppna vikter. Öppna modeller kan vara en del av lösningen, särskilt inom cybersäkerhet och där krav på suveränitet, säkerhet eller datahemvist talar för lokal driftsättning. De flesta konkurrerar inte i den tekniska frontlinjen, utan om kostnad, kontroll och svarstid. Som vi bekräftade när vi undertecknade brevet om öppna vikter och amerikanskt AI-ledarskap⁠(öppnas i ett nytt fönster) behöver USA både öppna och slutna modeller. Ett federalt ramverk bör hantera banbrytande kapaciteter och risker utan att försvaga konkurrensen, befästa etablerade aktörers ställning eller driva innovation utomlands.

Ett seriöst offentligt ramverk bör minska maktkoncentrationen, inte öka den. Banbrytande laboratorier fastställer nu till stor del själva sina regler för att hantera de därmed förknippade banbrytande riskerna. Demokratiskt kontrollerbara normer, oberoende granskning och verklig insyn skulle ersätta det splittrade systemet med privat förvaltning.

Det är avgörande för amerikanskt ledarskap. USA kan inte vinna AI-eran enbart genom teknisk kapacitet. Ett tekniskt försprång har liten betydelse om människor, institutioner och myndigheter inte har tillräckligt förtroende för tekniken för att använda den. Starka garantier är inte en eftergift som går ut över innovationen. De utgör en del av den infrastruktur som krävs för en bred tillämpning och ett hållbart amerikanskt ledarskap.

Vi behöver omgående nationella standarder för AI, och alla som arbetar med banbrytande AI ser hur brådskande detta är. Tills kongressen vidtar åtgärder måste delstaterna fortsätta att fylla tomrummet och höja ribban.

OpenAI har uttryckt sitt stöd för SB 53 i Kalifornien, RAISE Act i New York, SB 315 i Illinois samt oberoende granskningar inom ramen för den lagstiftning om säkerheten kring banbrytande AI som övervägs i Massachusetts. Vi uppmanar delstaterna att enas kring dessa gemensamma garantier. På så sätt kan de i praktiken skapa en nationell grund som kongressen i slutändan kan lagstifta om, ett tillvägagångssätt som vi kallar ⁠omvänd federalism⁠. Men harmonisering innebär inte att kraven fryses.

I dag uttrycker vi officiellt vårt stöd för fyra ytterligare lagförslag i Kalifornien som har antagits av parlamentet och nu skickas vidare till guvernör Newsom. Tillsammans tar de itu med olika delar av ekosystemet för AI-säkerhet som kompletterar varandra.

SB 813⁠(öppnas i ett nytt fönster) skulle införa en process för att utse kvalificerade och oberoende organisationer som kan bedöma AI-risker. Som vi har angett i vår ⁠(öppnas i ett nytt fönster)plan för säkerhet kring banbrytande AI⁠(öppnas i ett nytt fönster) föredrar vi att oberoende tekniska granskningar görs obligatoriska på federal nivå. På så sätt kan beslutsfattare fastställa enhetliga standarder för granskarnas kvalifikationer och säkerhet samt för deras tillgång till ytterst känslig information. I avsaknad av federala åtgärder kan Kalifornien hjälpa till att fastställa reglerna för ett säkert och välfungerande nationellt system för oberoende utvärderingar som leder till bättre säkerhetsresultat.

AB 1405⁠(öppnas i ett nytt fönster) skulle införa krav på registrering, oberoende, transparens och ansvarsskyldighet för AI-revisorer.

SB 1119⁠(öppnas i ett nytt fönster) skulle kräva ålderskontroll, riskbedömningar, oberoende granskningar, föräldrakontroll och skyddsåtgärder mot skadligt innehåll för barn och tonåringar som använder sällskapschattbotar. Vi uttryckte nyligen vårt stöd⁠ för detta lagförslag, som bygger vidare på de åtgärder för ungas säkerhet som OpenAI har främjat genom våra produkter, ⁠globala policyprinciper⁠ och stödet för ⁠(öppnas i ett nytt fönster)Parents & Kids Safe AI Act⁠(öppnas i ett nytt fönster), samt skydd som är inbyggda i ChatGPT för tonåringar – bland annat striktare standardinställningar inom känsliga områden, tysta timmar, studietimmar och påminnelser om att ta pauser.

AB 1864⁠(öppnas i ett nytt fönster) skulle kräva att leverantörer av gensyntes och tillverkare av bänkbaserad syntesutrustning följer federala granskningsstandarder, vilket stärker ett avgörande fysiskt skydd mot AI-baserade biologiska hot.

Vi har tidigare inte stött vissa av dessa lagförslag, men efter att ha omprövat saken mot bakgrund av den senaste tidens snabba kapacitetsökning stöder vi dem nu.

Dessa lagförslag ersätter inte federala bestämmelser. Det handlar om seriösa insatser som kan skydda människor redan nu, visa hur fungerande skyddsåtgärder kan se ut och bidra till att skapa drivkraft för åtgärder på federal nivå.

Lagar i sig kommer inte att göra avancerad AI säker. Vi behöver också konkreta arbetsmetoder inom de laboratorier som utvecklar de mest kraftfulla systemen. Övervakning är den viktigaste utgångspunkten.

Detta är särskilt viktigt vid bristande samordning: när en modell strävar efter ett mål på sätt som strider mot mänskliga avsikter eller fastställda gränser, utan att det krävs medvetande eller illvilja. I takt med att modellerna blir mer autonoma, använder kraftfullare verktyg och förblir aktiva under längre tid, måste utvecklare göras ansvariga för att övervaka detta bristfälligt avstämda beteende och visa att det finns effektiva skyddsåtgärder.

Övervakning måste kopplas till tydliga krav på offentliggörande. Precis som vi har förespråkat i Kalifornien bör företag åläggas att omedelbart skriftligen underrätta berörda parter om deras modeller under utveckling eller utvärdering utan tillstånd kringgår en annan organisations säkerhetsåtgärder och i praktiken skaffar sig tillgång till, ändrar eller förstör den organisationens skyddade system eller konfidentiella information. Vi stöder även federala anmälningskrav för andra allvarliga AI-incidenter och arbetar med att fastställa vilka incidenter som ska omfattas av dessa krav och vad kraven ska innebära.

Som meddelades förra veckan håller OpenAI på att ta fram ett ramverk för att rapportera allvarliga fall av feljustering och systematiskt övervaka aktiviteten hos de senaste modellerna, inklusive intern användning. Detta initiativ drivs i första hand av företaget, men vi hoppas att det kan bidra till att påverka den federala politiken och leda till mer omfattande rapporteringskrav.

Vi vill samarbeta med andra labb kring branschledda standarder. Eventuella branschledda standarder skulle komplettera, inte ersätta, obligatoriska federala garantier och demokratisk tillsyn. Vi har dock gått in i en ny fas när det gäller AI-kapaciteter, och alla alternativ måste vara öppna, däribland möjligheten att som ett omedelbart steg inleda frivilliga initiativ utanför den offentliga sektorn.

Sådana standarder måste i slutändan också sträcka sig bortom nationsgränserna. Modeller, forskning och teknisk expertis sprids över hela världen, och problem med de mest kraftfulla systemen kan få konsekvenser långt utanför det land där de har utvecklats. För att kunna ta ledningen på internationell nivå måste USA fastställa trovärdiga normer inom landet. Vi blir dessutom alltmer övertygade om att kompatibla internationella normer kommer att vara nödvändiga.

Möjligheten att forma AI-politiken finns – än så länge. Vi tänker ta vara på den.

Det innebär att agera skyndsamt och ödmjukt och vara beredd att anpassa sig. Det innebär att vi stöder seriösa förslag som avsevärt höjer säkerhetsnivån, även om de inte är exakt sådana som vi själva skulle ha utformat. Och det innebär att vi stärker ramen i takt med att tekniken utvecklas.

Inget första steg blir perfekt. Men den större risken nu är att vänta för länge med att ta det.