Bidrar till gemensamma standarder för avancerad AI
AI-modeller med allt större kapacitet kan stärka cybersäkerheten, påskynda vetenskapliga genombrott och ge fler tillgång till expertkunskap. Men de kan också innebära risker om deras kapacitet missförstås, skyddsåtgärderna inte är tillräckliga eller myndigheter saknar den information som krävs för att agera. För att samhället ska kunna ta tillvara möjligheterna på ett säkert och ansvarsfullt sätt behövs institutioner med den tekniska kompetens och styrningsförmåga som krävs för att utvärdera, skydda och styra allt mer avancerade AI-system.
Det är en av anledningarna till att OpenAI var med och grundade Appia Foundation(öppnas i ett nytt fönster), som drivs av Linux Foundation. Appia utvecklar öppna och modulära specifikationer som omsätter internationella standarder och etablerade ramverk i praktiska bedömningskriterier för hela AI-värdekedjan. Syftet är att skapa ett viktigt lager av förtroende genom att göra det möjligt för oberoende aktörer att verifiera att standarder följs och ta fram tydligare och mer återanvändbara underlag, även när modeller, infrastruktur och applikationer utvecklas av olika organisationer. På så sätt bidrar Appia till ett gemensamt tekniskt språk som gör det lättare för nationella och internationella institutioner att lita på varandras bedömningar.
Vi ser detta initiativ som ett viktigt nästa steg i ett bredare arbete för att stärka de institutioner, standarder och bedömningsmetoder som behövs för avancerade AI-system.
Vår senaste plan för demokratisk styrning av avancerad AI beskriver en möjlig väg framåt. Där förespråkar vi ett långsiktigt ramverk i USA, ett stärkt Center for AI Standards and Innovation (CAISI) och en bredare strategi för att stärka samhällets motståndskraft. Samtidigt konstaterar vi att riskerna med avancerade AI-system är globala. Länder behöver därför samarbeta för att utveckla säkerhetsramverk som fungerar tillsammans, tillförlitliga former för att dela riskbedömningar och samordnade insatser vid incidenter.
Stark nationell kapacitet är en förutsättning för ett välfungerande internationellt samarbete. Institutioner som CAISI kan bygga upp teknisk expertis, utvärdera avancerade AI-system och bidra till ett oberoende system för granskning. Ett nätverk av starka nationella institutioner kan sedan utveckla gemensamma metoder, använda gemensamma bedömningsunderlag och ge regeringar den gemensamma tekniska grund som krävs för att agera tillsammans.
Standarder är en viktig del av detta arbete, men de måste bygga på trovärdiga utvärderingsmetoder och gedigen teknisk grund. I vår gemensamma vägledning för tillförlitliga utvärderingar av tredje part beskriver vi vilken information som i allt högre grad behöver redovisas vid utvärderingar av avancerade AI-system: vilket system som har testats, vilka verktyg och testmiljöer som har använts, hur systemets förmågor har utvärderats, vilka resurser som funnits tillgängliga och vilka kontroller som har genomförts för att säkerställa resultaten. Vi har också omsatt dessa principer i praktiken genom testsamarbeten med amerikanska CAISI och brittiska AISI. Deras arbete med att utvärdera avancerade AI-system och stärka skyddet mot biologiskt missbruk har lett till konkreta förbättringar av våra modeller. Det lägger grunden för gemensamma arbetssätt som kan standardiseras och göra det möjligt att jämföra resultat på ett enhetligt sätt.
Dessa metoder kompletterar OpenAI:s övergripande säkerhetsarbete. Preparedness Framework utgör grunden för hur vi definierar och omsätter vårt arbetssätt för att hantera de allvarligaste riskerna med avancerade AI-system i praktiken, inklusive våra interna rutiner. Frontier Governance Framework bygger vidare på detta i ett offentligt styrdokument med fokus på specifika regulatoriska krav, bland annat riskbedömning, modellrapportering, säkerhetskontroller, incidenthantering och hur extern expertis tas till vara. Tillsammans bidrar dessa ramverk till att omsätta övergripande åtaganden i konkreta arbetssätt som kan granskas och vidareutvecklas.
Nästa steg för Appia är att göra det möjligt att använda dessa arbetssätt sömlöst mellan organisationer, olika jurisdiktioner och genom hela leveranskedjan.
OpenAI bidrar redan till ett brett ekosystem av standarder och initiativ för framtida standardisering. Vi deltar bland annat i International Organization for Standardization and International Electrotechnical Commission Joint Technical Committee 1, Subcommittee 42 on Artificial Intelligence(öppnas i ett nytt fönster) och National Institute of Standards and Technology-led Artificial Intelligence Consortium(öppnas i ett nytt fönster). Vi var också med och grundade Frontier Model Forum och Linux Foundations Agentic Artificial Intelligence Foundation(öppnas i ett nytt fönster). Dessutom deltar vi i Coalition for Secure Artificial Intelligence(öppnas i ett nytt fönster), ingår i styrgruppen för Coalition for Content Provenance and Authenticity(öppnas i ett nytt fönster) och medverkar i standardiseringsarbetet inom Internet Engineering Task Force(öppnas i ett nytt fönster) och Fast Identity Online Alliance(öppnas i ett nytt fönster) för att främja gemensamma tekniska standarder.
Genom dessa forum – och nu även genom Appia – vill vi omsätta erfarenheter från utvecklingen av avancerade AI-modeller i öppna och tekniskt välgrundade arbetssätt som myndigheter, företag och oberoende granskare kan använda oavsett jurisdiktion.
