Bidrager til fælles standarder for avanceret AI
Stadig mere kapable modeller kan styrke cyberforsvar, fremskynde videnskabelige opdagelser og udvide adgangen til ekspertise. Men de kan også skabe sikkerheds- og beskyttelsesrisici, hvis deres kapabiliteter misforstås, deres værn er utilstrækkelige, eller regeringer mangler den information, de behøver for at reagere. For at realisere fordelene sikkert og med tillid får samfund brug for institutioner med den tekniske kapacitet og styringskapacitet, der kræves for at evaluere, sikre og styre stadig mere kapable systemer.
Det er en af grundene til, at OpenAI var med til at stifte Appia Foundation(åbner i et nyt vindue), som huses af Linux Foundation. Appia vil udvikle åbne, modulære specifikationer, der skal omsætte internationale standarder og etablerede rammeværker til praktiske vurderingskriterier på tværs af AI-værdikæden. Arbejdet kan bidrage til at udvikle et kritisk manglende tillidslag, hvor tredjeparter kontrollerer overensstemmelse med standarder og skaber klarere og mere genanvendelig dokumentation, når modeller, infrastruktur og applikationer udvikles af forskellige organisationer. Med dette arbejde vil Appia være med til at skabe et fælles teknisk sprog, der gør det muligt for nationale og internationale institutioner at have tillid til hinandens arbejde.
Vi ser denne indsats som et vigtigt næste skridt i et bredere arbejde med at styrke de institutioner, standarder og vurderingspraksisser, der er nødvendige for avancerede AI-systemer.
Vores nylige plan for demokratisk styring af frontier-AI giver en køreplan for det arbejde. Den opfordrer til et holdbart amerikansk rammeværk, et styrket Center for AI Standards and Innovation (CAISI) og en bredere robusthedsstrategi på tværs af regeringen. Den anerkender også, at grænserisici har international rækkevidde. Lande bør samarbejde om at udvikle kompatible sikkerhedsrammeværker, betroede kanaler til deling af risikofund og koordinerede reaktioner på hændelser.
National kapacitet og internationalt samarbejde bør styrke hinanden. Stærke institutioner som CAISI kan udvikle teknisk ekspertise, evaluere frontier-systemer og støtte et uafhængigt økosystem for vurderinger. Et netværk af kapable nationale institutioner kan derefter etablere fælles metoder, anerkende betroet dokumentation og give regeringer den fælles tekniske forståelse, der er nødvendig for at handle sammen.
Standarder er centrale for den indsats, og de skal bygge på troværdig evalueringspraksis og teknisk stringens. I vores fælles håndbog for troværdige tredjepartsevalueringer beskriver vi, hvad frontier-vurderinger i stigende grad skal oplyse: det testede system, dets adgang til værktøjer og evalueringsopsætning, metoderne til at fremkalde kapabiliteter, de tilgængelige ressourcer og de kontroller, der er udført for at validere resultaterne. Vi har også omsat disse principper til praksis gennem testpartnerskaber med US CAISI og UK AISI, hvis arbejde med vurderinger af frontier-kapabiliteter og værn mod biologisk misbrug har ført til konkrete forbedringer i vores systemer. Dette arbejde har en vigtig funktion: at skabe grundlaget for praksisser, der kan standardiseres for at kontrollere ydeevne på en sammenlignelig måde.
Denne praksis supplerer OpenAI’s bredere sikkerhedsinfrastruktur. Vores Preparedness Framework er grundlaget for, hvordan vi definerer og omsætter vores tilgang til håndtering af de mest alvorlige risici fra avancerede AI-systemer til praksis, herunder vores interne praksis. Vores Frontier Governance Framework anvender relevante dele af denne tilgang i et offentligt styringsdokument med fokus på specifikke regulatoriske forpligtelser, herunder risikovurdering, modelrapportering, sikkerhedskontroller, hændelsesrespons og inddragelse af eksterne eksperters input. Tilsammen hjælper disse dokumenter med at omsætte brede forpligtelser til operationel praksis, der kan valideres og forbedres.
Appias arbejde retter sig mod den næste udfordring: at gøre denne praksis interoperabel på tværs af organisationer, jurisdiktioner og forsyningskæden.
OpenAI bidrager allerede til et bredere økosystem af standarder og forstandardiseringsindsatser. Vi deltager i International Organization for Standardization og International Electrotechnical Commission Joint Technical Committee 1, Subcommittee 42 on Artificial Intelligence(åbner i et nyt vindue) og det National Institute of Standards and Technology-ledede Artificial Intelligence Consortium(åbner i et nyt vindue); vi var med til at stifte Frontier Model Forum og Linux Foundations Agentic Artificial Intelligence Foundation(åbner i et nyt vindue); vi deltager i Coalition for Secure Artificial Intelligence(åbner i et nyt vindue); vi sidder i styringskomitéen for Coalition for Content Provenance and Authenticity(åbner i et nyt vindue); og vi engagerer os i processer hos Internet Engineering Task Force(åbner i et nyt vindue) og Fast Identity Online Alliance(åbner i et nyt vindue) for at fremme interoperable tekniske standarder.
På tværs af disse fora, nu også gennem Appia, er vores mål at omsætte erfaringer fra frontier-udvikling til åbne, teknisk funderede praksisser, som regeringer, virksomheder og uafhængige assessorer kan bruge på tværs af jurisdiktioner.
