Bidrar til felles standarder for avansert AI

Stadig mer kapable modeller kan styrke cyberforsvar, fremskynde vitenskapelige oppdagelser og gi flere tilgang til ekspertise. Men de kan også skape trygghets- og sikkerhetsrisikoer hvis kapasitetene deres misforstås, sikkerhetstiltakene er utilstrekkelige, eller myndigheter mangler informasjonen de trenger for å reagere. For å realisere gevinstene på en trygg og tillitsfull måte trenger samfunnet institusjoner med teknisk kapasitet og styringskapasitet til å evaluere, sikre og styre stadig mer kapable systemer.

Det er én grunn til at OpenAI var med på å grunnlegge Appia Foundation⁠(åpnes i et nytt vindu), som er vertet av Linux Foundation. Appia skal utvikle åpne, modulære spesifikasjoner som skal omsette internasjonale standarder og etablerte rammeverk til praktiske vurderingskriterier på tvers av AI-verdikjeden. Arbeidet kan bidra til å utvikle et kritisk manglende tillitslag, der tredjeparter kontrollerer samsvar med standarder og produserer tydeligere og mer gjenbrukbar dokumentasjon når modeller, infrastruktur og applikasjoner utvikles av ulike organisasjoner. Gjennom dette arbeidet vil Appia bidra til å skape et felles teknisk språk som gjør at nasjonale og internasjonale institusjoner kan ha tillit til hverandres arbeid.

Vi ser på denne innsatsen som et viktig neste steg i et bredere arbeid for å styrke institusjonene, standardene og vurderingspraksisene som trengs for avanserte AI-systemer.

Vår nylige plan for demokratisk styring av frontier-AI gir et veikart for dette arbeidet. Den tar til orde for et varig amerikansk rammeverk, et styrket Center for AI Standards and Innovation (CAISI) og en bredere motstandsdyktighetsstrategi på tvers av myndighetene. Den erkjenner også at grenserisikoer er internasjonale i omfang. Land bør samarbeide om å utvikle kompatible sikkerhetsrammeverk, betrodde kanaler for deling av risikofunn og koordinerte reaksjoner på hendelser.

Nasjonal kapasitet og internasjonalt samarbeid bør forsterke hverandre. Sterke institusjoner som CAISI kan utvikle teknisk ekspertise, evaluere systemer i front og støtte et økosystem for uavhengige vurderinger. Et nettverk av kapable nasjonale institusjoner kan deretter etablere felles metoder, anerkjenne pålitelig dokumentasjon og gi myndigheter den felles tekniske forståelsen som trengs for å handle sammen.

Standarder står sentralt i dette arbeidet, og de må bygge på troverdig evalueringspraksis og teknisk grundighet. I vår felles håndbok for pålitelige tredjepartsevalueringer beskriver vi hva vurderinger av frontsystemer i økende grad må opplyse om: systemet som er testet, verktøytilgangen og evalueringsoppsettet, metodene som er brukt for å fremkalle kapasiteter, ressursene som var tilgjengelige, og kontrollene som ble utført for å validere resultatene. Vi har også satt disse prinsippene ut i praksis gjennom testpartnerskap med US CAISI og UK AISI, der arbeidet med vurderinger av frontkapasiteter og sikkerhetstiltak mot biologisk misbruk førte til konkrete forbedringer i systemene våre. Dette arbeidet fyller en viktig funksjon ved å legge grunnlaget for praksiser som kan standardiseres for å kontrollere ytelse på en sammenlignbar måte.

Denne praksisen utfyller OpenAIs bredere sikkerhetsinfrastruktur. Vårt Preparedness Framework er grunnlaget for hvordan vi definerer og operasjonaliserer tilnærmingen vår til å håndtere de mest alvorlige risikoene fra avanserte AI-systemer, inkludert vår interne praksis. Vårt rammeverk for styring av frontier-AI anvender relevante deler av denne tilnærmingen i et offentlig styringsdokument rettet mot konkrete regulatoriske forpliktelser, blant annet risikovurdering, modellrapportering, sikkerhetskontroller, hendelseshåndtering og innhenting av eksterne ekspertinnspill. Til sammen bidrar disse dokumentene til å omsette brede forpliktelser til operativ praksis som kan valideres og forbedres.

Appias arbeid retter seg mot den neste utfordringen: å gjøre denne praksisen interoperabel på tvers av organisasjoner, jurisdiksjoner og leverandørkjeden.

OpenAI bidrar allerede i et bredere økosystem av standarder og arbeid før standardisering. Vi deltar i Den internasjonale standardiseringsorganisasjonens og Den internasjonale elektrotekniske kommisjonens felles tekniske komité 1, underkomité 42 for kunstig intelligens⁠(åpnes i et nytt vindu) og i det National Institute of Standards and Technology-ledede konsortiet for kunstig intelligens⁠(åpnes i et nytt vindu); var med på å grunnlegge Frontier Model Forum og Linux Foundations Agentic Artificial Intelligence Foundation⁠(åpnes i et nytt vindu); deltar i Coalition for Secure Artificial Intelligence⁠(åpnes i et nytt vindu); sitter i styringskomiteen for Coalition for Content Provenance and Authenticity⁠(åpnes i et nytt vindu); og engasjerer oss i prosesser i Internet Engineering Task Force⁠(åpnes i et nytt vindu) og Fast Identity Online Alliance⁠(åpnes i et nytt vindu) for å fremme interoperable tekniske standarder.

På tvers av disse forumene, nå også gjennom Appia, er målet vårt å omsette lærdom fra utvikling i front til åpne, teknisk funderte praksiser som myndigheter, selskaper og uavhengige vurderingsmiljøer kan bruke på tvers av jurisdiksjoner.