Meehelpen aan gedeelde normen voor geavanceerde AI
Steeds krachtigere modellen kunnen de cyberverdediging versterken, wetenschappelijke ontdekkingen versnellen en de toegang tot expertise vergroten. Maar ze kunnen ook veiligheids- en beveiligingsrisico’s creëren als hun mogelijkheden verkeerd worden begrepen, hun waarborgen tekortschieten of overheden niet over de informatie beschikken die ze nodig hebben om te reageren. Om de voordelen veilig en met vertrouwen te realiseren, hebben samenlevingen instellingen nodig met de technische en bestuurlijke capaciteit om steeds krachtigere systemen te evalueren, te beveiligen en te besturen.
Dat is een van de redenen waarom OpenAI heeft meegewerkt aan de oprichting van de Appia Foundation(opent in een nieuw venster), die wordt gehost door de Linux Foundation. Appia gaat open, modulaire specificaties ontwikkelen die internationale normen en gevestigde kaders moeten omzetten in praktische beoordelingscriteria voor de hele AI-waardeketen. Dit werk kan helpen een cruciale ontbrekende vertrouwenslaag te ontwikkelen, waarmee derden toetsen of aan normen wordt voldaan en duidelijker, beter herbruikbaar bewijs ontstaat wanneer modellen, infrastructuur en applicaties door verschillende organisaties worden ontwikkeld. Met dit werk helpt Appia een gedeelde technische taal te creëren waarmee nationale en internationale instellingen op elkaars werk kunnen vertrouwen.
Wij zien deze inspanning als een belangrijke volgende stap binnen een breder geheel van werkzaamheden om de instellingen, normen en beoordelingspraktijken te versterken die nodig zijn voor geavanceerde AI-systemen.
Onze recente blauwdruk voor democratisch bestuur van frontier-AI biedt een routekaart voor dat werk. Daarin wordt gepleit voor een duurzaam Amerikaans kader, een versterkt Center for AI Standards and Innovation (CAISI) en een bredere veerkrachtstrategie binnen de overheid. Ook wordt erkend dat frontier-risico’s internationaal van aard zijn. Landen moeten samenwerken aan compatibele veiligheidskaders, vertrouwde kanalen om risicobevindingen te delen en gecoördineerde reacties op incidenten.
Nationale capaciteit en internationale samenwerking moeten elkaar versterken. Sterke instellingen zoals CAISI kunnen technische expertise ontwikkelen, frontier-systemen evalueren en een ecosysteem voor onafhankelijke beoordeling ondersteunen. Een netwerk van competente nationale instellingen kan vervolgens gedeelde methoden vaststellen, vertrouwd bewijs erkennen en overheden het gemeenschappelijke technische inzicht bieden dat nodig is om samen op te treden.
Normen staan centraal in die inspanning en moeten gebaseerd zijn op geloofwaardige evaluatiepraktijk en technische grondigheid. In ons gedeelde draaiboek voor betrouwbare evaluaties door derden zetten we uiteen wat beoordelingen van frontier-systemen steeds vaker moeten bekendmaken: het geteste systeem, de toegang tot tools en de evaluatieomgeving, de methoden die zijn gebruikt om capaciteiten naar boven te halen, de beschikbare middelen en de controles die zijn uitgevoerd om de resultaten te valideren. We hebben deze principes ook in praktijk gebracht via testpartnerschappen met US CAISI en UK AISI, waarvan het werk rond beoordelingen van frontier-capaciteiten en waarborgen tegen biologisch misbruik heeft geleid tot concrete verbeteringen in onze systemen. Dit werk vervult een belangrijke functie: het legt de basis voor praktijken die kunnen worden gestandaardiseerd om prestaties op een vergelijkbare manier te toetsen.
Deze praktijken vormen een aanvulling op de bredere veiligheidsinfrastructuur van OpenAI. Ons Preparedness Framework vormt de basis voor hoe we onze aanpak voor het beheren van de ernstigste risico’s van geavanceerde AI-systemen definiëren en in de praktijk brengen, inclusief onze interne werkwijzen. Ons Frontier Governance Framework vertaalt relevante onderdelen van die aanpak naar een openbaar governancedocument dat is gericht op specifieke wettelijke verplichtingen, waaronder risicobeoordeling, rapportage over modellen, beveiligingsmaatregelen, incidentrespons en het verwerken van input van externe experts. Samen helpen deze documenten om brede toezeggingen om te zetten in operationele praktijken die kunnen worden gevalideerd en verbeterd.
Het werk van Appia is gericht op de volgende uitdaging: deze praktijken interoperabel maken tussen organisaties, rechtsgebieden en de toeleveringsketen.
OpenAI draagt al bij aan een breder ecosysteem van normen en voorbereidende standaardisatie-initiatieven. We nemen deel aan de International Organization for Standardization en International Electrotechnical Commission Joint Technical Committee 1, Subcommittee 42 on Artificial Intelligence(opent in een nieuw venster) en het door het National Institute of Standards and Technology geleide Artificial Intelligence Consortium(opent in een nieuw venster); we hielpen bij de oprichting van het Frontier Model Forum en de Agentic Artificial Intelligence Foundation(opent in een nieuw venster) van de Linux Foundation; we nemen deel aan de Coalition for Secure Artificial Intelligence(opent in een nieuw venster); we hebben zitting in de stuurgroep van de Coalition for Content Provenance and Authenticity(opent in een nieuw venster); en we zijn betrokken bij processen van de Internet Engineering Task Force(opent in een nieuw venster) en de Fast Identity Online Alliance(opent in een nieuw venster) om interoperabele technische normen te bevorderen.
In al deze fora, nu ook via Appia, is het ons doel om lessen uit de ontwikkeling van frontier-AI te vertalen naar open, technisch onderbouwde praktijken die overheden, bedrijven en onafhankelijke beoordelaars in verschillende rechtsgebieden kunnen gebruiken.
