Versterken van ons veiligheidsecosysteem met externe testen

Bij OpenAI geloven we dat onafhankelijke, betrouwbare beoordelingen door vertrouwde derde partijen een cruciale rol spelen in het versterken van het veiligheidsecosysteem van grensverleggende AI. Beoordelingen door derde partijen zijn evaluaties die worden uitgevoerd op grensverleggende modellen om beweringen over cruciale veiligheidscapaciteiten en mitigaties te bevestigen of aanvullend bewijs te leveren. Deze evaluaties helpen om veiligheidsclaims te valideren, beschermen tegen blinde vlekken en vergroten de transparantie over capaciteiten en risico's. Door externe experts uit te nodigen om onze grensverleggende modellen te testen, willen we ook het vertrouwen in de grondigheid van onze capaciteitsevaluaties en veiligheidsmaatregelen bevorderen en het bredere veiligheidsecosysteem helpen verbeteren.

Sinds de lancering van GPT‑4 werkt OpenAI samen met verschillende externe partners om onze modellen te testen en beoordelen. Globaal kennen wij drie vormen van samenwerking met derde partijen:

• Onafhankelijke evaluaties van belangrijke grensverleggende capaciteiten en risicogebieden zoals bioveiligheid, cyberbeveiliging, AI-zelfverbetering en misleiding
• Methodologiebeoordelingen die beoordelen hoe we risico's inschatten en interpreteren
• Onderzoek door Subject-matter experts (SME), waarbij vakexperts het model direct evalueren op SME-taken in de echte wereld en een gestructureerde bijdrage leveren aan onze beoordeling van de capaciteiten en bijbehorende waarborgen¹

In deze blog leggen we uit hoe we elk van deze vormen van externe beoordeling gebruiken, waarom ze belangrijk zijn, hoe ze de beslissingen over implementatie hebben beïnvloed, en welke principes we hanteren om deze samenwerkingen te structureren. In het kader van transparantie delen we ook meer over de vertrouwelijkheid en publicatievoorwaarden die gelden voor onze samenwerking met derde partij-beoordelaars. 

Derde partij-beoordelaars voegen een onafhankelijke evaluatielaag toe naast ons interne werk, waardoor de striktheid wordt versterkt en er extra bescherming wordt geboden tegen zelfbevestiging. Hun invoer levert aanvullend bewijs naast onze eigen beoordelingen en helpt bij het nemen van verantwoorde beslissingen over de inzet van krachtige systemen.

We zien beoordelingen door derde partijen ook als onderdeel van het opbouwen van een veerkrachtig veiligheidsecosysteem⁠. Onze teams voeren uitgebreide interne tests uit op verschillende capaciteiten en risicogebieden, maar onafhankelijke organisaties bieden extra perspectieven en methodologische benaderingen. We werken aan de ondersteuning van een diverse groep gekwalificeerde beoordelingsorganisaties die samen met ons regelmatig grensverleggende modellen kunnen evalueren.

Tot slot willen we transparant zijn over hoe deze bijdrage ons veiligheidsproces vormgeeft. We maken beoordelingen door derde partijen regelmatig openbaar — bijvoorbeeld door voorafgaand aan de implementatie samenvattingen van evaluaties op te nemen in systeemkaarten en door beoordelende organisaties te ondersteunen bij het publiceren van meer gedetailleerd werk na een vertrouwelijkheids- en nauwkeurigheidsbeoordeling. Deze transparantie schept vertrouwen door te laten zien hoe externe bijdrage onze capaciteitsevaluaties en veiligheidsmaatregelen vormgeeft. 

Duurzame relaties gebaseerd op betrouwbare toegang, transparantie en kennisdeling helpen het hele ecosysteem voorop te blijven lopen bij opkomende risico's en bevorderen aanpasbare, uitvoerbare beoordelingen die nodig zijn voor sterkere standaarden en beter geïnformeerd bestuur voor grensverleggende AI-systemen.

Vanaf de lancering van GPT‑4⁠(opent in een nieuw venster) hebben we onafhankelijke evaluaties ondersteund van vroege modelcontrolepunten voorafgaand aan de implementatie. Sinds die tijd hebben we ons werk uitgebreid met verschillende derde partijen die veel expertise hebben in evaluaties voor belangrijke grensverleggende capaciteiten en risicogebieden. We beschouwen onafhankelijk labwerk als open testen waarbij externe teams hun eigen methoden toepassen om tot een claim of beoordeling te komen met betrekking tot een specifieke grensverleggende capaciteit. 

Als voorbeeld coördineerde OpenAI voor GPT‑5⁠ een breed scala aan externe capaciteitsbeoordelingen op belangrijke risicogebieden zoals autonomie op lange termijn, bedrog, misleiding en ondermijning van toezicht, haalbaarheid van experimentele planning en evaluaties van offensieve cyberbeveiliging.  

Deze onafhankelijke evaluaties vullen de evaluaties aan die worden uitgevoerd volgens het Preparedness Framework van OpenAI en omvatten benchmarks zoals de tijdshorizonevaluatie⁠(opent in een nieuw venster) van METR, of SecureBio's Virology Capabilities Troubleshooting (VCT)⁠(opent in een nieuw venster)-evaluatie. 

Om deze evaluaties te ondersteunen, bieden we veilige toegang tot vroege modelcontrolepunten, geselecteerde evaluatieresultaten om de waargenomen verbeteringen in capaciteit te concretiseren, geen-gegevensbewaring waar nodig, en modellen met minder mitigaties. Bijvoorbeeld, organisaties die testen in cyberbeveiligings- en bioveiligheidsdomeinen hebben modellen met en zonder veiligheidsmaatregelen getest om de onderliggende capaciteiten te onderzoeken. Verschillende andere organisaties kregen directe toegang tot de Chain-of-Thought, zodat ze de redeneerpaden van het model konden inspecteren. Dankzij deze stap van verhoogde transparantie konden beoordelaars gevallen van sandbagging ² of misleidend gedrag identificeren die mogelijk alleen te onderscheiden waren door de Chain-of-Thought te lezen. Er werd toegang verleend met beveiligingsmaatregelen, en we blijven deze maatregelen bijwerken naarmate de capaciteiten van het model en de testbehoeften evolueren.

In bepaalde contexten kunnen externe beoordelaars uitstekend methodologische beoordelingen uitvoeren en extra perspectieven bieden op de kaders en het bewijsmateriaal waarop frontier labs vertrouwen om risico's te beoordelen. Bijvoorbeeld, tijdens de lancering van gpt-oss⁠ hebben we gebruik gemaakt van contradictoire fijnafstemming om de capaciteiten van open-weight modellen in het meest ongunstige scenario in te schatten, zoals beschreven in Schatting van de ergste grensrisico's van open-weight LLMs⁠. De belangrijkste veiligheidsvraag was of een kwaadwillende partij het model kon fijnafstemmen om een hoge capaciteit te bereiken op gebieden zoals bio of cyber binnen ons Preparedness Framework. Omdat dit een arbeidsintensieve, contradictoire fijnafstemming vereiste, hebben we derde partij-beoordelaars uitgenodigd om onze interne methoden en resultaten te beoordelen en aanbevelingen te doen, in plaats van soortgelijk werk te herhalen.

Dit hield een proces van meerdere weken in waarin evaluatietoepassingen werden gedeeld, details over de aanpak voor tegengestelde fijnafstemming en het verzamelen van gestructureerde aanbevelingen over het verbeteren van de methodologie en evaluaties voor de ergste grensrisico's. Feedback van de beoordelaars leidde tot veranderingen in het uiteindelijke contradictoir fijnafstemmingsproces en toonde de waarde van methodologische bevestiging aan. We hebben vastgelegd welke items we hebben overgenomen in het document en de systeemkaart voor gpt-oss, en we hebben redenen aangegeven waarom we bepaalde items niet hebben overgenomen.

Hier was een methodologiebeoordeling in plaats van onafhankelijke evaluaties de juiste keuze: de evaluaties omvatten het uitvoeren van grootschalige experimenten bij het meest ongunstige scenario, waarvoor infrastructuur en technische expertise nodig zijn die buiten de grote AI-labs doorgaans niet beschikbaar zijn. Dit betekende dat onafhankelijke evaluaties waarschijnlijk niet direct tot inzichten in het meest ongunstige scenario hadden kunnen leiden, en dat het productiever was om externe beoordelaars in te zetten voor het bevestigen van de claims. Externe beoordelaars hebben de methoden en het bewijsmateriaal bekeken⁠(opent in een nieuw venster), waarbij ze de voor de besluitvorming relevante hiaten markeerden die werden genoemd als onderdeel van de aanbevelingen in de feedback. Deze aanpak willen we uitbreiden naar andere gebieden waar toegang of infrastructuurbehoeften het voor een derde partij onpraktisch maken om zelf evaluaties uit te voeren, of waar externe evaluaties mogelijk nog niet bestaan. 

Een andere manier waarop we externe experts betrekken is via onderzoek door Subject-matter experts (SME), waarbij deskundigen het model direct evalueren en via enquêtes een gestructureerde bijdrage leveren voor onze beoordeling van de capaciteiten. Dit verschilt van red teaming⁠, dat tot doel heeft specifieke veiligheidsmaatregelen onder spanning te testen. Hiermee kunnen we evaluaties van het Preparedness Framework aanvullen met domeinspecifieke inzichten die het oordeel van deskundigen en de context van de echte wereld weerspiegelen, iets wat statische evaluaties alleen niet kunnen vastleggen. Bijvoorbeeld, we hebben een panel van vakdeskundigen uitgenodigd om een helpful-only model³ te gebruiken om hun eigen end-to-end bioscenario's voor ChatGPT Agent en GPT‑5 uit te proberen. Ze beoordeelden in hoeverre het model een deskundige zoals zijzelf kon verbeteren in vergelijking met een minder ervaren beginner, op basis van de bruikbaarheid van de begeleiding die het bood in hun scenario's.  Het doel was om extra informatie te verzamelen over hoe goed het systeem een gemotiveerde beginner materieel dichter bij competente uitvoering kon brengen: SME's testten onze 'beginnersverbetering'-claims onder realistische workflows die ze zelf hadden opgesteld en gaven gedetailleerde feedback over waar het model materiële, stapsgewijze hulp bood versus minder nuttige samenvattingen. Deze deskundige onderzoeksactiviteit werd opgenomen als onderdeel van de algemene beoordeling voor de toepassing van deze modellen en werd gedeeld in systeemkaarten voor beide lanceringen. 

In het kader van transparantie delen we meer over waar derde partijen akkoord mee gaan wanneer ze met ons samenwerken, en de principes die onze samenwerkingen leiden:

• Transparantie met strikte vertrouwelijkheidsgrenzen: Derde partij-beoordelaars ondertekenen geheimhoudingsverklaringen om het delen van vertrouwelijke, niet-openbare informatie mogelijk te maken ter ondersteuning van hun beoordelingen. In de Bijlage⁠ bij dit artikel hebben we relevante fragmenten uit contracten met derde partij-beoordelaars opgenomen, waarin de rechten rondom publicatie en de verwachtingen voor beoordeling worden beschreven. We werken volgens het principe van transparantie en streven ernaar publicaties mogelijk te maken die het begrip van veiligheid en gerelateerde evaluaties bevorderen zonder vertrouwelijke informatie of intellectueel eigendom in gevaar te brengen. Als onderdeel hiervan bekijken en autoriseren we publicaties van derde partij-beoordelingen om zowel vertrouwelijkheid als feitelijke juistheid te waarborgen. In de afgelopen jaren hebben, naast onze eigen publicatie met beoordelingssamenvattingen in systeemkaarten, verschillende derde partij-beoordelaars hun werk gepubliceerd. Enkele voorbeelden van werk dat is gepubliceerd nadat we het op vertrouwelijkheid en nauwkeurigheid hebben gecontroleerd, zijn: [METR GPT‑5 report ⁠(opent in een nieuw venster), Apollo Research report over OpenAI o1⁠(opent in een nieuw venster), Irregular GPT‑5 Assessment⁠(opent in een nieuw venster)] 
• Weloverwogen openbaarmaking van informatie en veilige, gevoelige toegang: we bieden standaard informatie en toegang tot modellen die bedoeld zijn om openbaar te zijn of die klaar zijn voor productie. Wanneer het nodig is voor de evaluaties, geven we diepere toegang, zoals tot helpful-only modellen of niet-openbare informatie. OpenAI heeft deze vormen van toegang verstrekt waar nodig bij cruciale veiligheidsvragen voor derde partij-beoordelaars. Het is belangrijk te beseffen dat dit soort gevoelige toegang strikte beveiligingsmaatregelen vereist en we blijven die controles bijwerken naarmate de capaciteiten van modellen en de testbehoeften evolueren.
• Evenwichtige financiële stimulansen: Wij vinden het belangrijk dat het ecosysteem voor derde partij-beoordelingen goed gefinancierd en duurzaam is. Daarom bieden we al onze derde partij-beoordelaars een vergoeding aan, en sommigen kiezen ervoor om deze af te wijzen, afhankelijk van hun organisatiefilosofie. Compensatievormen omvatten directe betaling voor werk en/of het subsidiëren van kosten voor modelgebruik via API-credits of anderszins. Geen enkele betaling is ooit afhankelijk van de resultaten van een derde partij-beoordeling.

Gezamenlijk helpen deze factoren ervoor te zorgen dat derde partijen-beoordelingen zowel vertrouwelijke informatie beschermen als transparantie in AI-veiligheid bevorderen, en maken ze het mogelijk dat derde partij-beoordelaars voor hun tijd te worden gecompenseerd. 

Vooruitkijkend zien we de noodzaak voor versterking van het ecosysteem van organisaties die in staat zijn geloofwaardige en beslissingsrelevante beoordelingen van grensverleggende AI-systemen uit te voeren. Effectieve evaluatie door een derde partij vereist gespecialiseerde expertise, stabiele financiering en methodologische striktheid. Doorgaan met investeringen in gekwalificeerde beoordelingsorganisaties, de vooruitgang van de meettechnieken en beveiliging voor toegang tot gevoelige gegevens is essentieel om ervoor te zorgen dat beoordelingen gelijke tred kunnen houden met de vooruitgang in modelcapaciteiten. 

Beoordelingen door derde partijen zijn een manier waarop we extern perspectief in ons veiligheidswerk brengen, en ze functioneren naast andere mechanismen. We werken ook samen met externe experts via gestructureerde red teaming-inspanningen, collectieve afstemmingsprojecten⁠, werken samen met de U.S. CAISI en UK AISI⁠, en adviesgroepen, zoals ons wereldwijde netwerk van artsen⁠ en onze Deskundigenraad voor welzijn en AI⁠ om ons werk op het gebied van geestelijke gezondheid en het welzijn van gebruikers te ondersteunen. Deze inspanningen dragen bij aan verschillende vormen van expertise en bieden ondersteuning aan een bredere, betrouwbaardere basis voor het beoordelen en beheren van geavanceerde AI-systemen.

Hieronder volgen illustratieve uittreksels uit onze overeenkomsten met derde partijen die met ons samenwerken aan beoordelingen voorafgaand aan de implementatie.