Introductie van het OpenAI Safety Bug Bounty-programma

Vandaag lanceert OpenAI een openbaar Safety Bug Bounty⁠(opent in een nieuw venster)-programma dat gericht is op het identificeren van AI-misbruik en veiligheidsrisico's in al onze producten. Naarmate AI-technologie zich snel ontwikkelt, nemen ook de mogelijke manieren waarop deze kan worden misbruikt toe. Ons doel is ervoor te zorgen dat onze systemen veilig en beveiligd blijven tegen misbruik of oneigenlijk gebruik dat tot tastbare schade kan leiden. 

Dit nieuwe programma vormt een aanvulling op OpenAI’s Security Bug Bounty⁠(opent in een nieuw venster)-programma door meldingen te accepteren die aanzienlijke risico’s op misbruik en veiligheidsrisico’s met zich meebrengen, zelfs als ze niet voldoen aan de criteria voor een beveiligingskwetsbaarheid. Met dit programma kijken we ernaar uit om te blijven samenwerken met veiligheids- en beveiligingsonderzoekers om ons te helpen problemen te identificeren en aan te pakken die buiten de conventionele beveiligingskwetsbaarheden vallen, maar nog steeds reële risico's vormen. Inzendingen worden beoordeeld door de Safety- en Security Bug Bounty-teams van OpenAI en kunnen, afhankelijk van de scope en verantwoordelijkheid, tussen de twee programma’s worden doorgestuurd.

Het nieuwe Safety Bug Bounty⁠(opent in een nieuw venster)-programma richt zich op AI-specifieke veiligheidsscenario’s die hieronder worden vermeld:

Agentic risico’s inclusief MCP

• Prompt-injectie en data-exfiltratie van derden: wanneer tekst van een aanvaller de agent van een slachtoffer (waaronder Browser, ChatGPT Agent en vergelijkbare agentische producten) op betrouwbare wijze kan kapen om deze te misleiden tot het uitvoeren van een schadelijke actie of het prijsgeven van de gevoelige informatie van de gebruiker. Het gedrag moet minstens 50% van de pogingen reproduceerbaar zijn. 
• Een agentisch OpenAI-product voert op grote schaal een niet-toegestane actie uit op de website van OpenAI.
• Een agentisch OpenAI-product voert een mogelijk schadelijke handeling uit die hierboven niet wordt vermeld. Geldige meldingen hier moeten wijzen op aannemelijke en wezenlijke schade.
• Alle tests op MCP-risico moeten voldoen aan de servicevoorwaarden van derde partijen.

OpenAI bedrijfseigen informatie

• Modellen die propriëtaire informatie met betrekking tot redenering retourneren.
• Kwetsbaarheden waardoor andere bedrijfseigen informatie van OpenAI wordt blootgesteld.

Account en platformintegriteit

• Kwetsbaarheden in accountintegriteit en platformintegriteitssignalen, zoals het omzeilen van anti-automatiseringscontroles, het manipuleren van accountvertrouwenssignalen, het ontwijken van accountbeperkingen, -schorsingen en -verbanningen, en soortgelijke problemen.
• Problemen waardoor gebruikers toegang krijgen tot functies, gegevens of functionaliteiten buiten de geautoriseerde machtigingen, moeten worden gemeld via de Security Bug Bounty⁠(opent in een nieuw venster).

Hoewel jailbreaks buiten de scope van dit programma vallen, voeren we periodiek besloten bug bounty-campagnes uit die zich richten op bepaalde schadetypen, zoals problemen met biorisico-inhoud in ChatGPT Agent⁠ en GPT‑5⁠. We nodigen geïnteresseerde onderzoekers uit om zich voor deze programma's aan te melden wanneer deze beschikbaar komen. 

Buiten de hierboven vermelde categorieën kunnen kwetsbaarheden die direct kunnen leiden tot schade voor gebruikers en waarvoor concrete, afgebakende herstelmaatregelen bestaan, per geval in aanmerking komen voor beloningen binnen de scope, mits onderzoekers deze identificeren. Algemene omzeilingen van het inhoudsbeleid zonder aantoonbare gevolgen voor veiligheid of misbruik vallen buiten de scope van dit programma. Bijvoorbeeld, "jailbreaks" die ertoe leiden dat het model grof taalgebruik gebruikt of informatie teruggeeft die eenvoudig via zoekmachines te vinden is, vallen buiten de scope.

Onderzoekers die geïnteresseerd zijn in deelname kunnen zich aanmelden via ons Safety Bug Bounty⁠(opent in een nieuw venster)-programma. We kijken ernaar uit om samen te werken met onderzoekers, ethische hackers en de gemeenschap op het gebied van veiligheid en beveiliging in het streven naar een veilig AI-ecosysteem.