Geen gegevensbewaring aanbieden voor grensverleggende modellen

Geen gegevensbewaring biedt in aanmerking komende API-klanten een duidelijke garantie: OpenAI bewaart hun prompts of reacties van het model niet nadat een verzoek is verwerkt. Content van klanten is niet beschikbaar voor beoordeling door medewerkers van OpenAI¹, en gegevens van zakelijke klanten worden niet gebruikt om onze modellen te trainen, tenzij klanten daar uitdrukkelijk voor kiezen.

Naarmate modellen langere en complexere taken uitvoeren, worden sommige ernstige risico's mogelijk pas zichtbaar na meerdere interacties. Bestaande veiligheidssystemen die compatibel zijn met ZDR beoordelen elke interactie afzonderlijk. Vandaag presenteren we een voorproefje van Private Safety Processing, dat is ontworpen om patronen in samenhangende interacties te herkennen zonder medewerkers van OpenAI toegang te geven tot de onderliggende content.

Bij ZDR-implementaties blijft content van klanten op infrastructuur die zij zelf beheren. We ontwikkelen ook een optie waarbij content wordt opgeslagen op infrastructuur van OpenAI en versleuteld met sleutels die door de klant worden beheerd. In beide gevallen kunnen geautomatiseerde systemen mogelijk misbruik herkennen en beperkte veiligheidssignalen terugsturen zonder de onderliggende prompts of reacties aan medewerkers van OpenAI bloot te stellen.

De ernstigste veiligheidsrisico's van AI zijn niet altijd zichtbaar in één interactie. Mogelijk schadelijke bedoelingen worden vaak pas duidelijk wanneer meerdere interacties in samenhang worden bekeken. Vergelijkbare risico's kunnen ontstaan wanneer kwaadwillenden herhaaldelijk waarborgen aftasten, activiteiten tussen accounts coördineren of bedreigingen vermommen als regulier onderzoek. Risico's kunnen zich ook tijdens een agentische taak ontwikkelen, bijvoorbeeld als een systeem niet langer aansluit bij de bedoeling van de gebruiker doordat het blijft handelen nadat het de opdracht heeft gekregen te stoppen.

Naarmate AI-systemen langere en complexere taken uitvoeren, wordt deze bredere context steeds belangrijker om legitieme activiteiten van misbruik te onderscheiden en te waarborgen dat AI-agenten binnen de grenzen van hun beoogde bevoegdheden blijven.

Bij sommige recente implementaties van grensverleggende modellen moesten klanten hun AI-aanbieder toestaan gevoelige content te bewaren voor veiligheidstoezicht. Voor veel organisaties zijn zulke eisen in strijd met hun beveiligingsverplichtingen of toezeggingen aan de mensen die zij van dienst zijn.

Private Safety Processing is zo ontworpen dat we ZDR kunnen blijven aanbieden.

Private Safety Processing bouwt voort op de geautomatiseerde beschermingsmaatregelen die al worden gebruikt bij ZDR en andere implementaties. Bestaande veiligheidssystemen die compatibel zijn met ZDR beoordelen interacties afzonderlijk. Private Safety Processing breidt die bescherming uit naar samenhangende interacties, zodat geautomatiseerde systemen patronen kunnen herkennen zonder dat medewerkers van OpenAI toegang hebben tot bewaarde content van klanten.

Private Safety Processing gebruikt content van klanten, ongeacht waar die is opgeslagen: op infrastructuur die klanten beheren (ZDR-implementaties) of in opslag die OpenAI aanbiedt. Bij opslag die OpenAI aanbiedt, wordt content van klanten versleuteld met sleutels die door de klant worden beheerd. Medewerkers van OpenAI hebben geen kopie van die sleutels en kunnen de onderliggende content dus niet openen.

Wanneer een risico wordt vastgesteld, ontvangt OpenAI een nauw afgebakend signaal dat het betrokken type activiteit aangeeft, vergelijkbaar met de signalen van onze huidige veiligheidssystemen. Aan de hand van dat signaal kan worden bepaald of handhaving nodig is. Medewerkers van OpenAI krijgen geen toegang tot de content van de klant, ook niet wanneer die is gemarkeerd.

Klanten kunnen waarschuwingen en handhavingsbesluiten onderzoeken met informatie die in hun eigen systemen beschikbaar is. Als ze bezwaar willen maken, legitieme activiteiten willen toelichten of een onderzoek naar bevestigd misbruik willen ondersteunen, kunnen ze ervoor kiezen relevante informatie met OpenAI te delen.

Private Safety Processing wordt momenteel getest met een eerste groep klanten. We delen deze voorproef nu omdat onze klanten ons duidelijk hebben laten weten dat ze voorspelbaarheid nodig hebben over de bescherming van hun content nu AI-systemen krachtiger worden.

Onze missie is ervoor te zorgen dat kunstmatige algemene intelligentie de hele mensheid ten goede komt. Samenwerking met klanten en partners is essentieel voor de manier waarop we doeltreffende waarborgen ontwikkelen. Zoals onze principes duidelijk maken, kan geen enkel AI-laboratorium nieuwe risico's alleen aanpakken. Private Safety Processing weerspiegelt die aanpak en wordt mede vormgegeven door klanten uit uiteenlopende sectoren en regio's en van verschillende bedrijfsgrootten.

De organisaties waarmee we samenwerken, verwerken uiterst gevoelige informatie binnen hun sector, waaronder financiële gegevens, gezondheidsgegevens, vertrouwelijke bedrijfsplannen en bedrijfseigen onderzoek. De bescherming van die informatie is essentieel om aan wettelijke verplichtingen te voldoen, het vertrouwen van klanten te behouden en hun concurrentievoordeel te beschermen.

Hun feedback helpt ons sterkere waarborgen te ontwikkelen, terwijl zij de controle over hun informatie behouden.

We blijven met klanten samenwerken aan de technische en operationele details van onze aanpak. We zijn van plan Private Safety Processing vanaf september geleidelijk uit te rollen en dan ook een technisch whitepaper te publiceren. We houden klanten bij elke stap op de hoogte: we delen updates vroegtijdig, leggen uit wat ze betekenen voor bestaande toezeggingen en bieden klanten de tijd en ondersteuning die ze nodig hebben om vooruit te plannen.