Noll datalagring ger behöriga API-kunder ett tydligt löfte: OpenAI lagrar inte deras prompter eller Modellsvar efter att en begäran har behandlats. Kundinnehåll är inte tillgängligt för OpenAI:s personal för granskning1, och företagskunders data används inte för att träna våra modeller om kunderna inte uttryckligen väljer det.
När modeller tar sig an längre och mer komplexa uppgifter kan vissa allvarliga risker bli synliga först efter flera interaktioner. Befintliga säkerhetssystem som är kompatibla med ZDR bedömer varje interaktion separat. I dag förhandsvisar vi Private Safety Processing, som har utformats för att identifiera mönster i relaterade interaktioner utan att ge OpenAI:s personal tillgång till det underliggande innehållet.
Vid ZDR-driftsättningar finns kundinnehållet kvar i infrastruktur som kunden styr. Vi utvecklar också ett alternativ där innehållet lagras i OpenAI:s infrastruktur och krypteras med nycklar som kunden styr. I båda fallen kan automatiska system identifiera potentiellt missbruk och returnera begränsade säkerhetssignaler utan att exponera de underliggande prompterna eller svaren för OpenAI:s personal.
De allvarligaste säkerhetsriskerna med AI är inte alltid synliga i en enskild interaktion. Potentiellt skadliga avsikter blir ofta tydliga först när flera interaktioner ses i ett sammanhang. Liknande risker kan uppstå när illasinnade aktörer upprepade gånger testar skyddsåtgärder, samordnar sig mellan konton eller döljer hot som rutinmässig forskning. Risker kan också utvecklas under en agentbaserad uppgift – exempelvis om ett system tappar överensstämmelsen med användarens avsikt genom att fortsätta agera efter att ha blivit tillsagt att sluta.
När AI-system tar sig an längre och mer komplexa uppgifter blir detta bredare sammanhang allt viktigare för att skilja legitim verksamhet från missbruk och säkerställa att AI-agenter håller sig inom gränserna för sina avsedda befogenheter.
Vissa nyligen genomförda driftsättningar av banbrytande modeller har krävt att kunder låter sin AI-leverantör lagra känsligt innehåll för säkerhetsövervakning. För många organisationer strider sådana krav mot deras säkerhetsskyldigheter eller åtaganden gentemot dem de betjänar.
Private Safety Processing är utformat för att vi ska kunna fortsätta erbjuda ZDR.
Private Safety Processing bygger vidare på de automatiska skydd som redan används i ZDR och andra driftsättningar. Befintliga säkerhetssystem som är kompatibla med ZDR bedömer interaktioner separat. Private Safety Processing utökar dessa skydd till relaterade interaktioner, så att automatiska system kan identifiera mönster utan att OpenAI:s personal får tillgång till lagrat kundinnehåll.
Private Safety Processing använder kundinnehåll oavsett var det lagras – antingen i infrastruktur som kunderna styr (ZDR-driftsättningar) eller i lagring som OpenAI tillhandahåller. Vid lagring som OpenAI tillhandahåller krypteras kundinnehållet med nycklar som kunden styr. OpenAI:s personal har ingen kopia av dessa nycklar och kan därför inte komma åt det underliggande innehållet.
När en risk identifieras får OpenAI en snävt avgränsad signal som anger vilken typ av aktivitet det gäller, på liknande sätt som i våra befintliga säkerhetssystem. Signalen kan användas för att avgöra om åtgärder behöver vidtas. OpenAI:s personal får inte tillgång till kundinnehållet, inte ens när det har flaggats.
Kunder kan utreda aviseringar och beslut om åtgärder med hjälp av information som finns i deras egna system. Om de vill överklaga, förtydliga legitim verksamhet eller stödja en utredning av verifierat missbruk kan de välja att dela relevant information med OpenAI.
Private Safety Processing testas för närvarande med tidiga kunder. Vi delar den här förhandsvisningen nu eftersom våra kunder tydligt har framfört att de behöver förutsägbarhet kring hur deras innehåll skyddas när AI-system blir mer kapabla.
Vårt uppdrag är att säkerställa att Artificiell generell intelligens kommer hela mänskligheten till godo. Samarbete med kunder och partner är avgörande för hur vi utvecklar effektiva skyddsåtgärder. Som våra principer tydliggör kan inget AI-labb hantera nya risker på egen hand. Private Safety Processing återspeglar detta arbetssätt och formas av kunder från olika branscher och regioner samt företag av olika storlek.
Organisationerna vi arbetar med hanterar en del av den känsligaste informationen i sina sektorer, bland annat finansiella uppgifter, hälsodata, konfidentiella affärsplaner och företagsintern forskning. Att skydda denna information är avgörande för att uppfylla regelkrav, bevara kundernas förtroende och värna deras konkurrensfördelar.
Deras återkoppling hjälper oss att bygga starkare skydd samtidigt som de behåller kontrollen över sin information.
”Företags införande av AI är helt beroende av att kunderna har kontroll över sina data, utan direkt eller indirekt användning utöver den valda tjänsten. OpenAI:s åtagande att inte använda data för träning och stödet för ZDR ger Glean trygghet att bygga med OpenAI. I takt med att modeller blir mer kapabla visar OpenAI att säkerheten kan utvecklas utan att äventyra den integritet och kontroll som upprätthåller företagens förtroende.”
—Sunil Agrawal, informationssäkerhetschef, Glean
Vi kommer att fortsätta samarbeta med kunderna kring de tekniska och operativa detaljerna i vårt arbetssätt. Vi planerar att börja lansera Private Safety Processing och publicera en teknisk vitbok i september. Vi håller kunderna informerade i varje steg genom att dela uppdateringar tidigt, förklara vad de innebär för befintliga åtaganden och ge kunderna den tid och det stöd de behöver för att kunna planera framåt.
Författare
- 1
Liksom andra leverantörer av banbrytande modeller är OpenAI enligt lag(öppnas i ett nytt fönster) skyldigt att rapportera misstänkt material som visar sexuella övergrepp mot barn (CSAM). Bilder som flaggas på grund av misstänkt CSAM fortsätter att lagras för manuell granskning och rapportering, även vid driftsättningar med Noll datalagring, precis som i dag.
