Ingen datalagring til banebrydende modeller

Ingen datalagring giver kvalificerede API-kunder et klart løfte: OpenAI gemmer ikke deres prompts eller modelsvar, efter at en anmodning er behandlet. Kundeindhold er ikke tilgængeligt for OpenAI’s medarbejdere til gennemgang¹, og virksomhedskunders data bruges ikke til at træne vores modeller, medmindre kunderne udtrykkeligt tilvælger det.

Når modeller udfører længere og mere komplekse opgaver, bliver visse alvorlige risici muligvis først synlige på tværs af flere interaktioner. Eksisterende ZDR-kompatible sikkerhedssystemer vurderer hver interaktion for sig. I dag præsenterer vi en forhåndsvisning af Private Safety Processing, der er udviklet til at identificere mønstre på tværs af relaterede interaktioner, uden at OpenAI’s medarbejdere får adgang til det underliggende indhold.

Ved ZDR-implementeringer forbliver kundeindholdet på infrastruktur, som kunden kontrollerer. Vi udvikler også en løsning, hvor indhold lagres på OpenAI’s infrastruktur og krypteres med nøgler, som kunden kontrollerer. I begge tilfælde kan automatiske systemer identificere potentielt misbrug og returnere begrænsede sikkerhedssignaler, uden at de underliggende prompts eller svar bliver tilgængelige for OpenAI’s medarbejdere.

De alvorligste sikkerhedsrisici ved AI er ikke altid synlige i en enkelt interaktion. Potentielt skadelige hensigter bliver ofte først tydelige, når flere interaktioner ses i sammenhæng. Lignende risici kan opstå, når ondsindede aktører gentagne gange afprøver sikkerhedsforanstaltninger, koordinerer på tværs af konti eller skjuler trusler som almindelig forskning. Risici kan også udvikle sig under en opgave, der udføres af en agent – for eksempel hvis et system handler i strid med brugerens hensigt ved at fortsætte, efter at det har fået besked på at stoppe.

Efterhånden som AI-systemer udfører længere og mere komplekse opgaver, bliver denne bredere kontekst stadig vigtigere for at skelne legitim aktivitet fra misbrug og sikre, at AI-agenter holder sig inden for rammerne af deres tilsigtede beføjelser.

Nogle nyere implementeringer af banebrydende modeller har krævet, at kunder tillader deres AI-udbyder at gemme følsomt indhold med henblik på sikkerhedsovervågning. For mange organisationer er sådanne krav i strid med deres sikkerhedsforpligtelser eller løfter til de mennesker, de betjener.

Private Safety Processing er udviklet, så vi fortsat kan tilbyde ZDR.

Private Safety Processing bygger videre på den automatiske beskyttelse, der allerede bruges i ZDR og andre implementeringer. Eksisterende ZDR-kompatible sikkerhedssystemer vurderer interaktioner enkeltvis. Private Safety Processing udvider denne beskyttelse på tværs af relaterede interaktioner, så automatiske systemer kan identificere mønstre, uden at OpenAI’s medarbejdere får adgang til gemt kundeindhold.

Private Safety Processing anvender kundeindhold, uanset hvor det lagres – enten på infrastruktur, som kunderne kontrollerer (ZDR-implementeringer), eller i lagerplads leveret af OpenAI. Ved lagring leveret af OpenAI krypteres kundeindholdet med nøgler, som kunden kontrollerer. OpenAI’s medarbejdere har ikke en kopi af disse nøgler og kan derfor ikke få adgang til det underliggende indhold.

Når en risiko identificeres, modtager OpenAI et snævert afgrænset signal, der angiver typen af aktivitet, ligesom med vores nuværende sikkerhedssystemer. Signalet kan bruges til at afgøre, om det er nødvendigt at håndhæve reglerne. OpenAI’s medarbejdere får ikke adgang til kundeindholdet, selv når det markeres.

Kunder kan undersøge advarsler og håndhævelsesafgørelser ved hjælp af oplysninger fra deres egne systemer. Hvis de vil klage, redegøre for legitim aktivitet eller bidrage til en undersøgelse af bekræftet misbrug, kan de vælge at dele relevante oplysninger med OpenAI.

Private Safety Processing testes i øjeblikket hos de første kunder. Vi deler denne forhåndsvisning nu, fordi vores kunder tydeligt har fortalt os, at de har brug for forudsigelighed om, hvordan deres indhold beskyttes, efterhånden som AI-systemerne bliver mere avancerede.

Vores mission er at sikre, at kunstig generel intelligens kommer hele menneskeheden til gode. Samarbejde med kunder og partnere er afgørende for, hvordan vi udvikler effektive sikkerhedsforanstaltninger. Som det fremgår af vores principper, kan intet AI-laboratorium håndtere nye risici alene. Private Safety Processing afspejler denne tilgang og formes i samarbejde med kunder på tværs af brancher, regioner og virksomhedsstørrelser.

De organisationer, vi samarbejder med, håndterer nogle af de mest følsomme oplysninger i deres brancher, herunder finansielle oplysninger, sundhedsdata, fortrolige forretningsplaner og virksomhedsejet forskning. Beskyttelsen af disse oplysninger er afgørende for at overholde lovkrav, bevare kundernes tillid og sikre organisationernes konkurrencefordel.

Deres feedback hjælper os med at udvikle stærkere sikkerhedsforanstaltninger, samtidig med at de bevarer kontrollen over deres oplysninger.

Vi vil fortsat samarbejde med kunderne om de tekniske og driftsmæssige detaljer i vores tilgang. Vi planlægger at begynde udrulningen af Private Safety Processing og udgive en teknisk hvidbog i september. Vi holder kunderne orienteret hele vejen ved at dele opdateringer tidligt, forklare, hvad de betyder for eksisterende forpligtelser, og give kunderne den tid og støtte, de har brug for til at planlægge fremadrettet.