Oferim retenció de dades nul·la per a models d'avantguarda

La retenció de dades nul·la ofereix als clients de l'API que compleixen els requisits una promesa clara: OpenAI no conserva les seves indicacions ni les respostes del model un cop processada la sol·licitud. El personal d'OpenAI no pot accedir al contingut dels clients per revisar-lo¹, i les dades dels clients empresarials no s'utilitzen per entrenar els nostres models tret que aquests ho autoritzin explícitament.

A mesura que els models assumeixen tasques més llargues i complexes, alguns riscos greus poden fer-se visibles només al llarg de diverses interaccions. Els sistemes de seguretat actuals compatibles amb ZDR avaluen cada interacció de manera individual. Avui presentem un avanç del Processament privat de seguretat, dissenyat per identificar patrons entre interaccions relacionades sense donar al personal d'OpenAI accés al contingut subjacent.

En els desplegaments amb ZDR, el contingut dels clients roman en infraestructures que controlen els clients. També estem desenvolupant una opció en què el contingut s'emmagatzema a la infraestructura d'OpenAI i es xifra amb claus controlades pel client. En tots dos casos, els sistemes automatitzats poden identificar possibles usos indeguts i retornar senyals de seguretat limitats sense exposar les indicacions ni les respostes subjacents al personal d'OpenAI.

Els riscos més greus per a la seguretat de la IA no sempre són visibles en una sola interacció. Sovint, les intencions potencialment perjudicials només es fan evidents quan s'analitzen diverses interaccions conjuntament. També poden sorgir riscos semblants quan agents maliciosos posen a prova repetidament les mesures de protecció, es coordinen entre diversos comptes o dissimulen amenaces com si fossin recerca rutinària. Els riscos també poden aparèixer durant una tasca agèntica; per exemple, si un sistema s'allunya de la intenció de l'usuari i continua actuant després que se li hagi indicat que s'aturi.

A mesura que els sistemes d'IA assumeixen tasques més llargues i complexes, aquest context ampli esdevé cada cop més important per distingir l'activitat legítima de l'ús indegut i garantir que els agents d'IA es mantinguin dins dels límits de l'autoritat prevista.

Alguns desplegaments recents de models d'avantguarda han exigit als clients que permetin al seu proveïdor d'IA conservar contingut sensible per supervisar-ne la seguretat. Per a moltes organitzacions, aquests requisits entren en conflicte amb les seves obligacions de seguretat o amb els compromisos envers les persones a qui presten servei.

El Processament privat de seguretat està dissenyat perquè puguem continuar oferint ZDR.

El Processament privat de seguretat es basa en les proteccions automatitzades que ja s'utilitzen en desplegaments amb ZDR i d'altres tipus. Els sistemes de seguretat actuals compatibles amb ZDR avaluen les interaccions individualment. El Processament privat de seguretat amplia aquestes proteccions a interaccions relacionades i permet que els sistemes automatitzats identifiquin patrons sense que el personal d'OpenAI tingui accés al contingut conservat dels clients.

El Processament privat de seguretat utilitza el contingut dels clients independentment d'on s'emmagatzemi, ja sigui en infraestructures que controlen els clients (desplegaments amb ZDR) o en emmagatzematge proporcionat per OpenAI. Quan l'emmagatzematge el proporciona OpenAI, el contingut dels clients es xifra amb claus controlades pel client. El personal d'OpenAI no disposa d'una còpia d'aquestes claus i, per tant, no pot accedir al contingut subjacent.

Quan s'identifica un risc, OpenAI rep un senyal estrictament delimitat que indica el tipus d'activitat implicada, de manera semblant als nostres sistemes de seguretat actuals. Aquest senyal es pot utilitzar per determinar si cal aplicar mesures. El personal d'OpenAI no rep accés al contingut del client, ni tan sols quan aquest es marca.

Els clients poden investigar les alertes i les decisions d'aplicació de mesures mitjançant la informació disponible als seus propis sistemes. Si volen presentar una apel·lació, aclarir una activitat legítima o contribuir a una investigació sobre un abús verificat, poden optar per compartir la informació pertinent amb OpenAI.

Actualment, el Processament privat de seguretat s'està provant amb els primers clients. Compartim aquest avanç ara perquè els nostres clients ens han deixat molt clar que necessiten saber amb certesa com es protegirà el seu contingut a mesura que els sistemes d'IA esdevinguin més capaços.

La nostra missió és garantir que la intel·ligència artificial general beneficiï tota la humanitat. La col·laboració amb clients i socis és essencial per crear mesures de protecció eficaces. Tal com deixen clar els nostres principis, cap laboratori d'IA pot afrontar tot sol els riscos emergents. El Processament privat de seguretat reflecteix aquest enfocament i es defineix amb l'aportació de clients de diversos sectors, regions i dimensions empresarials.

Les organitzacions amb què treballem gestionen informació que es troba entre les més sensibles dels seus sectors, com ara registres financers, dades de salut, plans empresarials confidencials i recerca pròpia. Protegir aquesta informació és essencial per complir les obligacions reguladores, mantenir la confiança dels clients i preservar el seu avantatge competitiu.

Els seus comentaris ens ajuden a crear mesures de protecció més sòlides alhora que mantenen la informació sota el seu control.

Continuarem treballant amb els clients en els detalls tècnics i operatius del nostre enfocament. Preveiem començar a desplegar el Processament privat de seguretat i publicar un llibre blanc tècnic al setembre. Mantindrem els clients informats durant tot el procés: compartirem les novetats amb antelació, explicarem què impliquen per als compromisos vigents i els oferirem el temps i el suport necessaris per planificar-se.