Assenza di conservazione dei dati per i modelli di frontiera

L’assenza di conservazione dei dati offre ai clienti API idonei una garanzia chiara: una volta elaborata una richiesta, OpenAI non ne conserva i prompt né le risposte del modello. Il personale di OpenAI non può accedere ai contenuti dei clienti per esaminarli¹ e i dati dei clienti aziendali non vengono utilizzati per addestrare i nostri modelli, salvo esplicito consenso dei clienti.

Man mano che i modelli affrontano attività più lunghe e complesse, alcuni rischi gravi possono emergere soltanto nell’arco di più interazioni. Gli attuali sistemi di sicurezza compatibili con la ZDR valutano ogni interazione singolarmente. Oggi presentiamo in anteprima l’Elaborazione privata per la sicurezza, progettata per individuare schemi ricorrenti tra interazioni correlate senza consentire al personale di OpenAI di accedere ai contenuti sottostanti.

Nelle implementazioni ZDR, i contenuti dei clienti rimangono su infrastrutture controllate dal cliente. Stiamo inoltre sviluppando un’opzione in cui i contenuti vengono archiviati sull’infrastruttura di OpenAI e crittografati con chiavi controllate dal cliente. In entrambi i casi, i sistemi automatizzati possono individuare potenziali usi impropri e restituire segnali di sicurezza limitati, senza esporre al personale di OpenAI i prompt o le risposte sottostanti.

I rischi più gravi per la sicurezza dell’IA non sono sempre visibili in una singola interazione. Spesso, intenzioni potenzialmente dannose diventano evidenti soltanto quando si esaminano insieme più interazioni. Rischi analoghi possono emergere quando soggetti malintenzionati mettono ripetutamente alla prova le misure di tutela, si coordinano tra più account o camuffano minacce da normali attività di ricerca. I rischi possono inoltre svilupparsi nel corso di un’attività agentica, per esempio se un sistema si discosta dall’intento dell’utente continuando ad agire dopo che gli è stato detto di fermarsi.

Man mano che i sistemi di IA affrontano attività più lunghe e complesse, questo contesto più ampio diventa sempre più importante per distinguere le attività legittime dagli usi impropri e garantire che gli agenti di IA restino entro i limiti dell’autorità loro assegnata.

Alcune recenti implementazioni di modelli di frontiera hanno richiesto ai clienti di consentire al proprio fornitore di IA di conservare contenuti sensibili per monitorare la sicurezza. Per molte organizzazioni, tali requisiti sono in conflitto con gli obblighi di sicurezza o con gli impegni assunti verso le persone a cui offrono i propri servizi.

L’Elaborazione privata per la sicurezza è progettata per consentirci di continuare a offrire la ZDR.

L’Elaborazione privata per la sicurezza si basa sulle protezioni automatizzate già utilizzate nella ZDR e in altre implementazioni. Gli attuali sistemi di sicurezza compatibili con la ZDR valutano le interazioni singolarmente. L’Elaborazione privata per la sicurezza estende tali protezioni alle interazioni correlate, consentendo ai sistemi automatizzati di individuare schemi ricorrenti senza che il personale di OpenAI possa accedere ai contenuti conservati dei clienti.

L’Elaborazione privata per la sicurezza utilizza i contenuti dei clienti indipendentemente da dove siano archiviati: nelle infrastrutture controllate dai clienti, per le implementazioni ZDR, oppure nello spazio di archiviazione fornito da OpenAI. Quando viene utilizzato lo spazio di archiviazione fornito da OpenAI, i contenuti dei clienti sono crittografati con chiavi controllate dal cliente. Il personale di OpenAI non dispone di una copia di tali chiavi e non può quindi accedere ai contenuti sottostanti.

Quando viene individuato un rischio, OpenAI riceve un segnale circoscritto che indica il tipo di attività coinvolta, analogamente a quanto avviene oggi con i nostri sistemi di sicurezza. Questo segnale può essere utilizzato per determinare se sia necessario adottare provvedimenti. Il personale di OpenAI non può accedere ai contenuti dei clienti neppure quando vengono segnalati.

I clienti possono esaminare gli avvisi e le decisioni relative ai provvedimenti utilizzando le informazioni disponibili nei propri sistemi. Se desiderano presentare ricorso, chiarire la legittimità di un’attività o contribuire a un’indagine su un abuso accertato, possono scegliere di condividere le informazioni pertinenti con OpenAI.

L’Elaborazione privata per la sicurezza è attualmente in fase di test con i primi clienti. Condividiamo ora questa anteprima perché i nostri clienti ci hanno fatto capire chiaramente di aver bisogno di certezze su come saranno protetti i loro contenuti man mano che i sistemi di IA diventeranno più avanzati.

La nostra missione è garantire che l’intelligenza artificiale generale porti benefici a tutta l’umanità. La collaborazione con clienti e partner è essenziale per creare misure di tutela efficaci. Come chiariscono i nostri principi, nessun laboratorio di IA può affrontare da solo i rischi emergenti. L’Elaborazione privata per la sicurezza rispecchia questo approccio e viene definita con il contributo di clienti di diversi settori, aree geografiche e dimensioni aziendali.

Le organizzazioni con cui collaboriamo gestiscono alcune delle informazioni più sensibili dei rispettivi settori, tra cui documenti finanziari, dati sanitari, piani aziendali riservati e ricerche proprietarie. Proteggere tali informazioni è essenziale per rispettare gli obblighi normativi, mantenere la fiducia dei clienti e preservarne il vantaggio competitivo.

Il loro riscontro ci aiuta a creare misure di tutela più solide, mantenendo le informazioni sotto il loro controllo.

Continueremo a collaborare con i clienti sui dettagli tecnici e operativi del nostro approccio. Prevediamo di iniziare a introdurre l’Elaborazione privata per la sicurezza e di pubblicare un white paper tecnico a settembre. Terremo informati i clienti in ogni fase, condividendo tempestivamente gli aggiornamenti, spiegandone le conseguenze per gli impegni esistenti e offrendo loro il tempo e il supporto necessari per pianificare il futuro.