Come integriamo sicurezza, protezione e privacy nei dot

I dot sono agenti sempre attivi che si fanno carico di incarichi continuativi, lasciandoti più tempo e attenzione per ciò che ti sta a cuore. Ogni dot ha un proprio computer e lavora con le app che scegli di collegare. Assegni obiettivi ai dot e definisci cosa possono fare in autonomia. Possono affrontare i vari passaggi, adattarsi ai cambiamenti e continuare a portare avanti il lavoro tra una conversazione e l’altra. Possono seguire una notizia in evoluzione e preparare la bozza di una newsletter, oppure aiutarti ad aggiornare un progetto man mano che arrivano nuove informazioni, sottoponendoti i risultati da esaminare e rivolgendosi a te per le decisioni che richiedono il tuo giudizio.

Affidare questa responsabilità ai dot significa condividere con loro una parte più ampia delle tue informazioni e del tuo lavoro. È importante che tu sappia a cosa può accedere ogni dot, come usa tale accesso e quando deve coinvolgerti. Sono aspetti importanti perché gli errori di un agente possono avere conseguenze che vanno oltre la conversazione: fraintendere una richiesta potrebbe indurlo a modificare il file sbagliato o a condividere informazioni che volevi mantenere private.

Prevediamo protezioni per ogni aspetto di questo lavoro. Partiamo da GPT‑6 Astra, che addestriamo a comprendere le tue intenzioni e a seguire le regole di sicurezza, per poi aggiungere misure di protezione per le informazioni che i dot usano, gli ambienti in cui lavorano e le azioni che intendono compiere. Un’area di lavoro cloud protetta aiuta a contenere gli errori, le procedure di accesso sicuro aiutano a proteggere le credenziali sensibili e verifiche separate sulle azioni aiutano a individuare i passaggi che non rispettano le tue istruzioni o i requisiti di sicurezza. Scegli cosa collegare, imposti le preferenze e segui o reindirizzi il lavoro man mano che procede.

I dot possono comunque commettere errori e continueremo a migliorare queste protezioni sulla base di ciò che impariamo dall’uso reale. Qui spieghiamo come interagiscono le misure di protezione, quali aspetti puoi controllare e quali limiti restano, così potrai decidere in modo consapevole quale lavoro affidare ai dot.

I dot si basano su GPT‑6 Astra, il nostro modello più capace e allineato. Astra eccelle nel comprendere il tuo obiettivo, nel rispettare l’ambito della tua richiesta e nel porre domande mirate quando le risposte potrebbero cambiare ciò che deve fare. Queste capacità aiutano i dot a seguire le attività nel tempo senza perdere di vista le tue intenzioni.

Abbiamo addestrato Astra a rifiutare le richieste dannose, comprese quelle che comportano usi impropri in ambito biologico o di sicurezza informatica. Testiamo il modo in cui i dot gestiscono istruzioni che cambiano, richieste ambigue e tentativi di spingerli oltre le autorizzazioni che hai concesso. Il red teaming, sia umano sia automatizzato, ci aiuta a individuare i punti deboli, a migliorare il modello e i sistemi che lo supportano e a testare nuovamente le modifiche apportate.

Integriamo queste misure di protezione del modello con le protezioni di sicurezza di ChatGPT e con misure aggiuntive per gli agenti che possono continuare a lavorare per tuo conto.

Le protezioni integrate in ChatGPT includono la crittografia dei tuoi contenuti, sia quando vengono archiviati sia durante il trasferimento tra te, OpenAI e i nostri fornitori di servizi, oltre a controlli di accesso che aiutano a proteggere le informazioni archiviate. I nostri sistemi di sicurezza degli account cercano inoltre segnali di uso sospetto del tuo account OpenAI e possono richiedere un nuovo accesso se una sessione sembra compromessa.

Gli agenti devono anche essere protetti dalle informazioni che incontrano mentre svolgono il loro lavoro. Una pagina web, un’email o un documento possono contenere istruzioni dannose che cercano di deviarne il comportamento o di indurli a condividere informazioni private: un problema chiamato iniezione di prompt. Combiniamo le misure di protezione del modello con restrizioni sugli strumenti, verifiche prima delle azioni e monitoraggio per evitare che quei contenuti si traducano in un’azione indesiderata.

Monitoriamo inoltre i dot mentre pianificano ed eseguono le azioni, cercando comportamenti potenzialmente dannosi, come agire al di fuori delle tue istruzioni o tentare di aggirare le misure di protezione. Se rileva un possibile problema nel lavoro in corso di un dot, il sistema di monitoraggio della sicurezza può metterlo in pausa e mostrarti un avviso da esaminare. Questo monitoraggio è integrato e aiuta a rilevare possibili problemi durante lo svolgimento di un’attività, affiancando le protezioni che limitano ciò a cui i dot possono accedere e ciò che possono fare.

Ogni dot ha un proprio computer cloud, dove può navigare, analizzare informazioni, creare file ed eseguire strumenti. I dot possono continuare a lavorare in queste aree di lavoro anche quando non partecipi attivamente.

Scegli tu quali account possono usare i dot: puoi collegare app nei limiti delle autorizzazioni concesse a ChatGPT oppure accedere a un sito web nel browser di un dot, usando l’accesso sicuro dove supportato. Puoi anche scegliere di collegare il tuo computer personale per offrire ai dot più modi di aiutarti, ad esempio analizzando un foglio di calcolo salvato sul desktop o usando strumenti di programmazione installati sul tuo dispositivo.

Nell’area di lavoro protetta di ogni dot, il sandboxing limita il codice e gli strumenti a cui il dot può accedere, contribuendo a contenere l’impatto di codice dannoso o di un comando errato. Inoltre, isoliamo tra loro gli ambienti cloud degli utenti e ci occupiamo della manutenzione del sistema operativo Linux e del browser Chrome su cui si basano.

I dot eseguono il codice in ambienti separati dai sistemi che coordinano il loro lavoro e applicano le principali misure di protezione. In questi ambienti possono creare file ed eseguire strumenti, ma non possono usare tale accesso per modificare quei sistemi di sicurezza o disattivare le verifiche obbligatorie. Questa separazione aiuta a mantenere attive le misure di protezione anche se un dot commette un errore.

Le regole sulle azioni descritte di seguito stabiliscono cosa possono fare i dot con l’accesso di cui dispongono.

L’accesso sicuro consente ai dot di lavorare negli account senza che le password entrino nella conversazione. Per gli accessi supportati, il modello viene messo in pausa mentre compili un modulo di accesso sicuro, che invia le credenziali direttamente all’ambiente del browser e le trasmette senza esporle al contesto del modello. Il dot riprende quindi a lavorare nell’account a cui hai effettuato l’accesso. Tenere la password fuori dalla conversazione riduce il rischio che compaia in una risposta o venga condivisa per errore.

Le procedure supportate per l’uso delle password salvate mantengono questa separazione tramite un servizio dedicato con crittografia per la gestione delle credenziali. Il servizio fornisce la password per l’accesso senza trasmetterla al modello: i dot possono così lavorare negli account che hai autorizzato, mentre le password restano fuori dal contesto del modello. Queste protezioni sono specifiche delle procedure di accesso sicuro e di uso delle password salvate; un dato segreto inserito separatamente in un messaggio o documento leggibile potrebbe comunque essere visibile al modello.

Gestisci le app che i dot possono usare tramite le connessioni e le autorizzazioni già presenti in ChatGPT, condivise tra ChatGPT, ChatGPT Work e Codex. Nella sezione Plugin delle Impostazioni puoi controllare gli account collegati e modificare ciò a cui i dot potranno accedere in seguito. Scollegare un’app interrompe la condivisione di nuove informazioni attraverso quella connessione. Le informazioni che un dot ha già acquisito restano però nel suo contesto. Queste autorizzazioni regolano l’accesso alle tue app; non prevalgono sui requisiti di sicurezza obbligatori.

Se vuoi che i dot lavorino con file o strumenti locali, puoi anche scegliere di collegare il tuo computer. Quella connessione rimane soggetta alla sandbox locale e alle verifiche applicabili sulle azioni. Per usare il microfono o la fotocamera del computer servono anche le autorizzazioni del dispositivo, che puoi scegliere di concedere a ChatGPT.

La Vista attività nell’app desktop ti consente di seguire e guidare il lavoro in corso. Mostra le attività in corso e quelle delegate, insieme al loro stato. Puoi aggiungere contesto, correggere un fraintendimento, cambiare direzione o chiedere a un dot di fermarsi.

I dot arricchiscono il proprio contesto nel tempo per offrirti un aiuto più utile. Quando delegano del lavoro, gli altri agenti ricevono istruzioni per conservare le informazioni necessarie all’attività ed evitare di mantenere dettagli sensibili non necessari. Ogni dot ha un proprio contesto, che puoi reimpostare in qualsiasi momento.

Per le aree di lavoro ChatGPT Business, Enterprise ed Edu, per impostazione predefinita non usiamo i tuoi dati per addestrare i nostri modelli. Per i piani personali di ChatGPT, sei tu a decidere se le conversazioni dei tuoi dot e il lavoro che svolgono possono essere usati per migliorare i nostri modelli, tramite l’impostazione “Migliora il modello per tutti”. Quando l’addestramento del modello è abilitato, possono essere incluse anche le azioni eseguite dai dot e le automazioni che hai configurato, dopo che abbiamo lavorato alla rimozione degli identificativi personali. Puoi trovare maggiori informazioni su come vengono usati i tuoi dati in questo articolo⁠(si apre in una nuova finestra) del nostro centro assistenza.

Oltre al lavoro che chiedi loro di svolgere, i dot possono avviare attività di ricerca in background per trovare altri modi di aiutarti, ad esempio rilevando un cambiamento nei tuoi programmi di viaggio. La chiamiamo ricerca proattiva.

Queste attività vengono eseguite nell’ambiente cloud di ogni dot. Usano strumenti di sola lettura per raccogliere informazioni dalle fonti collegate autorizzate, poi salvano note private per quel dot. Questi limiti sono imposti a livello di codice: le attività di ricerca non possono inviare direttamente messaggi ad altre persone, modificare contenuti nelle app collegate o controllare un browser o un desktop. I dot possono usare i risultati per decidere come aiutarti, ma ogni azione successiva deve seguire le consuete regole e verifiche.

Non addestriamo i nostri modelli direttamente sui thread di ricerca in background né sulle note che producono. Un dot può però ricevere note dalla propria attività di ricerca in background o leggere parti dei relativi thread. Le informazioni così introdotte in una conversazione o attività idonea possono essere usate per l’addestramento del modello, a seconda delle tue impostazioni. Ad esempio, un’attività di ricerca in background potrebbe raccogliere informazioni su varie destinazioni per un prossimo viaggio in Europa. Quel thread di ricerca e le relative note non vengono usati direttamente per l’addestramento. In seguito, quando chiedi al tuo dot di aiutarti a organizzare un viaggio a Lisbona, potrebbe leggere una nota su Lisbona tratta dalla propria attività di ricerca in background. Quella nota entra a far parte del contesto della conversazione sulla pianificazione del viaggio e può quindi essere usata per l’addestramento, a seconda delle tue impostazioni. Il resto della ricerca in background non viene usato per l’addestramento, a meno che non venga anch’esso introdotto in una conversazione o attività idonea.

I dot rispettano limiti di sicurezza integrati, pensati per prevenire danni e lasciare a te le decisioni che possono avere conseguenze rilevanti. Le loro regole di sicurezza impongono di rifiutare le richieste dannose, comprese quelle che comportano usi impropri in ambito biologico o di sicurezza informatica. Per le attività in cui possono aiutarti, le regole sulle azioni stabiliscono quando possono procedere, quando devono chiedere conferma e quando devono lasciare a te un passaggio.

Entro questi limiti, i dot possono leggere le informazioni a cui sono autorizzati ad accedere, analizzarle e preparare bozze nelle tue conversazioni. Per inviare un messaggio o condividere un file, sono addestrati a richiedere un’autorizzazione che copra le informazioni e il tipo di destinatario: più i dati sono sensibili, più i destinatari devono essere indicati in modo preciso. Ad esempio, per i dati sanitari l’utente dovrà sempre indicare un destinatario per nome (“condividi la mia storia clinica con il dott. Thompson”). Per i dati personali meno sensibili, come un indirizzo email o un numero di telefono, per impostazione predefinita l’utente dovrà indicare categorie di destinatari (“qualsiasi compagnia aerea”). L’utente può ampliare ulteriormente le regole sui dati personali meno sensibili (“condividi tramite qualsiasi modulo online”) creando una Regola personalizzata: per maggiori dettagli su questa funzione, consulta la sezione successiva. Quell’autorizzazione resta legata alle tue istruzioni per l’attività; riprendere il lavoro in seguito o delegarlo non ne amplia la portata.

I dot possono effettuare acquisti usando le carte che hai già salvato sul sito web di un venditore. Questi acquisti richiedono la tua approvazione.

Alcune azioni richiedono la tua conferma ogni volta: ad esempio eliminare definitivamente dei dati, installare o eseguire software da una fonte non riconosciuta o concedere nuovi accessi rilevanti per la sicurezza. Questi requisiti ti danno la possibilità di esaminare modifiche che potrebbero essere difficili da annullare o che potrebbero concedere a qualcuno nuovi accessi.

Per altri passaggi sensibili, come cambiare una password o trasferire denaro tra conti finanziari, i dot possono aiutarti con il resto dell’attività, ma devono lasciare a te quei passaggi.

Le Regole personalizzate ti consentono di definire il modo in cui i dot ti aiutano, nel rispetto di queste protezioni integrate: ad esempio, puoi dire loro di non inviare mai email. Puoi anche dare indicazioni specifiche per un’attività, ad esempio chiedendo a un dot di comunicare a un collega la tua assenza senza condividerne il motivo personale. Queste istruzioni continuano a valere quando il dot delega il lavoro o opera in background.

I dot possono aiutarti a scrivere le Regole personalizzate, ma hanno bisogno della tua approvazione per modificarle. Queste preferenze operano entro i limiti di sicurezza integrati e non possono eliminare le conferme obbligatorie, i passaggi da affidare a te o i requisiti di sicurezza fondamentali.

Prima che i dot eseguano azioni come inviare email o modificare file, un sistema di sicurezza separato chiamato Revisione automatica verifica che i passaggi previsti rispettino le tue istruzioni, le Regole personalizzate e i requisiti di sicurezza. Nel caso di un’email, controlla il destinatario e il messaggio per individuare un eventuale indirizzo errato o informazioni che non intendevi condividere.

Se Revisione automatica consente un passaggio, il dot che lo ha proposto lo esegue usando lo strumento appropriato sul computer o nell’app, poi usa il risultato per proseguire l’attività. Può basarsi su un’approvazione che hai già dato, se questa copre l’azione e le regole non richiedono una nuova conferma.

Se Revisione automatica blocca un passaggio, impedisce l’esecuzione dell’azione e ne spiega il motivo al dot. Il dot può chiedere ulteriori informazioni o la tua approvazione, se questo può risolvere il blocco, per poi sottoporre nuovamente il passaggio a verifica. A seconda del motivo, può invece provare un’alternativa consentita, lasciare a te un passaggio sensibile o fermarsi. La tua approvazione non può prevalere sui requisiti di sicurezza fondamentali.

Manteniamo i controlli che impongono la Revisione automatica al di fuori degli ambienti modificabili dai dot, così che non possano modificare o disattivare una verifica obbligatoria. I normali passaggi di sola lettura rispettano comunque le autorizzazioni delle app, le restrizioni degli strumenti e le altre misure di protezione, ma non richiedono questa verifica aggiuntiva.

Affidare ai dot un lavoro continuativo significa sapere come seguiranno le tue istruzioni e come reagiranno quando accadrà qualcosa di imprevisto. Astra li aiuta a comprendere le tue intenzioni, mentre le protezioni applicate ai loro dati, alle aree di lavoro, alle credenziali e alle azioni aiutano a limitare i danni causati da errori o contenuti dannosi. Insieme, queste misure di protezione danno ai dot margine per svolgere un lavoro utile, riducendo la probabilità che un errore si trasformi in un’azione o in una divulgazione di informazioni indesiderata.

Scegli a cosa possono collegarsi i dot e come possono aiutarti, e puoi seguirne i progressi o cambiare direzione quando cambiano le tue esigenze. Le approvazioni e i passaggi affidati a te mantengono le decisioni chiave nelle tue mani. I dot possono comunque commettere errori, quindi continueremo a testare e migliorare le loro protezioni sulla base di ciò che impariamo dall’uso reale. Il nostro obiettivo è rendere più semplice affidare un lavoro ai dot e ritrovarlo portato avanti in modo utile, con le tue preferenze a guidare l’attività e le decisioni importanti ancora nelle tue mani.

Leggi la scheda di sistema⁠(si apre in una nuova finestra) per maggiori dettagli sulle nostre misure di protezione, sulle valutazioni di sicurezza e sui limiti ancora presenti.

Per conoscere i principi di sicurezza alla base di ChatGPT, consulta Sicurezza e privacy in OpenAI. Per approfondire una delle protezioni per la sicurezza sul web, consulta Come proteggiamo i tuoi dati quando un agente IA fa clic su un link.