Ti presentiamo Trusted Contact in ChatGPT
Ti mette in contatto con una persona di fiducia quando conta di più.
Le persone usano ChatGPT per imparare, esplorare idee, risolvere problemi e riflettere su questioni personali. A volte queste conversazioni possono includere momenti in cui qualcuno sta affrontando difficoltà o cerca supporto. Il nostro obiettivo è progettare sistemi che rispondano con attenzione alle conversazioni sensibili e incoraggino le persone a connettersi a un supporto concreto quando necessario.
Oggi iniziamo a distribuire Trusted Contact, una funzionalità opzionale pensata per la sicurezza su ChatGPT, che consente agli adulti di indicare una persona di fiducia, come un amico, un familiare o un caregiver, che potrebbe essere avvisata se i nostri sistemi automatizzati e i revisori qualificati rilevano che la persona iscritta potrebbe aver parlato di autolesionismo in un modo che indica una seria preoccupazione per la sicurezza. Trusted Contact è progettata per offrire un ulteriore livello di supporto insieme alle linee di assistenza locali già disponibili in ChatGPT, aiutando gli utenti a mettersi in contatto con una persona di cui si fidano quando si trovano in una situazione di crisi.
Trusted Contact si basa sulle notifiche di sicurezza dei controlli parentali(si apre in una nuova finestra), che consentono ai genitori o tutori di ricevere avvisi quando ci sono segnali di grave disagio per un account adolescente collegato. Ora stiamo ampliando le opzioni di avviso di sicurezza affinché chiunque abbia più di 18 anni possa scegliere di aggiungere una persona di fiducia come Trusted Contact.
Le indicazioni degli esperti(si apre in una nuova finestra) individuano nella connessione sociale uno dei fattori protettivi più importanti per ridurre il rischio di suicidio. Trusted Contact(si apre in una nuova finestra) è progettata per incoraggiare il contatto con una persona di cui l’utente già si fida. Non sostituisce l’assistenza professionale o i servizi di crisi ed è uno dei vari livelli di protezione pensati per supportare le persone in difficoltà. ChatGPT continuerà comunque a incoraggiare gli utenti a contattare linee telefoniche di crisi o servizi di emergenza quando opportuno.
“La scienza psicologica dimostra costantemente che la connessione sociale è un potente fattore protettivo, soprattutto nei periodi di sofferenza emotiva. Aiutare le persone a identificare in anticipo una persona fidata, preservando al contempo la loro libertà di scelta e autonomia, può rendere più facile rivolgersi a un supporto reale quando conta di più.”
- Gli utenti possono aggiungere un adulto (18+ a livello globale o 19+ in Corea del Sud) come Trusted Contact dalle impostazioni di ChatGPT.
- La persona indicata come Trusted Contact riceverà un invito che spiega il suo ruolo e dovrà accettarlo entro una settimana affinché la funzione diventi attiva. Se rifiuta, l’utente può scegliere di aggiungere un altro adulto.
- Se i nostri sistemi di monitoraggio automatizzato rilevano che l’utente potrebbe parlare di autolesionismo in un modo che indica una seria preoccupazione per la sicurezza, ChatGPT informa l’utente che potremmo avvisare il suo Trusted Contact e lo incoraggia a contattarlo con suggerimenti per iniziare la conversazione.
- A quel punto, un piccolo team di persone con formazione specifica esamina la situazione. Se questi revisori stabiliscono che la conversazione può indicare una seria preoccupazione per la sicurezza, ChatGPT invierà al Trusted Contact una breve notifica via email, SMS o notifica in-app, se dispone di un account ChatGPT
- La notifica è volutamente limitata. Condivide il motivo generale per cui l’autolesionismo è emerso in modo potenzialmente preoccupante e incoraggia il Trusted Contact a verificare la situazione. Per proteggere la privacy dell’utente, non include dettagli della chat né trascrizioni. La notifica include anche un link a indicazioni(si apre in una nuova finestra) di esperti per gestire conversazioni sensibili.
- Gli utenti possono sempre rimuovere o modificare il proprio Trusted Contact nelle impostazioni e il Trusted Contact può rimuoversi in qualsiasi momento dal nostro centro assistenza.(si apre in una nuova finestra)
Sebbene queste gravi situazioni di sicurezza siano rare, quando si verificano i nostri sistemi sono progettati per supportare una revisione e una risposta tempestive. Anche se nessun sistema è perfetto e una notifica a un Trusted Contact potrebbe non riflettere sempre esattamente ciò che una persona sta vivendo, ogni notifica viene sottoposta a revisione umana qualificata prima dell’invio e ci impegniamo a esaminare queste notifiche di sicurezza in meno di un’ora.
Abbiamo sviluppato Trusted Contact con il supporto di clinici, ricercatori e organizzazioni specializzate in salute mentale e prevenzione del suicidio. Questo lavoro è informato dalla nostra Global Physicians Network, una rete di oltre 260 medici abilitati in 60 Paesi, e dal nostro Expert Council on Well-Being and AI. Abbiamo inoltre collaborato strettamente con organizzazioni esterne, tra cui l’American Psychological Association.(si apre in una nuova finestra)
“Una delle maggiori promesse dell’IA è la sua capacità di favorire connessioni autentiche tra le persone e sicurezza psicologica. Sono incoraggiata dalla funzione Trusted Contact di ChatGPT, che rappresenta un passo avanti verso l’empowerment delle persone, soprattutto nei momenti di vulnerabilità.”
Oltre a Trusted Contact, ChatGPT dispone di misure di protezione per aiutare a gestire le conversazioni sensibili in ogni fase. Abbiamo continuato a migliorare il modo in cui il sistema risponde ai diversi livelli di rischio espressi in una conversazione:
- Supportare l’aiuto nel mondo reale: nei momenti sensibili, ChatGPT può incoraggiare le persone a contattare i servizi di emergenza, le linee di crisi, i professionisti della salute mentale o le persone fidate nella loro vita.
- Rispondere con attenzione: abbiamo lavorato con oltre 170 esperti di salute mentale per migliorare la capacità di ChatGPT di rilevare e rispondere ai segnali di potenziale disagio, de-escalare le conversazioni e guidare le persone verso un supporto reale quando appropriato.
- Aiutare le persone a mantenere il controllo del proprio tempo: in alcune situazioni, ChatGPT può suggerire di fare una pausa o allontanarsi dopo un uso prolungato per promuovere abitudini tecnologiche sane.
- Rifiutare richieste dannose: ChatGPT è addestrato a rifiutare di fornire istruzioni per il suicidio o l’autolesionismo. Quando gli utenti richiedono questo tipo di informazioni, il sistema è addestrato a rifiutare la richiesta e a reindirizzare verso risposte più sicure, mostrando risorse di crisi locali.
Trusted Contact fa parte dell’impegno più ampio di OpenAI per costruire sistemi di IA che aiutino le persone nei momenti difficili. Continueremo a collaborare con medici, ricercatori e decisori politici per migliorare il modo in cui i sistemi di IA rispondono quando le persone potrebbero vivere un momento di disagio. Il nostro obiettivo è garantire che i sistemi di IA non restino separati dal mondo reale. Al contrario, dovrebbero aiutare a mettere le persone in contatto con l’assistenza, le relazioni e le risorse del mondo reale che contano di più.
