Creare esperienze ChatGPT più utili per tutti

Il nostro impegno per rendere ChatGPT il più utile possibile è costante e continuo. Abbiamo visto persone ricorrervi nei momenti più difficili. Per questo motivo cerchiamo di migliorare sempre di più il riconoscimento e la risposta dei nostri modelli ai segnali di disagio mentale ed emotivo, con l’aiuto di esperti. 

Si tratta di un lavoro già avviato, ma desideriamo presentare apertamente i nostri programmi per i prossimi 120 giorni, in modo che non sia necessario attendere i lanci per capire in che direzione stiamo andando. Gli interventi proseguiranno ben oltre questo periodo, ma ci stiamo impegnando in modo mirato per apportare il maggior numero possibile di miglioramenti entro la fine dell’anno. 

La settimana scorsa abbiamo condiviso quattro aree di interesse relative all’aiuto alle persone nei momenti di maggiore difficoltà:

1. Ampliare gli interventi a un numero maggiore di persone in situazione di crisi
2. Facilitare il contatto con i servizi di emergenza e l’assistenza da parte di esperti
3. Attivare le connessioni ai contatti fidati
4. Rafforzare le misure di protezione per gli adolescenti. 

Alcuni di questi progetti procederanno molto rapidamente, mentre altri richiederanno più tempo. 

Oggi vi raccontiamo come collaboriamo con esperti che ci guidano in questo lavoro, facendo ricorso ai nostri modelli di ragionamento nei momenti delicati, e vi spieghiamo in dettaglio una delle nostre aree di interesse: Rafforzare le misure di protezione per gli adolescenti. 

L’IA è una tecnologia nuova e in continua evoluzione, e vogliamo fare in modo che i nostri progressi siano guidati da una profonda competenza in materia di benessere e salute mentale. Insieme, il nostro Consiglio di esperti su benessere e IA e la nostra Rete globale di medici garantiscono sia la competenza medica specialistica approfondita sia l’ampiezza di prospettiva necessarie per informare il nostro approccio. Condivideremo ulteriori sviluppi su queste iniziative durante la nostra campagna di 120 giorni.

Consiglio di esperti su benessere e IA

All’inizio di quest’anno abbiamo iniziato a riunire un consiglio di esperti in materia di sviluppo dei giovani, salute mentale e interazione uomo-computer. La sua funzione è quella di definire una visione chiara e basata su dati concreti su come l’IA possa favorire il benessere delle persone e aiutarle a prosperare.

Il contributo di questi esperti ci aiuterà a definire e misurare il benessere, stabilire le priorità e progettare misure di salvaguardia future, come le iterazioni dei controlli parentali, tenendo conto delle ultime ricerche in materia. Se da una parte il consiglio fornirà consulenza sulle nostre decisioni relative a prodotti, ricerca e politiche, OpenAI rimane responsabile delle scelte che compie. 

Rete globale di medici

Il consiglio lavorerà in tandem con la Rete Globale di Medici, un gruppo più ampio di oltre 250 medici che hanno esercitato in 60 Paesi. Con loro abbiamo collaborato nell’ultimo anno su iniziative come le valutazioni in ambito sanitario, progettate per misurare in modo specifico le capacità dei sistemi di IA nel campo della salute.

All’interno di questo gruppo più ampio, oltre 90 medici provenienti da 30 Paesi, tra cui psichiatri, pediatri e medici generici, hanno già contribuito alla nostra ricerca sul comportamento che i modelli dovrebbero assumere nei contesti di salute mentale. Le loro indicazioni alimentano direttamente la nostra ricerca sulla sicurezza, l’addestramento dei modelli e altri interventi, e ci permettono di coinvolgere rapidamente gli specialisti più adatti quando necessario.

A questa rete si aggiungono un numero sempre maggiore di medici e ricercatori, tra cui esperti in settori quali disturbi alimentari, abuso di sostanze e salute degli adolescenti.

I nostri modelli di ragionamento, come GPT‑5‑thinking e o3, sono progettati per dedicare più tempo alla riflessione e al ragionamento contestuale prima di fornire una risposta. Addestrati con un metodo che chiamiamo allineamento deliberativo, i test dimostrano che i modelli di ragionamento seguono e applicano in modo più coerente le linee guida di sicurezza e sono più resistenti ai prompt avversari.

Recentemente abbiamo introdotto un router in tempo reale in grado di scegliere tra modelli di chat efficienti e modelli di ragionamento basati sul contesto della conversazione. A breve inizieremo a reindirizzare alcune conversazioni più delicate, ad esempio quando il sistema rileva segni di forte disagio, a un modello di ragionamento come GPT‑5‑thinking, che potrà fornire risposte più pertinenti e valide, indipendentemente dal modello inizialmente selezionato dall'utente. Questo approccio verrà perfezionato con attenzione.

Molti giovani utilizzano già l’intelligenza artificiale. Sono tra i primi “nativi dell’IA”, cresciuti con questi strumenti come parte integrante della loro vita quotidiana, proprio come le generazioni precedenti con internet o gli smartphone. È un’opportunità per favorire il sostegno, l’apprendimento e la creatività, ma implica anche che le famiglie e i ragazzi potrebbero aver bisogno di appoggio per stabilire delle regole salutari adatte alla fase di sviluppo del giovane.

Controllo parentale

All’inizio di quest’anno abbiamo iniziato a sviluppare nuovi modi di utilizzo di ChatGPT per le famiglie, affinché possano decidere insieme quale sia la soluzione migliore nel loro caso. Entro il prossimo mese, i genitori potranno:

• Collegare il proprio account con quello dei figli adolescenti (età minima 13 anni) tramite un semplice invito via e-mail.
• Controllare le risposte di ChatGPT ai propri figli adolescenti mediante regole di comportamento adeguate all’età, attivate per impostazione predefinita.
• Scegliere quali funzioni disattivare, tra cui la memoria e la cronologia delle chat.
• Ricevere notifiche quando il sistema rileva che il figlio adolescente si trova in un momento di grave disagio. Il parere di esperti guiderà questa funzionalità per favorire la fiducia tra genitori e adolescenti.

Questi controlli si affiancano alle caratteristiche già disponibili per tutti gli utenti, tra cui i promemoria in-app durante le sessioni prolungate per incoraggiare le pause.

Questi provvedimenti segnano solo l’inizio. Continueremo ad apprendere e rafforzare il nostro approccio, guidati da esperti, con l’obiettivo di rendere ChatGPT il più possibile utile. Condivideremo con piacere i nostri progressi nei prossimi 120 giorni.