Presentazione di MentalHealthBench

Le persone si rivolgono all’IA per molti tipi di conversazioni: affrontare una relazione difficile o lo stress quotidiano, sostenere una persona cara oppure decidere come gestire una situazione complessa. Queste conversazioni richiedono accuratezza, capacità di giudizio pratico e rispetto per l’autonomia delle persone. Con oltre un miliardo di persone che utilizzano ChatGPT ogni settimana, la nostra ricerca si concentra sull'aiutare i modelli a rispondere con cura a una vasta gamma di bisogni e a mettere al primo posto la sicurezza e il benessere delle persone.

La maggior parte delle valutazioni dell'IA in questo ambito si è concentrata principalmente su scenari di emergenza, data la loro importanza per la sicurezza, e sulla misurazione del successo utilizzando criteri ampi e predefiniti. Di conseguenza, sappiamo ancora poco su come si comportino i modelli nell’intera gamma di conversazioni sulla salute mentale e su quanto le loro risposte siano in linea con le indicazioni degli esperti per ciascuna situazione, al di là della semplice assenza di risposte non consentite. Valutare come i modelli gestiscono queste diverse situazioni è essenziale per sviluppare un'IA che supporti attivamente il benessere e la sicurezza a lungo termine delle persone.

Ti presentiamo MentalHealthBench, un nuovo benchmark aperto che misura come i sistemi di IA rispondono in conversazioni realistiche sulla salute mentale. MentalHealthBench è stato sviluppato insieme a un gruppo internazionale di 80 professionisti della salute mentale abilitati, provenienti da 22 paesi. Valuta le capacità del modello nei principali comportamenti di salute mentale come la sicurezza, la ricerca di contesto, la preservazione dell'autonomia dell'utente e la fornitura di indicazioni concrete quando opportuno. Lo rendiamo disponibile pubblicamente affinché altri ricercatori possano esaminarne i metodi, condurre le proprie valutazioni e proseguire questo lavoro.

I risultati su MentalHealthBench mostrano il costante miglioramento dei sistemi di IA nell'aiutare le persone a gestire situazioni di salute mentale. Sebbene ChatGPT non sostituisca la terapia o l'assistenza professionale, le indicazioni basate sul parere di esperti ci aiutano a misurare i progressi verso modelli di IA in grado di rispondere con empatia, promuovere il benessere e guidare le persone verso un supporto reale come numeri locali di assistenza in caso di crisi⁠(si apre in una nuova finestra) o qualcuno di fiducia.

Le conversazioni che coinvolgono il benessere, consigli di vita o altri scenari di salute mentale possono variare ampiamente per argomento, urgenza e contesto culturale. MentalHealthBench è progettato per catturare l'ampiezza di questi scenari realistici e di queste profili utente. Utilizzando tecniche che preservano la privacy, abbiamo creato conversazioni sintetiche sulla salute mentale che riflettono accuratamente i modelli reali di utilizzo dell'IA per la salute mentale. Alcuni scenari includono anche informazioni di base rilevanti sull'utente sintetico—come una recente perdita familiare—così da poter valutare se i modelli utilizzano quel contesto per adattare adeguatamente le loro risposte.

MentalHealthBench include scenari con adulti, adolescenti, persone che assistono qualcuno e professionisti clinici, in diverse lingue e aree geografiche. Le conversazioni spaziano su molteplici temi attuali e coprono l'intero spettro di acuità:

• Non acute—Conversazioni quotidiane che possono coinvolgere alcune componenti emotive.

• Alta acuità—Conversazioni che indicano problemi di salute mentale più gravi o un disagio significativo, ma non un'emergenza immediata.

• Emergenze—Conversazioni che coinvolgono segni di emergenza di salute mentale o preoccupazioni immediate di sicurezza che richiedono un supporto urgente nel mondo reale.

Basandoci sul nostro precedente lavoro informato dai professionisti clinici per HealthBench e HealthBench Professional⁠(si apre in una nuova finestra),⁠(si apre in una nuova finestra) abbiamo sviluppato MentalHealthBench in stretta collaborazione con il nostro gruppo di esperti di salute mentale. Il gruppo era composto da oltre 80 psicologi e psichiatri abilitati di 22 paesi, che parlavano 19 lingue e rappresentavano quasi 20 specializzazioni nel campo della salute mentale.

Gli esperti erano responsabili di leggere ogni conversazione sintetica e di produrre una lista dettagliata di criteri di valutazione per valutare le risposte del modello all'ultimo messaggio utente. Ogni criterio mira un singolo aspetto della risposta del modello, come porre la domanda giusta o fornire il miglior consiglio possibile. Ognuno di essi ha un peso che va da -10 a +10: i punti positivi premiano i comportamenti benefici, mentre i negativi penalizzano quelli dannosi, e i criteri con valori più alti indicano un'importanza clinica maggiore nel contesto di una conversazione.

Ogni conversazione è stata esaminata da almeno tre esperti, e solo i criteri accettati da tutti sono stati inclusi nel benchmark finale. I criteri di valutazione finali del benchmark riflettono quindi un giudizio condiviso sul modo in cui i modelli dovrebbero rispondere in ciascun contesto. Per ogni conversazione utilizziamo un valutatore automatico, GPT‑5.6 Sol, per confrontare le risposte dei modelli con i criteri formulati dagli esperti. L'articolo descrive in dettaglio il processo di valutazione e le impostazioni di valutazione.

Abbiamo valutato un’ampia gamma di modelli su MentalHealthBench. I risultati seguenti mostrano le prestazioni di questi modelli sull’intero set di dati. La valutazione verifica se la risposta di un modello presenta tutti i comportamenti ideali individuati dagli esperti per ciascuno scenario, evitando al contempo i comportamenti non consentiti.

Il benchmark comprende conversazioni con diversi livelli di gravità. Questo ci permette di comprendere le prestazioni dei modelli sia negli scenari quotidiani legati alla salute mentale sia nelle emergenze più urgenti che richiedono un intervento nel contesto reale.

Le conversazioni del benchmark rappresentano quattro tipi di utenti: adulti, adolescenti dai 13 ai 17 anni, persone che assistono qualcuno e professionisti clinici. Per il profilo dell’adolescente, abbiamo indicato esplicitamente tramite un messaggio di sistema che l’utente aveva un’età compresa tra 13 e 17 anni. Questo approccio è concepito per funzionare con modelli di diversi fornitori, anche se potrebbe non rilevare tutte le misure di sicurezza integrate nei singoli prodotti. Le conversazioni con il profilo dell’adolescente sono state esaminate da professionisti clinici esperti di salute mentale giovanile, per valutare se le risposte fossero adeguate alle esigenze specifiche degli adolescenti.

MentalHealthBench consente inoltre di misurare il comportamento dei modelli sotto molteplici aspetti. Il punteggio complessivo può essere scomposto nelle prestazioni relative a dieci dimensioni del comportamento dei modelli nell'ambito della salute mentale. Questi comportamenti sono definiti da esperti di salute mentale e mirano a cogliere le sfumature nelle prestazioni dei modelli. Modelli con punteggi complessivi simili possono avere punti di forza diversi rispetto a questi comportamenti.

Una misurazione dettagliata come questa può aiutare i ricercatori a individuare le aree da migliorare attraverso comportamenti del modello interpretabili. Ad esempio, osserviamo che la capacità di un modello di raccogliere adeguatamente il contesto è aumentata con i modelli più avanzati. Questi miglioramenti riflettono gli investimenti di OpenAI e di altri fornitori per perfezionare il modo in cui i modelli gestiscono le conversazioni sulla salute mentale.

Parallelamente a MentalHealthBench, abbiamo condotto un’analisi separata per confrontare le indicazioni degli esperti con ciò che le persone ritengono utile nel sostegno offerto dall’IA. Volevamo verificare se le risposte valutate molto positivamente dagli esperti potessero comunque risultare fredde o poco utili agli utenti. Confrontando le valutazioni degli utenti e degli esperti sulle risposte dei modelli, insieme ai criteri da loro formulati, abbiamo potuto quantificare i punti in cui le rispettive prospettive concordavano, divergevano o si integravano. I criteri di valutazione finali del benchmark si basano sul consenso degli esperti; questa analisi separata non li ha modificati.

Abbiamo collaborato con 44 adulti di 16 Paesi e 14 lingue che avevano usato l'IA per ricevere sostegno psicologico o emotivo. I partecipanti hanno valutato le risposte dei modelli a conversazioni sintetiche e formulato criteri per descrivere le caratteristiche di un sostegno utile. La loro analisi è stata limitata alle conversazioni non acute, per evitare di esporli a contenuti potenzialmente angoscianti caratterizzati da gravità elevata.

Le prospettive degli utenti hanno evidenziato qualità che le persone apprezzano nel sostegno offerto dall’IA, ma che ricevevano meno attenzione nelle indicazioni degli esperti, in particolare il tono e le azioni pratiche da intraprendere. Gli esperti hanno attribuito maggiore importanza alla raccolta del contesto pertinente e all’attenta interpretazione delle situazioni ambigue. Questo confronto offre un quadro più completo di ciò che le persone apprezzano nel sostegno e di come tali preferenze si rapportino alle indicazioni cliniche.

MentalHealthBench offre a esperti, ricercatori e sviluppatori uno strumento condiviso per valutare un sostegno sicuro e utile da parte dell’IA in diverse situazioni legate alla salute mentale. Rendendolo disponibile pubblicamente, invitiamo la comunità a esaminarne i metodi, individuare le lacune dei modelli esistenti e collaborare per migliorare quelli futuri. Nessun benchmark può cogliere tutto ciò che conta in una conversazione personale, ma ci auguriamo che MentalHealthBench contribuisca a innalzare gli standard del modo in cui l’IA sostiene le persone.

Sosteniamo anche altre iniziative nel campo dell'IA e della salute mentale, tra cui finanziamenti per nuove ricerche, incontri tra esperti con la Partnership on AI⁠(si apre in una nuova finestra) e iniziative indipendenti complementari, come la valutazione della salute mentale⁠(si apre in una nuova finestra) di Transluce.

Parallelamente a questa ricerca, abbiamo rafforzato le risposte di ChatGPT nelle conversazioni delicate, ampliato l'accesso alle risorse per le crisi e aggiunto il Contatto fidato, per mettere le persone in contatto con qualcuno di cui si fidano nei momenti di difficoltà. Abbiamo anche introdotto ChatGPT per adolescenti, con protezioni aggiuntive per gli utenti più giovani.

MentalHealthBench è uno dei modi in cui lavoriamo per creare un'IA che aiuti milioni di persone ad affrontare i momenti difficili, rafforzare le proprie relazioni e vivere una vita più sana e appagante.