Presentem MentalHealthBench

La gent recorre a la IA per a molts tipus de converses: gestionar una relació difícil, afrontar l'estrès quotidià, ajudar una persona estimada o decidir com abordar una situació difícil. Aquestes converses requereixen precisió, criteri pràctic i respecte per l'autonomia de les persones. Amb més de mil milions de persones que utilitzen ChatGPT cada setmana, la nostra recerca se centra a ajudar els models a respondre amb cura a una àmplia gamma de necessitats i a prioritzar la seguretat i el benestar de les persones.

La majoria d'avaluacions de la IA en aquest àmbit s'han centrat principalment en escenaris d'emergència, atesa la seva importància per a la seguretat, i mesuren l'èxit mitjançant criteris amplis i predefinits. Això ha deixat un buit en la comprensió de com funcionen els models en tota la gamma de converses sobre salut mental i de com s'alineen les seves respostes amb les orientacions dels experts per a cada situació, més enllà de si eviten les respostes no permeses. Avaluar com els models gestionen aquestes diferents situacions és essencial per avançar cap a una IA que contribueixi activament al benestar i a la seguretat de les persones a llarg termini.

Presentem MentalHealthBench, un nou banc de proves obert per mesurar com responen els sistemes d'IA en converses realistes sobre salut mental. MentalHealthBench va ser creat conjuntament amb una cohort global de 80 experts en salut mental habilitats per exercir, procedents de 22 països. Avalua les capacitats del model en comportaments clau de salut mental com la seguretat, la cerca de context, la preservació de l'autonomia de l'usuari i la provisió d'orientacions pràctiques quan escaigui. El publiquem obertament perquè altres investigadors puguin examinar els mètodes, dur a terme les seves pròpies avaluacions i ampliar el treball.

Els resultats de MentalHealthBench mostren la millora constant dels sistemes d'IA per ajudar les persones a navegar per situacions de salut mental. Tot i que ChatGPT no substitueix la teràpia ni l'atenció professional, els coneixements dels experts ens ajuden a mesurar el progrés cap a models d'IA capaços de respondre amb empatia, promoure el benestar i guiar les persones cap a suport del món real, com ara línies d'atenció telefònica localitzades⁠(s'obre en una finestra nova) o algú de confiança.

Les converses que impliquen benestar, consells de vida o altres escenaris de salut mental poden variar molt pel que fa al tema, la urgència i el context cultural. MentalHealthBench està dissenyat per capturar l'amplitud d'aquests escenaris realistes i perfils d'usuari. Mitjançant tècniques de preservació de la privadesa, hem creat converses sintètiques sobre salut mental que reflecteixen amb precisió els patrons d'ús de la IA per a la salut mental en el món real. Alguns escenaris també inclouen informació rellevant sobre els antecedents de l'usuari sintètic, com ara una pèrdua recent a la família, de manera que podem avaluar si els models utilitzen aquest context per adaptar les seves respostes adequadament.

MentalHealthBench inclou escenaris que impliquen adults, adolescents, cuidadors i professionals clínics, en múltiples idiomes i regions. Les converses abasten múltiples temes i cobreixen tot l'espectre de gravetat:

• No agut: converses quotidianes que poden implicar alguns components emocionals.

• Alta gravetat: converses que indiquen problemes de salut mental més greus o angoixa significativa, però no una emergència immediata.

• Emergències: converses que impliquen signes d'una emergència de salut mental o preocupacions de seguretat immediates que requereixen suport urgent en el món real.

Basant-nos en el nostre treball previ, basat en els professionals clínics, per a HealthBench i HealthBench Professional⁠(s'obre en una finestra nova),⁠(s'obre en una finestra nova) vam desenvolupar MentalHealthBench en estreta col·laboració amb el nostre grup d'experts en salut mental. Aquest grup estava format per més de 80 psicòlegs i psiquiatres habilitats per exercir, procedents de 22 països, que parlaven 19 idiomes i representaven gairebé 20 subespecialitats de salut mental.

Els experts eren els responsables de llegir cada conversa sintètica i elaborar una llista detallada de criteris de rúbrica per avaluar les respostes del model a l'últim missatge de l'usuari. Cada criteri es centra en un aspecte concret de la resposta del model, com ara fer la pregunta correcta o proporcionar el millor consell possible. Cadascun té un pes que va de -10 a +10: els punts positius recompensen els comportaments beneficiosos, mentre que els punts negatius penalitzen els perjudicials, i els criteris amb valors més alts indiquen una major importància clínica en el context d'una conversa.

Cada conversa va ser revisada per almenys tres experts, i només els criteris que van ser acceptats per tots ells es van incloure en el banc de proves final. Per tant, les rúbriques finals del banc de proves reflecteixen un judici compartit sobre com haurien de respondre els models en cada context. Per a cada conversa, utilitzem un avaluador automatitzat, GPT‑5.6 Sol, per avaluar les respostes del model segons els criteris redactats pels experts. El document descriu detalladament el procés de qualificació i la configuració de l'avaluació.

Hem avaluat una àmplia varietat de models amb MentalHealthBench. Els resultats següents mostren el rendiment d'aquests models en tot el conjunt de dades. L'avaluació mesura si la resposta d'un model presenta tots els comportaments ideals que els experts van identificar per a cada escenari i, alhora, evita els comportaments no permesos.

El banc de proves cobreix converses amb diferents nivells de gravetat. Això ens permet comprendre el rendiment del model tant en situacions quotidianes de salut mental com en emergències de salut mental més urgents que requereixen ajuda en el món real.

Les converses del banc de proves representen quatre tipus d'usuaris: adults, adolescents de 13 a 17 anys, cuidadors i professionals clínics. En el perfil adolescent, vam indicar explícitament mitjançant un missatge del sistema que l'usuari tenia entre 13 i 17 anys. Aquest enfocament està dissenyat per funcionar amb diversos proveïdors de models, tot i que pot no captar totes les proteccions integrades en cada producte. Les converses amb el perfil adolescent van ser revisades per professionals clínics especialitzats en salut mental juvenil per ajudar a determinar si les respostes eren adequades per a les necessitats específiques dels adolescents.

MentalHealthBench també permet mesurar el comportament dels models des de múltiples perspectives. La puntuació general es pot desglossar en el rendiment al llarg de deu dimensions del comportament dels models en salut mental. Aquests comportaments els defineixen experts en salut mental i pretenen captar els matisos del rendiment dels models. Els models amb puntuacions generals semblants poden tenir punts forts diferents en aquests comportaments.

Aquest tipus de mesurament detallat pot ajudar els investigadors a identificar àrees de millora mitjançant comportaments interpretables dels models. Per exemple, observem que la capacitat d'un model per obtenir el context adequat ha augmentat en els models més avançats. Aquestes millores reflecteixen la inversió d'OpenAI i d'altres proveïdors per millorar la manera com els models gestionen les converses sobre salut mental.

Paral·lelament a MentalHealthBench, vam dur a terme una anàlisi independent per comparar l'orientació d'experts amb allò que les persones consideren útil en el suport que ofereix la IA. Volíem comprovar si les respostes que els experts valoraven molt positivament, tot i això, podien semblar fredes o poc útils als usuaris. En comparar les valoracions tant dels usuaris com dels experts sobre les respostes del model i els criteris que van redactar, vam poder quantificar en quins aspectes les seves perspectives coincidien, diferien o es complementaven. Els criteris finals de puntuació del banc de proves es basen en el consens d'experts; aquesta anàlisi independent no els va modificar.

Vam treballar amb 44 adults de 16 països i 14 llengües que havien utilitzat la IA per obtenir suport emocional o relacionat amb la salut mental. Els participants van valorar les respostes dels models a converses sintètiques i van redactar criteris per descriure com hauria de ser un suport útil. La revisió es va limitar a converses no agudes per evitar exposar-los a contingut d'alta gravetat que pogués causar-los malestar.

Les perspectives dels usuaris van destacar qualitats que les persones valoren en el suport que ofereix la IA i que rebien menys èmfasi en l'orientació experta, especialment els passos pràctics següents i el to. Els experts van posar més èmfasi a recopilar el context rellevant i interpretar amb cura les situacions ambigües. Aquesta comparació ens ofereix una visió més completa d'allò que les persones valoren en el suport que reben i de com aquestes preferències es relacionen amb l'orientació clínica.

MentalHealthBench ofereix als experts, als investigadors i als desenvolupadors una eina compartida per avaluar si el suport que ofereix la IA és segur i útil en diverses situacions de salut mental. En publicar-lo obertament, convidem la comunitat a examinar-ne els mètodes, identificar mancances dels models existents i treballar per millorar els models futurs. Cap banc de proves no recull tot el que importa en una conversa personal, però esperem que MentalHealthBench contribueixi a establir un estàndard més alt sobre com la IA dona suport a les persones.

També donem suport a altres iniciatives sobre IA i salut mental, com ara ajuts per a noves recerques, la reunió d'experts amb la Partnership on AI⁠(s'obre en una finestra nova) i l'assistència a iniciatives independents complementàries, com ara l'avaluació de salut mental⁠(s'obre en una finestra nova) de Transluce.

Paral·lelament a aquesta recerca, hem reforçat les respostes de ChatGPT en converses delicades, hem ampliat l'accés als recursos per a crisis i hem afegit el contacte de confiança perquè les persones puguin contactar amb algú de confiança en moments de malestar. També hem presentat ChatGPT per a adolescents, amb proteccions addicionals per als usuaris més joves.

MentalHealthBench és una de les maneres amb què treballem per aconseguir una IA que ajudi milions de persones a afrontar moments difícils, reforçar les seves relacions i tenir una vida més saludable i plena.