Predstavujeme MentalHealthBench

Ľudia sa obracajú na umelú inteligenciu v mnohých druhoch rozhovorov: pri riešení zložitých vzťahov, pri riešení každodenného stresu, pri podpore niekoho, na kom im záleží, alebo pri rozhodovaní o tom, ako pristúpiť k náročnej situácii. Tieto rozhovory si vyžadujú presnosť, praktický úsudok a rešpekt k autonómii ľudí. Keďže ChatGPT používa každý týždeň viac ako miliarda ľudí, náš výskum sa zameriava na pomoc modelom reagovať s opatrnosťou na širokú škálu potrieb a klásť bezpečnosť a blaho ľudí na prvé miesto.

Väčšina hodnotení umelej inteligencie v tejto oblasti sa zamerala predovšetkým na núdzové scenáre vzhľadom na ich dôležitosť pre bezpečnosť a úspešnosť merala pomocou širokých, vopred definovaných kritérií. To zanechalo medzeru v chápaní toho, ako modely fungujú v celej škále rozhovorov o duševnom zdraví a ako dobre sa ich odpovede zhodujú s usmerneniami odborníkov v každej situácii, nielen v tom, či sa vyhýbajú nepovoleným reakciám. Hodnotenie, ako modely zvládajú tieto rôzne situácie, je nevyhnutné pre budovanie smerom k AI, ktorá aktívne podporuje dlhodobú pohodu a bezpečnosť ľudí.

Predstavujeme MentalHealthBench, nový otvorený benchmark na meranie toho, ako systémy umelej inteligencie reagujú v realistických rozhovoroch o duševnom zdraví. MentalHealthBench bol vytvorený v spolupráci s globálnou kohortou 80 licencovaných odborníkov na duševné zdravie z 22 krajín. Posudzuje schopnosti modelu v kľúčových správaní v oblasti duševného zdravia, ako je bezpečnosť, hľadanie kontextu, zachovanie používateľskej aktivity a poskytovanie praktického poradenstva v prípade potreby. Zverejňujeme to, aby si ostatní výskumníci mohli preskúmať metódy, vykonať vlastné hodnotenia a stavať na práci.

Výsledky na MentalHealthBench ukazujú neustále zlepšovanie systémov umelej inteligencie pri pomoci ľuďom v zvládaní situácií duševného zdravia. Hoci ChatGPT nenahrádza terapiu ani odbornú starostlivosť, poznatky od odborníkov nám pomáhajú merať pokrok smerom k modelom umelej inteligencie, ktoré dokážu reagovať s empatiou, podporovať pohodu a viesť ľudí k reálnej podpore, ako sú lokálne krízové linky⁠(otvorí sa v novom okne) alebo niekto, komu dôverujú.

Rozhovory, ktoré sa týkajú pohody, životných rád alebo iných scenárov duševného zdravia, sa môžu značne líšiť v téme, naliehavosti a kultúrnom kontexte. MentalHealthBench je navrhnutý tak, aby zachytil šírku týchto realistických scenárov a používateľských person. Pomocou techník zachovávajúcich súkromie sme vytvorili syntetické konverzácie o duševnom zdraví, ktoré presne odrážajú reálne vzorce používania umelej inteligencie v oblasti duševného zdravia. Niektoré scenáre zahŕňajú aj relevantné informácie o syntetickom používateľovi – napríklad nedávnu stratu v rodine – aby sme mohli posúdiť, či modely využívajú tento kontext na vhodné prispôsobenie svojich reakcií.

MentalHealthBench zahŕňa scenáre týkajúce sa dospelých, tínedžerov, opatrovateľov a klinických pracovníkov vo viacerých jazykoch a regiónoch. Rozhovory sa týkajú viacerých aktuálnych tém a poskytujú pokrytie celého spektra závažnosti:

• Neakútne –Každodenné rozhovory, ktoré môžu zahŕňať určité emocionálne zložky.

• Vysoká akútnosť– Rozhovory naznačujúce vážnejšie problémy s duševným zdravím alebo značnú tieseň, ale nie bezprostrednú núdzovú situáciu.

• Núdzové situácie– Rozhovory zahŕňajúce príznaky duševnej núdze alebo bezprostredné bezpečnostné obavy, ktoré si vyžadujú okamžitú pomoc v reálnom svete.

V nadväznosti na našu predchádzajúcu prácu pre HealthBench a HealthBench Professional⁠(otvorí sa v novom okne) , založenú na požiadavkách klinických pracovníkov,⁠(otvorí sa v novom okne) vyvinuli sme MentalHealthBench v úzkej spolupráci s našou skupinou odborníkov na duševné zdravie. Tvorilo ju viac ako 80 licencovaných psychológov a psychiatrov v 22 krajinách, hovoriacich 19 jazykmi a zastupujúcich takmer 20 subšpecializácií v oblasti duševného zdravia.

Experti boli zodpovední za prečítanie každej syntetickej konverzácie a vytvorenie podrobného zoznamu kritérií rubriky na vyhodnotenie modelových reakcií na poslednú používateľskú správu. Každé kritérium sa zameriava na jeden aspekt modelovej odpovede, ako napríklad položenie správnej otázky alebo poskytnutie najlepšej možnej rady. Každý z nich má váhu od -10 do +10: pozitívne body odmeňujú prospešné správanie, zatiaľ čo negatívne body penalizujú škodlivé a kritériá s vyššími hodnotami naznačujú väčší klinický význam v kontexte konverzácie.

Každú konverzáciu preskúmali najmenej traja odborníci a do konečného hodnotenia boli zahrnuté iba kritériá, ktoré akceptovali všetci. Záverečné rubriky v benchmarku preto odrážajú spoločný úsudok o tom, ako by mali modely reagovať v každom kontexte. Pre každú konverzáciu používame automatizovaný systém hodnotenia GPT‑5.6 Sol na posúdenie odpovedí modelu podľa kritérií vypracovaných odborníkmi. Článok podrobne popisuje proces známkovania a nastavenia hodnotenia.

V rámci MentalHealthBench sme vyhodnotili širokú škálu modelov. Nasledujúce výsledky ukazujú výkon týchto modelov v celom súbore údajov. Hodnotenie zisťuje, či odpoveď modelu vykazuje všetky ideálne spôsoby správania, ktoré odborníci určili pre daný scenár, a zároveň sa vyhýba neprípustnému správaniu.

Benchmark zahŕňa konverzácie s rôznou úrovňou závažnosti. Vďaka tomu môžeme pochopiť výkon modelu v každodenných scenároch duševného zdravia aj v naliehavejších núdzových situáciách v oblasti duševného zdravia, ktoré si vyžadujú pomoc v reálnom živote.

Konverzácie v benchmarku predstavujú štyri typy používateľov: dospelých, tínedžerov vo veku 13 až 17 rokov, opatrovateľov a klinických odborníkov. V prípade osoby tínedžera sme v systémovej správe výslovne uviedli, že používateľ má 13 až 17 rokov. Tento prístup je navrhnutý tak, aby fungoval u rôznych poskytovateľov modelov, nemusí však zachytiť všetky ochranné mechanizmy zabudované do jednotlivých produktov. Konverzácie s osobou tínedžera preskúmali klinickí odborníci špecializujúci sa na duševné zdravie mladých ľudí, aby pomohli posúdiť, či odpovede zodpovedajú osobitným potrebám tínedžerov.

MentalHealthBench zároveň umožňuje merať správanie modelu z viacerých hľadísk. Celkové skóre možno rozložiť na výkon v desiatich oblastiach správania modelu súvisiaceho s duševným zdravím. Tieto spôsoby správania definovali odborníci na duševné zdravie s cieľom zachytiť jemné rozdiely vo výkone modelov. Modely s podobným celkovým skóre môžu mať v týchto oblastiach rozdielne silné stránky.

Takéto podrobné meranie môže výskumníkom pomôcť identifikovať možnosti zlepšenia v zrozumiteľne interpretovateľných oblastiach správania modelu. Vidíme napríklad, že schopnosť modelu primerane zisťovať kontext sa s vyspelejšími modelmi zlepšila. Tieto zlepšenia odrážajú investície OpenAI a ďalších poskytovateľov modelov do zlepšovania spôsobu, akým modely vedú konverzácie o duševnom zdraví.

Popri MentalHealthBench sme vykonali samostatnú analýzu, v ktorej sme porovnali usmernenia odborníkov s tým, čo ľudia považujú za užitočné pri podpore poskytovanej AI. Chceli sme overiť, či môžu odpovede, ktoré odborníci hodnotili vysoko, používateľom aj napriek tomu pripadať chladné alebo neužitočné. Porovnaním hodnotení odpovedí modelu používateľmi aj odborníkmi a kritérií, ktoré vytvorili, sme mohli vyčísliť, v čom sa ich pohľady zhodovali, líšili alebo navzájom dopĺňali. Konečné hodnotiace kritériá benchmarku vychádzajú z konsenzu odborníkov. Táto samostatná analýza ich nezmenila.

Spolupracovali sme so 44 dospelými zo 16 krajín hovoriacimi 14 jazykmi, ktorí používali AI na podporu duševného zdravia alebo emocionálnu podporu. Účastníci hodnotili odpovede modelov na syntetické konverzácie a vytvárali kritériá opisujúce, ako má vyzerať užitočná podpora. Ich hodnotenie sa obmedzilo na nenaliehavé konverzácie, aby neboli vystavení potenciálne znepokojujúcemu obsahu s vysokou závažnosťou.

Pohľady používateľov zdôraznili vlastnosti, ktoré si ľudia cenia pri podpore poskytovanej AI a ktoré boli v usmerneniach odborníkov menej výrazné, najmä praktické ďalšie kroky a tón. Odborníci kládli väčší dôraz na získavanie relevantného kontextu a starostlivú interpretáciu nejednoznačných situácií. Toto porovnanie nám poskytuje ucelenejší obraz o tom, čo ľudia pri podpore oceňujú a ako ich preferencie súvisia s klinickými usmerneniami.

MentalHealthBench poskytuje odborníkom, výskumníkom a vývojárom spoločný nástroj na hodnotenie bezpečnej a užitočnej podpory poskytovanej AI v rôznych situáciách týkajúcich sa duševného zdravia. Jeho verejným sprístupnením vyzývame komunitu, aby preskúmala jeho metódy, odhalila nedostatky existujúcich modelov a pracovala na zlepšovaní budúcich modelov. Žiadny benchmark nedokáže zachytiť všetko, na čom v osobnej konverzácii záleží. Veríme však, že MentalHealthBench pomôže nastaviť vyšší štandard podpory, ktorú AI poskytuje ľuďom.

Podporujeme aj ďalšie iniciatívy v oblasti AI a duševného zdravia vrátane grantov na nový výskum, stretávania odborníkov s organizáciou Partnership on AI⁠(otvorí sa v novom okne) a pomoci pri doplnkových nezávislých iniciatívach, ako je hodnotenie duševného zdravia⁠(otvorí sa v novom okne) od Transluce.

Súbežne s týmto výskumom sme zlepšili odpovede ChatGPT v citlivých konverzáciách, rozšírili prístup ku krízovým zdrojom a pridali funkciu Dôveryhodný kontakt, ktorá ľudí v ťažkých chvíľach spojí s osobou, ktorej dôverujú. Zaviedli sme aj ChatGPT pre tínedžerov s dodatočnou ochranou mladších používateľov.

MentalHealthBench je jedným zo spôsobov, ktorými pracujeme na AI pomáhajúcej miliónom ľudí zvládať náročné chvíle, upevňovať vzťahy a viesť zdravší a plnohodnotnejší život.