Spolupráce s Americkou psychologickou asociací v oblasti duševního zdraví mládeže a AI
Mladí lidé už dnes používají AI k učení, tvorbě, kladení otázek a pro radu. S rostoucím využíváním AI potřebují rodiny, školy, odborníci i celé komunity přesvědčivější důkazy, lepší zdroje a pevnější ochranná opatření. Proto spolupracujeme s Americkou psychologickou asociací (APA), abychom při úvahách o odpovědném vývoji a používání AI mezi mladými lidmi vycházeli z poznatků psychologie. APA je přední vědeckou a profesní organizací pro psychologii ve Spojených státech. Její práce založená na důkazech pomůže objasnit, co už víme, co zůstává nejisté a jak by měla odpovědná AI vypadat s dalším vývojem technologií.
„Technologie jsou součástí života dospívajících a naší odpovědností je reagovat na tuto skutečnost zkušenostmi, které jsou bezpečné, přiměřené věku a navržené s ohledem na rodiny. AI by měla posilovat, nikoli nahrazovat skutečné vztahy a péči, na něž mladí lidé spoléhají,“ uvedla Dr. Sara Johansen, vedoucí produktové politiky pro duševní zdraví a pohodu v OpenAI. „Tato spolupráce navazuje na naše dlouhodobé úsilí s odborníky. Díky spolupráci s APA a dalšími předními odborníky i nadále zakládáme svůj přístup na důkazech a vytváříme praktická ochranná opatření, která kladou pohodu dospívajících na první místo.“
Začátkem letošního roku jsme s APA uspořádali přínosné setkání vedoucích představitelů organizací zaměřených na duševní zdraví, výzkumných pracovníků, klinických odborníků, pedagogů a zástupců mladých lidí. Diskutovali o tom, kde dnes mladým lidem chybí podpora a kde jim AI může odpovědně pomoci získat informace a nasměrovat je na pomoc ve skutečném světě.
Na základě těchto diskuzí očekáváme, že se spolupráce zaměří na několik oblastí – například na to, jak může AI podpořit mladé lidi v těžkých chvílích, jak ji navrhovat tak, aby lépe odpovídala jejich vývojové fázi a byla užitečnější, a jak mohou být rodiče, pečující osoby a kliničtí odborníci lépe připraveni, aby mladým lidem dokázali být při používání AI průvodci. Veškerá tato práce bude vycházet z vědeckých poznatků o lidském chování i z názorů a osobních zkušeností rodičů, pečujících osob, učitelů a samotných mladých lidí. Postupem času může tato práce přispět k účinnějším ochranným opatřením a přístupům založeným na důkazech, které určí, jakou roli by AI měla v životě mladých lidí hrát.
Jednou z prvních priorit je poskytnout rodičům a pečujícím osobám praktické nástroje, které jim pomohou zorientovat se v domácím používání AI, zejména když dospívající s těmito nástroji začínají. Ve spolupráci s APA chceme vytvořit zdroje pro rodiny, které rodičům a pečujícím osobám pomohou podporovat zdravé používání AI, rozpoznat situace, kdy je vhodný zásah dospělého, a upevňovat vnímání AI jako nástroje, nikoli náhrady za lidi nebo péči. Tato doporučení chceme rovněž široce zpřístupnit školním komunitám.
S APA také spolupracujeme na podpoře odborníků, kteří stále častěji řeší otázky týkající se AI. V plánu je mimo jiné vytvořit pro klinické odborníky a školní psychology zdroje zaměřené na podporu zdravého používání AI, rozpoznávání nadměrného spoléhání na AI a řešení nezdravých vzorců používání. Budeme také nadále svolávat přední zástupce zdravotnictví, školství, výzkumu, veřejné politiky, technologií a organizací hájících zájmy mládeže, abychom nové poznatky proměnili v praktická doporučení pro širší profesní komunitu.
Je zásadní, aby se toto úsilí nezakládalo na domněnkách, ale vycházelo ze zkušeností lidí, kterých se týká, a aby je tito lidé pomáhali utvářet. Společně s APA budeme pořádat setkání dospívajících, rodin, klinických odborníků, školních psychologů a dalších lidí. Pomohou nám lépe pochopit, jak mladí lidé AI používají, jaké otázky související s AI se objevují ve školách, při terapii a v rodinách, v čem současné systémy selhávají a kde může AI odpovědně usnadnit přístup k pomoci, vzdělávání či orientaci v dostupných službách.
Tato spolupráce navazuje na úsilí OpenAI zlepšovat reakce ChatGPT v citlivých situacích a jeho podporu mladších uživatelů. Spolupracujeme s více než 260 odborníky na duševní zdraví, aby ChatGPT lépe rozpoznával známky tísně, reagoval citlivě a nasměroval lidi ke skutečné pomoci. Rozšířili jsme také přístup k místním krizovým zdrojům a linkám pomoci dostupným jediným kliknutím, přidali jsme připomenutí, aby si uživatel dal pauzu, a zavedli nové ochranné prvky pro mladší uživatele – mezi ně patří rodičovská kontrola, upozorňování rodičů na bezpečnostní rizika, zásady pro osoby mladší 18 let v naší specifikaci modelu a model pro odhad věku, který pomáhá nastavit odpovídající zkušenost a ochranná opatření.
AI může lidem pomoci dříve najít informace a zorientovat se v systémech, ale duševní zdraví a pohoda mladých lidí závisí na pevných mezilidských vztazích a důvěryhodné podpoře. Jsme rádi, že můžeme spolupracovat s APA a s mnoha výzkumnými pracovníky, klinickými odborníky a pedagogy, od nichž se nadále učíme. Společně usilujeme o to, aby AI mladým lidem i těm, kdo o ně pečují, podporují je a vedou, skutečně pomáhala.
