Spolupráca s Americkou psychologickou asociáciou v oblasti duševného zdravia mládeže a AI
Mladí ľudia už používajú AI na učenie, tvorbu, kladenie otázok aj vyhľadávanie rád. S rastúcim využívaním potrebujú rodiny, školy, odborníci v klinickej praxi aj komunity presvedčivejšie dôkazy, kvalitnejšie zdroje a účinnejšie ochranné opatrenia. Preto spolupracujeme s Americkou psychologickou asociáciou (APA), aby sme poznatky psychológie začlenili do uvažovania o zodpovednom vývoji a používaní AI medzi mladými ľuďmi. APA je popredná vedecká a profesijná organizácia v oblasti psychológie v Spojených štátoch. Jej práca založená na dôkazoch pomôže objasniť, čo už vieme, čo zostáva neisté a ako by mala zodpovedná AI vyzerať s ďalším vývojom technológie.
„Technológie sú súčasťou života dospievajúcich a našou zodpovednosťou je reagovať na túto realitu bezpečnými riešeniami primeranými veku, ktoré zohľadňujú potreby rodín. AI by mala posilňovať, nie nahrádzať skutočné vzťahy a starostlivosť, na ktoré sa mladí ľudia spoliehajú,“ uviedla Dr. Sara Johansen, vedúca produktovej politiky pre duševné zdravie a pohodu v OpenAI. „Táto spolupráca nadväzuje na naše dlhodobé úsilie s odborníkmi. Spoluprácou s APA a ďalšími poprednými odborníkmi naďalej zakladáme svoj prístup na dôkazoch a vyvíjame praktické ochranné opatrenia, ktoré kladú pohodu dospievajúcich na prvé miesto.“
Začiatkom tohto roka sme spolu s APA usporiadali podnetné stretnutie predstaviteľov organizácií pre duševné zdravie, výskumníkov, odborníkov v klinickej praxi, pedagógov a zástupcov mládeže. Diskutovali o tom, kde dnes mladým ľuďom chýba podpora a kde im môže AI zodpovedne pomôcť nájsť informácie a spojiť sa s reálnou pomocou.
V nadväznosti na tieto rozhovory očakávame, že sa spolupráca zameria na niekoľko oblastí – napríklad na to, ako môže AI podporovať mladých ľudí vo chvíľach núdze, ako ju navrhovať s väčším ohľadom na ich vývin a potreby a ako lepšie pripraviť rodičov, opatrovateľov a odborníkov v klinickej praxi, aby dokázali mladých ľudí usmerňovať pri používaní AI. Celá táto práca bude vychádzať z vedeckých poznatkov o ľudskom správaní, ako aj z názorov a životných skúseností rodičov, opatrovateľov, učiteľov a samotných mladých ľudí. Postupne tak môže prispieť k účinnejším ochranným opatreniam a prístupom založeným na dôkazoch, ktoré určia miesto AI v živote mladých ľudí.
Jedným z prvých cieľov je poskytnúť rodičom a opatrovateľom praktické nástroje na usmerňovanie používania AI v domácnosti, najmä keď s týmito nástrojmi začínajú pracovať dospievajúci. V spolupráci s APA plánujeme vytvoriť zdroje pre rodiny, ktoré rodičom a opatrovateľom pomôžu podporovať zdravé používanie, rozpoznať situácie vyžadujúce zásah dospelého a upevňovať vnímanie AI ako nástroja, nie náhrady za ľudí či starostlivosť. Tieto odporúčania chceme sprístupniť aj širokému okruhu školských komunít.
S APA spolupracujeme aj na podpore odborníkov, ktorí čoraz častejšie dostávajú otázky týkajúce sa AI. Plánujeme aj zdroje pre odborníkov v klinickej praxi a školských psychológov zamerané na podporu zdravého používania AI, rozpoznanie nadmerného spoliehania sa na ňu a zásahy pri nezdravých vzorcoch používania. Budeme tiež naďalej spájať predstaviteľov zdravotníctva, školstva, výskumu, verejnej politiky, technológií a organizácií zastupujúcich mládež, aby nové poznatky pretavili do praktických odporúčaní pre širšiu odbornú komunitu.
Je nevyhnutné, aby toto úsilie vychádzalo zo životných skúseností ľudí a aby ho tieto skúsenosti formovali, namiesto toho, aby sa zakladalo na domnienkach. V spolupráci s APA spojíme dospievajúcich, rodiny, odborníkov v klinickej praxi, školských psychológov a ďalších ľudí, aby sme lepšie pochopili, ako mladí ľudia používajú AI, aké otázky súvisiace s AI sa objavujú v školách, pri terapii a v rodinách, kde súčasné systémy zlyhávajú a kde môže AI zodpovedne zlepšiť prístup k pomoci, vzdelávaniu alebo orientácii v systémoch.
Táto spolupráca nadväzuje na úsilie OpenAI zlepšovať reakcie ChatGPT v citlivých situáciách a jeho podporu mladších používateľov. Spolupracujeme s viac ako 260 odborníkmi na duševné zdravie, aby ChatGPT dokázal lepšie rozpoznávať prejavy núdze, reagovať citlivo a nasmerovať ľudí k pomoci v reálnom svete. Rozšírili sme aj prístup k miestnym zdrojom krízovej pomoci a linkám pomoci dostupným jedným kliknutím, pridali pripomienky na prestávku a zaviedli ďalšie prvky ochrany mladších používateľov. Patria medzi ne rodičovská kontrola, upozorňovanie rodičov na bezpečnostné riziká, zásady pre osoby mladšie ako 18 rokov v našej špecifikácii modelu a model na odhad veku, ktorý pomáha nastaviť vhodné používateľské prostredie a ochranné opatrenia.
AI môže ľuďom pomôcť skôr nájsť informácie a zorientovať sa v systémoch, no pohoda mladých ľudí závisí od pevných medziľudských vzťahov a dôveryhodnej podpory. Teší nás, že môžeme spolupracovať s APA a mnohými výskumníkmi, odborníkmi v klinickej praxi a pedagógmi, od ktorých sa naďalej učíme. Spoločne chceme zabezpečiť, aby AI skutočne podporovala mladých ľudí aj tých, ktorí sa o nich starajú, pomáhajú im a usmerňujú ich.
