La gent fa servir ChatGPT per aprendre, explorar idees, resoldre problemes i reflexionar sobre qüestions personals. De vegades, aquestes converses poden incloure moments en què algú pot estar passant dificultats o buscant suport. El nostre objectiu és dissenyar sistemes que responguin amb sensibilitat a les converses delicades i animin les persones a connectar amb ajuda del món real quan calgui.
Avui comencem a desplegar Trusted Contact, una funció de seguretat opcional a ChatGPT que permet als adults designar algú de confiança, com ara un amic, un familiar o un cuidador, que pot ser notificat si els nostres sistemes automatitzats i els revisors formats detecten que la persona inscrita pot haver parlat de fer-se mal d’una manera que indiqui una preocupació greu de seguretat. Trusted Contact està dissenyat per oferir una capa addicional de suport juntament amb les línies d’ajuda localitzades ja disponibles a ChatGPT, ajudant els usuaris a connectar amb una persona de confiança quan es troben en crisi.
Trusted Contact es basa en les notificacions de seguretat del control parental(s'obre en una finestra nova), que permeten als pares, mares o tutors rebre alertes quan hi ha signes d’angoixa aguda en un compte d’adolescent vinculat. Ara ampliem les nostres opcions d’alerta de seguretat perquè qualsevol persona més gran de 18 anys pugui triar afegir algú de confiança com a Trusted Contact.
Les orientacions d’experts(s'obre en una finestra nova) identifiquen la connexió social com un dels factors de protecció més importants per reduir el risc de suïcidi. Trusted Contact(s'obre en una finestra nova) està dissenyat per fomentar la connexió amb una persona en qui l’usuari ja confia. No substitueix l’atenció professional ni els serveis de crisi, i és una de diverses capes de protecció per donar suport a les persones en situació d’angoixa. ChatGPT continuarà animant els usuaris a contactar amb línies d’ajuda en crisi o serveis d’emergència quan sigui apropiat.
«La ciència psicològica demostra de manera constant que la connexió social és un poderós factor de protecció, especialment durant períodes de malestar emocional. Ajudar les persones a identificar per endavant una persona de confiança, tot preservant la seva elecció i autonomia, pot facilitar recórrer a suport del món real quan més importa.»
- Els usuaris poden afegir un adult (18+ a escala global o 19+ a Corea del Sud) com a Trusted Contact des de la configuració de ChatGPT.
- El Trusted Contact rebrà una invitació que explica el seu paper i haurà d’acceptar-la en el termini d’una setmana perquè la funció s’activi. Si el Trusted Contact la rebutja, l’usuari pot triar afegir un altre adult.
- Si els nostres sistemes de monitoratge automatitzat detecten que l’usuari pot estar parlant d’autolesions d’una manera que indiqui una preocupació greu de seguretat, ChatGPT informa l’usuari que podem notificar-ho al seu Trusted Contact, i l’anima a posar-se en contacte amb el seu Trusted Contact amb iniciadors de conversa suggerits.
- A partir d’aquí, un petit equip de persones especialment formades revisa la situació. Si aquests revisors determinen que la conversa pot indicar una preocupació greu de seguretat, ChatGPT enviarà al Trusted Contact una breu notificació per correu electrònic, missatge de text o notificació dins de l’aplicació si té un compte de ChatGPT
- La notificació és intencionadament limitada. Comparteix el motiu general pel qual les autolesions han sorgit d’una manera potencialment preocupant, i anima el Trusted Contact a interessar-se per la persona. No inclou detalls del xat ni transcripcions per protegir la privacitat de l’usuari. La notificació també inclou un enllaç a orientacions(s'obre en una finestra nova) expertes per gestionar converses delicades.
- Els usuaris sempre poden eliminar o editar el seu Trusted Contact a la configuració i el Trusted Contact pot eliminar-se en qualsevol moment des del nostre centre d’ajuda.(s'obre en una finestra nova)
Tot i que aquestes situacions greus de seguretat són poc freqüents, quan es produeixen, els nostres sistemes estan dissenyats per donar suport a una revisió i una resposta oportunes. Encara que cap sistema no és perfecte, i una notificació a un Trusted Contact pot no reflectir sempre exactament el que algú està experimentant, cada notificació passa per una revisió humana especialitzada abans d’enviar-se, i ens esforcem per revisar aquestes notificacions de seguretat en menys d’una hora.
Hem desenvolupat Trusted Contact amb l’orientació de clínics, investigadors i organitzacions especialitzades en salut mental i prevenció del suïcidi. Aquesta feina està informada per la nostra Xarxa Global de Metges, una xarxa de més de 260 metges titulats de 60 països, i pel nostre Consell d’Experts sobre Benestar i IA. També hem treballat estretament amb organitzacions externes, inclosa l’American Psychological Association.(s'obre en una finestra nova)
«Una de les grans promeses de la IA és com pot fomentar una connexió humana autèntica i la seguretat psicològica. M’encoratja la funció Contacte de confiança de ChatGPT, que ofereix un pas endavant cap a l’apoderament humà, especialment en moments de vulnerabilitat.»
A més de Trusted Contact, ChatGPT té proteccions per ajudar a guiar les converses delicades en cada etapa. Hem continuat millorant la manera com el sistema respon als diferents nivells de risc expressats en una conversa:
- Donant suport a l’ajuda del món real: En moments delicats, ChatGPT pot animar les persones a contactar amb serveis d’emergència, línies d’ajuda en crisi, professionals de la salut mental o persones de confiança de la seva vida.
- Respondre amb cura: Hem treballat amb més de 170 experts en salut mental per millorar la capacitat de ChatGPT de detectar i respondre a signes de possible angoixa, reduir la tensió de les converses i orientar les persones cap a suport del món real quan sigui apropiat.
- Ajudar les persones a mantenir el control del seu temps: En algunes situacions, ChatGPT pot suggerir fer una pausa o apartar-se’n després d’un ús prolongat per fomentar hàbits tecnològics saludables.
- Rebutjar sol·licituds perjudicials: ChatGPT està entrenat per rebutjar instruccions sobre suïcidi o autolesió. Quan els usuaris demanen aquest tipus d’informació, el sistema està entrenat per rebutjar la petició i, en canvi, redirigir cap a respostes més segures i mostrar recursos de crisi localitzats.
Trusted Contact forma part de l’esforç més ampli d’OpenAI per construir sistemes d’IA que ajudin les persones en moments difícils. Continuarem treballant amb clínics, investigadors i responsables polítics per millorar la manera com els sistemes d’IA responen quan les persones poden estar experimentant angoixa. El nostre objectiu és garantir que els sistemes d’IA no existeixin de manera aïllada. En comptes d’això, haurien d’ajudar a connectar les persones amb l’atenció, les relacions i els recursos del món real que més importen.
