Presentamos Contacto de confianza en ChatGPT

Las personas usan ChatGPT para aprender, explorar ideas, resolver problemas y reflexionar sobre preguntas personales. A veces, esas conversaciones pueden incluir momentos en los que alguien está pasando por dificultades o buscando apoyo. Nuestro objetivo es diseñar sistemas que respondan con sensibilidad a las conversaciones delicadas y alienten a las personas a conectarse con ayuda en el mundo real cuando sea necesario.

Hoy comenzamos a implementar Contacto de confianza, ​​una función de seguridad opcional en ChatGPT que permite a los adultos nominar a alguien de confianza, como una amistad, un familiar o un cuidador, que podría recibir una notificación si nuestros sistemas automatizados y revisores capacitados detectan que la persona inscrita pudo haber hablado de hacerse daño de una manera que indique una preocupación grave de seguridad. Contacto de confianza está diseñado para ofrecer otra capa de apoyo junto con las líneas de ayuda locales⁠ ya disponibles en ChatGPT, ayudando a los usuarios a conectarse con una persona de confianza cuando están en crisis.

Contacto de confianza se basa en las notificaciones de seguridad de los Controles parentales⁠(se abre en una nueva ventana), que permiten que padres, madres o tutores reciban alertas cuando hay señales de angustia aguda en una cuenta de adolescente vinculada. Ahora estamos ampliando nuestras opciones de alertas de seguridad para que cualquier persona mayor de 18 años pueda elegir agregar a alguien de confianza como su Contacto de confianza.

La orientación de expertos⁠(se abre en una nueva ventana) identifica la conexión social como uno de los factores de protección más importantes para reducir el riesgo de suicidio. Contacto de confianza⁠(se abre en una nueva ventana) está diseñado para fomentar la conexión con alguien en quien la persona usuaria ya confía. No reemplaza la atención profesional ni los servicios de crisis, y es una de varias capas de protección para apoyar a las personas en situación de angustia. ChatGPT seguirá alentando a los usuarios a comunicarse con líneas directas de crisis o servicios de emergencia cuando corresponda.

• Los usuarios pueden agregar a un adulto (más de 18 años a nivel mundial o más de 19 años en Corea del Sur) como su Contacto de confianza desde la configuración de ChatGPT.
• El Contacto de confianza recibirá una invitación que explica su función y deberá aceptarla dentro de una semana para que la función se active. Si el Contacto de confianza la rechaza, el usuario puede elegir agregar a otro adulto.
• Si nuestros sistemas automatizados de monitoreo detectan que el usuario podría estar hablando de autolesión de una manera que indique una preocupación grave de seguridad, ChatGPT le informa al usuario que podríamos notificar a su Contacto de confianza y lo alienta a comunicarse con esa persona mediante sugerencias para iniciar la conversación.
• A partir de ahí, un pequeño equipo de personas especialmente capacitadas revisa la situación. Si esos revisores determinan que la conversación puede indicar una preocupación grave de seguridad, ChatGPT enviará al Contacto de confianza una breve notificación por correo electrónico, mensaje de texto o notificación dentro de la app si tiene una cuenta de ChatGPT.
• La notificación es intencionalmente limitada. Comparte la razón general por la que surgió el tema de la autolesión de una manera potencialmente preocupante y alienta al Contacto de confianza a ponerse en contacto. No incluye detalles ni transcripciones del chat para proteger la privacidad del usuario. La notificación también incluye un enlace a orientación⁠(se abre en una nueva ventana) experta para manejar conversaciones delicadas.
• Los usuarios siempre pueden eliminar o editar su Contacto de confianza en la configuración, y el Contacto de confianza puede eliminarse a sí mismo en cualquier momento desde nuestro centro de ayuda.⁠(se abre en una nueva ventana)

Aunque estas situaciones graves de seguridad son poco frecuentes, cuando surgen, nuestros sistemas están diseñados para respaldar una revisión y respuesta oportunas. Aunque ningún sistema es perfecto, y una notificación a un Contacto de confianza puede no reflejar siempre exactamente lo que alguien está viviendo, cada notificación pasa por una revisión humana capacitada antes de enviarse, y nos esforzamos por revisar estas notificaciones de seguridad en menos de una hora.

Desarrollamos Contacto de confianza con la orientación de personal clínico, investigadores y organizaciones especializadas en salud mental y prevención del suicidio. Este trabajo se basa en nuestra Red global de médicos⁠, una red de más de 260 médicos con licencia en 60 países, y en nuestro Consejo de Expertos sobre Bienestar e IA⁠. También trabajamos de cerca con organizaciones externas, incluida la American Psychological Association.⁠(se abre en una nueva ventana)

Además de Contacto de confianza, ChatGPT cuenta con protecciones para ayudar a guiar conversaciones delicadas en cada etapa. Hemos seguido mejorando la forma en que el sistema responde a distintos niveles de riesgo expresados en una conversación:

• Apoyar la ayuda en el mundo real: En momentos delicados, ChatGPT puede alentar a las personas a comunicarse con servicios de emergencia, líneas de ayuda en crisis, profesionales de salud mental o personas de confianza en su vida. 
• Responder con cuidado: Hemos trabajado con más de 170 expertos en salud mental⁠ para mejorar la capacidad de ChatGPT para detectar y responder a señales de posible angustia, desescalar conversaciones y orientar a las personas hacia apoyo en el mundo real cuando corresponda. 
• Ayudar a las personas a mantener el control de su tiempo: En algunas situaciones, ChatGPT puede sugerir tomar un descanso o alejarse después de un uso prolongado para promover hábitos tecnológicos saludables.
• Rechazar solicitudes dañinas: ChatGPT está entrenado para negarse a proporcionar instrucciones para el suicidio o la autolesión. Cuando los usuarios solicitan este tipo de información, el sistema está entrenado para rechazar la solicitud y, en su lugar, redirigir hacia respuestas más seguras y mostrar recursos de crisis locales.

Contacto de confianza es parte del esfuerzo más amplio de OpenAI por crear sistemas de IA que ayuden a las personas en momentos difíciles.⁠ Seguiremos trabajando con personal clínico, investigadores y responsables de políticas públicas para mejorar la manera en que los sistemas de IA responden cuando las personas podrían estar atravesando una situación de angustia. Nuestro objetivo es asegurar que los sistemas de IA no existan de forma aislada. En cambio, deben ayudar a conectar a las personas con la atención, las relaciones y los recursos del mundo real que más importan.