Presentamos Contacto de confianza en ChatGPT
Una conexión con alguien de confianza cuando más importa.
Las personas usan ChatGPT para aprender, explorar ideas, resolver problemas y reflexionar sobre cuestiones personales. A veces, esas conversaciones pueden incluir momentos en los que alguien esté pasando por dificultades o buscando apoyo. Nuestro objetivo es diseñar sistemas que respondan con criterio a las conversaciones delicadas y animen a las personas a conectar con ayuda en el mundo real cuando sea necesario.
Hoy comenzamos a implementar Contacto de confianza, una función de seguridad opcional de ChatGPT que permite a las personas adultas designar a alguien de su confianza, como una amistad, un familiar o una persona cuidadora, que podría recibir una notificación si nuestros sistemas automatizados y revisores especializados detectan que la persona inscrita puede haber mencionado hacerse daño de una forma que indique un problema grave de seguridad. Contacto de confianza está diseñado para ofrecer una capa adicional de apoyo junto con las líneas de ayuda locales ya disponibles en ChatGPT, al ayudar a los usuarios a conectar con una persona de su confianza cuando están en crisis.
Contacto de confianza se basa en las notificaciones de seguridad de Controles parentales(se abre en una ventana nueva), que permiten a padres, madres o tutores recibir alertas cuando hay señales de malestar agudo en una cuenta de adolescente vinculada. Ahora ampliamos nuestras opciones de alertas de seguridad para que cualquier persona mayor de 18 años pueda elegir añadir a alguien de su confianza como Contacto de confianza.
La orientación de expertos(se abre en una ventana nueva) identifica la conexión social como uno de los factores de protección más importantes para reducir el riesgo de suicidio. Contacto de confianza(se abre en una ventana nueva) está diseñado para fomentar la conexión con alguien en quien la persona usuaria ya confía. No sustituye la atención profesional ni los servicios de crisis, y es una de varias capas de protección para apoyar a personas en situación de malestar. ChatGPT seguirá animando a los usuarios a ponerse en contacto con líneas de ayuda en crisis o con servicios de emergencia cuando sea apropiado.
«La ciencia psicológica demuestra de forma constante que la conexión social es un poderoso factor de protección, especialmente durante periodos de malestar emocional. Ayudar a las personas a identificar de antemano a alguien de confianza, sin renunciar a su elección y autonomía, puede facilitar que recurran a apoyo en el mundo real cuando más importa».
- Los usuarios pueden añadir a una persona adulta (18+ a nivel mundial o 19+ en Corea del Sur) como su Contacto de confianza desde la configuración de ChatGPT.
- El Contacto de confianza recibirá una invitación que explica su función y deberá aceptarla en el plazo de una semana para que la función se active. Si el Contacto de confianza la rechaza, la persona usuaria puede elegir añadir a otra persona adulta.
- Si nuestros sistemas automatizados de supervisión detectan que la persona usuaria puede estar hablando de hacerse daño de una forma que indique un problema grave de seguridad, ChatGPT le informa de que podríamos notificarlo a su Contacto de confianza y le ofrece sugerencias para iniciar la conversación con esa persona.
- A partir de ahí, un pequeño equipo de personas con formación especializada revisa la situación. Si estos revisores determinan que la conversación puede indicar un problema grave de seguridad, ChatGPT enviará al Contacto de confianza una breve notificación por correo electrónico, mensaje de texto o notificación en la aplicación si tiene una cuenta de ChatGPT
- La notificación es intencionadamente limitada. Comparte el motivo general por el que se mencionó el tema de hacerse daño de una manera potencialmente preocupante y anima al Contacto de confianza a comprobar cómo está la persona. No incluye detalles ni transcripciones del chat para proteger la privacidad del usuario. La notificación también incluye un enlace a orientación(se abre en una ventana nueva) experta para abordar conversaciones delicadas.
- Los usuarios siempre pueden eliminar o editar su Contacto de confianza en la configuración, y el Contacto de confianza puede retirarse en cualquier momento desde nuestro centro de ayuda.(se abre en una ventana nueva)
Aunque estas situaciones graves de seguridad son poco frecuentes, cuando se producen, nuestros sistemas están diseñados para revisar y responder con prontitud. Aunque ningún sistema es perfecto, y una notificación a un Contacto de confianza puede no reflejar siempre exactamente lo que alguien está experimentando, todas las notificaciones pasan por una revisión humana especializada antes de enviarse, y nos esforzamos por revisar estas notificaciones de seguridad en menos de una hora.
Desarrollamos Contacto de confianza con la orientación de personal clínico, investigadores y organizaciones especializadas en salud mental y prevención del suicidio. Este trabajo se basa en nuestra Red Global de Médicos, una red de más de 260 médicos colegiados en 60 países, y en nuestro Consejo de Expertos sobre Bienestar e IA. También trabajamos estrechamente con organizaciones externas, incluida la American Psychological Association.(se abre en una ventana nueva)
«Una de las mayores promesas de la IA es cómo puede fomentar una conexión auténtica entre personas y la seguridad psicológica. Me anima la función Contacto de confianza de ChatGPT, que ofrece un paso adelante hacia el empoderamiento humano, especialmente en momentos de vulnerabilidad».
Además de Contacto de confianza, ChatGPT cuenta con protecciones para ayudar a orientar conversaciones delicadas en cada etapa. Hemos seguido mejorando la forma en que el sistema responde a distintos niveles de riesgo expresados en una conversación:
- Fomentar la ayuda en el mundo real: en momentos delicados, ChatGPT puede animar a las personas a ponerse en contacto con servicios de emergencia, líneas de ayuda en crisis, profesionales de la salud mental o personas de confianza en sus vidas.
- Responder con cuidado: hemos trabajado con más de 170 expertos en salud mental para mejorar la capacidad de ChatGPT de detectar y responder a señales de posible malestar, rebajar la tensión de las conversaciones y guiar a las personas hacia apoyo en el mundo real cuando sea apropiado.
- Ayudar a las personas a mantener el control de su tiempo: en algunas situaciones, ChatGPT puede sugerir hacer una pausa o alejarse tras un uso prolongado para fomentar hábitos tecnológicos saludables.
- Rechazar solicitudes perjudiciales: ChatGPT está entrenado para no proporcionar instrucciones sobre suicidio o autolesión. Cuando los usuarios solicitan este tipo de información, el sistema está entrenado para rechazar la solicitud y, en su lugar, redirigir hacia respuestas más seguras y mostrar recursos locales para situaciones de crisis.
Contacto de confianza forma parte del esfuerzo más amplio de OpenAI por crear sistemas de IA que ayuden a las personas en momentos difíciles. Seguiremos trabajando con personal clínico, investigadores y responsables políticos para mejorar la forma en que los sistemas de IA responden cuando las personas pueden estar experimentando malestar. Nuestro objetivo es garantizar que los sistemas de IA no existan de forma aislada. En su lugar, deben ayudar a conectar a las personas con la atención, las relaciones y los recursos del mundo real que más importan.
