Présentation de Contact de confiance dans ChatGPT
Vous mettre en relation avec une personne de confiance quand cela compte le plus.
Les gens utilisent ChatGPT pour apprendre, explorer des idées, résoudre des problèmes et réfléchir à des questions personnelles. Parfois, ces conversations peuvent inclure des moments où une personne traverse des difficultés ou cherche du soutien. Notre objectif est de concevoir des systèmes qui répondent avec réflexion aux conversations sensibles et encouragent les personnes à se tourner vers une aide concrète lorsque c’est nécessaire.
Aujourd’hui, nous commençons à déployer Contact de confiance, une fonctionnalité de sécurité facultative dans ChatGPT qui permet aux adultes de désigner une personne de confiance, comme un ami, un membre de la famille ou un aidant, qui pourra être avertie si nos systèmes automatisés et nos réviseurs formés détectent que la personne inscrite a pu évoquer le fait de se faire du mal d’une manière indiquant un problème de sécurité grave. Contact de confiance est conçu pour offrir un niveau de soutien supplémentaire en complément des lignes d’assistance locales déjà disponibles dans ChatGPT, en aidant les utilisateurs à entrer en contact avec une personne de confiance lorsqu’ils sont en situation de crise.
Contact de confiance s’appuie sur les notifications de sécurité du contrôle parental(ouverture dans une nouvelle fenêtre), qui permettent aux parents ou tuteurs de recevoir des alertes lorsqu’il existe des signes de détresse aiguë pour un compte adolescent lié. Désormais, nous étendons nos options d’alerte de sécurité afin que toute personne de plus de 18 ans puisse choisir d’ajouter une personne de confiance comme Contact de confiance.
Les recommandations d’experts(ouverture dans une nouvelle fenêtre) identifient le lien social comme l’un des facteurs de protection les plus importants pour réduire le risque de suicide. Contact de confiance(ouverture dans une nouvelle fenêtre) est conçu pour encourager le lien avec une personne à laquelle l’utilisateur fait déjà confiance. Il ne remplace ni les soins professionnels ni les services de crise, et constitue l’une des nombreuses couches de protection destinées à soutenir les personnes en détresse. ChatGPT continuera d’encourager les utilisateurs à contacter des lignes d’assistance de crise ou les services d’urgence lorsque cela est approprié.
« La science psychologique montre constamment que le lien social est un puissant facteur de protection, en particulier pendant les périodes de détresse émotionnelle. Aider les personnes à identifier à l’avance une personne de confiance, tout en préservant leur choix et leur autonomie, peut faciliter le recours à un soutien concret quand c’est le plus nécessaire. »
- Les utilisateurs peuvent ajouter un adulte (18+ dans le monde ou 19+ en Corée du Sud) comme Contact de confiance depuis les paramètres de ChatGPT.
- Le Contact de confiance recevra une invitation expliquant son rôle et devra l’accepter dans un délai d’une semaine pour que la fonctionnalité devienne active. Si le Contact de confiance refuse, l’utilisateur peut choisir d’ajouter un autre adulte.
- Si nos systèmes de surveillance automatisés détectent que l’utilisateur parle potentiellement d’automutilation d’une manière indiquant un problème de sécurité grave, ChatGPT informe l’utilisateur que nous pouvons avertir son Contact de confiance et l’encourage à joindre ce dernier à l’aide de suggestions pour entamer la conversation.
- À partir de là, une petite équipe de personnes spécialement formées examine la situation. Si ces réviseurs déterminent que la conversation peut indiquer un problème de sécurité grave, ChatGPT enverra au Contact de confiance une brève notification par e-mail, SMS ou notification dans l’application s’il possède un compte ChatGPT
- La notification est volontairement limitée. Elle partage la raison générale pour laquelle l’automutilation a été évoquée d’une manière potentiellement préoccupante et encourage le Contact de confiance à prendre des nouvelles. Elle n’inclut ni détails de conversation ni transcriptions afin de protéger la vie privée de l’utilisateur. La notification comprend également un lien vers des conseils(ouverture dans une nouvelle fenêtre) d’experts pour gérer les conversations sensibles.
- Les utilisateurs peuvent à tout moment supprimer ou modifier leur Contact de confiance dans les paramètres, et le Contact de confiance peut se retirer à tout moment depuis notre centre d’aide.(ouverture dans une nouvelle fenêtre)
Bien que ces situations de sécurité graves soient rares, lorsqu’elles se présentent, nos systèmes sont conçus pour permettre un examen et une réponse rapides. Même si aucun système n’est parfait et qu’une notification à un Contact de confiance peut ne pas toujours refléter exactement ce que vit une personne, chaque notification fait l’objet d’un examen humain effectué par du personnel formé avant son envoi, et nous nous efforçons d’examiner ces notifications de sécurité en moins d’une heure.
Nous avons développé Contact de confiance avec les conseils de cliniciens, de chercheurs et d’organisations spécialisées dans la santé mentale et la prévention du suicide. Ce travail s’appuie sur notre Réseau mondial de médecins, un réseau de plus de 260 médecins agréés dans 60 pays, ainsi que sur notre Conseil d’experts sur le bien-être et l’IA. Nous avons également travaillé en étroite collaboration avec des organisations externes, dont l’American Psychological Association.(ouverture dans une nouvelle fenêtre)
« L’une des plus grandes promesses de l’IA est sa capacité à favoriser une connexion humaine authentique et un sentiment de sécurité psychologique. Je suis encouragée par la fonctionnalité Contact de confiance de ChatGPT, qui constitue une avancée vers l’autonomisation des personnes, en particulier dans les moments de vulnérabilité. »
En plus de Contact de confiance, ChatGPT dispose de protections pour aider à guider les conversations sensibles à chaque étape. Nous avons continué à améliorer la façon dont le système répond aux différents niveaux de risque exprimés dans une conversation :
- Soutenir l’aide concrète : Dans les moments sensibles, ChatGPT peut encourager les personnes à contacter les services d’urgence, des lignes d’assistance de crise, des professionnels de la santé mentale ou des personnes de confiance dans leur entourage.
- Répondre avec attention : Nous avons travaillé avec plus de 170 experts en santé mentale pour améliorer la capacité de ChatGPT à détecter et à répondre aux signes de détresse potentielle, à désamorcer les conversations et à orienter les personnes vers un soutien concret lorsque c’est approprié.
- Aider les personnes à garder le contrôle de leur temps : Dans certaines situations, ChatGPT peut suggérer de faire une pause ou de s’éloigner après une utilisation prolongée afin de favoriser des habitudes technologiques saines.
- Refuser les demandes nuisibles : ChatGPT est entraîné à refuser de fournir des instructions pour le suicide ou l’automutilation. Lorsque les utilisateurs demandent ce type d’informations, le système est entraîné à refuser la demande, puis à rediriger vers des réponses plus sûres et à afficher des ressources locales en cas de crise.
Contact de confiance s’inscrit dans l’effort plus large d’OpenAI pour construire des systèmes d’IA qui aident les personnes dans les moments difficiles. Nous continuerons à travailler avec des cliniciens, des chercheurs et des responsables politiques afin d’améliorer la manière dont les systèmes d’IA réagissent lorsque des personnes peuvent être en situation de détresse. Notre objectif est de faire en sorte que les systèmes d’IA n’existent pas de façon isolée. Au contraire, ils doivent aider à mettre les personnes en relation avec les soins, les relations et les ressources du monde réel qui comptent le plus.
