Présentation de Contact de confiance dans ChatGPT
Vous mettre en lien avec une personne de confiance quand c’est le plus important.
Les gens utilisent ChatGPT pour apprendre, explorer des idées, résoudre des problèmes et réfléchir à des questions personnelles. Parfois, ces conversations peuvent comporter des moments où une personne vit des difficultés ou cherche du soutien. Notre objectif est de concevoir des systèmes qui répondent avec discernement aux conversations délicates et qui encouragent les gens à chercher de l’aide dans le monde réel lorsque c’est nécessaire.
Aujourd’hui, nous commençons à déployer Contact de confiance, une fonctionnalité de sécurité optionnelle dans ChatGPT qui permet aux adultes de désigner une personne de confiance — par exemple un ami, un membre de la famille ou une personne aidante — qui pourrait être avisée si nos systèmes automatisés et nos réviseurs formés détectent que la personne inscrite pourrait avoir parlé d’automutilation d’une manière indiquant une préoccupation sérieuse pour sa sécurité. Contact de confiance est conçu pour offrir une couche de soutien supplémentaire en complément des lignes d’aide locales déjà offertes dans ChatGPT, en aidant les utilisateurs à entrer en contact avec une personne de confiance lorsqu’ils sont en situation de crise.
Contact de confiance s’appuie sur les notifications de sécurité du contrôle parental(s'ouvre dans une nouvelle fenêtre), qui permettent aux parents ou aux tuteurs de recevoir des alertes lorsqu’il y a des signes de détresse aiguë pour un compte d’ado lié. Maintenant, nous étendons nos options d’alertes de sécurité afin que toute personne de plus de 18 ans puisse choisir d’ajouter une personne de confiance comme Contact de confiance.
Les conseils d’experts(s'ouvre dans une nouvelle fenêtre) identifient les liens sociaux comme l’un des facteurs de protection les plus importants pour réduire le risque de suicide. Contact de confiance(s'ouvre dans une nouvelle fenêtre) est conçu pour encourager le lien avec une personne en qui l’utilisateur a déjà confiance. Il ne remplace pas les soins professionnels ni les services de crise, et constitue l’une des nombreuses couches de protection visant à soutenir les personnes en détresse. ChatGPT continuera d’encourager les utilisateurs à communiquer avec les lignes de crise ou les services d’urgence lorsque c’est approprié.
« Les sciences psychologiques montrent constamment que les liens sociaux constituent un puissant facteur de protection, particulièrement durant les périodes de détresse émotionnelle. Aider les gens à désigner d’avance une personne de confiance, tout en préservant leur choix et leur autonomie, peut faciliter le recours à un soutien réel quand c’est le plus important. »
- Les utilisateurs peuvent ajouter un adulte (18+ à l’échelle mondiale ou 19+ en Corée du Sud) comme Contact de confiance à partir des paramètres de ChatGPT.
- Le Contact de confiance recevra une invitation expliquant son rôle et devra l’accepter dans un délai d’une semaine pour que la fonctionnalité devienne active. Si le Contact de confiance refuse, l’utilisateur peut choisir d’ajouter un autre adulte.
- Si nos systèmes de surveillance automatisés détectent que l’utilisateur pourrait parler d’automutilation d’une manière indiquant une préoccupation sérieuse pour sa sécurité, ChatGPT informe l’utilisateur que nous pourrions aviser son Contact de confiance et l’encourage à communiquer avec cette personne à l’aide d’amorces de conversation suggérées.
- Ensuite, une petite équipe de personnes spécialement formées examine la situation. Si ces réviseurs déterminent que la conversation peut indiquer une préoccupation sérieuse pour la sécurité, ChatGPT enverra au Contact de confiance une brève notification par courriel, message texte ou notification dans l’application si cette personne a un compte ChatGPT
- La notification est volontairement limitée. Elle indique de façon générale que l’automutilation est ressortie d’une manière potentiellement préoccupante et encourage le Contact de confiance à prendre des nouvelles. Elle ne comprend ni détails du clavardage ni transcriptions, afin de protéger la vie privée de l’utilisateur. La notification comprend aussi un lien vers des conseils(s'ouvre dans une nouvelle fenêtre) d’experts pour gérer des conversations délicates.
- Les utilisateurs peuvent toujours supprimer ou modifier leur Contact de confiance dans les paramètres, et le Contact de confiance peut se retirer en tout temps à partir de notre centre d’aide.(s'ouvre dans une nouvelle fenêtre)
Bien que ces situations graves en matière de sécurité soient rares, lorsqu’elles surviennent, nos systèmes sont conçus pour permettre une révision et une réponse rapides. Même si aucun système n’est parfait et qu’une notification à un Contact de confiance ne reflète pas toujours exactement ce qu’une personne vit, chaque notification fait l’objet d’une révision humaine par du personnel formé avant d’être envoyée, et nous nous efforçons d’examiner ces notifications de sécurité en moins d’une heure.
Nous avons développé Contact de confiance avec les conseils de cliniciens, de chercheurs et d’organisations spécialisées en santé mentale et en prévention du suicide. Ce travail s’appuie sur notre Global Physicians Network, un réseau de plus de 260 médecins autorisés dans 60 pays, ainsi que sur notre Expert Council on Well-Being and AI. Nous avons également travaillé en étroite collaboration avec des organisations externes, dont l’American Psychological Association.(s'ouvre dans une nouvelle fenêtre)
« L’une des plus grandes promesses de l’IA est sa capacité à favoriser des liens authentiques entre les personnes et un sentiment de sécurité psychologique. Je suis encouragée par la fonctionnalité Contact de confiance de ChatGPT, qui représente un pas de plus vers l’autonomisation humaine, surtout dans les moments de vulnérabilité. »
En plus de Contact de confiance, ChatGPT comporte des mesures de protection pour aider à orienter les conversations délicates à chaque étape. Nous continuons d’améliorer la façon dont le système réagit aux différents niveaux de risque exprimés dans une conversation :
- Soutenir l’aide dans le monde réel : Dans les moments délicats, ChatGPT peut encourager les gens à communiquer avec les services d’urgence, les lignes de crise, des professionnels de la santé mentale ou des personnes de confiance dans leur vie.
- Répondre avec soin : Nous avons travaillé avec plus de 170 experts en santé mentale pour améliorer la capacité de ChatGPT à détecter et à prendre en charge les signes de détresse potentielle, à désamorcer les conversations et à orienter les gens vers du soutien concret lorsque c’est approprié.
- Aider les gens à garder le contrôle de leur temps : Dans certaines situations, ChatGPT peut suggérer de faire une pause ou de prendre du recul après une utilisation prolongée afin de favoriser de saines habitudes technologiques.
- Refuser les demandes nuisibles : ChatGPT est entraîné à refuser de fournir des instructions pour le suicide ou l’automutilation. Lorsque les utilisateurs demandent ce type d’information, le système est entraîné à refuser la demande, puis à rediriger vers des réponses plus sûres et à afficher des ressources de crise locales.
Contact de confiance fait partie de l’effort plus large d’OpenAI pour bâtir des systèmes d’IA qui aident les gens dans les moments difficiles. Nous continuerons à travailler avec des cliniciens, des chercheurs et des décideurs afin d’améliorer la façon dont les systèmes d’IA réagissent lorsque des personnes pourraient vivre de la détresse. Notre objectif est de veiller à ce que les systèmes d’IA n’existent pas de façon isolée. Ils devraient plutôt aider à mettre les gens en lien avec les soins, les relations et les ressources du monde réel qui comptent le plus.
