Point sur nos travaux liés à la santé mentale
Chaque semaine, plus de 900 millions de personnes utilisent ChatGPT pour améliorer leur quotidien, par exemple pour apprendre de nouvelles compétences ou s’orienter dans des systèmes de santé complexes. Nos travaux continus sur la sécurité jouent un rôle important pour offrir ces bénéfices au plus grand nombre, tout en soutenant la recherche et la découverte scientifiques.
Depuis l’introduction du contrôle parental en septembre 2025, nous observons une utilisation encourageante par les familles et nous continuerons à renforcer ces protections. En étroite collaboration avec notre comité d’experts sur le bien-être et l’IA et notre Global Physicians Network, nous allons également bientôt lancer une fonctionnalité de contact de confiance, permettant aux utilisateurs adultes de désigner une personne qui recevra des notifications lorsqu’ils pourraient avoir besoin d’un soutien supplémentaire. Pour rappel, les parents reçoivent aussi des notifications de sécurité concernant l’utilisation de ChatGPT par leur adolescent via le contrôle parental. Nous en partagerons davantage d’informations au fur et à mesure du déploiement de ces mises à jour dans ChatGPT.
Nous continuons également à faire progresser la façon dont nos modèles détectent et répondent aux signes de détresse émotionnelle. Cela inclut de nouvelles méthodes d’évaluation qui simulent des conversations prolongées autour de la santé mentale, ce qui nous aide à mieux identifier les risques et à améliorer la manière dont ChatGPT répond dans les moments sensibles. Nous partagerons davantage d’informations sur ces travaux dans les semaines à venir, à mesure que nous renforcerons les garde-fous de ChatGPT.
Par ailleurs, le tribunal a récemment regroupé au sein d’une procédure unique en Californie plusieurs affaires liées à la santé mentale concernant ChatGPT. Dans les prochains jours, le tribunal désignera le juge chargé de coordonner cette procédure. Dans le cadre de ce processus de consolidation, les avocats des plaignants dans ces affaires ont informé le tribunal qu’ils ont l’intention de déposer de nouvelles actions*.
Comme pour les précédentes procédures judiciaires liées à la santé mentale, OpenAI continuera de traiter toute affaire supplémentaire avec soin, transparence, respect pour les personnes concernées, et en accord avec les principes suivants :
- Nous commençons par les faits et nous nous efforçons sincèrement de les comprendre.
- Nous présenterons nos arguments de manière respectueuse, en étant conscients de la complexité et des nuances des situations impliquant de vraies personnes et de vraies vies.
- Nous reconnaissons que ces affaires impliquent par nature certains types d’informations privées qui exigent une attention particulière dans un cadre public comme un tribunal.
- Indépendamment de tout litige, nous continuerons à nous concentrer sur l’amélioration de notre technologie, conformément à notre mission.
Nous savons que les procédures judiciaires peuvent être longues et parfois difficiles à comprendre en raison de règles procédurales strictes. Il faut aussi parfois du temps pour rassembler et analyser les faits pertinents, puis les présenter au tribunal conformément à ses règles de preuve. Nous nous efforçons de comprendre les faits de bonne foi et nous ne demandons, dans le cadre de la procédure judiciaire, que les informations pertinentes pour l’affaire et pour les allégations spécifiques formulées.
Il est important de réserver son jugement et de laisser les faits émerger au fil de la procédure judiciaire, car il s’agit d’affaires complexes et nuancées, avec de nombreux facteurs et circonstances qui ne sont souvent pas reflétés dans les premiers actes de procédure.
Nous pensons à toutes les personnes touchées par ces événements. Nous continuons d’améliorer l’entraînement de ChatGPT pour reconnaître et réagir aux signes de détresse, désamorcer les échanges dans les moments sensibles et orienter les personnes vers une aide concrète, en travaillant en étroite collaboration avec des cliniciens et des experts en santé mentale.
Vous trouverez plus d’informations sur notre travail en matière de sécurité ici :
Auteur
*Conformément à la procédure habituelle, nous nous attendons à ce que ces affaires soient ajoutées à la procédure consolidée existante, le tribunal déterminant ensuite quel avocat sera désigné comme avocat principal des plaignants.
