Mise à jour sur nos travaux liés à la santé mentale
Chaque semaine, plus de 900 millions de personnes utilisent ChatGPT pour améliorer leur quotidien, par exemple pour apprendre de nouvelles compétences ou s’orienter dans des systèmes de santé complexes. Nos travaux continus en matière de sécurité jouent un rôle important pour offrir ces avantages à tout le monde, et pour soutenir la recherche scientifique et les découvertes.
Depuis le lancement du contrôle parental en septembre 2025, nous observons un engagement encourageant de la part des familles et nous continuerons de renforcer ces protections. En collaboration étroite avec des experts de notre Conseil sur le bien-être et l’IA et de notre Réseau mondial de médecins, nous présenterons bientôt une fonctionnalité de contact de confiance, qui permettra aux utilisateurs adultes de désigner une personne qui recevra des notifications lorsqu’ils pourraient avoir besoin de soutien supplémentaire. Rappelons que les parents reçoivent aussi des notifications de sécurité sur l’utilisation de ChatGPT par leurs ados grâce au contrôle parental. Nous partagerons plus d’information au fur et à mesure que ces mises à jour seront déployées dans ChatGPT.
Nous continuons aussi de faire progresser la façon dont nos modèles détectent et répondent aux signes de détresse émotionnelle. Cela comprend de nouvelles méthodes d’évaluation qui simulent de longues conversations liées à la santé mentale, ce qui nous aide à mieux repérer les risques potentiels et à améliorer la façon dont ChatGPT répond dans les moments sensibles. Nous partagerons plus de détails sur ces travaux dans les prochaines semaines, alors que nous continuons de renforcer les mesures de protection de ChatGPT.
Par ailleurs, le tribunal a récemment regroupé en une seule procédure en Californie plusieurs dossiers liés à la santé mentale impliquant ChatGPT. Dans les prochains jours, le tribunal désignera le juge chargé de coordonner cette procédure. Dans le cadre de ce processus de regroupement, les avocats des demandeurs impliqués dans ces procédures ont informé le tribunal qu’ils ont l’intention de déposer un certain nombre de nouveaux dossiers*.
Comme pour les litiges antérieurs liés à la santé mentale, OpenAI continuera de traiter tout dossier supplémentaire avec soin, transparence, respect pour les personnes concernées et en accord avec les principes suivants :
- Nous partons des faits et nous faisons un réel effort pour bien les comprendre.
- Nous présenterons notre position avec respect, en tenant compte de la complexité et des nuances de situations qui touchent de vraies personnes et de vraies vies.
- Nous reconnaissons que ces dossiers impliquent par nature certains types de renseignements privés qui exigent de la sensibilité dans un contexte public comme un tribunal.
- Et, indépendamment de tout litige, nous resterons concentrés sur l’amélioration de notre technologie en accord avec notre mission.
Nous savons que les procédures judiciaires peuvent être longues et parfois opaques en raison de règles juridiques strictes. Il peut aussi falloir du temps pour recueillir et comprendre les faits pertinents, puis les présenter au tribunal conformément à ses règles de preuve. Nous cherchons à comprendre les détails de bonne foi et nous ne demandons, dans le cadre du processus judiciaire, que les renseignements qui sont pertinents pour le dossier et les allégations précises qui ont été formulées.
Il est important de suspendre son jugement et de laisser les faits émerger correctement au fil du processus judiciaire, car il s’agit de dossiers complexes et nuancés, avec de nombreux facteurs et circonstances qui ne sont souvent pas reflétés dans les premières requêtes.
Nos pensées accompagnent toutes les personnes touchées par ces situations profondément bouleversantes. Nous continuons d’améliorer l’entraînement de ChatGPT pour reconnaître et répondre aux signes de détresse, désamorcer les conversations dans les moments sensibles et orienter les gens vers du soutien dans le monde réel, en travaillant en étroite collaboration avec des cliniciens et des experts en santé mentale.
Vous trouverez plus d’information sur nos travaux en matière de sécurité ic:
Auteur
*Comme c’est la procédure habituelle, nous nous attendons à ce que ces dossiers soient ajoutés à la procédure consolidée existante, le tribunal déterminant ensuite quel avocat sera nommé avocat principal des demandeurs.
