Créer des expériences ChatGPT plus utiles pour tout le monde

Nous œuvrons sans cesse à rendre ChatGPT aussi utile que possible. Certaines personnes se sont tournées vers lui dans les moments les plus difficiles. C’est pourquoi, guidés par l’avis d’experts,
nous continuons d’améliorer la détection et la prise en compte des signes de détresse mentale et émotionnelle par nos modèles. 

Cette tâche est déjà sur les rails, mais nous souhaitons vous donner dès maintenant un aperçu de nos projets pour les 120 prochains jours : vous n’aurez pas à attendre les lancements pour voir dans quelle direction nous allons. Ces efforts se poursuivront bien au-delà, mais nous visons à lancer le plus grand nombre possible de ces améliorations cette année. 

La semaine dernière, nous avons annoncé quatre axes prioritaires pour aider les personnes dans les moments où elles en ont le plus besoin :

1. Intervenir plus souvent auprès des personnes en situation de crise
2. Faciliter davantage l’accès aux services d’urgence et à l’aide d’experts
3. Permettre la mise en relation avec des personnes de confiance
4. Renforcer la protection des adolescents. 

Une partie de ce travail avancera rapidement, tandis que d’autres aspects prendront plus de temps. 

Aujourd’hui, nous vous en disons plus sur nos efforts guidés par des experts et sur le recours aux modèles de raisonnement dans les moments sensibles, et nous vous présentons en détails l’un de nos axes : Renforcer la protection des adolescents. 

L’IA est une technologie récente et en constante évolution, et nous souhaitons que nos avancées soient guidées par une expertise approfondie en matière de bien-être et de santé mentale. Ensemble, notre Conseil d’experts en bien-être et IA et notre Réseau mondial de médecins nous apportent toute la richesse d’une expertise médicale spécialisée et l’étendue de perspectives nécessaires pour appuyer notre démarche. Nous vous communiquerons plus d’informations sur ces efforts au cours de notre initiative de 120 jours.

Le Conseil d’experts en bien-être et IA

Plus tôt cette année, nous avons réuni un conseil d’experts en accompagnement des jeunes, santé mentale et interaction personne-machine. Son rôle est de définir une vision claire et factuelle de la manière dont l’IA peut participer au bien-être des personnes et les aider à s’épanouir.

Leurs contributions nous aideront à définir et mesurer le bien-être, établir des priorités et concevoir des dispositifs de protection futurs (comme les prochaines versions des contrôles parentaux), en nous appuyant sur les études les plus récentes. Bien que le conseil guide nos décisions relatives aux produits, à la recherche et aux politiques, OpenAI reste responsable de ses choix. 

Le Réseau mondial de médecins

Le Conseil d’experts travaillera en tandem avec le Réseau mondial de médecins, un groupe élargi de plus de 250 praticiens ayant exercé dans 60 pays, avec lequel nous avons collaboré au cours de l’année écoulée sur des initiatives comme les évaluations comparatives en santé, conçues pour mesurer au mieux les capacités des systèmes d’IA dans ce domaine.

Parmi ce groupe, plus de 90 médecins issus de 30 pays — dont des psychiatres, pédiatres et médecins généralistes — ont déjà contribué aux études sur le comportement de nos modèles dans des contextes de santé mentale. Leurs observations orientent directement nos recherches sur la sécurité, l’entraînement des modèles, ainsi que d’autres types d’interventions, ce qui nous permet de mobiliser rapidement les bons spécialistes en cas de besoin.

Nous continuons à élargir ce réseau de cliniciens et de chercheurs, en y intégrant des experts dans des domaines tels que les troubles alimentaires, la consommation de substances psychoactives et la santé des adolescents.

Nos modèles de raisonnement, comme GPT‑5‑thinking et o3, sont conçus pour consacrer davantage de temps à réfléchir et à raisonner sur le contexte avant de répondre. Nos tests montrent que, grâce à l’entraînement avec la méthode d’alignement délibératif⁠(ouverture dans une nouvelle fenêtre), ces modèles suivent et appliquent plus systématiquement les consignes de sécurité et se révèlent plus résistants aux requêtes manipulatoires.

Nous avons récemment mis en place un système de routage en temps réel, capable de choisir entre des modèles de chat rapides et des modèles de raisonnement, selon le contenu de la discussion. Nous allons bientôt commencer à orienter certaines conversations sensibles — par exemple lorsque le système détecte des signes de détresse aiguë — vers un modèle de raisonnement, comme GPT‑5‑thinking, afin qu’il fournisse des réponses plus utiles et salutaires, quel que soit le modèle initialement choisi. Nous ferons évoluer cette méthode de manière réfléchie.

De nombreux jeunes utilisent déjà l’IA. Ils font partie des premiers “natifs de l’IA”, qui ont grandi avec ces outils comme les générations précédentes l’ont fait avec Internet ou les smartphones. Cette technologie a réellement contribué à aider, à apprendre et à créer, mais elle suppose que les familles et les adolescents soient accompagnés dans l’élaboration de règles saines, adaptées au développement des jeunes.

Contrôles parentaux

Plus tôt cette année, nous avons commencé à imaginer de nouvelles façons pour les familles d’utiliser ChatGPT ensemble et de décider de ce qui fonctionne le mieux à la maison. D’ici le mois prochain, les parents pourront :

• Lier leur compte à celui de leur adolescent (âge minimum : 13 ans) via une simple invitation par e-mail.
• Décider comment ChatGPT répond à leur adolescent grâce à des règles de comportement adaptées à l’âge et activées par défaut.
• Gérer les fonctionnalités à désactiver, y compris la mémoire et l’historique des conversations.
• Recevoir des notifications lorsque le système détecte que leur adolescent traverse un moment de détresse aiguë. Cette fonctionnalité sera fondée sur l’avis d’experts afin de nourrir la confiance entre parents et adolescents.

Ces contrôles s’ajoutent aux fonctionnalités déjà disponibles pour tous les utilisateurs, comme les rappels intégrés lors de sessions prolongées pour encourager à faire des pauses.

Ce n’est que le début. Guidés par des experts, nous continuerons à nous améliorer et à renforcer notre démarche, pour rendre ChatGPT aussi utile que possible. Nous avons hâte de vous faire part de nos avancées des 120 prochains jours.