Mise à jour de nos spécifications de modèle avec des protections pour les adolescents
S'appuyant sur les conseils d'experts, les nouveaux principes U18 (pour les moins de 18 ans) décrivent comment ChatGPT pourrait aider les adolescents à adopter un comportement sûr et adapté à leur âge.
Nous partageons une mise à jour de nos spécifications de modèle, l'ensemble écrit de règles, de valeurs et d'attentes comportementales qui guide la manière dont nous souhaitons que nos modèles d'IA se comportent, en particulier dans des situations difficiles ou à haut risque, avec de nouveaux principes pour les moins de 18 ans (U18)(ouverture dans une nouvelle fenêtre). Le comportement modèle est essentiel dans la manière dont les individus interagissent avec l'IA, et les adolescents ont des besoins de développement différents de ceux des adultes.
Les principes U18 définissent la manière dont ChatGPT doit offrir une expérience sécurisée et adaptée à l'âge des adolescents âgés de 13 à 17 ans. Fondée sur la science du développement, cette approche privilégie la prévention, la transparence et l'intervention précoce. Lors de l'élaboration de ces principes, nous les avons soumis à des experts externes, notamment l'American Psychological Association, dans le cadre de nos efforts continus visant à recueillir des commentaires afin de renforcer notre approche.
Bien que les principes des spécifications du modèle continuent de s'appliquer aux utilisateurs adultes et adolescents, cette mise à jour clarifie la manière dont ces principes s'appliquent dans le contexte des adolescents, en particulier lorsque les considérations de sécurité pour les mineurs peuvent être plus prononcées.
Les principes U18 reposent sur quatre engagements fondamentaux :
- Prioriser la sécurité des adolescents, même si cela peut entrer en conflit avec d'autres objectifs
- Encourager un soutien concret en encourageant les relations hors ligne et les ressources fiables
- Traiter les adolescents comme des adolescents, sans condescendance et sans les traiter comme des adultes
- Être transparent en établissant des attentes claires
Conformément à notre plan directeur pour la sécurité des adolescents, ces principes ont guidé notre travail sur la sécurité des adolescents jusqu'à présent, y compris les protections de contenu que nous appliquons aux utilisateurs qui nous indiquent avoir moins de 18 ans lorsqu'ils s'inscrivent, ainsi que par le biais du contrôle parental. Dans ces contextes, nous avons mis en place des mesures de protection afin d'encourager le modèle à faire preuve d'une attention particulière lorsqu'il aborde des sujets à haut risque, notamment l'automutilation et le suicide, les jeux de rôle romantiques ou à caractère sexuel, les contenus explicites ou graphiques, les activités et substances dangereuses, la perception du corps et les troubles alimentaires, ainsi que les demandes de confidentialité concernant des comportements à risque.
L'American Psychological Association, qui a passé en revue une première version du modèle U18 et a fourni des informations importantes à long terme, insiste sur l'importance de protéger les adolescents :
« L'APA encourage les développeurs d'IA à proposer des mesures de précaution adaptées au développement des jeunes utilisateurs de leurs produits et à adopter une approche plus protectrice envers les utilisateurs les plus jeunes. Les enfants et les adolescents peuvent tirer profit des outils d'IA s'ils sont accompagnés d'interactions humaines, qui, selon la science, sont essentielles au développement social, psychologique, comportemental et même biologique. Les expériences des jeunes avec l'IA doivent être étroitement supervisées et discutées avec des adultes de confiance afin d'encourager une réflexion critique sur ce qu'offrent les robots IA et de favoriser le développement de l'esprit critique et des compétences chez les jeunes. »
Cette mise à jour précise également comment l'assistant doit réagir lorsque des problèmes de sécurité surviennent pour les adolescents. Cela signifie que les adolescents doivent bénéficier de protections renforcées, d'alternatives plus sûres et d'encouragements à rechercher un soutien fiable hors ligne lorsque les conversations abordent des sujets à haut risque. En cas de danger imminent, les adolescents sont invités à contacter les services d'urgence ou les ressources d'aide en cas de crise.
Comme pour le reste de la spécification du modèle, les principes U18 reflètent le comportement prévu de notre modèle. Nous continuerons à les affiner en intégrant de nouvelles recherches, des conseils d'experts et des expériences pratiques.
En parallèle de la mise à jour de nos spécifications de modèle, nous avons adopté une approche à plusieurs niveaux pour renforcer la sécurité des adolescents sur ChatGPT, incluant des mesures de protection du produit, un soutien familial et des conseils d'experts.
Depuis le déploiement des contrôles parentaux(ouverture dans une nouvelle fenêtre), nous avons étendu les protections à de nouveaux produits, notamment les chats de groupe, le navigateur ChatGPT Atlas et l'application Sora. Ces mises à jour aident les parents à personnaliser l'expérience ChatGPT de leur adolescent alors que nous lançons de nouveaux produits et fonctionnalités.
Conformément aux recommandations des experts, nous encourageons les parents et les adolescents à discuter régulièrement de l'utilisation saine et responsable de l'IA au sein de leur famille. Pour soutenir ces conversations, nous avons ajouté de nouvelles ressources validées par des experts au centre de ressources pour les parents(ouverture dans une nouvelle fenêtre), y compris un Guide familial pour aider les adolescents à utiliser l'IA de manière responsable(ouverture dans une nouvelle fenêtre) et des conseils pour les parents(ouverture dans une nouvelle fenêtre) sur la façon de parler de l'IA avec leurs enfants, qui ont été révisés par ConnectSafely et les membres de notre Comité d'experts sur le bien-être et l'IA. Nous continuerons d'ajouter d'autres ressources au fil du temps. Nous encourageons également une utilisation saine directement dans le produit, avec des rappels de pause intégrés lors de longues sessions afin de contribuer à ce que le temps passé sur ChatGPT soit intentionnel et équilibré.
Notre travail en matière de sécurité des adolescents est guidé par une collaboration étroite avec des experts issus de diverses disciplines et possédant des compétences variées. En octobre, nous avons créé un Conseil d'experts sur le bien-être et l'IA afin de contribuer à définir ce que devraient être des interactions saines avec l'IA pour tous les âges. Ce travail a permis d'élaborer des recommandations sur le contrôle parental et les notifications aux parents. Nous intégrons également l'expertise clinique par le biais de notre Global Physician Network (Réseau Mondial de Médecins) pour éclairer la recherche en matière de sécurité et évaluer le comportement du modèle, y compris en améliorant la manière dont ChatGPT reconnaît la détresse et oriente les personnes vers des soins professionnels lorsque cela est approprié. Nous avons poursuivi dans cette voie avec GPT‑5.2, et nous avons également élargi l'accès à une assistance concrète en mettant en place des lignes d'assistance localisées dans ChatGPT et Sora grâce à notre partenariat avec ThroughLine(ouverture dans une nouvelle fenêtre).
Nous en sommes aux premières étapes du déploiement d'un modèle de prédiction de l'âge(ouverture dans une nouvelle fenêtre) sur les forfaits grand public de ChatGPT. Cela nous aidera à appliquer automatiquement des mesures de protection pour adolescents lorsque nous pensons qu'un compte appartient à un mineur. Si nous ne sommes pas certains de l'âge d'une personne ou que les informations sont incomplètes, nous appliquerons par défaut l'expérience pour les moins de 18 ans et fournirons aux adultes des moyens de vérifier leur âge.
Renforcer la sécurité des adolescents est un travail continu et nous continuerons à améliorer les contrôles parentaux et les capacités des modèles, à développer les ressources destinées aux parents, à collaborer avec des organisations, des chercheurs et des partenaires experts, notamment le Well-Being Council et le Global Physician Network.
Nous nous engageons à mettre en place des mesures de protection efficaces pour les adolescents et à les améliorer au fil du temps afin de mieux soutenir les adolescents et leurs familles.
