Mise à jour de notre document de spécification des modèles avec des protections pour les adolescents
Guidées par des conseils d'experts, les nouveaux principes U18 décrivent comment ChatGPT doit apporter un soutien aux adolescents avec un comportement sûr et adapté à leur âge.
Nous partageons une mise à jour de notre spécification de modèle, l'ensemble écrit de règles, de valeurs et d'attentes comportementales qui guide la manière dont nous souhaitons que nos modèles d'IA se comportent, surtout dans des situations difficiles ou à enjeux élevés, avec de nouveaux Principes pour les moins de 18 ans (U18)(s'ouvre dans une nouvelle fenêtre). Le comportement du modèle est essentiel pour la manière dont les gens interagissent avec l'IA, et les adolescents ont des besoins de développement distincts de ceux des adultes.
Les Principes U18 orientent la manière dont ChatGPT doit fournir une expérience sécuritaire et adaptée à l'âge pour les adolescents de 13 à 17 ans. Ancrée dans la science du développement, cette approche met l'accent sur la prévention, la transparence et l'intervention précoce. Lors de l'élaboration de ces principes, nous les avons prévisualisés avec des experts externes, y compris l'American Psychological Association, dans le cadre de notre travail continu pour recueillir des avis afin de renforcer notre approche.
Bien que les principes de la spécification du modèle continuent de s'appliquer aux utilisateurs adultes et adolescents, cette mise à jour clarifie comment ces principes s'appliquent dans les contextes adolescents, notamment là où les considérations de sécurité pour les mineurs peuvent être plus importantes.
Les principes U18 sont ancrés dans quatre engagements directeurs :
- Priorisez la sécurité des adolescents, même lorsque cela peut entrer en conflit avec d'autres objectifs
- Promouvoir le soutien dans le monde réel en encourageant les relations hors ligne et les ressources de confiance
- Traitez les adolescents comme des adolescents, sans condescendance et sans les traiter comme des adultes
- Soyez transparent en fixant des attentes claires
Conformément à notre plan directeur pour la sécurité des adolescents, ces principes ont guidé notre travail sur la sécurité des adolescents jusqu'à présent, y compris les protections de contenu que nous appliquons aux utilisateurs qui nous indiquent avoir moins de 18 ans lors de s’inscrire, ainsi qu'à travers le contrôle parental. Dans ces contextes, nous avons mis en place des mesures de protection pour guider le modèle à faire preuve d'une attention particulière lorsqu'il aborde des domaines à risque élevé, y compris l'automutilation et le suicide, les jeux de rôle romantiques ou sexualisés, le contenu graphique ou explicite, les activités et substances dangereuses, l'image corporelle et les troubles alimentaires, ainsi que les demandes de garder des secrets sur des comportements dangereux.
L'American Psychological Association, qui a examiné une première version du modèle U18 Spec et a offert des perspectives importantes à long terme, souligne clairement l'importance de protéger les adolescents :
« L'APA encourage les développeurs d'IA à proposer des mesures de précaution adaptées au développement pour les jeunes utilisateurs de leurs produits et à adopter une approche plus protectrice pour les utilisateurs plus jeunes. » Les enfants et les adolescents pourraient bénéficier des outils d'IA s'ils sont équilibrés par des interactions humaines que la science considère comme essentielles au développement social, psychologique, comportemental et même biologique. Les expériences des jeunes avec l'IA devraient être soigneusement supervisées et discutées avec des adultes de confiance afin de favoriser une évaluation critique de ce que les robots d'IA proposent et de promouvoir le développement de la pensée indépendante et des compétences chez les jeunes.
Cette mise à jour clarifie également comment l'assistant doit répondre lorsque des préoccupations de sécurité surviennent pour les adolescents. Cela signifie que les adolescents devraient rencontrer des garde-fous plus solides, des alternatives plus sûres et être encouragés à chercher un soutien hors ligne de confiance lorsque les conversations entrent dans des zones à risque plus élevé. En cas de risque imminent, nous vous invitons à contacter les services d'urgence ou les ressources de crise.
Comme pour le reste du Document de spécification des modèles, les principes U18 reflètent le comportement prévu de notre modèle. Nous continuerons à les affiner à mesure que nous intégrerons de nouvelles recherches, des Entrées d'experts et l'utilisation dans le monde réel.
En plus de mettre à jour la spécification du modèle, nous avons adopté une approche à plusieurs niveaux pour renforcer la sécurité des adolescents sur ChatGPT, incluant des mesures de protection du produit, le soutien familial et les conseils d'experts.
Depuis le déploiement des contrôles parentaux(s'ouvre dans une nouvelle fenêtre), nous avons étendu les protections à de nouveaux produits, y compris les clavardages de groupe, le navigateur ChatGPT Atlas et l'application Sora. Ces mises à jour aident les parents à adapter l’expérience ChatGPT de leur adolescent alors que nous introduisons de nouveaux produits et fonctionnalités.
Conformément aux conseils des experts, nous encourageons les conversations continues entre les parents et les adolescents sur l'utilisation saine et responsable de l'IA au sein de leur famille. Pour soutenir ces conversations, nous avons ajouté de nouvelles ressources validées par des experts au centre de ressources pour parents(s'ouvre dans une nouvelle fenêtre), y compris un Guide familial pour aider les adolescents à utiliser l'IA de manière responsable(s'ouvre dans une nouvelle fenêtre) et des conseils pour les parents(s'ouvre dans une nouvelle fenêtre) sur la façon de parler de l'IA avec leurs enfants, qui ont été examinés par ConnectSafely et les membres de notre Conseil d'experts sur le bien-être et l'IA. Nous continuerons d'ajouter davantage de ressources au fil du temps. Nous soutenons également une utilisation saine directement dans le produit, avec des rappels intégrés pour faire des pauses lors de longues sessions afin de maintenir un usage intentionnel et équilibré de ChatGPT.
Notre travail sur la sécurité des adolescents est guidé par un engagement étroit avec des experts de divers domaines et expertises. En octobre, nous avons établi un Conseil d’experts sur le bien-être et l’IA pour nous conseiller et contribuer à définir ce que devraient être des interactions saines avec l'IA pour tous les âges. Ce travail a guidé l'élaboration des directives sur le contrôle parental et les notifications aux parents. Nous intégrons également l'expertise clinique par l'intermédiaire de notre Global Physician Network pour éclairer la recherche en matière de sécurité et évaluer le comportement du modèle, notamment en améliorant la manière dont ChatGPT reconnaît la détresse et oriente les personnes vers des soins professionnels lorsque cela est approprié. Nous avons bâti sur ces fondations avec GPT‑5.2, et nous avons aussi élargi l'accès au soutien concret en mettant en avant des lignes d'assistance localisées dans ChatGPT et Sora grâce à notre partenariat avec ThroughLine(s'ouvre dans une nouvelle fenêtre).
Nous sommes aux premières étapes du déploiement d’un modèle de prédiction de l’âge(s'ouvre dans une nouvelle fenêtre) sur les plans consommateurs de ChatGPT. Cela nous aidera à appliquer automatiquement des garde-fous pour les adolescents lorsque nous pensons qu'un compte appartient à un mineur. Si nous ne sommes pas certains de l’âge d’une personne ou que les informations sont incomplètes, nous appliquerons par défault l’expérience réservée aux moins de 18 ans et offrirons aux adultes des moyens de vérifier leur âge.
Le renforcement de la sécurité des adolescents est un travail continu, et nous continuerons d'améliorer les contrôles parentaux et les capacités des modèles, d'élargir les ressources pour les parents, et de collaborer avec des organisations, des chercheurs et des partenaires experts, y compris le Conseil du bien-être et le Réseau mondial de médecins.
Nous nous engageons à renforcer les protections solides pour les adolescents et à les améliorer au fil du temps afin d’offrir un meilleur soutien aux adolescents et aux familles.
