Pourquoi les ados méritent d’accéder à une IA sûre

Les adolescents sont la première génération à grandir avec l’IA, et cette technologie jouera un rôle déterminant dans leur avenir. Aujourd’hui, près de 9 adolescents sur 10 sur ChatGPT l’utilisent chaque semaine pour apprendre, s’informer, développer des compétences ou gagner en productivité. C’est pourquoi nous estimons essentiel que les adolescents aient accès à l’IA. Les empêcher de l’utiliser jusqu’à l’âge adulte reviendrait à demander à une génération précédente d’éviter Internet ou les moteurs de recherche jusqu’à ses 18 ans, les laissant moins préparés à utiliser l’une des technologies déterminantes de leur époque. Mais cet accès doit s’accompagner de protections conçues spécialement pour les adolescents.

Lors d’une récente session OpenAI Academy⁠(ouverture dans une nouvelle fenêtre), Oriana McKenzie a expliqué comment ChatGPT l’a aidée à devenir première de sa classe au lycée en étudiant plus efficacement et en gérant mieux sa charge de travail, lui laissant le temps nécessaire pour les activités sportives et les programmes scolaires qu’elle aime. Son histoire montre ce qui devient possible lorsque les adolescents ont accès à une IA qui les aide à apprendre et à créer.

Pour maximiser ces bénéfices, les adolescents ont besoin de protections plus solides, adaptées à leur stade de développement, notamment des garde-fous automatisés qui leur permettent d’explorer, d’apprendre et de créer en toute confiance, tout en leur offrant des protections adaptées à leur âge. À mesure que l’IA gagne en capacités, notre responsabilité est d’associer un large accès à des protections adaptées à l’âge, afin de permettre aux adolescents de tirer parti de cette technologie au fil de son évolution.

Au cours de l’année écoulée, cela s’est traduit par le renforcement des protections par défaut pour les adolescents, le déploiement de la prédiction de l’âge⁠, l’extension du contrôle parental⁠, la création de ressources familiales⁠(ouverture dans une nouvelle fenêtre) supplémentaires pour aider les parents à accompagner un usage sain et responsable, et l’introduction de fonctionnalités d’apprentissage destinées à favoriser une compréhension plus approfondie, plutôt qu’à simplement fournir des réponses.

Notre travail est guidé par quatre engagements clés⁠ :

• Nous plaçons la sécurité des adolescents au premier plan, même lorsqu’elle peut entrer en conflit avec d’autres objectifs.
• Nous encourageons le recours à un soutien dans le monde réel en cas de besoin.
• Nous considérons les adolescents comme des adolescents.
• Nous faisons preuve de transparence en définissant des attentes claires.

L’apprentissage est l’une des manières les plus évidentes dont les adolescents bénéficient de l’IA ; nous créons donc des outils qui encouragent la participation active, l’esprit critique et une compréhension plus approfondie. Le mode étude⁠(ouverture dans une nouvelle fenêtre) a été conçu en collaboration avec des enseignants, des spécialistes des sciences de l’apprentissage et des experts en pédagogie pour aider les élèves à résoudre les problèmes étape par étape, au moyen de questions d’orientation, d’explications structurées et de moments de réflexion, sans simplement leur donner la réponse. Les premières évaluations d’outils comme le mode étude ont montré des progrès prometteurs dans les résultats des élèves⁠, alimentant nos recherches plus larges sur la manière dont l’IA peut soutenir les apprentissages.

Les adolescents peuvent activer ce mode eux-mêmes, mais les parents dont le compte est associé à celui de leur adolescent peuvent désormais activer le mode étude⁠ directement depuis le contrôle parental⁠. Une fois activé, il est appliqué par défaut chaque fois qu’un adolescent lance une nouvelle discussion, offrant aux familles un moyen supplémentaire d’encadrer l’utilisation de ChatGPT pour les devoirs et les révisions.

Nous avons aussi récemment introduit des prompts de départ axés sur l’éducation afin d’aider les adolescents à se lancer plus facilement dans des tâches telles que décomposer un sujet en étapes simples, transformer des notes en fiche de révision, créer des cartes mémoire ou des questions d’entraînement, ou encore vérifier qu’un contenu est clair et bien étayé.

Nous continuons également à développer les expériences d’apprentissage interactives⁠. Les recherches montrent régulièrement⁠ que l’on apprend plus efficacement lorsqu’on peut interagir activement avec les concepts, plutôt que consommer passivement des informations. Depuis leur lancement plus tôt cette année, 18 millions d’utilisateurs hebdomadaires interagissent désormais avec des expériences interactives de mathématiques et de sciences dans ChatGPT, et nous les avons étendues à plus de 250 nouveaux sujets, des intégrales à la mitose en passant par les phases de la Lune, la photosynthèse et bien d’autres. Nous avons également introduit une expérience de prononciation qui utilise l’audio pour aider les utilisateurs à apprendre à prononcer des mots dans plus de 61 langues.

Si notre système estime qu’une personne utilisant ChatGPT a moins de 18 ans,⁠ nous lui proposons automatiquement une expérience plus adaptée à son âge⁠(ouverture dans une nouvelle fenêtre). Les adolescents peuvent toujours utiliser ChatGPT pour apprendre, créer et explorer, mais avec des protections supplémentaires conçues pour réduire leur exposition à des contenus qui pourraient ne pas leur convenir. Cela comprend des garde-fous renforcés concernant la violence graphique, l’automutilation, les défis viraux risqués, les contenus nuisibles liés à l’image corporelle, ainsi que les jeux de rôle dangereux, romantiques ou sexuels. Notre objectif est de faire en sorte que ChatGPT reste un outil d’apprentissage et de créativité, et non un substitut aux relations dans le monde réel.

Nous concevons également ChatGPT pour encourager des habitudes saines. Les adolescents qui passent beaucoup de temps dans ChatGPT recevront désormais plus souvent des rappels de pause⁠ les encourageant à s’arrêter et à s’éloigner de l’écran. Ces rappels visent à aider les jeunes à adopter des habitudes numériques équilibrées, tout en leur laissant la liberté d’utiliser l’IA pour apprendre, créer et résoudre des problèmes.

Nous pensons que les meilleurs outils de sécurité peuvent aider les familles à accompagner ensemble les expériences en ligne des adolescents. Nous avons créé des fonctionnalités de contrôle parental et de notification⁠ qui permettent de définir des heures calmes, de désactiver le mode vocal, de gérer l’accès à la génération d’images et de recevoir des notifications dans certaines situations à haut risque, par exemple en cas de signes d’automutilation potentielle.

Nous étendons ces notifications aux cas où un compte adolescent lié a été désactivé pour violation de nos politiques d’utilisation⁠ concernant des menaces violentes ou des actes de violence en ligne. Cette approche aide les parents à savoir lorsqu’un événement grave s’est produit, tout en respectant la vie privée des adolescents et en encourageant les échanges et le soutien hors ligne.

Pour développer ces fonctionnalités, nous avons consulté plusieurs experts, dont Moonshot⁠(ouverture dans une nouvelle fenêtre), un acteur majeur de la prévention de la violence en ligne, afin de contribuer à ce que ces interventions soient réfléchies, efficaces et centrées sur l’aide aux familles en cas de besoin.

Nous voulons également veiller à ce que les parents, les adolescents et les éducateurs disposent d’indications claires sur la meilleure manière d’utiliser l’IA de façon responsable. Nous publions des ressources pédagogiques dans plus de 50 langues, notamment Un guide familial pour aider les adolescents à utiliser l’IA de manière responsable⁠(ouverture dans une nouvelle fenêtre), Conseils pour parler de l’IA avec votre adolescent⁠(ouverture dans une nouvelle fenêtre) et Conseils pour les parents qui utilisent ChatGPT⁠(ouverture dans une nouvelle fenêtre).

Assurer la sécurité des jeunes en ligne n’est pas un problème qu’une seule entreprise peut résoudre seule. Nous travaillons en étroite collaboration avec des adolescents, des parents, des éducateurs, des experts de la sécurité des enfants, des professionnels de la santé mentale, des chercheurs, des gouvernements et des organisations de la société civile. Ces partenariats nous aident à mieux comprendre les besoins des jeunes, à identifier les risques émergents, à évaluer l’efficacité de nos garde-fous et à veiller à ce que nos politiques s’appuient sur une expertise indépendante.

Ce travail couvre à la fois notre approche de l’apprentissage et celle du bien-être des jeunes. Nous collaborons avec des éducateurs, notamment l’American Federation of Teachers⁠, des élèves et des organisations d’apprentissage afin de mieux comprendre comment l’IA peut soutenir l’enseignement et l’apprentissage tout en renforçant la participation active et l’esprit critique. Nous travaillons également en étroite collaboration avec des experts des communautés de la santé mentale, du développement de l’enfant et de la sécurité des jeunes, notamment l’American Psychological Association⁠(ouverture dans une nouvelle fenêtre), notre Global Physicians Network⁠ et notre Expert Council on Well-Being and AI⁠.

Notre travail pour bâtir un écosystème numérique plus sain dépasse le cadre de nos propres produits. Nous avons appelé à l’élaboration de normes mondiales évolutives pour la sécurité des jeunes face à l’IA⁠ par l’intermédiaire d’un institut dédié à la sécurité de l’IA, de politiques et outils open source⁠ que les développeurs peuvent intégrer à leurs propres systèmes d’IA, ainsi qu’à une collaboration avec des organisations comme Common Sense Media⁠(ouverture dans une nouvelle fenêtre) et everyone.ai⁠(ouverture dans une nouvelle fenêtre) pour partager enseignements et bonnes pratiques.

Cette année, nous avons également rejoint le Family Online Safety Institute⁠(ouverture dans une nouvelle fenêtre) (FOSI), un acteur de longue date engagé en faveur d’expériences en ligne sûres pour les familles et les jeunes. Nous travaillerons ensemble pour faire en sorte que les jeunes puissent bénéficier de l’IA, avec des parents mieux outillés et des pratiques responsables de la part du secteur au cœur de cette démarche. Nous espérons que ce partenariat contribuera à faire progresser notre compréhension commune de ce qui fonctionne, à renforcer les protections adaptées à l’âge et les outils parentaux, et à soutenir les efforts menés dans tout le secteur pour permettre aux jeunes de bénéficier de l’IA de manière sûre et responsable.

Protéger les jeunes en ligne exige des progrès continus. Dans les mois à venir, nous continuerons à renforcer les protections adaptées à l’âge, à donner aux parents davantage d’outils et de contrôle, à améliorer les garde-fous contre les préjudices graves, à faire avancer la recherche sur un usage sain de l’IA et à créer davantage d’expériences qui aident les adolescents à apprendre activement et à utiliser l’IA avec confiance.

Nous savons qu’il reste beaucoup à faire et nous sommes déterminés à poursuivre notre travail avec les adolescents, les parents, les éducateurs, les experts et les communautés du monde entier afin d’offrir aux adolescents un accès large et sûr à l’IA.