Pourquoi les ados méritent un accès à une IA sûre
Présentation des mesures de protection, des politiques et des experts qui orientent notre approche de l’utilisation d’une IA sûre par les ados.
Les ados sont la première génération à grandir avec l’IA, et cette technologie influencera fortement leur avenir. Aujourd’hui, près de 9 ados sur 10 qui utilisent ChatGPT s’en servent au cours d’une même semaine pour apprendre, s’informer, développer des compétences ou être plus productifs. C’est pourquoi nous croyons qu’il est essentiel que les ados aient accès à l’IA. Empêcher les ados de l’utiliser jusqu’à l’âge adulte reviendrait à demander à une génération précédente d’éviter Internet ou les moteurs de recherche jusqu’à leurs 18 ans, ce qui les préparerait moins bien à utiliser l’une des technologies déterminantes de leur époque. Mais cet accès doit s’accompagner de protections conçues spécialement pour les ados.
Lors d’une récente séance de l’OpenAI Academy(s'ouvre dans une nouvelle fenêtre), Oriana McKenzie a raconté comment ChatGPT l’a aidée à devenir première de sa classe au secondaire en étudiant plus efficacement et en gérant mieux sa charge de travail, ce qui lui a donné le temps nécessaire pour les sports et les programmes scolaires qu’elle aime. Son histoire montre ce qui devient possible quand les ados ont accès à une IA qui les aide à apprendre et à créer.
Pour maximiser ces bénéfices, les ados ont besoin de protections plus solides, conçues pour leur étape de vie, notamment des garde-fous automatisés qui leur permettent d’explorer, d’apprendre et de bâtir avec confiance, tout en offrant des protections adaptées à leur âge. À mesure que l’IA gagne en capacités, notre responsabilité est de combiner un large accès à des protections adaptées à l’âge afin de permettre aux ados de tirer parti de cette technologie au fil de son évolution.
Au cours de la dernière année, cela s’est traduit par le renforcement des protections par défaut pour les ados, le déploiement de la prédiction de l’âge, l’élargissement du contrôle parental, la création de ressources familiales(s'ouvre dans une nouvelle fenêtre) supplémentaires pour aider les parents à soutenir une utilisation saine et responsable, ainsi que le lancement de fonctionnalités d’apprentissage qui favorisent une compréhension plus approfondie plutôt que de simplement fournir des réponses.
Notre travail est guidé par quatre engagements clés :
- Nous accordons la priorité à la sécurité des ados, même lorsque cela peut entrer en conflit avec d’autres objectifs.
- Nous encourageons le soutien dans le monde réel en cas de besoin.
- Nous traitons les ados comme des ados.
- Nous faisons preuve de transparence en établissant des attentes claires.
L’apprentissage est l’une des façons les plus évidentes dont les ados peuvent profiter de l’IA; nous créons donc des outils qui encouragent la participation active, la pensée critique et une compréhension plus approfondie. Le mode étude(s'ouvre dans une nouvelle fenêtre) a été conçu en collaboration avec des enseignants, des spécialistes des sciences de l’apprentissage et des experts en pédagogie pour aider les élèves à résoudre des problèmes étape par étape à l’aide de questions d’orientation, d’explications structurées et d’occasions de réflexion, sans simplement leur fournir la réponse. Les premières évaluations d’outils comme le mode étude ont montré des gains prometteurs dans le rendement des élèves, ce qui alimente nos recherches plus larges sur la façon dont l’IA peut soutenir les résultats d’apprentissage.
Bien que les ados puissent activer ce mode eux-mêmes, les parents dont le compte d’ado est lié peuvent maintenant activer le mode étude directement à partir du contrôle parental. Lorsqu’il est activé, il est appliqué par défaut chaque fois qu’un ado commence une nouvelle conversation, offrant aux familles une autre façon d’encadrer l’utilisation de ChatGPT pour les travaux scolaires et l’étude.
Nous avons aussi récemment lancé des invites de démarrage axées sur l’éducation pour les ados, afin de faciliter des tâches comme décomposer un sujet en étapes simples, transformer des notes en guide d’étude, créer des fiches ou des questions d’exercice, et vérifier les preuves et la clarté.
Nous continuons également d’élargir les expériences d’apprentissage interactives. Les recherches ont constamment montré que les gens apprennent plus efficacement lorsqu’ils peuvent interagir activement avec les concepts plutôt que de consommer l’information passivement. Depuis leur lancement plus tôt cette année, 18 millions d’utilisateurs par semaine interagissent maintenant avec des expériences interactives en mathématiques et en sciences dans ChatGPT, et nous avons étendu ces expériences à plus de 250 nouveaux sujets, des intégrales à la mitose en passant par les phases de la Lune, la photosynthèse et plus encore. Nous avons aussi lancé une expérience de prononciation qui utilise l’audio pour aider les gens à apprendre à prononcer des mots dans plus de 61 langues.
Si notre système estime qu’une personne qui utilise ChatGPT a moins de 18 ans, nous lui offrons automatiquement une expérience mieux adaptée à son âge(s'ouvre dans une nouvelle fenêtre). Les ados peuvent toujours utiliser ChatGPT pour apprendre, créer et explorer, mais avec des protections supplémentaires conçues pour réduire leur exposition à du contenu qui pourrait ne pas leur convenir. Cela comprend des garde-fous renforcés concernant la violence explicite, l’automutilation, les défis viraux risqués, les contenus nuisibles liés à l’image corporelle et les jeux de rôle dangereux, romantiques ou sexuels. Notre principe directeur est d’aider à faire en sorte que ChatGPT demeure un outil d’apprentissage et de créativité, et non un substitut aux relations dans le monde réel.
Nous concevons aussi ChatGPT de manière à encourager de saines habitudes. Les ados qui passent de longues périodes dans ChatGPT recevront désormais plus souvent des rappels de pause les encourageant à s’arrêter et à prendre du recul. Ces rappels visent à aider les jeunes à adopter des habitudes technologiques équilibrées, tout en leur laissant la liberté d’utiliser l’IA pour apprendre, créer et résoudre des problèmes.
Nous croyons que les meilleurs outils de sécurité peuvent aider les familles à accompagner ensemble les expériences en ligne des ados. Nous avons créé un contrôle parental et des notifications qui leur permettent de définir des heures de tranquillité, de désactiver le mode vocal, de gérer l’accès à la génération d’images et de recevoir des notifications dans certaines situations à risque élevé, comme des signes d’automutilation potentielle.
Nous élargissons ces notifications pour inclure les cas où un compte d’ado lié a été désactivé pour avoir enfreint nos politiques d’utilisation concernant des menaces violentes ou des actes de violence en ligne. Cette approche aide les parents à savoir quand quelque chose de sérieux s’est produit, tout en respectant la vie privée des ados et en encourageant les conversations et le soutien hors ligne.
Lors du développement de ces fonctionnalités, nous avons consulté plusieurs experts, dont Moonshot(s'ouvre dans une nouvelle fenêtre), un chef de file de la prévention de la violence en ligne, afin de nous assurer que ces interventions sont réfléchies, efficaces et centrées sur l’aide aux familles en période de besoin.
Nous voulons aussi veiller à ce que les parents, les ados et les éducateurs disposent de conseils clairs sur la meilleure façon d’utiliser l’IA de manière responsable. Nous publions des ressources éducatives dans plus de 50 langues, notamment Un guide familial pour aider les ados à utiliser l’IA de façon responsable(s'ouvre dans une nouvelle fenêtre), Conseils pour parler d’IA avec votre ado(s'ouvre dans une nouvelle fenêtre) et Conseils pour les parents qui utilisent ChatGPT(s'ouvre dans une nouvelle fenêtre).
Assurer la sécurité des jeunes en ligne n’est pas un défi qu’une seule entreprise peut relever à elle seule. Nous travaillons en étroite collaboration avec des ados, des parents, des éducateurs, des experts en sécurité des enfants, des professionnels de la santé mentale, des chercheurs, des gouvernements et des organisations de la société civile. Ces partenariats nous aident à mieux comprendre les besoins des jeunes, à cerner les risques émergents, à évaluer l’efficacité de nos mesures de protection et à veiller à ce que nos politiques soient éclairées par une expertise indépendante.
Ce travail couvre notre approche de l’apprentissage comme du bien-être des jeunes. Nous collaborons avec des éducateurs, dont l’American Federation of Teachers, des élèves et des organisations d’apprentissage afin de mieux comprendre comment l’IA peut soutenir l’enseignement et l’apprentissage tout en renforçant la participation active et la pensée critique. Nous travaillons aussi en étroite collaboration avec des experts des milieux de la santé mentale, du développement de l’enfant et de la sécurité des jeunes, notamment l’American Psychological Association(s'ouvre dans une nouvelle fenêtre), notre Global Physicians Network et notre Expert Council on Well-Being and AI.
Notre travail pour bâtir un écosystème numérique plus sain va au-delà de nos propres produits. Nous avons appelé à l’élaboration de normes mondiales évolutives pour la sécurité des jeunes dans l’IA par l’intermédiaire d’un institut consacré à la sécurité de l’IA, à la publication en source ouverte de politiques et d’outils que les développeurs peuvent intégrer à leurs propres systèmes d’IA, ainsi qu’à la collaboration avec des organisations comme Common Sense Media(s'ouvre dans une nouvelle fenêtre) et everyone.ai(s'ouvre dans une nouvelle fenêtre) afin de partager les apprentissages et les pratiques exemplaires.
Cette année, nous nous sommes aussi joints au Family Online Safety Institute(s'ouvre dans une nouvelle fenêtre) (FOSI), un défenseur de longue date des expériences en ligne sûres pour les familles et les jeunes. Nous travaillerons ensemble pour faire en sorte que les jeunes puissent bénéficier de l’IA, en plaçant au cœur de cette démarche des parents mieux outillés et des pratiques responsables dans l’industrie. Nous espérons que ce partenariat fera progresser notre compréhension commune de ce qui fonctionne, renforcera les protections adaptées à l’âge et les outils parentaux, et soutiendra les efforts de l’ensemble de l’industrie pour permettre aux jeunes de profiter de l’IA de façon sûre et responsable.
Protéger les jeunes en ligne exige des progrès continus. Au cours des prochains mois, nous continuerons de renforcer les protections adaptées à l’âge, de donner aux parents plus d’outils et de contrôle, d’améliorer les garde-fous contre les préjudices graves, de faire avancer la recherche sur une utilisation saine de l’IA et de créer davantage d’expériences qui aident les ados à apprendre activement et à utiliser l’IA avec confiance.
Nous savons qu’il reste du travail à faire, et nous nous engageons à poursuivre nos efforts en collaboration avec les ados, les parents, les éducateurs, les experts et les communautés du monde entier afin d’offrir aux ados un accès large et sûr.
