Faire progresser la sécurité et les opportunités des jeunes grâce à un leadership mondial

L’IA peut être un outil puissant pour les jeunes. Elle peut aider les élèves à comprendre un concept difficile, à pratiquer une nouvelle langue, à se préparer à un entretien d’embauche, à explorer des idées créatives ou à acquérir une nouvelle compétence. Tout comme le mouvement d’alphabétisation qui s’est répandu dans le monde au milieu du XXe siècle a nécessité une diffusion massive de textes imprimés et l’accès à des enseignants formés, l’accès à une IA sûre ouvrira aujourd’hui de nouvelles possibilités d’apprentissage personnalisé, contribuera à réduire les obstacles pour les populations mal desservies et renforcera la préparation au monde du travail.

Parce que les bénéfices potentiels sont si importants, il est essentiel que les jeunes puissent accéder à l’IA de manière sûre, adaptée à leur âge et favorable à un développement sain. Cette responsabilité ne devrait pas incomber principalement aux parents ni aux jeunes eux-mêmes. Les entreprises, y compris OpenAI, ont la responsabilité de concevoir des produits dotés par défaut de garanties appropriées, tout en donnant aux familles les outils et les informations nécessaires pour guider l’utilisation de l’IA.

Lorsque les chefs d’État se réuniront au Sommet des dirigeants du G7 à Évian, en France, plus tard ce mois-ci, la question de la sécurité des jeunes face à l’IA sera au cœur des discussions. OpenAI y participera pour discuter d’une collaboration accrue sur la sécurité des jeunes, des moyens de travailler ensemble pour relever les normes du secteur, et du nouvel appel d’OpenAI à créer un institut international consacré à la sécurité des jeunes.

Le Sommet des dirigeants du G7 représente une occasion rare de coordination mondiale sur la sécurité des jeunes. Mais un institut dédié apporterait la continuité et le suivi nécessaires au-delà d’un seul sommet, en aidant les gouvernements, les chercheurs, la société civile et l’industrie à continuer de travailler ensemble pour partager des éléments probants, élaborer des orientations et relever les normes au fil du temps.

Plusieurs voies crédibles permettraient d’y parvenir : par un nouvel institut international, ou en donnant à un institut national de l’IA existant ou nouvellement créé un mandat mondial pour partager recherches, éléments probants et orientations avec des partenaires du monde entier. Ce qui compte le plus, c’est la fonction qu’il remplit. La sécurité des jeunes face à l’IA exige une attention soutenue, des éléments probants fiables et des orientations pratiques capables de suivre le rythme de la technologie.

Un tel institut peut s’appuyer sur des initiatives émergentes comme le Youth AI Safety Institute de Common Sense Media, soutenu par l’OpenAI Foundation, ainsi que sur des collaborations pratiques avec des éducateurs, notamment le travail d’OpenAI avec l’American Federation of Teachers⁠. Il devrait également s’appuyer sur des déploiements concrets, comme le déploiement national de ChatGPT dans les écoles en Estonie, où OpenAI travaille avec Stanford et des chercheurs estoniens pour étudier son impact et éclairer une utilisation plus sûre et plus efficace dans l’apprentissage.

OpenAI se félicite de l’occasion de travailler avec le gouvernement français, les autres gouvernements du G7 et des partenaires de la société civile, du monde universitaire et de l’industrie sur ce travail essentiel, afin d’élever les normes mondiales en matière de sécurité des jeunes.

Nous pensons que des cadres solides de sécurité des jeunes face à l’IA, y compris tout accord potentiel conclu lors des réunions du G7, devraient être guidés par les principes que nous exposons ici.

1. Les entreprises devraient savoir quand un utilisateur est mineur et appliquer des protections adaptées à son âge. Cela signifie exiger des fournisseurs qu’ils utilisent des moyens tels qu’une estimation de l’âge efficace et respectueuse de la vie privée pour distinguer les mineurs des adultes, et qu’ils appliquent par défaut des garanties de protection lorsque l’âge d’un utilisateur ne peut pas être déterminé. Sans ce socle, même les protections des jeunes les mieux intentionnées risquent de ne pas atteindre les jeunes qu’elles sont censées protéger.
2. Les entreprises devraient évaluer régulièrement les risques comme les bénéfices pour les jeunes et prendre des mesures pour y répondre — avant que des préjudices ne surviennent. Cela signifie exiger des fournisseurs qu’ils réalisent chaque année des évaluations des risques pour la sécurité des jeunes et qu’ils mettent en œuvre des garanties proportionnées aux risques identifiés. Ces évaluations devraient tenir compte des risques pour les jeunes en fonction de leur stade de développement, des données empiriques issues de l’utilisation réelle et des recherches ou orientations réglementaires pertinentes. Elles devraient considérer non seulement les préjudices potentiels, mais aussi la capacité de l’IA à favoriser des résultats positifs tels que l’apprentissage, la créativité, le développement des compétences et l’accès aux opportunités.
3. Les parents et tuteurs devraient disposer de contrôles accessibles et faciles à utiliser pour les aider à guider l’expérience de leurs enfants tout en soutenant une autonomie adaptée à leur âge. Ils devraient inclure des outils permettant de gérer des paramètres clés, notamment la mémoire, l’utilisation des données et les limites de temps. Les outils de contrôle parental devraient être activement mis en avant afin que les parents sachent qu’ils existent et comprennent comment les utiliser.
4. Les familles méritent des informations claires et compréhensibles sur la manière dont les entreprises protègent les jeunes utilisateurs, ainsi que des informations utiles sur les bénéfices comme sur les risques de l’utilisation de l’IA par les jeunes. Les entreprises devraient publier des politiques de sécurité expliquant les garanties mises en place pour protéger les jeunes, les outils parentaux disponibles et la manière dont les protections sont mises à jour à mesure que les risques évoluent. Cette transparence renforce la confiance et aide les parents à faire des choix éclairés.
5. Les entreprises devraient disposer de protocoles clairs pour répondre aux situations graves de sécurité, notamment l’automutilation, l’exploitation, le pédopiégeage, les contenus sexuellement exploitants et d’autres interactions à haut risque. Ils devraient inclure une assistance au sein du service, l’orientation vers des ressources appropriées et, le cas échéant, des notifications rapides aux parents. Les entreprises devraient également concevoir leurs systèmes de manière à les empêcher de générer des contenus dangereux ou inadaptés au développement des enfants, notamment des contenus sexuels ou violents explicites.  
6. Les systèmes d’IA utilisés par les jeunes devraient être conçus pour soutenir l’apprentissage, le développement et les relations dans le monde réel, et non pour les remplacer. L’IA devrait servir d’outil aidant les jeunes à apprendre, créer, développer des compétences et se préparer à l’avenir. Dans le même temps, les entreprises devraient établir des limites claires dans les domaines où un développement sain dépend du jugement humain, des relations dans le monde réel et d’un soutien professionnel.
7. Les informations personnelles des mineurs devraient être protégées. Cela signifie interdire la publicité ciblée intrusive pour la vie privée à destination des jeunes, et empêcher les entreprises de vendre des informations personnelles.
8. Les cadres de sécurité des jeunes devraient promouvoir les opportunités, la culture numérique et la protection. Les jeunes devraient avoir accès à des outils d’IA qui soutiennent l’apprentissage, la créativité, le développement des compétences et les opportunités futures, tout en étant dotés des connaissances et de l’esprit critique nécessaires pour utiliser l’IA de manière sûre et responsable. Cela suppose de promouvoir la culture de l’IA et d’aider les jeunes à comprendre les opportunités et les limites des systèmes d’IA, afin qu’ils puissent évoluer avec confiance et responsabilité dans les espaces numériques.
9. Des mécanismes solides de responsabilité, notamment des audits indépendants, sont essentiels pour garantir que ces protections aient un effet concret dans la pratique. Les audits devraient s’appuyer sur un ensemble de normes communes permettant des audits interopérables entre les juridictions. Les cadres législatifs devraient inclure des mesures de supervision et d’application permettant aux gouvernements d’évaluer si les entreprises mettent effectivement en œuvre les garanties de sécurité des jeunes, atténuent les risques identifiés et respectent leurs obligations en matière de sécurité des jeunes et de confidentialité.

Ces principes se reflètent dans la manière dont nous concevons et exploitons ChatGPT, du comportement du modèle et de la conception du produit jusqu’aux contributions d’experts et au soutien dans le monde réel. Nous avons renforcé les garanties pour les utilisateurs de moins de 18 ans, lancé des contrôles parentaux⁠ avec des notifications proactives, ainsi que des systèmes avancés de prédiction de l’âge⁠ afin que ChatGPT puisse appliquer des protections renforcées lorsqu’une personne peut avoir moins de 18 ans. Nos spécifications de modèle, qui décrivent le comportement attendu de nos modèles, comprennent également des principes dédiés aux utilisateurs de moins de 18 ans⁠(ouverture dans une nouvelle fenêtre), en donnant la priorité à la sécurité des adolescents, à des expériences adaptées à l’âge, au soutien dans le monde réel et à des attentes claires. En pratique, cela signifie des garde-fous renforcés concernant l’automutilation, les activités dangereuses, les contenus explicites, l’image corporelle et le secret, ainsi que l’encouragement à rechercher, si nécessaire, un soutien de confiance hors ligne ou des ressources de crise. Lorsque l’âge est incertain, nous appliquons par défaut les garanties les plus fortes.

Une IA conçue avec de solides garanties, proposée avec des orientations claires et avec le soutien des familles et des éducateurs, peut aider les jeunes à bénéficier en toute sécurité d’outils qui élargissent l’apprentissage, la créativité et les opportunités. L’IA peut aider les élèves à comprendre des concepts difficiles, pratiquer des langues, améliorer leur écriture, apprendre à coder, organiser des recherches, explorer des idées créatives et se préparer à des métiers qui évoluent déjà. Avec Education for Countries⁠, OpenAI travaille avec des gouvernements et des éducateurs sur des déploiements fondés sur la recherche, des outils d’apprentissage localisés et la formation des enseignants, afin que l’adoption de l’IA repose sur des données probantes et sur les besoins réels des salles de classe. Ce travail soutient déjà les efforts nationaux en matière d’éducation avec nos pays partenaires, notamment l’Estonie⁠, la Grèce⁠ et Singapour⁠.

En plus de participer au Sommet des dirigeants, nous amènerons l’OpenAI Forum⁠(ouverture dans une nouvelle fenêtre) à Paris afin d’organiser une discussion pratique sur la manière dont les gouvernements, les chercheurs, la société civile, les éducateurs et l’industrie peuvent transformer des objectifs partagés de sécurité des jeunes en garanties, normes et pratiques de mise en œuvre concrètes. L’ambassadrice de France pour l’IA et le numérique, Clara Chappaz, rejoindra Chris Lehane, Chief Global Affairs Officer d’OpenAI, des responsables de la sécurité des jeunes d’iRaise/Everyone.AI et d’autres experts pour discuter de la manière dont les jeunes peuvent bénéficier de l’IA tout en réduisant les risques.