Faire progresser la sécurité et les possibilités pour les jeunes grâce au leadership mondial

L’IA peut être un outil puissant pour les jeunes. Elle peut aider les élèves à comprendre un concept difficile, à pratiquer une nouvelle langue, à se préparer à une entrevue d’emploi, à explorer des idées créatives ou à acquérir une nouvelle compétence. Tout comme le mouvement d’alphabétisation qui s’est répandu dans le monde au milieu du 20e siècle exigeait une distribution massive de textes imprimés et l’accès à des enseignants formés, l’accès à une IA sûre aujourd’hui ouvrira de nouvelles possibilités d’apprentissage personnalisé, aidera à réduire les obstacles pour les populations mal desservies et améliorera la préparation au marché du travail.

Comme les avantages potentiels sont si importants, il est essentiel que les jeunes puissent accéder à l’IA de façons sûres, adaptées à leur âge et favorables à un développement sain. Cette responsabilité ne devrait pas incomber principalement aux parents ni aux jeunes eux-mêmes. Les entreprises, y compris OpenAI, ont la responsabilité de concevoir des produits qui intègrent par défaut des mesures de protection appropriées, tout en donnant aux familles les outils et l’information nécessaires pour orienter l’utilisation de l’IA.

Lorsque les chefs d’État se réuniront au Sommet des dirigeants du G7 à Évian, en France, plus tard ce mois-ci, la sécurité des jeunes face à l’IA sera un thème central. OpenAI y participera pour discuter d’une collaboration accrue sur la sécurité des jeunes, des façons de travailler ensemble pour relever les normes de l’industrie, et du nouvel appel d’OpenAI en faveur de la création d’un institut international de la sécurité des jeunes.

Le Sommet des dirigeants du G7 représente une occasion rare de coordination mondiale en matière de sécurité des jeunes. Mais un institut dédié offrirait la continuité et le suivi nécessaires au-delà d’un seul sommet, aidant les gouvernements, les chercheurs, la société civile et l’industrie à continuer de collaborer pour partager les données probantes, élaborer des orientations et relever les normes au fil du temps.

Il existe plusieurs façons crédibles d’y parvenir : par la création d’un nouvel institut international, ou en confiant à un institut national d’IA existant ou nouvellement créé un mandat mondial de partage de la recherche, des données probantes et des orientations avec des partenaires partout dans le monde. Ce qui compte le plus, c’est la fonction qu’il remplit. La sécurité des jeunes face à l’IA exige une attention soutenue, des données probantes fiables et des orientations pratiques capables de suivre le rythme de la technologie.

Un tel institut peut s’appuyer sur des initiatives émergentes comme le Youth AI Safety Institute de Common Sense Media, soutenu par la Fondation OpenAI, ainsi que sur des collaborations concrètes avec des éducateurs, notamment le travail d’OpenAI avec l’American Federation of Teachers⁠. Il devrait aussi s’inspirer de déploiements réels, comme le déploiement national de ChatGPT dans les écoles en Estonie, où OpenAI travaille avec Stanford et des chercheurs estoniens pour étudier les effets et favoriser une utilisation plus sûre et plus efficace dans l’apprentissage.

OpenAI accueille favorablement l’occasion de travailler avec le gouvernement français, les autres gouvernements du G7 et des partenaires de la société civile, du milieu universitaire et de l’industrie à ce travail essentiel, et de relever les normes mondiales en matière de sécurité des jeunes.

Nous croyons que des cadres solides de sécurité des jeunes face à l’IA, y compris tout accord potentiel conclu lors des rencontres du G7, devraient être guidés par les principes que nous présentons ici.

1. Les entreprises devraient savoir quand un utilisateur est mineur et appliquer des protections adaptées à son âge. Cela signifie exiger des fournisseurs qu’ils utilisent des moyens comme une estimation de l’âge efficace et respectueuse de la vie privée pour distinguer les mineurs des adultes, et qu’ils appliquent par défaut des mesures de protection lorsque l’âge d’un utilisateur ne peut être déterminé. Sans cette base, même les protections les mieux intentionnées pour les jeunes risquent de ne pas atteindre les jeunes qu’elles visent à protéger.
2. Les entreprises devraient évaluer régulièrement les risques et les avantages pour les jeunes, et prendre des mesures pour y répondre — avant que des préjudices surviennent. Cela signifie exiger des fournisseurs qu’ils réalisent chaque année des évaluations des risques liés à la sécurité des jeunes et qu’ils mettent en œuvre des mesures de protection proportionnées aux risques relevés. Ces évaluations devraient tenir compte des risques pour les jeunes selon leur stade de développement, des données empiriques tirées de l’utilisation réelle, ainsi que de la recherche ou des orientations réglementaires pertinentes. Elles devraient considérer non seulement les préjudices potentiels, mais aussi la mesure dans laquelle l’IA soutient des résultats positifs comme l’apprentissage, la créativité, le développement de compétences et l’accès aux possibilités.
3. Les parents et les tuteurs devraient disposer de contrôles accessibles et faciles à utiliser pour les aider à encadrer l’expérience de leurs enfants tout en favorisant une autonomie adaptée à leur âge. Ces contrôles devraient inclure des outils permettant de gérer des paramètres clés, notamment la mémoire, l’utilisation des données et les limites de temps. Les outils parentaux devraient être activement promus afin que les parents sachent qu’ils existent et comprennent comment les utiliser.
4. Les familles méritent de l’information claire et compréhensible sur la façon dont les entreprises protègent les jeunes utilisateurs, ainsi que de l’information utile sur les avantages et les risques liés à l’utilisation de l’IA par les jeunes. Les entreprises devraient publier des politiques de sécurité qui expliquent les mesures de protection en place pour protéger les jeunes, les outils parentaux offerts et la façon dont les protections sont mises à jour à mesure que les risques évoluent. Cette transparence renforce la confiance et aide les parents à faire des choix éclairés.
5. Les entreprises devraient disposer de protocoles clairs pour répondre aux situations graves de sécurité, notamment l’automutilation, l’exploitation, la prédation, le contenu sexuellement exploitant et d’autres interactions à risque élevé. Ces protocoles devraient comprendre du soutien dans le service, l’orientation vers des ressources appropriées et, lorsqu’il y a lieu, des avis rapides aux parents. Les entreprises devraient aussi concevoir leurs systèmes de manière à les empêcher de générer du contenu dangereux ou inapproprié au développement des enfants, notamment du matériel sexuel ou violent explicite.  
6. Les systèmes d’IA utilisés par les jeunes devraient être conçus pour soutenir l’apprentissage, le développement et les relations dans le monde réel, et non pour les remplacer. L’IA devrait servir d’outil qui aide les jeunes à apprendre, à créer, à développer des compétences et à se préparer pour l’avenir. Parallèlement, les entreprises devraient établir des limites claires dans les domaines où un développement sain dépend du jugement humain, des relations dans le monde réel et du soutien professionnel.
7. Les renseignements personnels des mineurs devraient être protégés. Cela signifie interdire la publicité ciblée et intrusive pour la vie privée auprès des jeunes, et empêcher les entreprises de vendre des renseignements personnels.
8. Les cadres de sécurité des jeunes devraient promouvoir les possibilités, la littératie et la protection. Les jeunes devraient avoir accès à des outils d’IA qui soutiennent l’apprentissage, la créativité, le développement de compétences et les possibilités futures, tout en étant dotés des connaissances et de l’esprit critique nécessaires pour utiliser l’IA de façon sûre et responsable. Cela comprend la promotion de la littératie en IA et le fait d’aider les jeunes à comprendre les possibilités et les limites des systèmes d’IA, afin qu’ils puissent évoluer avec confiance et responsabilité dans les espaces numériques.
9. Des mécanismes de responsabilisation solides, y compris des audits indépendants, sont essentiels pour garantir que ces protections sont réellement significatives dans la pratique. Les audits devraient s’appuyer sur un ensemble de normes communes permettant des audits interopérables entre les territoires. Les cadres législatifs devraient inclure des mesures de surveillance et d’application qui permettent aux gouvernements d’évaluer si les entreprises mettent effectivement en œuvre des mesures de protection pour la sécurité des jeunes, atténuent les risques relevés et respectent leurs obligations en matière de sécurité des jeunes et de protection de la vie privée.

Ces principes se reflètent dans la façon dont nous concevons et exploitons ChatGPT, du comportement des modèles et de la conception des produits jusqu’aux contributions d’experts et au soutien dans le monde réel. Nous avons renforcé les mesures de protection pour les utilisateurs de moins de 18 ans, lancé le contrôle parental⁠ avec des notifications proactives, et mis au point des systèmes avancés de prédiction de l’âge⁠ afin que ChatGPT puisse appliquer des protections plus strictes lorsqu’une personne pourrait avoir moins de 18 ans. Nos spécifications de modèle, qui décrivent comment nos modèles devraient se comporter, comprennent aussi des principes dédiés aux utilisateurs de moins de 18 ans⁠(s'ouvre dans une nouvelle fenêtre), en donnant la priorité à la sécurité des adolescents, aux expériences adaptées à l’âge, au soutien dans le monde réel et à des attentes claires. En pratique, cela signifie des garde-fous renforcés concernant l’automutilation, les activités dangereuses, le contenu explicite, l’image corporelle et le secret, ainsi que des encouragements à chercher, au besoin, du soutien hors ligne auprès de personnes de confiance ou des ressources de crise. Lorsque l’âge est incertain, nous appliquons par défaut des mesures de protection plus strictes.

Une IA conçue avec de solides mesures de protection et offerte avec des orientations claires, ainsi que le soutien des familles et des éducateurs, peut aider les jeunes à tirer parti en toute sécurité d’outils qui élargissent l’apprentissage, la créativité et les possibilités. L’IA peut aider les élèves à comprendre des concepts difficiles, à pratiquer des langues, à améliorer leur rédaction, à apprendre à coder, à organiser leurs recherches, à explorer des idées créatives et à se préparer à des emplois qui changent déjà. Par l’entremise d’Éducation pour les pays⁠, OpenAI travaille avec les gouvernements et les éducateurs à des déploiements axés sur la recherche, à des outils d’apprentissage localisés et à la formation des enseignants, afin que l’adoption de l’IA repose sur des données probantes et sur les besoins réels des salles de classe. Ce travail soutient déjà les efforts nationaux en éducation avec nos pays partenaires, notamment l’Estonie⁠, la Grèce⁠ et Singapour⁠.

En plus de participer au Sommet des dirigeants, nous amènerons l’OpenAI Forum⁠(s'ouvre dans une nouvelle fenêtre) à Paris pour réunir les gouvernements, les chercheurs, la société civile, les éducateurs et l’industrie autour d’une conversation pratique sur la façon de transformer des objectifs communs de sécurité des jeunes en mesures de protection, normes et pratiques de mise en œuvre concrètes. L’ambassadrice de la France pour l’IA et le numérique, Clara Chappaz, se joindra au chef des affaires publiques d’OpenAI, Chris Lehane, à des responsables de la sécurité des jeunes d’iRaise/Everyone.AI et à d’autres experts pour discuter de la façon dont les jeunes peuvent bénéficier de l’IA tout en réduisant les risques.