OpenAI appuie la loi californienne visant à renforcer la sécurité des jeunes en matière d’IA

Par Ann O’Leary, vice-présidente, Politiques mondiales

OpenAI appuie le projet de loi 1119 du Sénat de la Californie, qui établit des mesures de protection concrètes encadrant l’utilisation de l’IA par les jeunes, tout en préservant leur accès à des outils qui peuvent les aider à apprendre, à créer et à se préparer pour l’avenir. Cet appui s’inscrit dans la foulée de l’engagement pris l’an dernier par Sam Altman, cofondateur et chef de la direction d’OpenAI, lorsqu’il a présenté les principes de l’entreprise concernant les adolescents.

En l’absence d’une intervention fédérale, la Californie a l’occasion d’établir une norme rigoureuse pour la sécurité des jeunes en matière d’IA.

Dans notre lettre au gouverneur Newsom⁠(s'ouvre dans une nouvelle fenêtre), nous saluons son leadership dans cet important dossier, ainsi que celui du sénateur Steve Padilla, des membres de l’Assemblée Buffy Wicks et Rebecca Bauer-Kahan et de la législature californienne. Le projet de loi SB 1119 s’appuie sur les mesures de sécurité des jeunes qu’OpenAI a soutenues au moyen de ses produits, de ses principes de politique mondiale, de ses activités de représentation en Californie et de ses travaux liés à la Parents & Kids Safe AI Act. Nous encourageons le gouverneur Newsom à promulguer ce projet de loi.

Les adolescents sont la première génération à grandir avec l’IA. Près de neuf adolescents sur dix qui utilisent ChatGPT s’en servent chaque semaine pour apprendre, s’informer, développer leurs compétences ou accroître leur productivité. Cette possibilité s’accompagne d’une responsabilité claire : les adolescents devraient bénéficier d’expériences conçues en fonction de leurs besoins de développement particuliers, assorties de solides protections par défaut et de possibilités appropriées d’apprendre, de créer et d’explorer.

Notre nouvelle expérience ChatGPT for Teens reflète cette approche. Elle vise à aider les moins de 18 ans à apprendre, à exercer leur pensée critique et à créer, tout en favorisant une utilisation saine, en intégrant des mesures de protection et en offrant aux parents des contrôles supplémentaires. Si notre système estime qu’une personne a moins de 18 ans, ou si celle-ci indique avoir entre 13 et 17 ans, elle est automatiquement dirigée vers ChatGPT for Teens. Ces protections font partie de l’expérience de base; il ne s’agit pas de paramètres facultatifs que les utilisateurs peuvent désactiver.

Plus largement, nous croyons que les adolescents peuvent profiter de l’IA sans compromettre leur sécurité, un objectif au cœur du projet de loi SB 1119.

Le projet de loi SB 1119 combine de solides protections avec un accès continu à des outils d’IA utiles. Nous appuyons fermement les exigences clés suivantes :

• Déterminer l’âge d’un utilisateur;
• Cerner et traiter les risques pour la sécurité avant de mettre un produit à la disposition des jeunes;
• Se soumettre à des audits indépendants;
• Protéger les jeunes contre les contenus préjudiciables, notamment ceux liés à l’automutilation ou à l’exploitation sexuelle, ainsi que contre d’autres interactions à risque élevé;
• Fournir aux parents des outils pour encadrer et limiter l’utilisation qu’en font leurs enfants;
• Diriger les jeunes vers des ressources de soutien en situation de crise lorsque de graves risques pour la sécurité surviennent; et
• Limiter la publicité ciblée et protéger les renseignements personnels des jeunes.

Pour les utilisateurs identifiés comme ayant de 13 à 17 ans, ces protections devraient s’appliquer automatiquement. Cette loi combinerait une véritable responsabilisation et des mesures de protection qui contribueraient à protéger les jeunes lorsqu’ils utilisent l’IA.

Le projet de loi SB 1119 reconnaît aussi, à juste titre, que l’IA n’est pas un média social. Le projet de loi établit des protections adaptées pour aider les jeunes à utiliser l’IA afin d’apprendre, de créer et d’explorer. En élaborant ce cadre, les décideurs ont cherché à préserver l’accès aux fonctionnalités éducatives et essentielles à la sécurité, y compris les utilisations responsables de la fonction de mémoire de ChatGPT, tout en favorisant des expériences plus sûres et adaptées à l’âge des adolescents.

ChatGPT for Teens comprend un ensemble de fonctionnalités spécialement adaptées pour les aider à apprendre, comme les questionnaires, les visualisations d’apprentissage et le mode étude, conçus avec des pédagogues et des spécialistes de l’apprentissage afin de guider les élèves pas à pas dans la résolution de problèmes. Ces outils visent à approfondir la compréhension et à favoriser de meilleures habitudes d’apprentissage. Les fonctionnalités qui utilisent le contexte de conversations antérieures, y compris la mémoire, aident à appliquer les mesures de protection de façon uniforme, à reconnaître les tendances préoccupantes et à offrir, au fil du temps, un soutien à l’apprentissage plus utile.

Le contexte aide aussi ces outils de sécurité et d’apprentissage à fonctionner plus uniformément au fil du temps. Grâce à des fonctionnalités comme la mémoire, ChatGPT peut conserver les renseignements et les préférences pertinents issus de conversations antérieures, ce qui permet aux adolescents de poursuivre des projets d’apprentissage à long terme sans devoir recommencer. Cette continuité peut aussi aider à éviter de renforcer des tendances préjudiciables et à offrir des réponses plus efficaces lorsqu’un jeune pourrait avoir besoin d’aide ou de ressources supplémentaires.

Concilier sécurité et apprentissage n’est pas nouveau pour nous. Au cours de la dernière année, nous avons ajouté le contrôle parental, la prédiction de l’âge, notre plan directeur pour la sécurité des adolescents et les principes relatifs aux moins de 18 ans dans notre spécification du modèle (les règles qui encadrent le comportement attendu de nos modèles) afin d’établir de nouvelles normes sur la façon dont ils devraient interagir avec les jeunes. Ils interdisent les interactions romantiques, l’encouragement à la dépendance émotionnelle et les affirmations selon lesquelles ChatGPT serait humain ou doué de sensibilité. Nous offrons aussi un contrôle parental qui permet aux familles de gérer des paramètres clés pour leurs adolescents et de recevoir des notifications dans les situations à risque élevé.

Le projet de loi SB 1119 établit un cadre rigoureux pour la sécurité des jeunes en matière d’IA en Californie. La poursuite des études et de la collaboration pendant la mise en œuvre peut aider à améliorer les principales dispositions et à maintenir l’efficacité du cadre à mesure que la technologie évolue. OpenAI se réjouit de soutenir ces travaux et de continuer à concevoir des expériences d’IA qui traitent les adolescents comme des adolescents, grâce à des protections automatiques renforcées et à de véritables possibilités d’apprendre et de progresser.