OpenAI soutient le projet de loi californien sur la sécurité IA

Par Ann O’Leary, vice-présidente des politiques publiques mondiales

OpenAI soutient le projet de loi 1119 du Sénat de Californie, qui établit des garanties importantes encadrant l’utilisation de l’IA par les jeunes, tout en préservant leur accès à des outils qui peuvent les aider à apprendre, à créer et à préparer leur avenir. Ce soutien s’inscrit dans le prolongement de l’engagement pris l’an dernier par Sam Altman, cofondateur et PDG d’OpenAI, lorsqu’il a présenté les principes de l’entreprise concernant les adolescents.

En l’absence d’action fédérale, la Californie a l’occasion d’établir une norme solide pour la sécurité des jeunes en matière d’IA.

Dans notre lettre au gouverneur Newsom⁠(ouverture dans une nouvelle fenêtre), nous saluons son leadership sur cette question importante, ainsi que celui du sénateur Steve Padilla, des membres de l’Assemblée Buffy Wicks et Rebecca Bauer-Kahan, et du corps législatif de Californie. Le SB 1119 s’appuie sur les mesures de sécurité des jeunes qu’OpenAI a soutenues par l’intermédiaire de ses produits, de ses principes mondiaux en matière de politiques publiques, de son action en Californie et de ses travaux sur la loi relative à la sécurité de l’IA pour les parents et les enfants. Nous encourageons le gouverneur Newsom à promulguer ce projet de loi.

Les adolescents sont la première génération à grandir avec l’IA. Près de neuf adolescents sur dix qui utilisent ChatGPT y ont recours chaque semaine pour apprendre, s’informer, développer leurs compétences ou gagner en productivité. Cette occasion s’accompagne d’une responsabilité claire : les adolescents doivent bénéficier d’expériences conçues en fonction de leurs besoins de développement spécifiques, avec de solides protections par défaut et des possibilités adaptées d’apprendre, de créer et d’explorer.

Notre nouvelle offre ChatGPT pour les adolescents reflète cette approche. Elle est conçue pour aider les utilisateurs de moins de 18 ans à apprendre, à développer leur esprit critique et à créer, tout en favorisant un usage sain, en intégrant des garanties et en donnant aux parents davantage de contrôle. Si notre système estime qu’une personne a moins de 18 ans ou si elle déclare avoir entre 13 et 17 ans, elle est automatiquement orientée vers ChatGPT pour les adolescents. Ces protections font partie de l’expérience de base ; il ne s’agit pas de paramètres facultatifs que les utilisateurs peuvent désactiver.

Plus généralement, nous pensons que les adolescents peuvent bénéficier de l’IA sans sacrifier leur sécurité, un objectif qui est au cœur du SB 1119.

Le SB 1119 associe de solides protections au maintien de l’accès à des outils d’IA utiles. Nous soutenons fermement les exigences essentielles suivantes :

• Déterminer l’âge d’un utilisateur ;
• Cerner et traiter les risques de sécurité avant de mettre un produit à la disposition des jeunes ;
• Se soumettre à des audits indépendants ;
• Protéger les jeunes contre les contenus préjudiciables, notamment ceux liés à l’automutilation ou à l’exploitation sexuelle, ainsi que contre d’autres interactions à haut risque ;
• Fournir aux parents des outils pour encadrer et limiter l’utilisation de leurs enfants ;
• Orienter les jeunes vers des ressources d’aide en situation de crise lorsque de graves risques pour leur sécurité surviennent ; et
• Limiter la publicité ciblée et protéger les informations personnelles des jeunes.

Pour les utilisateurs identifiés comme ayant entre 13 et 17 ans, ces protections doivent s’appliquer automatiquement. Cette législation associerait une véritable obligation de rendre des comptes à des garanties contribuant à protéger les jeunes lorsqu’ils utilisent l’IA.

Le SB 1119 reconnaît également, à juste titre, que l’IA n’est pas un réseau social. Le projet de loi établit des protections adaptées pour aider les jeunes à utiliser l’IA afin d’apprendre, de créer et d’explorer. Lors de l’élaboration de ce cadre, les responsables publics ont cherché à préserver l’accès aux fonctionnalités éducatives et essentielles à la sécurité, notamment les usages responsables de la mémoire de ChatGPT, tout en favorisant des expériences plus sûres et adaptées à l’âge des adolescents.

ChatGPT pour les adolescents comprend un ensemble de fonctionnalités spécialement adaptées pour les aider à apprendre, comme les quiz, les visualisations pédagogiques et le mode étude, développés avec des enseignants et des spécialistes de l’apprentissage afin de guider les élèves pas à pas dans la résolution de problèmes. Ces outils visent à approfondir la compréhension et à favoriser de meilleures habitudes d’apprentissage. Les fonctionnalités qui utilisent le contexte des conversations précédentes, notamment la mémoire, permettent d’appliquer les garanties de manière cohérente, de repérer les tendances préoccupantes et de fournir au fil du temps un soutien pédagogique plus utile.

Le contexte aide également ces outils de sécurité et d’apprentissage à fonctionner de manière plus cohérente au fil du temps. Grâce à des fonctionnalités telles que la mémoire, ChatGPT peut conserver les informations et préférences pertinentes issues de conversations précédentes, ce qui permet aux adolescents de poursuivre des projets d’apprentissage à long terme sans devoir repartir de zéro. Cette continuité peut également contribuer à éviter de renforcer des tendances préjudiciables et à apporter des réponses plus efficaces lorsqu’un jeune peut avoir besoin d’une aide ou de ressources supplémentaires.

Concilier sécurité et apprentissage n’est pas nouveau pour nous. Au cours de l’année écoulée, nous avons ajouté le contrôle parental, la prédiction de l’âge, notre plan pour la sécurité des adolescents et les principes relatifs aux moins de 18 ans dans notre spécification du modèle — les règles qui définissent le comportement attendu de nos modèles — afin d’établir de nouvelles normes encadrant leurs interactions avec les jeunes. Ils interdisent les relations amoureuses, l’incitation à la dépendance émotionnelle et les affirmations selon lesquelles ChatGPT serait humain ou doué de conscience. Nous proposons également un contrôle parental qui permet aux familles de gérer les principaux paramètres pour leurs adolescents et de recevoir des notifications dans les situations à haut risque.

Le SB 1119 établit en Californie un cadre solide pour la sécurité des jeunes en matière d’IA. La poursuite des études et de la collaboration pendant la mise en œuvre peut contribuer à améliorer les principales dispositions et à préserver l’efficacité du cadre à mesure que la technologie évolue. OpenAI se réjouit de soutenir ces travaux et de continuer à concevoir des expériences d’IA qui traitent les adolescents comme tels, avec des protections renforcées et automatiques ainsi que de réelles possibilités d’apprendre et de grandir.