Présentation de la feuille de route pour la protection des enfants
Un cadre pour lutter contre et prévenir l’exploitation sexuelle des enfants liée à l’IA
L’exploitation sexuelle des enfants est l’un des défis les plus urgents de l’ère numérique. L’IA transforme rapidement la manière dont ces préjudices apparaissent dans le secteur, ainsi que les moyens de les traiter à grande échelle.
Chez OpenAI, nous avons mis en place et continuons de renforcer des mécanismes de protection pour éviter tout usage abusif de nos systèmes, et nous travaillons en étroite collaboration avec des partenaires tels que le National Center for Missing and Exploited Children (NCMEC) et les forces de l’ordre afin d’améliorer la détection et le signalement. Ces travaux ont permis d’identifier les domaines où des normes communes plus solides sont nécessaires à l’échelle du secteur.
Aujourd’hui, nous présentons une feuille de route en matière de politiques publiques qui propose une approche concrète pour renforcer les cadres américains de protection de l’enfance à l’ère de l’IA. Cette feuille de route s’appuie sur les retours de plusieurs organisations de premier plan et d’experts de l’écosystème de la protection de l’enfance, notamment NCMEC, l’Attorney General Alliance (AGA, une organisation regroupant des procureurs généraux américains) et les coprésidents de sa task force sur l’IA — le procureur général de Caroline du Nord Jeff Jackson et le procureur général de l’Utah Derek Brown — ainsi que Thorn, afin de tenir compte de leurs priorités et de favoriser une collaboration plus efficace pour prévenir les atteintes à l’encontre des enfants.
La feuille de route se concentre sur trois priorités clés : moderniser les lois pour lutter contre le matériel pédopornographique généré ou modifié par l’IA, améliorer le signalement et la coordination entre les services afin de soutenir des enquêtes plus efficaces, et intégrer directement dans les systèmes d’IA des mesures de protection dès la conception pour prévenir et détecter les usages abusifs.
Aucune mesure ne peut, à elle seule, relever ce défi. Ce cadre réunit des approches juridiques, opérationnelles et techniques afin de mieux identifier les risques, d’accélérer les réponses et de renforcer la responsabilité des acteurs, tout en veillant à ce que les autorités chargées de l’application de la loi conservent toute leur efficacité à mesure que la technologie évolue.
Ensemble, ces étapes permettent au secteur d’agir plus tôt et plus efficacement pour la protection des enfants. En interrompant plus tôt les tentatives d’exploitation, en améliorant la qualité des informations transmises aux forces de l’ordre et en renforçant la responsabilité des acteurs à l’échelle de l’écosystème, ce cadre vise à prévenir les préjudices avant qu’ils ne surviennent et à favoriser une protection plus rapide des enfants lorsque des risques apparaissent.
« En tant que coprésidents du groupe de travail sur l’IA de l’Attorney General Alliance (AGA), nous saluons cette feuille de route comme une avancée importante vers l’harmonisation des pratiques du secteur technologique en matière de protection des enfants avec les réalités de l’application de la loi auxquelles nos bureaux sont confrontés chaque jour. Nous sommes particulièrement encouragés par la reconnaissance, par ce cadre, du fait que des protections efficaces pour l’IA générative nécessitent une approche en plusieurs couches — non pas un contrôle technique unique, mais une combinaison de détection, de mécanismes de blocage, de supervision humaine et d’une adaptation continue aux nouvelles formes d’usage abusif. Cela reflète ce que nous observons dans la pratique : la menace évolue constamment, et les solutions statiques sont insuffisantes. Concevoir en amont une architecture de prévention efficace est l’investissement le plus stratégique que le secteur puisse faire pour la protection des enfants.
En fin de compte, la solidité de tout cadre volontaire dépend de la précision de ses engagements et de la volonté du secteur de rendre des comptes sur ces engagements. Nous nous réjouissons de poursuivre notre partenariat avec OpenAI, le NCMEC et nos collègues procureurs généraux afin de veiller à ce que ces recommandations se traduisent par des protections durables pour les enfants.
— Les procureurs généraux Jeff Jackson (Caroline du Nord) et Derek Brown (Utah), coprésidents du groupe de travail sur l’IA de l’Attorney General Alliance (AGA).
« L’AGA ouvre la voie à la protection des jeunes en ligne en réunissant des procureurs généraux, des acteurs du secteur, des organisations à but non lucratif et des partenaires internationaux afin de faire progresser des solutions concrètes et tournées vers l’avenir en matière d’IA et de protection numérique. Grâce à la collaboration et à l’innovation, l’AGA fixe un standard élevé pour la protection des jeunes tout en adoptant de manière responsable les technologies émergentes. Nous saluons l’engagement continu d’OpenAI en faveur de la sécurité ainsi que sa collaboration avec l’AGA et les procureurs généraux dans l’élaboration d’une feuille de route extrêmement précieuse pour la protection des enfants. »
— Karen White, directrice générale de l’Attorney General Alliance (AGA)
« L’IA générative accélère, de manière très préoccupante, l’exploitation sexuelle des enfants en ligne — en abaissant les obstacles, en augmentant l’ampleur du phénomène et en permettant de nouvelles formes de dommages. Mais dans le même temps, le National Center for Missing & Exploited Children (NCMEC) se félicite de voir des entreprises comme OpenAI réfléchir à la manière dont ces outils peuvent être conçus de façon plus responsable, avec des garde-fous intégrés dès le départ. Aucune organisation, entreprise ou aucun secteur ne peut s’attaquer seul à ce problème. Nous restons déterminés à travailler avec des partenaires de l’industrie, des pouvoirs publics et de la communauté de la protection de l’enfance afin de faire progresser des solutions qui réduisent les préjudices et protègent mieux les enfants. »
— Michelle DeLaune, Présidente-directrice générale, National Center for Missing and Exploited Children (NCMEC)
