Soutenir la recherche sur l’IA et la sécurité des enfants
OpenAI s’engage à verser 2 millions de dollars dans le cadre d’un effort mondial pour mieux comprendre l’impact de l’IA sur les enfants et favoriser leur sécurité et leur bien-être.
En début de semaine, lors du Forum de Paris sur la Paix, OpenAI a signé la Charte d’engagement pour une IA plus sûre pour les enfants(ouverture dans une nouvelle fenêtre) et s’est engagée à verser 2 millions de dollars pour soutenir le réseau de recherche scientifique de la Coalition pour les droits et la protection des enfants à l’ère de l’IA.
Cet engagement s’inscrit dans la continuité de notre appel à des normes mondiales pour la sécurité des jeunes face à l’IA et d’une collaboration soutenue entre gouvernements, chercheurs, société civile et entreprises pour traduire les connaissances partagées en mesures de protection concrètes.
Notre contribution soutient un travail commun de mesure : développer des outils permettant aux chercheurs de mieux comprendre et mesurer les risques et les possibilités de l’IA pour les enfants, afin d’orienter la conception de produits plus sûrs et de meilleures politiques publiques.
La charte énonce des principes communs pour une IA sûre et adaptée à l’âge des utilisateurs, ainsi qu’un programme de recherche assorti de garanties d’indépendance. Les équipes de recherche gardent la maîtrise de leurs conclusions, et les résultats seront publiés, même s’ils sont négatifs ou non concluants.
Ces travaux contribueront à réunir les données nécessaires pour favoriser les bénéfices de l’IA pour les jeunes tout en répondant aux risques pour leur sécurité et leur développement. Ils s’inscrivent dans la continuité de notre soutien à une législation globale sur la sécurité des jeunes face à l’IA, qui instaure des protections solides et contraignantes tout en préservant l’accès à des outils d’apprentissage, de créativité et d’ouverture de perspectives. De tels cadres devraient prévoir des protections adaptées à l’âge par défaut, des outils pour les parents, des évaluations régulières des risques et des mesures d’atténuation, ainsi qu’une réelle obligation de rendre des comptes. Nous souhaitons échanger avec les responsables politiques européens à mesure que se précise le projet de loi européen sur la protection des enfants, ainsi qu’avec des partenaires du monde entier, pour renforcer la protection des jeunes et les possibilités qui leur sont offertes.


