Soutenir la recherche sur l’IA et la sécurité des enfants
OpenAI s’engage à verser 2 millions de dollars dans le cadre d’un effort mondial visant à mieux comprendre les effets de l’IA sur les enfants et à favoriser leur sécurité et leur bien-être.
Plus tôt cette semaine, au Forum de Paris sur la Paix, OpenAI a signé la Charte d’engagement pour une IA plus sûre pour les enfants(s'ouvre dans une nouvelle fenêtre) et s’est engagée à verser 2 millions de dollars pour soutenir le réseau de recherche scientifique de la Coalition pour les droits et la protection des enfants à l’ère de l’IA.
Cette initiative s’inscrit dans la continuité de notre appel à des normes mondiales sur la sécurité de l’IA pour les jeunes et d’une collaboration soutenue entre les gouvernements, les chercheurs, la société civile et l’industrie pour transformer les données probantes communes en mesures de protection concrètes.
Notre contribution soutient des travaux de mesure communs : concevoir des outils permettant aux chercheurs de mieux comprendre et mesurer les risques et les possibilités de l’IA pour les enfants, afin d’orienter la création de produits plus sûrs et de meilleures politiques.
La charte énonce des principes communs pour une IA sûre et adaptée à l’âge, ainsi qu’un programme de recherche et des garanties pour en préserver l’indépendance. Les équipes de recherche gardent le contrôle de leurs conclusions, et les résultats seront publiés, y compris ceux qui sont négatifs ou non concluants.
Ces travaux contribueront à constituer les données probantes nécessaires pour favoriser les avantages de l’IA pour les jeunes, tout en s’attaquant aux risques pour leur sécurité et leur développement. Ils s’inscrivent dans la continuité de notre soutien à une législation complète sur la sécurité de l’IA pour les jeunes, qui établit des protections solides et exécutoires tout en préservant l’accès à des outils d’apprentissage, de créativité et de développement de possibilités. De tels cadres devraient prévoir des mesures de protection adaptées à l’âge par défaut, des outils pour les parents, des évaluations régulières des risques et des mesures d’atténuation, ainsi qu’une véritable obligation de rendre des comptes. Nous avons hâte de collaborer avec les responsables politiques européens au fil de l’élaboration de la loi européenne sur les enfants (EU Kids Act), ainsi qu’avec des partenaires du monde entier pour renforcer les protections et les possibilités offertes aux jeunes.


