Apoyo a la investigación sobre IA y seguridad infantil
OpenAI se compromete a aportar 2 millones de dólares a una iniciativa mundial para comprender mejor el impacto de la IA en la infancia y promover su seguridad y bienestar.
A principios de esta semana, en el Foro de París sobre la Paz, OpenAI firmó la Carta de compromiso por una IA más segura para la infancia(se abre en una ventana nueva) y se comprometió a aportar 2 millones de dólares para apoyar a la red de investigación científica de la Coalición por los Derechos y la Protección de la Infancia en la Era de la IA.
Este compromiso da continuidad a nuestro llamamiento a establecer normas mundiales de seguridad de la IA para los jóvenes y a la colaboración sostenida entre gobiernos, investigadores, sociedad civil y empresas para convertir la evidencia compartida en medidas de protección concretas.
Nuestra aportación respalda una labor conjunta de medición: desarrollar herramientas que permitan a los investigadores comprender y medir mejor los riesgos y las oportunidades de la IA para la infancia, y que ayuden a orientar el desarrollo de productos más seguros y mejores políticas.
La carta establece principios comunes para una IA segura y adecuada a cada edad, junto con un programa de investigación y garantías para preservar su independencia. Los equipos de investigación mantienen el control sobre sus conclusiones y se publicarán los resultados, incluidos los negativos o no concluyentes.
Esta labor ayudará a reunir la evidencia necesaria para potenciar los beneficios de la IA para los jóvenes y, al mismo tiempo, abordar los riesgos para su seguridad y desarrollo. Se suma a nuestro apoyo a una legislación integral sobre la seguridad de la IA para los jóvenes que establezca protecciones sólidas y exigibles, sin limitar el acceso a herramientas para aprender, crear y aprovechar oportunidades. Estos marcos deben incluir medidas de protección adecuadas a cada edad y activadas por defecto, herramientas para padres y madres, evaluaciones periódicas de riesgos y medidas para mitigarlos, así como mecanismos eficaces de rendición de cuentas. Esperamos colaborar con los responsables políticos europeos a medida que se desarrolle la Ley de la Infancia de la UE, y con socios de todo el mundo para reforzar la protección de los jóvenes y ampliar sus oportunidades.


