Apoyo a la investigación sobre IA y seguridad infantil
OpenAI se compromete a aportar USD 2 millones como parte de un esfuerzo global para comprender mejor el impacto de la IA en los niños y promover su seguridad y bienestar.
A principios de esta semana, en el Foro de París sobre la Paz, OpenAI firmó la Carta de compromiso por una IA más segura para la infancia(se abre en una nueva ventana) y se comprometió a aportar USD 2 millones para apoyar la red de investigación científica de la Coalición por los Derechos y la Protección de la Infancia en la Era de la IA.
Este compromiso da continuidad a nuestro llamado a establecer estándares globales de seguridad de la IA para los jóvenes y a la colaboración sostenida entre gobiernos, investigadores, la sociedad civil y la industria para convertir la evidencia compartida en medidas de protección concretas.
Nuestra contribución apoya el trabajo conjunto de medición: desarrollar herramientas que permitan a los investigadores comprender y medir mejor los riesgos y las oportunidades de la IA para los niños, y así orientar el desarrollo de productos más seguros y mejores políticas públicas.
La carta establece principios compartidos para una IA segura y adecuada para cada edad, junto con un programa de investigación y garantías para su independencia. Los equipos de investigación conservan el control sobre sus conclusiones, y los hallazgos se publicarán, incluidos los resultados negativos o no concluyentes.
Este trabajo ayudará a generar la evidencia necesaria para potenciar los beneficios de la IA para los jóvenes y, al mismo tiempo, abordar los riesgos para su seguridad y desarrollo. Esta labor da continuidad a nuestro apoyo a una legislación integral sobre la seguridad de la IA para los jóvenes que establezca protecciones sólidas y exigibles, sin restringir el acceso a herramientas para aprender, crear y aprovechar oportunidades. Estos marcos deberían incluir medidas de protección predeterminadas y adecuadas para cada edad, herramientas para madres y padres, evaluaciones y medidas de mitigación de riesgos periódicas, y una rendición de cuentas efectiva. Esperamos colaborar con los responsables de las políticas públicas en Europa a medida que avance la elaboración de la Ley de la UE para la Infancia, y con aliados de todo el mundo para impulsar mayores protecciones y oportunidades para los jóvenes.


