Impulsar la seguridad y el bienestar de la juventud en EMEA

Hoy presentamos nuestro Plan Europeo para la Seguridad de la Juventud y a los primeros beneficiarios de nuestra Beca de Juventud y Bienestar de EMEA. Ambos forman parte de nuestro esfuerzo continuo para ayudar a garantizar que los jóvenes puedan beneficiarse de la IA de maneras apropiadas para su edad y que apoyen su desarrollo y bienestar. 

Para garantizar que los jóvenes puedan beneficiarse plenamente de la IA, Europa necesita un enfoque práctico, basado en evidencia y centrado en cómo los jóvenes usan realmente la IA.  Estamos publicando nuestro Plan Europeo para la Seguridad de la Juventud, que establece cinco pilares para los responsables de políticas públicas que buscan fortalecer las protecciones para los jóvenes en la era de la IA, al tiempo que preservan el acceso a herramientas que apoyan el aprendizaje, la creatividad y las oportunidades. 

El Plan se enfoca en medidas prácticas que incluyen la adopción responsable de la IA en la educación, experiencias apropiadas para la edad respaldadas por salvaguardas y verificación de edad que preserva la privacidad, políticas de seguridad para menores de 18 años para identificar y mitigar riesgos, protecciones contra resultados de IA manipuladores o engañosos, y estándares comunes para controles parentales accesibles.

Estas no son las únicas respuestas, pero esperamos que sean una contribución útil a los esfuerzos en curso para hacer esto bien.

Impulsar la seguridad de la juventud requerirá más que solo recomendaciones de política pública. También apoyaremos a organizaciones que trabajan directamente con jóvenes, familias, educadores y comunidades para comprender mejor cómo se ve en la práctica un uso de la IA seguro y beneficioso.

Nos entusiasma anunciar a 12 beneficiarios de nuestra Beca de Juventud y Bienestar de EMEA. Lanzado en enero, el programa, con un total de 500 000 €, tiene como objetivo apoyar a ONG y organizaciones de investigación en Europa, Medio Oriente y África que trabajan en seguridad de la juventud, bienestar e IA.

Los beneficiarios seleccionados están realizando trabajo práctico e investigación independiente que ayudará a definir cómo se ve una IA segura y responsable en el mundo real. Esta financiación apoyará una variedad de proyectos, incluidos servicios críticos de bienestar juvenil, apoyo a la salud mental, mejora de la alfabetización en IA, investigación sobre verificación de edad y recursos de primera línea para madres, padres, educadores, trabajadores juveniles y jóvenes, incluidos aquellos en comunidades vulnerables.

• Centre for Information Policy Leadership: apoyo a la investigación sobre estimación de edad impulsada por IA dentro de sistemas más amplios de verificación de edad.
• East Europe Foundation (UA): investigación sobre cómo los adolescentes en países afectados por conflictos usan la IA para el aprendizaje y el apoyo a la salud mental.
• e-Enfance (FR): implementación de proyectos y capacitación sobre bienestar juvenil y alfabetización digital.
• FSM (DE): desarrollo de herramientas de alfabetización en IA para madres, padres, maestros y educadores.
• Luma (KE): desarrollo de un tutor electrónico impulsado por IA para jóvenes en comunidades remotas.
• Mental Health Innovations (Reino Unido): evaluación de la orientación basada en chatbots hacia servicios de apoyo en crisis.
• OPEN (FR): ampliación de la investigación NUAJE en curso sobre el impacto de la IA en los jóvenes.
• Open Source Association (JO): investigación de sistemas de denuncia asistidos por IA para sobrevivientes de trata y violencia de género.
• Parent Zone (Reino Unido): ofrecer apoyo de alfabetización en IA para madres y padres y aprendizajes de políticas/diseño de producto sobre cómo ayudar a los jóvenes a usar la IA.
• Teen Turn (IE): programa para brindar a niñas jóvenes de entornos desfavorecidos habilidades de alfabetización en IA para promover la equidad digital.
• Telefono Azzurro (IT): apoyo a AzzurroChat, una plataforma de salud mental y bienestar digital basada en IA para adolescentes.
• UNICRI Centre for AI and Robotics: apoyo a la alfabetización en IA para maestros y escuelas a nivel global.

Estas contribuciones más recientes se basan en el enfoque global más amplio de OpenAI sobre la seguridad de la juventud, incluidos nuestros principios para menores de 18 años para el comportamiento del modelo, el modelo de predicción de edad, los controles parentales y los recursos para familias. Nuestro enfoque está informado por expertos, incluido el Consejo de Expertos sobre Bienestar e IA y la Red Global de Médicos. 

En Europa, estamos trabajando con gobiernos e instituciones a través de Educación para países para implementar la IA de manera responsable en la educación, y con la Universidad de Tartu en Estonia para apoyar la investigación sobre la medición de los resultados de aprendizaje con IA. Fuimos miembros fundadores de la coalición Beneficial AI for Children, y nos unimos a líderes en el Vaticano para respaldar una declaración⁠(se abre en una nueva ventana) sobre los derechos y la dignidad de los niños en el contexto de la IA.

La seguridad de la juventud es un trabajo continuo. Estamos comprometidos con establecer sólidas protecciones para adolescentes y mejorarlas con el tiempo para brindar un mejor apoyo a adolescentes y familias.