Por qué los adolescentes merecen acceso a una IA segura

Los adolescentes son la primera generación que crece con la IA, y esta tecnología influirá profundamente en su futuro. Hoy, casi 9 de cada 10 adolescentes que usan ChatGPT lo emplean en una sola semana para aprender, informarse, desarrollar habilidades o ser más productivos. Por eso creemos que es fundamental que los adolescentes tengan acceso a la IA. Impedir que los adolescentes la usen hasta la edad adulta sería como pedir a una generación anterior que evitara internet o los motores de búsqueda hasta cumplir los 18 años, dejándolos menos preparados para utilizar una de las tecnologías definitorias de su tiempo. Pero ese acceso debe ir acompañado de protecciones diseñadas específicamente para adolescentes.

Durante una reciente sesión de OpenAI Academy⁠(se abre en una ventana nueva), Oriana McKenzie contó cómo ChatGPT la ayudó a convertirse en la n.º 1 de su clase en el instituto estudiando de forma más inteligente y gestionando su carga de trabajo, lo que le dio el tiempo que necesitaba para los deportes y programas escolares que le apasionan. Su historia muestra lo que es posible cuando los adolescentes tienen acceso a una IA que les ayuda a aprender y crear.

Para maximizar esos beneficios, los adolescentes necesitan protecciones más sólidas diseñadas para su etapa vital, incluidas medidas de seguridad automatizadas que les permitan explorar, aprender y crear con confianza, a la vez que ofrecen salvaguardas adaptadas a su edad. A medida que la IA se vuelve más capaz, nuestra responsabilidad es combinar un acceso amplio con protecciones adecuadas para cada edad que permitan a los adolescentes beneficiarse de esta tecnología conforme evoluciona.

Durante el último año, eso ha implicado reforzar las protecciones predeterminadas para adolescentes, implementar la predicción de edad⁠, ampliar los Controles parentales⁠, crear recursos familiares⁠(se abre en una ventana nueva) adicionales para ayudar a los padres a fomentar un uso saludable y responsable, e introducir funciones de aprendizaje que ayuden a desarrollar una comprensión más profunda en lugar de limitarse a dar respuestas.

Nuestro trabajo se guía por cuatro compromisos clave⁠:

• Ponemos la seguridad de los adolescentes en primer lugar, incluso cuando pueda entrar en conflicto con otros objetivos.
• Fomentamos el apoyo en el mundo real en momentos de necesidad.
• Tratamos a los adolescentes como adolescentes.
• Somos transparentes al establecer expectativas claras.

El aprendizaje es una de las formas más claras en que los adolescentes se benefician de la IA, por eso estamos creando herramientas que fomentan la participación activa, el pensamiento crítico y una comprensión más profunda. El Modo de estudio⁠(se abre en una ventana nueva) se diseñó en colaboración con docentes, científicos del aprendizaje y expertos en pedagogía para ayudar a los estudiantes a resolver problemas paso a paso mediante preguntas orientativas, explicaciones estructuradas y oportunidades de reflexión, sin limitarse a proporcionar la respuesta. La evaluación inicial de herramientas como el Modo de estudio ha mostrado mejoras prometedoras en el rendimiento de los estudiantes⁠, lo que ayuda a orientar nuestra investigación más amplia sobre cómo la IA puede apoyar los resultados de aprendizaje.

Aunque los adolescentes pueden activar este modo por sí mismos, ahora los padres con cuentas de adolescentes vinculadas pueden activar el Modo de estudio⁠ directamente desde los Controles parentales⁠. Cuando está activado, se aplica de forma predeterminada cada vez que un adolescente inicia un nuevo chat, lo que da a las familias otra forma de orientar el uso de ChatGPT para las tareas escolares y el estudio.

También hemos introducido recientemente prompts iniciales educativos para adolescentes, de modo que sea más fácil empezar con tareas como desglosar un tema en pasos sencillos, convertir apuntes en una guía de estudio, crear tarjetas de memoria o preguntas de práctica, y comprobar la evidencia y la claridad.

También seguimos ampliando las experiencias de aprendizaje interactivas⁠. La investigación ha demostrado de forma constante⁠ que las personas aprenden de manera más eficaz cuando pueden interactuar activamente con los conceptos, en lugar de consumir información de forma pasiva. Desde su lanzamiento a principios de este año, 18 millones de usuarios semanales ya utilizan experiencias interactivas de matemáticas y ciencias en ChatGPT, y hemos ampliado esas experiencias a más de 250 temas nuevos, desde integrales y mitosis hasta fases lunares, fotosíntesis y más. También presentamos una experiencia de pronunciación que usa audio para ayudar a las personas a aprender a pronunciar palabras en más de 61 idiomas.

Si nuestro sistema estima que alguien que usa ChatGPT es menor de 18 años,⁠ proporcionamos automáticamente una experiencia más adecuada para su edad⁠(se abre en una ventana nueva). Los adolescentes pueden seguir usando ChatGPT para aprender, crear y explorar, pero con protecciones adicionales diseñadas para reducir la exposición a contenido que podría no ser apropiado para ellos. Esto incluye salvaguardas más sólidas frente a violencia gráfica, autolesiones, retos virales peligrosos, contenido nocivo sobre imagen corporal y juegos de rol peligrosos, románticos o sexuales. El principio rector es ayudar a garantizar que ChatGPT siga siendo una herramienta para el aprendizaje y la creatividad, y no un sustituto de las relaciones en el mundo real.

También estamos diseñando ChatGPT para fomentar hábitos saludables. Los adolescentes que pasen periodos prolongados en ChatGPT recibirán ahora recordatorios de descanso⁠ más frecuentes que les animan a hacer una pausa y desconectar. Estos recordatorios buscan ayudar a los jóvenes a desarrollar hábitos tecnológicos equilibrados, sin dejar de darles libertad para usar la IA con fines de aprendizaje, creatividad y resolución de problemas.

Creemos que las mejores herramientas de seguridad pueden ayudar a las familias a acompañar juntas las experiencias en línea de los adolescentes. Creamos Controles parentales y notificaciones⁠ que les permiten establecer horas de desconexión, desactivar el modo de voz, gestionar el acceso a la generación de imágenes y recibir notificaciones en ciertas situaciones de alto riesgo, como indicios de posibles autolesiones.

Estamos ampliando esas notificaciones para incluir casos en los que una cuenta vinculada de un adolescente se haya desactivado por infringir nuestras políticas de uso⁠ en relación con amenazas violentas o actos de violencia en línea. Este enfoque ayuda a los padres a saber cuándo ha ocurrido algo grave, a la vez que respeta la privacidad de los adolescentes y fomenta conversaciones y apoyo fuera de internet.

Al desarrollar estas funciones, consultamos a varios expertos, entre ellos Moonshot⁠(se abre en una ventana nueva), referente en la prevención de la violencia en línea, para ayudar a garantizar que estas intervenciones sean reflexivas, eficaces y estén centradas en ayudar a las familias a responder en momentos de necesidad.

También queremos garantizar que padres, adolescentes y educadores cuenten con orientaciones claras sobre cómo usar la IA de la forma más responsable. Publicamos recursos educativos en más de 50 idiomas, entre ellos Guía familiar para ayudar a los adolescentes a usar la IA de forma responsable⁠(se abre en una ventana nueva), Consejos para hablar con tu hijo adolescente sobre la IA⁠(se abre en una ventana nueva) y Consejos para padres que usan ChatGPT⁠(se abre en una ventana nueva).

Mantener a los jóvenes seguros en línea no es algo que pueda resolver una sola empresa por su cuenta. Trabajamos estrechamente con adolescentes, padres, educadores, expertos en seguridad infantil, profesionales de la salud mental, investigadores, gobiernos y organizaciones de la sociedad civil. Estas alianzas nos ayudan a comprender mejor las necesidades de los jóvenes, identificar riesgos emergentes, evaluar la eficacia de nuestras salvaguardas y garantizar que nuestras políticas se basen en conocimientos expertos independientes.

Este trabajo abarca nuestro enfoque tanto del aprendizaje como del bienestar juvenil. Colaboramos con educadores, incluida la American Federation of Teachers⁠, estudiantes y organizaciones de aprendizaje para comprender mejor cómo la IA puede apoyar la enseñanza y el aprendizaje, a la vez que refuerza la participación activa y el pensamiento crítico. También trabajamos estrechamente con expertos de las comunidades de salud mental, desarrollo infantil y seguridad juvenil, incluida la American Psychological Association⁠(se abre en una ventana nueva), nuestra Red global de médicos⁠ y nuestro Consejo de expertos sobre bienestar e IA⁠.

Nuestro trabajo para construir un ecosistema digital más saludable va más allá de nuestros propios productos. Hemos pedido desarrollar estándares globales escalables para la seguridad juvenil en IA⁠ mediante un Instituto de Seguridad de la IA específico, políticas y herramientas de código abierto⁠ que los desarrolladores puedan incorporar a sus propios sistemas de IA, y colaborar con organizaciones como Common Sense Media⁠(se abre en una ventana nueva) y everyone.ai⁠(se abre en una ventana nueva) para compartir aprendizajes y buenas prácticas.

Este año también nos unimos al Family Online Safety Institute⁠(se abre en una ventana nueva) (FOSI), una organización con una larga trayectoria en la defensa de experiencias en línea seguras para familias y jóvenes. Trabajaremos juntos para garantizar que los jóvenes puedan beneficiarse de la IA, con padres empoderados y prácticas responsables de la industria como eje central. Esperamos que esta alianza ayude a avanzar en la comprensión compartida de lo que funciona, refuerce las protecciones adecuadas para cada edad y las herramientas parentales, y apoye esfuerzos en toda la industria que permitan a los jóvenes beneficiarse de la IA de forma segura y responsable.

Proteger a los jóvenes en línea exige avances continuos. En los próximos meses, seguiremos reforzando las protecciones adecuadas para cada edad, dando a los padres más herramientas y control, mejorando las salvaguardas contra daños graves, impulsando la investigación sobre el uso saludable de la IA y creando más experiencias que ayuden a los adolescentes a aprender de forma activa y a usar la IA con confianza.

Sabemos que queda mucho por hacer, y nos comprometemos a continuar nuestro trabajo en colaboración con adolescentes, padres, educadores, expertos y comunidades de todo el mundo para ofrecer a los adolescentes un acceso amplio y seguro.