Por qué los adolescentes merecen acceso a una IA segura

Los adolescentes son la primera generación que crece con la IA, y esta tecnología influirá profundamente en su futuro. Hoy, casi 9 de cada 10 adolescentes que usan ChatGPT lo utilizan para aprender, informarse, desarrollar habilidades o mejorar su productividad en una sola semana. Por eso creemos que es fundamental que los adolescentes tengan acceso a la IA. Impedir que los adolescentes la usen hasta la adultez sería como pedirle a una generación anterior que evitara internet o los motores de búsqueda hasta cumplir 18 años, dejándolos menos preparados para usar una de las tecnologías definitorias de su época. Pero el acceso debe ir acompañado de protecciones diseñadas específicamente para adolescentes.

Durante una reciente sesión de OpenAI Academy⁠(se abre en una nueva ventana), Oriana McKenzie contó cómo ChatGPT la ayudó a convertirse en la número 1 de su clase de secundaria al estudiar de forma más inteligente y gestionar su carga de trabajo, dándole el tiempo que necesitaba para los deportes y programas escolares que le apasionan. Su historia muestra lo que es posible cuando los adolescentes tienen acceso a una IA que los ayuda a aprender y crear.

Para maximizar esos beneficios, los adolescentes necesitan protecciones más sólidas, diseñadas para su etapa de vida, incluidas barreras automatizadas que les permitan explorar, aprender y crear con confianza, con salvaguardas adaptadas a su edad. A medida que la IA se vuelve más capaz, nuestra responsabilidad es combinar un acceso amplio con protecciones adecuadas para la edad que permitan a los adolescentes beneficiarse de esta tecnología conforme evoluciona.

Durante el último año, eso significó reforzar las protecciones predeterminadas para adolescentes, implementar la predicción de edad⁠, ampliar los Controles parentales⁠, crear recursos familiares⁠(se abre en una nueva ventana) adicionales para ayudar a los padres a fomentar un uso saludable y responsable, e introducir funciones de aprendizaje para apoyar una comprensión más profunda en lugar de solo proporcionar respuestas.

Nuestro trabajo se guía por cuatro compromisos clave⁠:

• Ponemos la seguridad de los adolescentes en primer lugar, incluso cuando pueda entrar en conflicto con otros objetivos.
• Fomentamos el apoyo en el mundo real en momentos de necesidad.
• Tratamos a los adolescentes como adolescentes.
• Somos transparentes al establecer expectativas claras.

El aprendizaje es una de las formas más claras en que los adolescentes se benefician de la IA, por eso estamos creando herramientas que fomentan la participación activa, el pensamiento crítico y una comprensión más profunda. El Modo de estudio⁠(se abre en una nueva ventana) se diseñó en colaboración con docentes, científicos del aprendizaje y expertos en pedagogía para ayudar a los estudiantes a resolver problemas paso a paso mediante preguntas orientadoras, explicaciones estructuradas y oportunidades de reflexión, sin limitarse a dar la respuesta. Las evaluaciones iniciales de herramientas como el Modo de estudio han mostrado mejoras prometedoras en el desempeño estudiantil⁠, lo que ayuda a orientar nuestra investigación más amplia sobre cómo la IA puede apoyar los resultados de aprendizaje.

Aunque los adolescentes pueden activar este modo por su cuenta, ahora los padres con cuentas de adolescentes vinculadas pueden activar el Modo de estudio⁠ directamente desde los Controles parentales⁠. Cuando está habilitado, queda activado de forma predeterminada cada vez que un adolescente inicia un nuevo chat, lo que brinda a las familias otra forma de guiar el uso de ChatGPT para las tareas escolares y el estudio.

También presentamos hace poco prompts iniciales enfocados en educación para adolescentes, para que sea más fácil comenzar con tareas como desglosar un tema en pasos simples, convertir apuntes en una guía de estudio, crear tarjetas didácticas o preguntas de práctica, y revisar la evidencia y la claridad.

También seguimos ampliando las experiencias interactivas de aprendizaje⁠. La investigación ha mostrado de forma constante⁠ que las personas aprenden con mayor eficacia cuando pueden interactuar activamente con los conceptos, en lugar de consumir información de manera pasiva. Desde su lanzamiento a principios de este año, 18 millones de usuarios semanales ya interactúan con experiencias de matemáticas y ciencias en ChatGPT, y las hemos ampliado a más de 250 temas nuevos, desde integrales y mitosis hasta fases lunares, fotosíntesis y más. También presentamos una experiencia de pronunciación que usa audio para ayudar a las personas a aprender a pronunciar palabras en más de 61 idiomas.

Si nuestro sistema estima que alguien que usa ChatGPT es menor de 18 años,⁠ proporcionamos automáticamente una experiencia más adecuada para su edad⁠(se abre en una nueva ventana). Los adolescentes aún pueden usar ChatGPT para aprender, crear y explorar, pero con protecciones adicionales diseñadas para reducir la exposición a contenido que puede no ser apropiado para ellos. Eso incluye salvaguardas más sólidas en torno a la violencia gráfica, las autolesiones, los desafíos virales riesgosos, el contenido poco saludable sobre imagen corporal y los juegos de rol peligrosos, románticos o sexuales. Nuestro objetivo guía es ayudar a garantizar que ChatGPT siga siendo una herramienta para el aprendizaje y la creatividad, y no un sustituto de las relaciones del mundo real.

También estamos diseñando ChatGPT para fomentar hábitos saludables. Los adolescentes que pasen períodos prolongados en ChatGPT ahora recibirán recordatorios de descanso⁠ más frecuentes que los animan a pausar y alejarse. Estos recordatorios buscan ayudar a los jóvenes a desarrollar hábitos tecnológicos equilibrados, sin dejar de darles la libertad de usar la IA para aprender, crear y resolver problemas.

Creemos que las mejores herramientas de seguridad pueden ayudar a las familias a acompañar juntas las experiencias en línea de los adolescentes. Creamos controles parentales y notificaciones⁠ que les permiten establecer horarios de descanso, desactivar el modo de voz, gestionar el acceso a la generación de imágenes y recibir notificaciones en ciertas situaciones de alto riesgo, como indicios de posibles autolesiones.

Estamos ampliando esas notificaciones para incluir casos en los que una cuenta de adolescente vinculada haya sido desactivada por violar nuestras políticas de uso⁠ sobre amenazas violentas o actos de violencia en línea. Este enfoque ayuda a los padres a saber cuándo ocurrió algo grave, a la vez que respeta la privacidad de los adolescentes y fomenta conversaciones y apoyo fuera de línea.

Al desarrollar estas funciones, consultamos con varios expertos, incluido Moonshot⁠(se abre en una nueva ventana), líder en la prevención de la violencia en línea, para ayudar a garantizar que estas intervenciones sean cuidadosas, eficaces y estén enfocadas en ayudar a las familias a responder en momentos de necesidad.

También queremos asegurarnos de que padres, adolescentes y educadores tengan orientación clara sobre cómo usar la IA de la mejor manera y con responsabilidad. Publicamos recursos educativos en más de 50 idiomas, incluidos Una guía familiar para ayudar a los adolescentes a usar la IA de manera responsable⁠(se abre en una nueva ventana), Consejos para hablar con tu adolescente sobre la IA⁠(se abre en una nueva ventana) y Consejos para padres que usan ChatGPT⁠(se abre en una nueva ventana).

Mantener a los jóvenes seguros en línea no es algo que una sola empresa pueda resolver por sí sola. Trabajamos de cerca con adolescentes, padres, educadores, expertos en seguridad infantil, profesionales de la salud mental, investigadores, gobiernos y organizaciones de la sociedad civil. Estas alianzas nos ayudan a comprender mejor las necesidades de los jóvenes, identificar riesgos emergentes, evaluar la eficacia de nuestras salvaguardas y garantizar que nuestras políticas estén informadas por experiencia independiente.

Este trabajo abarca nuestro enfoque tanto del aprendizaje como del bienestar de los jóvenes. Colaboramos con educadores, incluida la American Federation of Teachers⁠, estudiantes y organizaciones de aprendizaje para comprender mejor cómo la IA puede apoyar la enseñanza y el aprendizaje, a la vez que refuerza la participación activa y el pensamiento crítico. También trabajamos de cerca con expertos de las comunidades de salud mental, desarrollo infantil y seguridad juvenil, incluidas la American Psychological Association⁠(se abre en una nueva ventana), nuestra Red global de médicos⁠ y nuestro Consejo de expertos sobre bienestar e IA⁠.

Nuestro trabajo para construir un ecosistema digital más saludable va más allá de nuestros propios productos. Hemos pedido desarrollar estándares globales escalables para la seguridad juvenil en IA⁠ a través de un Instituto de Seguridad de IA dedicado, políticas y herramientas de código abierto⁠ que los desarrolladores puedan integrar en sus propios sistemas de IA, y trabajar con organizaciones como Common Sense Media⁠(se abre en una nueva ventana) y everyone.ai⁠(se abre en una nueva ventana) para compartir aprendizajes y mejores prácticas.

Este año también nos sumamos al Family Online Safety Institute⁠(se abre en una nueva ventana) (FOSI), un defensor de larga trayectoria de experiencias en línea seguras para familias y jóvenes. Trabajaremos juntos para garantizar que los jóvenes puedan beneficiarse de la IA, con padres empoderados y prácticas responsables de la industria en el centro. Esperamos que esta alianza ayude a avanzar en una comprensión compartida de lo que funciona, fortalecer las protecciones adecuadas para la edad y las herramientas parentales, y apoyar esfuerzos de toda la industria que permitan a los jóvenes beneficiarse de la IA de forma segura y responsable.

Proteger a los jóvenes en línea requiere progreso continuo. En los próximos meses, seguiremos reforzando las protecciones adecuadas para la edad, ofreciendo a los padres más herramientas y control, mejorando las salvaguardas contra daños graves, impulsando la investigación sobre el uso saludable de la IA y creando más experiencias que ayuden a los adolescentes a aprender de forma activa y usar la IA con confianza.

Sabemos que queda más por hacer, y estamos comprometidos a continuar nuestro trabajo en colaboración con adolescentes, padres, educadores, expertos y comunidades de todo el mundo para ofrecer a los adolescentes un acceso amplio y seguro.