Impulsar la seguridad y las oportunidades para jóvenes mediante el liderazgo global

La IA puede ser una herramienta poderosa para los jóvenes. Puede ayudar a los estudiantes a comprender un concepto difícil, practicar un nuevo idioma, prepararse para una entrevista de trabajo, explorar ideas creativas o aprender una nueva habilidad. Así como el movimiento de alfabetización que se extendió por todo el mundo a mediados del siglo XX requirió la distribución masiva de texto impreso y acceso a docentes capacitados, hoy brindar acceso a una IA segura abrirá nuevas oportunidades para el aprendizaje personalizado, ayudará a reducir barreras para las comunidades desatendidas y aumentará la preparación de la fuerza laboral.

Dado que los beneficios potenciales son tan significativos, es esencial que los jóvenes puedan acceder a la IA de maneras seguras, adecuadas para su edad y que apoyen un desarrollo saludable. Esa responsabilidad no debería recaer principalmente en los padres ni en los propios jóvenes. Las empresas, incluida OpenAI, tienen la responsabilidad de crear productos con salvaguardas adecuadas de forma predeterminada, al tiempo que empoderan a las familias con herramientas e información para orientar cómo se usa la IA.

Cuando los jefes de Estado se reúnan en la Cumbre de Líderes del G7 en Évian, Francia, a finales de este mes, la seguridad de los jóvenes en la IA será un tema central. OpenAI participará para analizar una mayor colaboración en seguridad de los jóvenes, cómo podemos trabajar juntos para elevar los estándares de la industria y el nuevo llamado de OpenAI a establecer un instituto internacional de seguridad para jóvenes.

La Cumbre de Líderes del G7 representa una oportunidad poco común para la coordinación global en materia de seguridad de los jóvenes. Pero un instituto dedicado proporcionaría la continuidad y el seguimiento necesarios más allá de una sola cumbre, y ayudaría a gobiernos, investigadores, sociedad civil e industria a seguir trabajando juntos para compartir evidencia, desarrollar orientación y elevar los estándares con el tiempo.

Hay varias formas creíbles de hacerlo: mediante un nuevo instituto internacional o al otorgar a un instituto nacional de IA existente o recién creado un mandato global para compartir investigación, evidencia y orientación con socios de todo el mundo. Lo más importante es la función que cumple. La seguridad de los jóvenes en la IA requiere atención sostenida, evidencia confiable y orientación práctica que pueda seguir el ritmo de la tecnología.

Un instituto de este tipo puede basarse en iniciativas emergentes, como el Instituto de Seguridad de IA para Jóvenes de Common Sense Media, apoyado por la Fundación OpenAI, así como en colaboraciones prácticas con educadores, incluido el trabajo de OpenAI con la Federación Estadounidense de Maestros⁠. También debería aprovechar implementaciones en el mundo real, como el despliegue nacional de ChatGPT en escuelas de Estonia, donde OpenAI trabaja con Stanford e investigadores estonios para estudiar el impacto e informar un uso más seguro y eficaz en el aprendizaje.

OpenAI celebra la oportunidad de trabajar con el Gobierno francés, otros gobiernos del G7 y socios de la sociedad civil, la academia y la industria en esta labor vital, y de elevar los estándares globales en seguridad de los jóvenes.

Creemos que los marcos sólidos de seguridad de los jóvenes en la IA, incluido cualquier acuerdo potencial alcanzado en las reuniones del G7, deben guiarse por los principios que presentamos aquí.

1. Las empresas deberían saber cuándo un usuario es menor de edad y aplicar protecciones adecuadas para su edad. Esto significa exigir a los proveedores que usen medios como la estimación de edad eficaz y respetuosa de la privacidad para distinguir a los menores de los adultos, y aplicar salvaguardas protectoras de forma predeterminada cuando no se pueda determinar la edad de un usuario. Sin esta base, incluso las protecciones para jóvenes mejor intencionadas podrían no llegar a los jóvenes a quienes buscan proteger.
2. Las empresas deberían evaluar regularmente tanto los riesgos como los beneficios para los jóvenes y tomar medidas para abordarlos, antes de que ocurra un daño. Esto significa exigir a los proveedores que completen evaluaciones anuales de riesgos de seguridad para jóvenes e implementen salvaguardas proporcionales según los riesgos que identifiquen. Estas evaluaciones deberían considerar los riesgos para los jóvenes en función de su etapa de desarrollo, la evidencia empírica del uso real y la investigación u orientación normativa pertinente. Las evaluaciones deberían considerar no solo los posibles daños, sino también si la IA está apoyando resultados positivos como el aprendizaje, la creatividad, el desarrollo de habilidades y el acceso a oportunidades.
3. Los padres, madres y tutores deberían contar con controles accesibles y fáciles de usar para ayudarlos a orientar las experiencias de sus hijos, al tiempo que apoyan una independencia adecuada para su edad. Estos deberían incluir herramientas para administrar configuraciones clave, como memoria, uso de datos y límites de tiempo. Las herramientas parentales deberían promocionarse activamente para que los padres sepan que existen y entiendan cómo usarlas. 
4. Las familias merecen información clara y comprensible sobre cómo las empresas protegen a los usuarios jóvenes, así como información significativa sobre los beneficios y riesgos del uso de la IA por parte de los jóvenes. Las empresas deberían publicar políticas de seguridad que expliquen qué salvaguardas existen para proteger a los jóvenes, las herramientas parentales disponibles y cómo se actualizan las protecciones a medida que evolucionan los riesgos. Esta transparencia genera confianza y ayuda a los padres a tomar decisiones informadas.
5. Las empresas deberían contar con protocolos claros para abordar situaciones graves de seguridad, como autolesiones, explotación, captación de menores con fines sexuales, contenido sexualmente explotador y otras interacciones de alto riesgo. Estos deberían incluir apoyo dentro del servicio, derivaciones a recursos adecuados y notificaciones oportunas a los padres cuando corresponda. Las empresas también deberían diseñar sus sistemas para evitar que generen contenido inseguro o inadecuado para el desarrollo de niños, incluido material sexual o violento explícito.  
6. Los sistemas de IA usados por jóvenes deberían diseñarse para apoyar el aprendizaje, el desarrollo y las relaciones en el mundo real, no para reemplazarlos. La IA debería servir como una herramienta que ayude a los jóvenes a aprender, crear, desarrollar habilidades y prepararse para el futuro. Al mismo tiempo, las empresas deberían establecer límites claros en áreas donde el desarrollo saludable depende del juicio humano, las relaciones en el mundo real y el apoyo profesional.
7. La información personal de los menores debe protegerse. Esto significa prohibir la publicidad dirigida a jóvenes que invada la privacidad e impedir que las empresas vendan información personal.
8. Los marcos de seguridad de los jóvenes deberían promover oportunidades, alfabetización y protección. Los jóvenes deberían tener acceso a herramientas de IA que apoyen el aprendizaje, la creatividad, el desarrollo de habilidades y las oportunidades futuras, y al mismo tiempo contar con los conocimientos y las habilidades de pensamiento crítico necesarios para usar la IA de forma segura y responsable. Esto incluye promover la alfabetización en IA y ayudar a los jóvenes a comprender las oportunidades y limitaciones de los sistemas de IA, para que puedan participar con confianza y responsabilidad en espacios digitales.
9. Los mecanismos sólidos de rendición de cuentas, incluidas auditorías independientes, son esenciales para garantizar que estas protecciones sean significativas en la práctica. Las auditorías deberían estar respaldadas por un conjunto de estándares comunes que permitan auditorías interoperables entre jurisdicciones. Los marcos legislativos deberían incluir medidas de supervisión y cumplimiento que permitan a los gobiernos evaluar si las empresas están implementando eficazmente las salvaguardas de seguridad para jóvenes, mitigando los riesgos identificados y cumpliendo las obligaciones de seguridad y privacidad para jóvenes.

Los principios se reflejan en la forma en que creamos y operamos ChatGPT, desde el comportamiento del modelo y el diseño de productos hasta el aporte de expertos y el apoyo en el mundo real. Hemos reforzado las salvaguardas para usuarios menores de 18 años, lanzado controles parentales⁠ con notificaciones proactivas y sistemas avanzados de predicción de edad⁠ para que ChatGPT pueda aplicar protecciones más sólidas cuando alguien podría ser menor de 18 años. Nuestras especificaciones del modelo, que describen cómo deberían comportarse nuestros modelos, también incluyen principios dedicados para usuarios menores de 18 años⁠(se abre en una nueva ventana), con prioridad en la seguridad de adolescentes, las experiencias adecuadas para la edad, el apoyo en el mundo real y expectativas claras. En la práctica, esto significa límites de seguridad más sólidos en torno a autolesiones, actividades peligrosas, contenido explícito, imagen corporal y secretismo, junto con el aliento a buscar apoyo de confianza fuera de línea o recursos de crisis cuando sea necesario. Cuando la edad es incierta, aplicamos de forma predeterminada salvaguardas más sólidas.

La IA diseñada con salvaguardas sólidas y ofrecida con orientación clara, y con apoyo de familias y educadores, puede ayudar a los jóvenes a beneficiarse de forma segura de herramientas que amplían el aprendizaje, la creatividad y las oportunidades. La IA puede ayudar a los estudiantes a comprender conceptos difíciles, practicar idiomas, mejorar su escritura, aprender a programar, organizar investigaciones, explorar ideas creativas y prepararse para trabajos que ya están cambiando. A través de Educación para Países⁠, OpenAI trabaja con gobiernos y educadores en implementaciones basadas en investigación, herramientas de aprendizaje localizadas y capacitación docente para que la adopción de la IA se base en evidencia y necesidades reales del aula. Este trabajo ya está apoyando iniciativas nacionales de educación con nuestros países socios, incluidos Estonia⁠, Grecia⁠ y Singapur⁠.

Además de participar en la Cumbre de Líderes, llevaremos el Foro de OpenAI⁠(se abre en una nueva ventana) a París para convocar una conversación práctica sobre cómo gobiernos, investigadores, sociedad civil, educadores e industria pueden convertir objetivos compartidos de seguridad de los jóvenes en salvaguardas, estándares y prácticas de implementación concretos. La embajadora de Francia para IA y Asuntos Digitales, Clara Chappaz, se unirá al director de Asuntos globales de OpenAI, Chris Lehane, a líderes de seguridad juvenil de iRaise/Everyone.AI y a otros expertos en una conversación sobre cómo los jóvenes pueden beneficiarse de la IA y, al mismo tiempo, reducir los riesgos.