Promover la seguridad y las oportunidades de los jóvenes mediante el liderazgo global

La IA puede ser una herramienta poderosa para los jóvenes. Puede ayudar a los estudiantes a entender un concepto difícil, practicar un nuevo idioma, prepararse para una entrevista de trabajo, explorar ideas creativas o aprender una nueva habilidad. Así como el movimiento de alfabetización que se extendió por todo el mundo a mediados del siglo XX requirió la distribución masiva de texto impreso y acceso a docentes formados, hoy proporcionar acceso a una IA segura abrirá nuevas oportunidades para el aprendizaje personalizado, ayudará a reducir barreras para las comunidades desatendidas y aumentará la preparación de la fuerza laboral.

Dado que los posibles beneficios son tan significativos, es esencial que los jóvenes puedan acceder a la IA de formas seguras, adecuadas a su edad y que favorezcan un desarrollo saludable. Esa responsabilidad no debe recaer principalmente en los padres ni en los propios jóvenes. Las empresas, incluida OpenAI, tienen la responsabilidad de crear productos con salvaguardas adecuadas por defecto, al tiempo que ofrecen a las familias herramientas e información para orientar cómo se usa la IA.

Cuando los jefes de Estado se reúnan en la Cumbre de Líderes del G7 en Évian, Francia, a finales de este mes, la seguridad de los jóvenes en la IA será un tema central. OpenAI participará para abordar una mayor colaboración en seguridad de los jóvenes, cómo podemos trabajar juntos para elevar los estándares del sector y el nuevo llamamiento de OpenAI para crear un instituto internacional de seguridad de los jóvenes.

La Cumbre de Líderes del G7 representa una oportunidad poco habitual para la coordinación global en materia de seguridad de los jóvenes. Pero un instituto específico proporcionaría la continuidad y el seguimiento necesarios más allá de una única cumbre, ayudando a gobiernos, investigadores, sociedad civil e industria a seguir trabajando juntos para compartir evidencias, desarrollar orientaciones y elevar los estándares con el tiempo.

Hay varias formas creíbles de hacerlo: mediante un nuevo instituto internacional, o dando a un instituto nacional de IA existente o de nueva creación un mandato global para compartir investigación, evidencias y orientaciones con socios de todo el mundo. Lo más importante es la función que cumple. La seguridad de los jóvenes en la IA necesita atención sostenida, evidencias fiables y orientaciones prácticas que puedan seguir el ritmo de la tecnología.

Un instituto de este tipo puede basarse en iniciativas emergentes como el Youth AI Safety Institute de Common Sense Media, apoyado por la OpenAI Foundation, así como en colaboraciones prácticas con educadores, incluido el trabajo de OpenAI con la American Federation of Teachers⁠. También debe nutrirse de despliegues en el mundo real, como el lanzamiento nacional de ChatGPT en las escuelas de Estonia, donde OpenAI trabaja con Stanford e investigadores estonios para estudiar el impacto y orientar un uso más seguro y eficaz en el aprendizaje.

OpenAI acoge con satisfacción la oportunidad de trabajar con el Gobierno francés, otros gobiernos del G7 y socios de la sociedad civil, el mundo académico y la industria en esta labor vital y para elevar los estándares globales sobre seguridad de los jóvenes.

Creemos que los marcos sólidos de seguridad de los jóvenes en la IA, incluido cualquier posible acuerdo alcanzado en las reuniones del G7, deben guiarse por los principios que exponemos aquí.

1. Las empresas deben saber cuándo un usuario es menor de edad y aplicar protecciones adecuadas a su edad. Esto significa exigir a los proveedores que utilicen medios como una estimación eficaz de la edad que preserve la privacidad para distinguir a los menores de los adultos, y aplicar por defecto salvaguardas protectoras cuando no pueda determinarse la edad de un usuario. Sin esta base, incluso las protecciones para jóvenes mejor intencionadas pueden no llegar a los jóvenes a los que pretenden proteger.
2. Las empresas deben evaluar periódicamente tanto los riesgos como los beneficios para los jóvenes y tomar medidas para abordarlos antes de que se produzcan daños. Esto significa exigir a los proveedores que completen evaluaciones anuales de riesgos para la seguridad de los jóvenes e implementen salvaguardas proporcionales en función de los riesgos que identifiquen. Dichas evaluaciones deben considerar los riesgos para los jóvenes según su etapa de desarrollo, la evidencia empírica procedente del uso real y la investigación u orientación normativa pertinente. Las evaluaciones deben considerar no solo los posibles daños, sino también si la IA está apoyando resultados positivos como el aprendizaje, la creatividad, el desarrollo de habilidades y el acceso a oportunidades.
3. Los padres, madres y tutores deben contar con controles accesibles y fáciles de usar para ayudarles a guiar las experiencias de sus hijos, al tiempo que apoyan una independencia adecuada a su edad. Estos deben incluir herramientas para gestionar ajustes clave, como la memoria, el uso de datos y los límites de tiempo. Las herramientas parentales deben promoverse activamente para que las familias sepan que existen y entiendan cómo usarlas. 
4. Las familias merecen información clara y comprensible sobre cómo las empresas protegen a los usuarios jóvenes, así como información significativa sobre los beneficios y riesgos del uso de la IA por parte de los jóvenes. Las empresas deben publicar políticas de seguridad que expliquen qué salvaguardas existen para proteger a los jóvenes, qué herramientas parentales están disponibles y cómo se actualizan las protecciones a medida que evolucionan los riesgos. Esta transparencia genera confianza y ayuda a los padres a tomar decisiones informadas.
5. Las empresas deben contar con protocolos claros para abordar situaciones graves de seguridad, como autolesiones, explotación, grooming, contenido de explotación sexual y otras interacciones de alto riesgo. Estos deben incluir apoyo dentro del servicio, derivaciones a recursos adecuados y notificaciones oportunas a los padres cuando corresponda. Las empresas también deben diseñar sus sistemas para impedir que generen contenido inseguro o inadecuado para el desarrollo de los menores, incluido material sexual o violento explícito.  
6. Los sistemas de IA usados por jóvenes deben diseñarse para apoyar el aprendizaje, el desarrollo y las relaciones en el mundo real, no para sustituirlos. La IA debe servir como herramienta que ayude a los jóvenes a aprender, crear, desarrollar habilidades y prepararse para el futuro. Al mismo tiempo, las empresas deben establecer límites claros en ámbitos en los que el desarrollo saludable depende del criterio humano, las relaciones en el mundo real y el apoyo profesional.
7. La información personal de los menores debe protegerse. Esto significa prohibir la publicidad dirigida a jóvenes que invada la privacidad e impedir que las empresas vendan información personal.
8. Los marcos de seguridad de los jóvenes deben promover oportunidades, alfabetización y protección. Los jóvenes deben tener acceso a herramientas de IA que apoyen el aprendizaje, la creatividad, el desarrollo de habilidades y las oportunidades futuras, al tiempo que adquieren los conocimientos y las habilidades de pensamiento crítico necesarios para usar la IA de forma segura y responsable. Esto incluye promover la alfabetización en IA y ayudar a los jóvenes a comprender las oportunidades y limitaciones de los sistemas de IA, para que puedan participar con confianza y responsabilidad en los espacios digitales.
9. Los mecanismos sólidos de rendición de cuentas, incluidas auditorías independientes, son esenciales para garantizar que estas protecciones sean significativas en la práctica. Las auditorías deben sustentarse en un conjunto de estándares comunes que permitan auditorías interoperables entre jurisdicciones. Los marcos legislativos deben incluir medidas de supervisión y aplicación que permitan a los gobiernos evaluar si las empresas están implementando eficazmente las salvaguardas de seguridad de los jóvenes, mitigando los riesgos identificados y cumpliendo las obligaciones de seguridad y privacidad de los jóvenes.

Estos principios se reflejan en cómo creamos y operamos ChatGPT, desde el comportamiento del modelo y el diseño del producto hasta las aportaciones de expertos y el apoyo en el mundo real. Hemos reforzado las salvaguardas para usuarios menores de 18 años, lanzado Controles parentales⁠ con notificaciones proactivas y sistemas avanzados de predicción de la edad⁠ para que ChatGPT pueda aplicar protecciones más sólidas cuando alguien pueda ser menor de 18 años. Nuestras especificaciones del modelo, que describen cómo deben comportarse nuestros modelos, también incluyen principios específicos para usuarios menores de 18 años⁠(se abre en una ventana nueva), priorizando la seguridad de los adolescentes, las experiencias adecuadas a la edad, el apoyo en el mundo real y expectativas claras. En la práctica, esto significa barreras de protección más sólidas frente a autolesiones, actividades peligrosas, contenido explícito, imagen corporal y secretismo, junto con el estímulo de buscar apoyo offline de confianza o recursos de crisis cuando sea necesario. Cuando la edad es incierta, aplicamos por defecto salvaguardas más sólidas.

La IA diseñada con salvaguardas sólidas y ofrecida con orientación clara, así como con apoyo de familias y educadores, puede ayudar a los jóvenes a beneficiarse de forma segura de herramientas que amplían el aprendizaje, la creatividad y las oportunidades. La IA puede ayudar a los estudiantes a entender conceptos difíciles, practicar idiomas, mejorar su escritura, aprender a programar, organizar investigaciones, explorar ideas creativas y prepararse para empleos que ya están cambiando. A través de Education for Countries⁠, OpenAI trabaja con gobiernos y educadores en despliegues basados en la investigación, herramientas de aprendizaje localizadas y formación docente para que la adopción de la IA se base en evidencias y en necesidades reales del aula. Este trabajo ya está apoyando esfuerzos educativos nacionales con nuestros países socios, entre ellos Estonia⁠, Grecia⁠ y Singapur⁠.

Además de participar en la Cumbre de Líderes, llevaremos el OpenAI Forum⁠(se abre en una ventana nueva) a París para convocar una conversación práctica sobre cómo gobiernos, investigadores, sociedad civil, educadores e industria pueden convertir objetivos compartidos de seguridad de los jóvenes en salvaguardas, estándares y prácticas de implementación concretos. La embajadora de Francia para la IA y Asuntos Digitales, Clara Chappaz, se unirá al Chief Global Affairs Officer de OpenAI, Chris Lehane, a líderes de seguridad de los jóvenes de iRaise/Everyone.AI y a otros expertos para debatir cómo los jóvenes pueden beneficiarse de la IA reduciendo al mismo tiempo los riesgos.