Compartimos una actualización de nuestra Especificación del modelo, el conjunto escrito de reglas, valores y expectativas de comportamiento que guía cómo queremos que se comporten nuestros modelos de IA, especialmente en situaciones difíciles o de alto riesgo, con nuevos Principios para Menores de 18 Años (U18)(se abre en una ventana nueva). El comportamiento del modelo es fundamental para la interacción de las personas con la IA, y los adolescentes tienen necesidades de desarrollo distintas a las de los adultos.
Los Principios U18 guían cómo ChatGPT debe ofrecer una experiencia segura y apropiada para adolescentes de 13 a 17 años. Basado en la ciencia del desarrollo, este enfoque prioriza la prevención, la transparencia y la intervención temprana. Al desarrollar estos principios, los hemos revisado con expertos externos, incluida la Asociación Americana de Psicología, como parte de nuestro trabajo continuo para recabar aportaciones que refuercen nuestro enfoque.
Aunque los principios de la Especificación del modelo siguen aplicándose tanto a usuarios adultos como adolescentes, esta actualización aclara cómo se aplican en contextos de adolescentes, especialmente en los casos en que las consideraciones de seguridad para menores pueden ser más pertinentes.
Los Principios U18 se fundamentan en cuatro compromisos rectores:
- Priorizar la seguridad de los adolescentes, incluso cuando pueda entrar en conflicto con otros objetivos.
- Fomentar el apoyo en el mundo real, promoviendo las relaciones presenciales y los recursos de confianza.
- Tratar a los adolescentes como adolescentes, sin ser condescendientes con ellos ni tratarlos como adultos.
- Ser transparentes, estableciendo expectativas claras.
De acuerdo con nuestro Plan de seguridad para adolescentes, estos principios han guiado nuestro trabajo en la seguridad de los adolescentes hasta la fecha, incluidas las protecciones de contenido que aplicamos a los usuarios que nos indican que son menores de 18 años al registrarse, y mediante controles parentales. En estos contextos, hemos implementado medidas de seguridad para guiar al modelo a tener especial cuidado al abordar áreas de mayor riesgo, como las autolesiones y el suicidio, los juegos de rol románticos o sexualizados, el contenido gráfico o explícito, las actividades y sustancias peligrosas, la imagen corporal y los trastornos alimentarios, y las solicitudes de mantener en secreto comportamientos peligrosos.
La Asociación Americana de Psicología, que revisó un borrador inicial de la Especificación del modelo U18 y ofreció importantes perspectivas a largo plazo, tiene clara la importancia de proteger a los adolescentes:
«La APA anima a los desarrolladores de IA a ofrecer precauciones adecuadas para el desarrollo de los usuarios jóvenes de sus productos y a adoptar un enfoque más protector para los usuarios de menor edad. Los niños y adolescentes pueden beneficiarse de las herramientas de IA si se equilibran con interacciones humanas que, según la ciencia, son fundamentales para el desarrollo social, psicológico, conductual e incluso biológico. Las experiencias de los jóvenes con la IA deben supervisarse minuciosamente y discutirse con adultos de confianza para fomentar una revisión crítica de lo que ofrecen los bots de IA y estimular el desarrollo del pensamiento independiente y las habilidades de los jóvenes».
Esta actualización también aclara cómo debe responder el asistente cuando surjan preocupaciones de seguridad relacionadas con los adolescentes. Esto significa que los adolescentes deberían encontrar medidas de protección más sólidas, alternativas más seguras y estímulos para buscar apoyo de confianza en el mundo real cuando las conversaciones se adentren en territorios de mayor riesgo. Cuando exista un riesgo inminente, se insta a los adolescentes a ponerse en contacto con los servicios de emergencia o los recursos de crisis.
Al igual que el resto de la Especificación del modelo, los Principios U18 reflejan el comportamiento deseado de nuestro modelo. Seguiremos perfeccionándolos a medida que incorporemos nuevas investigaciones, aportaciones de expertos y uso en el mundo real.
Además de actualizar la Especificación del modelo, hemos adoptado un enfoque en múltiples capas para reforzar la seguridad de los adolescentes en ChatGPT, que abarca medidas de protección del producto, apoyo familiar y orientación de expertos.
Desde la implantación de los controles parentales(se abre en una ventana nueva), hemos ampliado las protecciones a nuevos productos, como los chats en grupo, el navegador ChatGPT Atlas y la aplicación Sora. Estas actualizaciones ayudan a las familias a personalizar la experiencia de sus hijos adolescentes en ChatGPT a medida que introducimos nuevos productos y funciones.
De acuerdo con la orientación de los expertos, fomentamos el diálogo continuo entre las familias y los adolescentes sobre el uso saludable y responsable de la IA en la familia. Para apoyar estas conversaciones, hemos añadido nuevos recursos revisados por expertos al centro de recursos para familias(se abre en una ventana nueva), entre los que se incluyen una Guía familiar para ayudar a los adolescentes a utilizar la IA de forma responsable(se abre en una ventana nueva) y consejos para familias(se abre en una ventana nueva) sobre cómo hablar con sus hijos sobre la IA, que han sido revisados por ConnectSafely y los miembros de nuestro Consejo de Expertos en Bienestar e IA. Seguiremos añadiendo más recursos con el tiempo. También apoyamos el uso saludable directamente en el producto, con recordatorios de descanso integrados durante las sesiones largas para ayudar a que el tiempo que pasas con ChatGPT sea intencionado y equilibrado.
Nuestro trabajo en materia de seguridad de los adolescentes se guía por una estrecha colaboración con expertos de diversas disciplinas y especialidades. En octubre, creamos un Consejo de Expertos en Bienestar e IA para ayudar a asesorar y definir cómo deben ser las interacciones saludables con la IA para todas las edades. Ese trabajo ha servido de base para las directrices sobre controles parentales y notificaciones a las familias. También incorporamos experiencia clínica a través de nuestra Red Global de Médicos para informar la investigación sobre seguridad y evaluar el comportamiento del modelo, incluida la mejora de la forma en que ChatGPT reconoce el malestar y guía a las personas hacia la atención profesional cuando es necesario. Hemos construido sobre estos cimientos con GPT‑5.2, y también hemos ampliado el acceso a la asistencia en el mundo real mediante la aparición de líneas de ayuda localizadas en ChatGPT y Sora a través de nuestra colaboración con ThroughLine.(se abre en una ventana nueva)
Estamos en las primeras fases de la implantación de un modelo de predicción de la edad(se abre en una ventana nueva) en los planes para consumidores de ChatGPT. Esto nos ayudará a aplicar automáticamente medidas de protección para adolescentes cuando consideremos que una cuenta pertenece a un menor. Si no tenemos certeza sobre la edad de alguien o disponemos de información incompleta, aplicaremos por defecto la experiencia para menores de 18 años y ofreceremos a los adultos formas de verificar su edad.
El refuerzo de la seguridad de los adolescentes es un trabajo continuo y seguiremos mejorando los controles parentales y las capacidades del modelo, ampliando los recursos para familias y colaborando con organizaciones, investigadores y socios expertos, como el Consejo de Bienestar y la Red Global de Médicos.
Nos comprometemos a crear protecciones sólidas para los adolescentes y a mejorarlas con el tiempo para apoyar mejor a los adolescentes y a las familias.
