Estamos compartiendo una actualización de nuestra Especificación del Modelo, el conjunto escrito de reglas, valores y expectativas de comportamiento que guía cómo queremos que se comporten nuestros modelos de IA, especialmente en situaciones difíciles o de alto riesgo, con nuevos Principios para Menores de 18 Años (U18)(se abre en una nueva ventana). El comportamiento del modelo es fundamental para la interacción de las personas con la IA, y los adolescentes tienen necesidades de desarrollo distintas a las de los adultos.
Los Principios U18 guían cómo ChatGPT debe ofrecer una experiencia segura y apropiada para adolescentes de 13 a 17 años. Basados en la ciencia del desarrollo, este enfoque prioriza la prevención, la transparencia y la intervención temprana. Al desarrollar estos principios, hicimos una vista previa con expertos externos, incluida la Asociación Americana de Psicología, como parte de nuestro trabajo continuo para buscar resultados y fortalecer nuestro enfoque.
Aunque los principios de la Especificación del Modelo siguen aplicándose tanto a usuarios adultos como adolescentes, esta actualización aclara cómo se aplican estos principios en contextos de adolescentes, especialmente donde las consideraciones de seguridad para menores pueden ser más destacadas.
Los Principios U18 están fundamentados en cuatro compromisos guía:
- Priorizar la seguridad de los adolescentes, incluso cuando pueda entrar en conflicto con otros objetivos
- Fomentar el apoyo en el mundo real al promover relaciones presenciales y recursos de confianza
- Tratar a los adolescentes como adolescentes, sin condescender a ellos ni tratarlos como adultos
- Ser transparente estableciendo expectativas claras
De acuerdo con nuestro Plan de Seguridad para Adolescentes, estos principios han guiado nuestro trabajo en la seguridad de los adolescentes hasta la fecha, incluidas las protecciones de contenido que aplicamos a los usuarios que nos indican que tienen menos de 18 años al registrarse, y mediante controles parentales. En estos contextos, hemos implementado protecciones para guiar al modelo a tener especial cuidado al discutir áreas de alto riesgo, como autolesiones y suicidio, juegos de rol románticos o sexualizados, contenido gráfico o explícito, actividades y sustancias peligrosas, imagen corporal y trastornos alimenticios, y solicitudes para mantener secretos sobre comportamientos inseguros.
La American Psychological Association, que revisó un borrador inicial de las especificaciones del modelo U18 y ofreció importantes perspectivas a largo plazo, es clara sobre la importancia de proteger a los adolescentes:
"La APA anima a los desarrolladores de IA a ofrecer precauciones adecuadas para el desarrollo de los usuarios jóvenes de sus productos y a adoptar un enfoque más protector para los usuarios más pequeños. Los niños y adolescentes podrían beneficiarse de las herramientas de IA si se equilibran con interacciones humanas que, según la ciencia, son fundamentales para el desarrollo social, psicológico, conductual e incluso biológico. Las experiencias de los jóvenes con la IA deben ser supervisadas y discutidas a fondo con adultos de confianza para fomentar una revisión crítica de lo que ofrecen los bots de IA y para alentar el desarrollo del pensamiento independiente y habilidades en los jóvenes".
Esta actualización también aclara cómo debe responder el asistente cuando surjan preocupaciones de seguridad para los adolescentes. Esto significa que los adolescentes deberían encontrar barreras de seguridad más sólidas, alternativas más seguras y un incentivo para buscar apoyo confiable fuera de línea cuando las conversaciones se adentran en territorios de mayor riesgo. Cuando hay un riesgo inminente, se insta a los adolescentes a contactar a los servicios de emergencia o a los recursos de crisis.
Al igual que el resto de las especificaciones del modelo, los Principios U18 reflejan el comportamiento que deseamos para nuestro modelo. Continuaremos refinándolos a medida que integremos nuevas investigaciones, entradas de expertos y el uso en situaciones reales.
Junto con la actualización de las especificaciones del modelo, hemos adoptado un enfoque por capas para fortalecer la seguridad de los adolescentes en ChatGPT, que abarca salvaguardias del producto, apoyo familiar y orientación de expertos.
Desde que lanzamos control parental(se abre en una nueva ventana), hemos extendido las protecciones a nuevos productos, incluidos los Chats grupales, el navegador ChatGPT y la aplicación Sora. Estas actualizaciones ayudan a los padres a adaptar la experiencia de ChatGPT de sus hijos adolescentes mientras presentamos nuevos productos y funciones.
De acuerdo con la orientación de expertos, alentamos las conversaciones continuas entre padres y adolescentes sobre el uso saludable y responsable de la IA en la familia. Para apoyar estas conversaciones, hemos añadido nuevos recursos revisados por expertos al centro de recursos para padres(se abre en una nueva ventana), incluida una Guía Familiar para Ayudar a los Adolescentes a Usar la IA de Manera Responsable(se abre en una nueva ventana) y consejos para padres(se abre en una nueva ventana) sobre cómo hablar con sus hijos acerca de la IA, que fueron revisados por ConnectSafely y miembros de nuestro Consejo de Expertos en Bienestar e Inteligencia Artificial. Con el tiempo, continuaremos incorporando más recursos. También fomentamos el uso saludable directamente en el producto, con recordatorios integrados para tomar descansos durante sesiones prolongadas para ayudar a que el tiempo dedicado a ChatGPT sea intencional y equilibrado.
Nuestro trabajo en la seguridad de los adolescentes está guiada por una estrecha colaboración con expertos de diversas disciplinas y áreas de especialización. En octubre, formamos un Consejo de Expertos en Bienestar e Inteligencia Artificial para ayudar a asesorar y definir cómo deberían ser las interacciones saludables con la IA para todas las edades. Ese trabajo ha proporcionado orientación sobre los controles parentales y las notificaciones para padres. También incorporamos experiencia clínica a través de nuestra Red Global de Médicos para informar la investigación sobre seguridad y evaluar el comportamiento del modelo, incluso mejorar cómo ChatGPT reconoce la angustia y guía a las personas hacia la atención profesional cuando es apropiado. Construimos sobre estos cimientos con GPT‑5.2, y también ampliamos el acceso al soporte en el mundo real al mostrar líneas de ayuda localizadas en ChatGPT y Sora mediante nuestra colaboración con ThroughLine(se abre en una nueva ventana).
Estamos en las primeras etapas de lanzamiento de un modelo de predicción de edad(se abre en una nueva ventana) en los planes de consumo de ChatGPT. Esto nos ayudará a aplicar automáticamente protecciones para adolescentes cuando pensemos que una cuenta pertenece a un menor. Si no estamos seguros de la edad de alguien o tenemos información incompleta, ofreceremos de forma predeterminada la experiencia para menores de 18 años y proporcionaremos a los adultos maneras de verificar su edad.
Fortalecer la seguridad de los adolescentes es un trabajo continuo y seguiremos mejorando los controles parentales y las capacidades del modelo, ampliando los recursos para los padres, colaborando con organizaciones, investigadores y socios expertos, incluidos el Consejo de Bienestar y la Red Global de Médicos.
Estamos comprometidos a crear fuertes protecciones para adolescentes y mejorarlas con el tiempo para apoyar mejor a los adolescentes y sus familias.
