Trabajamos de forma constante para garantizar que ChatGPT sea lo más útil posible. Hasta ahora, hemos visto cómo muchas personas la utilizaban en los momentos más difíciles. Por eso, seguimos mejorando la forma en que nuestros modelos reconocen y responden a los síntomas de ansiedad psíquica y emocional, guiándonos por la opinión de expertos.
Este trabajo ya está en marcha, pero, de forma proactiva, queremos adelantar nuestra planificación de los próximos 120 días y evitar que tengas que esperar a ver los lanzamientos para saber hacia dónde vamos. Seguiremos trabajando en ello una vez finalizado este periodo, pero estamos haciendo un esfuerzo adicional para garantizar que este año se lancen tantas mejoras como sea posible.
La semana pasada, compartimos cuatro áreas de interés a la hora de ayudar a las personas cuando más lo necesitan:
- Ampliar las intervenciones a más personas en situaciones de crisis
- Facilitar aún más el acceso a los servicios de emergencia y a la ayuda de profesionales
- Facilitar conexiones con contactos de confianza
- Reforzar la protección para adolescentes.
Parte de este trabajo se llevará a cabo enseguida, mientras que otras partes requerirán más tiempo.
Hoy queremos compartir más datos sobre cómo colaboramos con expertos para orientar nuestro trabajo, utilizando nuestros modelos razonadores para gestionar momentos delicados. Además, también queremos profundizar más en una de nuestras áreas de interés: Reforzar la protección para adolescentes.
La IA es una nueva herramienta en constante evolución, y queremos asegurarnos de que nuestro progreso se base en conocimientos bien fundamentados en materia de bienestar y salud mental. Juntos, nuestro Consejo de Expertos en Bienestar e IA y nuestra Red Global de Médicos aportan tanto la profundidad de los conocimientos médicos especializados como la amplitud de perspectivas necesarias para fundamentar nuestro enfoque. Compartiremos más información sobre estas mejoras durante nuestra iniciativa de 120 días.
Consejo de Expertos en Bienestar e IA
A principios de este año, comenzamos a reunir a un consejo de expertos en formación juvenil, salud mental e interacción entre la persona y el ordenador. La función de este consejo es definir una visión clara y basada en datos empíricos sobre la forma en que la IA puede contribuir al bienestar y crecimiento de las personas.
Con sus aportaciones, podremos definir y medir el bienestar, establecer prioridades y diseñar las próximas medidas de protección, como las futuras versiones de los controles parentales, siempre en base a las últimas investigaciones. Aunque este consejo nos asesorará sobre nuestras decisiones en materia de productos, investigación y políticas, desde OpenAI nos seguiremos haciendo responsables de todas las decisiones que tomemos.
Red Global de Médicos
Este consejo trabajará en colaboración con nuestra Red Global de Médicos, un amplio grupo de más de 250 médicos que han ejercido en 60 países, con los que hemos colaborado durante el último año en iniciativas como nuestras evaluaciones de HealthBench, diseñadas para medir mejor las capacidades de los sistemas de IA para la salud.
De este amplio grupo, más de 90 médicos de 30 países, entre los que se incluyen psiquiatras, pediatras y médicos generales, ya han contribuido a nuestra investigación sobre cómo deben comportarse nuestros modelos en contextos de salud mental. Sus aportaciones influyen directamente en nuestras investigaciones sobre seguridad, el entrenamiento de los modelos y otras intervenciones, lo que nos ayuda a contar rápidamente con los especialistas adecuados cuando es necesario.
Estamos incorporando aún más médicos e investigadores a nuestra red, incluyendo profesionales con amplia experiencia en áreas como trastornos alimentarios, consumo de sustancias y salud adolescente.
Nuestros modelos razonadores, como GPT‑5‑Thinking y o3, están diseñados para que dediquen más tiempo a pensar y razonar en función del contexto antes de responder. Entrenados con un método que denominamos alineación deliberativa, nuestras pruebas demuestran(se abre en una ventana nueva) que los modelos de razonamiento siguen y aplican las directrices de seguridad de forma más coherente y son más resistentes a las indicaciones adversas.
Recientemente hemos introducido un enrutador en tiempo real que puede elegir entre modelos de chat eficientes y modelos razonadores basados en el contexto de la conversación. Pronto comenzaremos a dirigir las conversaciones delicadas (en las que nuestro sistema detecta señales de extremo sufrimiento en la persona) a un modelo razonador, como GPT‑5‑Thinking, para que pueda proporcionar respuestas más útiles y beneficiosas, independientemente del modelo que esa persona haya seleccionado inicialmente. Seguiremos aplicando este enfoque de forma reflexiva.
Muchos jóvenes ya están utilizando la IA. Son los primeros «nativos de la IA», ya que han crecido con estas herramientas como parte de su vida cotidiana, al igual que las generaciones anteriores lo hicieron con Internet o los smartphones. Esta realidad favorece el uso de la IA como un instrumento de apoyo para promover el aprendizaje y la creatividad, pero también significa que las familias y los adolescentes pueden necesitar ayuda para establecer pautas saludables que se adapten a la etapa de desarrollo única de cada adolescente.
Controles parentales
A principios de este año, comenzamos a crear más formas para que las familias puedan usar ChatGPT juntas y decidir qué es lo que mejor funciona en su núcleo familiar. En el próximo mes, los padres y madres podrán:
- Vincular su cuenta con la cuenta de su hijo adolescente (edad mínima de 13 años) mediante una sencilla invitación por correo electrónico.
- Controlar cómo ChatGPT responde a sus hijos adolescentes con reglas de comportamiento adecuadas a su edad, que están activadas de forma predeterminada.
- Gestionar qué funciones desactivar, incluyendo la memoria y el historial de chat.
- Recibir notificaciones cuando el sistema detecte que su hijo adolescente se encuentra en un momento de sufrimiento extremo. La opinión de los expertos guiará esta función para fomentar la confianza entre padres y adolescentes.
Estos controles se suman a las funciones que hemos implementado para todos los usuarios, incluidos los recordatorios dentro de la aplicación durante sesiones largas para animaros a tomar descansos.
Estas medidas son solo el principio. Seguiremos aprendiendo y reforzando nuestro enfoque, con la ayuda de expertos, con el objetivo de que ChatGPT sea lo más útil posible. Esperamos poder compartir nuestros avances durante los próximos 120 días.
