Nuestro compromiso por hacer de ChatGPT una herramienta verdaderamente útil es constante y continuo. Hemos notado que algunas personas recurren a ChatGPT en los momentos más difíciles. Por eso seguimos mejorando la manera en que nuestros modelos reconocen y responden a las señales de angustia mental y emocional, guiados por el conocimiento de expertos.
Este trabajo ya estaba en marcha, pero queremos compartir de manera proactiva nuestros planes para los próximos 120 días, así no tendrás que esperar hasta los lanzamientos para enterarte hacia dónde vamos. Aunque este trabajo seguirá desarrollándose más allá de este periodo, estamos concentrando nuestros esfuerzos en implementar la mayor cantidad posible de mejoras este año.
La semana pasada compartimos cuatro áreas de enfoque para ayudar a las personas cuando más lo necesitan:
- Extender las intervenciones a más personas en crisis.
- Hacer que sea aún más fácil acceder a los servicios de emergencia y recibir ayuda de los expertos.
- Entablar conexiones con contactos de confianza.
- Fortalecer la protección para los adolescentes.
Algunas de estas acciones avanzarán rápidamente, mientras que otras tomarán más tiempo.
Hoy compartimos más contexto sobre nuestra colaboración con expertos, quienes orientan nuestro trabajo, al utilizar nuestros modelos de razonamiento en momentos difíciles y delicados, así compartimos más información sobre una de nuestras áreas de enfoque: Fortalecer la protección para los adolescentes.
La IA es nueva y está en constante evolución. Queremos que nuestro avance esté siempre guiado por un profundo conocimiento sobre el bienestar y la salud mental. Juntos, nuestro Consejo de expertos sobre bienestar e inteligencia artificial y nuestra Red global de Médicos aportan tanto la profundidad del conocimiento médico especializado como la amplitud de perspectiva necesaria para informar nuestro enfoque. Compartiremos más detalles sobre estos esfuerzos durante nuestra iniciativa de 120 días.
Consejo de expertos sobre bienestar e inteligencia artificial
A principios de este año, comenzamos a reunir a un consejo de expertos en desarrollo juvenil, salud mental e interacción humano-computadora. El papel del consejo es definir una visión clara y basada en evidencia de cómo la IA puede apoyar el bienestar de las personas y ayudarles a prosperar.
Sus aportes nos ayudarán a definir y medir el bienestar, establecer prioridades y diseñar futuras medidas de protección—como nuevas versiones de los controles parentales—considerando la investigación más reciente. Aunque el consejo brindará asesoría sobre nuestros productos, nuestras investigaciones y decisiones de políticas, OpenAI sigue siendo responsable de las decisiones que tomemos.
Red Global de Médicos
El consejo trabajará en conjunto con nuestra Red Global de Médicos—un grupo más amplio de más de 250 médicos que han ejercido en 60 países—con quienes hemos colaborado durante el último año en iniciativas como nuestras evaluaciones HealthBench<2>}, diseñadas para medir de manera más precisa las capacidades de los sistemas de IA en el ámbito de la salud.
Más de 90 médicos de este grupo más amplio, ubicados en 30 países distintos,—incluidos psiquiatras, pediatras y médicos generales—ya han contribuido a nuestra investigación sobre cómo deberían comportarse nuestros modelos en contextos de salud mental. Sus aportes informan directamente nuestra investigación de seguridad, el entrenamiento de modelos y otras intervenciones, lo que nos ayuda a involucrar rápidamente a los especialistas adecuados cuando es necesario.
Estamos incorporando aún más clínicos e investigadores a nuestra red, incluidos expertos con conocimiento profundo en trastornos alimentarios, consumo de sustancias y salud adolescente.
Nuestros modelos de razonamiento—como GPT‑5‑thinking y o3—están diseñados para dedicarle más tiempo a procesar el contexto y razonar antes de responder. Se entrenan con un método que llamamos alineación deliberativa, nuestras pruebas muestran(se abre en una nueva ventana) que los modelos de razonamiento siguen y aplican las pautas de seguridad de manera más consistente y son más resistentes a instrucciones o prompts adversos<3>}.
Muchas personas jóvenes ya están usando IA. Son la primera “generación nativa de la IA”, que ha integrado estas herramientas en su cotidianidad, tal como otras generaciones lo hicieron con internet o los teléfonos inteligentes. Esto abre oportunidades reales de apoyo, aprendizaje y creatividad, pero también implica que las familias y los adolescentes pueden necesitar ayuda para definir pautas saludables acordes a cada etapa del desarrollo del adolescente.
Controles parentales
A principios de este año, comenzamos a desarrollar más formas para que las familias puedan usar ChatGPT juntas y decidir qué funciona mejor en sus hogares. En el próximo mes, los padres podrán:
- Vincular sus cuentas con las de sus hijos adolescentes (edad mínima de 13 años) mediante una simple invitación por correo electrónico.
- Controlar las respuestas de ChatGPT a los adolescentes, mediante reglas de comportamiento del modelo adaptadas a su edad que vienen activadas de forma predeterminada.
- Decidir qué funciones desactivar, incluyendo la memoria y el historial del chat.
- Recibir notificaciones cuando el sistema detecte que un adolescente atraviesa un momento de fuerte angustia. El conocimiento de expertos guiará esta función para fomentar la confianza entre padres y adolescentes.
Estos controles se suman a las funciones que ya hemos implementado para todos los usuarios,como los recordatorios en la aplicación que animan a tomar descansos durante sesiones largas.
Estos pasos son solo el comienzo. Continuaremos aprendiendo y mejorando nuestro enfoque, de la mano de expertos, para que ChatGPT sea cada vez más útil. Estaremos compartiendo nuestro avance a lo largo de los próximos 120 días.
