OpenAI apoya el proyecto de ley de California para mejorar la seguridad de los jóvenes al usar la IA

Por Ann O’Leary, vicepresidenta de Política Global

OpenAI apoya el Proyecto de Ley 1119 del Senado de California, que establece garantías importantes para el uso de la IA por parte de los jóvenes y, al mismo tiempo, mantiene su acceso a herramientas que pueden ayudarlos a aprender, crear y prepararse para el futuro. Este apoyo parte del compromiso que Sam Altman, cofundador y consejero delegado de OpenAI, asumió el año pasado al exponer los principios de la empresa sobre los adolescentes.

Ante la falta de medidas federales, California tiene la oportunidad de establecer un estándar sólido para la seguridad de los jóvenes al usar la IA.

En nuestra carta al gobernador Newsom⁠(se abre en una ventana nueva), elogiamos su liderazgo en esta importante cuestión, así como el del senador Steve Padilla, las integrantes de la Asamblea Buffy Wicks y Rebecca Bauer-Kahan, y la Asamblea Legislativa de California. El Proyecto de Ley 1119 amplía las medidas de seguridad para jóvenes que OpenAI ha respaldado a través de nuestros productos, principios globales sobre políticas, iniciativas legislativas en California y trabajo en la Ley de IA Segura para Padres e Hijos. Animamos al gobernador Newsom a promulgar el proyecto de ley.

Los adolescentes son la primera generación que crece con la IA. Casi nueve de cada diez adolescentes que usan ChatGPT recurren a él durante una semana cualquiera para aprender, informarse, desarrollar habilidades o mejorar su productividad. Esta oportunidad conlleva una responsabilidad clara: los adolescentes deben disfrutar de experiencias diseñadas para sus necesidades específicas de desarrollo, con sólidas protecciones predeterminadas y oportunidades adecuadas para aprender, crear y explorar.

Nuestro recién estrenado ChatGPT para adolescentes refleja este enfoque. Está diseñado para ayudar a los menores de 18 años a aprender, pensar de forma crítica y crear, a la vez que fomenta un uso saludable, incorpora medidas de protección y ofrece controles adicionales a los padres. Si nuestro sistema calcula que una persona es menor de 18 años o esta indica que tiene entre 13 y 17 años, se la incorpora automáticamente a ChatGPT para adolescentes. Estas protecciones forman parte de la experiencia básica; no son ajustes opcionales que los usuarios puedan desactivar.

En términos más generales, creemos que los adolescentes pueden beneficiarse de la IA sin renunciar a la seguridad, un objetivo esencial del Proyecto de Ley 1119.

El Proyecto de Ley 1119 combina protecciones sólidas con un acceso continuado a herramientas de IA útiles. Respaldamos firmemente estos requisitos esenciales:

• Determinar la edad del usuario;
• Identificar y abordar los riesgos de seguridad antes de ofrecer un producto a los jóvenes;
• Someterse a auditorías independientes;
• Proteger a los jóvenes frente a contenidos perjudiciales, incluidos los relacionados con las autolesiones y la explotación sexual, además de otras interacciones de alto riesgo;
• Proporcionar a los padres herramientas para orientar y limitar el uso que hacen sus hijos;
• Poner a los jóvenes en contacto con recursos de apoyo para situaciones de crisis cuando surjan riesgos graves para su seguridad; y
• Limitar la publicidad dirigida y proteger la información personal de los jóvenes.

Estas protecciones deben aplicarse automáticamente a los usuarios identificados como personas de entre 13 y 17 años. Esta legislación combinaría una rendición de cuentas efectiva con medidas que contribuirían a proteger a los jóvenes cuando usan la IA.

El Proyecto de Ley 1119 también reconoce acertadamente que la IA no es una red social. El proyecto de ley establece protecciones adaptadas para ayudar a los jóvenes a usar la IA con el fin de aprender, crear y explorar. Al desarrollar este marco, los responsables políticos procuraron mantener el acceso a funciones educativas y esenciales para la seguridad, incluidos los usos responsables de la función de memoria de ChatGPT, a la vez que fomentaban experiencias más seguras y adecuadas a la edad de los adolescentes.

ChatGPT para adolescentes incluye un conjunto de funciones adaptadas específicamente para ayudarlos a aprender, como Cuestionarios, Visualizaciones educativas y el Modo de estudio, desarrolladas junto con docentes y expertos en aprendizaje para guiar a los estudiantes paso a paso en la resolución de problemas. Estas herramientas están pensadas para profundizar la comprensión y fomentar mejores hábitos de aprendizaje. Las funciones que utilizan el contexto de conversaciones anteriores, incluida la memoria, ayudan a aplicar las protecciones de forma coherente, detectar patrones preocupantes y ofrecer con el tiempo un apoyo educativo más útil.

El contexto también contribuye a que estas herramientas educativas y de seguridad funcionen de forma más coherente a lo largo del tiempo. Mediante funciones como la memoria, ChatGPT puede conservar la información pertinente y las preferencias de conversaciones anteriores, lo que permite a los adolescentes continuar proyectos de aprendizaje a largo plazo sin tener que empezar de cero. Esa continuidad también puede ayudar a evitar que se refuercen patrones perjudiciales y favorecer respuestas más eficaces cuando un joven pueda necesitar ayuda o recursos adicionales.

Equilibrar la seguridad y el aprendizaje no es algo nuevo para nosotros. Durante el último año, hemos añadido Controles parentales, predicción de edad, nuestro Plan de seguridad para adolescentes y los Principios para menores de 18 años en nuestras especificaciones del modelo —las normas que definen el comportamiento previsto de nuestros modelos— para establecer nuevos estándares sobre cómo deben interactuar con los jóvenes. Estas normas prohíben las interacciones románticas, el fomento de la dependencia emocional y las afirmaciones de que ChatGPT es humano o tiene consciencia. También ofrecemos Controles parentales que permiten a las familias gestionar ajustes esenciales para sus adolescentes y recibir notificaciones en situaciones de alto riesgo.

El Proyecto de Ley 1119 establece un marco sólido para la seguridad de los jóvenes al usar la IA en California. El análisis y la colaboración continuos durante su aplicación pueden contribuir a mejorar las disposiciones esenciales y mantener la eficacia del marco a medida que evoluciona la tecnología. OpenAI espera poder contribuir a este trabajo y seguir creando experiencias de IA que traten a los adolescentes como tales, con protecciones automáticas más sólidas y oportunidades reales para aprender y crecer.