OpenAI apoya el proyecto de ley de California para reforzar la seguridad juvenil en materia de IA

Por Ann O’Leary, vicepresidenta de Política Global

OpenAI apoya el Proyecto de Ley 1119 del Senado de California, que establece protecciones significativas para el uso de la IA por parte de los jóvenes, a la vez que preserva su acceso a herramientas que pueden ayudarlos a aprender, crear y prepararse para el futuro. Este apoyo se basa en el compromiso que Sam Altman, cofundador y director ejecutivo de OpenAI, asumió el año pasado al presentar los principios de la empresa respecto de los adolescentes.

Ante la falta de medidas federales, California tiene la oportunidad de establecer un estándar sólido para la seguridad juvenil en materia de IA.

En nuestra carta al gobernador Newsom⁠(se abre en una nueva ventana), reconocemos su liderazgo en este importante tema, así como el del senador Steve Padilla, las asambleístas Buffy Wicks y Rebecca Bauer-Kahan y la Legislatura de California. La SB 1119 se basa en medidas de seguridad juvenil que OpenAI ha respaldado mediante nuestros productos, principios de políticas globales, labor de promoción en California y trabajo en la Ley de IA Segura para Padres e Hijos. Alentamos al gobernador Newsom a promulgar el proyecto de ley.

Los adolescentes son la primera generación que crece con la IA. Casi nueve de cada diez adolescentes que usan ChatGPT recurren a él durante una semana determinada para aprender, informarse, desarrollar habilidades o mejorar su productividad. Esa oportunidad conlleva una responsabilidad clara: los adolescentes deben tener experiencias diseñadas en torno a sus necesidades específicas de desarrollo, con sólidas protecciones predeterminadas y oportunidades adecuadas para aprender, crear y explorar.

Nuestro recién lanzado ChatGPT para adolescentes refleja ese enfoque. Está diseñado para ayudar a los usuarios menores de 18 años a aprender, pensar de forma crítica y crear, a la vez que promueve un uso saludable, ofrece protecciones integradas y brinda controles adicionales a los padres. Si nuestro sistema estima que una persona es menor de 18 años o esta indica que tiene entre 13 y 17 años, se la incorpora automáticamente a ChatGPT para adolescentes. Estas protecciones forman parte de la experiencia básica; no son ajustes opcionales que los usuarios puedan desactivar.

En términos más generales, creemos que los adolescentes pueden beneficiarse de la IA sin sacrificar la seguridad, un objetivo central de la SB 1119.

La SB 1119 combina protecciones sólidas con acceso continuo a herramientas útiles de IA. Respaldamos firmemente estos requisitos clave:

• Determinar la edad del usuario;
• Identificar y abordar los riesgos de seguridad antes de poner un producto a disposición de los jóvenes;
• Someterse a auditorías independientes;
• Proteger a los jóvenes de contenido dañino, incluido el relacionado con autolesiones, la explotación sexual y otras interacciones de alto riesgo;
• Proporcionar a los padres herramientas para orientar y limitar el uso por parte de sus hijos;
• Conectar a los jóvenes con recursos de apoyo en situaciones de crisis cuando surjan riesgos graves para la seguridad; y
• Limitar la publicidad dirigida y proteger la información personal de los jóvenes.

Estas protecciones deben aplicarse automáticamente a los usuarios identificados como personas de entre 13 y 17 años. Esta legislación combinaría una rendición de cuentas significativa con protecciones que ayudarían a resguardar a los jóvenes cuando usan IA.

La SB 1119 también reconoce acertadamente que la IA no es una red social. El proyecto de ley establece protecciones adaptadas para ayudar a los jóvenes a usar la IA para aprender, crear y explorar. Al desarrollar este marco, los responsables de políticas públicas procuraron preservar el acceso a funciones educativas y esenciales para la seguridad, incluidos los usos responsables de la función de memoria de ChatGPT, a la vez que promovieron experiencias más seguras y adecuadas para la edad de los adolescentes.

ChatGPT para adolescentes incluye un conjunto de funciones diseñadas específicamente para ayudarlos a aprender, como Cuestionarios, Visualizaciones de aprendizaje y el Modo de estudio, desarrolladas con educadores y expertos en aprendizaje para guiar a los estudiantes paso a paso en la resolución de problemas. Estas herramientas buscan profundizar la comprensión y fomentar mejores hábitos de aprendizaje. Las funciones que usan el contexto de conversaciones anteriores, incluida la memoria, ayudan a aplicar las protecciones de forma coherente, reconocer patrones preocupantes y brindar un apoyo educativo más útil con el tiempo.

El contexto también ayuda a que estas herramientas de seguridad y aprendizaje funcionen de forma más coherente con el tiempo. Mediante funciones como la memoria, ChatGPT puede conservar información y preferencias relevantes de conversaciones anteriores, lo que permite a los adolescentes continuar proyectos de aprendizaje a largo plazo sin tener que empezar de nuevo. Esa continuidad también puede ayudar a evitar que se refuercen patrones dañinos y favorecer respuestas más eficaces cuando un joven pueda necesitar ayuda o recursos adicionales.

Equilibrar la seguridad y el aprendizaje no es algo nuevo para nosotros. Durante el último año, incorporamos Controles parentales, predicción de edad, nuestro Plan de seguridad para adolescentes y los Principios para menores de 18 años de nuestras especificaciones del modelo, las reglas que orientan el comportamiento previsto de nuestros modelos, para establecer nuevos estándares sobre cómo deben interactuar con los jóvenes. Prohíben las interacciones románticas, fomentar la dependencia emocional y afirmar que ChatGPT es humano o consciente. También ofrecemos Controles parentales que permiten a las familias administrar ajustes clave para sus adolescentes y recibir notificaciones en situaciones de alto riesgo.

La SB 1119 establece un marco sólido para la seguridad juvenil en materia de IA en California. El estudio y la colaboración continuos durante la implementación pueden ayudar a mejorar disposiciones clave y mantener la eficacia del marco a medida que evoluciona la tecnología. OpenAI espera apoyar esa labor y seguir creando experiencias de IA que traten a los adolescentes como tales, con protecciones más sólidas y automáticas, además de oportunidades significativas para aprender y crecer.