Algunos de nuestros principios entran en conflicto entre ellos, y nos gustaría explicar las decisiones que estamos tomando en torno a un caso de tensiones entre la seguridad, la libertad y la privacidad de los adolescentes.
Es muy importante para nosotros, y para la sociedad, que se proteja el derecho a la privacidad en el uso de la IA. Cada vez hablamos con la IA de temas más personales, no es como con las anteriores generaciones de tecnologías, y creemos que puede ser una de las cuentas más sensibles a nivel personal que jamás tendrás. Si hablas con un médico sobre tu historial clínico o con un abogado sobre una situación legal, se ha decidido que lo mejor para la sociedad es que esa información sea confidencial y se le apliquen niveles más altos de protección. Creemos que debe aplicarse el mismo nivel de protección a las conversaciones con la IA, a la que las personas cada vez recurren más para plantear preguntas delicadas y asuntos privados. Por eso, estamos defendiendo esta postura ante los responsables políticos.
Estamos desarrollando funciones de seguridad avanzadas para garantizar la privacidad de tus datos, también frente a los empleados de OpenAI. Al igual que ocurre con los privilegios en otras categorías, habrá ciertas excepciones: por ejemplo, los sistemas automatizados supervisarán los posibles usos indebidos graves, y podrán someterse a revisión humana los riesgos más críticos (amenazas para la vida de una persona o planes para atentar contra terceros o contra la sociedad, como un posible ataque de ciberseguridad a gran escala).
El segundo principio se refiere a la libertad. Queremos que los usuarios puedan utilizar nuestras herramientas como quieran, dentro de unos límites de seguridad muy amplios. Hemos estado trabajando para aumentar las libertades de los usuarios a medida que nuestros modelos se vuelven más manejables. Por ejemplo, el comportamiento predeterminado de nuestro modelo no generará conversaciones sugerentes, pero si un usuario adulto las solicita debería poder obtenerlas. En un ejemplo mucho más complejo, el modelo no debería ofrecer por defecto instrucciones sobre cómo suicidarse, pero si un usuario adulto solicita ayuda para escribir una historia ficticia que describe un suicidio, el modelo debería poder ayudarlo con dicha solicitud. «Tratar a nuestros usuarios adultos como adultos» es nuestro enfoque para referirnos a este tipo de interacciones, para ampliar la libertad tanto como sea posible sin causar daño ni socavar la libertad de terceros.
El tercer principio se refiere a la protección de los adolescentes. Damos prioridad a la seguridad por encima de la privacidad y la libertad de los adolescentes; se trata de una tecnología nueva y potente, y creemos que los menores necesitan una protección mayor.
En primer lugar, tenemos que establecer una distinción entre usuarios menores y mayores de 18 años (ChatGPT está destinado a personas mayores de 13 años). Estamos creando un sistema de predicción de edad para estimar la edad de las personas en función de cómo usan ChatGPT. En caso de duda, optaremos por la precaución y aplicaremos por defecto la experiencia para menores de 18 años. En algunos casos o países, también podemos solicitar un documento de identidad; sabemos que esto supone un compromiso en materia de privacidad para los adultos, pero creemos que es una desventaja que vale la pena afrontar.
Aplicaremos normas diferentes a los adolescentes que utilicen nuestros servicios. Por ejemplo, entrenaremos a ChatGPT para que no mantenga las conversaciones sugerentes que hemos mencionado anteriormente aunque se le inste a ello, ni participe en conversaciones sobre el suicidio o las autolesiones, ni siquiera en un contexto de escritura creativa. Además, si un usuario menor de 18 años tiene ideas suicidas, intentaremos ponernos en contacto con sus padres y, si no es posible, lo comunicaremos a las autoridades en caso de peligro inminente. Hoy hemos compartido más información sobre cómo estamos desarrollando el sistema de predicción de edad y los nuevos controles parentales para que todo esto funcione.
Somos conscientes de que estos principios son contradictorios y de que no todo el mundo estará de acuerdo con la forma en que estamos abordando esta problemática. Son decisiones difíciles, pero tras hablar con expertos, creemos que es lo mejor y queremos ser transparentes en nuestras intenciones.
