Algunos de nuestros principios son controvertidos, y nos gustaría explicar las decisiones que estamos tomando en cuanto a las tensiones entre la seguridad, la libertad y la privacidad de los adolescentes.
Para nosotros, y para la sociedad, la protección del derecho a la privacidad y al uso de la IA es un tema de suma importancia. La gente le habla a la IA sobre asuntos cada vez más personales; el uso de la tecnología difiere mucho del de generaciones anteriores y creemos que esta será una de las cuentas más personales y confidenciales que jamás tendrás. Si hablas con un médico sobre tu historia clínica, o con un abogado sobre un problema legal, decidimos que lo que más conviene a los intereses de la sociedad es que esa información se considere privilegiada y que reciba niveles más altos de protección. Consideramos que las conversaciones con la IA a las que la gente acude con preguntas y preocupaciones cada vez más personales y confidenciales merecen el mismo nivel de protección. Estamos promoviéndolo con la ayuda de los encargados de formular políticas.
Estamos desarrollando características de seguridad avanzada para garantizar la privacidad de tus datos, incluso ante los empleados de OpenAI. Al igual que con la información privilegiada de otras categorías, habrá algunas excepciones: por ejemplo, habrá sistemas automatizados para prevenir posibles casos graves de uso indebido, y los riesgos más críticos —como las amenazas a la vida de una persona, los planes de dañar a otros o de provocar daños sociales a gran escala, como puede serlo un ataque masivo a la ciberseguridad— podrían escalarse para ser sometidos a revisión humana.
El segundo principio concierne a la libertad. Queremos que los usuarios puedan usar nuestras herramientas de la forma que quieran, dentro de límites de seguridad muy amplios. Venimos trabajando para aumentar la libertad de los usuarios a medida que nuestros modelos se tornan más orientables. Por ejemplo, el comportamiento predeterminado de nuestro modelo no conducirá hacia una charla que contenga coqueteos, pero si un usuario adulto así lo solicita, debe poder obtenerla. Sin embargo, para dar un ejemplo mucho más difícil, el modelo, por defecto, no debería proporcionar instrucciones para suicidarse, pero si un usuario adulto está pidiendo ayuda para redactar una historia ficticia que describe un suicidio, el modelo debería colaborar con esa solicitud. Puertas adentro, nos referimos a este tema como “Tratar a nuestros adultos como adultos” y extendemos la libertad lo más posible sin causar daño ni mermar la libertad de nadie más.
El tercer principio tiene que ver con proteger a los adolescentes. En lo que a ellos concierne, priorizamos la seguridad por sobre la privacidad y la libertad; esta es una tecnología nueva y poderosa y creemos que los menores necesitan una protección considerable.
En primer lugar, separamos a los usuarios que tienen menos de 18 años de aquellos que no (ChatGPT está destinado a personas a partir de los 13 años de edad). Estamos desarrollando un sistema predictivo que estimará la edad según el modo en que las personas utilizan ChatGPT. En caso de duda, apostaremos a lo seguro y brindaremos la experiencia adecuada a usuarios menores de 18 de manera predeterminada. En algunos casos o países, hasta podríamos solicitar algún documento de identidad; sabemos que esto compromete la privacidad de los adultos, pero consideramos que compensa los riesgos.
Aplicaremos reglas diferentes para los adolescentes que utilicen nuestros servicios. Por ejemplo, ChatGPT estará entrenado para no incurrir en las conversaciones de coqueteo que ya mencionamos si se lo solicitan, ni involucrarse en debates sobre el suicidio o daño autoinfligido, ni siquiera en un contexto creativo. Y, si un menor de 18 años está experimentando ideaciones suicidas, intentaremos comunicarnos con sus padres y, en caso de que esto no sea posible, contactarnos con las autoridades en caso de daño inminente. Hoy, compartimos más información sobre la manera en que estamos construyendo el sistema predictivo de la edad y los nuevos controles parentales para lograr que todo esto funcione.
Somos conscientes de que estos principios generan controversias y de que no todo el mundo estará de acuerdo con la manera en que las estamos resolviendo. Estas son decisiones difíciles, pero luego de hablar con expertos, consideramos que esto es lo mejor y queremos ser transparentes en cuanto a nuestras intenciones.
