Alguns dels nostres principis entren en conflicte, i ens agradaria explicar les decisions que estem prenent al voltant d’un cas de tensions entre la seguretat, la llibertat i la privacitat dels adolescents.
És extremadament important per a nosaltres, i per a la societat, que es protegeixi el dret a la privacitat en l’ús de la IA. La gent parla amb la IA sobre qüestions cada cop més personals; és diferent de generacions anteriors de tecnologia, i creiem que pot arribar a ser un dels comptes més sensibles a nivell personal que tindreu mai. Si parles amb un metge sobre el teu historial mèdic o amb un advocat sobre una situació legal, hem decidit que és en interès de la societat que aquesta informació sigui privilegiada i rebi nivells més alts de protecció. Creiem que el mateix nivell de protecció s’ha d’aplicar a les converses amb la IA, a la qual la gent recorre cada vegada més per a preguntes delicades i preocupacions privades. Estem defensant això davant dels responsables polítics.
Estem desenvolupant funcions de seguretat avançades per garantir que les teves dades siguin privades, fins i tot davant dels empleats d’OpenAI. Com passa amb la confidencialitat en altres categories, hi haurà certes excepcions: per exemple, sistemes automatitzats supervisaran possibles usos indeguts greus, i els riscos més crítics —amenaces contra la vida d’algú, plans per fer mal a altres persones o danys a escala social com un possible incident massiu de ciberseguretat— es podran elevar a revisió humana.
El segon principi és la llibertat. Volem que els usuaris puguin fer servir les nostres eines de la manera que vulguin, dins d’uns límits de seguretat molt amplis. Hem treballat per augmentar les llibertats dels usuaris amb el temps a mesura que els nostres models es tornen més orientables. Per exemple, el comportament predeterminat del nostre model no donarà lloc a gaire conversa coqueta, però si un usuari adult ho demana, l’hauria d’obtenir. Per posar un exemple molt més difícil, el model per defecte no hauria de donar instruccions sobre com suïcidar-se, però si un usuari adult demana ajuda per escriure una història de ficció que representi un suïcidi, el model hauria d’ajudar amb aquesta sol·licitud. «Tractar els nostres usuaris adults com a adults» és com en parlem internament, ampliant la llibertat tant com sigui possible sense causar dany ni minar la llibertat de ningú més.
El tercer principi és protegir els adolescents. Prioritzem la seguretat per davant de la privacitat i la llibertat en el cas dels adolescents; es tracta d’una tecnologia nova i potent, i creiem que els menors necessiten una protecció important.
En primer lloc, hem de separar els usuaris menors de 18 anys dels que no ho són (ChatGPT està pensat per a persones de 13 anys o més). Estem construint un sistema de predicció d’edat per estimar l’edat segons com la gent utilitza ChatGPT. Si hi ha dubtes, optarem per la prudència i aplicarem per defecte l’experiència per a menors de 18 anys. En alguns casos o països també podem demanar un document d’identitat; sabem que això suposa una concessió en matèria de privacitat per als adults, però creiem que és un intercanvi raonable.
Aplicarem regles diferents als adolescents que facin servir els nostres serveis. Per exemple, ChatGPT s’entrenarà perquè no mantingui la conversa coqueta esmentada més amunt si se li demana, ni participi en converses sobre suïcidi o autolesió fins i tot en un context d’escriptura creativa. I, si un usuari menor de 18 anys té ideació suïcida, intentarem contactar amb els pares de l’usuari i, si no és possible, contactarem amb les autoritats en cas de dany imminent. Avui hem compartit més informació sobre com estem construint el sistema de predicció d’edat i nous controls parentals perquè tot això funcioni.
Som conscients que aquests principis entren en conflicte i que no tothom estarà d’acord amb com resolem aquest conflicte. Són decisions difícils, però després de parlar amb experts, això és el que considerem millor i volem ser transparents sobre les nostres intencions.
