Durant les últimes dues setmanes, hem ampliat les nostres converses amb experts, grups de defensa i responsables polítics que donen suport i orienten els nostres esforços per fer que ChatGPT sigui tan útil com sigui possible.
Continuem millorant la seguretat per a tots els usuaris, però avui compartim més detalls sobre com estem reforçant les proteccions per als adolescents. Quan alguns dels nostres principis entren en conflicte, prioritzem la seguretat dels adolescents per davant de la privacitat i la llibertat, i expliquem millor el nostre raonament aquí. És fonamental disposar d’eines eficaces per guiar com aquestes tecnologies apareixen en la vida dels adolescents, tant en els moments fàcils com en els difícils.
Els adolescents creixen amb la IA, i ens correspon assegurar-nos que ChatGPT s’adapti a la seva realitat. La manera com ChatGPT respon a una persona de 15 anys hauria de ser diferent de la manera com respon a un adult.
Avui compartim que estem avançant cap a un sistema a llarg termini per entendre si algú té més o menys de 18 anys, perquè la seva experiència amb ChatGPT es pugui adaptar adequadament. Quan identifiquem que un usuari és menor de 18 anys, se’l dirigirà automàticament a una experiència de ChatGPT amb polítiques adequades per a la seva edat, incloent-hi el bloqueig de contingut sexual gràfic i, en casos poc freqüents de malestar agut, la possible intervenció de les forces de l’ordre per garantir la seguretat.
Això no és fàcil de fer bé, i fins i tot els sistemes més avançats de vegades tindran dificultats per predir l’edat. Si no tenim prou confiança sobre l’edat d’algú o disposem d’informació incompleta, optarem per la via més segura i aplicarem per defecte l’experiència per a menors de 18 anys, i oferirem als adults maneres de demostrar la seva edat per desbloquejar les capacitats d’adult.
Mentrestant, el control parental serà la manera més fiable perquè les famílies guiïn com ChatGPT es presenta a casa seva. Com ja vam compartir anteriorment, aquests controls estaran disponibles a finals de mes i permetran als pares:
- Enllaçar el seu compte amb el compte del seu adolescent (edat mínima de 13 anys) mitjançant una senzilla invitació per correu electrònic.
- Ajudar a orientar com ChatGPT respon al seu adolescent, basant-se en regles de comportament del model específiques per a adolescents.
- Gestionar quines funcions cal desactivar, incloses la memòria i l’historial de xat.
- Rebre notificacions quan el sistema detecti que el seu adolescent està passant per un moment de malestar agut. Si no podem contactar amb un progenitor en una emergència poc freqüent, podem implicar les forces de l’ordre com a pas següent. L’aportació d’experts guiarà aquesta funció per reforçar la confiança entre pares i adolescents.
- Establir hores de bloqueig durant les quals un adolescent no pot utilitzar ChatGPT: un nou control que estem afegint.
Aquests controls se sumaran a les funcions disponibles per a tots els usuaris, inclosos els recordatoris dins de l’aplicació durant les sessions llargues per fomentar les pauses.
Continuarem compartint avenços a mesura que avancem. Mentrestant, volem donar les gràcies als socis, defensors i experts que comparteixen comentaris i ens empenyen a millorar. Les vostres veus estan donant forma a aquesta feina d’una manera que serà important per a centenars de milions de persones.
Autor
Continuar llegint
