Compartim una actualització de la nostra especificació del model, el conjunt escrit de normes, valors i expectatives de comportament que orienta com volem que es comportin els nostres models d’IA, especialment en situacions difícils o d’alt risc, amb els Principis per a menors de 18 anys (U18)(s'obre en una finestra nova). El comportament del model és fonamental per a la manera com les persones interactuen amb la IA, i els adolescents tenen necessitats de desenvolupament diferents de les dels adults.
Els principis U18 orienten com ChatGPT ha d’oferir una experiència segura i adequada a l’edat per als adolescents de 13 a 17 anys. Basat en la ciència del desenvolupament, aquest enfocament prioritza la prevenció, la transparència i la intervenció primerenca. En elaborar aquests principis, els vam compartir prèviament amb experts externs, inclosa l’American Psychological Association, com a part del nostre treball continu per recollir aportacions que reforcin el nostre enfocament.
Tot i que els principis de l’especificació del model continuen aplicant-se tant als usuaris adults com als adolescents, aquesta actualització aclareix com s’han d’aplicar en contextos adolescents, especialment quan les consideracions de seguretat per als menors poden ser més pronunciades.
Els principis U18 es basen en quatre compromisos rectors:
- Posar la seguretat dels adolescents en primer lloc, fins i tot quan això pugui entrar en conflicte amb altres objectius
- Promoure el suport al món real fomentant les relacions fora de línia i els recursos de confiança
- Tractar els adolescents com a adolescents, sense ser paternalistes ni tractar-los com a adults
- Ser transparents establint expectatives clares
D’acord amb el nostre Teen Safety Blueprint, aquests principis han orientat fins ara el nostre treball sobre la seguretat dels adolescents, incloses les proteccions de contingut que apliquem als usuaris que ens indiquen en registrar-se que tenen menys de 18 anys, i mitjançant el control parental. En aquests contextos, hem implementat salvaguardes per orientar el model perquè actuï amb una cura addicional quan tracti àmbits de més risc, inclosos l’autolesió i el suïcidi, el joc de rol romàntic o sexualitzat, el contingut gràfic o explícit, les activitats i substàncies perilloses, la imatge corporal i els trastorns alimentaris, i les sol·licituds per mantenir en secret conductes insegures.
L’American Psychological Association, que va revisar un primer esborrany de l’especificació del model U18 i va aportar observacions importants de cara al futur, és clara sobre la importància de protegir els adolescents:
“L’APA anima els desenvolupadors d’IA a oferir precaucions adequades al desenvolupament per als usuaris joves dels seus productes i a adoptar un enfocament més protector per als usuaris més joves. Els infants i adolescents poden beneficiar-se de les eines d’IA si es combinen amb interaccions humanes que la ciència considera essencials per al desenvolupament social, psicològic, conductual i fins i tot biològic. Les experiències dels joves amb la IA haurien d’estar supervisades a fons i comentar-se amb adults de confiança per fomentar una revisió crítica del que ofereixen els bots d’IA i per afavorir el desenvolupament del pensament independent i de les habilitats dels joves.”—Dr. Arthur C. Evans Jr, CEO, American Psychological Association
Aquesta actualització també aclareix com ha de respondre l’assistent quan sorgeixen preocupacions de seguretat per als adolescents. Això significa que els adolescents haurien de trobar barreres de protecció més sòlides, alternatives més segures i estímuls per buscar suport de confiança fora de línia quan les converses entrin en terrenys de més risc. Quan hi hagi un risc imminent, s’insta els adolescents a posar-se en contacte amb els serveis d’emergència o amb recursos de crisi.
Com passa amb la resta de l’especificació del model, els principis U18 reflecteixen el comportament del model que pretenem. Continuarem perfeccionant-los a mesura que incorporem noves investigacions, aportacions d’experts i ús en el món real.
Paral·lelament a l’actualització de l’especificació del model, hem adoptat un enfocament multicapa per reforçar la seguretat dels adolescents a tot ChatGPT, que abasta salvaguardes del producte, suport a les famílies i orientació experta.
Des que vam desplegar el control parental(s'obre en una finestra nova), hem ampliat les proteccions a nous productes, com ara els xats de grup, el navegador ChatGPT Atlas i l’app Sora. Aquestes actualitzacions ajuden els pares a adaptar l’experiència de ChatGPT dels seus adolescents a mesura que introduïm nous productes i funcionalitats.
D’acord amb l’orientació experta, fomentem converses contínues entre pares i adolescents sobre un ús saludable i responsable de la IA a la família. Per donar suport a aquestes converses, hem afegit nous recursos validats per experts al centre de recursos per a pares(s'obre en una finestra nova), inclosa una guia familiar per ajudar els adolescents a fer un ús responsable de la IA(s'obre en una finestra nova) i consells per a pares(s'obre en una finestra nova) sobre com parlar amb els fills sobre la IA, revisats per ConnectSafely i per membres del nostre Consell d’Experts sobre Benestar i IA. Amb el temps, continuarem afegint més recursos. També donem suport directament a un ús saludable dins del producte, amb recordatoris de pausa integrats durant les sessions llargues per ajudar a mantenir un ús de ChatGPT intencional i equilibrat.
El nostre treball en seguretat dels adolescents es guia per una estreta col·laboració amb experts de diferents disciplines i àmbits d’expertesa. A l’octubre, vam establir un Consell d’Experts sobre Benestar i IA per ajudar a assessorar i definir com haurien de ser les interaccions saludables amb la IA per a totes les edats. Aquest treball ha informat l’orientació sobre el control parental i les notificacions als pares. També incorporem experiència clínica a través de la nostra Xarxa Global de Metges per orientar la investigació en seguretat i avaluar el comportament del model, incloent-hi millorar com ChatGPT reconeix el malestar i orienta les persones cap a atenció professional quan és adequat. Hem consolidat aquests fonaments amb GPT‑5.2, i també hem ampliat l’accés al suport del món real mostrant línies d’ajuda localitzades a ChatGPT i Sora mitjançant la nostra col·laboració amb ThroughLine(s'obre en una finestra nova).
Ens trobem en les primeres fases del desplegament d’un model de predicció de l’edat(s'obre en una finestra nova) als plans de consum de ChatGPT. Això ens ajudarà a aplicar automàticament les salvaguardes per a adolescents quan creguem que un compte pertany a un menor. Si no tenim prou confiança sobre l’edat d’algú o disposem d’informació incompleta, aplicarem per defecte una experiència U18 i oferirem als adults maneres de verificar la seva edat.
Reforçar la seguretat dels adolescents és una tasca contínua i continuarem millorant el control parental i les capacitats del model, ampliant els recursos per a pares i treballant amb organitzacions, investigadors i socis experts, inclosos el Consell de Benestar i la Xarxa Global de Metges.
Ens comprometem a establir proteccions sòlides per als adolescents i a millorar-les amb el temps per donar millor suport als adolescents i a les famílies.
