Actualització sobre la nostra feina relacionada amb la salut mental
Cada setmana, més de 900 milions de persones utilitzen ChatGPT per millorar la seva vida diària amb usos com aprendre noves habilitats o navegar per sistemes sanitaris complexos. La nostra feina continuada en seguretat continua tenint un paper important a l’hora d’oferir aquests beneficis a la gent, així com de donar suport a la recerca i al descobriment científics.
Des que vam introduir el control parental el setembre de 2025, hem vist una participació encoratjadora de les famílies i continuarem reforçant aquestes proteccions. Treballant estretament amb experts del nostre Consell sobre Benestar i IA i la nostra Xarxa Global de Metges, aviat també introduirem una funció de contacte de confiança, que permetrà als usuaris adults designar algú perquè rebi notificacions quan puguin necessitar suport addicional. Com a recordatori, els pares també reben notificacions de seguretat sobre l’ús que els seus adolescents fan de ChatGPT mitjançant el control parental. Compartirem més informació a mesura que aquestes actualitzacions es despleguin a ChatGPT.
També continuem avançant en la manera com els nostres models detecten i responen als senyals de malestar emocional. Això inclou nous mètodes d’avaluació que simulen converses prolongades relacionades amb la salut mental, ajudant-nos a identificar millor els possibles riscos i a millorar la manera com ChatGPT respon en moments sensibles. Compartirem més informació sobre aquesta feina en les properes setmanes mentre continuem reforçant les proteccions de ChatGPT.
Per separat, recentment el tribunal ha coordinat diversos casos relacionats amb la salut mental que impliquen ChatGPT en un únic procediment a Califòrnia. En els propers dies, el tribunal assignarà el jutge coordinador d’aquest procediment. Com a part d’aquest procés de consolidació, els advocats dels demandants implicats en aquests procediments han informat el tribunal que tenen la intenció de presentar diversos casos nous*.
Com en els litigis anteriors relacionats amb la salut mental, OpenAI continuarà gestionant qualsevol cas addicional amb cura, transparència, respecte per les persones implicades i d’acord amb els principis següents:
- Partim dels fets i hi dediquem un esforç real per entendre’ls.
- Exposarem el nostre cas amb respecte i entenent la complexitat i els matisos de situacions que impliquen persones i vides reals.
- Reconeixem que aquests casos impliquen inherentment determinats tipus d’informació privada que requereixen sensibilitat en un entorn públic com un tribunal.
- I, independentment de qualsevol litigi, continuarem centrats a millorar la nostra tecnologia d’acord amb la nostra missió.
Reconeixem que els processos judicials poden ser llargs i, de vegades, opacs a causa de normes legals estrictes. També pot caldre temps per recopilar i entendre els fets rellevants, i presentar-los al tribunal d’acord amb els seus procediments probatoris. Treballem de bona fe per entendre els detalls, i només demanem informació com a part del procés judicial que sigui rellevant per al cas i per a les al·legacions específiques que s’han formulat.
És important reservar el judici i permetre que els fets emergeixin adequadament a través del procés judicial, ja que es tracta de casos complexos i matisats amb molts factors i circumstàncies que sovint no es reflecteixen en les demandes inicials.
Els nostres pensaments estan amb totes les persones afectades per aquestes situacions increïblement desgarradores. Continuem millorant l’entrenament de ChatGPT perquè reconegui i respongui als senyals de malestar, rebaixi la tensió de les converses en moments sensibles i orienti les persones cap a suport en el món real, treballant estretament amb clínics i experts en salut mental.
Podeu trobar més informació sobre la nostra feina en seguretat aquí:
Autor
*Com és habitual, esperem que aquests casos s’afegeixin al procediment consolidat existent, i que després el tribunal determini quin advocat és nomenat advocat principal dels demandants.
