La nostra feina per fer que ChatGPT sigui tan útil com sigui possible és constant i continuada. Hem vist persones recórrer-hi en els moments més difícils. Per això continuem millorant la manera com els nostres models reconeixen i responen als senyals d’angoixa mental i emocional, guiats per l’aportació d’experts.
Aquesta feina ja estava en marxa, però volem avançar de manera proactiva els nostres plans per als propers 120 dies, perquè no hàgiu d’esperar als llançaments per veure cap a on anem. La feina continuarà molt més enllà d’aquest període, però estem fent un esforç específic per llançar tantes d’aquestes millores com sigui possible aquest any.
La setmana passada, vam compartir quatre àrees d’atenció pel que fa a ajudar les persones quan més ho necessiten:
- Ampliar les intervencions a més persones en crisi
- Fer encara més fàcil contactar amb els serveis d’emergència i obtenir ajuda d’experts
- Permetre connexions amb contactes de confiança
- Reforçar les proteccions per als adolescents.
Una part d’aquesta feina avançarà molt ràpidament, mentre que altres parts requeriran més temps.
Avui compartim més informació sobre com col·laborem amb experts per orientar la nostra feina, aprofitant els nostres models de raonament per a moments sensibles, així com detalls sobre una de les nostres àrees d’atenció: reforçar les proteccions per als adolescents.
La IA és nova i està en evolució, i volem assegurar-nos que el nostre progrés estigui guiat per una expertesa profunda en benestar i salut mental. Junts, el nostre Consell d’Experts sobre Benestar i IA i la nostra Xarxa Global de Metges aporten tant la profunditat de l’expertesa mèdica especialitzada com l’amplitud de perspectiva necessària per informar el nostre enfocament. Compartirem més informació sobre aquests esforços durant la nostra iniciativa de 120 dies.
Consell d’Experts sobre Benestar i IA
A principis d’aquest any, vam començar a reunir un consell d’experts en desenvolupament juvenil, salut mental i interacció persona-ordinador. La funció del consell és donar forma a una visió clara i basada en l’evidència de com la IA pot donar suport al benestar de les persones i ajudar-les a prosperar.
Les seves aportacions ens ajudaran a definir i mesurar el benestar, establir prioritats i dissenyar futures salvaguardes —com ara futures iteracions del control parental— tenint en compte les investigacions més recents. Tot i que el consell assessorarà les nostres decisions de producte, recerca i polítiques, OpenAI continua sent responsable de les decisions que prenem.
Xarxa Global de Metges
Aquest consell treballarà conjuntament amb la nostra Xarxa Global de Metges —un grup més ampli de més de 250 metges que han exercit en 60 països— amb qui hem treballat durant l’últim any en esforços com les nostres avaluacions health bench, que estan dissenyades per mesurar millor les capacitats dels sistemes d’IA per a la salut.
D’aquest grup més ampli, més de 90 metges de 30 països —incloent-hi psiquiatres, pediatres i metges de capçalera— ja han contribuït a la nostra recerca sobre com haurien de comportar-se els nostres models en contextos de salut mental. La seva aportació informa directament la nostra recerca en seguretat, l’entrenament dels models i altres intervencions, i ens ajuda a involucrar ràpidament els especialistes adequats quan cal.
Estem incorporant encara més clínics i investigadors a la nostra xarxa, incloent-hi persones amb una gran expertesa en àrees com els trastorns de la conducta alimentària, el consum de substàncies i la salut adolescent.
Els nostres models de raonament —com GPT‑5‑thinking i o3— estan dissenyats per dedicar més temps a pensar durant més estona i raonar sobre el context abans de respondre. Entrenats amb un mètode que anomenem alineació deliberativa, les nostres proves mostren(s'obre en una finestra nova) que els models de raonament segueixen i apliquen les directrius de seguretat de manera més consistent i són més resistents a indicacions adversàries.
Recentment hem introduït un encaminador en temps real que pot triar entre models de xat eficients i models de raonament segons el context de la conversa. Aviat començarem a derivar algunes converses sensibles —com quan el nostre sistema detecta senyals d’angoixa aguda— a un model de raonament, com GPT‑5‑thinking, perquè pugui oferir respostes més útils i beneficioses, independentment del model que una persona hagués seleccionat inicialment. Iterarem aquest enfocament amb cura.
Molts joves ja utilitzen la IA. Formen part dels primers «nadius de la IA», que creixen amb aquestes eines com a part de la vida quotidiana, de manera semblant a com generacions anteriors ho van fer amb internet o els telèfons intel·ligents. Això crea oportunitats reals de suport, aprenentatge i creativitat, però també vol dir que les famílies i els adolescents poden necessitar ajuda per establir pautes saludables que s’ajustin a l’etapa única de desenvolupament d’un adolescent.
Control parental
A principis d’aquest any, vam començar a crear més maneres perquè les famílies utilitzin ChatGPT juntes i decideixin què funciona millor a casa seva. Durant el mes vinent, els pares podran:
- Vincular el seu compte amb el del seu adolescent (edat mínima de 13 anys) mitjançant una invitació senzilla per correu electrònic.
- Controlar com respon ChatGPT al seu adolescent amb regles de comportament del model adequades a l’edat, activades per defecte.
- Gestionar quines funcions es desactiven, incloses la memòria i l’historial de xat.
- Rebre notificacions quan el sistema detecta que el seu adolescent es troba en un moment d’angoixa aguda. L’aportació d’experts guiarà aquesta funció per fomentar la confiança entre pares i adolescents.
Aquests controls s’afegeixen a funcions que hem desplegat per a tots els usuaris, inclosos recordatoris dins de l’aplicació durant sessions llargues per fomentar les pauses.
Aquests passos són només el començament. Continuarem aprenent i reforçant el nostre enfocament, guiats per experts, amb l’objectiu de fer que ChatGPT sigui tan útil com sigui possible. Esperem compartir els nostres progressos durant els propers 120 dies.
Autor
Continuar llegint
