Per què els adolescents mereixen accés a una IA segura

Els adolescents són la primera generació que creix amb la IA, i aquesta tecnologia marcarà profundament el seu futur. Avui, gairebé 9 de cada 10 adolescents que fan servir ChatGPT l’utilitzen en una mateixa setmana per aprendre, informar-se, desenvolupar habilitats o ser més productius. Per això creiem que és fonamental que els adolescents tinguin accés a la IA. Impedir que els adolescents la facin servir fins a l’edat adulta seria com demanar a una generació anterior que evités internet o els motors de cerca fins als 18 anys, cosa que els deixaria menys preparats per utilitzar una de les tecnologies que definiran el seu temps. Però l’accés ha d’anar acompanyat de proteccions dissenyades específicament per als adolescents.

En una sessió recent d’OpenAI Academy⁠(s'obre en una finestra nova), Oriana McKenzie va explicar com ChatGPT la va ajudar a ser la número 1 de la seva promoció d’institut estudiant de manera més intel·ligent i gestionant la seva càrrega de treball, cosa que li va donar el temps que necessitava per als esports i els programes escolars que li agraden. La seva història mostra què és possible quan els adolescents tenen accés a una IA que els ajuda a aprendre i crear.

Per aprofitar al màxim aquests beneficis, els adolescents necessiten proteccions més sòlides, pensades per a la seva etapa vital, incloses barreres de seguretat automatitzades que els permetin explorar, aprendre i crear amb confiança, amb salvaguardes adaptades a la seva edat. A mesura que la IA esdevé més capaç, la nostra responsabilitat és combinar un accés ampli amb proteccions adequades a l’edat que permetin als adolescents beneficiar-se d’aquesta tecnologia mentre evoluciona.

Durant l’últim any, això ha significat reforçar les proteccions predeterminades per als adolescents, desplegar la predicció de l’edat⁠, ampliar el control parental⁠, crear recursos familiars⁠(s'obre en una finestra nova) addicionals per ajudar les famílies a promoure un ús saludable i responsable, i introduir funcions d’aprenentatge que afavoreixin una comprensió més profunda en lloc de limitar-se a donar respostes.

La nostra feina es guia per quatre compromisos clau⁠:

• Posem la seguretat dels adolescents en primer lloc, fins i tot quan pot entrar en conflicte amb altres objectius.
• Fomentem el suport del món real en moments de necessitat.
• Tractem els adolescents com a adolescents.
• Som transparents establint expectatives clares.

L’aprenentatge és una de les maneres més clares en què els adolescents es beneficien de la IA, per això estem creant eines que fomenten la participació activa, el pensament crític i una comprensió més profunda. El mode d’estudi⁠(s'obre en una finestra nova) es va dissenyar en col·laboració amb docents, científics de l’aprenentatge i experts en pedagogia per ajudar els estudiants a resoldre problemes pas a pas mitjançant preguntes orientatives, explicacions estructurades i oportunitats de reflexió, sense limitar-se a donar la resposta. Les primeres avaluacions d’eines com el mode d’estudi han mostrat millores prometedores en el rendiment dels estudiants⁠, i ens ajuden a orientar la nostra recerca més àmplia sobre com la IA pot afavorir els resultats d’aprenentatge.

Tot i que els adolescents poden activar aquest mode ells mateixos, ara els pares amb comptes d’adolescents vinculats poden activar el mode d’estudi⁠ directament des del control parental⁠. Quan està activat, s’aplica per defecte cada vegada que un adolescent inicia un xat nou, cosa que ofereix a les famílies una altra manera de guiar l’ús de ChatGPT per a les tasques escolars i l’estudi.

També hem introduït recentment indicacions inicials centrades en l’educació per als adolescents, perquè sigui més fàcil començar amb tasques com desglossar un tema en passos senzills, convertir apunts en una guia d’estudi, crear targetes de memòria o preguntes de pràctica, i revisar les proves i la claredat.

També continuem ampliant les experiències d’aprenentatge interactives⁠. La recerca ha demostrat de manera constant⁠ que les persones aprenen amb més eficàcia quan poden interactuar activament amb els conceptes, en lloc de consumir informació passivament. Des del llançament a principis d’aquest any, 18 milions d’usuaris setmanals ja interactuen amb experiències de matemàtiques i ciències a ChatGPT, i hem ampliat aquestes experiències a més de 250 temes nous, des de les integrals i la mitosi fins a les fases de la Lluna, la fotosíntesi i molt més. També hem introduït una experiència de pronunciació que fa servir àudio per ajudar les persones a aprendre a pronunciar paraules en més de 61 llengües.

Si el nostre sistema estima que una persona que fa servir ChatGPT té menys de 18 anys,⁠ li oferim automàticament una experiència més adequada a la seva edat⁠(s'obre en una finestra nova). Els adolescents poden continuar fent servir ChatGPT per aprendre, crear i explorar, però amb proteccions addicionals pensades per reduir l’exposició a contingut que pot no ser adequat per a ells. Això inclou salvaguardes més sòlides davant la violència gràfica, l’autolesió, els reptes virals de risc, els continguts sobre imatge corporal poc saludables i els jocs de rol perillosos, romàntics o sexuals. La nostra brúixola és ajudar a garantir que ChatGPT continuï sent una eina per a l’aprenentatge i la creativitat, i no un substitut de les relacions del món real.

També estem dissenyant ChatGPT perquè fomenti hàbits saludables. Els adolescents que passen períodes llargs a ChatGPT ara rebran recordatoris de pausa⁠ més freqüents que els animen a aturar-se i apartar-se de la pantalla. Aquests recordatoris tenen com a objectiu ajudar els joves a desenvolupar hàbits tecnològics equilibrats, tot mantenint la llibertat d’utilitzar la IA per aprendre, crear i resoldre problemes.

Creiem que les millors eines de seguretat poden ajudar les famílies a gestionar conjuntament les experiències en línia dels adolescents. Hem creat control parental i notificacions⁠ que els permeten establir hores de silenci, desactivar el mode de veu, gestionar l’accés a la generació d’imatges i rebre notificacions en determinades situacions d’alt risc, com ara indicis de possible autolesió.

Estem ampliant aquestes notificacions per incloure els casos en què un compte d’adolescent vinculat s’ha desactivat per infringir les nostres polítiques d’ús⁠ sobre amenaces violentes o actes de violència en línia. Aquest enfocament ajuda els pares a saber quan ha passat una cosa greu, alhora que respecta la privadesa dels adolescents i fomenta converses i suport fora de línia.

A l’hora de desenvolupar aquestes funcions, hem consultat diversos experts, inclòs Moonshot⁠(s'obre en una finestra nova), un referent en la prevenció de la violència en línia, per ajudar a garantir que aquestes intervencions siguin reflexionades, efectives i centrades a ajudar les famílies a respondre en moments de necessitat.

També volem garantir que pares, adolescents i educadors tinguin orientacions clares sobre com utilitzar la IA de la manera més responsable. Publiquem recursos educatius en més de 50 llengües, inclosos Una guia familiar per ajudar els adolescents a utilitzar la IA de manera responsable⁠(s'obre en una finestra nova), Consells per parlar amb el teu fill adolescent sobre la IA⁠(s'obre en una finestra nova) i Consells per a pares que fan servir ChatGPT⁠(s'obre en una finestra nova).

Mantenir els joves segurs en línia no és una cosa que cap empresa pugui resoldre tota sola. Treballem estretament amb adolescents, pares, educadors, experts en seguretat infantil, professionals de la salut mental, investigadors, governs i organitzacions de la societat civil. Aquestes col·laboracions ens ajuden a entendre millor les necessitats dels joves, detectar riscos emergents, avaluar l’eficàcia de les nostres salvaguardes i garantir que les nostres polítiques es basin en expertesa independent.

Aquesta feina abasta el nostre enfocament tant de l’aprenentatge com del benestar dels joves. Col·laborem amb educadors, inclosa l’American Federation of Teachers⁠, estudiants i organitzacions d’aprenentatge per entendre millor com la IA pot donar suport a l’ensenyament i l’aprenentatge, alhora que reforça la participació activa i el pensament crític. També treballem estretament amb experts de les comunitats de salut mental, desenvolupament infantil i seguretat juvenil, incloent-hi l’American Psychological Association⁠(s'obre en una finestra nova), la nostra Global Physicians Network⁠ i el nostre Consell d’Experts sobre Benestar i IA⁠.

La nostra feina per construir un ecosistema digital més saludable va més enllà dels nostres propis productes. Hem defensat el desenvolupament d’estàndards globals escalables per a la seguretat dels joves en la IA⁠ mitjançant un institut dedicat a la seguretat de la IA, hem publicat en codi obert polítiques i eines⁠ que els desenvolupadors poden integrar als seus propis sistemes d’IA, i treballem amb organitzacions com Common Sense Media⁠(s'obre en una finestra nova) i everyone.ai⁠(s'obre en una finestra nova) per compartir aprenentatges i bones pràctiques.

Aquest any també ens hem incorporat al Family Online Safety Institute⁠(s'obre en una finestra nova) (FOSI), un defensor de llarga trajectòria de les experiències en línia segures per a les famílies i els joves. Treballarem conjuntament per garantir que els joves puguin beneficiar-se de la IA, amb pares empoderats i pràctiques responsables del sector al centre. Esperem que aquesta col·laboració ajudi a avançar en una comprensió compartida del que funciona, reforci les proteccions adequades a l’edat i les eines per als pares, i doni suport als esforços de tot el sector que permeten als joves beneficiar-se de la IA de manera segura i responsable.

Protegir els joves en línia requereix un progrés continu. En els propers mesos, continuarem reforçant les proteccions adequades a l’edat, donant als pares més eines i control, millorant les salvaguardes contra danys greus, impulsant la recerca sobre l’ús saludable de la IA i creant més experiències que ajudin els adolescents a aprendre activament i a utilitzar la IA amb confiança.

Sabem que encara queda molt per fer, i ens comprometem a continuar treballant en col·laboració amb adolescents, pares, educadors, experts i comunitats d’arreu del món per oferir als adolescents un accés ampli i segur.