Impulsar la seguretat i les oportunitats dels joves mitjançant el lideratge global

La IA pot ser una eina poderosa per als joves. Pot ajudar l’alumnat a entendre un concepte difícil, practicar una llengua nova, preparar-se per a una entrevista de feina, explorar idees creatives o aprendre una habilitat nova. Així com el moviment d’alfabetització que es va estendre arreu del món a mitjan segle XX va requerir la distribució massiva de text imprès i l’accés a docents formats, avui donar accés a una IA segura obrirà noves oportunitats d’aprenentatge personalitzat, ajudarà a reduir barreres per a les persones desateses i augmentarà la preparació de la força laboral.

Com que els beneficis potencials són tan importants, és essencial que els joves puguin accedir a la IA de maneres segures, adequades a l’edat i que afavoreixin un desenvolupament saludable. Aquesta responsabilitat no hauria de recaure principalment en els pares ni en els mateixos joves. Les empreses, inclosa OpenAI, tenen la responsabilitat de crear productes amb salvaguardes adequades per defecte, alhora que donen a les famílies eines i informació per orientar com s’utilitza la IA.

Quan els caps d’estat es reuneixin a la Cimera de Líders del G7 a Évian, França, a finals d’aquest mes, la seguretat de la IA per als joves serà un tema central. OpenAI hi participarà per debatre una col·laboració més gran en seguretat juvenil, com podem treballar junts per elevar els estàndards del sector i la nova crida d’OpenAI perquè s’estableixi un institut internacional de seguretat juvenil.

La Cimera de Líders del G7 representa una oportunitat excepcional per a la coordinació global en seguretat juvenil. Però un institut dedicat proporcionaria la continuïtat i el seguiment necessaris més enllà d’una sola cimera, i ajudaria governs, investigadors, societat civil i sector privat a continuar treballant plegats per compartir evidències, elaborar orientacions i elevar els estàndards amb el temps.

Hi ha diverses maneres creïbles de fer-ho: mitjançant un nou institut internacional, o donant a un institut nacional d’IA existent o de nova creació un mandat global per compartir recerca, evidències i orientacions amb socis d’arreu del món. El més important és la funció que compleixi. La seguretat de la IA per als joves necessita atenció sostinguda, evidències fiables i orientacions pràctiques que puguin seguir el ritme de la tecnologia.

Un institut d’aquest tipus pot basar-se en iniciatives emergents com el Youth AI Safety Institute de Common Sense Media, amb el suport de l’OpenAI Foundation, així com en col·laboracions pràctiques amb educadors, inclosa la feina d’OpenAI amb l’American Federation of Teachers⁠. També hauria d’aprofitar desplegaments en el món real, com el desplegament nacional de ChatGPT a les escoles d’Estònia, on OpenAI treballa amb Stanford i investigadors estonians per estudiar-ne l’impacte i orientar un ús més segur i eficaç en l’aprenentatge.

OpenAI acull amb satisfacció l’oportunitat de treballar amb el Govern francès, altres governs del G7 i socis de la societat civil, l’acadèmia i el sector privat en aquesta feina vital i per elevar els estàndards globals de seguretat juvenil.

Creiem que els marcs sòlids de seguretat de la IA per als joves, inclòs qualsevol possible acord assolit en trobades del G7, s’han de guiar pels principis que exposem aquí.

1. Les empreses haurien de saber quan un usuari és menor d’edat i aplicar proteccions adequades a l’edat. Això vol dir exigir als proveïdors que utilitzin mitjans com una estimació d’edat eficaç i respectuosa amb la privadesa per distingir els menors dels adults, i aplicar per defecte salvaguardes protectores quan no es pugui determinar l’edat d’un usuari. Sense aquesta base, fins i tot les proteccions juvenils més benintencionades poden no arribar als joves que pretenen protegir.
2. Les empreses haurien d’avaluar periòdicament tant els riscos com els beneficis per als joves i adoptar mesures per abordar-los—abans que es produeixin danys. Això vol dir exigir als proveïdors que completin avaluacions anuals de riscos de seguretat juvenil i implementin salvaguardes proporcionades segons els riscos que identifiquin. Aquestes avaluacions han de tenir en compte els riscos per als joves en funció de la seva etapa de desenvolupament, l’evidència empírica de l’ús real i la recerca o les orientacions reguladores pertinents. Les avaluacions han de considerar no només els possibles danys, sinó també si la IA dona suport a resultats positius com l’aprenentatge, la creativitat, el desenvolupament d’habilitats i l’accés a oportunitats.
3. Els pares, mares i tutors legals haurien de disposar de controls accessibles i fàcils d’utilitzar per ajudar-los a orientar les experiències dels seus fills i, alhora, afavorir una autonomia adequada a l’edat. Aquests controls han d’incloure eines per gestionar paràmetres clau, com la memòria, l’ús de dades i els límits de temps. Les eines parentals s’han de promoure activament perquè les famílies sàpiguen que existeixen i entenguin com utilitzar-les.
4. Les famílies mereixen informació clara i comprensible sobre com les empreses protegeixen els usuaris joves, així com informació significativa sobre els beneficis i els riscos de l’ús de la IA per part dels joves. Les empreses haurien de publicar polítiques de seguretat que expliquin quines salvaguardes hi ha per protegir els joves, quines eines parentals estan disponibles i com s’actualitzen les proteccions a mesura que evolucionen els riscos. Aquesta transparència genera confiança i ajuda les famílies a prendre decisions informades.
5. Les empreses haurien de tenir protocols clars per abordar situacions greus de seguretat, incloses les autolesions, l’explotació, el grooming, el contingut d’explotació sexual i altres interaccions d’alt risc. Aquests protocols han d’incloure suport dins del servei, derivacions a recursos adequats i notificacions oportunes als pares quan correspongui. Les empreses també haurien de dissenyar els seus sistemes per impedir que generin contingut insegur o inadequat per al desenvolupament dels infants, inclòs material sexual o violent explícit.  
6. Els sistemes d’IA utilitzats pels joves haurien d’estar dissenyats per donar suport a l’aprenentatge, el desenvolupament i les relacions en el món real, no per substituir-los. La IA hauria de servir com una eina que ajuda els joves a aprendre, crear, desenvolupar habilitats i preparar-se per al futur. Alhora, les empreses haurien d’establir límits clars en àmbits en què un desenvolupament saludable depèn del criteri humà, les relacions en el món real i el suport professional.
7. La informació personal dels menors hauria d’estar protegida. Això vol dir prohibir la publicitat dirigida invasiva de la privadesa adreçada als joves i impedir que les empreses venguin informació personal.
8. Els marcs de seguretat juvenil haurien de promoure l’oportunitat, l’alfabetització i la protecció. Els joves haurien de tenir accés a eines d’IA que donin suport a l’aprenentatge, la creativitat, el desenvolupament d’habilitats i les oportunitats futures, i alhora disposar dels coneixements i les habilitats de pensament crític necessaris per utilitzar la IA de manera segura i responsable. Això inclou promoure l’alfabetització en IA i ajudar els joves a entendre les oportunitats i les limitacions dels sistemes d’IA, perquè puguin participar amb confiança i responsabilitat en els espais digitals.
9. Uns mecanismes sòlids de rendició de comptes, incloses auditories independents, són essencials per garantir que aquestes proteccions siguin significatives a la pràctica. Les auditories s’haurien de sustentar en un conjunt d’estàndards comuns que permetin auditories interoperables entre jurisdiccions. Els marcs legislatius haurien d’incloure mesures de supervisió i aplicació que permetin als governs avaluar si les empreses implementen de manera efectiva les salvaguardes de seguretat juvenil, mitiguen els riscos identificats i compleixen les obligacions de seguretat juvenil i privadesa.

Els principis es reflecteixen en la manera com creem i operem ChatGPT, des del comportament del model i el disseny del producte fins a l’aportació d’experts i el suport en el món real. Hem reforçat les salvaguardes per als usuaris menors de 18 anys, hem llançat el control parental⁠ amb notificacions proactives i sistemes avançats de predicció de l’edat⁠ perquè ChatGPT pugui aplicar proteccions més fortes quan algú podria tenir menys de 18 anys. La nostra especificació del model, que descriu com s’han de comportar els nostres models, també inclou principis específics per a usuaris menors de 18 anys⁠(s'obre en una finestra nova), que prioritzen la seguretat dels adolescents, experiències adequades a l’edat, suport en el món real i expectatives clares. A la pràctica, això vol dir barreres de protecció més fortes al voltant de les autolesions, les activitats perilloses, el contingut explícit, la imatge corporal i el secretisme, juntament amb l’estímul de buscar suport presencial de confiança o recursos de crisi quan calgui. Quan l’edat és incerta, apliquem per defecte salvaguardes més fortes.

Una IA dissenyada amb salvaguardes sòlides i oferta amb orientacions clares, i amb el suport de famílies i educadors, pot ajudar els joves a beneficiar-se de manera segura d’eines que amplien l’aprenentatge, la creativitat i les oportunitats. La IA pot ajudar l’alumnat a entendre conceptes difícils, practicar llengües, millorar l’escriptura, aprendre a programar, organitzar recerques, explorar idees creatives i preparar-se per a feines que ja estan canviant. A través d’Education for Countries⁠, OpenAI treballa amb governs i educadors en desplegaments basats en la recerca, eines d’aprenentatge localitzades i formació del professorat perquè l’adopció de la IA es fonamenti en evidències i en necessitats reals de l’aula. Aquesta feina ja dona suport a esforços educatius nacionals amb els nostres països socis, inclosos Estònia⁠, Grècia⁠ i Singapur⁠.

A més de participar en la Cimera de Líders, portarem l’OpenAI Forum⁠(s'obre en una finestra nova) a París per convocar una conversa pràctica sobre com governs, investigadors, societat civil, educadors i sector privat poden convertir els objectius compartits de seguretat juvenil en salvaguardes, estàndards i pràctiques d’implementació concrets. L’ambaixadora de França per a la IA i els Afers Digitals, Clara Chappaz, s’unirà al director d’Afers globals d’OpenAI, Chris Lehane, a líders de seguretat juvenil d’iRaise/Everyone.AI i a altres experts en un debat sobre com els joves poden beneficiar-se de la IA tot reduint-ne els riscos.