OpenAI Japan anuncia el Japan Teen Safety Blueprint per prioritzar la seguretat dels adolescents

OpenAI Japan ha anunciat avui el Japan Teen Safety Blueprint, un nou marc per ajudar els adolescents a utilitzar la IA generativa de manera segura i amb confiança.

Al Japó, on un nombre creixent d’adolescents ja utilitzen la IA generativa per aprendre, crear i fer tasques quotidianes, aquesta feina és especialment important. Com que la primera generació creix al costat de la IA, és fonamental garantir que aquestes tecnologies es dissenyin pensant en la seva seguretat i benestar des del principi.

La IA generativa ja dona suport a les persones en una àmplia gamma d’activitats, des de l’aprenentatge i l’expressió creativa fins a les tasques quotidianes que ajuden les persones a prosperar a l’escola, a la feina i en la seva vida personal. A una escala més àmplia, també té el potencial d’accelerar el descobriment científic i ajudar a abordar desafiaments complexos als quals s’enfronta la societat.

Al mateix temps, com qualsevol tecnologia potent, la IA introdueix nous riscos, especialment per als usuaris més joves, com ara l’exposició a la desinformació, al contingut inadequat i a la tensió psicològica. El nostre enfocament es guia per un principi clar: per als adolescents, la seguretat és el primer, fins i tot quan això requereix renúncies en comoditat, privadesa o llibertat d’ús.

• Proteccions a la plataforma més avançades i adaptades a l’edat
  OpenAI aplicarà una estimació de l’edat basada en el risc i conscient de la privadesa per distingir millor els adolescents dels adults i oferir proteccions adequades a cada grup. Hi haurà processos d’apel·lació quan els usuaris considerin que les determinacions d’edat són incorrectes.
• Polítiques de seguretat més estrictes per als usuaris menors de 18 anys
  OpenAI reforçarà les proteccions per ajudar a garantir que la IA no representi ni fomenti l’autolesió o el suïcidi, no generi contingut sexual o violent explícit, no encoratgi comportaments perillosos ni reforci una imatge corporal nociva. Les respostes es dissenyaran perquè siguin adequades a l’etapa de desenvolupament dels usuaris més joves. També ens assegurem que la IA no ajudi els menors a ocultar comportaments de risc, símptomes o preocupacions relacionades amb la salut a pares o cuidadors de confiança.
• Control parental ampliat
  Eines com la vinculació de comptes, els controls de privadesa i configuració, la gestió del temps d’ús i les alertes quan calgui ajudaran les famílies a adaptar les proteccions segons les seves circumstàncies individuals.
• Disseny centrat en el benestar i basat en la recerca
  En col·laboració amb clínics, investigadors, educadors i experts en seguretat infantil, OpenAI continuarà millorant funcions com els recordatoris de descans i els itineraris cap al suport en el món real, alhora que impulsa la recerca sobre l’impacte de la IA en la salut mental i el desenvolupament dels adolescents.

Aquests nous esforços se sumen a les proteccions ja existents a ChatGPT, entre les quals hi ha:

• Recordatoris dins del producte que fomenten les pauses durant un ús prolongat
• Mesures de protecció que detecten possibles senyals d’autolesió i orienten els usuaris cap a recursos del món real
• Sistemes de seguretat multicapa i monitoratge d’abusos
• Prevenció capdavantera al sector del material d’explotació sexual infantil generat per IA

Donem suport a l’enfocament del Japó per equilibrar proteccions sòlides per als menors amb un accés responsable a la tecnologia. Continuarem col·laborant amb pares, educadors, investigadors, responsables polítics i comunitats locals mitjançant un diàleg transparent i una millora contínua. També creiem que protegir els adolescents en l’era de la IA és una responsabilitat compartida, i que aquest tipus de proteccions haurien de convertir-se en un estàndard a tot el sector.

OpenAI continuarà impulsant aquests esforços com a part del seu compromís més ampli amb una IA segura i responsable.