Faire progresser la sécurité et le bien-être des jeunes dans la région EMEA

Aujourd’hui, nous présentons notre plan directeur européen pour la sécurité des jeunes ainsi que les premiers bénéficiaires de notre subvention EMEA Jeunesse & bien-être. Tous deux s’inscrivent dans le cadre de nos efforts continus pour faire en sorte que les jeunes puissent bénéficier de l’IA de manière adaptée à leur âge et favorable à leur développement et à leur bien-être. 

Pour que les jeunes puissent pleinement bénéficier de l’IA, l’Europe a besoin d’une approche pratique, fondée sur des preuves et centrée sur la manière dont les jeunes utilisent réellement l’IA.  Nous publions notre plan directeur européen pour la sécurité des jeunes, qui présente cinq piliers destinés aux décideurs publics souhaitant renforcer la protection des jeunes à l’ère de l’IA tout en préservant l’accès à des outils qui favorisent l’apprentissage, la créativité et les opportunités. 

Le plan directeur met l’accent sur des mesures concrètes, notamment l’adoption responsable de l’IA dans l’éducation, des expériences adaptées à l’âge soutenues par des garde-fous et une assurance de l’âge respectueuse de la vie privée, des politiques de sécurité pour les moins de 18 ans afin d’identifier et d’atténuer les risques, des protections contre les contenus générés par l’IA manipulateurs ou trompeurs, ainsi que des normes communes pour un contrôle parental accessible.

Ce ne sont pas les seules réponses, mais nous espérons qu’elles constitueront une contribution utile aux efforts en cours pour bien faire les choses.

Faire progresser la sécurité des jeunes exigera plus que de simples recommandations de politique publique. Nous soutiendrons également des organisations qui travaillent directement avec les jeunes, les familles, les éducateurs et les communautés afin de mieux comprendre à quoi ressemble, en pratique, un usage de l’IA à la fois sûr et bénéfique.

Nous sommes heureux d’annoncer les 12 bénéficiaires de notre subvention EMEA Jeunesse & bien-être. Lancé en janvier, ce programme d’un montant total de 500 000 € vise à soutenir des ONG et des organismes de recherche à travers l’Europe, le Moyen-Orient et l’Afrique travaillant sur la sécurité des jeunes, le bien-être et l’IA.

Les bénéficiaires sélectionnés mènent des travaux concrets et des recherches indépendantes qui contribueront à définir à quoi ressemble une IA sûre et responsable dans le monde réel. Ce financement soutiendra un éventail de projets, notamment des services essentiels de bien-être pour les jeunes, un soutien en santé mentale, une meilleure culture de l’IA, des recherches sur l’assurance de l’âge, ainsi que des ressources de terrain pour les parents, les éducateurs, les travailleurs auprès des jeunes et les jeunes eux-mêmes, y compris ceux issus de communautés vulnérables.

• Centre for Information Policy Leadership: soutien à la recherche sur l’estimation de l’âge par l’IA dans des systèmes plus larges d’assurance de l’âge.
• East Europe Foundation (UA): recherche sur la manière dont les adolescents dans des pays touchés par les conflits utilisent l’IA pour l’apprentissage et le soutien en santé mentale.
• e-Enfance (FR): mise en œuvre de projets et de formations sur le bien-être des jeunes et la culture numérique.
• FSM (DE): développement d’outils de culture de l’IA pour les parents, les enseignants et les éducateurs.
• Luma (KE): développement d’un e-tuteur alimenté par l’IA pour les jeunes dans les communautés isolées.
• Mental Health Innovations (UK): évaluation de l’orientation par chatbot vers des services d’aide en situation de crise.
• OPEN (FR): extension des recherches en cours de NUAJE sur l’impact de l’IA sur les jeunes.
• Open Source Association (JO): recherche sur des systèmes de signalement assistés par l’IA pour les survivants de la traite et des violences fondées sur le genre.
• Parent Zone (UK): mise en place d’un accompagnement à la culture de l’IA pour les parents et production d’enseignements en matière de politiques publiques et de conception de produits afin d’aider les jeunes à utiliser l’IA.
• Teen Turn (IE): programme visant à fournir à de jeunes filles issues de milieux défavorisés des compétences en culture de l’IA afin de promouvoir l’équité numérique.
• Telefono Azzurro (IT): soutien à AzzurroChat — une plateforme de santé mentale et de bien-être numérique fondée sur l’IA pour les adolescents.
• UNICRI Centre for AI and Robotics: soutien à la culture de l’IA pour les enseignants et les écoles à l’échelle mondiale.

Ces dernières contributions s’appuient sur l’approche mondiale plus large d’OpenAI en matière de sécurité des jeunes, notamment nos principes pour les moins de 18 ans concernant le comportement du modèle, notre modèle de prédiction de l’âge, notre contrôle parental et nos ressources destinées aux familles. Notre approche est éclairée par des experts, notamment le Conseil d’experts sur le bien-être et l’IA et le Global Physician Network. 

En Europe, nous travaillons avec des gouvernements et des institutions via Education for Countries pour déployer l’IA de manière responsable dans l’éducation, et avec l’université de Tartu en Estonie pour soutenir des recherches mesurant les résultats d’apprentissage liés à l’IA. Nous avons été membre fondateur de la coalition Beneficial AI for Children et avons rejoint des dirigeants au Vatican pour soutenir une déclaration⁠(ouverture dans une nouvelle fenêtre) sur les droits et la dignité des enfants dans le contexte de l’IA.

La sécurité des jeunes est un travail de long terme. Nous nous engageons à mettre en place de solides protections pour les adolescents et à les améliorer au fil du temps afin de mieux accompagner les adolescents et les familles.