Mehr Sicherheit und Wohlbefinden für junge Menschen in EMEA

Heute stellen wir unseren European Youth Safety Blueprint und die ersten Empfänger unseres EMEA Youth & Wellbeing Grant vor. Beides ist Teil unserer fortlaufenden Bemühungen, dazu beizutragen, dass junge Menschen von KI auf altersgerechte Weise profitieren können, die ihre Entwicklung und ihr Wohlbefinden unterstützt. 

Damit junge Menschen die Vorteile von KI voll ausschöpfen können, braucht Europa einen Ansatz, der praktisch, evidenzbasiert und darauf ausgerichtet ist, wie junge Menschen KI tatsächlich nutzen.  Wir veröffentlichen unseren European Youth Safety Blueprint, der fünf Säulen für politische Entscheidungsträger:innen darlegt, die den Schutz junger Menschen im Zeitalter der KI stärken und zugleich den Zugang zu Tools erhalten wollen, die Lernen, Kreativität und Chancen fördern. 

Der Blueprint konzentriert sich auf praktische Maßnahmen, darunter die verantwortungsvolle Einführung von KI im Bildungsbereich, altersgerechte Erfahrungen mit Schutzmaßnahmen und datenschutzwahrender Altersverifikation, Sicherheitsrichtlinien für Unter-18-Jährige zur Erkennung und Minderung von Risiken, Schutz vor manipulativen oder irreführenden KI-Ausgaben sowie gemeinsame Standards für zugängliche Kindersicherung.

Dies sind nicht die einzigen Antworten, aber wir hoffen, dass sie einen nützlichen Beitrag zu den laufenden Bemühungen leisten, hier die richtigen Entscheidungen zu treffen.

Mehr Sicherheit für junge Menschen voranzubringen, erfordert mehr als nur politische Empfehlungen. Wir werden auch Organisationen unterstützen, die direkt mit jungen Menschen, Familien, Lehrkräften und Gemeinschaften arbeiten, um besser zu verstehen, wie sichere und vorteilhafte KI-Nutzung in der Praxis aussieht.

Wir freuen uns, 12 Empfänger unseres EMEA Youth & Wellbeing Grant bekannt zu geben. Das im Januar gestartete Programm mit einem Gesamtvolumen von 500.000 € soll NGOs und Forschungsorganisationen in Europa, dem Nahen Osten und Afrika unterstützen, die zu Jugendsicherheit, Wohlbefinden und KI arbeiten.

Die ausgewählten Empfänger leisten praktische Arbeit und unabhängige Forschung, die mitdefinieren wird, wie sichere, verantwortungsvolle KI in der realen Welt aussieht. Diese Fördermittel unterstützen eine Reihe von Projekten, darunter wichtige Dienste für das Wohlbefinden junger Menschen, Unterstützung der psychischen Gesundheit, verbesserte KI-Kompetenz, Forschung zur Altersverifikation und Ressourcen für Eltern, Lehrkräfte, Jugendarbeiter:innen und junge Menschen, einschließlich derjenigen in benachteiligten Gemeinschaften.

• Centre for Information Policy Leadership: Unterstützung von Forschung zur KI-gestützten Altersschätzung innerhalb umfassenderer Systeme zur Altersverifikation.
• East Europe Foundation (UA): Untersuchung, wie Jugendliche in von Konflikten betroffenen Ländern KI zum Lernen und zur Unterstützung ihrer psychischen Gesundheit nutzen.
• e-Enfance (FR): Umsetzung von Projekten und Schulungen zum Wohlbefinden junger Menschen und digitaler Kompetenz.
• FSM (DE): Entwicklung von Tools zur KI-Kompetenz für Eltern, Lehrkräfte und Pädagog:innen.
• Luma (KE): Entwicklung eines KI-gestützten E-Tutors für junge Menschen in abgelegenen Gemeinden.
• Mental Health Innovations (UK): Evaluierung Chatbot-basierter Weiterleitung zu Krisenhilfeangeboten.
• OPEN (FR): Erweiterung der laufenden NUAJE-Forschung zu den Auswirkungen von KI auf junge Menschen.
• Open Source Association (JO): Forschung zu KI-gestützten Meldesystemen für Überlebende von Menschenhandel und geschlechtsspezifischer Gewalt.
• Parent Zone (UK): Bereitstellung von Unterstützung zur KI-Kompetenz für Eltern sowie Erkenntnissen für Politik und Produktdesign dazu, wie jungen Menschen beim Umgang mit KI geholfen werden kann.
• Teen Turn (IE): Programm, das jungen Mädchen aus benachteiligten Verhältnissen KI-Kompetenzen vermittelt, um digitale Chancengleichheit zu fördern.
• Telefono Azzurro (IT): Unterstützung von AzzurroChat – einer KI-basierten Plattform für psychische Gesundheit und digitales Wohlbefinden für Jugendliche.
• UNICRI Centre for AI and Robotics: Förderung von KI-Kompetenz für Lehrkräfte und Schulen weltweit.

Diese jüngsten Beiträge bauen auf OpenAIs breiterem globalen Ansatz zur Sicherheit junger Menschen auf, einschließlich unserer Grundsätze für Unter-18-Jährige zum Modellverhalten, unseres Modells zur Altersvorhersage, unserer Kindersicherung und unserer Ressourcen für Familien. Unser Ansatz wird durch Fachleute informiert, darunter der Expert:innenrat für Wohlbefinden und KI und das Global Physician Network. 

In Europa arbeiten wir mit Regierungen und Institutionen über Education for Countries zusammen, um KI verantwortungsvoll im Bildungsbereich einzusetzen, und mit der Universität Tartu in Estland, um Forschung zur Messung von KI-Lernergebnissen zu unterstützen. Wir waren Gründungsmitglied der Koalition Beneficial AI for Children und haben uns im Vatikan gemeinsam mit führenden Persönlichkeiten hinter eine Erklärung⁠(wird in einem neuen Fenster geöffnet) zu den Rechten und der Würde von Kindern im Kontext von KI gestellt.

Sicherheit junger Menschen ist eine fortlaufende Aufgabe. Wir setzen uns dafür ein, starke Schutzmaßnahmen für Jugendliche zu schaffen und sie im Laufe der Zeit weiter zu verbessern, um Jugendliche und Familien besser zu unterstützen.