Forschung zu KI und zur Sicherheit von Kindern fördern
OpenAI sagt 2 Millionen US-Dollar im Rahmen weltweiter Bemühungen zu, die Auswirkungen von KI auf Kinder besser zu verstehen und ihre Sicherheit und ihr Wohlbefinden zu fördern.
Anfang dieser Woche hat OpenAI beim Paris Peace Forum die Charter of Engagement for Safer AI for Children(wird in einem neuen Fenster geöffnet) unterzeichnet und 2 Millionen US-Dollar zugesagt, um das wissenschaftliche Forschungsnetzwerk der Coalition for Children’s Rights and Protection in the Age of AI zu unterstützen.
Damit knüpfen wir an unsere Forderung nach globalen Standards für die KI-Sicherheit junger Menschen an. Zugleich setzen wir auf die anhaltende Zusammenarbeit zwischen Regierungen, Forschenden, Zivilgesellschaft und Industrie, um gemeinsame Erkenntnisse in konkrete Schutzmaßnahmen umzusetzen.
Unser Beitrag unterstützt die gemeinsame Entwicklung von Messinstrumenten. Damit können Forschende die Risiken und Chancen von KI für Kinder besser verstehen und messen. Die Erkenntnisse sollen zu sichereren Produkten und einer besseren Politik beitragen.
Die Charta legt gemeinsame Grundsätze für sichere, altersgerechte KI fest. Sie sieht außerdem ein Forschungsprogramm und Maßnahmen zum Schutz seiner Unabhängigkeit vor. Die Forschungsteams entscheiden weiterhin selbst über ihre Schlussfolgerungen. Ihre Ergebnisse werden veröffentlicht, auch wenn sie negativ oder nicht eindeutig sind.
Diese Arbeit wird dazu beitragen, die nötige wissenschaftliche Grundlage zu schaffen, um die Vorteile von KI für junge Menschen zu fördern und zugleich Risiken für ihre Sicherheit und Entwicklung zu begegnen. Sie knüpft an unsere Unterstützung für eine umfassende Gesetzgebung zur KI-Sicherheit junger Menschen an. Diese soll einen starken, durchsetzbaren Schutz schaffen und zugleich den Zugang zu Werkzeugen bewahren, die Lernen und Kreativität fördern und neue Chancen eröffnen. Solche Regelwerke sollten standardmäßig altersgerechte Schutzmaßnahmen, Werkzeuge für Eltern, regelmäßige Risikobewertungen und Maßnahmen zur Risikominderung sowie wirksame Rechenschaftspflichten vorsehen. Wir freuen uns auf den Austausch mit politisch Verantwortlichen in Europa bei der Ausarbeitung des EU Kids Act und auf die Zusammenarbeit mit Partnerorganisationen weltweit, um junge Menschen besser zu schützen und ihre Chancen zu stärken.


