Jugendsicherheit und Chancen durch globale Führung stärken

KI kann ein wirkungsvolles Werkzeug für junge Menschen sein. Sie kann Schüler:innen und Studierenden helfen, ein schwieriges Konzept zu verstehen, eine neue Sprache zu üben, sich auf ein Vorstellungsgespräch vorzubereiten, kreative Ideen zu erkunden oder eine neue Fähigkeit zu erlernen. So wie die Alphabetisierungsbewegung, die sich Mitte des 20. Jahrhunderts weltweit ausbreitete, die massenhafte Verteilung gedruckter Texte und den Zugang zu ausgebildeten Lehrkräften erforderte, wird heute der Zugang zu sicherer KI neue Möglichkeiten für personalisiertes Lernen eröffnen, Barrieren für unterversorgte Gruppen abbauen helfen und die Arbeitsmarktfähigkeit erhöhen.

Da die potenziellen Vorteile so erheblich sind, ist es entscheidend, dass junge Menschen auf KI in einer Weise zugreifen können, die sicher, altersgerecht und einer gesunden Entwicklung förderlich ist. Diese Verantwortung sollte nicht in erster Linie bei Eltern oder jungen Menschen selbst liegen. Unternehmen, darunter OpenAI, tragen die Verantwortung, Produkte standardmäßig mit angemessenen Schutzmechanismen zu entwickeln und Familien zugleich mit Werkzeugen und Informationen auszustatten, damit sie die Nutzung von KI begleiten können.

Wenn sich die Staats- und Regierungschef:innen später in diesem Monat beim G7-Gipfel in Évian, Frankreich, treffen, wird das Thema KI-Sicherheit für Jugendliche ein zentraler Schwerpunkt sein. OpenAI wird teilnehmen, um über eine stärkere Zusammenarbeit im Bereich Jugendsicherheit zu sprechen, darüber, wie wir gemeinsam Branchenstandards anheben können, sowie über OpenAIs neuen Aufruf zur Einrichtung eines internationalen Instituts für Jugendsicherheit.

Der G7-Gipfel der Staats- und Regierungschef:innen bietet eine seltene Gelegenheit zur globalen Koordination im Bereich Jugendsicherheit. Ein eigenes Institut würde jedoch die Kontinuität und Nachverfolgung gewährleisten, die über einen einzelnen Gipfel hinaus erforderlich sind, und Regierungen, Forschenden, Zivilgesellschaft und Industrie dabei helfen, weiter zusammenzuarbeiten, um Erkenntnisse auszutauschen, Leitlinien zu entwickeln und Standards im Laufe der Zeit anzuheben.

Dafür gibt es mehrere glaubwürdige Wege: über ein neues internationales Institut oder indem ein bestehendes oder neu gegründetes nationales KI-Institut ein globales Mandat erhält, Forschung, Erkenntnisse und Leitlinien mit Partnern auf der ganzen Welt zu teilen. Entscheidend ist vor allem die Funktion, die es erfüllt. KI-Sicherheit für Jugendliche braucht anhaltende Aufmerksamkeit, vertrauenswürdige Evidenz und praktische Leitlinien, die mit der Technologie Schritt halten können.

Ein solches Institut kann auf entstehenden Initiativen wie dem Youth AI Safety Institute von Common Sense Media aufbauen, das von der OpenAI Foundation unterstützt wird, sowie auf praktischen Kooperationen mit Lehrkräften, darunter OpenAIs Arbeit mit der American Federation of Teachers⁠. Es sollte auch auf reale Einführungen zurückgreifen, etwa Estlands landesweite ChatGPT‑Einführung an Schulen, bei der OpenAI mit Stanford und estnischen Forschenden zusammenarbeitet, um die Wirkung zu untersuchen und eine sicherere, effektivere Nutzung im Lernen zu unterstützen.

OpenAI begrüßt die Gelegenheit, mit der französischen Regierung, anderen G7-Regierungen sowie Partnern aus Zivilgesellschaft, Wissenschaft und Industrie an dieser wichtigen Arbeit mitzuwirken und globale Standards für Jugendsicherheit anzuheben.

Wir sind überzeugt, dass starke Rahmenwerke für KI-Jugendsicherheit, einschließlich möglicher Vereinbarungen bei G7-Treffen, von den Grundsätzen geleitet werden sollten, die wir hier darlegen.

1. Unternehmen sollten wissen, wann Nutzer:innen minderjährig sind, und altersgerechte Schutzmaßnahmen anwenden. Das bedeutet, Anbieter dazu zu verpflichten, Mittel wie wirksame, datenschutzwahrende Altersschätzungen einzusetzen, um Minderjährige von Erwachsenen zu unterscheiden, und standardmäßig Schutzmechanismen anzuwenden, wenn das Alter von Nutzer:innen nicht bestimmt werden kann. Ohne diese Grundlage erreichen selbst die bestgemeinten Schutzmaßnahmen für Jugendliche möglicherweise nicht die jungen Menschen, die sie schützen sollen.
2. Unternehmen sollten Risiken und Vorteile für junge Menschen regelmäßig bewerten und Maßnahmen ergreifen, um sie anzugehen – bevor Schaden entsteht. Das bedeutet, Anbieter dazu zu verpflichten, jährliche Risikobewertungen zur Jugendsicherheit durchzuführen und angemessene Schutzmaßnahmen auf Grundlage der ermittelten Risiken umzusetzen. Solche Bewertungen sollten Risiken für junge Menschen anhand ihres Entwicklungsstands, empirischer Evidenz aus der tatsächlichen Nutzung und einschlägiger Forschung oder regulatorischer Leitlinien berücksichtigen. Bewertungen sollten nicht nur potenzielle Schäden betrachten, sondern auch, ob KI positive Ergebnisse wie Lernen, Kreativität, Kompetenzentwicklung und Zugang zu Chancen unterstützt.
3. Eltern und Erziehungsberechtigte sollten zugängliche, leicht nutzbare Kontrollmöglichkeiten haben, die ihnen helfen, die Erfahrungen ihrer Kinder zu begleiten und zugleich altersgerechte Selbstständigkeit zu unterstützen. Dazu sollten Werkzeuge zur Verwaltung zentraler Einstellungen gehören, darunter Erinnerung, Datennutzung und Zeitlimits. Elternwerkzeuge sollten aktiv beworben werden, damit Eltern wissen, dass es sie gibt, und verstehen, wie sie sie nutzen können. 
4. Familien verdienen klare, verständliche Informationen darüber, wie Unternehmen junge Nutzer:innen schützen, und aussagekräftige Informationen über die Vorteile und Risiken der KI-Nutzung durch junge Menschen. Unternehmen sollten Sicherheitsrichtlinien veröffentlichen, die erklären, welche Schutzmaßnahmen zum Schutz junger Menschen bestehen, welche Elternwerkzeuge verfügbar sind und wie Schutzmaßnahmen aktualisiert werden, wenn sich Risiken entwickeln. Diese Transparenz schafft Vertrauen und hilft Eltern, informierte Entscheidungen zu treffen.
5. Unternehmen sollten klare Protokolle haben, um ernste Sicherheitssituationen anzugehen, darunter Selbstverletzung, Ausbeutung, Grooming, sexuell ausbeuterische Inhalte und andere Hochrisiko-Interaktionen. Dazu sollten Unterstützung innerhalb des Dienstes, Verweise auf geeignete Ressourcen und gegebenenfalls zeitnahe Benachrichtigungen der Eltern gehören. Unternehmen sollten ihre Systeme außerdem so gestalten, dass sie keine Inhalte erzeugen, die für Kinder unsicher oder entwicklungsunangemessen sind, einschließlich expliziter sexueller oder gewalthaltiger Darstellungen.  
6. KI-Systeme, die von jungen Menschen genutzt werden, sollten so gestaltet sein, dass sie Lernen, Entwicklung und reale Beziehungen unterstützen – nicht ersetzen. KI sollte als Werkzeug dienen, das jungen Menschen hilft, zu lernen, kreativ zu sein, Fähigkeiten aufzubauen und sich auf die Zukunft vorzubereiten. Gleichzeitig sollten Unternehmen klare Grenzen in Bereichen setzen, in denen gesunde Entwicklung von menschlichem Urteilsvermögen, realen Beziehungen und professioneller Unterstützung abhängt.
7. Die personenbezogenen Daten von Minderjährigen sollten geschützt werden. Das bedeutet, datenschutzverletzende, zielgerichtete Werbung an junge Menschen zu verbieten und Unternehmen den Verkauf personenbezogener Daten zu untersagen.
8. Rahmenwerke für Jugendsicherheit sollten Chancen, Kompetenzen und Schutz fördern. Junge Menschen sollten Zugang zu KI-Werkzeugen haben, die Lernen, Kreativität, Kompetenzentwicklung und Zukunftschancen unterstützen, und zugleich mit dem Wissen und den Fähigkeiten zum kritischen Denken ausgestattet werden, die nötig sind, um KI sicher und verantwortungsvoll zu nutzen. Dazu gehört, KI-Kompetenz zu fördern und jungen Menschen zu helfen, die Chancen und Grenzen von KI-Systemen zu verstehen, damit sie sich sicher und verantwortungsvoll in digitalen Räumen bewegen können.
9. Starke Rechenschaftsmechanismen, einschließlich unabhängiger Audits, sind unerlässlich, damit diese Schutzmaßnahmen in der Praxis wirksam sind. Audits sollten auf gemeinsamen Standards beruhen, die interoperable Audits über Rechtsräume hinweg ermöglichen. Gesetzliche Rahmenwerke sollten Aufsichts- und Durchsetzungsmaßnahmen enthalten, die es Regierungen ermöglichen zu bewerten, ob Unternehmen Schutzmechanismen für Jugendsicherheit wirksam umsetzen, erkannte Risiken mindern und Verpflichtungen zu Jugendsicherheit und Datenschutz einhalten.

Diese Grundsätze spiegeln sich darin wider, wie wir ChatGPT entwickeln und betreiben – vom Modellverhalten und Produktdesign bis hin zu Expert:innenbeiträgen und realer Unterstützung. Wir haben Schutzmaßnahmen für Nutzer:innen unter 18 Jahren gestärkt, Kindersicherungs-Funktionen⁠ mit proaktiven Benachrichtigungen eingeführt und fortschrittliche Systeme zur Altersprognose⁠ entwickelt, damit ChatGPT stärkere Schutzmaßnahmen anwenden kann, wenn jemand unter 18 sein könnte. Unsere Modellspezifikation, die beschreibt, wie sich unsere Modelle verhalten sollten, enthält außerdem spezielle Grundsätze für Nutzer:innen unter 18 Jahren⁠(wird in einem neuen Fenster geöffnet), bei denen die Sicherheit von Teenagern, altersgerechte Erfahrungen, reale Unterstützung und klare Erwartungen im Vordergrund stehen. In der Praxis bedeutet das stärkere Schutzmechanismen in Bezug auf Selbstverletzung, gefährliche Aktivitäten, explizite Inhalte, Körperbild und Geheimhaltung sowie die Ermutigung, bei Bedarf vertrauenswürdige Offline-Unterstützung oder Krisenressourcen in Anspruch zu nehmen. Wenn das Alter unklar ist, greifen wir standardmäßig auf stärkere Schutzmaßnahmen zurück.

KI, die mit starken Schutzmaßnahmen entwickelt und mit klarer Anleitung sowie Unterstützung durch Familien und Lehrkräfte angeboten wird, kann jungen Menschen helfen, sicher von Werkzeugen zu profitieren, die Lernen, Kreativität und Chancen erweitern. KI kann Schüler:innen und Studierenden helfen, schwierige Konzepte zu verstehen, Sprachen zu üben, ihr Schreiben zu verbessern, Programmieren zu lernen, Recherche zu organisieren, kreative Ideen zu erkunden und sich auf Berufe vorzubereiten, die sich bereits verändern. Über Education for Countries⁠ arbeitet OpenAI mit Regierungen und Lehrkräften an forschungsbasierten Einführungen, lokalisierten Lernwerkzeugen und Lehrkräftefortbildungen, damit die Einführung von KI auf Evidenz und realen Bedürfnissen im Klassenzimmer beruht. Diese Arbeit unterstützt bereits nationale Bildungsinitiativen in unseren Partnerländern, darunter Estland⁠, Griechenland⁠ und Singapur⁠.

Zusätzlich zur Teilnahme am Gipfel der Staats- und Regierungschef:innen bringen wir das OpenAI Forum⁠(wird in einem neuen Fenster geöffnet) nach Paris, um ein praxisnahes Gespräch darüber zu führen, wie Regierungen, Forschende, Zivilgesellschaft, Lehrkräfte und Industrie gemeinsame Ziele der Jugendsicherheit in konkrete Schutzmaßnahmen, Standards und Umsetzungspraktiken überführen können. Frankreichs Botschafterin für KI und digitale Angelegenheiten, Clara Chappaz, wird gemeinsam mit OpenAIs Chief Global Affairs Officer Chris Lehane, führenden Vertreter:innen der Jugendsicherheit von iRaise/Everyone.AI und weiteren Expert:innen darüber diskutieren, wie junge Menschen von KI profitieren können, während Risiken verringert werden.