Warum Jugendliche Zugang zu sicherer KI verdienen

Jugendliche sind die erste Generation, die mit KI aufwächst, und diese Technologie wird ihre Zukunft stark prägen. Schon heute nutzen fast 9 von 10 Jugendlichen auf ChatGPT den Dienst innerhalb einer Woche zum Lernen, für Informationen, den Aufbau von Kompetenzen oder für produktives Arbeiten. Deshalb halten wir es für entscheidend, dass Jugendliche Zugang zu KI haben. Jugendliche bis zur Volljährigkeit davon abzuhalten, wäre so, als hätte man einer früheren Generation gesagt, sie solle das Internet oder Suchmaschinen erst ab 18 nutzen. Sie wären schlechter darauf vorbereitet, mit einer der prägenden Technologien ihrer Zeit umzugehen. Dieser Zugang muss jedoch mit Schutzmaßnahmen verbunden sein, die speziell für Jugendliche entwickelt wurden.

Bei einer kürzlichen Veranstaltung der OpenAI Academy⁠(wird in einem neuen Fenster geöffnet) erzählte Oriana McKenzie, wie ChatGPT ihr geholfen hat, durch klügeres Lernen und besseres Zeitmanagement Jahrgangsbeste an ihrer Highschool zu werden. So blieb ihr die Zeit für den Sport und die Schulprogramme, die sie liebt. Ihre Geschichte zeigt, was möglich ist, wenn Jugendliche Zugang zu KI haben, die sie beim Lernen und Gestalten unterstützt.

Damit Jugendliche diese Vorteile möglichst gut nutzen können, brauchen sie stärkere Schutzmaßnahmen, die zu ihrer Lebensphase passen. Dazu gehören automatisierte Schutzmechanismen, mit denen sie selbstbewusst entdecken, lernen und entwickeln können, ergänzt durch altersgerechte Sicherheitsvorkehrungen. Je leistungsfähiger KI wird, desto mehr stehen wir in der Verantwortung, breiten Zugang mit altersgerechten Schutzmaßnahmen zu verbinden, damit Jugendliche von dieser Technologie profitieren können, während sie sich weiterentwickelt.

Im vergangenen Jahr hieß das: Wir haben die standardmäßigen Schutzmaßnahmen für Jugendliche verstärkt, Altersschätzung⁠ eingeführt, die Kindersicherung⁠ erweitert, zusätzliche Familienressourcen⁠(wird in einem neuen Fenster geöffnet) erstellt, mit denen Eltern eine gesunde und verantwortungsvolle Nutzung unterstützen können, und Lernfunktionen eingeführt, die ein tieferes Verständnis fördern, statt nur Antworten zu liefern.

Unsere Arbeit orientiert sich an vier zentralen Selbstverpflichtungen⁠:

• Wir stellen die Sicherheit Jugendlicher an erste Stelle, auch wenn das anderen Zielen entgegenstehen kann.
• Wir ermutigen dazu, in schwierigen Situationen Unterstützung im realen Umfeld zu suchen.
• Wir behandeln Jugendliche als Jugendliche.
• Wir schaffen Transparenz, indem wir klare Erwartungen setzen.

Lernen ist eine der deutlichsten Arten, wie Jugendliche von KI profitieren. Deshalb entwickeln wir Tools, die aktive Beteiligung, kritisches Denken und ein tieferes Verständnis fördern. Der Lernmodus⁠(wird in einem neuen Fenster geöffnet) wurde gemeinsam mit Lehrkräften, Lernwissenschaftler:innen sowie Fachleuten für Pädagogik entwickelt. Er hilft Lernenden, Probleme Schritt für Schritt zu bearbeiten, mit leitenden Fragen, strukturierten Erklärungen und Gelegenheiten zur Reflexion, ohne einfach die Antwort zu liefern. Frühe Bewertungen von Tools wie dem Lernmodus zeigen vielversprechende Verbesserungen bei der Leistung von Lernenden⁠. Diese Erkenntnisse fließen in unsere breitere Forschung dazu ein, wie KI Lernergebnisse unterstützen kann.

Jugendliche können diesen Modus selbst aktivieren. Eltern mit verknüpften Teenager-Konten können den Lernmodus⁠ jetzt aber auch direkt über die Kindersicherung⁠ einschalten. Ist er aktiviert, ist er jedes Mal standardmäßig eingeschaltet, wenn ein:e Jugendliche:r einen neuen Chat beginnt. Familien erhalten so eine weitere Möglichkeit, die Nutzung von ChatGPT für Schularbeiten und Lernen zu begleiten.

Außerdem haben wir kürzlich lernbezogene Einstiegsprompts für Jugendliche eingeführt. Damit fällt es leichter, mit Aufgaben zu beginnen, etwa ein Thema in einfache Schritte zu zerlegen, Notizen in einen Lernleitfaden zu verwandeln, Karteikarten oder Übungsfragen zu erstellen und Belege sowie Verständlichkeit zu prüfen.

Wir bauen außerdem interaktive Lernerlebnisse⁠ weiter aus. Forschung zeigt immer wieder⁠, dass Menschen effektiver lernen, wenn sie sich aktiv mit Konzepten auseinandersetzen können, statt Informationen nur passiv aufzunehmen. Seit dem Start Anfang dieses Jahres nutzen inzwischen 18 Millionen Menschen pro Woche interaktive Mathematik- und Naturwissenschaftserlebnisse in ChatGPT. Wir haben diese Erlebnisse auf mehr als 250 neue Themen erweitert, von Integralen und Mitose bis hin zu Mondphasen, Photosynthese und mehr. Außerdem haben wir ein Ausspracheerlebnis eingeführt, das Menschen mithilfe von Audio dabei unterstützt, Wörter in mehr als 61 Sprachen richtig auszusprechen.

Wenn unser System schätzt, dass eine Person, die ChatGPT nutzt, unter 18 Jahre alt ist⁠, stellen wir automatisch ein altersgerechteres Erlebnis⁠(wird in einem neuen Fenster geöffnet) bereit. Jugendliche können ChatGPT weiterhin zum Lernen, Gestalten und Entdecken nutzen, jedoch mit zusätzlichen Schutzmaßnahmen, die den Kontakt mit Inhalten verringern sollen, die für sie möglicherweise nicht geeignet sind. Dazu gehören strengere Schutzvorkehrungen bei drastischer Gewalt, Selbstverletzung, riskanten viralen Challenges, ungesunden Körperbild-Inhalten sowie gefährlichem, romantischem oder sexuellem Rollenspiel. Unser Leitgedanke ist, sicherzustellen, dass ChatGPT ein Tool für Lernen und Kreativität bleibt und kein Ersatz für Beziehungen im realen Leben wird.

Wir gestalten ChatGPT außerdem so, dass es gesunde Gewohnheiten fördert. Jugendliche, die längere Zeit in ChatGPT verbringen, erhalten nun häufiger Pausenerinnerungen⁠, die sie dazu anregen, eine Pause einzulegen und sich eine Auszeit zu gönnen. Diese Erinnerungen sollen jungen Menschen helfen, ausgewogene Technologiegewohnheiten zu entwickeln, ihnen aber weiterhin die Freiheit geben, KI zum Lernen, für Kreativität und zur Problemlösung zu nutzen.

Wir glauben, dass die besten Sicherheitstools Familien dabei helfen können, die Online-Erlebnisse Jugendlicher gemeinsam zu begleiten. Wir haben Kindersicherung und Benachrichtigungen⁠ entwickelt, mit denen Eltern Ruhezeiten festlegen, den Sprachmodus ausschalten, den Zugang zur Bildgenerierung verwalten und in bestimmten Hochrisikosituationen Benachrichtigungen erhalten können, etwa bei Hinweisen auf mögliche Selbstverletzung.

Wir erweitern diese Benachrichtigungen auf Fälle, in denen ein verknüpftes Teenager-Konto wegen Verstößen gegen unsere Nutzungsrichtlinien⁠ zu gewaltsamen Drohungen oder Gewalthandlungen im Internet deaktiviert wurde. Dieser Ansatz hilft Eltern zu erkennen, wenn etwas Ernstes passiert ist, respektiert zugleich die Privatsphäre Jugendlicher und fördert Gespräche und Unterstützung außerhalb des Internets.

Bei der Entwicklung dieser Funktionen haben wir mehrere Fachleute einbezogen, darunter Moonshot⁠(wird in einem neuen Fenster geöffnet), einen führenden Akteur in der Prävention von Online-Gewalt. So wollten wir sicherstellen, dass diese Maßnahmen durchdacht, wirksam und darauf ausgerichtet sind, Familien in schwierigen Situationen zu unterstützen.

Außerdem möchten wir sicherstellen, dass Eltern, Jugendliche und Lehrkräfte klare Orientierung dazu haben, wie KI am besten verantwortungsvoll genutzt wird. Wir veröffentlichen Bildungsressourcen in mehr als 50 Sprachen, darunter Ein Familienleitfaden zur verantwortungsvollen Nutzung von KI durch Teenager⁠(wird in einem neuen Fenster geöffnet), Tipps für Gespräche mit deinem Teenager über KI⁠(wird in einem neuen Fenster geöffnet) und Tipps für Eltern, die ChatGPT nutzen⁠(wird in einem neuen Fenster geöffnet).

Die Sicherheit junger Menschen im Internet kann kein Unternehmen allein gewährleisten. Wir arbeiten eng mit Jugendlichen, Eltern, Lehrkräften, Fachleuten für Kindersicherheit, psychologischen Fachkräften, Forschenden, Regierungen und zivilgesellschaftlichen Organisationen zusammen. Diese Partnerschaften helfen uns, die Bedürfnisse junger Menschen besser zu verstehen, neue Risiken zu erkennen, die Wirksamkeit unserer Schutzmaßnahmen zu bewerten und sicherzustellen, dass unsere Richtlinien auf unabhängiger Expertise beruhen.

Diese Arbeit umfasst unseren Ansatz für Lernen ebenso wie für das Wohlergehen junger Menschen. Wir arbeiten mit Lehrkräften, darunter der American Federation of Teachers⁠, mit Studierenden und Lernorganisationen zusammen, um besser zu verstehen, wie KI Lehren und Lernen unterstützen kann und zugleich aktive Beteiligung und kritisches Denken stärkt. Außerdem arbeiten wir eng mit Fachleuten aus den Bereichen psychische Gesundheit, kindliche Entwicklung und Jugendsicherheit zusammen, darunter die American Psychological Association⁠(wird in einem neuen Fenster geöffnet), unser Global Physicians Network⁠ und unser Expert:innenrat für Wohlbefinden und KI⁠.

Unsere Arbeit an einem gesünderen digitalen Ökosystem reicht über unsere eigenen Produkte hinaus. Wir haben uns dafür ausgesprochen, skalierbare globale Standards für KI-Sicherheit junger Menschen⁠ durch ein eigenes AI Safety Institute zu entwickeln, Open-Source-Richtlinien und -Tools⁠ bereitzustellen, die Entwickelnde in ihre eigenen KI-Systeme integrieren können, und mit Organisationen wie Common Sense Media⁠(wird in einem neuen Fenster geöffnet) und everyone.ai⁠(wird in einem neuen Fenster geöffnet) zusammenzuarbeiten, um Erkenntnisse und Best Practices zu teilen.

In diesem Jahr sind wir außerdem dem Family Online Safety Institute⁠(wird in einem neuen Fenster geöffnet) (FOSI) beigetreten, das sich seit Langem für sichere Online-Erlebnisse für Familien und junge Menschen einsetzt. Wir werden gemeinsam daran arbeiten, dass junge Menschen von KI profitieren können. Im Mittelpunkt stehen dabei gestärkte Eltern und verantwortungsvolles Handeln der Branche. Wir hoffen, dass diese Partnerschaft dazu beiträgt, ein gemeinsames Verständnis dessen zu fördern, was wirkt, altersgerechte Schutzmaßnahmen und Eltern-Tools zu stärken und branchenweite Anstrengungen zu unterstützen, damit junge Menschen KI sicher und verantwortungsvoll nutzen können.

Junge Menschen online zu schützen, erfordert kontinuierliche Fortschritte. In den kommenden Monaten werden wir altersgerechte Schutzmaßnahmen weiter stärken, Eltern mehr Tools und Kontrolle geben, Schutzvorkehrungen gegen schwere Schäden verbessern, Forschung zu gesunder KI-Nutzung voranbringen und weitere Erlebnisse entwickeln, die Jugendlichen helfen, aktiv zu lernen und KI selbstbewusst zu nutzen.

Wir wissen, dass noch viel zu tun ist. Deshalb setzen wir unsere Arbeit gemeinsam mit Jugendlichen, Eltern, Lehrkräften, Fachleuten und Communities weltweit fort, damit Jugendliche einen sicheren, breiten Zugang erhalten.