OpenAI unterstützt Kaliforniens Gesetz zum KI-Jugendschutz

Von Ann O’Leary, VP, Global Policy

OpenAI unterstützt den kalifornischen Gesetzentwurf Senate Bill 1119. Er schafft wirksame Schutzvorkehrungen für die Nutzung von KI durch junge Menschen und wahrt zugleich ihren Zugang zu Tools, die ihnen beim Lernen, Gestalten und bei der Vorbereitung auf die Zukunft helfen können. Diese Unterstützung knüpft an die Zusage an, die Sam Altman, Mitgründer und CEO von OpenAI, im vergangenen Jahr bei der Vorstellung der Grundsätze des Unternehmens zum Umgang mit Jugendlichen gab.

Solange die US-Bundesregierung nicht handelt, hat Kalifornien die Chance, einen hohen Standard für den KI-Jugendschutz zu setzen.

In unserem Schreiben an Gouverneur Newsom⁠(wird in einem neuen Fenster geöffnet) würdigen wir ihn sowie Senator Steve Padilla, die Abgeordneten Buffy Wicks und Rebecca Bauer-Kahan und die kalifornische Legislative für ihre Führungsrolle bei diesem wichtigen Thema. SB 1119 baut auf Maßnahmen zum Schutz junger Menschen auf, die OpenAI durch unsere Produkte, globale politische Grundsätze, unser Engagement in Kalifornien und unsere Arbeit am Parents & Kids Safe AI Act unterstützt hat. Wir rufen Gouverneur Newsom dazu auf, den Gesetzentwurf zu unterzeichnen und damit in Kraft zu setzen.

Jugendliche sind die erste Generation, die mit KI aufwächst. Fast neun von zehn Jugendlichen, die ChatGPT nutzen, greifen in einer typischen Woche darauf zurück, um zu lernen, Informationen zu erhalten, Kompetenzen zu entwickeln oder produktiver zu sein. Mit dieser Chance geht eine klare Verantwortung einher: Angebote für Jugendliche sollten auf ihre besonderen Entwicklungsbedürfnisse zugeschnitten sein, standardmäßig starken Schutz bieten und ihnen angemessene Möglichkeiten geben, zu lernen, zu gestalten und Neues zu erkunden.

Unser neu eingeführtes ChatGPT für Jugendliche folgt diesem Ansatz. Es soll Menschen unter 18 Jahren beim Lernen, kritischen Denken und Gestalten helfen. Zugleich fördert es eine gesunde Nutzung, bietet integrierte Schutzvorkehrungen und gibt Eltern zusätzliche Kontrollmöglichkeiten. Wenn unser System eine Person als unter 18 einschätzt oder sie angibt, zwischen 13 und 17 Jahre alt zu sein, wird sie automatisch ChatGPT für Jugendliche zugeordnet. Dieser Schutz gehört zur Standardnutzung und besteht nicht aus optionalen Einstellungen, die sich deaktivieren lassen.

Grundsätzlich sind wir überzeugt, dass Jugendliche von KI profitieren können, ohne Abstriche bei der Sicherheit zu machen. Dieses Ziel steht im Mittelpunkt von SB 1119.

SB 1119 verbindet starken Schutz mit dem weiteren Zugang zu nützlichen KI-Tools. Wir unterstützen diese zentralen Anforderungen nachdrücklich:

• Das Alter einer Person ermitteln;
• Sicherheitsrisiken erkennen und beheben, bevor ein Produkt jungen Menschen angeboten wird;
• Unabhängige Prüfungen durchlaufen;
• Junge Menschen vor schädlichen Inhalten schützen, darunter Selbstverletzung, sexuell ausbeuterische Inhalte und andere besonders riskante Interaktionen;
• Eltern Tools an die Hand geben, mit denen sie die Nutzung durch ihre Kinder begleiten und begrenzen können;
• Junge Menschen bei schwerwiegenden Sicherheitsrisiken mit Hilfsangeboten für Krisensituationen verbinden; und
• Personalisierte Werbung begrenzen und die personenbezogenen Daten junger Menschen schützen.

Für Personen, die als 13 bis 17 Jahre alt erkannt werden, sollte dieser Schutz automatisch gelten. Dieses Gesetz würde wirksame Rechenschaftspflichten mit Schutzvorkehrungen verbinden, die junge Menschen bei der Nutzung von KI schützen.

SB 1119 berücksichtigt außerdem angemessen, dass KI keine sozialen Medien sind. Der Gesetzentwurf schafft einen gezielten Schutz, damit junge Menschen KI zum Lernen, Gestalten und Erkunden nutzen können. Bei der Entwicklung dieses Rahmens wollten die politischen Verantwortlichen den Zugang zu Bildungsfunktionen und sicherheitsrelevanten Funktionen erhalten. Dazu gehört auch die verantwortungsvolle Nutzung der Erinnerungsfunktion von ChatGPT. Zugleich sollen Jugendliche sicherere und altersgerechte Angebote erhalten.

ChatGPT für Jugendliche umfasst verschiedene Funktionen, die speziell beim Lernen helfen, darunter Quizzes, Visualisierungen der Lerninhalte und der Lernmodus. Sie wurden gemeinsam mit Lehrkräften und Fachleuten für Bildung entwickelt, um Lernende Schritt für Schritt durch Aufgaben zu führen. Diese Tools sollen das Verständnis vertiefen und bessere Lerngewohnheiten fördern. Funktionen, die Kontext aus früheren Unterhaltungen verwenden, darunter die Erinnerungsfunktion, helfen dabei, Schutzvorkehrungen einheitlich anzuwenden, besorgniserregende Muster zu erkennen und mit der Zeit nützlichere Lernunterstützung anzubieten.

Der Kontext trägt außerdem dazu bei, dass diese Sicherheits- und Lernfunktionen dauerhaft zuverlässiger arbeiten. Mithilfe von Funktionen wie der Erinnerungsfunktion kann ChatGPT relevante Informationen und Präferenzen aus früheren Unterhaltungen übernehmen. So können Jugendliche längerfristige Lernprojekte fortsetzen, ohne von vorn beginnen zu müssen. Diese Kontinuität kann auch verhindern, dass schädliche Muster verstärkt werden, und wirksamere Reaktionen ermöglichen, wenn junge Menschen zusätzliche Hilfe oder weitere Angebote benötigen.

Sicherheit und Lernen in Einklang zu bringen, ist für uns nicht neu. Im vergangenen Jahr haben wir die Kindersicherung, die Altersschätzung, unseren Teen Safety Blueprint und die Grundsätze für unter 18-Jährige in unserer Modellspezifikation ergänzt. Diese Regeln legen fest, wie sich unsere Modelle verhalten sollen, und setzen neue Standards für ihre Interaktion mit jungen Menschen. Sie untersagen romantische Interaktionen, die Förderung emotionaler Abhängigkeit und Behauptungen, ChatGPT sei ein Mensch oder habe ein Bewusstsein. Außerdem bieten wir eine Kindersicherung an, mit der Familien wichtige Einstellungen für ihre Jugendlichen verwalten und in besonders riskanten Situationen Benachrichtigungen erhalten können.

SB 1119 schafft einen starken Rahmen für den KI-Jugendschutz in Kalifornien. Weitere Untersuchungen und Zusammenarbeit während der Umsetzung können dazu beitragen, zentrale Bestimmungen zu verbessern und die Wirksamkeit des Rahmens auch bei fortschreitender technischer Entwicklung zu erhalten. OpenAI freut sich darauf, diese Arbeit zu unterstützen und weiterhin KI-Angebote zu entwickeln, die Jugendliche altersgerecht behandeln, automatisch stärkeren Schutz bieten und ihnen echte Möglichkeiten geben, zu lernen und sich weiterzuentwickeln.