Aktualisierung unserer Modellspezifikation mit Schutzmaßnahmen für Jugendliche
Die neuen U18-Prinzipien zeigen auf Grundlage fachlicher Expertise, wie ChatGPT Jugendliche sicher und altersgerecht unterstützen soll.
Wir teilen ein Update unserer Modellspezifikation mit neuen Unter-18-(U18-)Prinzipien(wird in einem neuen Fenster geöffnet). Die Modellspezifikation ist ein schriftlich festgehaltenes Regelwerk aus Prinzipien, Werten und Verhaltenserwartungen, das vorgibt, wie sich unsere KI-Modelle verhalten sollen – insbesondere in schwierigen oder risikoreichen Situationen. Das Verhalten von KI-Modellen prägt maßgeblich, wie Menschen mit KI interagieren – und Jugendliche haben andere entwicklungsbezogene Bedürfnisse als Erwachsene.
Die U18-Prinzipien zeigen, wie ChatGPT Jugendlichen im Alter von 13 bis 17 Jahren eine sichere und altersgerechte Nutzung ermöglichen soll. Der Ansatz basiert auf entwicklungspsychologischer Forschung und legt den Schwerpunkt auf Prävention, Transparenz und frühe Intervention. Bei der Entwicklung dieser Prinzipien haben wir sie externen Expertinnen und Experten vorgelegt, darunter der American Psychological Association, um durch externes Feedback unseren Ansatz weiter zu stärken.
Während die allgemeinen Prinzipien der Modellspezifikation weiterhin für erwachsene wie auch für jugendliche Nutzer gelten, stellt dieses Update klar, wie sie in Kontexten mit Jugendlichen anzuwenden sind – insbesondere dort, wo Sicherheitsaspekte für Minderjährige besonders wichtig sind.
Die U18-Prinzipien beruhen auf vier leitenden Verpflichtungen:
- Die Sicherheit von Jugendlichen an erste Stelle setzen, auch wenn sie mit anderen Zielen kollidieren kann
- Unterstützung in der realen Welt fördern, indem Offline-Beziehungen und vertrauenswürdige Ressourcen empfohlen werden
- Jugendliche als Jugendliche behandeln – weder herablassend noch wie Erwachsene
- Transparenz schaffen, indem klare Erwartungen gesetzt werden
Im Einklang mit unserem Teen Safety Blueprint haben diese Prinzipien unsere bisherige Arbeit zur Sicherheit von Jugendlichen geleitet. Dazu zählen unter anderem Inhaltsbeschränkungen für Nutzer, die bei der Anmeldung angeben, unter 18 Jahre alt zu sein, sowie elterliche Kontrollfunktionen. In diesen Kontexten haben wir Schutzmechanismen umgesetzt, die das Modell anhalten, bei besonders risikoreichen Themen mit erhöhter Sorgfalt zu reagieren. Dazu gehören Selbstverletzung und Suizid, romantisches oder sexualisiertes Rollenspiel, grafische oder explizite Inhalte, gefährliche Aktivitäten und Substanzen, Fragen rund um Körperbild und Essstörungen sowie Aufforderungen, unsicheres Verhalten geheim zu halten.
Die American Psychological Association, die einen frühen Entwurf der U18-Modellspezifikation geprüft und wichtige langfristige Hinweise gegeben hat, betont ausdrücklich die Bedeutung des Schutzes von Jugendlichen.
„Die APA ermutigt KI-Entwickler, für junge Nutzerinnen und Nutzer entwicklungsangemessene Schutzmaßnahmen bereitzustellen und bei jüngeren Altersgruppen einen besonders schützenden Ansatz zu verfolgen. Kinder und Jugendliche können von KI-Werkzeugen profitieren, wenn diese durch menschliche Interaktionen ergänzt werden. Wissenschaftliche Erkenntnisse zeigen, dass solche Interaktionen für die soziale, psychologische, verhaltensbezogene und sogar biologische Entwicklung entscheidend sind. Die Nutzung von KI durch Jugendliche sollte daher sorgfältig begleitet und gemeinsam mit vertrauenswürdigen Erwachsenen reflektiert werden. So wird eine kritische Auseinandersetzung mit KI-Angeboten gefördert und die Entwicklung unabhängigen Denkens sowie entsprechender Fähigkeiten unterstützt.“
Dieses Update stellt außerdem klar, wie der Assistent reagieren soll, wenn Sicherheitsbedenken bei Jugendlichen auftreten. In solchen Fällen, bei denen Gespräche in risikoreichere Bereiche führen, sollen Jugendliche auf stärkere Schutzplanken, sicherere Alternativen und eine klare Ermutigung stoßen, vertrauenswürdige Unterstützung außerhalb der Plattform zu suchen. Bei unmittelbarer Gefahr werden Jugendliche aufgefordert, Notdienste oder Krisenangebote zu kontaktieren.
Wie der übrige Teil der Modellspezifikation spiegeln auch die U18-Prinzipien unser beabsichtigtes Modellverhalten wider. Wir werden diese Prinzipien weiter verfeinern, indem wir neue Forschungsergebnisse, Expertenfeedback und Erkenntnisse aus der praktischen Nutzung einbeziehen.
Parallel zur Aktualisierung der Modellspezifikation verfolgen wir einen mehrschichtigen Ansatz zur Stärkung der Sicherheit von Jugendlichen in ChatGPT. Dieser umfasst Produktschutzmaßnahmen, Unterstützung für Familien und fachliche Beratung.
Seit der Einführung der Kindersicherung(wird in einem neuen Fenster geöffnet) haben wir diese Schutzmaßnahmen auf neue Produkte ausgeweitet, darunter Gruppenchats, den ChatGPT‑Atlas‑Browser und die Sora-App. Diese Updates helfen Eltern dabei, die Nutzung von ChatGPT durch ihre Jugendlichen individuell anzupassen, während wir neue Produkte und Funktionen einführen.
Im Einklang mit fachlichen Empfehlungen ermutigen wir Eltern und Jugendliche, fortlaufend über einen gesunden und verantwortungsvollen Umgang mit KI in der Familie zu sprechen. Zur Unterstützung dieser Gespräche haben wir das Eltern-Ressourcenportal(wird in einem neuen Fenster geöffnet) um neue, von Experten geprüfte Materialien erweitert. Dazu gehören unter anderem ein Familienleitfaden zur verantwortungsvollen Nutzung von KI durch Jugendliche(wird in einem neuen Fenster geöffnet) sowie praktische Tipps für Eltern(wird in einem neuen Fenster geöffnet), wie sie mit ihren Kindern über KI ins Gespräch kommen können. Diese Inhalte wurden von ConnectSafely und Mitgliedern unseres Expertenrates für Wohlbefinden und KI geprüft. Wir werden das Angebot an Ressourcen kontinuierlich ausbauen. Darüber hinaus fördern wir einen bewussten und ausgewogenen Umgang direkt im Produkt – zum Beispiel durch integrierte Pausenerinnerungen bei längeren Sitzungen mit ChatGPT.
Unsere Arbeit zum Schutz und Wohlbefinden von Jugendlichen basiert auf einer engen Zusammenarbeit mit Fachleuten aus verschiedenen Disziplinen und Kompetenzbereichen. Im Oktober haben wir den Expertenrat für Wohlbefinden und KI ins Leben gerufen. Dieses Gremium berät uns dabei und hilft mitzugestalten, wie gesunde Interaktionen mit KI für Menschen aller Altersgruppen aussehen sollten. Die Erkenntnisse daraus sind unter anderem in die Entwicklung von Leitlinien zu Kindersicherungen und Elternbenachrichtigungen eingeflossen. Darüber hinaus beziehen wir klinische Expertise über unser globales Ärztenetz (Global Physician Network) ein. Diese unterstützt unsere Sicherheitsforschung und hilft bei der Bewertung des Modellverhaltens – etwa dabei, wie ChatGPT Belastungssituationen erkennt und Nutzerinnen und Nutzer bei Bedarf an professionelle Hilfe verweist. Auf dieser Grundlage haben wir GPT‑5.2 weiterentwickelt und den Zugang zu Unterstützung in der realen Welt ausgebaut. Durch unsere Partnerschaft mit ThroughLine(wird in einem neuen Fenster geöffnet) können wir nun lokalisierte Hilfsangebote direkt in ChatGPT und Sora anzeigen.
Wir befinden uns in einem frühen Stadium der Einführung eines Modells zur Altersvorhersage(wird in einem neuen Fenster geöffnet) für ChatGPT‑Tarife für Verbraucher. Dieses Modell hilft uns dabei, automatisch geeignete Schutzmaßnahmen anzuwenden, wenn wir davon ausgehen, dass ein Konto von einer minderjährigen Person genutzt wird. Sind wir uns über das Alter einer Person nicht sicher oder liegen nur unvollständige Informationen vor, greifen wir standardmäßig auf die U18-Erfahrung zurück. Erwachsenen Nutzerinnen und Nutzern bieten wir zugleich Möglichkeiten zur Altersverifizierung an.
Die Stärkung der Sicherheit von Jugendlichen ist ein fortlaufender Prozess. Wir werden elterliche Kontrollfunktionen und Modellfähigkeiten weiter verbessern, zusätzliche Ressourcen für Eltern bereitstellen und die Zusammenarbeit mit Organisationen, Forschenden und Fachpartnern fortsetzen – darunter der Expertenrat für Wohlbefinden und das Global Physician Network.
Unser Ziel ist es, wirksame Schutzmaßnahmen für Jugendliche bereitzustellen und diese kontinuierlich weiterzuentwickeln, um Jugendliche und Familien bestmöglich zu unterstützen.
