Einführung von Kindersicherungen

Update vom 30. September 2025: Wir haben die Sora-App mit Kindersicherungen gestartet. Eltern können in ChatGPT die Sora-Einstellungen für verbundene Konten von Teenagern anpassen, etwa einen nicht personalisierten Feed wählen, festlegen, ob ihre Teenager Direktnachrichten senden und empfangen können, und steuern, ob ein ununterbrochener Content-Feed beim Scrollen angezeigt wird. Mehr erfahren im Sora-2-Blog⁠.

Wir führen Kindersicherungen und eine neue Ressourcenseite für Eltern⁠(wird in einem neuen Fenster geöffnet) ein, die Familien hilft, den Einsatz von ChatGPT zu Hause zu begleiten. Ab heute verfügbar für alle ChatGPT‑Benutzer: Kindersicherungen ermöglichen es Eltern, ihr Konto mit dem Konto ihres Teenagers zu verknüpfen und Einstellungen für ein sicheres, altersgerechtes Erlebnis anzupassen.

Diese Arbeit ist Teil unserer laufenden Bemühungen, ChatGPT für alle nützlich zu machen⁠ und Familien Werkzeuge an die Hand zu geben, um die Nutzung von KI durch ihre Teenager zu unterstützen. Wir haben bereits geteilt, dass wir an einem langfristigen Altersvorhersagesystem⁠ arbeiten, das uns hilft einzuschätzen, ob ein Benutzer unter 18 ist, damit ChatGPT automatisch altersgerechte Einstellungen anwenden kann. Kindersicherungen sind ein wichtiger Schritt, um Eltern die Möglichkeit zu geben, die Nutzung von ChatGPT durch ihre Teenager zu steuern.

Wir haben eng mit Expertengruppen, Interessensvertretungen wie Common Sense Media und politischen Entscheidungsträgern zusammengearbeitet – darunter die Generalstaatsanwälte von Kalifornien und Delaware –, um unseren Ansatz zu untermauern, und wir rechnen damit, diese Kontrollen im Laufe der Zeit weiter zu verfeinern und auszubauen.

„Diese Kindersicherungen sind ein guter Ausgangspunkt für Eltern, um die ChatGPT‑Nutzung ihrer Teenager zu begleiten. Kindersicherungen sind nur ein Teil des Puzzles, wenn es darum geht, Teenager online zu schützen – sie wirken am besten in Kombination mit laufenden Gesprächen über verantwortungsvolle KI-Nutzung, klaren Familienregeln zur Technologie und aktiver Beteiligung am Verständnis dessen, was ihr Teenager online tut.“ —Robbie Torney, Senior Director, AI Programs, Common Sense Media

Um Kindersicherungen einzurichten, sendet ein Elternteil oder eine erziehungsberechtigte Person eine Einladung an den Teenager, um die Konten zu verbinden. Nachdem der Teenager die Einladung angenommen hat, kann der Elternteil die Einstellungen des Teenagers über das eigene Konto verwalten. Teenager können auch ein Elternteil einladen, sich zu verbinden.

Sobald die Konten verknüpft sind, können Eltern die ChatGPT‑Nutzung ihres Teenagers in einer einfachen Einstellungsseite anpassen. Wenn ein Teenager die Verknüpfung seines Kontos aufhebt, werden die Eltern benachrichtigt.

Im Rahmen der Kindersicherungen führen wir erweiterte Schutzmaßnahmen für verknüpfte Teenager-Konten ein. Sobald Eltern und Teenager ihre Konten verbinden, erhält das Konto des Teenagers automatisch zusätzliche Inhalts­schutzmaßnahmen, darunter reduzierte grafische Inhalte, virale Challenges, sexuelle, romantische oder gewalttätige Rollenspiele sowie extreme Schönheitsideale, um ein altersgerechtes Nutzungserlebnis zu gewährleisten.

Diese Schutzmaßnahmen basieren auf einer sorgfältigen Auswertung bestehender Forschung, um die besonderen Entwicklungsunterschiede von Teenagern zu verstehen.

Eltern haben die Möglichkeit, diese Einstellung zu deaktivieren, wenn sie möchten – Teenager können jedoch keine Änderungen vornehmen.

Leitschienen helfen, sind aber nicht absolut sicher und können umgangen werden, wenn jemand dies absichtlich versucht. Wir werden auch künftig bedacht weiterentwickeln und verbessern. Wir empfehlen Eltern, mit ihren Teenagern über einen gesunden Umgang mit KI zu sprechen und was das für ihre Familie bedeutet.

Wir geben Eltern zudem zusätzliche Funktionen, die sie für ihre Teenager anpassen können. Auf einer einfachen Einstellungsseite können Eltern:

• Ruhezeiten festlegen oder bestimmte Zeiten, zu denen ChatGPT nicht genutzt werden kann. 
• Den Audiomodus deaktivieren, um die Option zur Sprachsteuerung in ChatGPT zu entfernen. 
• Die Memory-Funktion ausschalten, sodass ChatGPT beim Antworten keine Erinnerungen speichert oder nutzt.
• Die Bildgenerierung deaktivieren, sodass ChatGPT keine Bilder erstellen oder bearbeiten kann. 
• Das Modelltraining deaktivieren, sodass die Gespräche ihrer Teenager nicht zur Verbesserung der Modelle hinter ChatGPT verwendet werden.

Diese Einstellungen sind optional und flexibel, sodass Familien wählen können, was für sie am besten passt.

Wir wissen, dass sich manche Teenager in schwierigen Momenten an ChatGPT wenden. Deshalb haben wir ein neues Benachrichtigungssystem entwickelt, das Eltern informiert, wenn möglicherweise etwas ernsthaft nicht stimmt.

Wir haben Schutzmechanismen ergänzt, die ChatGPT helfen, mögliche Anzeichen zu erkennen, dass ein Teenager darüber nachdenken könnte, sich etwas anzutun. Wenn unsere Systeme potenzielle Gefährdung feststellen, überprüft ein kleines Team speziell geschulter Personen die Situation. Wenn es Anzeichen akuter Not gibt, kontaktieren wir die Eltern per E-Mail, SMS und Push-Benachrichtigung auf ihrem Telefon, sofern sie dem nicht widersprochen haben.

Um den Entwurf dieser Funktionen richtig anzugehen, arbeiten mit Expertinnen und Experten für psychische Gesundheit und Teenager zusammen. Kein System ist perfekt, und wir wissen, dass wir manchmal falschen Alarm auslösen könnten, wenn keine echte Gefahr besteht. Aber wir sind überzeugt, dass es besser ist, zu handeln und Eltern zu informieren, damit sie eingreifen können, als zu schweigen.

Wir arbeiten auch an den richtigen Abläufen und Umständen, in denen Strafverfolgungs- oder andere Notfalldienste eingeschaltet werden, zum Beispiel, wenn wir eine unmittelbare Lebensgefahr feststellen und die Eltern nicht erreichen können.

Selbst in diesen seltenen Situationen nehmen wir den Datenschutz von Teenagern ernst und geben nur die Informationen weiter, die Eltern oder Notfalldienste benötigen, um die Sicherheit des Teenagers zu schützen.

Familien entdecken immer mehr Möglichkeiten, ChatGPT in den Alltag einzubinden, ob bei den Hausaufgaben im Lernmodus, beim Sammeln von Ideen fürs Wochenende oder einfach zum schnellen Beantworten von Fragen. Für manche ist es auch ein erster Schritt, gemeinsam KI zu erkunden. Wir wollen Eltern die Informationen geben, die sie über ChatGPT brauchen und ihnen erklären, wie sie ihre Teenager zu einer sicheren und positiven Nutzung anleiten können.

Wir haben eineneue Ressourcenseite für Eltern⁠(wird in einem neuen Fenster geöffnet) erstellt, um alles an einem Ort zusammenzuführen. Sie erläutert, wie ChatGPT funktioniert, welche Kindersicherungen verfügbar sind, und gibt Ideen, wie Teenager es für Lernen, Kreativität und den Alltag nutzen können. Dies ist nur ein Anfang, und wir planen, die Seite regelmäßig mit Tipps, Leitfäden, Expertenrat und Gesprächsanregungen zu aktualisieren, damit Eltern sich unterstützt fühlen, während die Nutzung von KI in ihrer Familie zunimmt.

In den kommenden Monaten entwickeln wir ein Altersvorhersagesystem⁠, das uns hilft einzuschätzen, ob ein Benutzer unter 18 ist, sodass ChatGPT automatisch altersgerechte Teenager-Einstellungen anwenden kann. In Fällen, in denen wir uns über das Alter eines Benutzers nicht sicher sind, wählen wir den sichereren Weg und wenden die Teenager-Einstellungen proaktiv an. In der Zwischenzeit sind Kindersicherungen der wirksamste Weg für Eltern, um ein altersgerechtes Nutzungserlebnis für ihre Teenager zu gewährleisten.

Dies ist ein wichtiger Schritt nach vorn, aber unsere Arbeit ist noch nicht abgeschlossen. Wir werden weiter in Funktionen investieren, die Eltern und Teenagern helfen, ChatGPT sicher und selbstbewusst zu nutzen und wir werden unsere Fortschritte teilen.