Ein Update zu unserer Arbeit im Bereich der psychischen Gesundheit
Jede Woche nutzen mehr als 900 Millionen Menschen ChatGPT, um ihren Alltag zu verbessern – etwa um neue Fähigkeiten zu lernen oder sich in komplexen Gesundheitssystemen zurechtzufinden. Unsere laufende Sicherheitsarbeit spielt eine wichtige Rolle dabei, diese Vorteile für den Alltag zu ermöglichen und gleichzeitig wissenschaftliche Forschung und Entdeckungen zu unterstützen.
Seit wir im September 2025 die Kindersicherung eingeführt haben, sehen wir ermutigendes Engagement von Familien und werden diese Schutzmechanismen weiter ausbauen. In enger Zusammenarbeit mit Expert:innen aus unserem Sachverständigenrat zu Wohlbefinden und KI und unserem globalen Ärztenetz werden wir außerdem bald eine Funktion für vertrauenswürdige Kontaktpersonen einführen. Erwachsene Nutzer:innen können damit eine Person benennen, die Benachrichtigungen erhält, wenn sie möglicherweise zusätzliche Unterstützung brauchen. Zur Erinnerung: Eltern erhalten über die Kindersicherung auch Sicherheitsbenachrichtigungen zur Nutzung von ChatGPT durch ihre Teenager:innen. Wir teilen weitere Informationen, sobald diese Updates in ChatGPT eingeführt werden.
Außerdem arbeiten wir weiter daran, wie unsere Modelle Anzeichen emotionale Notlagen erkennen und darauf reagieren. Dazu gehören neue Evaluierungsmethoden, die längere, die psychische Gesundheit betreffende Gespräche simulieren. So können wir potenzielle Risiken besser erkennen und verbessern, wie ChatGPT in sensiblen Momenten reagiert. In den kommenden Wochen werden wir mehr über diese Arbeit teilen, während wir die Schutzmechanismen von ChatGPT weiter stärken.
Unabhängig davon hat das Gericht kürzlich mehrere Fälle im Zusammenhang mit psychischer Gesundheit, in denen es um ChatGPT geht, zu einem einzigen Verfahren in Kalifornien zusammengeführt. In den nächsten Tagen wird das Gericht eine koordinierende Richterin oder einen koordinierenden Richter für dieses Verfahren bestimmen. Im Rahmen dieses Konsolidierungsprozesses haben die Anwält:innen der Kläger:innen dem Gericht mitgeteilt, dass sie eine Reihe neuer Klagen einreichen wollen*.
Wie bei den bereits anhängigen Verfahren zu psychischer Gesundheit wird OpenAI auch mit allen weiteren Fällen sorgfältig, transparent, mit Respekt für die betroffenen Personen und auf Grundlage der folgenden Prinzipien umgehen:
- Wir beginnen bei den Fakten und bemühen uns ernsthaft, sie zu verstehen.
- Wir werden unsere Position respektvoll darlegen und dabei die Komplexität und Nuancen von Situationen berücksichtigen, in denen es um Menschen und ihr Leben geht.
- Uns ist bewusst, dass diese Fälle naturgemäß bestimmte Arten privater Informationen betreffen, die in einem öffentlichen Rahmen wie einem Gericht besondere Sensibilität erfordern.
- Unabhängig von Gerichtsverfahren bleiben wir auch darauf fokussiert, unsere Technologie im Einklang mit unserer Mission zu verbessern.
Uns ist bewusst, dass Gerichtsverfahren langwierig und aufgrund strenger Rechtsvorschriften mitunter schwer durchschaubar sein können. Es kann außerdem Zeit brauchen, die relevanten Fakten zu sammeln, zu verstehen und sie dem Gericht entsprechend seinen Beweisregeln vorzulegen. Wir arbeiten in gutem Glauben daran, die Details zu verstehen, und fordern im Rahmen des Gerichtsverfahrens nur Informationen an, die für den Fall und die konkreten Vorwürfe relevant sind.
Es ist wichtig, mit einem Urteil abzuwarten und die Fakten im Gerichtsverfahren angemessen zutage treten zu lassen. Diese Fälle sind komplex und vielschichtig, mit vielen Faktoren und Umständen, die oft aus den beim Gericht eingereichten Unterlagen nicht hervorgehen.
Unsere Gedanken sind bei allen, die von diesen zutiefst tragischen Situationen betroffen sind. Wir verbessern weiterhin das Training von ChatGPT, damit Anzeichen von Notlagen besser erkannt und beantwortet, Gespräche in sensiblen Momenten deeskaliert und Menschen zu Unterstützung in der realen Welt hingeleitet werden – in enger Zusammenarbeit mit Fachleuten und Expert:innen für psychische Gesundheit.
Weitere Informationen zu unserer Sicherheitsarbeit findest du hier:
Autor
*Wie in solchen Verfahren üblich, ist zu erwarten, dass diese Klagen dem bestehenden zusammengeführten Verfahren hinzugefügt werden. Das Gericht entscheidet dann, welche:r Anwält:in als Hauptvertretung der Kläger:innen bestellt wird.
