Vertrauenskontakt in ChatGPT eingeführt
Verbindet dich mit einer Person deines Vertrauens, wenn es am wichtigsten ist.
Menschen nutzen ChatGPT, um zu lernen, Ideen zu erkunden, Probleme zu lösen und über persönliche Fragen nachzudenken. Manchmal kann es in diesen Gesprächen um Momente gehen, in denen jemand Schwierigkeiten hat oder Unterstützung sucht. Unser Ziel ist es, Systeme zu entwickeln, die auf sensible Gespräche bedacht reagieren und Menschen dazu ermutigen, bei Bedarf Hilfe im echten Leben in Anspruch zu nehmen.
Heute beginnen wir mit der Einführung der Vertrauenskontakt-Funktion, einer optionalen Sicherheitsfunktion in ChatGPT, mit der Erwachsene eine Person ihres Vertrauens benennen können – etwa Freund:innen, Familienmitglieder oder Betreuungspersonen. Diese Person kann benachrichtigt werden, wenn unsere automatisierten Systeme und geschulten Prüfenden erkennen, dass die angemeldete Person möglicherweise über Selbstverletzung in einer Weise gesprochen hat, die auf eine ernste Gefährdung hindeutet. Die Vertrauenskontakt-Funktion soll zusätzlich zu den in ChatGPT bereits verfügbaren lokalisierten Hilfshotlines eine weitere Unterstützungsebene bieten, indem Nutzenden in Krisen erleichtert werden soll, mit einer Person ihres Vertrauens Kontakt aufzunehmen.
Die Vertrauenskontakt-Funktion baut auf den Sicherheitsbenachrichtigungen der Kindersicherung(wird in einem neuen Fenster geöffnet) auf. Diese ermöglichen es Eltern oder Erziehungsberechtigten, Benachrichtigungen zu erhalten, wenn es bei einem verknüpften Konto von Jugendlichen Anzeichen einer akuten psychischen Belastung gibt. Nun erweitern wir unsere Sicherheitswarnoptionen, damit alle Personen über 18 eine Person ihres Vertrauens als Vertrauensperson hinzufügen können.
Fachliche Empfehlungen(wird in einem neuen Fenster geöffnet) nennen soziale Verbundenheit als einen der wichtigsten Schutzfaktoren zur Verringerung des Suizidrisikos. Die Vertrauenskontakt(wird in einem neuen Fenster geöffnet)-Funktion soll die Kontaktaufnahme mit einer Person fördern, der die nutzende Person bereits vertraut. Die Funktion ersetzt weder professionelle Versorgung noch Krisendienste und ist eine von mehreren Schutzebenen für Menschen in psychischen Notsituationen. ChatGPT wird Nutzende weiterhin dazu ermutigen, sich bei Bedarf an Krisenhotlines oder Notdienste zu wenden.
„Die psychologische Forschung zeigt immer wieder, dass soziale Verbundenheit ein starker Schutzfaktor ist – besonders in Zeiten psychischer Belastung. Menschen dabei zu helfen, im Voraus eine Vertrauensperson zu benennen und dabei ihre Wahlfreiheit und Autonomie zu wahren, kann es erleichtern, dann Unterstützung im realen Leben zu suchen, wenn es am wichtigsten ist.“
- Nutzende können in ihren ChatGPT‑Einstellungen eine erwachsene Person (weltweit 18+, in Südkorea 19+) als Vertrauenskontakt hinzufügen.
- Die Kontaktperson erhält eine Einladung, in der die Rolle erklärt wird, und muss sie innerhalb einer Woche annehmen, damit die Funktion aktiv wird. Lehnt die Kontaktperson ab, kann die nutzende Person eine andere erwachsene Person hinzufügen.
- Wenn unsere automatisierten Überwachungssysteme erkennen, dass die nutzende Person möglicherweise in einer Weise über Selbstverletzung spricht, die auf eine ernste Gefährdung hindeutet, informiert ChatGPT die nutzende Person darüber, dass wir möglicherweise ihren Vertrauenskontakt benachrichtigen, und ermutigt sie mit vorgeschlagenen Gesprächseinstiegen, sich an die Person ihres Vertrauens zu wenden.
- Anschließend prüft ein kleines Team speziell geschulter Mitarbeitender die Situation. Wenn diese Prüfenden zu dem Schluss kommen, dass das Gespräch auf eine ernste Gefährdung hindeuten könnte, sendet ChatGPT dem Vertrauenskontakt eine kurze Benachrichtigung per E-Mail, SMS oder In-App-Mitteilung, falls diese Person ein ChatGPT‑Konto hat.
- Die Benachrichtigung enthält bewusst begrenzte Angaben. Sie nennt den allgemeinen Grund, dass Selbstverletzung in potenziell besorgniserregender Weise zur Sprache kam, und ermutigt den Vertrauenskontakt, das Gespräch mit dem:der Nutzer:in zu suchen. Um die Privatsphäre der nutzenden Person zu schützen, enthält die Benachrichtigung keine Chat-Details oder Transkripte. Sie enthält außerdem einen Link zu fachlichen Empfehlungen(wird in einem neuen Fenster geöffnet) für den Umgang mit sensiblen Gesprächen.
- Nutzende können ihren Vertrauenskontakt in den Einstellungen jederzeit entfernen oder bearbeiten, und der Vertrauenskontakt kann sich jederzeit selbst über unser Hilfecenter(wird in einem neuen Fenster geöffnet) entfernen.
Auch wenn diese ernsten Notsituationen selten sind, sind unsere Systeme darauf ausgelegt, sie bei ihrem Auftreten zeitnah zu prüfen und darauf zu reagieren. Kein System ist perfekt, und eine Benachrichtigung an einen Vertrauenskontakt entspricht möglicherweise nicht immer genau dem, was eine Person erlebt. Dennoch wird jede Benachrichtigung vor dem Versand von geschulten Menschen geprüft, und wir sind bemüht, diese Gefährdungsbenachrichtigungen in weniger als einer Stunde zu prüfen.
Wir haben die Vertrauenskontakt-Funktion mit Unterstützung von klinischen Fachkräften, Forschenden und Organisationen entwickelt, die auf psychische Gesundheit und Suizidprävention spezialisiert sind. Diese Arbeit basiert auf unserem Global Physicians Network, einem Netzwerk von mehr als 260 zugelassenen Ärzt:innen in 60 Ländern, sowie unserem Expert Council on Well-Being and AI. Außerdem haben wir eng mit externen Organisationen zusammengearbeitet, darunter der American Psychological Association.(wird in einem neuen Fenster geöffnet)
„Eines der größten Versprechen von KI ist, dass sie echte menschliche Verbundenheit und psychologische Sicherheit fördern kann. Die Vertrauenskontakt-Funktion von ChatGPT stimmt mich zuversichtlich, denn sie ist ein Schritt hin zu mehr menschlicher Selbstbestimmung – besonders in Momenten der Verletzlichkeit.“
Neben der Vertrauenskontakt-Funktion verfügt ChatGPT über Schutzmechanismen, die sensible Gespräche in jeder Phase lenken sollen. Wir haben weiter an der Verbesserung daran gearbeitet, wie das System auf verschiedene Risikostufen reagiert, die in einem Gespräch zum Ausdruck kommen:
- Hilfe im echten Leben unterstützen: In sensiblen Momenten kann ChatGPT Menschen dazu ermutigen, sich an Notdienste, Krisenhotlines, Fachkräfte für psychische Gesundheit oder vertraute Personen in ihrem Umfeld zu wenden.
- Einfühlsam reagieren: Wir haben mit mehr als 170 Expert:innen für psychische Gesundheit zusammengearbeitet, um die Fähigkeit von ChatGPT zu verbessern, Anzeichen möglicher psychischer Belastung zu erkennen und darauf zu reagieren, Gespräche zu deeskalieren und Menschen bei Bedarf zu Unterstützung im echten Leben zu führen.
- Menschen helfen, ihre Zeit selbst zu steuern: In manchen Situationen kann ChatGPT nach längerer Nutzung eine Pause oder etwas Abstand empfehlen, um einen gesunden Umgang mit Technologie zu fördern.
- Schädliche Anfragen ablehnen: ChatGPT ist darauf trainiert, keine Anleitungen zu Suizid oder Selbstverletzung bereitzustellen. Wenn Nutzende nach solchen Informationen fragen, ist das System darauf trainiert, die Anfrage abzulehnen, stattdessen sicherere Antworten zu geben und lokalisierte Krisenangebote anzuzeigen.
Die Vertrauenskontakt-Funktion ist Teil der umfassenderen Bemühungen von OpenAI, KI-Systeme zu entwickeln, die Menschen in schwierigen Momenten helfen. Wir werden weiterhin mit klinischen Fachkräften, Forschenden und politischen Entscheidungsträger:innen zusammenarbeiten, um zu verbessern, wie KI-Systeme reagieren, wenn Menschen möglicherweise psychische Notsituationen erleben. Unser Ziel ist es sicherzustellen, dass KI-Systeme nicht isoliert existieren. Stattdessen sollen sie Menschen zu der Versorgung, den Beziehungen und den Ressourcen im echten Leben führen, die am wichtigsten sind.
