Hilfreichere und unterstützendere ChatGPT‑Erfahrungen für alle

Wir arbeiten kontinuierlich und mit Nachdruck daran, ChatGPT so hilfreich und unterstützend wie möglich zu machen. Es kommt vor, dass Menschen sich in den schwierigsten Momenten an ChatGPT wenden. Deshalb verbessern wir ständig, wie unsere Modelle Anzeichen von mentaler und emotionaler Belastung erkennen und wie sie darauf reagieren. Dabei stützen wir uns auf den Input von Expert:innen. 

So gehen wir bereits seit geraumer Zeit vor, aber wir möchten unsere Pläne für die nächsten 120 Tage proaktiv vorstellen, damit es nicht notwendig ist, auf die Ausrollung verschiedener Funktionen zu warten, um einen Eindruck davon zu gewinnen, worauf wir hinarbeiten. Auch nach diesem Zeitraum werden wir diese Arbeit fortsetzen, aber wir konzentrieren uns darauf, möglichst viele der Verbesserungen noch in diesem Jahr umzusetzen. 

Letzte Woche haben wir vier Schwerpunktbereiche vorgestellt, um Menschen zu helfen, wenn sie dringend darauf angewiesen sind:

1. Ausweitung von Unterstützungsmaßnahmen für mehr Menschen in Krisen
2. weitere Erleichterung des Zugangs zu Notdiensten und Fachleuten
3. Aufbau von Verbindungen zu vertrauenswürdigen Kontaktpersonen
4. Stärkung des Schutzes für Jugendliche 

Die Umsetzung einiger dieser Projekte schreitet sehr schnell voran, andere werden mehr Zeit in Anspruch nehmen. 

Heute möchten wir Einblicke in unsere Zusammenarbeit mit Expert:innen in diesem Bereich bieten und dazu, wie wir Reasoning-Modellen bei Gesprächen mit sensiblen Inhalten einsetzen, und teilen darüber hinaus Details zu einem unserer Schwerpunkte: Stärkung des Schutzes für Jugendliche 

KI ist neu und entwickelt sich ständig weiter. Deshalb wollen wir sicherstellen, dass unsere Fortschritte auf fundierter Expertise zu Wohlbefinden und mentaler Gesundheit aufbauen und entsprechend angeleitet werden. Unser Expert:innenrat für Wohlbefinden und KI und unser Globales Ärzt:innen-Netzwerk bieten sowohl die Tiefe spezialisierter medizinischer Expertise als auch die breite Palette verschiedener Perspektiven, die wir für unseren Ansatz brauchen. Im Laufe unserer 120-Tage-Initiative werden wir weitere Details zu unseren Bemühungen teilen.

Expert:innenrat für Wohlbefinden und KI

Anfang des Jahres haben wir begonnen, einen Rat aus Fachleuten in den Bereichen Jugendentwicklung, mentale Gesundheit und Mensch-Computer-Interaktion zu versammeln. Die Rolle des Rats ist es, eine klare, evidenzbasierte Vision dafür zu entwickeln, wie KI das Wohlbefinden von Menschen unterstützen und ihnen auf dem Weg zu Erfolg und Selbstverwirklichung zur Seite stehen kann.

Dieser Input hilft uns dabei, Wohlbefinden zu definieren und zu messen, Prioritäten zu setzen und künftige Schutzmechanismen – wie Weiterentwicklungen der Elternkontrollen – auf Grundlage aktueller Forschung zu gestalten. Der Rat berät uns bei Entscheidungen zu unserem Produkt sowie Forschung und Richtlinien. Die Verantwortung für jegliche Entscheidungen liegt jedoch weiterhin bei OpenAI. 

Globales Ärzt:innen-Netzwerk

Der Expert:innenrat wird mit unserem globalen Ärzt:innen-Netzwerk zusammenarbeiten – einem erweiterten Pool von über 250 Ärzt:innen aus 60 Ländern –, mit dem wir im letzten Jahr u. a. bei unseren Gesundheits-Benchmark-Bewertungen kooperiert haben.

Von diesem Pool haben mehr als 90 Ärzt:innen aus 30 Ländern – darunter Psychiater:innen, Kinderärzt:innen und Allgemeinmediziner:innen – bereits zu unserer Forschung dazu beigetragen, wie sich Modelle im Kontext psychischer Gesundheit verhalten sollten. Ihre Beiträge fließen direkt in unsere Sicherheitsforschung, das Modelltraining und andere Maßnahmen ein und helfen uns, schnell die richtigen Fachleute einzubinden.

Wir erweitern unser Netzwerk zudem um weitere Ärzt:innen und Forscher:innen, darunter Fachleute für Essstörungen, Substanzkonsum und Jugendgesundheit.

Unsere Reasoning-Modelle – wie GPT‑5‑thinking und o3 – sind darauf ausgelegt, sich mehr Zeit zum Nachdenken zu nehmen und den Kontext umfassend zu berücksichtigen, bevor sie antworten. Sie wurden mit einer Methode trainiert, die wir deliberative alignment (etwa: abwägende Ausrichtung) nennen, und unsere Tests zeigen⁠(wird in einem neuen Fenster geöffnet), dass diese Reasoning-Modelle Sicherheitsrichtlinien zuverlässiger befolgen und resistenter gegen manipulative Eingaben sind.

Kürzlich haben wir einen Echtzeit-Router eingeführt, der je nach Gesprächskontext zwischen effizienten Chat-Modellen und Reasoning-Modellen wählen kann. Bald werden wir damit beginnen, einige Gespräche mit sensiblen Inhalten – zum Beispiel, wenn unser System Anzeichen einer akuten (psychischen) Notlage erkennt – gezielt an ein Reasoning-Modell wie GPT‑5‑thinking zu übergeben, damit es, unabhängig davon, welches Modell ursprünglich ausgewählt wurde, hilfreichere und sinnvollere Antworten geben kann. Wir werden diesen Ansatz behutsam weiterentwickeln.

Viele junge Menschen nutzen bereits KI. Sie gehören zu den ersten „KI-Natives“, die mit diesen Tools aufwachsen – ähnlich wie frühere Generationen mit dem Internet oder Smartphones. Das eröffnet gleichermaßen Möglichkeiten in den Bereichen Support, Lernen und Kreativität – gleichzeitig brauchen Familien und Jugendliche Unterstützung, um gesunde Rahmenbedingungen für die jeweilige Entwicklungsphase zu gestalten.

Elternkontrollen

Anfang dieses Jahres haben wir begonnen, zusätzliche Optionen zu schaffen, die Familien die gemeinsame Nutzung von ChatGPT und die individuelle Entscheidung ermöglichen, was in ihrem Zuhause am besten funktioniert. Innerhalb des nächsten Monats wird es Eltern möglich sein:

• ihr Konto mit dem Konto ihres Teenagers (ab 13 Jahren) per einfacher E-Mail-Einladung zu verknüpfen,
• zu steuern, wie ChatGPT ihrem Teenager antwortet – mit altersgerechten Regeln, die standardmäßig aktiviert sind,
• zu verwalten, welche Funktionen deaktiviert werden (einschließlich Speicher und Chatverlauf)
• Benachrichtigungen zu erhalten, wenn das System Anzeichen einer akuten (psychischen) Notlage beim Teenager erkennt. Diese Funktion wird eng an Expert:innenwissen ausgerichtet sein, um das vertrauensvolle Verhältnis zwischen Eltern und Jugendlichen zu fördern.

Die Elternkontrollen ergänzen bestehende Features für alle Nutzer:innen wie etwa In-App-Erinnerungen, die bei langen Sitzungen darauf hinweisen, dass es an der Zeit für eine Pause ist.

Diese Maßnahmen sind erst der Anfang. Wir werden kontinuierlich weiter lernen und – stets mit der Unterstützung von Fachleuten –unseren Ansatz stärken, ChatGPT so hilfreich und unterstützend wie möglich zu gestalten. Wir freuen uns darauf, unsere Fortschritte in den kommenden 120 Tagen zu teilen.