Zusammenarbeit mit der American Psychological Association: psychische Gesundheit Jugendlicher und KI
Junge Menschen nutzen KI bereits, um zu lernen, kreativ zu sein, Fragen zu stellen und Rat zu suchen. Mit der zunehmenden Nutzung brauchen Familien, Schulen, Fachkräfte im Gesundheitswesen und lokale Gemeinschaften klarere Erkenntnisse, bessere Ressourcen und stärkere Schutzmaßnahmen. Deshalb arbeiten wir mit der American Psychological Association (APA) zusammen. Erkenntnisse aus der Psychologie sollen dabei helfen, die verantwortungsvolle Entwicklung und Nutzung von KI durch junge Menschen zu gestalten. Die APA ist die führende wissenschaftliche und berufliche Fachorganisation für Psychologie in den USA. Ihre evidenzbasierte Arbeit wird dazu beitragen, zu klären, was bekannt und was noch ungewiss ist und wie verantwortungsvolle KI mit der Weiterentwicklung der Technologie aussehen sollte.
„Technologie gehört zum Leben von Jugendlichen. Es liegt in unserer Verantwortung, dieser Realität mit Angeboten zu begegnen, die sicher und altersgerecht sind und die Bedürfnisse von Familien berücksichtigen. KI sollte die persönlichen Beziehungen und die Unterstützung stärken, auf die junge Menschen angewiesen sind, und sie nicht ersetzen“, sagte Dr. Sara Johansen, Head of Mental Health and Well-Being Product Policy bei OpenAI. „Diese Zusammenarbeit knüpft an unsere laufende Arbeit mit Fachleuten an. Gemeinsam mit der APA und weiteren führenden Fachleuten richten wir unseren Ansatz weiterhin an wissenschaftlichen Erkenntnissen aus und entwickeln praxistaugliche Schutzmaßnahmen, bei denen das Wohlergehen Jugendlicher an erster Stelle steht.“
Anfang dieses Jahres haben wir gemeinsam mit der APA eine produktive Gesprächsrunde veranstaltet. Dabei kamen Führungskräfte aus Organisationen für psychische Gesundheit, Forschende, Fachkräfte im Gesundheitswesen, pädagogische Fachkräfte und Jugendvertreter:innen zusammen. Sie erörterten, wo es derzeit Lücken bei der Unterstützung junger Menschen gibt und wie KI verantwortungsvoll dabei helfen kann, Informationen und konkrete Hilfsangebote zu finden.
Auf Grundlage dieser Gespräche soll sich die Arbeit auf mehrere Bereiche erstrecken: wie KI junge Menschen in belastenden Situationen unterstützen kann, wie sie entwicklungsangemessener und hilfreicher gestaltet werden kann und wie Eltern, Betreuungspersonen und Fachkräfte im Gesundheitswesen junge Menschen besser bei der Nutzung von KI begleiten können. Die gesamte Arbeit wird sich auf Erkenntnisse der Verhaltenswissenschaft sowie auf die Stimmen und Erfahrungen von Eltern, Betreuungspersonen, Lehrkräften und jungen Menschen selbst stützen. Langfristig kann diese Arbeit zu stärkeren Schutzmaßnahmen und evidenzbasierten Ansätzen dafür beitragen, welche Rolle KI im Leben junger Menschen spielen sollte.
Ein erster Schwerpunkt liegt darauf, Eltern und Betreuungspersonen praktische Hilfsmittel für den Umgang mit KI zu Hause an die Hand zu geben, insbesondere wenn Jugendliche beginnen, solche Tools zu nutzen. Gemeinsam mit der APA wollen wir Materialien für Familien entwickeln. Sie sollen Eltern und Betreuungspersonen dabei helfen, eine gesunde Nutzung zu fördern, zu erkennen, wann Erwachsene eingreifen sollten, und zu vermitteln, dass KI ein Werkzeug ist und kein Ersatz für Menschen oder persönliche Unterstützung. Diese Orientierungshilfen möchten wir auch in Schulgemeinschaften möglichst vielen zugänglich machen.
Darüber hinaus arbeiten wir mit der APA zusammen, um Fachkräfte zu unterstützen, die immer häufiger Fragen zu KI beantworten. Geplant sind unter anderem Materialien für Fachkräfte im Gesundheitswesen und in der Schulpsychologie. Im Mittelpunkt stehen eine gesunde KI-Nutzung, das Erkennen übermäßiger Abhängigkeit und das Eingreifen bei ungesunden Nutzungsmustern. Zudem werden wir weiterhin Führungskräfte aus den Bereichen Gesundheitswesen, Bildung, Forschung, Politik und Technologie sowie aus der Interessenvertretung für junge Menschen zusammenbringen, um neue Erkenntnisse in praxistaugliche Leitlinien für das gesamte Fachgebiet zu überführen.
Diese Arbeit muss sich auf die Erfahrungen der Betroffenen stützen und von ihnen mitgestaltet werden, statt auf Annahmen zu beruhen. Gemeinsam mit der APA werden wir Jugendliche, Familien, Fachkräfte im Gesundheitswesen und in der Schulpsychologie sowie weitere Beteiligte zusammenbringen. So wollen wir besser verstehen, wie junge Menschen KI nutzen, welche Fragen zu KI in Schulen, Therapien und Familien aufkommen, wo bestehende Systeme nicht ausreichen und wie KI verantwortungsvoll den Zugang zu Angeboten, die Aufklärung oder die Orientierung unterstützen kann.
Diese Zusammenarbeit knüpft an die Bemühungen von OpenAI an, die Reaktionen von ChatGPT in sensiblen Situationen und die Unterstützung jüngerer Nutzender zu verbessern. Wir arbeiten mit mehr als 260 Fachleuten für psychische Gesundheit zusammen, damit ChatGPT Anzeichen von Belastung besser erkennt, einfühlsam reagiert und Menschen zu konkreten Hilfsangeboten führt. Außerdem haben wir den Zugang zu lokalen Krisenangeboten und Hilfetelefonen mit nur einem Klick erweitert, Erinnerungen an Pausen hinzugefügt und zusätzliche Schutzmaßnahmen für jüngere Nutzende eingeführt. Dazu gehören die Kindersicherung, Benachrichtigungen an Eltern bei Sicherheitsbedenken, Grundsätze für unter 18-Jährige in unserer Modellspezifikation sowie ein Modell zur Alterseinschätzung, das dabei hilft, die passende Nutzungserfahrung und die richtigen Schutzmaßnahmen anzuwenden.
KI kann Menschen helfen, früher Informationen zu finden und sich in bestehenden Systemen zurechtzufinden. Das Wohlergehen junger Menschen hängt jedoch von starken zwischenmenschlichen Beziehungen und verlässlicher Unterstützung ab. Wir freuen uns über die Zusammenarbeit mit der APA und den vielen Forschenden, Fachkräften im Gesundheitswesen und pädagogischen Fachkräften, von denen wir weiterhin lernen. Gemeinsam wollen wir dafür sorgen, dass KI junge Menschen und alle, die sich um sie kümmern, sie unterstützen und begleiten, wirklich stärkt.
