Einführung des Child Safety Blueprint
Ein Rahmenwerk zur Bekämpfung und Prävention KI-gestützter sexueller Ausbeutung von Kindern
Sexuelle Ausbeutung von Kindern ist eine der dringendsten Herausforderungen des digitalen Zeitalters. KI verändert derzeit rasant sowohl die Art und Weise, wie diese Probleme branchenweit auftreten, als auch die Möglichkeiten, sie in großem Maßstab anzugehen.
Bei OpenAI haben wir Schutzmaßnahmen aufgebaut, um den Missbrauch unserer Systeme zu verhindern, und bauen diese weiter aus. Zudem arbeiten wir eng mit Partnern wie dem National Center for Missing and Exploited Children (NCMEC) und Strafverfolgungsbehörden zusammen, um die Aufdeckung und Meldung zu verbessern. Diese Arbeit hat dazu beigetragen, aufzuzeigen, wo in der gesamten Branche strengere, gemeinsame Standards erforderlich sind.
Heute stellen wir ein Konzeptpapier (Blueprint) vor, das einen praktischen Weg zur Stärkung der US-amerikanischen Kinderschutzregelungen im Zeitalter der KI aufzeigt. Dieser Blueprint berücksichtigt und integriert das Feedback mehrerer führender Organisationen und Expert:innen aus dem gesamten Kinderschutz-Ökosystem, darunter NCMEC, die Attorney General Alliance und die Ko-Vorsitzenden ihrer AI Task Force – der Generalstaatsanwalt von North Carolina Jeff Jackson und der Generalstaatsanwalt von Utah Derek Brown –sowie Thorn, um sicherzustellen, dass er deren Prioritäten widerspiegelt und eine wirksamere Zusammenarbeit zur Verhinderung von Schäden für Kinder fördern kann.
Der Blueprint konzentriert sich auf drei zentrale Prioritäten: die Modernisierung der Gesetze zur Bekämpfung von durch KI generiertem und verändertem kinderpornografischem Material (CSAM), die Verbesserung der Meldungen und Koordination von Anbietern zur Unterstützung wirksamerer Ermittlungen sowie die direkte Integration von Sicherheitsmaßnahmen in KI-Systeme, um Missbrauch zu verhindern und zu erkennen.
Keine einzelne Maßnahme kann diese Herausforderung allein bewältigen. Dieses Rahmenwerk führt rechtliche, operative und technische Ansätze zusammen, um Risiken besser zu erkennen, Reaktionen zu beschleunigen und klare Verantwortlichkeit zu fördern. Gleichzeitig stellt es sicher, dass die Durchsetzungsbehörden angesichts der sich stetig weiterentwickelnden Technologie handlungsfähig bleiben.
Gemeinsam ermöglichen diese Maßnahmen es der Branche, sich früher und wirksamer mit dem Thema Kindersicherheit auseinanderzusetzen. Indem Ausbeutungsversuche früher unterbunden, die Qualität der an Strafverfolgungsbehörden übermittelten Signale verbessert und die Verantwortlichkeit im gesamten Ökosystem gestärkt werden, zielt dieses Rahmenwerk darauf ab, Schaden zu verhindern, bevor er entsteht, und dazu beizutragen, dass Kinder schneller geschützt werden, sobald Risiken auftreten.
„Als Ko-Vorsitzende der AI Task Force der Attorney General Alliance begrüßen wir diesen Blueprint als einen wichtigen Schritt, um die Praktiken des Technologiesektors zum Schutz von Kindern mit den Realitäten der Rechtsdurchsetzung in Einklang zu bringen, mit denen unsere Behörden täglich konfrontiert sind. Besonders ermutigend finden wir, dass in dem Rahmenwerk anerkannt wird, dass wirksame Schutzmaßnahmen für GenAI mehrschichtige Abwehrmechanismen erfordern – also nicht nur eine einzige technische Kontrollmaßnahme, sondern eine Kombination aus Erkennung, Abwehrmechanismen, menschlicher Aufsicht und kontinuierlicher Anpassung an neu auftretende Missbrauchsmuster. Das spiegelt wider, was wir in der Praxis beobachten: Die Bedrohung entwickelt sich ständig weiter, und statische Lösungen reichen nicht aus. Die Präventionsarchitektur frühzeitig richtig umzusetzen, ist die wirkungsvollste Einzelinvestition, die die Branche in die Kindersicherheit tätigen kann.
Letztlich hängt die Stärke jedes freiwilligen Rahmenwerks von der Konkretheit seiner Verpflichtungen und der Bereitschaft der Industrie ab, sich daran messen zu lassen. Wir freuen uns auf die weitere Partnerschaft mit OpenAI, NCMEC und unseren Amtskolleg:innen, um sicherzustellen, dass diese Empfehlungen in einen dauerhaften Schutz für Kinder umgesetzt werden.“
–Die Generalstaatsanwälte Jeff Jackson (North Carolina) und Derek Brown (Utah), die gemeinsamen Vorsitzenden der AI Task Force der Attorney General Alliance.
„Die Attorney General Alliance übernimmt eine Vorreiterrolle beim Schutz junger Menschen im Internet, indem sie Generalstaatsanwält:innen, Führungskräfte aus der Industrie, gemeinnützige Organisationen und globale Partner zusammenbringt, um praktische, zukunftsorientierte Lösungen im Bereich KI und digitale Sicherheit voranzubringen.“ Durch Zusammenarbeit und Innovation setzt die AGA einen hohen Maßstab dafür, wie wir Jugendliche schützen und gleichzeitig neue Technologien verantwortungsvoll nutzen. Wir begrüßen das fortwährende Engagement von OpenAI für die Sicherheit sowie die Zusammenarbeit mit der AGA und Generalstaatsanwält:innen bei der Entwicklung eines äußerst wertvollen Blueprints für die Sicherheit von Kindern.“
– Karen White, Executive Director der Attorney General Alliance
„Generative KI beschleunigt das Verbrechen der sexuellen Ausbeutung von Kindern im Internet auf zutiefst beunruhigende Weise – indem sie Hürden senkt, den Umfang vergrößert und neue Formen des Missbrauchs ermöglicht. Gleichzeitig wird das National Center for Missing & Exploited Children (NCMEC) dadurch ermutigt, dass Unternehmen wie OpenAI darüber nachdenken, wie diese Tools verantwortungsvoller gestaltet werden können, mit Schutzmaßnahmen, die von Anfang an integriert sind. Keine einzelne Organisation, kein einzelnes Unternehmen und kein einzelner Sektor kann das allein bewältigen. Wir setzen uns auch weiterhin dafür ein, mit Partnern aus Industrie, Regierung und dem Bereich des Kinderschutzes zusammenzuarbeiten, um Lösungen voranzutreiben, die Schäden reduzieren und die Sicherheit von Kindern besser gewährleisten.“
– Michelle DeLaune, Präsidentin und CEO des National Center for Missing & Exploited Children
