Unser Ansatz für Partnerschaften mit Regierungen und im Bereich nationale Sicherheit

Regierungen beginnen, Frontier-KI-Systeme für immer wichtigere Aufgaben einzusetzen, auch im Bereich der nationalen Sicherheit. Damit müssen KI-Labore, Regierungen und Zivilgesellschaft gemeinsam klären, wie diese Werkzeuge in sensiblen Bereichen eingesetzt werden sollen. 

Wir sind überzeugt, dass demokratische Gesellschaften KI nutzen können sollten, um Menschen zu schützen, kritische Infrastruktur zu verteidigen, öffentliche Dienste bereitzustellen und auf neue Bedrohungen zu reagieren, auch in Bereichen wie Cyberabwehr und biologischer Sicherheit, in denen KI die Verteidigung spürbar stärken kann. Doch immer leistungsfähigere KI-Systeme müssen so eingesetzt werden, dass sie demokratische Rechenschaftspflicht, wirksame menschliche Urteilsbildung und Rechtsstaatlichkeit stärken und demokratische Institutionen festigen, statt Macht zu konzentrieren.

Heute veröffentlichen wir OpenAIs Prinzipien für nationale Sicherheit, um transparent zu machen, wie wir an Regierungspartnerschaften und die Nutzung unserer Technologie im Bereich der nationalen Sicherheit herangehen.

Diese Prinzipien gehen auf eine unternehmensweite Initiative zurück, mit der wir einen umfassenderen Ansatz für unsere Arbeit in den Bereichen nationale Sicherheit und Strafverfolgung entwickeln, während unsere Technologie weiter voranschreitet. Wir haben David Kris, einen führenden Experten für nationale Sicherheit, hinzugezogen, um den Prozess zu unterstützen und seine unabhängige Einschätzung einzubringen. Außerdem haben wir unternehmensweit Listening Sessions durchgeführt und Mitarbeitende aus verschiedenen Teams eingebunden, von Forschung und Sicherheit bis hin zu Policy und Regierungspartnerschaften.

Wir veröffentlichen sie jetzt, während wir unsere Zusammenarbeit mit der US-Regierung und Partnern aus verbündeten Staaten in wichtigen defensiven Bereichen ausbauen, insbesondere in der Cyber- und Biosicherheit. Im vergangenen Monat haben wir im Rahmen unseres Cyberabwehrprogramms Daybreak⁠ bereits „Trusted Access for Cyber“-Partnerschaften mit Australien, Kanada, Japan, der Republik Korea, Frankreich, Deutschland, Polen, den Niederlanden und EU-Institutionen wie ENISA geschlossen. Außerdem bauen wir mit der britischen Regierung eine wachsende, vertrauensvolle Partnerschaft im Bereich Cyber, Tests und Evaluierung auf. In der Biosicherheit verfolgen wir einen ähnlichen Ansatz. Im vergangenen Monat haben wir außerdem eine Erweiterung des Trusted Access zu unserem GPT‑Rosalind‑Modell für ausgewählte Partner aus der US-Regierung und verbündeten Staaten angekündigt, die Aufgaben in öffentlicher Gesundheit und Bioabwehr unterstützen.

Diese Prinzipien gelten für unsere aktuellen und künftigen Partnerschaften in den Bereichen nationale Sicherheit und Strafverfolgung, einschließlich unserer bestehenden Zusammenarbeit mit dem US-Kriegsministerium. Als wir unsere Vereinbarung Anfang dieses Jahres bekannt gaben, haben wir mehrere vertragliche Beschränkungen formuliert: keine Nutzung von OpenAI-Technologie für massenhafte Inlandsüberwachung, keine Nutzung von OpenAI-Technologie zur Steuerung autonomer Waffensysteme und keine Nutzung von OpenAI-Technologie für automatisierte Entscheidungen mit hoher Tragweite. Diese Beschränkungen stehen im Einklang mit den Prinzipien, die wir heute veröffentlichen.

Wir halten es für richtig, klar zu benennen, wie unsere Technologie genutzt werden darf und wie nicht, und dies transparent zu machen. Doch viele der folgenreichsten Fragen zum Einsatz von KI durch Regierungen, insbesondere in der nationalen Sicherheit, sollten im demokratischen Prozess beantwortet werden. Die Aufgabe von Unternehmen wie unserem ist es, diese Entscheidungen mit Informationen zu unterstützen, nicht sie allein zu treffen. Deshalb unterstützen wir gesetzgeberische Initiativen, Schutzvorkehrungen für einige der risikoreichsten militärischen KI-Anwendungen zu schaffen, unter anderem bei Inlandsüberwachung, autonomen Waffensystemen und anderen Hochrisikoanwendungen, die die nationale Sicherheit der USA unmittelbar betreffen.

Die Prinzipien findest du hier⁠(wird in einem neuen Fenster geöffnet).