Unsere Vereinbarung mit dem US-Kriegsministerium

Gestern haben wir mit dem Pentagon eine Vereinbarung zur Bereitstellung fortschrittlicher KI-Systeme in geheimen Umgebungen getroffen und darum gebeten, diese auch allen KI-Unternehmen zugänglich zu machen.

Wir sind der Meinung, dass unsere Vereinbarung mehr Schutzmaßnahmen beinhaltet als jede frühere Vereinbarung für klassifizierte KI-Bereitstellungen, einschließlich der von Anthropic. Hier sind die Gründe dafür.

Wir haben drei zentrale rote Linien, die unsere Arbeit mit dem Kriegsministerium (Department of War, DoW) leiten und die im Allgemeinen von mehreren anderen Frontier-Laboren geteilt werden:

• Keine Nutzung von OpenAI-Technologie für die Massenüberwachung im Inland.
• Keine Nutzung von OpenAI-Technologie zur Steuerung autonomer Waffensysteme. 
• Keine Nutzung von OpenAI-Technologie für automatisierte Entscheidungen mit hohem Risiko (z. B. Systeme wie „Social Credit“).

Andere KI-Labore haben ihre Sicherheitsmechanismen reduziert oder entfernt und sich bei Einsätzen im Bereich nationale Sicherheit in erster Linie auf Nutzungsrichtlinien als wichtigste Schutzmechanismen verlassen. Wir sind der Ansicht, dass unser Ansatz besser vor inakzeptabler Nutzung schützt.

In unserer Vereinbarung schützen wir unsere roten Linien durch einen umfassenderen, mehrschichtigen Ansatz. Wir behalten die volle Entscheidungsfreiheit über unseren Sicherheits-Stack, wir stellen über die Cloud bereit, freigegebenes OpenAI-Personal ist eingebunden, und wir verfügen über starke vertragliche Schutzmaßnahmen. Dies alles gilt zusätzlich zu den bereits bestehenden strengen Schutzbestimmungen im US-Recht. 

Wir glauben fest an die Demokratie. Angesichts der Bedeutung dieser Technologie sind wir überzeugt, dass der einzige gute Weg nach vorn eine enge Zusammenarbeit zwischen KI-Initiativen und dem demokratischen Prozess erfordert. Außerdem sind wir überzeugt, dass unsere Technologie neue Risiken in der Welt mit sich bringen wird, und wir möchten, dass die Menschen, die die Vereinigten Staaten verteidigen, über die besten Tools verfügen.

Unsere Vereinbarung umfasst:

1. Bereitstellungsarchitektur. Dies ist eine reine Cloud-Bereitstellung, mit einem Sicherheits-Stack, den wir betreiben und der diese Prinzipien und andere umfasst. Wir stellen dem DoW keine Modelle ohne Schutzmechanismen („guardrails off“) oder ohne Sicherheitstraining zur Verfügung und stellen unsere Modelle auch nicht auf Edge-Geräten bereit (wo die Möglichkeit besteht, dass sie für autonome tödliche Waffen verwendet werden könnten). 

Unsere Bereitstellungsarchitektur wird es uns ermöglichen, unabhängig zu verifizieren, dass diese roten Linien nicht überschritten werden, einschließlich des Ausführens und Aktualisierens von Klassifikatoren.

2. Unser Vertrag. Hier ist der relevante Wortlaut:

Das Kriegsministerium darf das KI-System für alle rechtmäßigen Zwecke nutzen, im Einklang mit geltendem Recht, operativen Anforderungen sowie etablierten Sicherheits- und Aufsichtsprotokollen. Das KI-System wird in keinem Fall dazu verwendet, autonome Waffen eigenständig zu steuern, wenn Gesetze, Verordnungen oder Richtlinien des Ministeriums eine menschliche Kontrolle erfordern, noch wird es dazu verwendet, andere Entscheidungen mit hohem Risiko zu treffen, die unter denselben Zuständigkeiten die Genehmigung durch einen menschlichen Entscheidungsträger erfordern. Gemäß DoD Directive 3000.09 (vom 25. Januar 2023) muss jede Nutzung von KI in autonomen und teilautonomen Systemen eine strenge Verifizierung, Validierung und Tests durchlaufen, um sicherzustellen, dass sie vor der Bereitstellung in realistischen Umgebungen wie beabsichtigt funktionieren.

Für nachrichtendienstliche Tätigkeiten wird jede Verarbeitung privater Informationen dem vierten Zusatzartikel zur Verfassung der Vereinigten Staaten, dem National Security Act von 1947 und dem Foreign Intelligence and Surveillance Act von 1978, der Executive Order 12333 sowie den geltenden Richtlinien des Verteidigungsministeriums entsprechen, die einen definierten Zweck der Auslandsaufklärung erfordern. Das KI-System darf nicht zur uneingeschränkten Überwachung der privaten Daten von US-Personen im Einklang mit diesen Befugnissen verwendet werden. Das System darf außerdem nicht für inländische Strafverfolgungsmaßnahmen verwendet werden, außer soweit dies durch den Posse Comitatus Act und andere geltende Gesetze zulässig ist.

3. Einbeziehung von KI-Expert:innen. Wir werden sicherheitsüberprüfte, vor Ort stationierte OpenAI-Entwickler:innen bereitstellen, die der Regierung helfen, wobei sicherheitsüberprüfte Sicherheits- und Alignment-Forscher:innen ebenfalls mit einbezogen werden. 

Warum macht ihr das? 

Erstens sind wir der Ansicht, dass das US-Militär unbedingt starke KI-Modelle benötigt, um seinen Auftrag zu erfüllen – insbesondere angesichts wachsender Bedrohungen durch potenzielle Gegner, die ihre Systeme zunehmend mit KI-Technologien ausstatten. Ursprünglich sind wir keinen Vertrag für eine klassifizierte Bereitstellung eingegangen, da wir nicht der Meinung waren, dass unsere Sicherheitsvorkehrungen und Systeme dafür bereit waren. Wir haben hart daran gearbeitet, sicherzustellen, dass eine klassifizierte Bereitstellung mit Schutzmaßnahmen stattfinden kann, um zu gewährleisten, dass keine roten Linien überschritten werden. 

Wir waren – und sind nach wie vor – nicht bereit, zentrale technische Schutzmaßnahmen zu entfernen, um die Leistung bei Arbeiten im Bereich der nationalen Sicherheit zu verbessern. Das ist nicht der richtige Ansatz, um das US-Militär zu unterstützen. 

Zweitens wollten wir auch die Situation zwischen dem DoW und den US-KI-Laboren entschärfen. Eine gute Zukunft wird eine echte und enge Zusammenarbeit zwischen der Regierung und den KI-Laboren erfordern. Im Rahmen unserer Vereinbarung hier haben wir darum gebeten, dass dieselben Bedingungen allen KI-Laboren zur Verfügung gestellt werden, und insbesondere, dass die Regierung versucht, die Angelegenheit mit Anthropic zu klären. Die derzeitige Situation ist ein sehr schlechter Start für die nächste Phase der Zusammenarbeit zwischen der Regierung und den KI-Laboren.

Warum konntet ihr eine Einigung erzielen, während Anthropic dazu nicht in der Lage war? Habt ihr den Deal abgeschlossen, den Anthropic abgelehnt hat?

Ausgehend von unserem Kenntnisstand sind wir davon überzeugt, dass unser Vertrag bessere Garantien und verantwortungsvollere Schutzmaßnahmen bietet als frühere Vereinbarungen, einschließlich des ursprünglichen Vertrags von Anthropic. Wir sind überzeugt, dass unsere roten Linien hier besser durchsetzbar sind, da die Bereitstellung auf Cloud-only (nicht am Edge) beschränkt ist, unseren Sicherheits-Stack in der von uns bevorzugten Weise funktionsfähig hält und sicherheitsüberprüftes OpenAI-Personal eingebunden bleibt.

Wir wissen nicht, warum Anthropic diese Vereinbarung nicht erreichen konnte, und hoffen, dass sie und weitere Labore dies in Betracht ziehen werden.

Seid ihr der Ansicht, dass Anthropic als „Lieferkettenrisiko“ eingestuft werden sollte?

Nein, und wir haben der Regierung unsere diesbezügliche Position klar gemacht.

Wird dieser Vertrag es dem Kriegsministerium ermöglichen, OpenAI-Modelle für autonome Waffen zu nutzen? 

Nein. Basierend auf unserem Sicherheits-Stack, unserer reinen Cloud-Bereitstellung, den Vertragsbedingungen sowie bestehenden Gesetzen, Vorschriften und Richtlinien sind wir zuversichtlich, dass dies nicht passieren kann. Zur zusätzlichen Sicherheit werden außerdem Mitarbeiter von OpenAI in den Nutzungsprozess eingebunden sein.  

Wird diese Vereinbarung es dem Kriegsministerium ermöglichen, OpenAI-Modelle zur Massenüberwachung von US-Personen einzusetzen?

Nein. Aufgrund unserer Sicherheitsvorkehrungen, der Vertragsformulierungen und der geltenden Gesetze, die das DoW bei der Überwachung im Inland stark einschränken, sind wir zuversichtlich, dass dies nicht passieren kann. Zur zusätzlichen Sicherheit werden außerdem Mitarbeiter von OpenAI in den Nutzungsprozess eingebunden sein.  

Müsst ihr Modelle ohne einen Sicherheits-Stack bereitstellen?

Nein, wir behalten die volle Kontrolle über den Sicherheits-Stack, den wir bereitstellen, und werden nicht ohne Sicherheitsmaßnahmen bereitstellen. Außerdem werden unsere Sicherheits- und Alignment-Forschenden eingebunden sein und dazu beitragen, die Systeme im Laufe der Zeit zu verbessern. Wir wissen, dass andere KI-Labore die Schutzmaßnahmen ihrer Modelle reduziert und sich auf Nutzungsrichtlinien als primäre Sicherheitsvorkehrung verlassen haben, aber wir sind der Meinung, dass unser mehrschichtiger Ansatz besser vor inakzeptabler Nutzung schützt.

Was passiert, wenn die Regierung gegen die Vertragsbedingungen verstößt?

Wie bei jedem Vertrag könnten wir ihn kündigen, wenn die Gegenpartei gegen die Bedingungen verstößt. Wir gehen nicht davon aus, dass dies geschehen wird.

Was ist, wenn die Regierung einfach das Gesetz oder bestehende DoW-Richtlinien ändert?

Unser Vertrag verweist ausdrücklich auf die Gesetze und Richtlinien zu Überwachung und autonomen Waffen in ihrer heutigen Fassung, sodass selbst dann, wenn sich diese Gesetze oder Richtlinien in Zukunft ändern, die Nutzung unserer Systeme weiterhin mit den im Vertrag festgehaltenen aktuellen Standards übereinstimmen muss. 

Wie begegnet ihr den Argumenten, die Anthropic in seinem Blogbeitrag⁠(wird in einem neuen Fenster geöffnet) zu den Gesprächen mit dem DoW vorgebracht hat?

In seinem Beitrag nennt Anthropic zwei seiner roten Linien (wir haben dieselben zwei roten Linien, plus eine dritte: automatisierte Entscheidungsfindung in Hochrisikobereichen) sowie Gründe, warum das Unternehmen nicht der Ansicht ist, dass diese roten Linien in den Verträgen, die es zu diesem Zeitpunkt vom DoW gesehen hatte, eingehalten würden. Im Folgenden erläutern wir, warum wir glauben, dass ebendiese roten Linien in unserem Vertrag eingehalten würden:

• Massenüberwachung im Inland. In unserer Interaktion wurde deutlich, dass das DoW Massenüberwachung im Inland als rechtswidrig ansieht und nicht beabsichtigte, sie zu diesem Zweck einzusetzen. Wir haben sichergestellt, dass in unserem Vertrag klar und deutlich festgehalten wurde, dass dies nicht unter die rechtmäßige Nutzung fällt.
• Vollständig autonome Waffen. Die in unserem Vertrag abgedeckte Cloud-Bereitstellungsfläche würde es nicht erlauben, vollständig autonome Waffen zu betreiben, da dies eine Edge-Bereitstellung erfordern würde. 

Zusätzlich zu diesen Schutzmaßnahmen bietet unser Vertrag zusätzliche, mehrstufige Sicherheitsvorkehrungen, einschließlich unseres Sicherheits-Stacks und der Einbindung technischer Expert:innen von OpenAI.