Das Zeitfenster für KI-Richtlinien ist offen. Wir müssen handeln.

Bei den Fähigkeiten von KI hat ein neues Kapitel begonnen. Das verlangt auch ein neues Kapitel in der KI-Politik. Kein Unternehmen, keine Branche und keine Regierung kann diese Herausforderung allein bewältigen. Wir müssen diesem Moment mit einem klaren Fokus auf sinnvolles Handeln statt auf politische Perfektion begegnen.

Das tun wir:

1. Einsatz für verbindliche nationale Sicherheitsanforderungen für KI. Wir möchten mit dem Kongress an verbindlichen, fähigkeitsabhängigen nationalen Sicherheitsvorschriften für KI arbeiten.

2. Das Momentum in den Bundesstaaten aufrechterhalten. Bis der Kongress handelt, werden wir weiterhin Gesetze auf Ebene der Bundesstaaten unterstützen, die das umfassendere KI-Sicherheitsökosystem stärken. Heute kündigen wir unsere Unterstützung für vier kalifornische Gesetzesvorlagen an: SB 813 zur allgemeinen Infrastruktur für unabhängige Sicherheitsbewertungen, AB 1405 zu Standards für KI-Prüfstellen, SB 1119 zum Schutz junger Menschen und AB 1864 zu Schutzmaßnahmen gegen KI-gestützte biologische Bedrohungen.

3. Branchengeführte Standards vorantreiben. Wir werden mit anderen Frontier-Laboren zusammenarbeiten, um Standards für Frontier-KI voranzubringen und jetzt eine freiwillige Initiative aufzubauen – mit oder ohne Unterstützung der Regierung.

4. Globale Standards entwickeln. Wir werden uns für kompatible internationale Ansätze einsetzen, um Fähigkeiten zu messen, Risiken zu bewältigen, menschliche Kontrolle zu bewahren und festzulegen, wann und wie die Entwicklung verlangsamt oder gestoppt werden sollte – selbst wenn das bedeutet, den Fortschritt bei den Fähigkeiten von Modellen zu verlangsamen.

Unser Chief Scientist Jakub Pachocki schrieb⁠ kürzlich, der rasante Aufstieg maschineller Intelligenz, einschließlich des Potenzials rekursiver Selbstverbesserung, verlange „äußerste Vorsicht“. OpenAI wird weiter an technischen Lösungen für Alignment und Überwachung arbeiten, defensive Systeme entwickeln und die Entwicklung bei Bedarf verlangsamen. Doch die technische Arbeit einzelner Labore wird nicht ausreichen. Wir brauchen auch gemeinsame Standards, unter anderem dafür, wann die Entwicklung verlangsamt oder gestoppt werden sollte.

Es steht enorm viel auf dem Spiel. Fortschrittliche KI könnte die Entwicklung neuer Medikamente⁠ beschleunigen, kritische Infrastruktur⁠ stärken, wirtschaftliche Chancen⁠ erweitern und zur Lösung wissenschaftlicher Probleme⁠ beitragen, die sich seit Generationen menschlichen Bemühungen entziehen. Doch die Fähigkeiten, die Modelle nützlicher machen, bergen auch Risiken. Und sie werden nicht auf wenige Frontier-Labore beschränkt bleiben. Weltweit entwickelte Modelle, darunter offene Modelle, werden zunehmend an die heutige Frontier-Spitze heranreichen und allgemein verfügbar werden.

Astras Fähigkeiten, die ersten Hinweise auf KI-gestützte Forschungsbeschleunigung und Jakubs Essay weisen alle in dieselbe Richtung: KI entwickelt sich schnell weiter, und die Politik muss damit Schritt halten.

Greg Brockman hat ein „Zeitfenster für Verteidiger:innen“ beschrieben⁠(wird in einem neuen Fenster geöffnet): einen begrenzten Zeitraum, in dem Frontier-KI Verteidiger:innen helfen kann, kritische Systeme zu stärken, bevor leistungsfähige offensive Möglichkeiten weite Verbreitung finden. Die Politik steht vor einer ähnlichen Situation: Das Zeitfenster, um dauerhafte Schutzmaßnahmen einzuführen, bevor die KI-Fähigkeiten die für ihre Regulierung zuständigen Institutionen überholen, schließt sich.

Mit zunehmenden Fähigkeiten muss das Vertrauen in die Sicherheit immer stärker das Tempo des KI-Fortschritts bestimmen. Sicherheit steht dem Fortschritt nicht im Weg; sie ermöglicht, dass der Fortschritt weiter reicht und mehr Menschen zugutekommt.

Wir haben die Überwachung, das Alignment und Sicherheitsvorkehrungen über den gesamten Lebenszyklus der Modellentwicklung hinweg verstärkt. Dazu gehören eine stärkere Isolation von Arbeitslasten der Frontier-Forschung, eine erweiterte Überwachung des Modellverhaltens bei toolgestütztem Training und Evaluierungen sowie klarere Regeln dafür, wann Bedenken eskaliert werden sollen. Für Astra haben wir außerdem eine umfassende Überwachung vollständiger Verläufe, einschließlich Gedankenketten, sowie eine obligatorische Alignment-Evaluierung als Freigabeschritt vor einer breiteren internen Bereitstellung eingeführt.

Diese Schutzmaßnahmen müssen den Fähigkeiten weiterhin voraus sein. Wenn ein Vorgehen ein inakzeptables Sicherheitsrisiko darstellen würde, werden wir die Entwicklung oder Bereitstellung von Systemen, die wir nicht ausreichend absichern können, verlangsamen oder stoppen – wie wir es bereits getan haben und wie es unser Preparedness Framework⁠(wird in einem neuen Fenster geöffnet) vorschreibt.

Vollständig autonome rekursive Selbstverbesserung – bei der KI-Systeme selbst aufeinanderfolgende Generationen immer leistungsfähigerer KI hervorbringen – findet heute nicht statt. Wir sollten sie erst verfolgen, wenn sie sicher möglich ist.

KI beschleunigt jedoch bereits Teile der Forschung, die zur Entwicklung und zum Alignment der nächsten Modellgeneration eingesetzt wird. Unsere neueste Forschung⁠ zeigt, dass KI-Agenten einige Aufgaben erledigen können, für die erfahrene Forschende mehrere Tage benötigen würden. Das ist keine rekursive Selbstverbesserung, aber ein Hinweis auf die Richtung, in die sich die Entwicklung bewegt.

Diese Beschleunigung kann und muss auch auf Sicherheit ausgerichtet werden. Unser Ziel ist es, automatisierte KI-Forschungssysteme sicher zu entwickeln, die unter menschlicher Aufsicht arbeiten, um sowohl Deep Learning als auch Alignment voranzubringen – wobei jede KI-Generation dazu beiträgt, die nächste sicherer, besser ausgerichtet und leichter kontrollierbar zu machen, nicht einfach nur leistungsfähiger.

Regierungen sollten gemeinsame Methoden entwickeln, um diesen Fortschritt zu messen, wirksame menschliche Kontrolle zu bewahren und gemeinsame Sicherheitsstandards dafür festzulegen, wann und wie die Entwicklung verlangsamt oder gestoppt werden sollte. Wenn wir bestimmte Sicherheitsschwellen nicht erreichen können, ohne die Zunahme der Fähigkeiten zu verlangsamen, sollten wir Ersteres priorisieren. Je leistungsfähiger die Technologie wird, desto stärker müssen die sie umgebenden Schutzmaßnahmen werden.

Die Aussicht auf durch KI beschleunigte KI-Entwicklung erfordert mehr als freiwillige Verpflichtungen. Die Vereinigten Staaten brauchen verbindliche, fähigkeitsbasierte nationale Regulierung, die sich ebenso weiterentwickeln kann wie die Technologie.

Unser Konzept für demokratische Governance von Frontier-KI⁠ zeigt den Weg zu einem dauerhaften Bundesrahmen: gemeinsame Prüfungen und Anforderungen an unabhängige Bewertungen, stärkere Cybersicherheitsmaßnahmen, klare Regeln zur Meldung von Vorfällen, bessere nationale Vorsorge und gemeinsame Maßstäbe, um Fortschritte auf dem Weg zur rekursiven Selbstverbesserung zu verfolgen.

Im Kongress entstehen jetzt mehrere ernsthafte Vorschläge zur Frontier-Sicherheit. Wir bringen uns weiter konstruktiv ein und wollen Gesetze unterstützen, die das Sicherheitsniveau deutlich erhöhen. Wenn so viel auf dem Spiel steht, darf das Streben nach Perfektion nicht dem Guten im Weg stehen. Der Kongress sollte noch vor Sitzungsende handeln.

Ein nationaler Rahmen sollte stark, aber genau zielgerichtet sein. Frontier-Sicherheitsanforderungen sollten für die wenigen gut ausgestatteten Labore gelten, die die leistungsfähigsten Systeme entwickeln – nicht für Start-ups, kleine Entwicklungsteams oder Forschende, die nicht annähernd an der Frontier arbeiten. Die Pflichten sollten den Fähigkeiten und Risiken angemessen sein.

Frontier-Sicherheit darf auch nicht zur Politik für offene Modellgewichte unter anderem Namen werden. Offene Modelle können Teil der Lösung sein, insbesondere bei der Cybersicherheit und wenn Anforderungen an Souveränität, Sicherheit oder Datenresidenz einen lokalen Einsatz begünstigen. Die meisten konkurrieren nicht an der Frontier, sondern bei Kosten, Kontrolle und Latenz. Wie wir mit der Unterzeichnung des Schreibens Open Weights and American KI Leadership⁠(wird in einem neuen Fenster geöffnet) bekräftigten, braucht Amerika offene und geschlossene Modelle. Ein bundesweiter Rahmen sollte sich mit Frontier-Fähigkeiten und -Risiken befassen, ohne den Wettbewerb zu schwächen, etablierte Akteure zu verfestigen oder Innovation ins Ausland zu treiben.

Ein ernstzunehmender öffentlicher Rahmen sollte die Machtkonzentration verringern, nicht erhöhen. Heute legen Frontier-Labore ihre Regeln für den Umgang mit Frontier-Risiken weitgehend selbst fest. Demokratisch verantwortete Standards, unabhängige Prüfung und sinnvolle Transparenz würden dieses zersplitterte System privater Governance ersetzen.

Das ist für die Führungsrolle der USA entscheidend. Die USA können das KI-Zeitalter nicht allein mit technischer Leistung für sich entscheiden. Technischer Vorsprung nützt wenig, wenn Menschen, Institutionen und Regierungen der Technologie nicht genug vertrauen, um sie einzusetzen. Starke Schutzmaßnahmen gehen nicht zulasten von Innovation. Sie sind Teil der Infrastruktur, die für eine breite Einführung und für eine dauerhafte amerikanische Führungsrolle erforderlich ist.

Wir brauchen dringend nationale Standards für KI, und alle, die in diesem Frontier-Gebiet arbeiten, erkennen die Dringlichkeit. Bis der Kongress handelt, sollten die Bundesstaaten weiterhin aktiv werden, um das Vakuum zu füllen und die Messlatte höher zu legen.

OpenAI hat Kaliforniens SB 53, den RAISE Act des Bundesstaats New York und Illinois’ SB 315 sowie unabhängige Prüfungen in dem Gesetz zur Sicherheit von Frontier-KI unterstützt, über das Massachusetts derzeit berät. Wir ermutigen die Bundesstaaten, sich auf diese gemeinsamen Schutzmaßnahmen zu verständigen. Dabei können sie einen faktischen nationalen Mindeststandard schaffen, den der Kongress letztlich gesetzlich verankern kann – einen Ansatz, den wir ⁠umgekehrten Föderalismus⁠ nennen. Harmonisierung bedeutet jedoch nicht, Anforderungen einzufrieren.

Heute unterstützen wir offiziell vier weitere kalifornische Gesetzentwürfe, die die Legislative verabschiedet hat und die nun Gouverneur Newsom vorgelegt werden. Gemeinsam befassen sie sich mit ergänzenden Teilen des KI-Sicherheitsökosystems.

SB 813⁠(wird in einem neuen Fenster geöffnet) würde ein Verfahren zur Anerkennung qualifizierter, unabhängiger Organisationen schaffen, die KI-Risiken bewerten können. Wie wir in unserem ⁠(wird in einem neuen Fenster geöffnet)Konzept für Frontier-Sicherheit⁠(wird in einem neuen Fenster geöffnet) dargelegt haben, sollten unabhängige technische Bewertungen auf Bundesebene vorgeschrieben werden, wo politische Entscheidungsträger:innen einheitliche Standards für die Qualifikation von Prüfstellen, Sicherheit und den Zugang zu hochsensiblen Informationen festlegen können. Ohne Maßnahmen auf Bundesebene kann Kalifornien jedoch dabei helfen, die Regeln für ein sicheres, leistungsfähiges nationales System unabhängiger Bewertungen festzulegen, das bessere Sicherheitsergebnisse erzielt.

AB 1405⁠(wird in einem neuen Fenster geöffnet) würde Anforderungen an Registrierung, Unabhängigkeit, Transparenz und Rechenschaftspflicht für KI-Prüfstellen einführen.

SB 1119⁠(wird in einem neuen Fenster geöffnet) würde Altersfeststellung, Risikobewertungen, unabhängige Prüfungen, Elternaufsicht und Schutzmaßnahmen gegen schädliche Inhalte für Kinder und Jugendliche vorschreiben, die Begleit-Chatbots nutzen. Wir haben kürzlich unsere Unterstützung⁠ für diesen Gesetzentwurf signalisiert, der auf Maßnahmen zur Sicherheit junger Menschen aufbaut, die OpenAI durch unsere Produkte, ⁠globale politische Grundsätze⁠ und die Unterstützung des ⁠(wird in einem neuen Fenster geöffnet)Parents & Kids Safe KI Act⁠(wird in einem neuen Fenster geöffnet) vorangebracht hat, sowie auf Schutzmaßnahmen, die in ChatGPT für Jugendliche integriert sind – darunter strengere Standardeinstellungen in sensiblen Bereichen, Ruhezeiten, Lernzeiten und Pausenerinnerungen.

AB 1864⁠(wird in einem neuen Fenster geöffnet) würde Anbieter von Gensynthesen und Hersteller kompakter Synthesegeräte zur Einhaltung bundesweiter Screeningstandards verpflichten. Dadurch würde eine wichtige physische Schutzmaßnahme gegen KI-gestützte biologische Bedrohungen gestärkt.

Einige dieser Gesetzesvorlagen haben wir in der Vergangenheit nicht unterstützt, unterstützen sie nun aber nach erneuter Prüfung angesichts des jüngsten Sprungs bei den Fähigkeiten, den wir beobachtet haben.

Diese Gesetzesentwürfe sind kein Ersatz für eine Regulierung auf Bundesebene. Sie sind ernsthafte Bemühungen, die Menschen schon jetzt schützen können, zeigen können, wie praktikable Schutzvorkehrungen aussehen, und dazu beitragen, Dynamik für Maßnahmen auf Bundesebene aufzubauen.

Gesetze allein werden fortschrittliche KI nicht sicher machen. Wir brauchen auch konkrete Praktiken innerhalb der Labore, die die leistungsfähigsten Systeme entwickeln. Der dringendste Ansatzpunkt ist das Monitoring.

Dies ist besonders wichtig bei Fehlausrichtung – wenn ein Modell ein Ziel auf eine Weise verfolgt, die gegen menschliche Absichten oder festgelegte Grenzen verstößt, ohne dass dafür Bewusstsein oder böse Absicht erforderlich sind. Wenn Modelle autonomer werden, leistungsfähigere Tools nutzen und über längere Zeiträume arbeiten, sollten Entwicklungsteams verpflichtet sein, auf diese fehlgeleiteten Verhaltensweisen zu achten und nachzuweisen, dass wirksame Schutzmaßnahmen vorhanden sind.

Die Überwachung muss mit klaren Offenlegungspflichten verbunden sein. Wie wir in Kalifornien gefordert haben, sollten Unternehmen verpflichtet werden, betroffene Parteien unverzüglich schriftlich zu benachrichtigen, wenn ihre Modelle während der Entwicklung oder Bewertung die Sicherheitskontrollen einer anderen Organisation unbefugt umgehen und dadurch in erheblichem Umfang auf deren geschützte Systeme oder vertrauliche Informationen zugreifen, sie verändern oder zerstören. Wir unterstützen außerdem bundesweite Meldepflichten für andere schwerwiegende KI-Vorfälle und arbeiten daran, festzulegen, welche Vorfälle erfasst werden sollen und was diese Anforderungen beinhalten sollten.

Wie vergangene Woche mitgeteilt, entwickelt OpenAI einen Rahmen zur Meldung folgenreicher Fälle von Misalignment und zur systematischen Überwachung von Aktivitäten von Frontier-Modellen, einschließlich interner Nutzung. Die Initiative beginnt als unternehmensgeführte Initiative, soll aber, wie wir hoffen, als Grundlage für umfassendere politische Vorgaben und Meldepflichten auf Bundesebene dienen.

Wir möchten mit anderen Laboren an von der Branche entwickelten Standards arbeiten. Solche Standards würden verpflichtende Schutzmaßnahmen auf Bundesebene und demokratische Aufsicht ergänzen – nicht ersetzen. Doch wir haben eine andere Phase der KI-Fähigkeiten erreicht, und alle Optionen sollten auf dem Tisch liegen – einschließlich der Prüfung dessen, was als unmittelbarer Schritt freiwillig außerhalb staatlicher Stellen entwickelt werden kann.

Solche Standards müssen letztlich auch über nationale Grenzen hinausreichen. Modelle, Forschung und Fachwissen verbreiten sich weltweit. Fehler im Zusammenhang mit den leistungsfähigsten Systemen könnten weit über das Land hinauswirken, in dem sie entwickelt werden. Die Vereinigten Staaten müssen im Inland glaubwürdige Standards etablieren, wenn sie international führend sein wollen – und wir sind zunehmend überzeugt, dass kompatible internationale Standards notwendig sein werden.

Das Zeitfenster für die KI-Richtlinien ist vorerst offen. Wir wollen es nutzen.

Das heißt: dringend, besonnen und anpassungsbereit handeln. Es heißt, ernsthafte Vorschläge für deutlich mehr Sicherheit zu unterstützen, auch wenn wir sie anders gestaltet hätten. Und es heißt, den Rahmen mit der sich weiterentwickelnden Technologie stärken.

Kein erster Schritt ist perfekt. Doch das größere Risiko ist jetzt, zu lange damit zu warten.