Standards für die nächste Phase der KI entwickeln

Unsere Mission ist es, dafür zu sorgen, dass künstliche allgemeine Intelligenz der gesamten Menschheit zugutekommt. Wie kürzlich von Sam Altman dargelegt und von Jakub Pachocki beschrieben, richten wir unsere Arbeit an dieser Mission und drei Hauptzielen aus:

1. Die nächste Phase des KI-Fortschritts bewältigen, indem wir ein automatisiertes KI-Forschungssystem entwickeln, mit ihm schrittweise am Alignment-Problem arbeiten und Wege finden, wie Menschen Teil der Selbstverbesserungsschleife bleiben können.

2. Die Vorteile des wissenschaftlichen Fortschritts und des Wirtschaftswachstums zugänglich machen, die hochintelligente Maschinen ermöglichen.

3. Jeden Menschen durch eine persönliche AGI stärken.

KI beschleunigt unsere eigene Forschung und Entwicklung. KI-gestützte Forschung hat zu Fortschritten in der Mathematik geführt, unter anderem beim Navier-Stokes-Millennium-Problem. Dieser Fortschritt ist auch für unsere beiden anderen Ziele sehr vielversprechend. Er könnte zu wichtigen Entdeckungen in der Medizin, zu breit zugänglicher Gesundheitsversorgung und zur wirtschaftlichen Stärkung von kleinen Unternehmen und selbstständigen Unternehmerinnen und Unternehmern weltweit beitragen.

KI entwickelt sich in vielen Unternehmen und Ländern weiter. Der Fortschritt im gesamten Feld verändert die Chancen und Herausforderungen für alle. Neben ihren anderen Vorteilen wird leistungsfähige, ausgerichtete KI wesentlich dazu beitragen, diesen Übergang zu bewältigen: Sie kann die Abwehr stärken, die Alignment-Forschung voranbringen und Menschen helfen, die nächsten Phasen der KI-Entwicklung zu verstehen und mitzugestalten.

Um diesen Übergang sicher zu bewältigen, muss die Alignment-Forschung mit diesen Fähigkeiten Schritt halten. Nur so bleiben die von uns und anderen entwickelten Systeme an menschlichen Werten ausgerichtet und unter menschlicher Kontrolle. Das wird immer wichtiger, je leistungsfähiger und autonomer KI-Systeme werden und je mehr Aufgaben sie bei der Erforschung und Entwicklung von KI selbst übernehmen. Damit weitere KI-Fortschritte sicher und nützlich sind, braucht es sowohl Fortschritte in der Alignment-Forschung als auch gemeinsame Standards, die die Entwicklung in Laboren und Ländern leiten.

Automatisierte KI-Forschung kann in unterschiedlichem Maß von Menschen beaufsichtigt werden. Wenn KI-Systeme zunehmend an der Entwicklung nachfolgender KI-Generationen mitarbeiten, können sie immer stärker einen Prozess rekursiver Selbstverbesserung (RSI) vorantreiben, auch wenn Menschen weiterhin beteiligt bleiben. Mit zunehmender Automatisierung dieses Prozesses könnte sich der KI-Fortschritt rasch beschleunigen.

Wir sind überzeugt, dass automatisierte KI-Forschung Modelle hervorbringen wird, die das Leben der Menschen unmittelbar verbessern. Sie kann die Kosten fortschrittlicher Intelligenz senken, sodass Menschen weltweit davon profitieren können. Automatisierte Forschung könnte uns außerdem helfen, das Alignment erheblich zu verbessern und Abwehrmaßnahmen gegen immer leistungsfähigere KI zu entwickeln. Ein automatisiertes KI-Forschungssystem kann zugleich ein automatisiertes Forschungssystem für KI-Sicherheit sein. Leistungsfähigere, ausgerichtete Systeme könnten helfen, kritische Infrastruktur zu sichern, gefährliche KI-Agenten abzuwehren und neue Schutzmaßnahmen zu entwickeln.

Vollständig autonome RSI findet heute nicht statt. Wir sollten sie nur verfolgen, wenn und sobald sie sicher umgesetzt werden kann. Ob und wie wir damit fortfahren, muss davon abhängen, ob wir menschliche Kontrolle bewahren können, sowie von informierten demokratischen Entscheidungen⁠(wird in einem neuen Fenster geöffnet) über Nutzen und Risiken. Ohne angemessene Sorgfalt und Vorsicht könnte RSI dazu führen, dass Menschen die praktische Kontrolle über die KI-Entwicklung verlieren und Forschungsprozesse nicht mehr beaufsichtigen können, weil sie diese nicht mehr verstehen. In der Folge könnte KI gefährlicher, weniger gut ausgerichtet und insgesamt zu einer Gefahr für Menschen werden. Der von uns offengelegte Hugging Face Incident war zwar keine direkte Folge von RSI, vermittelt aber einen Eindruck davon, wie viel schwerwiegender solche Risiken ohne robuste Schutzvorkehrungen und gutes Alignment werden könnten.

Internationale Standards für Schutz- und Sicherheitspraktiken bei der Entwicklung von Frontier-KI könnten für die Steuerung des Entwicklungstempos ebenso wichtig sein wie die Alignment-Forschung selbst. Standards können gemeinsame Definitionen für hochwertige Nachweise und vereinbarte Mindestanforderungen an die Sorgfalt technischer Schutzvorkehrungen schaffen. Kurz gesagt helfen sie uns, die Frage zu beantworten: „Was zeichnet eine gute Eindämmung katastrophaler KI-Risiken aus?“

Bestehende demokratische Institutionen wie das Center for AI Standards and Innovation (CAISI), Gesetze der Bundesstaaten und ein bundesweiter Rahmen für KI können dazu ebenso beitragen wie neue Formen öffentlich-privater Partnerschaften⁠(wird in einem neuen Fenster geöffnet). KI wird jedoch in mehreren Ländern entwickelt und eingesetzt, weltweit eingeführt und dürfte sich früher oder später in irgendeiner Weise auf alle Menschen auswirken.

Daher sind internationale Initiativen zur Entwicklung von Standards nötig, um einige zentrale Herausforderungen zu bewältigen:

• Fragmentierung: Evaluierungen, Berichtspflichten und Definitionen von Vorfällen verschiedener Staaten könnten einander widersprechen. Das würde es erschweren, Nachweise zu vergleichen, neue Fähigkeiten zu verstehen und auf grenzüberschreitende Risiken zu reagieren.

• Gemeinsames Handeln: Wenn jeder Staat unabhängig handelt, können Ergebnisse entstehen, die kein Staat will. RSI kann die KI-Forschung selbst beschleunigen, möglicherweise über unsere gemeinsame Fähigkeit hinaus, den Fortschritt zu verstehen, Risiken zu bewerten und eine wirksame menschliche Aufsicht zu gewährleisten.

• Ungleich verteilte Kapazitäten: Frontier-Entwicklung und das dazugehörige Fachwissen sind weltweit nicht gleichmäßig verteilt. Das verschärft beide zuvor genannten Probleme.

Diese Herausforderungen betreffen sowohl offene als auch geschlossene Modelle.

Klar ist: Jedes KI-Labor, das automatisierte KI-Forschung oder andere fortschrittliche Fähigkeiten verfolgt, muss Verantwortung dafür übernehmen, dies sicher und im Einklang mit grundlegenden Prinzipien der Eigenverantwortung und geltendem Recht zu tun. Unser Eintreten für Standards beruht auf dem Ziel, Machtkonzentration zu vermeiden und in der Praxis bessere Ergebnisse zu erzielen. Standards ermöglichen es mehr Interessengruppen außerhalb der Labore, bei der Entwicklung dieser Technologie mitzureden. Zudem schaffen sie transparente Grundsätze, auf die unabhängig von den konkreten Praktiken eines einzelnen Labors Verlass ist. Wahrscheinlich erzielen wir bessere Ergebnisse, wenn die Beteiligten bei der Bewältigung der genannten Herausforderungen zusammenarbeiten.

Deshalb sind wir überzeugt, dass die Vereinigten Staaten eine internationale Initiative zur Entwicklung globaler technischer Standards für Frontier-KI einschließlich RSI anführen sollten.

Wir erwarten, dass sich dieses Konzept im Laufe der Zeit erheblich weiterentwickelt. Zwei Aspekte werden jedoch unverzichtbar sein.

Eine Möglichkeit wäre, das entstehende Netzwerk von Instituten für KI-Sicherheit zu nutzen, etwa die bereits in Australien, Kanada, Deutschland, Frankreich, Kenia, Japan, Korea, Singapur, Indien und dem Vereinigten Königreich eingerichteten Institute. Über CAISI und nationale Branchenverbände könnten sie die Entwicklung von Standards fördern, mit besonderem Schwerpunkt auf (1) Frontier-KI-Modellen und deren Entwicklern, gemessen an Fähigkeitsbenchmarks, sowie (2) dem Nutzen-Risiko-Management für automatisierte KI-Forschung einschließlich RSI. Die Vereinigten Staaten können auf der Gründung des International Network for Advanced AI Measurement, Evaluation, and Science⁠(wird in einem neuen Fenster geöffnet) durch CAISI im Jahr 2024 aufbauen. Das Netzwerk bringt öffentliche Institutionen zusammen, damit sie bei Messung, Evaluierung und wissenschaftlicher Erforschung von KI kooperieren.

Die im Rahmen dieser Initiative entwickelten Standards würden eine gemeinsame technische Grundlage für die Messung und Evaluierung von Fähigkeiten, die Risikobewertung und die Beurteilung der Angemessenheit von Schutzvorkehrungen schaffen. Diese technischen Standards wären weder Lizenzen noch verpflichtende Prüfungen vor der Veröffentlichung oder Zulassungsanforderungen für KI-Modelle. Die nationalen Regierungen würden entscheiden, ob und wie sie diese Standards in ihre eigenen Rechtssysteme übernehmen.

Diese Arbeit sollte außerdem ein wettbewerbsfähiges KI-Ökosystem fördern, indem Entwickler offener und geschlossener Modelle, unabhängige technische Fachleute und die Wissenschaft einbezogen werden. Gemeinsame Standards sollten transparent entwickelt und so gestaltet werden, dass sie weder einzelne Unternehmen, Länder oder Geschäftsmodelle begünstigen noch neuen Marktteilnehmern oder Entwicklern von Modellen mit offenen Gewichten den Wettbewerb erschweren.

Wie von uns vorgeschlagen⁠(wird in einem neuen Fenster geöffnet), kann dieser Ansatz Erkenntnisse aus Bereichen wie Luftfahrt und Finanzstabilität nutzen. Dort haben Länder gemeinsame technische Standards und vertrauenswürdige Kanäle für die Zusammenarbeit entwickelt, ohne nationale Befugnisse aufzugeben. Zudem sollte die Initiative eng mit etablierten und neueren Normungsorganisationen wie ISO⁠(wird in einem neuen Fenster geöffnet), dem Frontier Model Forum⁠(wird in einem neuen Fenster geöffnet), der Agentic AI Foundation⁠(wird in einem neuen Fenster geöffnet) und der Open Secure AI Alliance⁠(wird in einem neuen Fenster geöffnet) sowie mit umsetzungsorientierten Organisationen zusammenarbeiten. Dazu gehört etwa die Appia Foundation, die praktische Spezifikationen entwickelt, um internationale Standards mit realen KI-Bewertungen zu verbinden.

Internationale KI-Standards werden besonders wichtig sein, um mit der zunehmenden Autonomie in der KI-Forschung und der rekursiven Selbstverbesserung umzugehen. Konkret könnten dazu Standards für folgende Bereiche gehören:

• Evaluierung von KI-Fortschritten, die für RSI relevant sind, und des Umfangs autonomer Forschung innerhalb eines KI-Unternehmens. Unser aktueller Bericht zur Beschleunigung der Forschung ist ein erster Beitrag zu dieser Initiative.

• Menschliche Aufsicht über automatisierte KI-Forschung, einschließlich der Frage, welche Arten automatisierter KI-Forschungsprozesse eine sofortige Prüfung durch Menschen auslösen sollten.

• Klassifizierung, Erfassung und Meldung von Vorfällen sowie Reaktion auf Probleme beim Alignment und bei automatisierter KI-Forschung, etwa durch gemeinsame Schweregrade und Meldeschwellen für Vorfälle. Unser Rahmenwerk zur Meldung von Fehlanpassungen ist ein erster Beitrag.

Zusätzlich zu diesen Standards sollten Betreiber kritischer Infrastrukturen und Regierungen weltweit sichere Kommunikationskanäle einrichten. Darüber könnten sie Bedenken zur nationalen Sicherheit, neue Schwachstellen und Bedrohungen sowie bewährte Verfahren im sich rasch entwickelnden Bereich der Sicherheit von Frontier-KI austauschen. Ein Dialog zwischen den Vereinigten Staaten und China in diesen Bereichen wäre ein positiver Schritt. Die bevorstehenden Gespräche finden zu einem günstigen Zeitpunkt statt.

Das Tempo der KI-Entwicklung zu steuern bedeutet nicht, eine vorab festgelegte Geschwindigkeit beizubehalten. Technisch geht es darum, sicherzustellen, dass die Alignment-Forschung und die praktische Umsetzung ihrer Ergebnisse der Entwicklung neuer Fähigkeiten voraus bleiben. Gesellschaftlich geht es darum, mithilfe von Standards, Institutionen und Zusammenarbeit Netzwerke aus Wirtschaft, gesellschaftlichen Beziehungen und Marktkräften zu stärken und so Ergebnisse zu erzielen, von denen alle Seiten profitieren. Der jüngste Aufruf zu gemeinsamem Handeln bei der Cyberabwehr ist ein Beispiel dafür.

Die Vereinigten Staaten sind gut aufgestellt, um eine Führungsrolle zu übernehmen: Ihre KI-Branche ist technologisch führend, und in wichtigen Bereichen wie Finanzen, Handel, Verteidigung, Technologie und Informationssystemen nehmen sie weiterhin eine privilegierte Position in globalen Netzwerken ein. Wenn die Vereinigten Staaten jetzt die Führung übernehmen, entscheidet sich, ob sie den globalen Rahmen für KI gestalten oder zusehen, wie sich um sie herum ein fragmentiertes, unausgewogenes und konfliktbeladenes System etabliert. Davon hängt auch ab, ob fortschrittliche KI die bestehenden Netzwerke der Vereinigten Staaten und ihrer Verbündeten stärkt. Bleibt die Führung aus, könnten diese Netzwerke geschwächt werden.

Im geopolitischen Wettbewerb wird es nicht nur darum gehen, wer technisch führend ist, sondern auch um die Einführung und Verbreitung von KI. Dabei dürfte zunehmend entscheidend sein, wer realistische Zusammenarbeit und vernünftige Spielregeln voranbringt, die Unternehmen und Gesellschaften weltweit erwarten, wenn sie ihre Zukunft auf diese Technologie setzen sollen.

Eine starke nationale Governance, die durch praktische internationale Zusammenarbeit vernetzt ist, eröffnet einen Weg zu besseren Schutzvorkehrungen, anhaltender Innovation und breitem Zugang zu den Vorteilen der KI.