Gemeinsame Standards für fortgeschrittene KI mitgestalten
Immer leistungsfähigere Modelle können die Cyberabwehr stärken, wissenschaftliche Entdeckungen beschleunigen und den Zugang zu Fachwissen erweitern. Sie können aber auch Sicherheitsrisiken schaffen, wenn ihre Fähigkeiten falsch eingeschätzt werden, ihre Schutzmaßnahmen nicht ausreichen oder Regierungen nicht über die Informationen verfügen, die sie für eine Reaktion brauchen. Damit Gesellschaften die Vorteile sicher und mit Vertrauen nutzen können, brauchen sie Institutionen mit der technischen und Governance-Kompetenz, immer leistungsfähigere Systeme zu bewerten, abzusichern und zu steuern.
Das ist ein Grund, warum OpenAI die von der Linux Foundation getragene Appia Foundation(wird in einem neuen Fenster geöffnet) mitgegründet hat. Appia wird offene, modulare Spezifikationen entwickeln, die internationale Standards und etablierte Frameworks in praktische Bewertungskriterien entlang der KI-Wertschöpfungskette übertragen sollen. Diese Arbeit kann dazu beitragen, eine wichtige fehlende Vertrauensebene zu schaffen: Dritte prüfen die Konformität mit Standards und erzeugen klarere, besser wiederverwendbare Nachweise, wenn Modelle, Infrastruktur und Anwendungen von verschiedenen Organisationen entwickelt werden. Damit hilft Appia, eine gemeinsame technische Sprache zu schaffen, mit der nationale und internationale Institutionen der Arbeit anderer Institutionen vertrauen können.
Wir sehen diese Initiative als wichtigen nächsten Schritt im Rahmen umfassenderer Maßnahmen, die die für fortgeschrittene KI-Systeme nötigen Institutionen, Standards und Bewertungspraktiken stärken sollen.
Unser jüngstes Konzept für demokratische Governance von Frontier-KI zeigt einen Fahrplan für diese Arbeit. Er fordert einen tragfähigen US-Rahmen, ein gestärktes Center for AI Standards and Innovation (CAISI) und eine breitere Resilienzstrategie für die gesamte Regierung. Er erkennt zudem an, dass Frontier-Risiken internationale Tragweite haben. Staaten sollten gemeinsam kompatible Sicherheitsrahmen, vertrauenswürdige Kanäle für den Austausch von Risikoerkenntnissen und koordinierte Reaktionen auf Vorfälle entwickeln.
Nationale Handlungsfähigkeit und internationale Zusammenarbeit sollten sich gegenseitig stärken. Starke Institutionen wie CAISI können technisches Fachwissen aufbauen, Systeme an der Fähigkeitsgrenze bewerten und ein unabhängiges Bewertungsökosystem unterstützen. Ein Netzwerk leistungsfähiger nationaler Institutionen kann dann gemeinsame Methoden etablieren, vertrauenswürdige Nachweise anerkennen und Regierungen das gemeinsame technische Verständnis geben, das sie für gemeinsames Handeln brauchen.
Standards sind für diese Arbeit zentral und müssen auf glaubwürdiger Bewertungspraxis und technischer Sorgfalt beruhen. In unserem gemeinsamen Leitfaden für vertrauenswürdige Evaluierungen durch Dritte beschreiben wir, was Bewertungen von Systemen an der Fähigkeitsgrenze zunehmend offenlegen müssen: das getestete System, seinen Tool-Zugriff und seine Bewertungsumgebung, die Methoden zur Ermittlung von Fähigkeiten, die verfügbaren Ressourcen und die Prüfungen zur Validierung der Ergebnisse. Wir haben diese Prinzipien auch durch Testpartnerschaften mit US CAISI und UK AISI in die Praxis umgesetzt. Deren Arbeit zu Bewertungen von Fähigkeiten an der Grenze des Möglichen und zu Schutzmaßnahmen gegen biologischen Missbrauch führte zu konkreten Verbesserungen unserer Systeme. Diese Arbeit erfüllt eine wichtige Aufgabe: Sie schafft die Grundlage für Praktiken, die standardisiert werden können, um Leistung vergleichbar zu prüfen.
Diese Praktiken ergänzen die umfassendere Sicherheitsinfrastruktur von OpenAI. Unser Preparedness Framework bildet die Grundlage dafür, wie wir unseren Ansatz zum Umgang mit den schwerwiegendsten Risiken fortgeschrittener KI-Systeme definieren und in die Praxis umsetzen, einschließlich unserer internen Praktiken. Unser Frontier Governance Framework überführt relevante Teile dieses Ansatzes in ein öffentliches Governance-Dokument mit Fokus auf konkrete regulatorische Pflichten, darunter Risikobewertung, Berichterstattung zu Modellen, Sicherheitskontrollen, Reaktion auf Vorfälle und die Einbindung externer Fachleute. Zusammen helfen diese Dokumente, allgemeine Zusagen in betriebliche Praktiken zu übertragen, die überprüft und verbessert werden können.
Appias Arbeit zielt auf die nächste Herausforderung: diese Praktiken über Organisationen, Rechtsräume und die Lieferkette hinweg interoperabel zu machen.
OpenAI bringt sich bereits in ein breiteres Ökosystem von Standards und Vorstandardisierungsinitiativen ein. Wir beteiligen uns am Gemeinsamen Technischen Komitee 1, Unterkomitee 42 für künstliche Intelligenz, der Internationalen Organisation für Normung und der Internationalen Elektrotechnischen Kommission(wird in einem neuen Fenster geöffnet) und am vom National Institute of Standards and Technology geleiteten Artificial Intelligence Consortium(wird in einem neuen Fenster geöffnet); haben das Frontier Model Forum und die Agentic Artificial Intelligence Foundation(wird in einem neuen Fenster geöffnet) der Linux Foundation mitgegründet; beteiligen uns an der Coalition for Secure Artificial Intelligence(wird in einem neuen Fenster geöffnet); arbeiten im Lenkungsausschuss der Coalition for Content Provenance and Authenticity(wird in einem neuen Fenster geöffnet) mit; und engagieren uns in Prozessen der Internet Engineering Task Force(wird in einem neuen Fenster geöffnet) und der Fast Identity Online Alliance(wird in einem neuen Fenster geöffnet), um interoperable technische Standards voranzubringen.
In all diesen Foren, nun auch über Appia, ist unser Ziel, Erkenntnisse aus der Entwicklung an der Fähigkeitsgrenze in offene, technisch fundierte Praktiken zu übertragen, die Regierungen, Unternehmen und unabhängige Prüfende über Rechtsräume hinweg nutzen können.
