Demokratische Aufsicht in der nationalen Sicherheit stärken

KI verändert, wie demokratische Regierungen ihre Bevölkerung schützen. Sie kann helfen, Cyberangriffe abzuwehren, kritische Infrastruktur zu sichern, Bedrohungen früher zu erkennen und dem öffentlichen Dienst in Krisen ein klareres Lagebild zu vermitteln. Richtig eingesetzt können diese Tools die nationale Sicherheit stärken.

Demokratische Aufsicht trägt dazu bei, dass der Einsatz staatlicher Befugnisse gegenüber den Menschen verantwortlich bleibt, denen er dienen soll. Da KI die Arbeit im Bereich der nationalen Sicherheit beschleunigt und leistungsfähiger macht, müssen auch die zuständigen Aufsichtsinstitutionen Schritt halten. KI kann in hohem Tempo und Umfang auf Grundlage fehlender oder veralteter Kontextinformationen, falsch konfigurierter Ziele oder unzutreffender Annahmen agieren. Dadurch lassen sich Fehler schwerer manuell erkennen, bevor sie sich ausbreiten. Beim Einsatz von KI für die nationale Sicherheit ist Aufsicht besonders wichtig, weil Entscheidungen unter Umständen geheim bleiben müssen und weitreichende Folgen haben können.

Geleitet von unseren Grundsätzen zur nationalen Sicherheit setzen wir KI in diesem Bereich mit Schutzvorkehrungen, maßgeblicher menschlicher Beurteilung und angemessener Aufsicht ein, insbesondere wenn viel auf dem Spiel steht. Diese Grundsätze räumen außerdem der Unterstützung von Aufsichtsinstitutionen beim Aufbau der nötigen Kapazitäten Priorität ein, damit sie den KI-Einsatz auch bei hohem Tempo und Umfang beaufsichtigen können.

Staatliche Institutionen verfügen bereits über festgelegte Befugnisse und Zuständigkeiten für die Aufsicht über Aktivitäten im Bereich der nationalen Sicherheit. Wenn KI zu diesen Aktivitäten beiträgt, muss sich die Aufsicht möglicherweise weiterentwickeln. Herkömmliche Aufsicht ist arbeitsintensiv. Sie wird nahezu unmöglich, wenn kleine Teams mit Methoden aus der Papierära Systeme prüfen sollen, die mit Maschinengeschwindigkeit arbeiten.

OpenAI ist überzeugt, dass leistungsfähigere Systeme eine stärkere Aufsicht erfordern, und wendet diesen Grundsatz auch auf sich selbst an. Gemäß unserem Preparedness Framework werden fortschrittliche Modelle vor ihrer Bereitstellung eingehend geprüft, um ihre Fähigkeiten zu verstehen und festzustellen, ob die Schutzvorkehrungen ausreichen. Diese Prüfung wird nach der Bereitstellung durch kontinuierliche Überwachung und die Untersuchung von Vorfällen fortgesetzt. Die daraus gewonnenen Erkenntnisse fließen in stärkere Schutzvorkehrungen und die künftige Modellentwicklung ein.

OpenAI übt keine Aufsicht über die Regierung aus und sollte dies auch nicht tun. Diese Verantwortung liegt bei den gewählten Verantwortlichen und den dafür eingerichteten öffentlichen Institutionen. Stattdessen können wir Aufsichtsinstitutionen mit unserer Technologie dabei unterstützen, ihre bestehenden Mandate zu erfüllen.

Drei Grundsätze werden uns bei dieser Arbeit leiten.

Erstens sollte KI menschliches und institutionelles Urteilsvermögen stärken, nicht ersetzen. Entscheidungen darüber, ob staatliches Handeln rechtmäßig, angemessen und mit den geltenden Regeln und Richtlinien vereinbar ist, obliegen den zuständigen Behörden und gesetzlich eingerichteten Aufsichtsgremien.

Zweitens sollte der staatliche Einsatz von KI für befugte Aufsichtsstellen nachvollziehbar und verständlich sein. Prüfverantwortliche sollten erkennen können, wie KI zu einer Entscheidung beigetragen hat, während Verschlusssachen, private Angaben und sicherheitsrelevante Informationen geschützt bleiben.

Drittens sollte KI demokratische Aufsichtsinstitutionen stärken. Die manuelle Aufsicht über den staatlichen KI-Einsatz lässt sich nicht beliebig ausweiten. Wenn KI in der nationalen Sicherheit und anderen staatlichen Aufgaben mit weitreichenden Folgen eingeführt wird, sollten auch Aufsichtsgremien sie im Einklang mit ihren Mandaten verantwortungsvoll und nachvollziehbar einsetzen.

Im Laufe des nächsten Jahres wollen wir diese Initiative wie folgt voranbringen:

• Wir werden gemeinsam mit befugten Verantwortlichen konkrete Einsatzmöglichkeiten ermitteln, bei denen KI-Tools oder technische Unterstützung die Aufsicht wirksamer machen können.

• Wir werden demokratischen staatlichen Aufsichtsgremien Schulungen, technische Unterstützung und OpenAI-Credits im Wert von 5 Millionen USD bereitstellen, um die verantwortungsvolle Einführung und Bewertung von KI-Tools zu unterstützen.

• Wir werden gemeinsam mit Aufsichtsinstitutionen Tools erproben, mit denen befugte Prüfverantwortliche die Unterlagen zu KI-gestützten staatlichen Entscheidungen untersuchen können. Dazu gehören relevante Eingaben, Modellergebnisse und die Nutzung von Tools. So lässt sich besser nachvollziehen, wie KI die Ergebnisse beeinflusst hat. Soweit möglich, werden die Tools interoperabel oder modellunabhängig sein. Die teilnehmenden Institutionen, nicht OpenAI, behalten die Kontrolle über Beweismittel, Ergebnisse und Erkenntnisse. Diese bleiben ausschließlich befugten staatlichen Verantwortlichen zugänglich.

• Wir werden die Zivilgesellschaft sowie Fachleute aus der Technik einbeziehen, damit ihre Perspektiven in die Entwicklung dieser Tools durch OpenAI und unseren Umgang mit der damit verbundenen Verantwortung einfließen.

KI kann Macht konzentrieren oder demokratischen Institutionen helfen, Macht wirksamer auszuüben und zu kontrollieren. Technologie allein wird nicht darüber entscheiden, welche Zukunft eintritt. Entscheidend werden jedoch die Weichenstellungen sein, die menschliche Institutionen und Unternehmen heute vornehmen.

Wir werden den Fortschritt dieser Initiative daran messen, ob befugte Prüfverantwortliche ihre Pflichten besser erfüllen können und die Öffentlichkeit mehr Grund hat, darauf zu vertrauen, dass staatliche KI-Systeme wie vorgesehen eingesetzt werden.

Während sich der staatliche KI-Einsatz weiterentwickelt, wird OpenAI die für seine Aufsicht zuständigen Institutionen weiterhin unterstützen.