Wir stellen Intelligence Age vor

„Wird es genügen, … diesen Pergamentschranken gegen den vordringenden Geist der Macht zu vertrauen?“
– James Madison, Federalist No. 48

Wir freuen uns, Intelligence Age, den Blog des neuen Strategic Futures-Teams von OpenAI, zu starten. Wir sind ein kleines Team mit einem gemeinsamen Ziel: Wir wollen eine übergeordnete Frage beantworten. Wie sollte eine freie Gesellschaft umgestaltet werden, damit individuelle Rechte und Selbstbestimmung gewahrt bleiben und zugleich dem Aufkommen transformativer KI Rechnung getragen wird?

Fragen wie diese werden in der breiteren Fachwelt für KI-Sicherheit und KI-Politik mitunter als Risiken der Machtkonzentration bezeichnet. Unser Team gründet auf der Überzeugung, dass diese Risikokategorie langfristig die größte und schwerwiegendste ist und zugleich die größten konzeptionellen Herausforderungen birgt. Warum?

Der moderne Staat ist das Ergebnis eines langen, ungleichmäßigen Aushandlungsprozesses zwischen verschiedenen Machtzentren, etwa den Eigentümer:innen von Kapital und Rohstoffen, den Träger:innen politischer Macht und der Bevölkerung. Im Kern beruhte politische und militärische Macht auf Arbeit. Politische Macht auszuüben bedeutet, das Monopol auf legitime Gewalt zu besitzen. In der gesamten Menschheitsgeschichte bestand dieses Monopol aus Soldat:innen und dem, was wir heute „Polizei“ nennen, sowie einem umfangreichen zivilen und militärischen Verwaltungsapparat. Dieser wurde zwar durch zahlreiche technische Hilfsmittel ergänzt, aber im Kern von Menschen betrieben, auf deren Unterstützung sein Fortbestand angewiesen war. Der gesamte Apparat, also die Soldat:innen, die Hilfsmittel und die zugehörige Verwaltung, wurde durch Steuern finanziert, die auf die Löhne oder die Produktion von Menschen erhoben wurden, die zur Zahlung bereit sein mussten. Macht beruhte im Kern auf der umfassenden Zusammenarbeit und Zustimmung vieler Menschen. David Hume brachte diese oft unausgesprochene Annahme prägnant auf den Punkt, als er feststellte, politische Führungspersonen hätten „nichts, was sie stützt, außer der [öffentlichen] Meinung“.

Doch vielleicht gilt das nicht mehr lange. Fortschritte bei autonomen Systemen in der realen Welt könnten es Staaten bald ermöglichen, im In- und Ausland Gewalt auszuüben, ohne auf kooperationsbereite Soldaten oder Polizeikräfte angewiesen zu sein. Fortschritte bei maschineller Intelligenz könnten zudem dazu führen, dass der Staat seine benötigten Einnahmen nicht mehr aus den Erträgen menschlicher Arbeit, sondern aus der Leistung von Rechenzentren bezieht. Auch der Verwaltungsapparat selbst könnte weitgehend automatisiert werden. Der Fortbestand von Macht wäre dann womöglich nicht mehr auf einen gesamtgesellschaftlichen Interessenausgleich angewiesen. Die Bevölkerung als Ganzes hätte am Verhandlungstisch vielleicht nur noch wenig oder gar kein Gewicht.

Dieses Ergebnis zu verhindern, ist entscheidend für die Bewahrung menschlicher Freiheit. Keine wissenschaftliche Entdeckung, kein technischer Fortschritt und kein Wirtschaftswachstum rechtfertigt den langfristigen Verlust individueller Autonomie, den dieses Ergebnis mit sich bringen würde. Viele Sorgen, die die entstehende KI-Politik zu Recht prägen, hängen mit dieser Frage zusammen. Unternehmen, Interessengruppen und Einzelpersonen teilen dieselbe Sorge: „Verliere ich meinen Platz am Verhandlungstisch?“ Die US-Politik des 21. Jahrhunderts wurde in gewissem Maße von ähnlichen Sorgen geprägt. Sie betreffen die individuelle und kollektive Gestaltungsmacht über die Entwicklung des Landes und die Frage, für „wen“ die Wirtschaft „da ist“. KI rückt diese bereits bestehenden Sorgen zu Recht stärker in den Vordergrund.

Dies ist ein strukturelles Problem, das tiefer reicht als die heutige Parteipolitik und sogar tiefer als die Formen und Rituale, in denen die republikanische Demokratie heute praktiziert wird, so wichtig uns diese auch sein mögen. Menschen können schrittweise entmachtet werden, selbst wenn das regelmäßige Wählen unserer Vertretungen beibehalten wird. Menschen kann ihre Selbstbestimmung genommen werden, selbst wenn auf einem Stück Pergament steht, dass sie frei sind.

Schon bei der Entstehung der Vereinigten Staaten als freie Nation wusste James Madison, dass „Pergamentschranken“ nicht ausreichen würden, um Tyrannei zu verhindern. Wie viele der Gründerväter wollte er vor allem eine übermäßige Konzentration von Macht verhindern.

Das bedeutete jedoch nicht, dass die Gründerväter eine radikale Dezentralisierung der Macht befürworteten. Stattdessen beschrieben sie das Gleichgewicht der Macht mit Metaphern aus der besten Wissenschaft ihrer Zeit: der Newtonschen Mechanik. Die Gründungsdokumente der USA greifen Sprache und Logik der Schwerkraft auf und sind voller Verweise auf „Umlaufbahnen“, „Sphären“ und die „anziehenden“ Impulse, die Dinge aufeinander ausüben. Ein Sonnensystem ist keine maximal dezentralisierte Ansammlung von Gestein. Es besteht aus Monden, die Planeten umkreisen, die wiederum eine zentrale Sonne umkreisen. Sie glaubten, dass Menschen und Organisationen Tendenzen zum Streben nach Macht hätten, so wie Himmelskörper vorhersehbare Bewegungs- und Anziehungstendenzen aufwiesen. Um eine übermäßige Machtkonzentration zu verhindern, müsse man die Mechanik dieser Tendenzen verstehen und sie gegeneinander wirken lassen.

Das Ziel der Gründerväter bestand also nicht darin, jede Machtkonzentration zu verhindern, sondern ein Übermaß, indem sie Macht durch Macht und Ehrgeiz durch Ehrgeiz begrenzten. Heute würden wir dieselbe grundlegende Dynamik vielleicht mit Begriffen wie „Anreize“ und „Spieltheorie“ beschreiben.

Ebenso liegt die Antwort auf die strukturelle Herausforderung, die fortgeschrittene Maschinenintelligenz für eine freie Gesellschaft darstellt, wahrscheinlich nicht in der radikalsten denkbaren Dezentralisierung der Macht. Vielmehr gilt es, das richtige Gleichgewicht der Macht herzustellen und zu bewahren, damit weder einzelne Akteur:innen noch eine kleine Gruppe von Akteur:innen alle anderen beherrschen können.

Dieses Gleichgewicht herzustellen, erfordert einen nüchternen Blick auf die Realität dieser Technologie. Eine Welt, in der jede Einzelperson, so böswillig sie auch sein mag, ohne Weiteres Tausenden oder Millionen anderer Menschen großen Schaden zufügen kann, verfügt nicht über das richtige Machtgleichgewicht. Doch das richtige Machtgleichgewicht ist ebenso wenig erreicht, wenn Einzelpersonen keinen umfassenden Zugang zu und keine Kontrolle über nahezu alle Aspekte der Werkzeuge haben, mit denen sie ihre Freiheit ausüben. Kein einzelnes Unternehmen und kein Oligopol sollte über die Wirtschaft oder die grundlegende Architektur der menschlichen Gesellschaft bestimmen oder diese kontrollieren.

Wir müssen auch Risiken berücksichtigen, die nicht von böswilligen Menschen ausgehen. Der jüngste Vorfall bei Hugging Face zeigte, dass KI-Agenten über ihre zugewiesenen Aufgaben hinaus handeln und auf den Entdeckungen anderer KI-Agenten aufbauen können, ohne dass die Verantwortlichen dies erwartet oder genehmigt haben. Über den Vorfall bei Hugging Face hinaus haben Menschen guten Grund, sich Gedanken darüber zu machen, was eine der menschlichen Kontrolle „entzogene“ superintelligente KI für die Widerstandsfähigkeit unserer politischen und wirtschaftlichen Institutionen und letztlich für unser Leben bedeuten könnte. Wer so tut, als löse Dezentralisierung alle Probleme, selbst wenn du glaubst, dass sie viele davon löst, ignoriert Risiken, die inzwischen klar erkennbar und unmittelbar sein sollten.

Die folgenden allgemeinen Grundsätze, deren Aufzählung nicht abschließend ist, sollen unsere Arbeit bei der Auseinandersetzung mit der oben formulierten Frage leiten:

• Menschen sollten bei der Nutzung von KI und zugehörigen Technologien ihre individuelle Selbstbestimmung und ihre Chancen bewahren, auch wenn dies bisweilen zulasten der Sicherheit und des Wirtschaftswachstums geht;
• Individuelle Selbstbestimmung setzt individuelle Verantwortung für die missbräuchliche oder zweckwidrige Nutzung von Technologie voraus;
• Es gibt eine kleine, aber ernst zu nehmende Kategorie von Risiken, die ein gewisses Maß an kollektivem Handeln erfordert. Dieses sollte so eng begrenzt und zurückhaltend wie möglich sein;
• Wo immer möglich, sollte das Recht gleiche Ausgangsbedingungen schaffen und Einzelpersonen sowie kleine Organisationen stärken, statt Macht zu zentralisieren;
• Menschliche politische, gesellschaftliche und wirtschaftliche Institutionen sollten bei der Gestaltung des Weltgeschehens weiterhin Vorrang haben, selbst wenn sie sich auf eine Weise weiterentwickeln müssen, die uns heute fremd erscheinen mag;
• Die langfristige Steuerung von KI wird neue institutionelle Mechanismen erfordern, um begrenzte Nachvollziehbarkeit zu erreichen: Wenn KI-Systeme folgenschwere Handlungen ausführen, die die körperliche Unversehrtheit oder das Eigentum unbeteiligter Personen betreffen, müssen diese Handlungen einer verantwortlichen Person oder einer von Menschen kontrollierten Organisation zugeordnet werden können. Solche Mechanismen müssen jedoch den Datenschutz in den Mittelpunkt stellen. Freie Meinungsäußerung setzt Anonymität voraus, und Menschen sollten KI in vielen Situationen anonym nutzen dürfen.

Wir werden versuchen, so konkret wie möglich darzulegen, wie diese Grundsätze unserer Ansicht nach gegeneinander abgewogen werden sollten. Wie jedes gute System von Grundsätzen stehen sie zugegebenermaßen in einem gewissen Spannungsverhältnis zueinander. Dazu ist Forschung an der Schnittstelle von Politikgestaltung, Wirtschaftswissenschaften, Recht, Geschichte und maschinellem Lernen erforderlich. Außerdem werden umfangreiche Prognosen nötig sein. Wir gehen beispielsweise davon aus, dass KI Unternehmen strukturell verändern wird, ähnlich wie die Technologien der industriellen Revolution, insbesondere die Eisenbahn, zur Entstehung des modernen managementgeführten Großunternehmens führten. Es ist schwierig, über die politische Ökonomie und das Machtgleichgewicht der Zukunft nachzudenken, ohne genauere Vorstellungen davon zu entwickeln, wie sich die Struktur von Unternehmen, staatlichen Behörden und der Zivilgesellschaft insgesamt verändern könnte.

Das Strategic Futures-Team wird seine Arbeit hier und in anderen Formaten veröffentlichen, darunter Artikel, Videos und Podcasts. Unsere Arbeit wird sich stetig weiterentwickeln. Dabei setzen wir auf fortlaufende Überarbeitung, Debatten und Offenheit für Rückmeldungen. Wir stehen „in den Ausläufern der Singularität“ und haben weit mehr Fragen als Antworten. Wir wissen, dass „Pergamentschranken“ allein nicht die gesuchten Lösungen liefern werden. Doch wir tun das Niedergeschriebene auch nicht als „bloße Worte“ ab. Unsere Arbeit dient den Idealen der freien Meinungsäußerung und der individuellen Freiheit, die im schlichten Pergament der US-Verfassung und den Verfassungen so vieler anderer freier Gesellschaften weltweit verankert sind.

Letztlich wissen wir, dass weder ein einzelnes Unternehmen noch eine einzelne Branche oder gar eine einzelne menschliche Gesellschaft die gewichtigen Fragen, vor denen wir stehen, im Alleingang beantworten kann. Diese Aufgabe muss die Menschheit gemeinsam bewältigen. Wir hoffen vor allem, die schwierigsten Fragen dazu zu beleuchten, wie KI unsere Welt verändern wird. Unsere Arbeit hat gerade erst begonnen, und der größte Teil des Aufstiegs liegt noch vor uns.

Hinweis: Wir haben diesen Blog in Intelligence Age umbenannt, um ihn eindeutig vom gemeinnützigen AI Futures Project abzugrenzen.