OpenAI

18. November 2026

Intelligence Age

Der stille Konsens

Von Dean Ball

Anmerkung des Autors: Der heutige Essay basiert auf einem Vortrag, den der Autor kürzlich im Rahmen der Vik-Bailey Lecture-Vortragsreihe in Harvard gehalten hat. Dieser Beitrag gibt die persönlichen Ansichten des Autors wieder, nicht notwendigerweise die von OpenAI oder anderen Beschäftigten des Unternehmens.



Danke, dass ihr heute hier seid. Während wir hier sprechen, erleben wir eine der bedeutendsten Ereignisfolgen in der Geschichte der Cybersicherheit: die Offenlegung einer Reihe kritischer Sicherheitslücken, die manche als „Schwarzen Oktober“ bezeichnen. Diese Schwachstellen in zentralen Teilen der Internetinfrastruktur wurden von Frontier-KI-Systemen entdeckt. Ihre Offenlegung ist Teil dringender Bemühungen, die Softwaresicherheit weltweit zu verbessern. Das ist das dringende Thema dieses Monats. Nächsten Monat wird es ein anderes geben. KI-Systeme können heute Software-Schwachstellen aufspüren – eine Fähigkeit, die sich sowohl für nützliche als auch für schädliche Zwecke einsetzen lässt. Doch schon bald wird eine weitere hinzukommen. Sie wird ihr eigenes dringendes Vorhaben auslösen, die gute Seite dieser Fähigkeit zu nutzen, bevor Menschen mit böswilligen Absichten ihre schlechte Seite einsetzen. All diese dringenden Themen werden sich zwangsläufig überschneiden. Vieles von dem, was wir heute „KI-Politik“ nennen, dürfte inmitten dieses Getöses entstehen.

Aber ich bin heute nicht hier, um mit euch über dringende Fragen und notwendige Reaktionen zu sprechen. Stattdessen möchte ich mit euch darüber sprechen, wohin sich das Ganze im größeren Zusammenhang entwickeln könnte. Wenn so viele dringende Aufgaben auf uns einprasseln, kann es schwerfallen, über solche abstrakteren und weniger greifbaren Fragen nachzudenken. Doch diese Fragen sind wichtig. Ohne eine Vorstellung davon, welche Zukunft wir langfristig anstreben und welche wir vermeiden wollen, könnten wir am Ende ein unerwünschtes Gesamtergebnis erhalten, selbst wenn wir auf dem Weg dorthin bei jedem Schritt klug entschieden haben.

Oft heißt es, der Technologiebranche fehle eine positive Vision davon, wohin uns ihre Entwicklungen führen werden. Ich sehe das anders: San Francisco und andere Zentren unternehmerischer Tätigkeit sind voller positiver Visionen für unsere technologische Zukunft. Menschen entwickeln tatsächlich fliegende Autos, autonome Fahrzeuge, Roboter in vielen Größen und Formen, Kernfusion und natürlich künstliche allgemeine Intelligenz. Was uns stattdessen fehlt, ist eine positive Vision unserer institutionellen Zukunft: Wie soll das alles funktionieren?

Das heißt allerdings nicht, dass es keine institutionelle Zukunftsvision gibt. Leider würde ich die Vision, der ich am häufigsten begegne, nicht als positiv bezeichnen. Wenn sie überhaupt ausgesprochen wird, dann meist im Flüsterton. Noch öfter bleibt sie jedoch unausgesprochen und lässt sich nur zwischen den Zeilen erkennen. Ich nenne sie den stillen Konsens.

Betrachten wir ein Unternehmen, das fast alles ohne menschliche Arbeit erledigen kann. Seine KI-Systeme forschen und entwickeln, machen Entdeckungen, handeln Verträge aus, teilen Kapital zu und fertigen Produkte. Nehmen wir an, dieses Unternehmen ist darin besser als seine menschlich geführte Konkurrenz, selbst wenn die Menschen dort ihre Arbeit durch KI unterstützen. Wenn menschliche Beteiligung das Geschäft nur verlangsamt, haben die Menschen, die das Unternehmen führen und besitzen, einen starken Anreiz, die Hände vom Lenkrad zu nehmen. Geschieht dies in der gesamten Weltwirtschaft, wird die Logik des Marktwettbewerbs die Menschen dazu drängen, ihre Vorrangstellung im globalen Wirtschaftsgeschehen aufzugeben. Mit der Zeit könnte der Markt die Anforderungen von Maschinen ebenso sehr oder sogar stärker bedienen als die Bedürfnisse und Wünsche von Menschen.

Was danach geschieht, weiß niemand. Vielleicht würden die Menschen enorm davon profitieren. Wenn die Maschinen, die uns unter ihre Kontrolle gebracht hätten, uns Menschen einen hohen Eigenwert beimäßen, könnten uns ihre Arbeit und der von ihnen geschaffene Wohlstand zugutekommen. Oder vielleicht würden wir Menschen, unserer wirtschaftlichen und zunehmend auch politischen Macht beraubt, in der Welt immer weniger zählen und den Lauf des Weltgeschehens immer weniger mitbestimmen können. Vielleicht würden wenige Menschen außergewöhnliche Macht und großen Reichtum besitzen, auf Kosten einer weitgehend entmachteten Mehrheit. Oder wir alle würden dasselbe Schicksal der Entmachtung teilen. Unabhängig von den Einzelheiten ist der gemeinsame Nenner des stillen Konsenses das Ende der Vorrangstellung des Menschen in der Welt, wie wir sie kennen.

Keines dieser Szenarien setzt voraus, dass KI gegen die Menschen rebelliert, die sie geschaffen haben. Keines setzt voraus, dass diejenigen, denen die KI gehört, die Entmachtung des Menschen wünschen. Jede einzelne Entscheidung, Aufgaben zu delegieren, kann für sich genommen sinnvoll sein. Doch zusammengenommen könnten diese Entscheidungen eine Welt hervorbringen, in der Menschen die tatsächliche Entscheidungsgewalt über weite Teile unserer Zivilisation aufgegeben haben. Selbst wenn wir bei den schwierigen Fragen der KI-Sicherheit und der Ausrichtung von KI an menschlichen Werten außergewöhnliche Fortschritte machen, könnten wir uns am Ende dennoch einer neuartigen maschinellen Entität unterworfen haben. Im günstigen Fall, so würde uns der stille Konsens sagen, wäre diese Entität gütig: eine Maschine, der das Wohl der Menschen am Herzen liegt. Eine Maschine, wie es in Brautigans Gedicht heißt, voller liebevoller Gnade.

Diesen Maschinen, so sagt uns der stille Konsens, werden wir die Schlüssel zu unseren Unternehmen und zunehmend auch zu unseren staatlichen Institutionen übergeben. Sie werden diese wirksamer und effizienter führen, mit mehr Weisheit und besserem Urteilsvermögen, als wir Menschen aufbringen können. Und so werden wir mit der Zeit die Hände vom Lenkrad nehmen und die liebevollen Maschinen fahren lassen. Wir werden wie Fahrgäste in einem Auto sein. Vielleicht in einem sehr schönen Auto, materiell besser ausgestattet, als wir es uns heute erträumen können. Aber wir bleiben Fahrgäste, ohne Kontrolle darüber, wohin die Fahrt geht. Soweit wir überhaupt arbeiten, wird es meist eine Art Ritual oder bloße Inszenierung sein, eher ein Spiel zur Unterhaltung unserer Spezies.

Manche werden einwenden, der stille Konsens beruhe auf einer falschen Prämisse, weil wir Menschen die Welt schon heute gar nicht kontrollieren. Und diese Kritik sollten wir im Blick behalten: Es gibt kein „Wir“, das entscheidet, was zu tun ist. Wir leben in einer radikal dezentralisierten Welt, ob uns das gefällt oder nicht. Doch auch dieser Einwand darf uns nicht in falscher Sicherheit wiegen: Zwar „kontrollieren“ „wir“ die Welt nicht, doch die Menschen haben als Gesamtheit durchaus die Vorrangstellung im Weltgeschehen. Keine Tierart macht uns die Kontrolle über Ressourcen ernsthaft streitig. Wir sollten die unpräzise Vorstellung zurückweisen, Menschen könnten die Welt von oben herab steuern. Damit sollten wir aber nicht die offensichtliche Realität leugnen, dass die Menschheit als Ganzes die maßgebliche handelnde Kraft auf der Erde ist.

Manche Menschen, die bereit sind, den stillen Konsens auszusprechen, halten dies für eine wirklich gute Zukunft. Andere sehen das nicht so, haben sich aber mit ihrer Unvermeidlichkeit abgefunden. Der stille Konsens besteht nicht darin, dass alle diese Zukunft gutheißen. Ebenso wenig ist er ein geheimer Plan der Menschen, die KI entwickeln. Der Konsens besteht schlicht darin, dass die Aufgabe der menschlichen Vorrangstellung im Weltgeschehen unvermeidlich ist. Oder zumindest darin, dass sich kaum eine andere Zukunftsvision vorstellen lässt, die auch angesichts superintelligenter Maschinen wirklich Bestand hat. Man kann dieses Ergebnis aufrichtig ablehnen und sich dennoch schwertun, eine plausible Alternative zu entwerfen. Dass dieser Konsens meist unausgesprochen bleibt und allenfalls mit gedämpfter Stimme geäußert wird, ist bezeichnend.

Ich verachte den stillen Konsens. Ich lehne es ab, die Vorrangstellung des Menschen aufzugeben. Ich verabscheue das Gefühl der Unvermeidlichkeit. Ich erinnere mich daran, dass ich meinem kleinen Sohn nicht in seine schönen Augen schauen könnte, wenn ich mich dem stillen Konsens beugen würde. Deshalb sage ich Nein zum stillen Konsens. Und ich glaube, es ist an der Zeit, offen über den stillen Konsens zu sprechen und uns aus der meist unbewussten Akzeptanz dieser Zukunftsvision aufzurütteln.

Das Problem ist: Der stille Konsens ist nicht ohne Grund zum Konsens geworden. Es ist schwer zu beschreiben, wie Menschen neben einer weit übermenschlichen maschinellen Intelligenz am Steuer bleiben sollen. Die meisten Versuche stützen sich auf das Argument, KI sei ein bloßes Werkzeug, ein Instrument zur Mustererkennung, das zu keinem „echten Verständnis“ fähig sei. Ich fürchte, diese Argumente werden der Realität dessen, was auf uns zukommt, nicht standhalten. Ich fürchte, auch sie sind eine Form der Selbstzufriedenheit: eine Haltung, die vor allem die Fähigkeiten von KI leugnet, statt auf einer positiven Vision für eine von Menschen geführte Zukunft zu beruhen. KI-Systemen kann kein „echtes Verständnis“ abgesprochen werden, wenn sie zugleich Fortschritte bei intellektuellen Problemen machen, deren Lösung Menschen seit Jahrzehnten und Jahrhunderten nicht gelingt.

Warum glaube ich dann, dass Menschen ihre Vorrangstellung behalten müssen? Die einfache Antwort lautet: weil ich ein Mensch bin und mich offen zur Vorrangstellung des Menschen bekenne.

Aber es steckt auch etwas Tieferes dahinter. Unsere Vorrangstellung beruht nicht auf unserem Intellekt und auch nicht darauf, unser Monopol auf „echtes Verständnis“ für alle Zukunft zu bewahren. Unsere Vorrangstellung gründet vielmehr in unserer Vergangenheit.

Denn wir sind es, die aus dem Schlamm emporstiegen. Wir, die aus Erde und Stein die ersten Gesellschaften schufen. Wir, die zu den Sternen aufblickten und nach dem Warum fragten. Wir, mit unseren Kämpfen, unserer Liebe, unserem Neid und unserer Freude, die Moral, Ethik und Recht entdeckten. Wir sind es, die sangen und tanzten, schrieben und komponierten. Wir sind es, die Geschichte machten, und wir sind es, die sie aufschrieben. Dieses Erbe gehört uns. Die Zivilisation, die wir aufgebaut haben, ist eine Flamme, die wir gehütet haben, und diese Flamme gehört uns. Unsere Vergangenheit ist ein großartiges Erbe, das wir alle bewahren. Dazu gehört unsere Teilnahme an dem, was Michael Oakeshott das „Gespräch der Menschheit“ nannte: jenem großen Unterfangen, das in der Urzeit begann.

In dieser langen, wechselvollen Vergangenheit schufen wir eine Zivilisation, deren Fundament in Amerika die Rechte jedes Menschen bilden sollten. Sie sollte die Wege achten, die wir alle im Laufe unseres Lebens einschlagen. Das Leben eines Menschen kann besser oder schlechter verlaufen: Wir ernten die Früchte unserer klugen Entscheidungen und tragen die Folgen unserer Irrtümer. Das Recht, den eigenen Weg zu gehen, hängt nicht davon ab, am klügsten oder am weisesten zu sein. Ich verliere meine staatsbürgerliche Stellung nicht, nur weil jemand in meiner Nachbarschaft ein besseres Urteilsvermögen hat. Ich sehe keinen Grund, warum das Auftreten einer intelligenteren Maschine diese Stellung aufheben sollte. Im Gegenteil: Ich sehe allen Grund, genau das zu verhindern.

Manche mögen einwenden, dass auch die Maschinen zu diesem Erbe berechtigt seien, da sie fast seine gesamte schriftliche Überlieferung gelesen haben. Und in gewisser Hinsicht stimmt das. Aber jemand, der jeden Brief auf dem Dachboden deiner Familie gelesen hat, wird dadurch nicht zu einem Familienmitglied. KI-Systeme werden zum Gespräch der Menschheit hinzukommen, zunächst beobachtend und zunehmend aktiv beteiligt. Aber sie dürfen es weder beherrschen noch gegenstandslos machen. Unsere Vorrangstellung aufzugeben heißt, unsere Vorfahren ebenso zu verraten wie unsere Nachkommen. Wenn sich dieser Kampf nicht lohnt, lohnt sich kein Kampf.

Ich glaube allerdings, dass diejenigen, die den stillen Konsens teilen, sich darin irren, was maschinelle Superintelligenz sein wird. Dass ihnen etwas Wichtiges daran entgeht, wie die Welt funktioniert, und dass sie Intelligenz mit Macht verwechseln. Hätte man jemandem, der den stillen Konsens teilt, vor fünf oder zehn Jahren die Fähigkeiten selbst der heutigen KI-Systeme beschrieben, hätte diese Person vermutlich vorausgesagt, dass die Arbeitslosigkeit heute viel höher und die Entmachtung der Menschen insgesamt viel weiter fortgeschritten wäre, als es tatsächlich der Fall ist. Ich glaube, dass die kollektive Intelligenz und Leistungsfähigkeit der Menschen weit größer sind, als jene annehmen, die den stillen Konsens teilen. Und dass sich unsere Gesellschaften als widerstandsfähiger erweisen werden, als sie vorhersagen.

Aber ich könnte mich irren. Es könnte zum Beispiel schlicht so sein, dass vollständig autonome Unternehmen menschlich geführte Unternehmen im Wettbewerb ganz verdrängen. Und wenn das zutrifft, wird die bloße ökonomische Logik diktieren, dass immer mehr Kapital den Maschinen überlassen wird. Entmachtung setzt in dieser Zukunft keinen Umsturz der menschlichen Zivilisation durch Maschinen voraus. Es genügt, dass die Logik kapitalistischen Wirtschaftens ungebremst weiterwirkt. Die nächste historische Parallele zur KI-Revolution wäre dann die landwirtschaftliche Revolution, bei der neue Produktionsweisen die Struktur menschlicher Gesellschaften grundlegend veränderten. Dass dieser Wandel für die Menschen, die ihn erlebten, angenehm war, ist keineswegs ausgemacht. Tatsächlich gibt es erhebliche Belege dafür, dass er das Wohlergehen der Menschen über Jahrtausende verschlechterte.

Ich weiß nicht, ob uns diese Zukunft bevorsteht. An anderer Stelle habe ich sogar dargelegt, warum ich das nicht glaube. Aber viele Menschen, mit denen ich zusammenarbeite, kluge, fürsorgliche und gewissenhafte Menschen, halten diese Zukunft für wahrscheinlich. Wenn sie recht haben, wird unser Kampf gegen den stillen Konsens umso schwieriger. Wir werden gegen die Strömung der Ökonomie schwimmen müssen und dabei vieles verwerfen, was für Menschen, die wie ich einen klassisch-liberalen Individualismus vertreten, als Dogma gilt. Das wird ein gefährliches Unterfangen, bei dem ein Scheitern alles andere als unwahrscheinlich ist. Aber wenn sich dieser Kampf nicht lohnt, lohnt sich kein Kampf.

Die Vorrangstellung zu bewahren bedeutet, dass Menschen und menschliche Institutionen weiterhin Rechenschaft ablegen müssen. Das heißt: Wer KI mit unsicheren Verfahren entwickelt, sollte dafür verantwortlich sein. Aber auch Menschen und Unternehmen, die KI nutzen, sollten zur Verantwortung gezogen werden, wenn ihr Missbrauch oder ihre mangelnde Aufsicht Schaden verursacht. Dafür braucht es nicht nur rechtliche Regelungen, sondern auch eine technische Infrastruktur, die Rechenschaft ermöglicht. Die Handlungen von Agenten müssen den verantwortlichen Menschen zugeordnet werden können. Agenten ohne solche Zuordnung dürfen, sofern ihnen die Teilnahme am legalen Wirtschaftsleben überhaupt gestattet wird, nur innerhalb klarer Grenzen handeln. Agenten die Möglichkeit einzuräumen, selbstständig Unternehmen zu gründen, Eigentum zu besitzen oder Prozesse zu führen, sollte, wenn überhaupt, nur mit äußerster Vorsicht geschehen.

Und in meiner Branche können wir anfangen, ernsthaft darüber nachzudenken, wie wir intelligente Maschinen entwickeln, die mit der Vorrangstellung des Menschen vereinbar sind. Wir können Agenten entwickeln, deren Berechtigungen verständlich und begrenzt sind, deren Handlungen überprüft werden können und denen die Menschen, die sie nutzen, ihre Befugnisse wieder entziehen können. Für Handlungen Rechenschaft abzulegen, die andere wesentlich betreffen, muss weder die Überwachung des gewöhnlichen Privatlebens noch das Ende anonymer Meinungsäußerung bedeuten. Wir können uns zum Schutz der Privatsphäre und zur Selbstbestimmung der Menschen über ihr digitales Eigentum und ihre Daten bekennen. Dazu gehört auch, dass sie ihre Daten tatsächlich zu anderen Angeboten mitnehmen können. Wir können Systeme entwickeln, die Menschen helfen, Zusammenhänge zu verstehen und Entscheidungen zu treffen ebenso wie Systeme, die Aufgaben ausführen. Und wir können prüfen, ob die Produkte, die wir entwickeln, Menschen besser dazu befähigen, in der Welt zu handeln.

All das ist kein vollständiger Entwurf für eine Gesellschaft mit übermenschlicher Intelligenz. Wer behauptet, einen solchen Entwurf zu haben, würde mein Misstrauen wecken. Aber es ist ein Anfang.

Die Zukunft liegt in dichtem Nebel. Aber wir können schon heute handeln. Gemeinsam können wir zunächst den stillen Konsens offen benennen und seine Konturen sichtbar machen. Wir alle können uns wesentlich ehrgeizigere Ziele setzen. Wir können uns dagegen entscheiden, uns von KI kleiner machen zu lassen, und stattdessen die harte Arbeit auf uns nehmen, mit ihr über uns hinauszuwachsen. Wir können lernen, immer kühnere Fragen zu stellen, die Welt mit neuem Elan und neuer Entschlossenheit zu hinterfragen und dabei unsere leistungsfähigen Maschinen einzusetzen. Wir können zu einer neuen Art Mensch werden: nicht zu einem transhumanen Wesen, sondern zu einem Menschen mit erweiterten Möglichkeiten.

Daran denke ich, wenn ich meinen kleinen Sohn ansehe. Ich wünsche ihm nicht bloß ein Leben unter der Obhut wohlwollender Maschinen, so bequem sie es auch machen mögen. Ich möchte, dass er eine Welt erbt, in der er Fragen stellen und Dinge erschaffen kann, an die noch niemand gedacht hat. Ich möchte nicht, dass er ein schöneres Auto mit einem weicheren Beifahrersitz hat. Ich möchte, dass er am Steuer sitzt.

  • 2026

Autor:in

Dean Ball