Zehn Jahre

OpenAI hat mehr erreicht, als ich mir jemals zu träumen gewagt hätte; wir haben uns etwas Verrücktes, Unwahrscheinliches und Beispielloses vorgenommen. Nach einem äußerst unsicheren Start und entgegen aller vernünftigen Erwartungen scheint es nun dank kontinuierlicher harter Arbeit so, als hätten wir eine Chance, unsere Mission erfolgreich zu erfüllen.

Wir haben der Welt heute vor zehn Jahren unser Vorhaben angekündigt, obwohl wir offiziell erst ein paar Wochen später, Anfang Januar 2016, losgelegt⁠(wird in einem neuen Fenster geöffnet) haben.

Zehn Jahre sind in mancher Hinsicht eine sehr lange Zeit, aber wenn man bedenkt, wie lange es normalerweise dauert, bis sich der Lauf der Gesellschaft verändert, sind sie gar nicht so lang. Obwohl sich das tägliche Leben nicht wesentlich anders anfühlt als vor zehn Jahren, scheint der Möglichkeitsraum, der heute vor uns allen liegt, ein ganz anderer zu sein als damals, als wir 15 Nerds waren, die zusammensaßen und überlegten, wie wir Fortschritte erzielen könnten.

Wenn ich mir die Fotos aus den Anfangstagen anschaue, fällt mir als Erstes auf, wie jung alle aussehen. Doch dann bin ich beeindruckt davon, wie unverhältnismäßig optimistisch alle aussehen – und wie glücklich. Es war eine Zeit, die wahnsinnig Spaß gemacht hat: Obwohl wir extrem missverstanden wurden, hatten wir eine tief verwurzelte Überzeugung – das Gefühl, dass es so wichtig war, dass es sich lohnte, sehr hart zu arbeiten, selbst mit geringen Change auf Erfolg –, sehr talentierte Mitstreiter und einen scharfen Fokus.

Nach und nach haben wir ein Verständnis dafür entwickelt, was vor sich ging, während wir einige Erfolge (und viele Misserfolge) verzeichneten. Damals war es schwierig, herauszufinden, woran genau wir arbeiten sollten, aber wir haben eine unglaubliche Kultur geschaffen, die Entdeckungen ermöglichte. Deep Learning war eindeutig eine großartige Technologie, aber es schien nicht ganz richtig, sie zu entwickeln, ohne praktische Erfahrungen im realen Einsatz zu sammeln. Ich überspringe die Geschichten über alles, was wir damals gemacht haben (ich hoffe, dass jemand es eines Tages zu Papier bringen wird), aber wir hatten eine fantastische Mentalität, immer nur das nächste Hindernis zu überwinden, das vor uns lag: wohin uns die Forschung als Nächstes führen könnte, wie wir Geld für größere Computer beschaffen könnten oder was auch immer. Wir haben Pionierarbeit geleistet, um KI auf praktische Weise sicher und robust zu machen, und diese DNA lebt bis heute weiter.

Im Jahr 2017 erzielten wir mehrere grundlegende Resultate: unsere Dota 1v1-Ergebnisse, bei denen wir das Reinforcement Learning auf eine ganz neue Größenordnung gebracht haben. Das unüberwachte Sentiment-Neuron, bei dem wir beobachteten, wie ein Sprachmodell unbestreitbar Semantik statt nur Syntax lernte. Und wir erzielten unser Ergebnis zum Reinforcement Learning aus menschlichen Präferenzen, das einen rudimentären Weg zur Ausrichtung einer KI an menschlichen Werten aufzeigte. An diesem Punkt war die Innovation noch lange nicht abgeschlossen, aber wir wussten, dass wir jedes dieser Ergebnisse mit enormer Rechenleistung skalieren mussten.

Wir haben weitergemacht und die Technologie verbessert, und vor drei Jahren haben wir ChatGPT auf den Markt gebracht. Die Welt nahm Notiz, und noch viel mehr, als wir GPT‑4 einführten; plötzlich war AGI kein völlig verrückter Wunschtraum mehr. Die letzten drei Jahre waren äußerst intensiv und voller Stress und großer Verantwortung; diese Technologie wurde in einem Ausmaß und mit einer Geschwindigkeit in die Welt integriert wie keine andere vor ihr. Dies erforderte eine äußerst schwierige Umsetzung, für die wir sofort neue Kapazitäten aufbauen mussten. In dieser Zeit aus dem Nichts ein gewaltiges Unternehmen aufzubauen, war nicht einfach und erforderte, dass wir jede Woche Hunderte von Entscheidungen trafen. Ich bin stolz darauf, wie viele davon das Team richtig gemacht hat, und die, bei denen wir falsch lagen, sind größtenteils meine Schuld.

Wir mussten neue Arten von Entscheidungen treffen: Als wir uns beispielsweise mit der Frage auseinandersetzten, wie KI den größtmöglichen Nutzen für die Welt bringen kann, entwickelten wir eine Strategie der iterativen Einführung, bei der wir frühe Versionen der Technologie erfolgreich in die Welt hinausbringen, damit die Menschen ein Gespür dafür entwickeln und sich Gesellschaft und Technologie gemeinsam weiterentwickeln können. Das war damals ziemlich umstritten, aber ich denke, es war eine unserer besten Entscheidungen überhaupt und ist zum Industriestandard geworden.

Zehn Jahre nach der Gründung von OpenAI haben wir eine KI, die bei unseren schwierigsten intellektuellen Wettbewerben besser abschneidet als die meisten unserer klügsten Köpfe.

Die Welt hat diese Technologie genutzt, um Außergewöhnliches zu leisten, und wir rechnen damit, dass schon im nächsten Jahr noch weitaus größere Errungenschaften folgen werden. Die Welt hat bisher ebenfalls gute Arbeit geleistet, um die potenziellen Nachteile zu mindern, und wir müssen daran arbeiten, dies auch weiterhin zu tun.

Ich habe mich noch nie so optimistisch über unsere Forschung und Produkt-Roadmaps sowie unsere allgemeine Ausrichtung auf unsere Mission gefühlt. Ich glaube, dass wir in den zehn nächsten Jahren mit ziemlicher Sicherheit Superintelligenz entwickeln werden. Ich gehe davon aus, dass sich die Zukunft seltsam anfühlen wird; in gewisser Weise werden sich das tägliche Leben und die Dinge, die uns am meisten am Herzen liegen, nur sehr wenig verändern, und ich bin mir sicher, dass wir uns weiterhin viel mehr darauf konzentrieren werden, was andere Menschen tun, als darauf, was Maschinen tun. Andererseits werden die Menschen im Jahr 2035 in der Lage sein, Dinge zu tun, die wir uns heute kaum vorstellen können.

Ich bin den Menschen und Unternehmen dankbar, die uns ihr Vertrauen schenken und unsere Produkte nutzen, um Großartiges zu erreichen. Ohne das wären wir nur eine Technologie im Labor; unsere Benutzer:innen und Kund:innen haben in vielen Fällen frühzeitig und mit unangemessen hoher Überzeugung auf uns gesetzt, und ohne sie hätte unsere Arbeit nicht dieses Niveau erreicht.

Unsere Mission ist es, sicherzustellen, dass AGI der gesamten Menschheit zugutekommt. Wir haben noch viel Arbeit vor uns, aber ich bin wirklich stolz auf den Weg, den das Team eingeschlagen hat. Wir sehen bereits heute enormen Nutzen in dem, was Menschen mit dieser Technologie erreichen, und wir wissen, dass in den nächsten Jahren noch viel mehr kommen wird.