KI-Fortschritte und Empfehlungen

Als die gängige Vorstellung des Turing-Tests an uns vorbeirauschte, fanden viele von uns es ein wenig seltsam, wie unbeirrt das alltägliche Leben einfach weiterlief. Dies war ein Meilenstein, über den seit Jahrzehnten gesprochen wurde. Er fühlte sich unerreichbar an, dann plötzlich ganz nah, und dann waren wir auch schon auf der anderen Seite. Wir haben einige großartige neue Produkte bekommen, und nicht viel hat sich in der Welt verändert, obwohl Computer jetzt Gespräche führen und über schwierige Probleme nachdenken können.

Die meisten Menschen weltweit denken bei KI immer noch an Chatbots und bessere Suchfunktionen, aber heute haben wir Systeme, die die klügsten Menschen bei einigen unserer anspruchsvollsten intellektuellen Wettbewerbe übertreffen können. Obwohl KI-Systeme noch immer unausgereift sind und erhebliche Schwächen aufweisen, scheinen Systeme, die solche schwierigen Probleme lösen können, für KI-Forscher eher 80 % als 20 % des Weges hinter sich zu haben. Die Kluft zwischen der Art und Weise, wie die meisten Menschen KI nutzen, und dem, wozu KI derzeit in der Lage ist, ist enorm.

KI-Systeme, die neues Wissen entdecken können – entweder autonom oder indem sie Menschen effektiver machen – werden wahrscheinlich einen signifikanten Einfluss auf die Welt haben.

In nur wenigen Jahren hat sich die KI von einer Technologie, die lediglich Aufgaben (insbesondere im Bereich der Softwareentwicklung) ausführen konnte, die ein Mensch in wenigen Sekunden erledigen kann, zu einer Technologie entwickelt, die Aufgaben bewältigt, für die ein Mensch mehr als eine Stunde benötigen würde. Wir erwarten, dass wir bald Systeme haben werden, die Aufgaben erledigen können, für die ein Mensch Tage oder Wochen benötigen würde; wir wissen nicht, wie wir über Systeme nachdenken sollen, die Aufgaben erledigen können, für die ein Mensch Jahrhunderte brauchen würde.

Gleichzeitig sind die Kosten pro Einheit eines bestimmten Intelligenzniveaus stark gesunken; eine Senkung um das 40-Fache pro Jahr ist für die letzten Jahre eine realistische Schätzung! 

Wir gehen davon aus, dass KI im Jahr 2026 in der Lage sein wird, sehr kleine Entdeckungen zu machen. Wir sind ziemlich zuversichtlich, dass wir im Jahr 2028 und darüber hinaus über Systeme verfügen werden, die bedeutendere Entdeckungen machen können (auch wenn wir uns natürlich irren könnten, deuten unsere Forschungsfortschritte jedoch darauf hin).

Wir sind schon lange der Meinung, dass sich der Fortschritt der KI auf überraschende Weise vollzieht und dass die Gesellschaft Wege findet, sich gemeinsam mit der Technologie weiterzuentwickeln. Obwohl wir in den nächsten Jahren mit rasanten und bedeutenden Fortschritten bei den KI-Fähigkeiten rechnen, erwarten wir, dass sich der Alltag dennoch überraschend konstant anfühlen wird; unsere Lebensweise hat selbst mit deutlich besseren Werkzeugen eine große Trägheit.

Insbesondere erwarten wir, dass die Zukunft neue und hoffentlich bessere Möglichkeiten für ein erfülltes Leben bieten wird und dass mehr Menschen als heute ein solches Leben führen können. Es ist wahr, dass die Arbeit anders sein wird, der wirtschaftliche Wandel in mancher Hinsicht sehr schwierig sein kann und es sogar möglich ist, dass sich der grundlegende sozioökonomische Gesellschaftsvertrag ändern muss. Aber in einer Welt des weit verbreiteten Überflusses könnte das Leben der Menschen viel besser sein als heute.

KI-Systeme werden Menschen helfen, ihre Gesundheit besser zu verstehen, den Fortschritt in Bereichen wie Materialwissenschaften, Arzneimittelentwicklung und Klimamodellierung beschleunigen und den Zugang zu personalisierter Bildung für Schüler weltweit erweitern. Das Aufzeigen dieser Art von greifbaren Vorteilen hilft, eine gemeinsame Vision einer Welt zu schaffen, in der KI das Leben besser und nicht nur effizienter machen kann.

OpenAI hat sich zutiefst der Sicherheit verschrieben⁠, die wir als die Praxis betrachten, die positiven Auswirkungen der KI zu ermöglichen, indem wir die negativen Auswirkungen mindern. Obwohl die potenziellen Vorteile enorm sind, betrachten wir die Risiken superintelligenter Systeme als potenziell katastrophal und glauben, dass das empirische⁠ Studium⁠ von Sicherheit⁠ und Alignment⁠ zu besseren globalen Entscheidungen beitragen kann – etwa dazu, ob die gesamte Forschung ihre Entwicklung verlangsamen sollte, um diese Systeme sorgfältiger zu untersuchen, je näher wir Systemen kommen, die zu rekursiver Selbstverbesserung fähig sind. Offensichtlich sollte niemand superintelligente Systeme einsetzen, ohne sie robust ausrichten und kontrollieren zu können, und das erfordert mehr technische Arbeit. 

Hier sind einige Punkte, die unserer Meinung nach dazu beitragen könnten, mit KI eine positive Zukunft zu gestalten:

Wir denken, dass sich Frontier-Labore auf gemeinsame Sicherheitsprinzipien einigen und Sicherheitsforschung⁠, Erkenntnisse über neue Risiken, Mechanismen zur Reduzierung von Konkurrenzdynamiken und mehr austauschen sollten. Wir können uns vorstellen, dass Ideen wie Frontier-Labore, die sich auf bestimmte Standards für KI-Kontrollbewertungen einigen, sehr hilfreich sein könnten.

Die Gesellschaft hat einen ähnlichen Prozess durchlaufen, um Bauvorschriften und Brandschutznormen zu etablieren, die unzählige Leben gerettet haben.

Es gibt zwei Denkrichtungen zum Thema KI. Die eine besagt, dass KI wie „normale Technologie“ ist, da sie sich wie andere technologische Revolutionen in der Vergangenheit entwickeln wird, von der Druckerpresse bis zum Internet. Die Dinge werden sich so entwickeln, dass Menschen und Gesellschaft die Möglichkeit haben, sich anzupassen, und herkömmliche Instrumente der öffentlichen Politik sollten funktionieren. Wir müssen Ideen wie die Förderung von Innovation, den Schutz der Privatsphäre bei Gesprächen mit KI und die Abwehr des Missbrauchs leistungsstarker Systeme durch böswillige Akteure durch eine Partnerschaft mit der Bundesregierung priorisieren.

Wir glauben, dass KI auf dem heutigen Leistungsniveau in etwa auf diesem Stand angekommen ist, und sich überall verbreiten sollte. Das bedeutet, dass die meisten Entwickler und Open-Source-Modelle sowie fast alle Einsatzbereiche der heutigen Technologie im Vergleich zu den bereits bestehenden nur minimale zusätzliche regulatorische Belastungen haben sollten. Sie sollte sicherlich nicht mit einem Flickenteppich aus 50 Bundesstaaten konfrontiert werden.

Die andere Denkrichtung besagt, dass sich Superintelligenz auf eine Art und Weise und mit einer Geschwindigkeit entwickelt und verbreitet, wie sie die Menschheit noch nie zuvor gesehen hat. Hier sollten wir die meisten der oben genannten Dinge tun, aber wir müssen auch innovativer sein. Wenn die Prämisse lautet, dass es für die Gesellschaft schwierig sein wird, sich auf „normale Weise“ an so etwas anzupassen, sollten wir auch nicht erwarten, dass typische Regulierungsmaßnahmen viel bewirken können. In diesem Fall müssen wir wahrscheinlich eng mit der Exekutive und den zuständigen Behörden mehrerer Länder (wie den verschiedenen Sicherheitsinstituten) zusammenarbeiten, um eine gute Koordination zu gewährleisten, insbesondere in Bereichen wie der Eindämmung von KI-Anwendungen im Bioterrorismus (und dem Einsatz von KI zur Erkennung und Verhinderung von Bioterrorismus) sowie den Auswirkungen von selbstverbessernder KI.

Das übergeordnete Ziel sollte die Rechenschaftspflicht gegenüber öffentlichen Institutionen sein, aber der Weg dorthin könnte sich von dem der Vergangenheit unterscheiden müssen.

In beiden Szenarien wird der Aufbau eines KI-Resilienz-Ökosystems unerlässlich sein. Als das Internet entstand, haben wir es nicht mit einer einzigen Richtlinie oder Firma geschützt – wir haben ein ganzes Feld der Cybersicherheit aufgebaut: Software, Verschlüsselungsprotokolle, Standards, Überwachungssysteme, Notfall-Reaktionsteams usw. Dieses Ökosystem hat das Risiko nicht beseitigt, aber es auf ein Niveau reduziert, mit dem die Gesellschaft leben konnte, sodass die Menschen der digitalen Infrastruktur genug vertrauen konnten, um ihr Leben und ihre Wirtschaft darauf aufzubauen. Wir werden etwas Entsprechendes für die KI benötigen, und die nationalen Regierungen werden eine bedeutende Rolle bei der Förderung der Industriepolitik spielen, um dies zu unterstützen.

Wenn wir verstehen, wie KI die Welt konkret beeinflusst, ist es einfacher, diese Technologie so zu steuern, dass sie positive Auswirkungen hat. Vorhersagen sind schwierig: Zum Beispiel sind die Auswirkungen von KI auf Arbeitsplätze schwer vorherzusehen, teilweise weil die heutigen Stärken und Schwächen der KI sich stark von denen des Menschen unterscheiden. Zu messen, was in der Praxis geschieht, dürfte sehr aufschlussreich sein.

Wir sind der Meinung, dass Erwachsene in der Lage sein sollten, KI nach ihren eigenen Vorstellungen innerhalb der von der Gesellschaft festgelegten Grenzen zu nutzen. Wir erwarten, dass der Zugang zu fortschrittlicher KI in den kommenden Jahren zu einer grundlegenden Versorgungsleistung wird – vergleichbar mit Strom, sauberem Wasser oder Lebensmitteln. Letztendlich sind wir der Meinung, dass die Gesellschaft die breite Verfügbarkeit dieser Tools unterstützen sollte und dass das oberste Ziel darin bestehen sollte, Menschen zum Erreichen ihrer Ziele zu befähigen.