KI hat das Potenzial, viele Aspekte der Gesellschaft deutlich zu verbessern.
Diese Technologie wird Menschen, wie andere zuvor, mehr Fähigkeiten und Handlungsmacht geben; was Menschen mit KI tun können werden, wird das weit übertreffen, was mit Dampfmaschinen oder Elektrizität möglich war.
Wir stellen uns eine Welt mit breit geteiltem Wohlstand in einem Ausmaß vor, das heute nur schwer vorstellbar ist, und eine Welt, in der individuelles Potenzial, Handlungsmacht und Erfüllung deutlich zunehmen. Vieles, wovon wir bisher nur in Science-Fiction zu träumen wagten, könnte Realität werden, und die meisten Menschen könnten ein sinnvolleres Leben führen, als es den meisten heute möglich ist.
Doch dieses Ergebnis ist nicht garantiert. Macht in der Zukunft kann entweder bei einer kleinen Handvoll Unternehmen liegen, die Superintelligenz nutzen und kontrollieren, oder sie kann dezentral bei den Menschen liegen. Wir glauben, dass Letzteres viel besser ist, und unser Ziel ist es, wirklich allgemeine KI in die Hände von so vielen Menschen wie möglich zu legen. Wie die Gegenwart wird auch die Zukunft nicht nur schlecht oder nur gut sein, aber die Entscheidungen, die wir jetzt treffen, können helfen, das Gute zu maximieren.
Unsere Mission ist es, sicherzustellen, dass AGI der gesamten Menschheit zugutekommt. Hier sind die Prinzipien, die unsere Arbeit leiten.
1. Demokratisierung. Wir werden dem Potenzial dieser Technologie entgegenwirken, Macht in den Händen weniger zu konzentrieren.
Das bedeutet, dass wir nicht nur allen Zugang zu KI geben müssen, sondern auch sicherstellen müssen, dass wichtige Entscheidungen über KI durch demokratische Prozesse und auf der Grundlage egalitärer Prinzipien getroffen werden und nicht nur von KI-Laboren.
2. Befähigung. Wir glauben, dass KI alle Menschen dabei unterstützen kann, ihre Ziele zu erreichen, mehr zu lernen, glücklicher und erfüllter zu sein und ihre Träume zu verfolgen, und dass die Gesellschaft insgesamt davon profitieren wird.
Das zu erreichen erfordert, dass Menschen das enorme Potenzial vor uns erkunden können, und wir müssen Produkte entwickeln, die das ermöglichen. Nutzende sollten mit unseren Diensten zuverlässig immer wertvollere Aufgaben erledigen können.
Die Welt ist vielfältig und Menschen haben unterschiedliche Bedürfnisse. Wir möchten unseren Nutzer:innen die Autonomie geben, die sie brauchen, und so viel Autonomie zulassen, wie wir vernünftigerweise können.
Obwohl wir unseren Nutzer:innen einen sehr großen Spielraum bei der Nutzung unserer Dienste geben möchten und fest davon überzeugt sind, dass KI insgesamt enorm nützlich sein wird, haben wir die Verantwortung, sie so zu entwickeln und bereitzustellen, dass Schäden minimiert werden. Dazu gehört natürlich, katastrophale Schäden zu verhindern, aber auch lokale Schäden zu minimieren und potenziell zersetzende gesellschaftliche Auswirkungen zu vermeiden. Das bedeutet, im Angesicht von Unsicherheit eher Vorsicht walten zu lassen und Beschränkungen mit zunehmender Evidenz zu lockern.
3. Wohlstand für alle. Wir wollen eine Zukunft, in der alle Menschen ein ausgezeichnetes Leben haben können.
Indem wir einfach zu nutzende KI-Systeme mit großer Rechenleistung allen Menschen zugänglich machen, glauben wir, dass Menschen neue Wege finden werden, Wert zu schaffen und die Lebensqualität für alle massiv zu verbessern, insbesondere durch neue wissenschaftliche Entdeckungen.
Damit Wohlstand vollständig verwirklicht und breit geteilt werden kann, glauben wir, dass 1) unsere Regierungen möglicherweise neue Wirtschaftsmodelle in Betracht ziehen müssen, damit alle an der bevorstehenden Wertschöpfung teilhaben können, und 2) wir KI-Infrastruktur in enormem Umfang aufbauen und neue Technologien entwickeln müssen, um die Kosten für KI-Infrastruktur stark zu senken.
Vieles von dem, was wir tun und was seltsam wirken mag – enorme Mengen an Rechenleistung zu kaufen, obwohl unser Umsatz relativ gering ist, vertikal zu integrieren, um Kosten zu senken und unsere Technologie leichter nutzbar zu machen, den Bau von Rechenzentren auf der ganzen Welt voranzutreiben und vieles mehr – wird von unserer grundlegenden Überzeugung von einer Zukunft mit Wohlstand für alle angetrieben.
4. Resilienz. KI wird neue Risiken mit sich bringen, und wir werden mit anderen Unternehmen, Ökosystemen, Regierungen und der Gesellschaft zusammenarbeiten, um sie zu lösen. Wir werden in erheblichem Umfang die Ressourcen unserer Stiftung einsetzen, um diese Arbeit zu unterstützen.
Kein KI-Labor kann allein eine gute Zukunft sicherstellen. Ein offensichtliches Beispiel: Es könnte extrem leistungsfähige Modelle geben, die es leichter machen, einen neuen Krankheitserreger zu erzeugen, und wir brauchen einen gesamtgesellschaftlichen Ansatz, um uns mit erregerunabhängigen Gegenmaßnahmen dagegen zu schützen. Ein weiteres Beispiel: Mit zunehmenden Cybersicherheitsfähigkeiten von Modellen müssen wir diese Modelle rasch nutzen, um Open-Source-Software und kritische Infrastruktur besser zu schützen, und die Modelle zugleich darauf trainieren, allen Menschen dabei zu helfen, sicherere Software zu entwickeln.
Dies ist eine Erweiterung unserer seit Langem verfolgten Strategie der iterativen Einführung; wir glauben, dass die Gesellschaft sich mit jeder weiteren Stufe von KI-Fähigkeiten auseinandersetzen, sie verstehen, integrieren und gemeinsam den besten Weg nach vorn finden muss. Das kann nicht im luftleeren Raum geschehen; Gesellschaft und Technologie entwickeln sich gemeinsam, und das braucht Zeit.
Das meinen wir nicht als unsere einzige Sicherheitsstrategie; wir müssen auch sichere Systeme entwickeln und weiterhin hervorragende Arbeit in Bezug auf technisches Alignment leisten.
Wir erwarten, dass es Phasen geben wird, in denen wir mit Regierungen, internationalen Organisationen und anderen AGI-Bemühungen zusammenarbeiten müssen, um sicherzustellen, dass wir ernste Alignment-, Sicherheits- oder gesellschaftliche Probleme ausreichend gelöst haben, bevor wir mit unserer Arbeit weiter voranschreiten.
5. Anpassungsfähigkeit. Wir sind weiterhin überzeugt, dass der einzige Weg, den Herausforderungen einer sehr unvorhersehbaren Zukunft zu begegnen, darin besteht, bereit zu sein, unsere Positionen zu aktualisieren, wenn wir mehr lernen. Wir erkennen auch an, dass OpenAI heute eine viel größere Kraft in der Welt ist als noch vor einigen Jahren, und wir werden transparent darlegen, wann, wie und warum sich unsere Handlungsprinzipien ändern. Als konkretes Beispiel: Obwohl wir ziemlich sicher sind, dass Wohlstand für alle weiterhin sehr wichtig bleiben wird, können wir uns Phasen in der Zukunft vorstellen, in denen wir einen Teil der Befähigung gegen mehr Resilienz abwägen müssen.
Die Entwicklung von KI hat viele Überraschungen mit sich gebracht, und weitere werden noch kommen. Mit dem Fortschritt der Technologie werden ihre emergenten Verhaltensweisen zunehmend schwer vorherzusagen sein. Wir gehen mit dieser Unsicherheit um, indem wir Fähigkeiten sorgfältig vorantreiben, Systeme iterativ bereitstellen und aus ihren Wechselwirkungen mit der Welt lernen.
Es ist noch nicht lange her, dass wir nervös waren, die Gewichte von GPT‑2 zu veröffentlichen, weil wir nicht sicher waren, welche Auswirkungen das auf die Gesellschaft haben würde. Rückblickend war das offensichtlich eine unbegründete Sorge, aber sie führte dazu, dass wir die Strategie der iterativen Einführung entdeckten, die zu den wichtigsten Dingen gehört, die wir herausgefunden haben.
__
Wir gehen in eine Phase mit sehr großen Auswirkungen, während sich die Technologie weiter verbessert. Es ist völlig berechtigt, uns für jede Entscheidung zu kritisieren; angesichts der Tragweite dessen, was wir tun, verdienen wir ein enormes Maß an Prüfung. Wir werden nicht alles richtig machen, aber wir werden schnell lernen und unseren Kurs korrigieren.
Wir verpflichten uns, unseren Beitrag dazu zu leisten, die Zukunft besser zu machen als die Vergangenheit; wir empfinden es als Glück, uns einer so wichtigen Arbeit widmen zu dürfen.
