Paul Christiano wird Mitglied des Verwaltungsrats der OpenAI Foundation
Paul Christiano wird außerdem Mitglied des Safety and Security Committee der Stiftung.
Wir geben die Berufung von Paul Christiano in den Verwaltungsrat der OpenAI Foundation bekannt. Im Verwaltungsrat der OpenAI Group PBC wird er als Beobachter ohne Stimmrecht tätig sein.
Paul wird außerdem Mitglied des Safety and Security Committee (SSC) des Stiftungsverwaltungsrats und arbeitet dort mit dessen Vorsitzendem Zico Kolter zusammen. Das SSC beaufsichtigt die Sicherheitspraktiken in allen Bereichen von OpenAI, einschließlich der OpenAI Group PBC.
Paul bringt aus seiner Arbeit am Center for AI Standards and Innovation(wird in einem neuen Fenster geöffnet) (CAISI) des National Institute of Standards and Technology (NIST) Regierungserfahrung aus zwei Amtszeiten mit. Das NIST ist eine Behörde des U.S. Department of Commerce, bei der er als Senior Tech Advisor tätig ist1. Während seiner Zeit beim CAISI und dessen Vorgänger, dem U.S. AI Safety Institute, arbeitete Paul an der Bewertung von Frontier-KI-Modellen, darunter Fähigkeiten mit Auswirkungen auf die nationale Sicherheit, sowie an Ansätzen zur Minderung der damit verbundenen Sicherheitsrisiken.
Paul ist außerdem Gründer des Alignment Research Center(wird in einem neuen Fenster geöffnet) (ARC), einer gemeinnützigen Forschungsorganisation, die sich darauf konzentriert, fortgeschrittene KI-Systeme an menschlichen Interessen auszurichten. Von 2017 bis 2021 leitete Paul bei OpenAI die Forschung zur KI-Ausrichtung und leistete grundlegende Beiträge zum Reinforcement Learning from Human Feedback (RLHF). In dieser neuen Funktion bringt Paul eine eigenständige, technisch fundierte Perspektive in die Governance-Entscheidungen von OpenAI ein. Unsere Mission ist es, sicherzustellen, dass künstliche allgemeine Intelligenz der gesamten Menschheit zugutekommt.
“Paul hat das Forschungsgebiet der KI-Ausrichtung durch seine sorgfältige Arbeit an den schwierigsten Fragen mitgeprägt, die immer leistungsfähigere Systeme aufwerfen. Seine Erfahrung mit der Sicherheit von Frontier-KI und staatlichen Standards wird zusammen mit seinem technischen Urteilsvermögen die Aufsicht des Verwaltungsrats und die Arbeit des Safety and Security Committee stärken, während OpenAI weiterhin Frontier-KI entwickelt und bereitstellt.”
“Die Fähigkeiten von KI haben sich im vergangenen Jahr sehr schnell weiterentwickelt, und die Ausrichtung bleibt ein schwieriges technisches Problem. Dadurch ist die Verantwortung des Safety and Security Committee wichtiger und anspruchsvoller denn je. Ich freue mich darauf, das Team zu unterstützen.”
KI tritt in eine neue Ära der Leistungsfähigkeit ein. Daher wird es immer wichtiger, Fortschritte bei diesen Systemen mit starken Maßnahmen für Sicherheit, Ausrichtung und verantwortungsvolle Steuerung zu verbinden. Während seiner gesamten Laufbahn in der Erforschung der KI-Ausrichtung hat Paul die Möglichkeit ernst genommen, dass fortgeschrittene KI katastrophale Risiken bergen könnte und Entwickler sich vorbereiten müssen, bevor Systeme eine gefährlichere Leistungsstufe erreichen. Er hat unabhängig beurteilt, ob die Schutzmaßnahmen der Branche ausreichen. Wir sind überzeugt, dass die Governance der Stiftung durch Menschen gestärkt wird, die bereit sind, vorherrschende Annahmen infrage zu stellen und die Grundlagen kritischer Entscheidungen zu verbessern: die Evidenz, die Schutzmaßnahmen und die Rechenschaftspflicht.
Pauls Berufung baut auf der Governance-Struktur auf, die im Zuge der Rekapitalisierung von OpenAI im Oktober 2025 geschaffen wurde. Dazu gehören auch die Zusagen im Zusammenhang mit den einjährigen Prüfungen durch den California Attorney General(wird in einem neuen Fenster geöffnet) und den Delaware Attorney General(wird in einem neuen Fenster geöffnet). Ihre Mitwirkung trug dazu bei, den Governance-Rahmen zu stärken.
Über die OpenAI Foundation
Die OpenAI Foundation ist eine gemeinnützige Organisation, die sich dafür einsetzt, dass KI der gesamten Menschheit zugutekommt. Als eigenständige gemeinnützige Organisation führt die Stiftung ihre eigenen gemeinnützigen Aktivitäten durch. Zugleich kontrolliert sie die OpenAI Group PBC und hält eine bedeutende Kapitalbeteiligung an ihr. Die Stiftung fördert Initiativen, die wissenschaftliche Entdeckungen voranbringen, die Zivilgesellschaft stärken und durch verantwortungsvolle KI die Widerstandsfähigkeit erhöhen. Mit Fördermitteln, Partnerschaften und weiteren philanthropischen Initiativen beschleunigt die Stiftung Vorhaben, die der Öffentlichkeit dauerhaft zugutekommen und mehr Menschen Zugang zum weitreichenden Potenzial von KI eröffnen.
Die Stiftung kontrolliert die OpenAI Group PBC. Das Safety and Security Committee ist ein Ausschuss ihres Verwaltungsrats. Weitere Informationen unter www.openaifoundation.org(wird in einem neuen Fenster geöffnet).
