Paul Christiano se stává členem správní rady OpenAI Foundation
Paul Christiano se také připojí k Výboru pro bezpečnost a ochranu organizace OpenAI Foundation.
Oznamujeme jmenování Paula Christiana do správní rady OpenAI Foundation. Ve správní radě OpenAI Group PBC bude působit jako pozorovatel bez hlasovacího práva.
Paul se také připojí k Výboru pro bezpečnost a ochranu správní rady OpenAI Foundation a bude spolupracovat s jeho předsedou Zicem Kolterem. Výbor dohlíží na postupy v oblasti bezpečnosti a ochrany v celé OpenAI, včetně OpenAI Group PBC.
Paul přináší zkušenosti ze státní správy získané během dvou vládních administrativ díky své práci v Centru pro standardy a inovace v oblasti AI(otevře se v novém okně) (CAISI), které je součástí Národního institutu pro standardy a technologie (NIST), agentury amerického ministerstva obchodu, kde působí jako hlavní technologický poradce1. Během svého působení v CAISI a jeho předchůdci, americkém Institutu pro bezpečnost AI, Paul pracoval na hodnocení průkopnických modelů AI, včetně schopností s dopadem na národní bezpečnost, a na způsobech zmírňování souvisejících rizik pro bezpečnost a ochranu.
Paul je také zakladatelem neziskové výzkumné organizace Alignment Research Center(otevře se v novém okně) (ARC), která se zaměřuje na sladění pokročilých systémů AI se zájmy lidí. V letech 2017 až 2021 Paul vedl v OpenAI výzkum sladění a podílel se na průkopnické práci v oblasti učení posilováním z lidské zpětné vazby (RLHF). V této nové roli Paul přináší do rozhodování o správě OpenAI osobitý a technicky podložený pohled. Naším posláním je zajistit, aby obecná umělá inteligence přinášela prospěch celému lidstvu.
“Paul pomáhal utvářet obor sladění AI prostřednictvím důkladné práce zaměřené na nejobtížnější otázky, které přinášejí stále schopnější systémy. Jeho zkušenosti s bezpečností průkopnické AI a souvisejícími standardy ve státní správě spolu s jeho technickým úsudkem posílí dohled správní rady i práci Výboru pro bezpečnost a ochranu, zatímco OpenAI pokračuje ve vývoji a nasazování průkopnické AI.”
“Schopnosti AI se v uplynulém roce velmi rychle rozvinuly a sladění zůstává obtížným technickým problémem. Odpovědnost Výboru pro bezpečnost a ochranu je proto důležitější a náročnější než kdy dříve. Těším se, že se připojím k týmu a pomohu mu.”
AI vstupuje do nové éry schopností, a proto je stále důležitější, aby pokrok těchto systémů doprovázely důkladné postupy v oblasti bezpečnosti, ochrany, sladění a správy. Paul ve své dlouholeté kariéře ve výzkumu sladění AI důsledně zohledňuje možnost, že by pokročilá AI mohla představovat katastrofická rizika a že se na ně vývojáři musejí připravit dříve, než systémy dosáhnou nebezpečnější úrovně schopností. Nezávisle upozorňuje na otázku, zda jsou ochranná opatření v tomto odvětví dostatečná. Věříme, že správu OpenAI Foundation posilují lidé, kteří jsou připraveni zpochybňovat převládající předpoklady a pomáhat zdokonalovat podklady, ochranná opatření a odpovědnost, o něž se opírají zásadní rozhodnutí.
Paulovo jmenování navazuje na strukturu správy vytvořenou rekapitalizací OpenAI v říjnu 2025, včetně závazků přijatých v souvislosti s celoročními přezkumy, které provedli generální prokurátor Kalifornie(otevře se v novém okně) a generální prokurátor státu Delaware(otevře se v novém okně). Jejich zapojení pomohlo rámec správy posílit.
O OpenAI Foundation
OpenAI Foundation je charitativní organizace usilující o to, aby AI přinášela prospěch celému lidstvu. OpenAI Foundation jako samostatná nezisková organizace vykonává vlastní charitativní činnost a zároveň si zachovává kontrolu nad OpenAI Group PBC, v níž drží významný majetkový podíl. OpenAI Foundation podporuje iniciativy, které prostřednictvím odpovědné AI urychlují vědecké objevy, posilují občanskou společnost a zvyšují její odolnost. Prostřednictvím grantů, partnerství a dalších filantropických iniciativ pomáhá OpenAI Foundation urychlovat práci, která vytváří trvalý veřejný prospěch a rozšiřuje přístup k transformačnímu potenciálu AI.
OpenAI Foundation ovládá OpenAI Group PBC a Výbor pro bezpečnost a ochranu je výborem její správní rady. Více informací najdete na www.openaifoundation.org(otevře se v novém okně).
